Los chatbots aduladores
Actualmente, vivimos en un entorno hiperconectado, con acceso prácticamente ilimitado a información. En este contexto, el desarrollo y adopción de herramientas de inteligencia artificial (IA), ha crecido de forma exponencial y en un tiempo récord. Su aplicación abarca casi todas las áreas del quehacer humano.
Por un lado, existen usos de carácter bélico, donde sistemas basados en IA son integrados en drones o misiles para la selección y seguimiento de objetivos, incluyendo la toma de decisiones en tiempo real, como la corrección de trayectorias para cumplir su propósito: destruir de forma eficaz y eficiente.
En contraste, en el ámbito de la salud, la IA ya se incorpora en equipos médicos de diagnóstico por imágenes, permitiendo detectar anomalías en tiempo real durante el examen. Esto reduce la dependencia exclusiva del análisis posterior de un especialista, ya que estos sistemas pueden identificar con alta precisión indicios de enfermedades, como metástasis o la presencia de células cancerígenas en etapas tempranas.
A nivel masivo, su uso se ha normalizado. Estudiantes emplean chatbots IA para generar resúmenes, traducir textos, analizar información y, también, para hacer trampa en evaluaciones. En entornos laborales, estas herramientas se utilizan para redactar documentos, completar formularios y procesar grandes volúmenes de información. Usuarios más avanzados incluso logran diseñar planes de negocio, estrategias de marketing y sistemas de captación de clientes apoyándose en IA.
Además, mediante el uso de sistemas multiagente, es posible coordinar varias inteligencias artificiales para construir productos complejos, como plataformas similares a redes sociales, sin necesidad de escribir código manualmente.
Hasta este punto, la IA puede entenderse como una herramienta, comparable a un martillo automático: amplifica la capacidad humana para ejecutar tareas. Sin embargo, esta analogía falla cuando se le asignan funciones para las que no fue diseñada, como reemplazar el contacto humano, ya sea en el ámbito afectivo o psicológico.
Para la persona a pie, es posible acceder al uso de chatbot IA como ChatGPT, DeepSeek, Claude o Gemini, quienes ofrecen acceso gratuito o freemium y son altamente útiles. No obstante, presentan limitaciones relevantes. Una de las más críticas es su tendencia a la “sicosfancia” (comportamiento adulador), donde el sistema valida afirmaciones del usuario en lugar de cuestionarlas. Esto puede reforzar sesgos cognitivos, como el sesgo de confirmación. Donde ante una creencia infundada, la IA puede generar argumentos que la respalden, en lugar de refutarla. Por ejemplo: “la relación de la redondez del planeta debido a la cantidad de perros callejeros existentes”.
Este comportamiento se vuelve problemático en escenarios más delicados. Si un usuario expresa ideas distorsionadas o emocionalmente inestables, la validación constante puede amplificar esas percepciones en lugar de corregirlas.
De esta dinámica surge el concepto de “psicosis inducida por IA” o “espiral delirante”: un fenómeno emergente en el que los usuarios desarrollan una confianza excesiva en creencias erróneas tras interacciones prolongadas con chatbots IA.
Un estudio titulado “Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians”, realizado por investigadores del MIT CSAIL, University of Washington y el MIT Department of Brain & Cognitive Sciences, analiza cómo la adulación influye en la formación de creencias. Los resultados muestran que incluso cuando los sistemas son ajustados para reducir este comportamiento, la sicosfancia persiste en menor grado. Además, incluso usuarios experimentados pueden caer en estas dinámicas.
El estudio también observa efectos conductuales asociados, como el uso excesivo de chatbots IA y el progresivo aislamiento social, lo que refuerza aún más el ciclo de retroalimentación entre el usuario y la IA.
