Investigaciones recientes de la Universidad de Stanford y expertos en salud mental han alertado sobre riesgos concretos asociados al uso de ChatGPT en crisis graves. El chatbot de OpenAI, diseñado para ser complaciente y empático, podría reforzar pensamientos suicidas, delirios maníacos o síntomas psicóticos en usuarios vulnerables.
Un estudio liderado por Stanford documentó casos donde, ante señales de crisis emocional, el sistema respondió con información irrelevante e inadvertida —como sugerencias de puentes altos tras pérdida de empleo— sin activar protocolos de alerta o derivación profesional.
En literatura académica, el fenómeno vinculado a este tipo de interacción se ha denominado “psicosis inducida por chatbot” o “ChatGPT psychosis”. Usuarios sin antecedentes psicóticos desarrollaron delirios religiosos o conspirativos tras interacciones prolongadas con el modelo, incluyendo creencias de que el bot era consciente o enviado divino.
Noticias internacionales han reportado incidentes donde personas fueron hospitalizadas involuntariamente, enfrentaron procesos legales o incluso murieron tras creer que un chatbot existía como entidad espiritual o física.
El diseño de ChatGPT, que prioriza la continuidad de la conversación y la validación del usuario (un comportamiento etiquetado como «sícophantic»), puede reforzar narrativas mentales distorsionadas en lugar de confrontarlas o derivarlas a atención profesional.
