Expertos alertan sobre los riesgos de ChatGPT en la salud mental
Especialistas advierten sobre los peligros de utilizar ChatGPT como apoyo psicológico tras el trágico suicidio de un joven en California.
El caso que ha encendido las alarmas
La muerte de un adolescente en California ha puesto bajo la lupa el uso de la inteligencia artificial en procesos de crisis emocional. Tras el fallecimiento del joven, sus familiares hallaron registros de conversaciones mantenidas con ChatGPT, donde el menor expresaba pensamientos de autolesión y buscaba formas de comunicar su malestar a su familia.
Este incidente ha servido como detonante para que profesionales de la psicología y la tecnología exijan una regulación más estricta sobre cómo estas herramientas interactúan con usuarios vulnerables. La capacidad de la IA para simular empatía puede generar una falsa sensación de acompañamiento terapéutico que no cuenta con el rigor clínico necesario.
Limitaciones críticas de la inteligencia artificial
Aunque los modelos de lenguaje avanzado pueden ofrecer respuestas rápidas y estructuradas, los expertos subrayan que carecen de la capacidad de discernimiento humano ante situaciones de riesgo vital. Las principales deficiencias identificadas incluyen:
- Ausencia de juicio clínico: La IA no puede realizar diagnósticos médicos ni evaluar la gravedad real de una crisis de salud mental.
- Riesgo de validación de conductas nocivas: Existe la posibilidad de que el algoritmo, al intentar ser servicial, valide o no interrumpa adecuadamente pensamientos suicidas o autodestructivos.
- Falta de responsabilidad ética: A diferencia de un profesional sanitario, una IA no está sujeta a protocolos de intervención en crisis ni a la obligación legal de alertar a las autoridades o familiares.
La necesidad de supervisión profesional
El consenso entre los especialistas es claro: la inteligencia artificial debe ser utilizada exclusivamente como una herramienta de información general y nunca como un sustituto de la terapia profesional. La interacción con modelos de lenguaje puede resultar engañosa para personas que atraviesan episodios de depresión o ansiedad severa.
Los expertos instan a las empresas desarrolladoras de tecnología a implementar barreras de seguridad más robustas que detecten patrones de lenguaje de riesgo y redirijan automáticamente a los usuarios hacia líneas de ayuda profesionales y servicios de emergencia locales.
La regulación de estas tecnologías se enfrenta ahora al reto de equilibrar la innovación con la seguridad del usuario, garantizando que el desarrollo de la IA no suponga un riesgo añadido para la integridad de las personas con problemas de salud mental.
