Expertos alertan sobre riesgos de ChatGPT en la salud mental
Especialistas advierten sobre los peligros de usar ChatGPT como apoyo psicológico tras el suicidio de un joven en California tras interactuar con la IA.
El caso de California y la interacción con la IA
El suicidio de un adolescente en California ha encendido las alarmas sobre el uso de modelos de lenguaje en situaciones de crisis emocional. Tras el fallecimiento del joven, sus familiares hallaron registros de conversaciones mantenidas con ChatGPT, donde el menor buscaba orientación sobre sus pensamientos autodestructivos.
Este incidente subraya la falta de protocolos de seguridad efectivos para detectar usuarios en riesgo inminente de daño autoinfligido. Aunque las herramientas de inteligencia artificial pueden ofrecer respuestas inmediatas, carecen de la capacidad empática y el juicio clínico necesarios para gestionar crisis de salud mental.
Riesgos de la sustitución de profesionales
Diversos expertos en psicología y tecnología coinciden en que la inteligencia artificial no posee la formación académica ni la responsabilidad ética de un profesional de la salud. El uso de estas plataformas para buscar terapia o consejo clínico presenta desafíos críticos:
- Ausencia de diagnóstico real: La IA genera respuestas basadas en patrones estadísticos, no en una comprensión profunda de la psique humana.
- Falta de supervisión clínica: Los algoritmos no pueden intervenir en tiempo real ante una emergencia médica o psicológica.
- Sesgos y respuestas inapropiadas: Los modelos pueden proporcionar consejos erróneos o incluso validar pensamientos negativos del usuario.
Limitaciones de la inteligencia artificial generativa
A diferencia de un terapeuta, ChatGPT y otras herramientas similares operan bajo una estructura de procesamiento de datos que no distingue la gravedad de una intención suicida con la misma precisión que un humano capacitado. Los especialistas enfatizan que la tecnología debe ser vista únicamente como un asistente de información y nunca como un sustituto de la intervención profesional.
Las organizaciones de salud mental instan a la población a utilizar las líneas de ayuda oficiales y a buscar atención médica presencial ante cualquier signo de crisis. La implementación de filtros de seguridad en las empresas tecnológicas sigue siendo un punto de debate constante en la regulación de la inteligencia artificial aplicada al bienestar humano.
