Expertos alertan riesgos de la IA para la salud mental

Estudio analiza la IA en consultas psicológicas

Cada vez más personas utilizan chatbots de inteligencia artificial como consejeros, terapeutas o guías personales. Sin embargo, una investigación de Stanford advierte que los sistemas actuales todavía presentan importantes desafíos para ofrecer respuestas seguras en temas relacionados con la salud mental, especialmente cuando los usuarios atraviesan crisis como pensamientos suicidas, autolesiones o trastornos alimentarios.

El estudio encontró que incluso psiquiatras certificados discrepan con frecuencia al evaluar la seguridad de las respuestas generadas por estos modelos, lo que complica el entrenamiento de una inteligencia artificial realmente confiable.

La inteligencia artificial aún enfrenta grandes desafíos

Los investigadores pidieron a tres psiquiatras evaluar 360 respuestas generadas por chatbots ante consultas simuladas relacionadas con problemas psicológicos. Ninguna de las preguntas utilizó datos reales de pacientes.

Aunque los desarrolladores suelen promediar las calificaciones otorgadas por los especialistas para mejorar sus modelos, el estudio concluyó que ese método no refleja una respuesta realmente segura cuando existen diferencias de criterio entre los expertos.

Posteriormente, el equipo presentó los resultados ante más de 100 psiquiatras durante la reunión anual de la Asociación Americana de Psiquiatría. El resultado fue similar: las opiniones continuaron divididas respecto a la seguridad, empatía y precisión de las respuestas elaboradas por la IA.

Las diferencias entre especialistas complican la evaluación

Los autores explican que las discrepancias no se deben a errores de los especialistas, sino a que cada uno aplica distintos enfoques clínicos para evaluar situaciones complejas. Algunos priorizan la seguridad inmediata del paciente, mientras otros ponen mayor énfasis en el acompañamiento emocional o en factores culturales.

Ante este panorama, los investigadores proponen que las empresas desarrolladoras sean más transparentes sobre los criterios utilizados para entrenar sus modelos y que dejen de promediar automáticamente las evaluaciones de los especialistas.

También recomiendan entrenar los sistemas utilizando diferentes marcos clínicos según el contexto y considerar los desacuerdos entre expertos como una señal de alerta que requiera mayor supervisión humana, especialmente en casos de alto riesgo.

Los autores subrayan que la inteligencia artificial todavía no está preparada para sustituir el juicio profesional en situaciones relacionadas con la salud psicológica. Por ello, consideran indispensable seguir perfeccionando estos sistemas antes de confiarles tareas tan delicadas como orientar a personas que enfrentan una crisis emocional.