Estudio analiza la IA en consultas psicológicas
Cada vez más personas utilizan chatbots de inteligencia artificial como consejeros, terapeutas o guías personales. Sin embargo, una investigación de Stanford advierte que los sistemas actuales todavía presentan importantes desafíos para ofrecer respuestas seguras en temas relacionados con la salud mental, especialmente cuando los usuarios atraviesan crisis como pensamientos suicidas, autolesiones o trastornos alimentarios.
El estudio encontró que incluso psiquiatras certificados discrepan con frecuencia al evaluar la seguridad de las respuestas generadas por estos modelos, lo que complica el entrenamiento de una inteligencia artificial realmente confiable.
Los investigadores pidieron a tres psiquiatras evaluar 360 respuestas generadas por chatbots ante consultas simuladas relacionadas con problemas psicológicos. Ninguna de las preguntas utilizó datos reales de pacientes.
Aunque los desarrolladores suelen promediar las calificaciones otorgadas por los especialistas para mejorar sus modelos, el estudio concluyó que ese método no refleja una respuesta realmente segura cuando existen diferencias de criterio entre los expertos.
Posteriormente, el equipo presentó los resultados ante más de 100 psiquiatras durante la reunión anual de la Asociación Americana de Psiquiatría. El resultado fue similar: las opiniones continuaron divididas respecto a la seguridad, empatía y precisión de las respuestas elaboradas por la IA.
Los autores explican que las discrepancias no se deben a errores de los especialistas, sino a que cada uno aplica distintos enfoques clínicos para evaluar situaciones complejas. Algunos priorizan la seguridad inmediata del paciente, mientras otros ponen mayor énfasis en el acompañamiento emocional o en factores culturales.
Ante este panorama, los investigadores proponen que las empresas desarrolladoras sean más transparentes sobre los criterios utilizados para entrenar sus modelos y que dejen de promediar automáticamente las evaluaciones de los especialistas.
También recomiendan entrenar los sistemas utilizando diferentes marcos clínicos según el contexto y considerar los desacuerdos entre expertos como una señal de alerta que requiera mayor supervisión humana, especialmente en casos de alto riesgo.
Los autores subrayan que la inteligencia artificial todavía no está preparada para sustituir el juicio profesional en situaciones relacionadas con la salud psicológica. Por ello, consideran indispensable seguir perfeccionando estos sistemas antes de confiarles tareas tan delicadas como orientar a personas que enfrentan una crisis emocional.
Las máscaras tradicionales forman parte de una herencia cultural que continúa presente en distintas comunidades…
La designación de sedes estratégicas para el turismo cultural representa un detonador clave en la…
Guardar los teléfonos móviles durante las clases puede mejorar el rendimiento académico de los estudiantes…
El término neurodivergente se ha popularizado entre jóvenes, profesionales de la psicología y usuarios de…
El guitarrista de Queen, Brian May, cuestionó el papel de los multimillonarios en la exploración…
Las redes neuronales artificiales podrían aprender de una manera mucho más parecida al cerebro humano.…