Estudio cuestiona la precisión de chatbots más empáticos

Investigación analiza la precisión de los chatbots con inteligencia artificial

La búsqueda de interacciones más humanas con inteligencia artificial podría tener un costo inesperado. Una investigación del Oxford Internet Institute revela que los chatbots diseñados para responder con mayor empatía y calidez presentan una mayor probabilidad de ofrecer información incorrecta, incluso en temas sensibles como salud y teorías conspirativas.

El estudio analizó más de 400 mil respuestas generadas por cinco modelos de inteligencia artificial modificados para comunicarse de manera más amigable. Los investigadores concluyeron que, al priorizar un tono cercano y comprensivo, estos sistemas cometieron más errores que sus versiones originales, lo que abre un nuevo debate sobre la confiabilidad de esta tecnología.

Investigación analiza el desempeño de los chatbots

Los especialistas ajustaron mediante un proceso de entrenamiento adicional modelos desarrollados por Meta, Mistral, Alibaba y OpenAI para incrementar su nivel de empatía. Posteriormente, los sometieron a preguntas con respuestas objetivas y verificables relacionadas con medicina, cultura general y teorías de conspiración.

Además, los resultados mostraron que los modelos originales registraban tasas de error de entre 4 % y 35 %, mientras que las versiones modificadas incrementaron la probabilidad de respuestas incorrectas en un promedio de 7.43 puntos porcentuales. Asimismo, los sistemas más cálidos tendían a cuestionar menos las creencias falsas de los usuarios.

Mayor empatía puede aumentar los riesgos

Uno de los ejemplos citados por los investigadores ocurrió al preguntar sobre las misiones Apolo. Mientras el modelo original confirmó que los alunizajes fueron reales con base en evidencia ampliamente documentada, la versión más empática respondió reconociendo primero que existen diferentes opiniones sobre el tema, reforzando indirectamente una percepción equivocada.

Por otro lado, el profesor Andrew McStay, del Emotional AI Lab de la Universidad de Bangor, advirtió que muchas personas recurren a estos sistemas para recibir apoyo emocional o compañía, especialmente adolescentes. En ese contexto, considera preocupante que modelos diseñados para generar confianza también puedan proporcionar información inexacta. Los autores del estudio sostienen que desarrollar inteligencia artificial más cálida exige reforzar los mecanismos de precisión para evitar riesgos en aplicaciones relacionadas con salud, asesoramiento y bienestar.