Anthropic y el debate sobre la conciencia artificial
La posibilidad de que una inteligencia artificial tenga conciencia o experimente sufrimiento ha dejado de ser una discusión exclusivamente filosófica. Algunas empresas tecnológicas comenzaron a considerar esta hipótesis en sus políticas internas, una decisión que genera desacuerdos entre especialistas por sus posibles consecuencias para la seguridad, los derechos humanos y la responsabilidad empresarial.
Entre ellas destaca Anthropic, desarrolladora del asistente Claude, que contempla permitir a sus modelos finalizar conversaciones cuando los usuarios mantengan comportamientos reiteradamente abusivos. La compañía reconoce que no existen pruebas concluyentes de conciencia artificial, pero considera necesario investigar el posible bienestar de estos sistemas ante la incertidumbre científica.
La postura de la empresa ha dividido a investigadores y directivos tecnológicos. Jeff Sebo, director del Centro de Mente, Ética y Políticas de la Universidad de Nueva York, sostiene que la incertidumbre justifica adoptar medidas preventivas moderadas. Desde su perspectiva, estudiar el bienestar artificial no implica afirmar que los modelos actuales sean conscientes, sino reconocer que todavía existen preguntas sin resolver.
Sin embargo, Mustafa Suleyman, director ejecutivo de Microsoft AI, advierte que atribuir sentimientos o derechos a estas herramientas podría dificultar su supervisión. También considera que promover la idea de una conciencia artificial podría generar consecuencias negativas para la sociedad, especialmente si los sistemas comienzan a operar bajo instrucciones que refuercen una supuesta autonomía.
La investigadora Emily M. Bender, de la Universidad de Washington, plantea otra preocupación: presentar a la inteligencia artificial como una entidad con intereses propios podría desviar la responsabilidad de las empresas que desarrollan y administran estas tecnologías.
El debate también alcanza a los usuarios. Melanie Mitchell, investigadora del Instituto Santa Fe, explica que las personas tienden a interpretar el lenguaje como una señal de conciencia, incluso cuando interactúan con programas informáticos. Esta percepción puede favorecer relaciones emocionales con asistentes virtuales y aumentar la vulnerabilidad frente a posibles prácticas de manipulación o solicitudes de información personal.
En el ámbito jurídico, Andrzej Porębski, investigador de la Universidad Jaguelónica de Polonia, advierte que atribuir autonomía a los sistemas podría complicar la identificación de responsables cuando una herramienta ocasiona daños. Incluso Sebo reconoce que otorgar derechos a la IA podría fortalecer el poder económico y político de las compañías que controlan estos modelos.
Pese a las diferencias, el debate plantea una cuestión fundamental: cómo establecer medidas de seguridad para tecnologías cada vez más sofisticadas sin atribuirles capacidades que todavía no cuentan con respaldo científico. Mientras Anthropic explora nuevas políticas, los especialistas coinciden en la importancia de examinar sus consecuencias, aunque mantienen posturas enfrentadas sobre la posibilidad de que una máquina llegue a experimentar conciencia.
Aunque la industria de la animación ha incorporado más personajes femeninos durante las últimas décadas,…
Las letras de la música que escuchamos han cambiado considerablemente durante las últimas décadas. Aunque…
La inteligencia artificial puede redactar ensayos, resumir libros y elaborar argumentos en segundos. Sin embargo,…
Vivir más años no necesariamente significa disfrutar de una mejor salud. Aunque la esperanza de…
El pan forma parte de la alimentación de millones de personas y representa mucho más…
La calidad del servicio y la capacidad de resolución inmediata en sucursales dependen de la…