Cómo razonan los chatbots de inteligencia artificial
Los sistemas de inteligencia artificial pueden resolver problemas matemáticos, escribir código y construir argumentos complejos. Sin embargo, los científicos todavía intentan comprender cómo sus redes neuronales organizan la información para realizar estas tareas.
Una investigación encabezada por la Universidad de Yale encontró que los chatbots utilizan representaciones matemáticas que, aunque parecen muy distintas del pensamiento humano, pueden reproducir estructuras simbólicas fundamentales para el lenguaje, la lógica y el razonamiento.
Cuando las personas resuelven una operación matemática o construyen una oración, utilizan símbolos organizados mediante determinadas reglas. Las palabras, los números y los signos cumplen funciones específicas dentro de una estructura.
Los grandes modelos de lenguaje, como los que utilizan ChatGPT y Claude, funcionan de otra manera. Sus redes neuronales procesan información mediante vectores, es decir, largas listas de números.
El estudio, dirigido por el lingüista computacional Tom McCoy, encontró evidencia de que estos vectores pueden organizarse de manera equivalente a determinadas estructuras simbólicas.
Para comprobarlo, los investigadores analizaron redes neuronales pequeñas y siete modelos de lenguaje de gran escala. Las pruebas abarcaron cuatro áreas: lenguaje, aritmética, lógica y programación.
Los resultados mostraron que era posible sustituir gran parte de las representaciones internas por aproximaciones matemáticas basadas en funciones y elementos, sin modificar sustancialmente el comportamiento de los sistemas.
Los investigadores utilizaron representaciones conocidas como productos tensoriales, que permiten describir la información mediante dos componentes: los elementos y las funciones que desempeñan.
Por ejemplo, en una oración, las palabras representan los elementos, mientras que las categorías de sujeto, verbo y objeto determinan sus funciones.
El equipo también consiguió modificar respuestas de los modelos mediante intervenciones específicas en sus representaciones internas.
En una prueba, alteraron la posición de un adjetivo dentro de la representación matemática de una oración. Como resultado, el sistema interpretó que la característica describía a otra persona.
Este experimento aportó evidencia de que las estructuras identificadas no solo acompañan el procesamiento de información, sino que también influyen en el comportamiento del modelo.
Los hallazgos podrían facilitar el desarrollo de herramientas para interpretar y controlar mejor los sistemas de inteligencia artificial, especialmente cuando se utilizan en situaciones delicadas.
No obstante, los investigadores reconocen que todavía existen numerosos aspectos desconocidos sobre el funcionamiento de estas redes.
El estudio no demuestra que los chatbots piensen como los seres humanos, sino que sus representaciones numéricas pueden contener estructuras semejantes a las utilizadas en el razonamiento simbólico.
La investigación, disponible como prepublicación científica, contó con la participación de especialistas de Yale, Microsoft y la Universidad de Nueva York.
El acoso escolar no siempre comienza con agresiones evidentes. A veces se manifiesta cuando un…
La defensa de los derechos humanos y la búsqueda de justicia frente a los crímenes…
Alejarse del teléfono durante unos días puede parecer sencillo, pero mantener ese cambio resulta mucho…
La vida cotidiana, las tradiciones populares y las raíces indígenas encontraron una expresión particular en…
La poesía puede reinventarse sin abandonar sus raíces. Anne Carson lo ha demostrado durante décadas…
Medir el tiempo con una precisión extraordinaria no busca simplemente conseguir que un reloj nunca…