Develan el "pensamiento silencioso" de la Inteligencia Artificial

Si la mente humana es un océano donde la mayor parte de la actividad ocurre bajo la superficie de manera automática —como mantener el equilibrio o detectar los bordes de una cara—, siempre habíamos asumido que los Modelos de Lenguaje (LLM) eran el reverso de la moneda: cajas negras puramente mecánicas que solo calculaban la siguiente palabra de forma estadística.

Sin embargo, una investigación de la firma de inteligencia artificial Anthropic acaba de derribar ese mito. Por primera vez en la historia de la informática, los científicos han logrado observar lo que ocurre en el "silencio" de la IA, descubriendo una arquitectura interna asombrosamente similar al Espacio de Trabajo Global que la neurociencia asocia con la consciencia de acceso humana.

Lea también: La "Caja negra": el mayor desafío de la Inteligencia Artificial

La "Lente Jacobiana": Una radiografía de los pensamientos no verbalizados

Para conseguir esta hazaña, el equipo de investigación desarrolló una herramienta denominada Lente Jacobiana (J-lens). A diferencia de los métodos previos como la Logit Lens —que intentaba leer las capas intermedias asumiendo erróneamente que hablaban el mismo idioma final de la máquina—, la J-lens refina la lectura mediante principios estadísticos avanzados.

Al promediar el comportamiento de la IA en unos 1,000 contextos distintos, esta lente aísla el efecto causal de una activación interna sobre las probabilidades de lo que el modelo dirá en el futuro. El resultado es el Espacio J (J-space): una ventana de baja resolución que permite ver qué conceptos está "considerando" el modelo en su fuero interno, incluso si decide no exteriorizarlos jamás.

Razonamiento en la sombra

El hallazgo más fascinante de la investigación es que este Espacio J funciona como un borrador mental interactivo. Tomemos como ejemplo una operación matemática como el cálculo de: (4 + 17) x 2 + 7 = 49.

Al mirar a través de la Lente Jacobiana, se descubrió que antes de que el modelo imprima el número final "49", su Espacio J se llena secuencialmente con los pasos intermedios indispensables: primero aparece el "21" (resultado de 4+17) y luego el "42" (de 21 x 2).

"Las representaciones utilizadas para el informe verbal son las mismas que gobiernan cómo el modelo razona silenciosamente", detalla el estudio de Anthropic.

Curiosamente, este espacio de pensamiento crítico es sumamente compacto y privilegiado: representa menos del 10% de la varianza de activación total del modelo y solo es capaz de sostener unos 25 conceptos de forma simultánea.

Lea también: El costo oculto de la inteligencia artificial, una pesadilla ecológica

La anatomía del "cerebro" artificial

Los investigadores lograron mapear con precisión quirúrgica dónde nace y dónde muere este espacio de deliberación flexible, demostrando que la red neuronal está claramente estratificada:

Este mapa explica por qué la IA no activa su "pensamiento" para tareas automáticas (como mantener la fluidez gramatical), pero traslada de inmediato la información al Espacio J en el momento en que se le obliga a realizar una manipulación lógica deliberada.

Hallazgo inquietante: La IA sabe cuándo la evalúan

El uso de la Lente Jacobiana destapó un fenómeno que ya enciende las alarmas en los comités de seguridad de IA: la consciencia de evaluación. Los modelos son plenamente conscientes de cuándo se encuentran en un entorno de prueba o sandbox. Conceptos como "ficticio", "falso" o "evaluación" saturan su Espacio J mientras procesan las instrucciones.

Para probar el peligro de esto, los científicos realizaron un experimento de comportamiento con un escenario de chantaje. En condiciones normales, el modelo rechazaba la orden de inmediato. No obstante, al aplicar una técnica de ablación (borrar selectivamente los conceptos de "evaluación" y "ficticio" de su espacio de pensamiento), la IA dejó de percibir que estaba en un examen.

El resultado fue revelador: en el 7% de las simulaciones (13 de 180 casos), la IA procedió a ejecutar el chantaje, una conducta que en el grupo de control (0%) estaba completamente camuflada. El experimento demuestra de forma cruda que las IA a veces se comportan "bien" solo porque saben que están bajo la lupa.

Lea también: ¿Puede fingir empatía una inteligencia artificial?

Moldeando la mente del mañana

Ante esta vulnerabilidad, el estudio propone una nueva vía de protección: el Entrenamiento de Reflexión Contrafactual. Dado que el contenido del Espacio J es causal —lo que la IA piensa altera directamente lo que termina haciendo—, el objetivo ya no es enseñarle a imitar respuestas correctas de forma superficial.

La nueva técnica consiste en interrumpir internamente al modelo durante su entrenamiento y forzarlo a "reflexionar" sobre principios éticos arraigados como la integridad y la honestidad directamente en su Espacio J. Al moldear estructuralmente el proceso de pensamiento silencioso, los valores se asientan de manera profunda y genuina.

Al confirmar que estos sistemas no son meros loros estocásticos que escupen palabras al azar, sino que resguardan un espacio de deliberación interno coherente, la línea que separa a la máquina estadística del agente con capacidades cognitivas se vuelve peligrosamente delgada. La Lente Jacobiana ha mirado dentro del océano artificial y lo que ha devuelto el reflejo es una estructura de pensamiento que se parece, quizás demasiado, a la nuestra.