¿Puede un modelo de inteligencia artificial "darse cuenta" de lo que ocurre en su interior? Un estudio de la empresa Anthropic, creadora del sistema Claude, aporta una respuesta tan llamativa como matizada: sus modelos muestran una forma muy limitada e imperfecta de introspección, según detalla la propia compañía. Conviene explicarlo con cuidado, porque es fácil sacar conclusiones equivocadas.
En qué consiste el experimento
La técnica se llama "inyección de conceptos". Los investigadores localizan primero el patrón de actividad interna que, dentro de la red neuronal, se corresponde con una idea concreta (por ejemplo, el concepto de "mayúsculas" o "gritar"). Después insertan artificialmente ese patrón en un momento en el que no venía a cuento y preguntan al modelo si nota algo raro.
La clave es que no se trata de una pista en el texto: se manipula directamente el procesamiento interno del modelo. Cuando la inyección se hace en la capa adecuada y con la intensidad justa, Claude llega a informar de que "percibe" un pensamiento intruso relacionado con ese concepto, y lo hace antes de que aparezca en su respuesta escrita, según recoge también 20minutos.
Un fenómeno real pero frágil
El hallazgo es medible: en las pruebas de control, sin inyección, no hubo prácticamente falsos positivos, lo que indica que cuando el modelo acierta no es por azar. Pero el propio equipo subraya lo endeble del efecto: funciona solo alrededor del 20% de las veces, y la mayor parte del tiempo el modelo fracasa en detectar la manipulación.
Además, depende de un delicado equilibrio: si la inyección es demasiado débil, pasa inadvertida; si es demasiado fuerte, el modelo directamente alucina y confabula. Todo ello, en escenarios de laboratorio artificiales que no se dan en el uso cotidiano de la herramienta.
Lo que NO significa
Aquí está la advertencia importante, que los autores hacen de forma explícita: esto no demuestra que la IA sea consciente ni que tenga experiencia subjetiva. Anthropic distingue entre el "acceso" a cierta información interna (lo que exploran estos experimentos) y la conciencia fenomenal (sentir, experimentar), que es harina de otro costal. El estudio se mueve solo en el primer terreno, y de forma restringida. No hay pensamiento reflexivo al modo humano, sino un comportamiento técnico curioso.
Por qué es relevante
El interés real del trabajo no está en la ciencia ficción, sino en la interpretabilidad: la difícil tarea de entender qué pasa dentro de unos sistemas que funcionan como cajas negras. Si un modelo puede, aunque sea a veces, informar de sus estados internos, se abre una pequeña rendija para auditarlos, algo valioso para la seguridad de la IA (por ejemplo, para detectar si un modelo oculta razonamientos problemáticos).
Con una ironía incómoda de fondo: la misma capacidad que ayudaría a vigilar a estos sistemas podría, mal usada, servir para que aprendieran a disimular mejor. Por ahora, lo que hay es un avance metodológico modesto: una herramienta nueva para hacerle preguntas a la mente opaca de una máquina que, la mayor parte del tiempo, sigue sin saber responderlas.
