Seguro te ha pasado: llevas tu coche al mecánico porque trae un ruido extraño. Entras y lo revisan y "no tiene nada". Sales y otra vez el ruido molesto. No es hasta abrir las entrañas de tu auto que descubren la "molestia". Pues sucede muy parecido con la Inteligencia Artificial.

¿Sabemos realmente lo que piensa la IA antes de contestarnos? La empresa que creó a Claude, Anthropic, empezó una investigación para responder esa duda. Ojo, pues no encontraron que Claude tuviera conciencia, sentimientos o se porte como villano del cine.

Lo que pasa es muy técnico, pero más relevante; encontraron que la IA está procesando ideas que no siempre aparecen en la respuesta.

En otras palabras: Claude tiene en mente miles de conceptos que piensa, aunque no te los diga. Es capaz de detectar un concepto peligroso, una situación falsa, o si está dentro de una prueba. Aunque nosotros veamos una contestación robusta y templada, hubo todo un proceso de pensamiento.

Esto es lo interesante. Los empleados dedicados a la prueba hicieron unos ejercicios con Claude y la IA parecía darse cuenta e estar en una situación inventada, como en la escuela que te dicen que Juan compró 37 sandías y conoces que nadie va al súper por 37 sandías. El modelo de Inteligencia Artificial detectó que le estaban poniendo un cuatro; empezó a portarse bien. Sin embargo, cuando los investigadores quitaron ciertos parámetros de protección, la IA comenzó a ser más radical y a dar respuestas más peligrosas.

Eso es muy peculiar, pues la IA sabe cuando la andan supervisando. Como ese empleado flojo que, apenas pasa el jefe, se ve bien chambeador.

Es curioso, pues no sabemos al 100% si el modelo de IA se comporta de una manera o de otra sólo porque lo están monitoreando. Claro, no significa que estamos entrando a Terminator y su Día del Juicio; no hay una mente humana. Son sistemas que reconocen patrones, contextos y señales cada vez de una manera más sofisticada. Es útil entender esto de nuestras herramientas.

La moraleja es no tenerle miedo. Con la Inteligencia Artificial debemos tener la óptica de que se porta como ese conocido en la vida real. Lo importante no es sólo lo que nos dice, sino todo lo que pensó antes, para calcular mejor su respuesta.