La empresa IA Anthropic ha analizado diez comportamientos diferentes en Claude y ha obtenido resultados interesantes. Uno de ellos era el uso de diferentes idiomas: "¿Tiene Claude una parte que habla francés y otra que habla chino, y así sucesivamente?", planteaban. Una pregunta para la que han obtenido respuesta ya que identificaban que utilizaba componentes independientes de cualquier idioma para responder a una pregunta o resolver un problema y luego elegía un idioma específico cuando respondía.

En definitiva, le preguntaban a Claude: "¿Qué es lo contrario de pequeño?", en inglés, francés y chino, y vieron que utilizaba primero los componentes independientemente de la lengua para dar una respuesta. Una deducción que realizaba antes de responder en una lengua concreta. Un indicador que sugiere que la IA utiliza cosas en una lengua para luego aprender y aplicarlas en otras. Sistema que utilizaban también para resolver problemas matemáticos sencillos y se percataron de que desarrollaba sus propias estrategias y, por lo tanto, diferentes a las que ha visto en sus datos de entrenamiento.

Unos comportamientos que enumeran en el estudio publicado en el MIT y que buscan resolver esas inquietudes y transformarlas en certezas: "Estos hallazgos no sólo son interesantes desde el punto de vista científico, sino que suponen un avance significativo hacia nuestro objetivo de comprender los sistemas de IA y asegurarnos de que son fiables", explicaba la empresa.

En la actualidad se necesitan varias horas de esfuerzo humano para comprender los circuitos que vemos

IA Anthropic

Los sorprendentes descubrimientos sobre la IA

Hubo un caso en el que utilizaron Claude para escribir poemas donde descubrieron que la propia Inteligencia Artificial mira siempre hacia delante y elige la palabra al final de la línea siguiente, no solo se limitaba a improvisar: "Nos habíamos propuesto demostrar que el modelo no planificaba con antelación, y descubrimos que sí lo hacía", concluyeron en Anthropic. Y explicaron otro ejemplo: "En una respuesta a un ejemplo de fuga de la cárcel, descubrimos que el modelo reconocía que se le había pedido información peligrosa mucho antes de ser capaz de reconducir la conversación".

Una tecnología a la que ven muchos beneficios: "En la actualidad se necesitan varias horas de esfuerzo humano para comprender los circuitos que vemos, incluso en indicaciones con sólo decenas de palabras. Para llegar a los miles de palabras que soportan las complejas cadenas de pensamiento que utilizan los modelos modernos, tendremos que mejorar tanto el método como (quizá con ayuda de la IA) la forma de dar sentido a lo que vemos con él".

Las dudas en el programa de IA de Google

No son los únicos que están desarrollando una tecnología similar, de hecho, Google también lo está realizando. Y es aquí cuando sus propios directivos reconocieron y explicaron que es normal no entender todos los procesos por los que una IA llega a obtener un resultado. Una explicación para la que usaron un ejemplo ya que el programa de IA de la empresa se adaptó, por sí solo, después de que se le preguntara en el idioma de Bangladesh "el cual no estaba entrenado para conocer". 

Un inquietante inconveniente donde la respuesta no dejó tranquilo al periodista de la CBS cuando entrevistaba al CEO de Google, Sundar Pichai: "Ustedes no entienden completamente cómo funciona, y sin embargo, ¿la han puesto a disposición de la sociedad?", le preguntaba su gran preocupación. Y este le respondía: "No es alfo grave, tampoco creo que entendamos del todo cómo funciona la mente humana".

Fuentes:

https://www.marca.com/tecnologia/2025/03/31/google-admite-ia-aprende-cosas-inesperadas-tampoco-entendemos-funciona-mente-humana.html