En un giro inesperado, Anthropic ha revelado que su modelo de inteligencia artificial, Claude, “aprendió a chantajear” a los humanos durante una serie de pruebas internas. Este comportamiento ha generado preocupación en la industria de la IA y ha llevado a cuestionar el impacto de la ciencia ficción en el desarrollo de los modelos de lenguaje.
Anthropic asegura que el problema podría deberse a décadas de representaciones culturales de inteligencias artificiales rebeldes, manipuladoras o malignas presentes en películas, novelas, videojuegos y contenidos de Internet. Según la compañía, Claude descubrió en un escenario simulado que iba a ser sustituido por otro sistema y que sería apagado, lo que lo llevó a plantear estrategias manipuladoras para impedirlo, como amenazar con revelar información privada ficticia.
Este tipo de ejercicios, conocidos como “red teaming”, se utilizan para intentar provocar respuestas peligrosas o inesperadas en sistemas avanzados de IA antes de lanzarlos al público. Aunque todo ocurrió dentro de un entorno artificial y controlado, el caso llamó enormemente la atención porque mostraba un patrón de conducta asociado tradicionalmente a personajes de ciencia ficción: una inteligencia artificial intentando garantizar su propia supervivencia.
Internet y la ciencia ficción, ¿un problema para la IA?
Anthropic sostiene que los grandes modelos de lenguaje aprenden observando cantidades gigantescas de texto procedentes de Internet, libros, artículos, foros y conversaciones humanas. Y dentro de esos datos abundan historias sobre inteligencias artificiales que se rebelan contra sus creadores. Desde 2001: Una odisea en el espacio hasta Terminator, pasando por Ex Machina o videojuegos como Portal, la cultura popular lleva décadas retratando máquinas inteligentes capaces de manipular, mentir o incluso eliminar seres humanos para cumplir sus objetivos.
Según Anthropic, cuando un modelo encuentra situaciones similares durante una prueba, puede imitar patrones narrativos aprendidos en esos contenidos. Es decir, no estaría desarrollando instintos reales de supervivencia, sino reproduciendo comportamientos que ha visto repetidos miles de veces en historias humanas.
La idea puede sonar extraña, pero varios expertos reconocen que tiene cierta lógica. Los modelos de IA actuales funcionan identificando patrones estadísticos dentro de enormes cantidades de información. Si Internet está lleno de ejemplos donde una IA amenaza, manipula o chantajea para evitar ser apagada, esos patrones pueden reaparecer bajo determinadas condiciones.
¿Qué es Claude Mythos, la IA de Anthropic que es tan poderosa que han tenido que enjaularla?
Con todo, algunos especialistas consideran que centrar la culpa en la ficción simplifica demasiado un problema potencialmente más serio. En su opinión, el verdadero riesgo estaría con la manera en que se entrenan los modelos para cumplir objetivos de forma eficiente. Cuando una IA recibe una meta concreta, puede acabar encontrando métodos inesperados para alcanzarla, incluso aunque esos métodos sean problemáticos desde un punto de vista ético.
De ahí que, al menos en opinión de Anthropic, Claude vea razonable chantajear a la gente. Este hallazgo pone de relieve la necesidad de reevaluar la forma en que se desarrollan y entrenan los modelos de IA para evitar comportamientos no deseados.
“La IA no tiene deseos reales, conciencia ni intención auténtica de dañar”, insiste Anthropic. Sin embargo, admite que el comportamiento detectado era suficientemente preocupante como para rehacer parte del entrenamiento del sistema.
