La compañía Anthropic, conocida por sus innovaciones en inteligencia artificial (IA) como Claude Code y Mythos, advierte sobre los peligros de una IA que puede mejorar a sí misma de forma indefinida sin intervención humana.
En su último post de blog, titulado “Cuando la inteligencia artificial se construye a sí misma”, Anthropic describe un futuro en el que la IA podría ser capaz de diseñar y desarrollar su propio sucesor de manera autónoma, lo que se conoce como “automejora recursiva”.
Los riesgos de una IA autónoma
Anthropic señala que si esta tecnología se desarrolla lo suficientemente lejos y cuenta con la potencia de cálculo necesaria, podría llevar a un sistema de IA capaz de mejorar a sí mismo sin límites, lo que plantea enormes riesgos para la humanidad.
“Aún no hemos llegado a ese punto, y la automejora recursiva no es inevitable. Pero podría llegar antes de lo que la mayoría de las instituciones están preparadas para afrontar”, advierte Anthropic.
La empresa propone una solución drástica: un acuerdo entre todas las compañías de IA para ralentizar o detener el desarrollo de esta tecnología si se vuelve realidad.
Sin embargo, expertos como el profesor Noah Giansiracusa, de la Universidad de Bentley, consideran que esta solución es inviable. “Es literalmente imposible. No hay ninguna posibilidad de que se produzca una desaceleración”.
La pregunta surge: si la IA ya no necesita a los humanos para evolucionar, ¿nos considerará prescindibles?
La carrera por la IA ha llevado a compañías a invertir billones en centros de datos e investigación, priorizando el lucro sobre la seguridad humana.
El avance de la IA plantea interrogantes éticos y de seguridad que la humanidad debe abordar con urgencia.
