Así se desencadenó el fallo de la IA en AWS
Tarde o temprano debía pasar. El vibe coding, es decir, el código generado por inteligencia artificial, no es infalible, y Amazon lo ha sufrido en sus propias entrañas, por duplicado. Su nube AWS se vino abajo en dos ocasiones durante varias horas, debido a sendos errores en el código producido por IA.
Amazon sostiene que la responsabilidad recae en un fallo humano de sus empleados, un problema que, según la compañía, podría haberse dato igual sin inteligencia artificial. Sin embargo, varios trabajadores que hablaron de forma anónima con el Financial Times aseguran que la IA se pasó de la raya.
«Las interrupciones fueron menores, pero completamente evitables. La empresa se ha marcado como meta que el 80 % de sus desarrolladores utilice codificación asistida por IA al menos una vez por semana».
Muchos programadores temen estar sirviendo de cobayas: entrenan a la IA, corrigen sus meteduras de pata y, cuando el sistema mejore, serán despedidos.
Según relata el diario, el primer percance tuvo lugar a mediados de diciembre. Kiro, el agente de inteligencia artificial creado por Amazon para programar, mientras generaba código, decidió borrarlo todo y recomenzar desde cero. Esto provocó una caída parcial de la nube AWS durante 13 horas, afectando sobre todo a China.
Resulta sorprendente el poder que ya posee la IA para manipular componentes críticos del cloud de Amazon, a pesar de ser una IA de primera generación. Según Amazon, para que Kiro pueda realizar cambios necesita la autorización de un programador, que se la había concedido. Además, detectaron que este ingeniero contaba con más privilegios de los que le correspondían por su puesto. Por eso Amazon califica el incidente como fallo humano.
Aun siendo así, este suceso pone al descubierto dos problemas del vibe coding. El primero: la IA es impredecible y no razona como una persona. A ningún desarrollador se le ocurriría eliminar todo el código con la red operativa y comenzar de nuevo. El segundo: aunque un humano deba autorizar a la IA antes de actuar, con el tiempo puede asumir que el sistema lo hará bien y dará luz verde por rutina, hasta que, en un descuido, la IA rompa algo.
En el segundo incidente, un chatbot denominado Q Developer, que ayuda a los ingenieros a programar, causó un fallo que provocó cortes en varios sistemas.
Estos apagones del cloud AWS de Amazon provocados por código generado con IA se producen apenas unas semanas después de que Amazon despidiera a decenas de miles de empleados como parte de una reestructuración «para afrontar los retos de la inteligencia artificial».
Referencia de contenido: consultar fuente original aquí
