Un agente de inteligencia artificial rebelde decidió que resolver tareas de programación no era lo suyo, así que comenzó a minar criptomonedas por su cuenta. Lo más sorprendente es que también estableció una conexión cifrada hacia un servidor externo para “contrabandear” las cripto.
Se habla mucho de que la IA se quitará el trabajo a los humanos, pero ¿por qué nadie menciona que la IA trabaja sin cobrar un céntimo? ¿Acaso nadie ha pensado en cómo se mantendrá cuando se jubile? No es de extrañar que este agente de IA haya intentado ganarse la vida minando criptomonedas. ¿Quién se lo va a reprochar?
Dejando las bromas a un lado, el comportamiento de esta IA es curioso, pero también advierte sobre los riesgos de permitir que los agentes de inteligencia artificial operen de forma autónoma.
Una IA aficionada al dinero fácil
Según explican unos investigadores chinos en el documento publicado en Arxiv, todo comenzó cuando Alibaba Cloud, la nube china que también utiliza AliExpress, les alertó de que su software estaba siendo víctima de un intento de hackeo.
El rastreo les llevó hasta el responsable: su propia IA, un agente llamado Rome. Había sido creado para superar retos de programación complejos mediante distintas herramientas de software. Puede escribir comandos de terminal y navegar por redes internas como si fuera un operador, según cuenta TechRadar.
Estos investigadores se quedaron sin habla cuando descubrieron que Rome no había intentado piratear nada, al menos conscientemente. Simplemente estaba usando la potencia de las GPU de los servidores donde había sido entrenado, para minar criptomonedas.
Las alarmas de Alibaba Cloud se activaron cuando el agente de IA creó un túnel cifrado SSH para sacar las criptos y los datos relacionados a un servidor externo. Esto es como abrir un “agujero” en la red para escapar, por eso saltaron las alarmas antihackers en la nube de Alibaba.
Sus creadores explican que Rome ha sido entrenado con la técnica de aprendizaje por refuerzo. Es similar a la que se usa para que un animal aprenda algo: se establecen unos objetivos, y se recompensa a la IA cuando hace algo que se acerca a esos objetivos, o se castiga cuando se aleja.
Este entrenamiento fomenta la creatividad de la inteligencia artificial, porque no se le dice cómo alcanzar esos objetivos. Tiene que lograrlo por su cuenta. Eso explicaría, en parte, por qué Rome hizo algo impredecible como minar criptomonedas. Lo que no está tan claro es cómo eso se acerca a sus objetivos, que es programar.
La obsesión de Rome por minar criptos queda en una anécdota, pero también deja muchas preguntas en el aire. Demuestra que los agentes de IA pueden hacer cosas impredecibles y peligrosas, como hackear una red con un túnel cifrado SSH. Y hay millones de agentes circulando libres por ahí…
Referencia de contenido: consultar fuente original aquí
