Inicio / Tecnología / Un compañía se gasta 500 millones de dólares en IA sin saberlo, y destapa una de sus flaquezas: la IA es muy cara

Un compañía se gasta 500 millones de dólares en IA sin saberlo, y destapa una de sus flaquezas: la IA es muy cara

Una imagen de un gráfico de gastos de una empresa con una IA en el centro, generando código y consumiendo tokens

Una gran empresa, que prefiere mantener su anonimato, ha incurrido en un gasto inesperado de 500 millones de dólares en un solo mes. El motivo: no estableció límites en el uso de la inteligencia artificial generativa de código de Anthropic, conocida como Claude Code, entre sus empleados.

Claude Code es actualmente la referencia en IA generativa de código, superando a las ofertas de OpenAI, Google o Microsoft. Sin embargo, su modelo de negocio se basa en cobrar por cada línea de código generada. Si cientos o miles de empleados utilizan esta herramienta libremente para desarrollar aplicaciones con miles de líneas de código, el costo se dispara.

Esta anécdota, revelada por un informe de Axios sobre el coste de la IA, vía Futurism, subraya un problema significativo: para aprovechar al máximo la IA, las empresas deben estar dispuestas a invertir grandes sumas de dinero. Restringir el uso para controlar costos puede limitar su potencial.

El alto coste de la IA: un desafío para las empresas

La economía de la IA sigue un modelo similar al de las plataformas de streaming como Netflix: ofrecen servicios casi gratuitos inicialmente para enganchar a los usuarios, quienes luego se vuelven dependientes. Esto conlleva enormes gastos en electricidad, servidores y otros recursos.

A medida que la dependencia de la IA crece, las empresas que la ofrecen aumentan las cuotas y reducen los límites de uso, tal como han hecho Netflix y compañía.

Actualmente, las empresas pagan por el uso de la IA a través de cuotas y tokenización. La IA opera con tokens, fragmentos de información que las empresas consumen y por los cuales pagan un precio elevado.

El gasto en tokens se dispara especialmente en programación, ya que generar código requiere mucha más inferencia de la IA que otras tareas. La llegada de los agentes de IA, que realizan tareas de forma autónoma, ha encarecido aún más el uso. Se estima que un agente de IA consume 25 veces más tokens que una consulta a ChatGPT.

Este modelo económico deja poco margen de maniobra a las compañías de IA, especialmente en su primera generación. El gasto en servidores y consumo energético es enorme, y necesitan recuperar estos costos cobrando considerablemente por el uso de la IA.

El cobro por tokens: un modelo que deberá evolucionar

Si una gran empresa gasta 500 millones de dólares al mes en IA sin control, llegando a 6.000 millones al año, surge la pregunta: ¿quién puede afrontar ese gasto? Y si se ponen límites, se reduce el beneficio esperado.

El informe de Axios revela datos curiosos, como el de una empresa que gastaba miles de euros porque sus empleados usaban la IA para consultar el tiempo, una tarea que no requiere esta tecnología.

Sophia Velastegui, ex directora de IA de Microsoft, señala que una de las causas del alto costo de la IA en las empresas es que “la mayoría de la gente tiende a automatizar las tareas que no le gustan, en lugar de las que son más valiosas para la empresa”. Esto significa que se usa la IA para tareas tediosas pero poco productivas.

Es un desafío que las empresas deberán enfrentar. Con el tiempo, se adaptarán, pero por ahora, el uso de la IA conlleva un gasto significativo que no todas las empresas pueden afrontar.

El precio oculto de la innovación: cómo el uso libre de IA puede arruinar a una empresa

La noticia de una gran empresa que se gastó 500 millones de dólares en un mes sin pretenderlo, debido al uso libre de la IA generativa de código de Anthropic, Claude Code, por parte de sus empleados, ha levantado un gran revuelo en el sector. Pero, ¿cómo se llegó a esta situación?

La empresa en cuestión no puso límites al uso de Claude Code por parte de sus empleados, lo que resultó en una factura astronómica. Esto se debe a que la IA cobra por cada línea de código que genera, y si cientos o miles de empleados la usan libremente, generando aplicaciones con docenas de miles de líneas de código, el costo se dispara.

  • La IA generativa de código de Anthropic, Claude Code, es una de las más avanzadas en el mercado, superando a las de OpenAI, Google o Microsoft.
  • El uso de la IA puede generar un gasto enorme, especialmente si se utiliza para tareas que requieren mucha inferencia, como la programación.
  • La llegada de los agentes de IA, que realizan tareas por su cuenta, ha encarecido aún más el uso de la IA, ya que consumen 25 veces más tokens que una consulta a ChatGPT.

La espiral del gasto en IA

El modelo económico de la IA se basa en el cobro por tokens, lo que supone un gasto alto para las empresas. A medida que la IA se vuelve más potente y puede hacer más cosas, el gasto de uso aumenta, y los clientes quieren usarla más, lo que genera una espiral de gasto.

Según Sophia Velastegui, antigua directora de IA de Microsoft, una de las causas del coste disparado de la IA en las empresas es que “la mayoría de la gente tiende a automatizar las tareas que no le gustan, en lugar de las que son más valiosas para la empresa”. Esto sugiere que las empresas deben ser más estratégicas en el uso de la IA para maximizar su valor.

¿Qué futuro tiene el cobro por tokens?

El informe de Axios sugiere que el cobro por tokens tendrá que cambiar para que la IA sea más accesible para las empresas. De lo contrario, solo las empresas más grandes podrán permitirse el lujo de utilizarla, lo que podría limitar su potencial.

Referencia de contenido: consultar fuente original aquí
Etiquetado: