Meta Muse: El agente de IA que colapsa ante la demanda

El avance de la inteligencia artificial generativa ha sido tan acelerado que hemos pasado de modelos pasivos basados en prompts a agentes de IA autónomos, capaces de gestionar el ordenador del usuario para ejecutar tareas específicas.

En este contexto, el agente Muse de Meta ha empezado a presentar fallos y colapsos debido a la alta presión de uso, lo sorprendente es que esto ocurre sin haber alcanzado siquiera el millón de usuarios activos diarios.

La IA generativa empezó hace unos años y todo ha avanzado muy rápido hasta el punto de que ya no solo tenemos modelos pasivos que necesitan constantes inputs de información con prompts, sino que también hay agentes de IA autónomos. Estos últimos pueden tener el control de tu PC y hacer lo que les pidas, convirtiéndolos en herramientas de productividad muy interesantes. Hay bastantes para elegir, pero ahora el de Meta se ha hecho viral y empieza a colapsar por la alta demanda.

Cada vez hay más personas que acaban acudiendo a la IA para recibir asistencia y ayuda en todo tipo de tareas. De hecho, nos estamos volviendo cada vez más dependiente de esta, dado que ya muchos no toleran hacer las cosas de forma manual, como antes. Visto como algunos como una evolución y para otros como el comienzo del fin, nos encontramos con dos extremos y como siempre, muchos tonos de grises entre medias del negro y el blanco.

La IA Meta Muse crece demasiado rápido y ya empieza a colapsar: cada usuario de la IA recibe 2 vCPU, 8 GB de RAM y 100 GB de SSD

Las grandes empresas estadounidenses dentro del grupo de las Big Tech representan una parte importante de la industria de la IA. Compañías como Google, Microsoft, Meta o Amazon están involucradas creando modelos de IA, desarrollando chips para inferencia o simplemente haciendo uso de esta construyendo nuevos centros de datos. Ahora nos toca hablar de Meta, pues está empezando a encontrarse con problemas de escalabilidad con Muse, su nuevo agente personal de IA, a pesar de que todavía estaría por debajo del millón de usuarios activos diarios.

La causa principal sería una arquitectura especialmente pesada en CPU, RAM y almacenamiento, ya que Muse no funciona simplemente como un chatbot, pues cada usuario dispone de un entorno virtual aislado capaz de ejecutar tareas durante largos periodos. Jukan ha publicado en X la gráfica de usuarios de similarweb y como actualmente dispone de alrededor de 700.000 usuarios activos diarios. Haciendo cálculos, significa que cada uno de los usuarios recibirá 2 vCPU, 8 GB RAM y 100 GB de SSD para el uso de la IA, algo que se siente poca cosa en estos tiempos.

Meta no esperaba multiplicar por 10 el número de usuarios en solo 11 días

Aquí hay que mencionar que Meta probablemente no esperaba que Muse creciera tan rápido, dado que los 700.000 usuarios activos representan 10 veces más gente que la que tenía cuando empezó hace 11 días. Alexandr Wang, el responsable de IA de Meta, ha confirmado esto mencionando que superaron con creces las previsiones de la empresa y los usuarios están consumiendo 10 veces más tokens que lo que sus pruebas internas pronosticaban.

Debido a esto, Meta se ha visto obligada a regular los recursos destinados a cada usuario y eso que por ahora solo está disponible en EE.UU. y Canadá, así que en caso de haberse lanzado a nivel mundial habría saturado por completo el servicio. Además, empiezan a notarse las limitaciones de gestionar más de lo que esperaban, ya que hicieron una prueba donde querían 120 subagentes simultáneos y solo lanzaron 33.

Si llegaran a tener 100 millones de usuarios activos, esto requeriría 200 millones de núcleos de CPU, el equivalente a casi 1,58 millones de CPU AMD EPYC de 128 núcleos. Además requeriría 800 petabytes de RAM y 10.000 petabytes de SSD, una auténtica barbaridad.