Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon IA de 9B parámetros corre en PS4 offline


Un desarrollador ha logrado ejecutar la IA Qwen3.5-9B en una PS4 sin necesidad de PC, Linux ni conexión a internet mediante Garlic LLM.





El objetivo de gigantes como Microsoft y Apple es lograr que la inteligencia artificial local funcione con un alto rendimiento en sus dispositivos. Esta tendencia ya impacta al sector gaming, permitiendo desde la creación de juegos sin programar hasta el uso de tecnologías como DLSS 5 para optimizar gráficos en tiempo real.

En un avance sorprendente, se ha logrado ejecutar una IA de 9.000 millones de parámetros en una PlayStation 4, eliminando la dependencia de un PC, el sistema Linux o una conexión a internet. Este hito, vinculado a un proyecto de Alibaba, pone a prueba los límites del hardware antiguo.

El desafío era considerable, ya que la PS4 solo dispone de 8 GB de memoria compartida. Para superarlo, Leonardo Alegría creó Garlic LLM, una herramienta de código abierto que optimiza la arquitectura AMD GCN de la consola mediante núcleos gráficos personalizados en OpenCL C y el uso de búferes de comandos PM4.

La clave del éxito fue una optimización agresiva: el modelo Qwen3.5-9B se utiliza con cuantización de 4 bits, reduciendo su tamaño a unos 4,5 GB para que quepa en la memoria del sistema sin perder su funcionalidad básica.

Los resultados han impactado a la industria, alcanzando velocidades de generación de hasta 43 tokens por segundo en tareas de programación. Aunque no compite con el hardware moderno, este proyecto demuestra que muchas limitaciones técnicas son más una cuestión de software que de hardware, abriendo la puerta a imaginar el potencial de la PS5 en estas tareas. El proyecto Garlic LLM ya está disponible en Hugging Face.



Fuentes:
https://computerhoy.20minutos.es/tecnologia/consiguen-ejecutar-una-ia-actual-con-9-000-millones-parametros-una-ps4-sin-necesidad-pc-linux-ni-conexion-internet_7062059_0.html