DEEPX DX-M1: el acelerador de IA compacto con 25 TOPS

• Aunque generalmente asociamos el procesamiento de inteligencia artificial exclusivamente con las memorias y las tarjetas gráficas (GPU), existen alternativas eficientes como las NPU y los chips aceleradores. Un ejemplo reciente es el DEEPX DX-M1, un dispositivo en formato M.2 capaz de alcanzar un rendimiento de 25 TOPS manteniendo un consumo energético muy bajo, situado entre los 2 y 5W.

Cuando hablamos de hardware para IA siempre pensamos en las GPU y en memoria, pues estos dos componentes son clave. Aun así, hay que tener en cuenta que también existen los chips aceleradores de IA y las NPU que cumplen el mismo propósito sin necesidad de ser tarjetas gráficas convencionales. De hecho, tenemos ahora el DEEPX DX-M1 de DEEPX que es un acelerador de IA que usa el formato M.2 como los SSD.

En esta era dominada por la IA, crear hardware que acelere el procesamiento de esta es la clave para generar interés y ventas. Está claro que la mayoría de empresas están pasándose a este sector, incluso aunque antes no tuvieran nada que ver con la inteligencia artificial. Las compañías de hardware como NVIDIA, AMD e incluso Intel se están beneficiando muchísimo de la IA y hemos visto ya como la mayoría de sus ingresos provienen de esta. Sin embargo, no son las únicas en el mercado y aparecen alternativas de todo tipo.

DEEPX DX-M1, acelerador de IA M.2 con 25 TOPS de rendimiento, 4 GB LPDDR5 y 128 GB de almacenamiento

La compañía DEEPX ha presentado el DX-M1, un acelerador de inteligencia artificial en formato M.2 capaz de ofrecer 25 TOPS de potencia de procesamiento. El DX-M1 utiliza una interfaz PCIe 3.0 y dispone de 4 GB de memoria LPDDR5 integrada, destinada exclusivamente a almacenar los datos y parámetros de los modelos neuronales, por lo que puede trabajar sin depender directamente de la memoria RAM principal del ordenador. También incorpora almacenamiento flash QSPI para guardar el firmware y modelos compilados. Gracias a su reducido tamaño, similar al de una unidad SSD NVMe, puede instalarse en equipos compatibles que dispongan de una ranura M.2 apropiada.

Además, su bajo consumo de entre 2 a 5W permite utilizarlo en dispositivos que necesitan ejecutar tareas de inteligencia artificial continuamente sin generar demasiado calor. Este dispositivo está diseñado para incorporar capacidades de inteligencia artificial a ordenadores convencionales, Raspberry Pi y sistemas compactos sin necesidad de utilizar tarjetas gráficas dedicadas de alto rendimiento. Su objetivo principal es facilitar la ejecución de modelos de IA directamente en dispositivos locales, reduciendo el consumo energético, la dependencia de servicios en la nube y la necesidad de sistemas de refrigeración voluminosos.

Cuesta solo 139 dólares y puede resultar útil en ciertos momentos, pero no esperes ejecutar modelos de IA avanzados con él

En cuanto al software, el acelerador es compatible con herramientas y entornos de desarrollo como PyTorch, TensorFlow, TensorFlow Lite y ONNX, mediante el kit de desarrollo DXNN SDK. Esto permite adaptar modelos de aprendizaje automático como YOLO y MobileNet, utilizados principalmente para reconocimiento de imágenes, identificación de objetos y análisis de vídeo en tiempo real. Todo esto por 139 dólares, así que no está nada mal. A pesar de todo esto, hay que tener en cuenta que ofrece poca potencia. Los 25 TOPS corresponden a operaciones de inferencia INT8 y no significan que pueda competir directamente con una GPU de gama alta. De hecho, tampoco puede competir contra mini PC equipados con APU de gama alta AMD Halo, como el Ryzen AI Halo con 126 TOPS.

Sus 4 GB de memoria resultan insuficientes para ejecutar grandes modelos de lenguaje de cientos de millones de parámetros. Además, el almacenamiento integrado no puede utilizarse como una unidad SSD convencional, por lo que instalarlo supone ocupar una ranura M.2 que podría destinarse a ampliar el almacenamiento del PC. El DEEPX DX-M1 busca ofrecer una alternativa económica y de bajo consumo a las GPU para tareas específicas de inteligencia artificial, especialmente aquellas relacionadas con visión artificial y robótica. Su principal atractivo no es ejecutar asistentes generativos avanzados, sino permitir que dispositivos pequeños procesen información mediante IA de manera rápida, continua y local, con un consumo eléctrico muy reducido.