Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon IPW: Inteligencia por vatio, una nueva forma de medir la eficiencia de la IA


Investigadores proponen el IPW (inteligencia por vatio) como nueva métrica para medir la eficiencia de la IA, relacionando la precisión de las respuestas con el consumo eléctrico en hardware convencional.



IPW / GPT Astra

En un trabajo titulado Intelligence per Watt, unos investigadores han estudiando cuánto trabajo relacionado con los modelos de IA puede procesarse de forma efectiva en equipos convencionales, como un ordenador de sobremesa o un portátil, sin tener que irse a la meganube de Amazon o de Google. Y sugieren como métrica la inteligencia por vatio, que relaciona la la precisión de las respuestas y la potencia eléctrica media consumida. No parece mala idea.

 

En esa relación inteligencia/vatio cuanto más «lista» sea la IA, mejor, y cuanta menos energía y electricidad consuma, más nos quedará a los humanos «para nuestras cosas».

Meticulosas pruebas de eficiencia

Para las pruebas evaluaron más de 20 modelos, ocho plataformas de hardware (Apple M4 Max, NVIDIA B200, AMD Instinct MI300X…) convenientemente cargadas de RAM y almacenamiento que iban como pepinos y realizaron un millón de consultas (prompts) de conversación y razonamiento*. Total, ¡era gratis! Los modelos locales respondieron correctamente al 88,7% de las consultas de promedio, aunque el porcentaje de acierto dependía un poco de la temática.

Esto lo hicieron en varias ocasiones. Entre 2023 y 2025 los IPW mejoraron un factor de ×5,3, gracias a los nuevos algoritmos, modelos y el propio hardware. La proporción de consultas que podían resolverse pasó del 23,2% al 71,3%. Chips como el Apple M4 Max permiten ejecutar estos modelos con tiempos de respuesta prácticamente interactivos.




Fuentes:
http://www.microsiervos.com/archivo/ia/ipw-inteligencia-por-vatio-medir-eficiencia-ia.html

0 comentarios :

Publicar un comentario

Los comentarios pueden ser revisados en cualquier momento por los moderadores.

Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.

Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.