llm Blog elhacker.NET

Mostrando entradas con la etiqueta llm. Mostrar todas las entradas

768GB de memoria Intel Optane barata para ejecutar LLM de 1 billón de parámetros

domingo, 24 de mayo de 2026 | Publicado por el-brujo | Editar entrada

Un entusiasta logró ejecutar localmente el modelo de lenguaje Kimi K2.5 de un billón de parámetros utilizando 768 GB de memoria Intel Optane usada. Gracias a una configuración híbrida de CPU y GPU, alcanzó una velocidad de procesamiento de aproximadamente 4 tokens por segundo. Este proyecto demuestra que existe una oportunidad para memorias intermedias entre la RAM y los SSD en el despliegue de IA.

Etiquetas: computadora , hardware , inferencia , intel , inteligencia artificial , llm , memoria , optane | 0 comentarios

Bienvenidos al vulnpocalipsis, donde la IA acelera la detección de fallos y los parches se multiplican sin control

sábado, 16 de mayo de 2026 | Publicado por el-brujo | Editar entrada

Empresas como Microsoft, Palo Alto Networks y Mozilla están utilizando modelos de IA avanzados para detectar vulnerabilidades en sus códigos a una velocidad sin precedentes. Aunque esto permite corregir fallos antes de que sean explotados, ha generado un aumento masivo de parches y una carga de trabajo mucho mayor para los administradores de sistemas. Los expertos advierten que existe una ventana crítica de pocos meses para superar la capacidad de los atacantes antes de que los exploits impulsados por IA se vuelvan la norma.

Etiquetas: bug , ciberseguridad , ia , llm , microsoft , parche , software , vulnerabilidad | 0 comentarios

Productos FTTH

Tutoriales y Manuales

Entradas Mensuales

Síguenos en:

Blogroll

Etiquetas

768GB de memoria Intel Optane barata para ejecutar LLM de 1 billón de parámetros

Bienvenidos al vulnpocalipsis, donde la IA acelera la detección de fallos y los parches se multiplican sin control