Productos FTTH

Tienda FFTH desde 2004

Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Headroom reduce hasta un 92% los tokens de LLM


Headroom es un proyecto open source diseñado para reducir hasta un 92% los tokens enviados a LLMs como Claude o GPT, optimizando la ventana de contexto al eliminar datos redundantes.



Headroom: la iniciativa de código abierto para optimizar el consumo de tokens en IA

Ha nacido Headroom, un proyecto open source diseñado para solucionar la saturación de la ventana de contexto en modelos de lenguaje como GPT o Claude. Esta herramienta actúa como una capa intermedia que permite reducir hasta en un 92% la cantidad de tokens enviados, evitando que el historial, los logs y los datos de API congestionen las sesiones de trabajo con la inteligencia artificial.



El proyecto Headroom llega para atajar un problema muy conocido por todo aquel que use la Inteligencia Artificial actual: cada agente, cada herramienta y cada sesión larga termina llenando la ventana de contexto con logs, resultados de búsqueda, respuestas de API, fragmentos RAG, archivos e historial de conversación. El proyecto se presenta como una capa de compresión de contexto para agentes de IA, con una promesa muy directa: enviar entre un 60% y un 95% menos de tokens al LLM manteniendo las mismas respuestas, según los datos publicados por sus responsables. ¿Es acaso esto posible?

La propuesta encaja especialmente en flujos donde usamos Claude Code, Cursor, Codex, Aider, Copilot, LangChain, Agno, Strands o aplicaciones propias conectadas a proveedores como OpenAI, Anthropic, Google, Bedrock u otros servicios compatibles. Como las promesas son muy grandes, veamos el contexto para discernir si, efectivamente, cumple la barbaridad que prometen.

Headroom, el proyecto que busca abaratar la IA a base de enviar hasta un 95% menos de tokens en las principales plataformas

HeadroomDemo-Fast

Según sus desarrolladores, Headroom puede utilizarse como librería en Python o TypeScript, como proxy HTTP sin tocar apenas el código, como wrapper para agentes y como servidor MCP con herramientas específicas para comprimir, recuperar contenido original y consultar estadísticas de sesión.

El funcionamiento se basa en colocar, nunca mejor dicho, Headroom entre la aplicación y el proveedor LLM. Primero intercepta los mensajes, después analiza el contenido, aplica compresión según el tipo de dato y finalmente envía al modelo una petición optimizada. La documentación describe un flujo con CacheAligner, ContentRouter y CCR, junto a SmartCrusher para JSON, CodeCompressor para código mediante AST y Kompress base para texto, con los originales guardados localmente para poder recuperarlos cuando el modelo necesite más detalle.

Aterrizando todo, Headroom funciona como un filtro entre la aplicación de IA y el modelo, por ejemplo, Claude o GPT, donde antes de enviar todo el contexto, revisa el contenido, comprime lo menos importante y manda una versión más ligera para gastar menos tokens, pero guarda el original en local por si el modelo necesita recuperar algún detalle.

Hasta un 92% de menos tokens gastados

Your agent / app
(Claude Code, Cursor, Codex, LangChain, Agno, Strands, your own code…)
│ prompts · tool outputs · logs · RAG results · files

┌────────────────────────────────────────────────────┐
│ Headroom (runs locally — your data stays here) │
│ ──────────────────────────────────────────────── │
│ CacheAligner → ContentRouter → CCR │
│ ├─ SmartCrusher (JSON) │
│ ├─ CodeCompressor (AST) │
│ └─ Kompress-base (text, HF) │
│ │
│ Cross-agent memory · headroom learn · MCP │
└────────────────────────────────────────────────────┘
│ compressed prompt + retrieval tool

LLM provider (Anthropic · OpenAI · Bedrock · …)

Los datos de rendimiento publicados por el propio repositorio hablan de reducciones del 92% en una búsqueda de código con 100 resultados (17.765 tokens frente a 1.408), 92% en depuración de un incidente SRE (65.694 frente a 5.118), 73% en triage de issues de GitHub (54.174 frente a 14.761) y 47% en exploración de una base de código (78.502 frente a 41.254). También se indican resultados conservando precisión en GSM8K, TruthfulQA, SQuAD v2 y BFCL, aunque esos datos salen del propio proyecto y deben tratarse como benchmarks internos.

De hecho, la versión 0.27.0, publicada el 22 de junio de 2026, añade diagnóstico con headroom doctor, comando de actualización, métricas de throughput en tokens por segundo, reducción de tokens de salida, compresión de tablas y hojas .xlsx o .xls, soporte para Cortex Code y mejoras en CCR y Claude Code con Vertex.

Headroom para GPT o Claude

Como vemos, no solamente es un proyecto que busca que el usuario optimice tus tokens al máximo para que gaste menos dinero, sino que esto también está siendo usado ya por varias empresas para lograr reducir sus facturas, así que les está haciendo “la puñeta” a todas las grandes desde fuera.

Igualmente, Headroom no sirve igual en todos los casos, porque la propia documentación marca como escenarios fuertes los JSON grandes, logs, salidas de build, resultados de herramientas y sesiones largas de agentes, mientras que las conversaciones cortas, las sesiones centradas solo en código, los contextos RAG documentales y las peticiones de un solo turno apenas aportan margen o pasan prácticamente sin compresión. No iba a ser todo tan magnífico, pero sea como fuere, para altas cargas de trabajo representa una salida tremenda al gasto actual, donde se pueden optimizar muchísimo los tokens que finalmente consumimos.


Fuentes:
https://elchapuzasinformatico.com/2026/06/headroom-proyecto-open-source-reducir-tokens-claude-gpt/

0 comentarios :

Publicar un comentario

Los comentarios pueden ser revisados en cualquier momento por los moderadores.

Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.

Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.