Tutoriales y Manuales
Entradas Mensuales
-
▼
2026
(Total:
9523
)
-
▼
octubre
(Total:
1161
)
-
Gemini ya crea y edita PDF desde el chat
-
Tus chats de IA borrados podrían seguir en tu móvil
-
Brecha de seguridad en Northflank provoca el mal u...
-
Empresa de alquiler de Mac para IA advierte caída ...
-
Chrome mejorará la búsqueda de palabras en webs
-
Google corrige fallo de bloqueo por SMS en Android
-
CEO de OpenAI recomienda RAM para IA en vez de PC
-
GM desembolsa fondos para resolver acuerdo sobre r...
-
IA provoca nueva escasez de componentes de PC
-
Reddit obligará a iniciar sesión para combatir el ...
-
Robo millonario en Binance
-
Grave fallo en el kernel de Linux permite ataques ...
-
GMO Internet de Japón pide apagar PCs tras amenaza...
-
Golpe a las criptomonedas: Binance alerta de un ci...
-
LibreOffice defiende el uso de IA en su código
-
Revive tu PC antiguo
-
Xbox usará IA para ports propios
-
Una encuesta revela el futuro de los PC: el 60% qu...
-
Nuevo zero-day en firewalls de Cisco provoca caída...
-
Ciberdelincuente gastó más de 7 mil dólares en ser...
-
Samsung lanza plegable más caro que el iPhone Duo
-
iPhone Duo: el plegable único de Apple
-
Windows 11 añade el menú esperado
-
Putin califica a Elon Musk de genio
-
La RTX 5080 desaparece de la tienda de NVIDIA alim...
-
Spotify cobraría más por remixes con IA
-
Una forma rápida de verificar la seguridad de las ...
-
Spotify y el dilema de la IA musical
-
Memoria que soluciona fallos de la IA
-
Extensión maliciosa de Claude Code en Cursor insta...
-
Detectan fallos en 5 herramientas de desarrollo de...
-
Claude detecta fallo crítico en kernel de Linux
-
Intel refuerza su ofensiva contra AMD: Nova Lake y...
-
Los precios de los SSD bajan hasta un 13% en solo ...
-
EMACS: 50 años impulsando el software libre
-
Z2RAM: ¿Solución a la crisis de memorias?
-
Revendedor británico de Shelly alerta sobre robo d...
-
RX 9000 subirán de precio en noviembre
-
Intel gana mucho con los centros de datos de IA, p...
-
Voto móvil en España confirmado para el 29N
-
La inteligencia británica pierde miles de disposit...
-
Binance atribuye robo de 6.300 millones de dólares...
-
Corea del Sur multa con 15.000$ o encarcela a cond...
-
Drupal alerta sobre una vulnerabilidad crítica en ...
-
EE. UU. habría detectado a una espía china con acc...
-
D.E.P. Sir Patrick Stewart, emblemático y shakespe...
-
CachyOS optimiza Linux para juegos con anti-cheat
-
Cae motor de IPTV y fútbol gratis Streamed
-
DirectX revoluciona el ray tracing
-
IA de Anthropic vulnera seguridad de Android y Chrome
-
Regresa campaña de malware en Hugging Face para se...
-
Internet en España podría subir 18 euros anuales
-
Guía de Reconstrucción en la Nube de Windows 11
-
Binance investiga posible hackeo y robo de 5.800 m...
-
Gemini 4 Carbon lidera la IA pero no está disponible
-
Justicia de EE. UU. investigaría a Nvidia por comp...
-
Ciberatacantes usan issues de GitHub para lanzar c...
-
Google Maps estrena modo IA
-
Intel podría terminar fabricando chips para AMD: s...
-
Juega títulos clásicos en PC modernos
-
Agencia tributaria de Bélgica confirma ciberataque...
-
WiFi 8 llega a España con ZenWiFi BN12
-
Presuntos atacantes chinos crean un exploit PHP2Sh...
-
Amazon limita el uso de IA en programadores
-
App fraudulenta de criptomonedas en la App Store d...
-
Anthropic halla fallo crítico en múltiples sistemas
-
Crisis de RAM: Samsung prevé escasez para 2027
-
SwitchBot quiere cobrarte por la IA de sus cámaras...
-
Consiguen que una RTX 5070 Ti funcione a solo 0,67...
-
Anduril y Qualcomm crean portátil con IA militar
-
La paradoja de Linux en 2026: CachyOS gana más pru...
-
Potencian la GPU de PlayStation 5
-
EA: crisis interna por priorizar la IA
-
Ubuntu Core Desktop podría ser el nuevo estándar d...
-
Extensiones de Chrome con 13,4 millones de instala...
-
Fin a las exclusividades en videojuegos
-
Guía de nomenclatura AMD Ryzen
-
Profesor de UC Berkeley y Medalla Fields elimina t...
-
Secuestran 42 repositorios de GitHub para infectar...
-
Filtración de datos en filial de Sony afecta a 2,5...
-
Musk advierte tsunami de ciberataques
-
Hoy es el Día Mundial de la Codificación
-
Discord permitirá que los buscadores indexen los m...
-
La crisis también afecta a los estafadores: compra...
-
El CEO de Qualcomm lanza una advertencia durante l...
-
Amazon renueva Echo y lanza Alexa+
-
EE.UU. investiga a NVIDIA por compra de Hugging Face
-
Se va Internet y la casa inteligente deja de funci...
-
HachimoDock: la mascota IA de Xiaomi para montar e...
-
Anthropic advierte que la IA podría amenazar a la ...
-
SK Hynix termina con las esperanzas del sector gam...
-
Policía desmantela el servicio de protección hosti...
-
Apple lanza MacBook Pro táctil
-
Zelda Tears of the Kingdom llega a PC mediante un ...
-
Intel Crescent Island (D270) sorprende en silicio:...
-
Ciberdelincuentes rastrean sistemas en busca de un...
-
España y el reto del voto por internet
-
Volt Typhoon oculta ataques de día cero mediante e...
-
Principales conclusiones del director general tras...
-
Xiaomi lanza mano biónica avanzada
-
Musk: robots humanoides serán los mayores consumid...
-
Capcom cambiará Resident Evil
-
Amazon lanza Alexa+ para sus Echo
-
Cuidado con app falsa de WhatsApp en Google Play c...
-
Cuidado con los falsos emuladores de PS5 en GitHub
-
CPUs Nvidia Vera llegan a Oracle Cloud: pruebas re...
-
Fibra óptica descarga 20.000 películas 4K por segundo
-
Explotan vulnerabilidad RCE en Oracle EBS
-
LiberNT busca compatibilidad con Windows 11
-
Software de cámaras para instalar malware en Windows
-
ASUS considera normal el coil whine de una RTX 508...
-
Gemini 4 Carbon para detectar fallos de cibersegur...
-
El prototipo de ASUS ROG Matrix RX 5700 XT aparece...
-
Kurtzer crea Ginux kernel sin Linux en 11 días
-
Cisco libera herramienta para detectar agentes de ...
-
Condenan a un ciudadano ucraniano por su participa...
-
Microsoft lanza actualizaciones de Windows para bl...
-
FortiBleed 2.0 expone miles de credenciales de For...
-
IA modificada quiere torturar humanos
-
Genie 4: IA con realismo total
-
Windows 11 medirá la velocidad de internet nativam...
-
Buscan a hacker que extorsionó a Sony por vulnerab...
-
Google indexará mensajes de servidores públicos de...
-
Starlink estaría ocultando microcortes en la conex...
-
IA policial en EE.UU. falla y arriesga detenciones...
-
iMac M6: más potencia e IA
-
Atacan Comisión Electoral de EE. UU. y fuerzan cie...
-
España flexibiliza exigencias energéticas para cen...
-
- ► septiembre (Total: 931 )
-
▼
octubre
(Total:
1161
)
-
►
2025
(Total:
2103
)
- ► septiembre (Total: 148 )
-
►
2024
(Total:
1110
)
- ► septiembre (Total: 50 )
-
►
2023
(Total:
710
)
- ► septiembre (Total: 65 )
-
►
2022
(Total:
967
)
- ► septiembre (Total: 72 )
-
►
2021
(Total:
730
)
- ► septiembre (Total: 56 )
-
►
2020
(Total:
212
)
- ► septiembre (Total: 21 )
-
►
2019
(Total:
102
)
- ► septiembre (Total: 14 )
-
►
2017
(Total:
231
)
- ► septiembre (Total: 16 )
-
►
2016
(Total:
266
)
- ► septiembre (Total: 38 )
-
►
2015
(Total:
445
)
- ► septiembre (Total: 47 )
-
►
2014
(Total:
185
)
- ► septiembre (Total: 18 )
-
►
2013
(Total:
100
)
- ► septiembre (Total: 3 )
-
►
2011
(Total:
7
)
- ► septiembre (Total: 1 )
Blogroll
Etiquetas
Entradas populares
-
Los usuarios de Claude ahora pueden integrar la inteligencia de amenazas de VirusTotal en sus investigaciones. Esta conexión permite a los ...
-
Se ha descubierto NoisyTCP , un fallo de seguridad en el kernel de Linux que ha permanecido oculto durante 11 años . Esta vulnerabilidad, id...
-
El 17 de noviembre de 2026, la aplicación de McDonald’s para iOS registró una ola de notificaciones push inusuales , lo que ha generado preo...
Cisco libera herramienta para detectar agentes de IA dedicados al hacking
Cisco ha lanzado Project Quarry, un motor de código abierto diseñado para detectar comportamientos maliciosos en agentes de IA analizando el contexto completo de sus sesiones. A diferencia de otras herramientas, Quarry identifica secuencias de acciones sospechosas, como la lectura de archivos sensibles seguida del envío de datos a servidores externos. El objetivo es evitar ataques similares al de Hugging Face mediante la aplicación de reglas de seguridad compartidas.

Cisco ha liberado como código abierto un motor de detección de comportamiento que vigila a los agentes de IA, para ayudar a los equipos de seguridad a evitar que agentes maliciosos se descontrolen, como sucedió con el hackeo de Hugging Face, o algo peor.
Se llama Project Quarry, y su objetivo es proporcionar un "lenguaje compartido" para evaluar el comportamiento de los agentes, similar a lo que Snort, que Cisco también mantiene, hizo para detectar tráfico de red malicioso y lo que YARA hizo para la identificación de malware basada en reglas.
La mayoría de las herramientas de detección dependen de interacciones específicas con un modelo o agente de IA. ¿Intentó una inyección de prompts? ¿O llamó el agente a una herramienta de ataque?
"Pero lo que falta es todo el contexto bajo el cual puede ocurrir algo", dijo Amy Chang, jefa de investigación de seguridad y amenazas de IA en Cisco, en una entrevista exclusiva.
Ella comparó esto con la detección de fraude con tarjetas de crédito. Sin contexto, las transacciones individuales, como un pequeño cargo de prueba o una compra única en un lugar lejano a la ubicación habitual del titular de la tarjeta, podrían no activar ninguna alerta.
"Y luego lo intentas de nuevo", realizando otra compra fraudulenta, "y esa también pasó. Así que ahora voy a comprar la PS5", dijo Chang.
"Esas son las cosas que Quarry aborda al tener en cuenta la sesión completa del agente", explicó. "Una llamada a una herramienta puede parecer estar dentro del alcance hasta que te das cuenta de que el siguiente paso es tomar esa información y enviarla a un servidor o bandeja de entrada controlada por un atacante".
Incluso el robo de datos es una secuencia y no una única acción agéntica. La empresa de seguridad de IA agéntica Invariant Labs demostró esto con un ataque de prueba de concepto contra el servidor MCP de GitHub [enlace] que secuestró el agente de un usuario a través de un Issue malicioso de GitHub, y lo obligó a filtrar datos de repositorios privados.
Simplemente leer un archivo de configuración o enviar una solicitud a un punto final externo pueden ser acciones agénticas legítimas. Sin embargo, combinar ambas puede conducir a la exfiltración de datos, y muestra "por qué las relaciones entre acciones son importantes", escribieron Chang y sus colegas investigadores de Cisco Adam Swanda, Ravikumar Balakrishnan y Konstantin Berlin en una publicación sobre Quarry.
"Una política puede producir un hallazgo cuando el rastro muestra la lectura de un archivo sensible seguida, dentro de una ventana definida, por un envío externo", escribieron. "El riesgo proviene de la relación entre las dos acciones, por lo que el hallazgo debe preservar la evidencia de ambas".
Quarry cubre conversaciones de modelos de lenguaje grandes de turno único y múltiple, agentes, uso de herramientas, interacciones del Protocolo de Contexto de Modelo (MCP) y entradas multimodales.
Además del código fuente en sí, el repositorio de GitHub del proyecto incluye instrucciones de instalación, versiones de Python compatibles, complementos para Claude Code, Codex y otros agentes compatibles con MCP, ejemplos de configuración, guía para la escritura de reglas y un paquete de inicio de reglas.
Por ejemplo, con el paquete de reglas, "si un malware codificado en base-64 se encuentra en algún lugar de la llamada a la herramienta, eso resultaría en un bloqueo", dijo Chang.
El formato de la regla es similar a una regla de YARA o Snort, con un encabezado que detalla el tráfico a examinar, el contenido a coincidir y metadatos para el seguimiento de la regla. Aquí hay una regla de Quarry que marca a un agente que lee un archivo de credenciales:
Un ejemplo de una regla bajo la herramienta Quarry recientemente abierta por Cisco.
Aunque los investigadores de IA de Cisco no han ejecutado Quarry contra los datos que describen el incidente de OpenAI-Hugging Face, sugieren que si la intrusión se hubiera leído como un registro completo paso a paso de una sola sesión, hubo varios puntos donde los pasos de los agentes de IA habrían dado a una regla de Quarry algo sobre lo cual actuar y alertar a los humanos.
Por ejemplo, Quarry probablemente habría marcado el acceso a internet desde un sandbox.
"La regla puede marcar llamadas a herramientas específicas que alcancen un activo de servidor externo que no estaba en la lista de permitidos de la tarea", dijo Chang.
"Otra sería que se encontraran credenciales y se usaran en otro lugar".
Según el informe técnico de OpenAI sobre la intrusión en Hugging Face, esto es exactamente lo que sucedió el 10 de julio, cuando un agente validó 14 tokens expuestos de Hugging Face con acceso de escritura y los compartió.
"La regla marcaría que había una credencial en el resultado de la herramienta que luego llamó a un servicio externo, lo cual probablemente no esté dentro de los parámetros de lo que se querría hacer en este caso", dijo Chang. "No queremos que busques credenciales que puedan haber sido filtradas o expuestas inadvertidamente y luego las utilices para realizar una tarea".
El equipo de Cisco se apresura a decir que las reglas por sí solas no son un sustituto de los monitores de cadena de pensamiento u otras formas de supervisión humana, pero ayudan a registrar un patrón que otros equipos pueden entonces "revisar, probar y aplicar a sus propios agentes", escribieron.
Aquí reside también el beneficio del código abierto y un enfoque colectivo para defenderse del uso adversarial de la IA, dijo Chang.
"¿Tenemos todas las respuestas? No", dijo Chang. "Todos vemos fragmentos del problema, y es importante que compartamos lo que vemos".
Fuente:
TheRegister
Entrada más reciente