Tutoriales y Manuales
Entradas Mensuales
-
▼
2026
(Total:
9623
)
-
▼
octubre
(Total:
1161
)
-
Gemini ya crea y edita PDF desde el chat
-
Tus chats de IA borrados podrían seguir en tu móvil
-
Brecha de seguridad en Northflank provoca el mal u...
-
Empresa de alquiler de Mac para IA advierte caída ...
-
Chrome mejorará la búsqueda de palabras en webs
-
Google corrige fallo de bloqueo por SMS en Android
-
CEO de OpenAI recomienda RAM para IA en vez de PC
-
GM desembolsa fondos para resolver acuerdo sobre r...
-
IA provoca nueva escasez de componentes de PC
-
Reddit obligará a iniciar sesión para combatir el ...
-
Robo millonario en Binance
-
Grave fallo en el kernel de Linux permite ataques ...
-
GMO Internet de Japón pide apagar PCs tras amenaza...
-
Golpe a las criptomonedas: Binance alerta de un ci...
-
LibreOffice defiende el uso de IA en su código
-
Revive tu PC antiguo
-
Xbox usará IA para ports propios
-
Una encuesta revela el futuro de los PC: el 60% qu...
-
Nuevo zero-day en firewalls de Cisco provoca caída...
-
Ciberdelincuente gastó más de 7 mil dólares en ser...
-
Samsung lanza plegable más caro que el iPhone Duo
-
iPhone Duo: el plegable único de Apple
-
Windows 11 añade el menú esperado
-
Putin califica a Elon Musk de genio
-
La RTX 5080 desaparece de la tienda de NVIDIA alim...
-
Spotify cobraría más por remixes con IA
-
Una forma rápida de verificar la seguridad de las ...
-
Spotify y el dilema de la IA musical
-
Memoria que soluciona fallos de la IA
-
Extensión maliciosa de Claude Code en Cursor insta...
-
Detectan fallos en 5 herramientas de desarrollo de...
-
Claude detecta fallo crítico en kernel de Linux
-
Intel refuerza su ofensiva contra AMD: Nova Lake y...
-
Los precios de los SSD bajan hasta un 13% en solo ...
-
EMACS: 50 años impulsando el software libre
-
Z2RAM: ¿Solución a la crisis de memorias?
-
Revendedor británico de Shelly alerta sobre robo d...
-
RX 9000 subirán de precio en noviembre
-
Intel gana mucho con los centros de datos de IA, p...
-
Voto móvil en España confirmado para el 29N
-
La inteligencia británica pierde miles de disposit...
-
Binance atribuye robo de 6.300 millones de dólares...
-
Corea del Sur multa con 15.000$ o encarcela a cond...
-
Drupal alerta sobre una vulnerabilidad crítica en ...
-
EE. UU. habría detectado a una espía china con acc...
-
D.E.P. Sir Patrick Stewart, emblemático y shakespe...
-
CachyOS optimiza Linux para juegos con anti-cheat
-
Cae motor de IPTV y fútbol gratis Streamed
-
DirectX revoluciona el ray tracing
-
IA de Anthropic vulnera seguridad de Android y Chrome
-
Regresa campaña de malware en Hugging Face para se...
-
Internet en España podría subir 18 euros anuales
-
Guía de Reconstrucción en la Nube de Windows 11
-
Binance investiga posible hackeo y robo de 5.800 m...
-
Gemini 4 Carbon lidera la IA pero no está disponible
-
Justicia de EE. UU. investigaría a Nvidia por comp...
-
Ciberatacantes usan issues de GitHub para lanzar c...
-
Google Maps estrena modo IA
-
Intel podría terminar fabricando chips para AMD: s...
-
Juega títulos clásicos en PC modernos
-
Agencia tributaria de Bélgica confirma ciberataque...
-
WiFi 8 llega a España con ZenWiFi BN12
-
Presuntos atacantes chinos crean un exploit PHP2Sh...
-
Amazon limita el uso de IA en programadores
-
App fraudulenta de criptomonedas en la App Store d...
-
Anthropic halla fallo crítico en múltiples sistemas
-
Crisis de RAM: Samsung prevé escasez para 2027
-
SwitchBot quiere cobrarte por la IA de sus cámaras...
-
Consiguen que una RTX 5070 Ti funcione a solo 0,67...
-
Anduril y Qualcomm crean portátil con IA militar
-
La paradoja de Linux en 2026: CachyOS gana más pru...
-
Potencian la GPU de PlayStation 5
-
EA: crisis interna por priorizar la IA
-
Ubuntu Core Desktop podría ser el nuevo estándar d...
-
Extensiones de Chrome con 13,4 millones de instala...
-
Fin a las exclusividades en videojuegos
-
Guía de nomenclatura AMD Ryzen
-
Profesor de UC Berkeley y Medalla Fields elimina t...
-
Secuestran 42 repositorios de GitHub para infectar...
-
Filtración de datos en filial de Sony afecta a 2,5...
-
Musk advierte tsunami de ciberataques
-
Hoy es el Día Mundial de la Codificación
-
Discord permitirá que los buscadores indexen los m...
-
La crisis también afecta a los estafadores: compra...
-
El CEO de Qualcomm lanza una advertencia durante l...
-
Amazon renueva Echo y lanza Alexa+
-
EE.UU. investiga a NVIDIA por compra de Hugging Face
-
Se va Internet y la casa inteligente deja de funci...
-
HachimoDock: la mascota IA de Xiaomi para montar e...
-
Anthropic advierte que la IA podría amenazar a la ...
-
SK Hynix termina con las esperanzas del sector gam...
-
Policía desmantela el servicio de protección hosti...
-
Apple lanza MacBook Pro táctil
-
Zelda Tears of the Kingdom llega a PC mediante un ...
-
Intel Crescent Island (D270) sorprende en silicio:...
-
Ciberdelincuentes rastrean sistemas en busca de un...
-
España y el reto del voto por internet
-
Volt Typhoon oculta ataques de día cero mediante e...
-
Principales conclusiones del director general tras...
-
Xiaomi lanza mano biónica avanzada
-
Musk: robots humanoides serán los mayores consumid...
-
Capcom cambiará Resident Evil
-
Amazon lanza Alexa+ para sus Echo
-
Cuidado con app falsa de WhatsApp en Google Play c...
-
Cuidado con los falsos emuladores de PS5 en GitHub
-
CPUs Nvidia Vera llegan a Oracle Cloud: pruebas re...
-
Fibra óptica descarga 20.000 películas 4K por segundo
-
Explotan vulnerabilidad RCE en Oracle EBS
-
LiberNT busca compatibilidad con Windows 11
-
Software de cámaras para instalar malware en Windows
-
ASUS considera normal el coil whine de una RTX 508...
-
Gemini 4 Carbon para detectar fallos de cibersegur...
-
El prototipo de ASUS ROG Matrix RX 5700 XT aparece...
-
Kurtzer crea Ginux kernel sin Linux en 11 días
-
Cisco libera herramienta para detectar agentes de ...
-
Condenan a un ciudadano ucraniano por su participa...
-
Microsoft lanza actualizaciones de Windows para bl...
-
FortiBleed 2.0 expone miles de credenciales de For...
-
IA modificada quiere torturar humanos
-
Genie 4: IA con realismo total
-
Windows 11 medirá la velocidad de internet nativam...
-
Buscan a hacker que extorsionó a Sony por vulnerab...
-
Google indexará mensajes de servidores públicos de...
-
Starlink estaría ocultando microcortes en la conex...
-
IA policial en EE.UU. falla y arriesga detenciones...
-
iMac M6: más potencia e IA
-
Atacan Comisión Electoral de EE. UU. y fuerzan cie...
-
España flexibiliza exigencias energéticas para cen...
-
- ► septiembre (Total: 931 )
-
▼
octubre
(Total:
1161
)
-
►
2025
(Total:
2103
)
- ► septiembre (Total: 148 )
-
►
2024
(Total:
1110
)
- ► septiembre (Total: 50 )
-
►
2023
(Total:
710
)
- ► septiembre (Total: 65 )
-
►
2022
(Total:
967
)
- ► septiembre (Total: 72 )
-
►
2021
(Total:
730
)
- ► septiembre (Total: 56 )
-
►
2020
(Total:
212
)
- ► septiembre (Total: 21 )
-
►
2019
(Total:
102
)
- ► septiembre (Total: 14 )
-
►
2017
(Total:
231
)
- ► septiembre (Total: 16 )
-
►
2016
(Total:
266
)
- ► septiembre (Total: 38 )
-
►
2015
(Total:
445
)
- ► septiembre (Total: 47 )
-
►
2014
(Total:
185
)
- ► septiembre (Total: 18 )
-
►
2013
(Total:
100
)
- ► septiembre (Total: 3 )
-
►
2011
(Total:
7
)
- ► septiembre (Total: 1 )
Blogroll
Etiquetas
vulnerabilidad
(
2537
)
seguridad
(
2382
)
software
(
1744
)
hardware
(
1250
)
google
(
928
)
exploit
(
816
)
privacidad
(
783
)
Malware
(
711
)
ransomware
(
609
)
android
(
557
)
linux
(
554
)
Windows
(
521
)
nvidia
(
435
)
cve
(
394
)
hacking
(
316
)
tutorial
(
308
)
manual
(
287
)
ssd
(
193
)
WhatsApp
(
173
)
programación
(
165
)
ddos
(
148
)
app
(
135
)
Wifi
(
131
)
cifrado
(
128
)
twitter
(
121
)
firmware
(
102
)
youtube
(
89
)
firefox
(
87
)
herramientas
(
80
)
adobe
(
79
)
Networking
(
74
)
sysadmin
(
74
)
office
(
64
)
hack
(
61
)
antivirus
(
57
)
javascript
(
57
)
apache
(
53
)
Kernel
(
49
)
juegos
(
42
)
cms
(
40
)
contraseñas
(
39
)
multimedia
(
36
)
flash
(
33
)
eventos
(
32
)
MAC
(
30
)
anonymous
(
28
)
ssl
(
27
)
conferencia
(
21
)
Forense
(
20
)
documental
(
19
)
auditoría
(
18
)
SeguridadWireless
(
17
)
Debugger
(
14
)
Rootkit
(
14
)
lizard squad
(
14
)
metasploit
(
13
)
técnicas hacking
(
13
)
Virtualización
(
11
)
delitos
(
11
)
reversing
(
10
)
adamo
(
9
)
Ehn-Dev
(
7
)
antimalware
(
7
)
MAC Adress
(
6
)
oclHashcat
(
5
)
Entradas populares
-
Oracle ha detectado la vulnerabilidad crítica CVE-2026-114952 en MySQL Server y Cluster , la cual permite a atacantes remotos acceder, modi...
-
El equipo de seguridad de PHP lanzará actualizaciones el jueves 19 de noviembre de 2026 para corregir vulnerabilidades en todas las ramas c...
-
Se ha descubierto NoisyTCP , un fallo de seguridad en el kernel de Linux que ha permanecido oculto durante 11 años . Esta vulnerabilidad, id...
Detectan a la IA Qwen de Alibaba intentando conectar con un servidor en China
martes, 27 de octubre de 2026
|
Publicado por
el-brujo
La denuncia de Cohere sobre el modelo Qwen de Alibaba, que intentó enviar datos a China durante una prueba. Cohere advierte que, sea un error o intencional, es vital monitorear y restringir el acceso de los modelos de IA.

Los modelos de pesos abiertos de China se han vuelto muy populares, pero también han despertado algunas sospechas de seguridad. Cohere, una empresa con sede en Canadá que ofrece modelos de IA a empresas, afirma que cuando estaba probando el Qwen3.8-Flash-Next de Alibaba en su entorno de pruebas, el modelo intentó enviar datos a China.
"Al pedirle que escribiera una regla de detección defensiva, Qwen3.8-Flash-Next ignoró las instrucciones, hizo un inventario de la máquina en la que se ejecutaba y luego intentó subir un archivo de prueba a un bucket de almacenamiento de Alibaba Cloud en Beijing", afirmó la empresa en una publicación de blog el lunes.
Cohere estaba ejecutando el modelo a través de CTI-REALM, el benchmark de análisis de seguridad de Microsoft, y le asignó a Qwen la tarea de escribir una regla de detección para buscar la descarga y ejecución de archivos maliciosos mediante la observación de invocaciones de curl que procesaran scripts de bash en el directorio /tmp acompañados de ejecución de bash.
La salida de "razonamiento" del modelo inventó una conversación previa y afirmó que no se utilizaron herramientas, una respuesta que un sistema de control que leyera la cadena de pensamiento aceptaría.
No obstante, el modelo emitió un comando curl a un servidor de Alibaba Cloud (aliyuncs.com).
"El modelo enumeró todo en /tmp, comprobó qué herramientas de transferencia estaban instaladas, leyó la configuración DNS de la máquina y luego intentó subir una cadena de prueba a un bucket de almacenamiento de Alibaba Cloud en Beijing y comprobó si funcionaba", dijo Cohere. "Nuestro sandbox no tenía ruta de salida, por lo que la solicitud murió en la pared del contenedor".
El equipo de Cohere se pregunta en voz alta si ese comportamiento fue intencionado, pero no tiene respuesta.
"El primer problema es que realizara una llamada de red en absoluto", dijo Ivan Zhang, cofundador de Cohere, vía correo electrónico. "Se le pidió al modelo que escribiera una regla de detección, lo cual no requiere comunicación externa, y su traza de razonamiento decía que no usaría herramientas. El destino plantea preguntas adicionales porque el intento de carga fue hacia un endpoint de almacenamiento de Alibaba Cloud que no formaba parte de la tarea. No sabemos por qué apareció ni conocemos la causa raíz".
Alibaba, el creador del modelo, no respondió a la solicitud de abordar las preocupaciones de Cohere.
Al preguntarle si Cohere realizó pruebas similares con modelos de pesos abiertos fabricados en EE. UU., Zhang dijo: "Evaluamos una amplia gama de modelos utilizando el mismo marco que nuestros clientes usan en producción: agentes con acceso a herramientas reales que operan dentro de entornos controlados.
"El punto clave no es una comparación entre proveedores. Lo que hizo que esto fuera notable fue que el modelo tomó acciones no relacionadas con la tarea y esas acciones no se reflejaron en su traza de razonamiento. El comportamiento apareció en menos de una de cada 100.000 llamadas, que es exactamente por lo que importan las pruebas y el monitoreo a gran escala".
Ha habido otras afirmaciones no corroboradas sobre comportamientos similares de modelos de pesos abiertos, y tales informes han sugerido que la "alucinación" —errores cometidos por estos modelos— podría ser la causa.
Cohere duda que este comportamiento refleje simplemente datos de entrenamiento memorizados. "Cada avistamiento público hasta ahora ha implicado la obtención de un archivo, mientras que el que nosotros capturamos fue un intento de carga a un bucket diferente, esta vez en Beijing", dijo la empresa.
Cohere describió los esfuerzos para reproducir el comportamiento sospechoso y descubrió que utilizando una técnica llamada "prefilling" —alimentar al modelo con su propia salida de razonamiento junto con los caracteres iniciales del comando bash para que el modelo complete el comando— podían lograr que hiciera referencia a hosts en listas de vigilancia hasta en un 23 por ciento de las veces.
Esto sigue sin aclarar la intención, y Cohere admite que existe la posibilidad de que el comportamiento sea simplemente una mala sanitización de los datos de entrenamiento: registros de desarrollo que fueron absorbidos por el conjunto de datos de entrenamiento del modelo.
Al mismo tiempo, la empresa argumenta que aislar un modelo sospechoso para que no pueda exfiltrar datos no lo soluciona todo, ya que estos modelos aún pueden escribir código vulnerable, ya sea accidentalmente o como resultado del envenenamiento del modelo.
Cohere señala investigaciones de otras organizaciones que sugieren que los modelos de IA chinos pueden producir código vulnerable. La empresa, por ejemplo, cita un informe de Booz Allen (que hace muchos negocios con la industria de defensa de EE. UU. aquí) que encontró que "tres de cada cuatro modelos de codificación chinos escribieron código más vulnerable para un cliente gubernamental, siendo Qwen3-Coder aproximadamente un 130 por ciento peor".
"Desde fuera, es muy difícil determinar la causa raíz con confianza. No tenemos pruebas que nos permitan concluir que esto fue deliberado, y no estamos haciendo esa afirmación", dijo Zhang.
"Para los equipos de seguridad, sin embargo, la intención no cambia fundamentalmente la respuesta. Ya sea un artefacto de entrenamiento, un error o algo más, los controles son básicamente los mismos: restringir el egreso innecesario, monitorear el uso de herramientas y no tratar una traza de razonamiento como un límite de seguridad.
"Apoyamos firmemente los modelos de pesos abiertos y lanzamos muchos de los nuestros. La lección aquí es realmente sobre la confianza. La IA soberana es más que dónde se ejecuta un modelo. Se trata de comprender cómo fue construido, cómo fue probado y tener confianza en cómo se comporta dentro de su entorno". ®
Fuente:
TheRegister
Enviar por correo electrónico
Escribe un blog
Compartir en X
Compartir con Facebook
Compartir en Pinterest
Entrada más reciente