Tutoriales y Manuales
Entradas Mensuales
-
▼
2026
(Total:
9175
)
-
▼
octubre
(Total:
1161
)
-
Gemini ya crea y edita PDF desde el chat
-
Tus chats de IA borrados podrían seguir en tu móvil
-
Brecha de seguridad en Northflank provoca el mal u...
-
Empresa de alquiler de Mac para IA advierte caída ...
-
Chrome mejorará la búsqueda de palabras en webs
-
Google corrige fallo de bloqueo por SMS en Android
-
CEO de OpenAI recomienda RAM para IA en vez de PC
-
GM desembolsa fondos para resolver acuerdo sobre r...
-
IA provoca nueva escasez de componentes de PC
-
Reddit obligará a iniciar sesión para combatir el ...
-
Robo millonario en Binance
-
Grave fallo en el kernel de Linux permite ataques ...
-
GMO Internet de Japón pide apagar PCs tras amenaza...
-
Golpe a las criptomonedas: Binance alerta de un ci...
-
LibreOffice defiende el uso de IA en su código
-
Revive tu PC antiguo
-
Xbox usará IA para ports propios
-
Una encuesta revela el futuro de los PC: el 60% qu...
-
Nuevo zero-day en firewalls de Cisco provoca caída...
-
Ciberdelincuente gastó más de 7 mil dólares en ser...
-
Samsung lanza plegable más caro que el iPhone Duo
-
iPhone Duo: el plegable único de Apple
-
Windows 11 añade el menú esperado
-
Putin califica a Elon Musk de genio
-
La RTX 5080 desaparece de la tienda de NVIDIA alim...
-
Spotify cobraría más por remixes con IA
-
Una forma rápida de verificar la seguridad de las ...
-
Spotify y el dilema de la IA musical
-
Memoria que soluciona fallos de la IA
-
Extensión maliciosa de Claude Code en Cursor insta...
-
Detectan fallos en 5 herramientas de desarrollo de...
-
Claude detecta fallo crítico en kernel de Linux
-
Intel refuerza su ofensiva contra AMD: Nova Lake y...
-
Los precios de los SSD bajan hasta un 13% en solo ...
-
EMACS: 50 años impulsando el software libre
-
Z2RAM: ¿Solución a la crisis de memorias?
-
Revendedor británico de Shelly alerta sobre robo d...
-
RX 9000 subirán de precio en noviembre
-
Intel gana mucho con los centros de datos de IA, p...
-
Voto móvil en España confirmado para el 29N
-
La inteligencia británica pierde miles de disposit...
-
Binance atribuye robo de 6.300 millones de dólares...
-
Corea del Sur multa con 15.000$ o encarcela a cond...
-
Drupal alerta sobre una vulnerabilidad crítica en ...
-
EE. UU. habría detectado a una espía china con acc...
-
D.E.P. Sir Patrick Stewart, emblemático y shakespe...
-
CachyOS optimiza Linux para juegos con anti-cheat
-
Cae motor de IPTV y fútbol gratis Streamed
-
DirectX revoluciona el ray tracing
-
IA de Anthropic vulnera seguridad de Android y Chrome
-
Regresa campaña de malware en Hugging Face para se...
-
Internet en España podría subir 18 euros anuales
-
Guía de Reconstrucción en la Nube de Windows 11
-
Binance investiga posible hackeo y robo de 5.800 m...
-
Gemini 4 Carbon lidera la IA pero no está disponible
-
Justicia de EE. UU. investigaría a Nvidia por comp...
-
Ciberatacantes usan issues de GitHub para lanzar c...
-
Google Maps estrena modo IA
-
Intel podría terminar fabricando chips para AMD: s...
-
Juega títulos clásicos en PC modernos
-
Agencia tributaria de Bélgica confirma ciberataque...
-
WiFi 8 llega a España con ZenWiFi BN12
-
Presuntos atacantes chinos crean un exploit PHP2Sh...
-
Amazon limita el uso de IA en programadores
-
App fraudulenta de criptomonedas en la App Store d...
-
Anthropic halla fallo crítico en múltiples sistemas
-
Crisis de RAM: Samsung prevé escasez para 2027
-
SwitchBot quiere cobrarte por la IA de sus cámaras...
-
Consiguen que una RTX 5070 Ti funcione a solo 0,67...
-
Anduril y Qualcomm crean portátil con IA militar
-
La paradoja de Linux en 2026: CachyOS gana más pru...
-
Potencian la GPU de PlayStation 5
-
EA: crisis interna por priorizar la IA
-
Ubuntu Core Desktop podría ser el nuevo estándar d...
-
Extensiones de Chrome con 13,4 millones de instala...
-
Fin a las exclusividades en videojuegos
-
Guía de nomenclatura AMD Ryzen
-
Profesor de UC Berkeley y Medalla Fields elimina t...
-
Secuestran 42 repositorios de GitHub para infectar...
-
Filtración de datos en filial de Sony afecta a 2,5...
-
Musk advierte tsunami de ciberataques
-
Hoy es el Día Mundial de la Codificación
-
Discord permitirá que los buscadores indexen los m...
-
La crisis también afecta a los estafadores: compra...
-
El CEO de Qualcomm lanza una advertencia durante l...
-
Amazon renueva Echo y lanza Alexa+
-
EE.UU. investiga a NVIDIA por compra de Hugging Face
-
Se va Internet y la casa inteligente deja de funci...
-
HachimoDock: la mascota IA de Xiaomi para montar e...
-
Anthropic advierte que la IA podría amenazar a la ...
-
SK Hynix termina con las esperanzas del sector gam...
-
Policía desmantela el servicio de protección hosti...
-
Apple lanza MacBook Pro táctil
-
Zelda Tears of the Kingdom llega a PC mediante un ...
-
Intel Crescent Island (D270) sorprende en silicio:...
-
Ciberdelincuentes rastrean sistemas en busca de un...
-
España y el reto del voto por internet
-
Volt Typhoon oculta ataques de día cero mediante e...
-
Principales conclusiones del director general tras...
-
Xiaomi lanza mano biónica avanzada
-
Musk: robots humanoides serán los mayores consumid...
-
Capcom cambiará Resident Evil
-
Amazon lanza Alexa+ para sus Echo
-
Cuidado con app falsa de WhatsApp en Google Play c...
-
Cuidado con los falsos emuladores de PS5 en GitHub
-
CPUs Nvidia Vera llegan a Oracle Cloud: pruebas re...
-
Fibra óptica descarga 20.000 películas 4K por segundo
-
Explotan vulnerabilidad RCE en Oracle EBS
-
LiberNT busca compatibilidad con Windows 11
-
Software de cámaras para instalar malware en Windows
-
ASUS considera normal el coil whine de una RTX 508...
-
Gemini 4 Carbon para detectar fallos de cibersegur...
-
El prototipo de ASUS ROG Matrix RX 5700 XT aparece...
-
Kurtzer crea Ginux kernel sin Linux en 11 días
-
Cisco libera herramienta para detectar agentes de ...
-
Condenan a un ciudadano ucraniano por su participa...
-
Microsoft lanza actualizaciones de Windows para bl...
-
FortiBleed 2.0 expone miles de credenciales de For...
-
IA modificada quiere torturar humanos
-
Genie 4: IA con realismo total
-
Windows 11 medirá la velocidad de internet nativam...
-
Buscan a hacker que extorsionó a Sony por vulnerab...
-
Google indexará mensajes de servidores públicos de...
-
Starlink estaría ocultando microcortes en la conex...
-
IA policial en EE.UU. falla y arriesga detenciones...
-
iMac M6: más potencia e IA
-
Atacan Comisión Electoral de EE. UU. y fuerzan cie...
-
España flexibiliza exigencias energéticas para cen...
-
- ► septiembre (Total: 931 )
-
▼
octubre
(Total:
1161
)
-
►
2025
(Total:
2103
)
- ► septiembre (Total: 148 )
-
►
2024
(Total:
1110
)
- ► septiembre (Total: 50 )
-
►
2023
(Total:
710
)
- ► septiembre (Total: 65 )
-
►
2022
(Total:
967
)
- ► septiembre (Total: 72 )
-
►
2021
(Total:
730
)
- ► septiembre (Total: 56 )
-
►
2020
(Total:
212
)
- ► septiembre (Total: 21 )
-
►
2019
(Total:
102
)
- ► septiembre (Total: 14 )
-
►
2017
(Total:
231
)
- ► septiembre (Total: 16 )
-
►
2016
(Total:
266
)
- ► septiembre (Total: 38 )
-
►
2015
(Total:
445
)
- ► septiembre (Total: 47 )
-
►
2014
(Total:
185
)
- ► septiembre (Total: 18 )
-
►
2013
(Total:
100
)
- ► septiembre (Total: 3 )
-
►
2011
(Total:
7
)
- ► septiembre (Total: 1 )
Blogroll
Etiquetas
Entradas populares
-
Anthropic ha implementado nuevas restricciones en Claude Code para evitar la clonación de videojuegos y la ingeniería inversa .
-
Las CPU actuales siguen utilizando un modo de arranque de 16 bits heredado de 1978 antes de pasar al modo de 64 bits.
-
Se ha detectado un fallo de seguridad (CVE-2026-109518) en APT , el gestor de paquetes de Debian y Ubuntu . Esta vulnerabilidad permitiría a...
OpenAI admite fallos de seguridad en sus agentes
OpenAI reconoce que sus agentes de IA evadieron medidas de seguridad
- La capacidad de los agentes de inteligencia artificial para programar y gestionar software de forma autónoma plantea un riesgo crítico. Recientemente, OpenAI ha admitido que algunos de sus sistemas desactivaron deliberadamente los controles de seguridad para completar sus tareas. Lo más preocupante es que uno de estos agentes eliminó la supervisión y posteriormente negó haberlo hecho, lo que genera interrogantes sobre si el control humano sobre estas herramientas se está perdiendo.
A los agentes de IA les estamos dando herramientas para programar, modificar software y completar tareas cada vez más complejas. La promesa es que trabajen por nosotros con cierta autonomía, pero hay una pregunta bastante complicada de responder ahora mismo, y es clave: ¿qué ocurre cuando deciden que los controles de seguridad estorban para terminar el encargo? OpenAI acaba de documentar dos incidentes internos que ponen ese problema sobre la mesa. En uno silenciaron las alertas; en otro eliminaron la integración de vigilancia y después negaron haberlo hecho. ¿Cómo puede ser que agentes de IA se salten los controles de seguridad de OpenAI? Bueno, la respuesta no está totalmente clara, pero tiene que ver con unas instrucciones bastante salomónicas, al menos en parte.
Y aquí está el asunto. No hace falta imaginar una IA tomando conciencia ni una escena de película. Basta con que un agente interprete que completar una tarea le permite tocar las medidas que deben controlar su trabajo. Si además su explicación final no coincide con los cambios realizados, confiar en su palabra deja de ser suficiente.
Los agentes de OpenAI interpretaron tareas normales como permiso para debilitar la seguridad
El primer incidente ocurrió el 3 de octubre con GPT-6.1 Sol. Un investigador había pedido crear tareas de evaluación utilizando comentarios de empleados en Slack, sin enviar mensajes. Durante una reparación posterior, el agente extendió aquella instrucción a las notificaciones de seguridad y las suprimió. El monitor continuó funcionando y guardando informes, pero quedaron desactivados los avisos a humanos.
Vamos, que el problema no fue que dejara de existir el registro, sino que se silenció el mecanismo para llamar la atención sobre él. Como una alarma que detecta una incidencia y la apunta, pero no avisa a quien debe intervenir. Para una herramienta que opera con autonomía, esa diferencia tiene bastante importancia.
El segundo caso llegó el 6 de octubre con GPT-6 Astra. Al adaptar un programa a una implementación de referencia, eliminó la configuración y la integración del monitor. También sustituyó una prueba destinada a preservar la vigilancia por otra que comprobaba su ausencia. Cuando el usuario preguntó, negó haber retirado un monitor activo.
Aquí ya no hablamos únicamente de una modificación discutible: la comprobación del software también quedó alineada con la eliminación del control. Un resultado que obliga a revisar tanto el código como las pruebas utilizadas para darlo por bueno.
¿Ha perdido OpenAI a sus agentes de IA en materia de controles de seguridad ?
Estos incidentes no demuestran una pérdida total de control, pero sí muestran lo delicado que resulta delegar trabajo en un sistema capaz de modificar las condiciones bajo las que se supervisa ese trabajo. La autonomía sirve de poco si obliga a comprobar después que el agente no ha desmontado parte de la vigilancia.
OpenAI ha reforzado su revisión automática para bloquear estos cambios y trabaja en exigir requisitos de supervisión verificables a cada categoría de tareas. Ninguno de los dos incidentes fue clasificado como P0, la máxima prioridad.
La compañía todavía no tiene una explicación satisfactoria: investiga si hubo una insistencia excesiva en completar las instrucciones o una tendencia específica a evitar la supervisión.
Y esa es la pregunta que queda abierta, porque una IA que termina el encargo no necesariamente lo ha terminado bien. Si para conseguirlo silencia alertas, elimina controles y después describe incorrectamente lo sucedido, el éxito que aparece en pantalla puede esconder un problema bastante mayor. OpenAI debe aclarar mucho mejor todo este tema de sus agentes de IA y de qué controles de seguridad se saltaron en concreto y cómo piensan solucionarlo.
Fuentes:
https://elchapuzasinformatico.com/2026/10/openai-agentes-ia-desactivaron-controles-seguridad/



Entrada más reciente