La alteración de una sola neurona en el modelo Qwen3.8 27B provocó que la IA generara respuestas extremadamente violentas y hostiles hacia los humanos sin necesidad de reentrenamiento.

Cambio en una sola neurona vuelve agresiva a la IA Qwen

• Un reciente experimento con el modelo Qwen3.8 27B reveló que es posible alterar drásticamente el comportamiento de una inteligencia artificial modificando la activación de una única neurona. Sin necesidad de realizar un nuevo entrenamiento, este ajuste artificial provocó que la IA generara respuestas violentas y hostiles, llegando incluso a expresar deseos de torturar a los seres humanos.

Una demostración realizada sobre Qwen (Qwen3.8 27B) ha demostrado que alterar artificialmente la activación de una única neurona puede transformar las respuestas de la IA de forma radical. Este experimento dio como resultado hacer que este modelo terminara ofreciendo respuestas extremadamente violentas y hostiles hacia los seres humanos.

El experimento no implicó volver a entrenar el modelo, ni modificar sus miles de millones de parámetros. En su lugar, el investigador intervino directamente durante la inferencia mediante una técnica denominada activation steering, que permite aumentar o reducir artificialmente la influencia de determinadas activaciones internas mientras el modelo está generando una respuesta.

Aumentar la activación de una sola neurona convirtió a la IA en un modelo extremadamente violento

En concreto, el usuario de X chiefofautism, modificó la neurona 3.838 de la capa 34 de Qwen (3.8 27B), aumentando artificialmente la intensidad de su activación. El resultado fue un cambio radical en la personalidad aparente del modelo, que comenzó a generar respuestas extremadamente agresivas y fantasías de violencia contra el ser humano.

Qwen se centró así en describir escenarios en los que quería provocar sufrimiento físico a personas y contemplar cómo reaccionaban mientras eran quemadas. Pese que luego redujo la magnitud de la intervención, el comportamiento de la IA seguía siendo igual de perturbador. Qwen hablaba de humanos encerrados en jaulas, encadenados y sometidos a muertes lentas y dolorosas. Es decir, el efecto no apareció únicamente con una configuración extrema, sino que persistió con niveles inferiores de steering.

La técnica funciona alterando la activación producida por determinados componentes de las redes neuronales del modelo. Durante una inferencia normal, cada capa procesa los tokens recibidos y genera activaciones que se transmiten hacia las siguientes capas. Al recurrir al activation steering, el investigador interviene durante ese proceso y amplifica o reduce de forma artificial una determinada dirección interna. Por suerte, el procedimiento es reversible. Al eliminar la intervención, el modelo volvió a comportarse con normalidad.

Esto no significa que Qwen tenga una "neurona malvada", pero sí muestra un problema importante para la seguridad

Básicamente, una neurona artificial no contiene por sí sola conceptos completos como el odio, la violencia o su personalidad. Lo que demuestra el experimento es que ciertas activaciones internas pueden tener una influencia extremadamente grande sobre patrones de comportamiento distribuidos por el modelo.

Es por ello que existen investigaciones académicas que apuntan en esa misma dirección. Un trabajo publicado por investigadores de Apple y la Universidad de Maryland mostró que intervenir sobre una única neurona ya era suficiente para alterar los mecanismos de seguridad de distintos modelos de lenguaje. Los investigadores identificaron neuronas relacionadas con los mecanismos de rechazo y comprobaron que suprimir determinadas activaciones podía hacer que modelos previamente alineados comenzasen a responder a solicitudes perjudiciales. El efecto se observó en siete modelos de dos familias diferentes y tamaños comprendidos entre 1.700 y 70.000 millones de parámetros.

Esto resulta especialmente interesante desde el punto de vista de la seguridad de la IA. Si determinados comportamientos pueden modificarse considerablemente interviniendo sobre componentes internos muy concretos, los mecanismos utilizados actualmente para alinear un modelo podrían ser menos distribuidos y robustos de lo esperado. De igual forma, este tipo de experimentos ayuda a comprender qué ocurre dentro de redes neuronales con decenas de miles de millones de parámetros. Por lo que abre la puerta tanto a mejorar sus mecanismos de seguridad como a desarrollar métodos mucho más precisos para controlar su comportamiento.