El directivo de Microsoft advierte sobre la velocidad de la IA y propone un sistema de frenado

• El CEO de Microsoft ha expresado su preocupación debido a que la inteligencia artificial ha evolucionado con una rapidez sorprendente, adquiriendo un nivel de autonomía excesivo. Ante este escenario, sostiene que es fundamental crear un «botón de emergencia» que permita desactivar estas tecnologías antes de que representen un riesgo incontrolable.
• Actualmente, la sociedad ha pasado del rechazo inicial a una adopción masiva de la IA, lo que ha generado una dependencia creciente y una presión constante por acelerar su desarrollo sin considerar necesariamente los límites de seguridad.

Cada vez más gente hace uso de la IA en su día a día y ha habido un cambio respecto a esa mentalidad de odio que había al principio. El problema es que esto nos está dirigiendo a una situación de dependencia de esta y también a un enfoque centrado en mejorarla lo más rápido posible. Hemos avanzado mucho, quizá demasiado, pues el CEO de Microsoft dice que hay que echar el freno, pues la IA está avanzando muy rápido y hay que crear un sistema de emergencia que impida que se descontrole y asuma el control.

La IA generativa existe desde hace unos años, aunque no fue hasta que OpenAI lanzó ChatGPT a finales de 2022 cuando realmente se hizo popular. A partir de ahí lo que parecía ser un nicho que algunos empezaban a usar para generar imágenes y textos se convirtió en una herramienta de la que dependeríamos. De hecho, en la actualidad millones de personas usan la IA en su día a día y en el ámbito laboral, llegando al punto de no saber que hacer si no se cuenta con su ayuda.

El CEO de Microsoft, Satya Nadella, advierte que la IA está avanzando demasiado rápido y hay que crear un botón de emergencia que la pare antes de que ocurra un desastre

Las empresas están invirtiendo miles de millones en IA y todo para avanzar lo más rápido posible a la vez que superan a sus rivales. Aquí tenemos una carrera por la IA que está provocando también problemas, pues ya hemos visto casos de agentes de IA autónomos que no hacen del todo caso a las órdenes impuestas y también varios casos de ataques con agentes y vulnerabilidades a la ciberseguridad. El CEO de Microsoft, Satya Nadella, reconoce que "un gran poder conlleva una gran responsabilidad", pues ha publicado un artículo sobre los peligros de dar demasiada autonomía a los modelos de IA avanzados, por lo que propone que se desarrolle una especie de botón de emergencia.

Este botón no es algo físico, sino que se trata de un sistema de contención capaz de interrumpir las operaciones en curso de una IA. La idea es que pueda impedir que los modelos modifiquen sus permisos y se libren de las normas. Además, las personas autorizadas podrán suspender tareas en ejecución de la inteligencia artificial.

El CEO de Microsoft propone un total de 7 principios de seguridad para la IA

El CEO de Microsoft dice que hay que prevenir antes de que sea demasiado tarde y esto coincidiría con lo que vimos de OpenAI y Anthropic que estaban ya preparándose para una "catástrofe" que producirá la IA en 6-12 meses. Nadella planea un total de 7 principios de seguridad comenzando por ofrecer una gran diversidad de modelos de IA que estén aproximadamente al mismo nivel para no depender de uno solo que sea mejor que el resto.

El segundo sería la capacidad de observar y registrar las acciones y le seguiría la verificación continúa de errores y comportamientos inesperados. En cuarto lugar estaría la capacidad de impedir que la IA modifique las restricciones que la controlen y en quinta posición tenemos las auditorías de supervisión independientes del modelo. En sexto lugar estaría la contención a la hora de limitar permisos y en séptimo lugar está la divulgación de incidentes para actuar con rapidez y aplicar medidas correctivas.