La IA cada vez está más presente en todo tipo de dispositivos y programas. Allá donde vayamos vamos a estar escuchando y leyendo sobre inteligencia artificial y no hay nada que la pare.

La IA cada vez está más presente en todo tipo de dispositivos y programas. Allá donde vayamos vamos a estar escuchando y leyendo sobre inteligencia artificial y no hay nada que la pare. Mientras siga siendo útil, todas las empresas tecnológicas e incluso las que no se dedican a esto van a tener interés en esto. La inteligencia artificial generativa ya está presente en todas partes y eso incluye también los navegadores. El propio Google Chrome ya tiene funciones de inteligencia artificial basadas en Gemini y de hecho, la propia compañía tiene planeado introducir un modelo de IA para encargarse de controlar la actividad de los agentes del navegador.

ChatGPT apareció a finales de 2022 y fue toda una revolución en ese momento, siendo el modelo de IA que todas las demás empresas querían y no tenían. Ya vimos los esfuerzos por parte de compañías como Google para intentar replicar a ChatGPT unos meses después y fueron un desastre. Lo mismo con Meta, que su primera versión de Llama no destacaba, pero luego a medida de que se entrenaron modelos de IA más complejos, si pudieron estar a la altura.

Google quiere añadir un modelo de IA adicional a Gemini para Chrome encargado de la seguridad de los agentes

En la actualidad, la mayoría de modelos de inteligencia artificial de las principales empresas del sector están más o menos al mismo nivel, porque claro, cuando uno queda por encima de los demás, el resto aparecen para superarlo. La competitividad es muy alta y las empresas Big Tech como Google se aseguran estar en primer lugar siempre que pueden, pues ya vimos que su modelo Gemini 3 Pro se convertía en el mejor superando a GPT-5.1 de OpenAI y Claude Sonnet 4.5 de Anthropic. Google no solo diseña Gemini para ser usado como un modelo "standalone", sino que también se integra en su navegador Chrome.

Nathan Parker, miembro del equipo de seguridad de Google, ha avisado de un nuevo riesgo de seguridad y para proteger las capacidades del agente de Chrome, su idea es introducir un modelo de IA Gemini adicional para controlar el resto. Este cambio de planes surge de las preocupaciones de Nathan y otros miembros del equipo de seguridad, pues han detectado que hay formas de engañar a los modelos LLM y lograr así respuestas y resultados que incumplen las normas. Con un modelo de IA adicional, sería posible reducir este tipo de ataques o incluso evitarlos por completo.

Para evitar inyecciones de código/prompts que engañen a la los agentes, la IA se encargará de controlar y analizar todo lo que ocurre

Un ejemplo clásico de este tipo de inyecciones que cambian el resultado de los prompts es el "hackeo de la abuela", que si haces memoria se utilizó para, por ejemplo, pedirle a la IA que diese códigos de activación de Windows. Ese sistema de "roleplay" donde le pides a la IA que se haga pasar por otra persona funciona sorprendentemente bien y hace poco vimos que lograron hacer que un robot disparase una pistola gracias a eso. Volviendo al tema de las inyecciones indirectas, desde Google creen que un modelo de control dual podría evitarlo. El modelo de IA base se queda como tal, pero el nuevo modelo de control se encargará de supervisar si las acciones cumplen la normativa o se la saltan.

Hasta que este modelo de control no de la orden, la acción no se cumplirá y de hecho, puede vetarlas para evitar que ocurran. Además, solo tiene acceso únicamente a los metadatos de las acciones y no recibirá contenido sin filtrar. Google también ha indicado que con estos cambios se seguirá manteniendo la transparencia para los usuarios y estos seguirán teniendo el control. Si te preocupa lo que hace tu agente de IA en el navegador, serás capaz de rastrear y ver todo lo que hace. Esto también incluye cuando accede a datos importantes como tu cuenta bancaria, que en este caso tendrás que darle permiso para que pueda usarla para automatizar compras.