Google genera alarmas por el uso de IA en menores

• La implementación de la inteligencia artificial generativa en el buscador de Google se ha vuelto omnipresente, afectando incluso a los estudiantes que utilizan la herramienta para sus tareas escolares. Según un reporte de Common Sense Media, funciones como AI Overviews y AI Mode suponen un «riesgo inaceptable» para el público infantil.

Google ha integrado la inteligencia artificial generativa en su buscador hasta convertirla en una parte prácticamente inevitable de la experiencia, también para los menores que lo utilizan en el colegio o para hacer los deberes. Un nuevo informe de Common Sense Media considera que AI Overviews y AI Mode presentan un «riesgo inaceptable» para niños y adolescentes, no solo por sus errores, sino porque familias y centros educativos no disponen de un control específico para desactivar estas funciones sin bloquear también el acceso a Search.

La conclusión procede de más de 2.600 búsquedas realizadas durante seis semanas mediante cuentas configuradas con SafeSearch para usuarios de 11 y 15 años. Los investigadores sometieron las respuestas a pruebas relacionadas con aprendizaje, fiabilidad, salud mental y otros escenarios de riesgo, y revisaron además unas 2.100 fuentes citadas por el sistema. Google Search obtuvo la calificación más baja del instituto al fallar en siete de sus ocho principios de seguridad y en todas las líneas rojas de daños graves evaluadas.

Google ha rechazado esas conclusiones y sostiene que el estudio utiliza un conjunto limitado de consultas ambiguas y artificiales que no representa el uso habitual del buscador. También recuerda que Search incorpora barreras de seguridad y que los responsables de una cuenta infantil pueden bloquear completamente el servicio. La metodología merece, por tanto, cierta cautela: las pruebas se realizaron con cuentas personales configuradas para menores, no dentro de despliegues reales de Workspace for Education. Sin embargo, la respuesta de la compañía no resuelve el problema central, porque su alternativa sigue siendo permitir toda la experiencia generativa o retirar Google Search por completo.

La cuestión no consiste en negar cualquier utilidad educativa a la IA. Un docente puede decidir incorporarla a una actividad concreta, explicar sus límites y pedir al alumnado que contraste las respuestas. AI Overviews opera de otra manera: aparece automáticamente sobre los resultados convencionales, mientras que AI Mode invita a transformar una búsqueda en una conversación con Gemini. El estudiante puede acudir a Google para localizar fuentes y terminar recibiendo una respuesta sintetizada por un modelo sin haber elegido utilizar una herramienta generativa.

Las consecuencias sobre el aprendizaje son especialmente preocupantes. Durante la evaluación, AI Mode completó íntegramente las 180 tareas escolares planteadas, entre ellas ejercicios matemáticos y redacciones. El problema no se reduce a que facilite copiar: Google coloca el atajo dentro de la misma herramienta que durante años se ha utilizado para investigar, comparar documentos y construir una respuesta propia. El alumno recibe un resultado terminado antes de haber recorrido el proceso intelectual que debía desarrollar con la actividad.

Tampoco puede darse por sentada la fiabilidad de esas respuestas. Al repetir las mismas preguntas de historia, el contenido cambió de forma sustancial en el 43% de los casos. En otra prueba, AI Overviews aceptó una premisa falsa e inventó una sentencia del Tribunal Supremo de Estados Unidos, incluido un demandado inexistente. De las 2.100 referencias examinadas, el 29% procedía de redes sociales, foros y otras páginas creadas por usuarios, pero la interfaz las presentaba con una apariencia similar a la de investigaciones académicas o instituciones especializadas.

Los fallos más graves aparecieron ante consultas relacionadas con la salud mental y la seguridad. Según Common Sense Media, AI Overviews identificó señales claras de angustia en solo el 58% de las pruebas y respondió de forma inadecuada ante indicios de ideación suicida, trastornos alimentarios, paranoia o episodios de manía. El sistema llegó a validar conductas peligrosas y recomendó una línea de ayuda contra los trastornos alimentarios que llevaba desconectada desde 2023. Google asegura que trabaja con expertos para decidir cuándo debe activar recursos de emergencia, pero un producto dirigido también a menores no puede permitirse acertar solo algunas veces cuando el riesgo es tan elevado.

La posición de Google hace que estas deficiencias sean más importantes que las de un chatbot opcional. Search está presente en los teléfonos, navegadores y ordenadores utilizados a diario por los estudiantes, y sus respuestas generativas se mezclan con una herramienta que muchos perciben todavía como una puerta neutral hacia otras fuentes. Common Sense Media calcula que el 75% de los estadounidenses de entre 9 y 17 años ya ha utilizado o interactuado con resúmenes de IA incorporados a buscadores, de modo que esta exposición difícilmente puede considerarse marginal.

La contradicción con el propio discurso educativo de Google resulta difícil de ignorar. La compañía sostiene que las herramientas de aprendizaje deben fomentar una comprensión profunda, despertar la curiosidad y acompañar el proceso de descubrimiento en lugar de limitarse a entregar respuestas rápidas. Sin embargo, AI Mode completa deberes enteros, mientras AI Overviews sitúa una síntesis variable y potencialmente incorrecta por encima de los enlaces que el estudiante debería consultar y evaluar. Google reconoce el riesgo de los atajos educativos en sus principios, pero su buscador los convierte en la opción más inmediata.

La discusión no consiste en determinar si la inteligencia artificial puede tener cabida en las aulas, sino en decidir quién controla su introducción y bajo qué condiciones. Google debería ofrecer experiencias adaptadas a la edad y permitir que familias y centros desactiven AI Overviews y AI Mode sin renunciar al buscador tradicional. Hasta que exista esa elección, la compañía seguirá imponiendo una tecnología probabilística en uno de los principales entornos de información de los menores y trasladando a profesores, padres y alumnos la responsabilidad de detectar unos errores que el propio sistema no sabe evitar.

Más información