¿Por qué no debemos confiar en Grok para verificar?

"Puedes invocar a Grok en cualquier momento, así que muchos usuarios lo usan como elemento de verificación", explica Carlos Guadián, consultor especializado en comunicación digital, inteligencia artificial y análisis de datos. Como todos los modelos de lenguaje, siempre responde sobre cualquier tema y "hay gente que cree que tiene un uso válido, otros levantan la alarma porque puede ser un elemento de autoridad".

Este experto advierte del riesgo. Los modelos como Grok han evolucionado mucho y, a su juicio, algunos dan respuestas con el contenido referenciado y pueden tener utilidad dentro de un trabajo de verificación, "pero no son la verdad absoluta". Grok no razona, su "fuente principal de entrenamiento" es X, también Internet, lo que puede llevar a que las respuestas ante un mismo asunto no sean las mismas.

Nuria Oliver es experta en IA, doctora por el Instituto Tecnológico de Massachusetts (MIT), cofundadora y directora de la Fundación ELLIS Alicante sobre inteligencia artificial centrada en la humanidad. Su advertencia sobre Grok es la misma: "No hay garantía de veracidad". "Es importante entender que estos grandes modelos de lenguaje son probabilísticos, generan texto muy bien articulado, muy bien expresado, lo que hace que bajemos la guardia sobre si deberíamos fiarnos. Sin embargo, no son buscadores de información, son generadores de contenido en base a patrones estadísticos, de secuencias de palabras. Por eso es absolutamente necesario confirmar prácticamente cualquier cosa que digan", defiende.

Por esta razón, Grok puede ser más interesante, a juicio de esta experta, como herramienta creativa, para asociar ideas, para conectar conceptos diferentes. "Pero no tanto para escribir ensayos que se correspondan con la realidad o para contestarnos a preguntas del mundo físico, porque no hay una garantía. Al final, tardas más tiempo porque tienes que verificarlo todo", agrega.

Dos errores de Grok: de Tel Aviv a un vídeo del fondo del océano

Un usuario difunde una fotografía en X de una ciudad de noche sobre la que cae una lluvia de proyectiles y la presenta como Tel Aviv, en pleno enfrentamiento entre Israel e Irán. Son las 8:57 del 17 de junio. Cuatro horas después, un usuario pregunta en inglés a Grok: "¿Es IA?". Y Grok se inclina por que la imagen es auténtica.

Un día después, el 18 de junio sobre las 8:40 horas, otro usuario formula dos consultas más precisas sobre la misma imagen: "Analiza el número de misiles, las pruebas y los ángulos y determina si es IA o real", plantea. Y la respuesta de Grok cambia: asegura que "podría ser una foto de archivo o generada por IA". Y añade: "Confíe en fuentes de noticias verificadas para obtener imágenes precisas".

"Quieren un usuario cautivo, mantener cuanto más tiempo mejor haciendo peticiones dentro de la plataforma. El que se lleve el gato al agua, el que acabe teniendo una IA de cabecera, la que se usa para todo, va a ser el que va a dominar el panorama", concluye.

Fuentes:

https://www.rtve.es/noticias/20250626/esto-real-grok-explicamos-por-mejor-no-confiar-su-respuesta/16634471.shtml