OpenAI y Microsoft ignoraron el riesgo de destruir la web

• De acuerdo con documentos judiciales revelados en la demanda interpuesta por The New York Times, se ha evidenciado que tanto Microsoft como OpenAI eran conscientes de que la inteligencia artificial podría acabar con el futuro de la World Wide Web. Los archivos incluyen análisis y conversaciones internas donde se discutían los riesgos comprometedores de sus tecnologías, pero decidieron continuar con sus planes a pesar de las advertencias.

Unos documentos judiciales que han salido de la demanda de The New York Times contra OpenAI y Microsoft dejan al descubierto que la IA destruiría la web (World Wide Web). Los documentos dejan al descubierto conversaciones y análisis internos especialmente comprometidos para ambas compañías. Según el escrito presentado por el periódico, dentro de Microsoft ya se había advertido de que el desarrollo de los grandes modelos de lenguaje podía provocar una especie de círculo vicioso capaz de perjudicar simultáneamente a los medios de Internet y a las propias empresas de inteligencia artificial.

Realmente está documentado en una demanda lo que ya sabíamos. Los modelos se entrenan gracias a enormes cantidades de información publicada en Internet, pero al mismo tiempo productos como ChatGPT, Copilot o los resúmenes generados directamente en buscadores reducen la necesidad de visitar las páginas que producen ese contenido. Si esas páginas pierden tráfico, ingresos y recursos para seguir creando información nueva, es decir, fuerzan su cierre, termina deteriorándose la fuente de datos de la que dependen las futuras generaciones de IA. Es precisamente ese fenómeno el que documentos internos de Microsoft describían como un “doom loop” o un bucle de destrucción.

Microsoft ya había advertido de que los LLM podían destruir su propia fuente de contenido

Uno de los documentos internos citados en el proceso judicial reconocía que la estrategia de contenidos basada en inteligencia artificial estaba generando un problema estructural. El producto final podía terminar amenazando económicamente a quienes proporcionan precisamente la materia prima necesaria para construirlo. Microsoft llegaba a describir los modelos de lenguaje como un producto capaz de destruir su propia cadena de suministro, ya que sustituyen parcialmente al contenido que posteriormente necesitan para entrenarse y mejorar.

Este problema está directamente relacionado con el denominado “Google Zero”, un escenario en el que los usuarios obtienen cada vez más respuestas directamente desde buscadores o asistentes de inteligencia artificial sin llegar a visitar las páginas originales. Satya Nadella, CEO de Microsoft, también habría reconocido durante el procedimiento que este nuevo comportamiento está modificando la forma en la que las personas buscan información, mientras que documentos de OpenAI citados en el caso señalan que, una vez que el chatbot proporciona directamente una respuesta satisfactoria, el usuario tiene menos motivos para acceder al enlace original.

Los propios especialistas económicos y de medios de OpenAI habrían analizado esta pérdida de tráfico. Según los documentos recopilados por The New York Times, sistemas como Google AI Overviews podrían haber provocado reducciones de hasta un 60% en algunas referencias procedentes de buscadores. Esto supone un problema especialmente importante para medios que dependen del tráfico orgánico para financiarse mediante publicidad, suscripciones u otros modelos de negocio. Es decir: la IA está destruyendo la web.

Los documentos también cuestionan el uso de contenido protegido de las web para entrenar la IA

Otro de los puntos más delicados del procedimiento afecta directamente a la forma en la que OpenAI y Microsoft obtuvieron los datos utilizados para desarrollar sus modelos. El escrito del New York Times recoge declaraciones internas extremadamente críticas. Una de ellas las es la de Brent Hecht, director de Applied Science de Microsoft. Este empleado de Microsoft cuestionó tanto la escala de la recopilación de contenido. Además de la defensa de que este uso pudiera encajar automáticamente dentro del concepto estadounidense de uso legítimo.

Microsoft, sin embargo, ha tratado de distanciarse de estas afirmaciones. La compañía señala que Brent fue precisamente contratado para aportar perspectivas académicas y deliberadamente contrapuestas sobre el futuro de los ecosistemas de datos. Además de indicar que sus comentarios no representan la posición legal oficial de Microsoft. También insistió en recordar las declaraciones de su CEO. En concreto, que los cambios en la búsqueda de información no deben interpretarse como una conclusión sobre las cuestiones de copyright.

Los documentos judiciales también señalan que dentro de OpenAI existía una preocupación. En concreto, por la capacidad de sus modelos para memorizar y reproducir contenido protegido prácticamente de forma literal. Empleados de la compañía reconocían internamente que evitar la memorización era importante para reducir posibles infracciones de copyright. Ahora bien, el escrito judicial recoge varios ejemplos en los que ChatGPT habría reproducido extensos fragmentos de publicaciones por diversos medios.