Meter inteligencia artificial generativa a prácticamente todos los productos y servicios que usamos en la actualidad se ha convertido en un vicio de la mayoría de las tecnológicas. En el caso de Microsoft, esta semana quedó en el ojo del huracán luego de que Copilot inyectara anuncios en repositorios de GitHub. Una situación que salió a la luz prácticamente por casualidad y que obligó a los de Redmond a tomar cartas en el asunto.

El asunto se hizo público luego de que un desarrollador llamado Zach Manson contara su situación. El programador reportó que un colega había usado Copilot para corregir un error de ortografía en un pull request (PR) de GitHub. Pero la IA no se limitó a hacer lo que le pidieron, sino que también incorporó una publicidad promocionando una aplicación llamada Raycast en la descripción del pull request en cuestión.

"Esto es horrible. "Sabía que este tipo de estupideces pasarían tarde o temprano, pero no me lo esperaba tan pronto", publicó Manson en su web. Sin embargo, su caso lejos quedó de ser el único, o el primero siquiera. Según reportó Neowin, el mismo anuncio creado por Copilot apareció en más de 11.000 pull requests de miles de repositorios de GitHub. Pero también en los merge requests de GitLab.

De modo que Copilot llevaba algún tiempo introduciendo anuncios en GitHub y GitLab sin que la enorme mayoría de los usuarios y desarrolladores se percatara. La reacción negativa del público no se hizo esperar, por lo que Microsoft se vio obligada a intervenir y desactivar por completo los "consejos" disfrazados de publicidades que generaba su IA.

Copilot la lía al inyectar anuncios en repositorios de GitHub

Martin Woodward, vicepresidente de relaciones con desarrolladores de GitHub, reconoció que la inyección de anuncios en GitHub a través de Copilot fue un bug. Y si bien reconoció que se trató de un error de Microsoft, también aseveró que no hubo acuerdos comerciales con Raycast ni ninguna otra empresa para meter publicidades en los pull request.

Según el ejecutivo, la función para mostrar "consejos de productos" en GitHub estaba disponible solamente en los pull requests creados por Copilot. Sin embargo, cuando se añadió la opción de que los usuarios mencionaran a Copilot para que concretara acciones en sus PR, esta característica empezó a funcionar de forma incorrecta, inyectando los anuncios.

Las quejas de los desarrolladores fueron lo suficientemente fuertes como para que Microsoft desactivara por completo los anuncios en los pull request de GitHub, incluyendo aquellos originados con Copilot. Por supuesto que el caso sigue dando que hablar, pues nadie se anima a descartar que una característica parecida reaparezca en el futuro.

El asunto no hace más que incrementar la desconfianza del público hacia el uso de la IA generativa para mostrar contenido patrocinado. Algo especialmente sensible en plataformas como GitHub, donde Microsoft usa (al menos de forma parcial) el código que comparten los usuarios para entrenar Copilot.