Debian ha votado a favor de permitir el uso de IA generativa para programar y documentar, manteniendo la revisión humana obligatoria para garantizar la seguridad de los datos.

• Debian ha tomado una decisión trascendental al votar oficialmente a favor de permitir el uso de inteligencia artificial generativa en sus procesos.
• Bajo esta nueva directiva, se autoriza el empleo de la IA tanto para la programación como para la creación de documentación. No obstante, el proyecto mantiene que es imprescindible una revisión humana para evitar errores, limitar las modificaciones automáticas y garantizar la protección de datos sensibles.

La inteligencia artificial se está integrando poco a poco en servicios, aplicaciones y plataformas de desarrollo, y el software libre tampoco permanece al margen de este cambio.

En las últimas semanas, Linus Torvalds ha defendido que el núcleo de Linux no debe adoptar una postura contraria a la IA y ha respaldado su uso como una herramienta útil para el desarrollo y la revisión del código.

Ahora es Debian quien ha fijado oficialmente su posición sobre los modelos de lenguaje. Y, después de varias semanas de debate y una votación entre sus desarrolladores, el proyecto ha aprobado la propuesta Responsible Use of Generative AI.

Significa que se permitirá utilizar herramientas de IA generativa en contribuciones destinadas a Debian, donde esta resolución no convierte a los LLM en una plataforma recomendada ni obliga a utilizarlos.

Cabe señalar que la decisión afecta al desarrollo, mantenimiento, así como a la documentación de software, al empaquetado y a otros contenidos publicados dentro del proyecto.

Debian considera que pueden ayudar a los colaboradores a dedicar más tiempo a tareas importantes, pero el resultado debe mantener exactamente los mismos estándares que cualquier otra contribución.

Qué cambia para quienes contribuyen a Debian

Esto establece que un colaborador puede utilizar IA generativa para preparar una contribución, pero sigue siendo responsable de todo lo que termine enviando al proyecto.

Implica comprender el contenido generado, revisarlo, probarlo y modificarlo cuando sea necesario antes de incorporarlo a Debian. La herramienta utilizada tampoco cambia las exigencias sobre calidad, corrección, mantenimiento o cumplimiento legal.

Es decir, una contribución no tendrá un trato diferente por haber sido creada con ayuda de un LLM. Además, se deja claro que aceptar material generado automáticamente sin una revisión humana adecuada no encaja con sus prácticas habituales.

Es importante mencionar que el colaborador puede indicar qué herramienta utilizó y en qué medida intervino, pero la decisión final sobre cómo hacerlo queda en sus manos.

La IA podrá utilizarse, pero no sin límites

Uno de los principales problemas está en el origen y la situación legal de los contenidos generados. Debian no intenta resolver con esta votación las dudas existentes sobre copyright o licencias, por lo que sus normas actuales sobre software libre siguen aplicándose exactamente igual.

También existen restricciones relacionadas con la privacidad, donde los colaboradores no deben introducir en servicios de IA de terceros información confidencial, comunicaciones privadas, datos relacionados con vulnerabilidades todavía no públicas, credenciales, claves criptográficas u otro material no público de Debian, salvo que exista una autorización expresa y sea compatible con sus requisitos de seguridad.

Las automatizaciones a gran escala tampoco quedan fuera de control. Si alguien pretende utilizar IA para realizar modificaciones masivas o actuar sobre muchos paquetes, debe discutirlo previamente por los canales correspondientes.

Cualquier proceso automatizado de este tipo tendrá que permanecer bajo supervisión humana y cuya decisión llega después de una votación en la que participaron ocho propuestas, desde prohibir las contribuciones realizadas con LLM hasta permitirlas bajo distintas condiciones.

La opción finalmente ganadora fue la quinta, Responsible Use of Generative AI, mediante el sistema de votación Condorcet que utiliza Debian.

El resultado no significa que el debate haya terminado, sino que Debian ha optado por integrar la IA dentro de sus reglas existentes en lugar de crear una excepción específica para ella.

Para el proyecto, la cuestión ya no es decidir si la IA existe dentro de su ecosistema, sino determinar cómo utilizarla sin rebajar los estándares que han definido su desarrollo durante décadas.