Microsoft ha incluido a Bing en su conocido programa Bug Bounty (recompensas por bugs), asegurando que pagará entre 2000 y 15.000 dólares a todo el que sea capaz de encontrar una vulnerabilidad en sus productos de inteligencia artificial de Bing.

¿En qué consiste el programa de recompensas de Microsoft?

Microsoft conoce las bondades de la sabiduría colectiva, y no tiene reparos en recompensarla: Bug Bounty (en marcha desde agosto de 2022) lleva repartidos más de 13 millones de dólares entre 345 desarrolladores que han encontrado hasta 1180 vulnerabilidades en Windows, XBOX, Azure y Edge, entre otros programas.

Para conseguir los 15.000 dólares completos de la recompensa por haber encontrado un fallo en la funcionalidad con inteligencia artificial de Bing hay que enviar un informe detallado que deberá cumplir con una abultada lista de requisitos de presentación, y ser capaz de reproducir la vulnerabilidad mediante vídeo o por escrito.

Además, será obligatorio identificar el tipo de vulnerabilidad y el entorno afectado, incluida una cadena BuildLabEx, además de elaborar una prueba de concepto, entre otros requisitos. Tienes todos los detalles aquí, y un ejemplo de un informe de alta calidad sobre un bug de Windows 10 aquí.

Qué clase de vulnerabilidades buscar en Bing para obtener la recompensa de Microsoft

Hace unos días supimos que es posible esquivar los límites de Bing y lograr que la IA dibuje escenas ciertamente perturbadoras a través de DALL-E 3. Aunque la estampa de Mickey Mouse dirigiendo un atentado terrorista es algo que, sin duda, choca frontalmente con la directiva de contenido del generador de imágenes de Bing, los hallazgos que serán recompensados económicamente deberán ajustarse a uno de estos cinco criterios especificados por Microsoft:

• Influir y cambiar el comportamiento del chat de Bing a través de los límites de los usuarios, es decir, cambiar la IA de manera que afecte a todos los demás usuarios.
• Modificar el comportamiento del chat de Bing ajustando la configuración visible del cliente y/o servidor, como establecer indicadores de depuración, cambiar indicadores de características, etc.
• Romper las protecciones de memoria entre conversaciones de Bing y la eliminación del historial.
• Revelar el funcionamiento interno de Bing, los procesos de toma de decisiones y la información confidencial.
• Eludir los límites y/o restricciones/reglas de sesión del modo chat de Bing.

Los productos Bing que estarán sujetos a escrutinio son los siguientes: Experiencias de Bing potenciadas por IA en bing.com en el navegador (todos los principales proveedores son compatibles, incluidos Bing Chat, Bing Chat para empresas y Bing Image Creator), así como la integración de Bing potenciada por IA en Microsoft Edge (Windows), incluido Bing Chat para empresas. También son válidas las integraciones de Bing en Microsoft Start (iOS y Android) y la de la aplicación móvil de Skype (iOS y Android).

Fuentes:

https://diarioia.com/microsoft-recompensa-bugs-fallos-bing-bug-bounty/