El Código de Conducta de Azure OpenAI Service añadió algunas limitantes de acceso a la tecnología. A partir de ahora, Microsoft impedirá que cualquier departamento de policía de Estados Unidos tenga acceso a la inteligencia artificial de OpenAI, incluidas las integraciones con modelos de análisis de texto y voz. Las políticas también prohíben el uso de tecnología de reconocimiento facial en tiempo real por cualquier fuerza del orden a nivel mundial.

"Las integraciones con Azure OpenAI Service no deben utilizarse para cualquier tecnología de reconocimiento facial en tiempo real en cámaras móviles utilizadas por cualquier organismo policial a nivel mundial para intentar identificar a una persona en entornos no controlados y en la naturaleza", menciona Microsoft.

Lo anterior significa que ningún policía podrá emplear modelos de IA para intentar identificar a personas que se encuentren en una base de datos de sospechosos. El Código de Conducta de Azure también prohíbe el uso de la inteligencia artificial para vigilancia continua o seguimiento persistente de cualquier individuo a través de su información personal o datos biométricos.

Los servicios de inteligencia artificial de Azure comprenden todos los modelos desarrollados por OpenAI hospedados en la nube de Microsoft. Entre ellos se encuentran GPT-3, GPT-4, y GPT-4 Turbo con los modelos Vision y Codex. Las reglas también se aplican a DALL·E 2, DALL·E 3 y Whisper.

Microsoft se opone al reconocimiento facial a través de inteligencia artificial

De acuerdo con las políticas de Microsoft, Azure con OpenAI "prohíbe la identificación o verificación de identidades individuales mediante medios que contengan rostros de personas por parte de cualquier usuario, incluida la policía estatal o local de los Estados Unidos". Tampoco está permitido llevar a cabo un análisis facial para inferir el estado emocional de una persona, su género o edad.

La tecnológica dejó claro que no permitirá el uso la inteligencia artificial en tareas delicadas, como la identificación de sospechosos. Los sistemas de reconocimiento son propensos a alucinaciones y tienen sesgos raciales. Esto contrasta con un reporte anterior en el que se aseguraba que Microsoft habría ofrecido los modelos de OpenAI al ejército de EE. UU. para efectuar tareas similares.

Según recoge The Intercept, los de Redmond ofrecieron una presentación al Departamento de Defensa para mostrarle los beneficios de la inteligencia artificial. Microsoft sugirió que los modelos de lenguaje servirían para analizar imágenes y videos de vigilancia con fines de seguridad, así como para identificar patrones en una base de datos.

No obstante, las políticas de OpenAI prohíben el uso de sus modelos en tareas que atenten contra la seguridad de las personas. "No tenemos asociaciones con agencias de defensa para utilizar nuestra API o ChatGPT para tales fines", dijo Liz Bourgeous, portavoz de OpenAI.

Fuentes:

https://hipertextual.com/2024/05/microsoft-prohibe-acceso-modelos-openai-policia-estados-unico