OpenAI ha anunciado la implementación de Zero Data Retention (Retención Cero de Datos) para clientes elegibles de su API que utilicen sus modelos de IA más avanzados. Bajo este compromiso, la empresa no almacenará los prompts ni las respuestas generadas una vez procesada la solicitud. Además, han introducido un sistema de Private Safety Processing, diseñado para supervisar la seguridad sin que el personal de la compañía tenga acceso a la información de los usuarios.

OpenAI ha anunciado la Retención Cero de Datos para los clientes de API elegibles que utilizan sus modelos de IA de vanguardia, junto con un nuevo sistema de Procesamiento de Seguridad Privado diseñado para admitir el monitoreo de seguridad sin exponer las instrucciones o respuestas del cliente al personal de la empresa.

Bajo el compromiso de Retención Cero de Datos, OpenAI no conserva las instrucciones del cliente ni los resultados del modelo después de que se haya procesado una solicitud.

La empresa también afirma que el contenido del cliente no está disponible para la revisión de los empleados. Al mismo tiempo, los datos empresariales no se utilizan para entrenar los modelos de OpenAI a menos que tú, como cliente, lo aceptes explícitamente.

Esta medida aborda una barrera importante para la adopción de la IA en las empresas, particularmente para las organizaciones que manejan registros financieros, información médica, datos comerciales confidenciales e investigaciones patentadas.

Muchas industrias reguladas requieren controles estrictos sobre dónde se almacenan los datos sensibles, quién puede acceder a ellos y cuánto tiempo permanecen disponibles.

OpenAI ofrece Retención Cero de Datos para modelos de vanguardia

Sin embargo, OpenAI señaló que el mal uso del modelo puede no ser siempre visible en una sola instrucción o respuesta. A medida que los sistemas de IA comienzan a manejar tareas más largas y autónomas, la actividad potencialmente dañina puede volverse evidente solo después de varias interacciones relacionadas.

Los actores de amenazas podrían probar repetidamente los controles de seguridad, coordinar actividades entre cuentas o disfrazar solicitudes maliciosas como investigaciones legítimas.

El Procesamiento de Seguridad Privado pretende abordar este desafío preservando el modelo de Retención Cero de Datos. Las protecciones de seguridad existentes para los despliegues de Retención Cero de Datos generalmente examinan cada interacción de forma individual.

El nuevo sistema está diseñado para analizar patrones a través de interacciones relacionadas utilizando procesos automatizados, sin otorgar al personal de OpenAI acceso al contenido subyacente.

Para los despliegues de Retención Cero de Datos controlados por el cliente, el contenido permanece en la infraestructura gestionada por el cliente. OpenAI también está desarrollando un modelo en el cual el contenido puede almacenarse en su infraestructura, pero cifrado con claves controladas por ti.

El personal de OpenAI no poseería copias de esas claves y, por lo tanto, no podría acceder a las instrucciones o respuestas subyacentes. Cuando los sistemas automatizados detectan un posible mal uso, OpenAI recibe una señal de seguridad limitada que indica la categoría de la actividad riesgosa.

La señal puede respaldar las decisiones de cumplimiento, pero no revela el contenido original del cliente. Tú puedes investigar las alertas utilizando los registros en tus propios entornos.

Puedes proporcionar voluntariamente los datos pertinentes si deseas apelar una decisión, aclarar una actividad legítima o ayudar en una investigación de abuso verificada. Este enfoque tiene implicaciones importantes para la ciberseguridad.

Las organizaciones que despliegan modelos de vanguardia a menudo necesitan equilibrar los requisitos de privacidad con los controles de seguridad del proveedor. En algunos casos, el monitoreo de seguridad ha requerido que los proveedores retengan datos sensibles del cliente, creando preocupaciones operativas y de cumplimiento para los equipos de seguridad.

El Procesamiento de Seguridad Privado de OpenAI separa las comprobaciones de seguridad automatizadas del acceso humano al contenido empresarial; las pruebas están en curso y se planea un despliegue más amplio para septiembre, junto con un libro blanco técnico sobre su arquitectura y salvaguardas.

Para los líderes de seguridad, el anuncio destaca un modelo emergente para la gobernanza de la IA empresarial: datos controlados por el cliente, protecciones criptográficas, detección automatizada de mal uso y divulgación limitada de señales relevantes para la seguridad.

Fuentes:
https://cybersecuritynews.com/openai-zero-data-retention-for-frontier-models/