Aumenta el recelo hacia OpenAI y Anthropic: empresas limitan el uso de IA por seguridad

• Aunque la inteligencia artificial se promociona como un recurso fundamental para la productividad laboral, surge un conflicto cuando se trata de gestionar información confidencial corporativa. El entusiasmo inicial se ha transformado en cautela, ya que muchas organizaciones distinguen entre tareas sencillas, como redactar mensajes, y el riesgo de exponer secretos empresariales a proveedores externos.
• Debido a esto, diversos clientes de gran tamaño han comenzado a restringir el acceso a estas herramientas para garantizar que sus datos permanezcan seguros y no sean vulnerados.

La industria lleva tiempo vendiendo la Inteligencia Artificial como una herramienta imprescindible para trabajar, pero cuando toca entregarle los secretos de una empresa, el entusiasmo empieza a encontrar límites, por no decir directamente que se frena en seco. Porque una cosa es pedir ayuda para redactar un correo y otra permitir que un proveedor externo procese información que sostiene tu negocio, porque en realidad, le entregas parte de ese negocio, quizás la más crítica, de ahí, la desconfianza que ha salido a relucir a raíz de casos como el de Navier-Stokes que vimos la semana pasada. Lo que ahora sabemos es que las Big Tech y Big Farma están aumentando su desconfianza hacia la IA de OpenAI y Anthropic, no tanto por su funcionamiento, sino por el tratamiento de los datos que les aportan.

Y claro, aparecen las preguntas incómodas: qué guarda, durante cuánto tiempo y qué garantías tienes de que las condiciones no cambiarán cuando ya dependas de su tecnología. Las respuestas llegan en cuenta gotas, hay mucha opacidad y no están gustando a las Big Tech.

Grandes clientes restringen la IA ante las dudas y desconfianza sobre sus datos, almacenamiento y uso por parte de OpenAI y Anthropic

Una investigación de The Information sitúa a NVIDIA, Palantir y Booz Allen, entre otras tantas, como las compañías que están restringiendo el uso de modelos de Anthropic por inquietudes sobre sus datos.

Según se informa, NVIDIA limita Fable a tareas sin información sensible y reserva las delicadas para una solución interna creada por la propia compañía. Novo Nordisk, en cambio, permite determinados usos de Claude, pero veta introducir información propietaria, mientras Northrop Grumman ejecuta modelos abiertos en servidores propios aislados de redes externas. Una eléctrica estadounidense también canceló una prueba de Fable al no conseguir un compromiso irrevocable de retención cero de datos.

El problema alcanza asimismo a OpenAI. C Spire mantiene acuerdos con ambas compañías para impedir que entrenen con sus datos, pero pide mayor claridad sobre los metadatos de uso que recopilan. Los proveedores sostienen que no entrenan por defecto con información cubierta por determinados contratos empresariales; Anthropic añade que sus metadatos están agregados y anonimizados, según esa misma cobertura. Nadie se fía, la desconfianza en los principales laboratorios de IA crece, Navier-Stokes ha sido un precedente muy duro.

No entrenar con tus datos y no conservarlos son garantías diferentes

Aquí está la cuestión que debería quedar clara antes de contratar cualquier servicio: prohibir el entrenamiento no equivale a impedir la conservación de información. Son compromisos distintos y resuelven preocupaciones diferentes. Una empresa puede aceptar que su proveedor procese una consulta y, al mismo tiempo, exigir que no mantenga una copia después.

También conviene separar el contenido de una consulta de la información sobre cómo se utiliza el servicio. Para un cliente empresarial, conocer exactamente qué entra en cada categoría resulta esencial para valorar su exposición. Una garantía comercial demasiado genérica deja preguntas pendientes precisamente donde debería aportar certezas.

¿Significa esto que OpenAI y Anthropic están robando secretos? La información publicada no lo demuestra. Presentar estas restricciones como prueba de una filtración sería confundir una medida preventiva con un incidente acreditado.

Lo que sí deja este escenario es una exigencia razonable: si la IA va a entrar en procesos esenciales, sus garantías deben poder examinarse con el mismo rigor que su rendimiento. Porque pedir confianza es fácil; aceptar por contrato límites claros sobre los datos del cliente es donde esa confianza empieza a tener valor. ¿Qué deberían hacer las Big Tech y Big Farma? ¿Es otra hoja de la margarita de la IA que se cae evidenciando eso de “el rey está desnudo”? Opinen en los comentarios.