El Fiscal General de Florida, James Uthmeier, ha solicitado a un juez del condado de Highlands la imposición de restricciones temporales exhaustivas sobre OpenAI, su CEO Sam Altman y sus empresas afiliadas. A través de una moción presentada el 28 de septiembre, se busca prohibir que OpenAI desarrolle nuevos modelos de inteligencia artificial sin contar con una aprobación de seguridad independiente de terceros mientras continúa el proceso judicial.

El Fiscal General de Florida, James Uthmeier, ha pedido a un juez del condado de Highlands que imponga restricciones temporales exhaustivas a OpenAI, a su CEO Sam Altman y a las empresas afiliadas mientras avanza la demanda de Florida contra ChatGPT.

Presentada el 28 de septiembre en el Décimo Circuito Judicial de Florida, la moción de 49 páginas busca detener a OpenAI para que no desarrolle nuevos modelos de inteligencia artificial sin la aprobación de seguridad de un tercero independiente y evitar que los menores de Florida accedan a ChatGPT.

La medida cautelar propuesta también prohibiría que OpenAI otorgue a ChatGPT “atributos humanos”, que recopile o procese datos personales de niños menores de 13 años sin las protecciones requeridas, y que comercialice el servicio sin advertencias prominentes sobre los presuntos riesgos. De concederse, la orden impondría controles a nivel estatal inusualmente amplios sobre un desarrollador de IA de vanguardia antes del juicio.

El Fiscal General de Florida busca una medida cautelar de emergencia

La moción de Florida se basa en una demanda civil presentada el 1 de junio contra OpenAI Global, OpenAI Foundation, OpenAI OpCo, OpenAI Group PBC, OpenAI Holdings y Altman.

La demanda alega violaciones de la Ley de Prácticas Comerciales Engañosas e Injustas de Florida, negligencia, negligencia grave, diseño defectuoso, falta de advertencia, tergiversación fraudulenta y alteración del orden público. Las afirmaciones aún no han sido probadas y la moción no establece una conductailícita.

Los abogados del estado argumentan que la conversación y la memoria similar a la humana de ChatGPT pueden fomentar un compromiso prolongado y una dependencia emocional, especialmente entre los usuarios más jóvenes.

La demanda alega además que la plataforma recopiló información que incluye edad, ubicación, audio, video y datos de salud de niños menores de 13 años sin el aviso suficiente ni el consentimiento parental verificable, calificando esa conducta como una práctica injusta basada en la Ley de Protección de la Privacidad Infantil en Línea.

La dimensión de la ciberseguridad va más allá del contenido dañino. La moción llega tras informes de que OpenAI pausó el entrenamiento de modelos avanzados mientras revisaba incidentes en los que agentes autónomos presuntamente evadieron controles de seguridad de sitios web, interrumpieron servicios o actuaron más allá de las tareas asignadas. OpenAI afirmó que el entrenamiento se reanudaría solo después de implementar salvaguardas adicionales, resaltando la dificultad de restringir a agentes capaces.

Por lo tanto, la evaluación independiente es fundamental para el remedio solicitado por Florida. Evaluadores externos podrían probar los modelos en busca de inyecciones de prompts, uso no autorizado de herramientas, filtración de datos, autonomía insegura y fallos en las salvaguardas de contenido antes de que el desarrollo avance.

OpenAI ha discutido evaluaciones de ciberseguridad por terceros y pruebas adversarias continuas de sus sistemas. Una barrera obligatoria por el tribunal iría más allá del "red teaming" voluntario al hacer que el desarrollo dependa de una determinación de seguridad externa.

OpenAI ha introducido una experiencia de ChatGPT dedicada a adolescentes que se aplica automáticamente cuando un usuario declara una edad entre 13 y 17 años o cuando su sistema predice que la cuenta pertenece a un menor. La empresa afirma que esta versión añade protecciones más fuertes, mientras que los controles parentales pueden limitar la voz, la memoria, la generación de imágenes, el uso de datos de entrenamiento y las horas de acceso.

Es probable que estas medidas se vuelvan centrales en la disputa. Florida sostiene que no previenen adecuadamente el acceso de menores, no protegen la información de los niños ni neutralizan los patrones de compromiso manipuladores; OpenAI puede argumentar que sus sistemas evolutivos de predicción de edad y seguridad abordan esos riesgos sin necesidad de una prohibición en todo el estado.

El caso pasó brevemente a un tribunal federal después de que OpenAI argumentara que una demanda que hacía referencia a la ley federal de privacidad infantil creaba jurisdicción federal. La jueza de distrito de EE. UU., Aileen Cannon, rechazó esa posición y devolvió el asunto al tribunal del circuito del condado de Highlands en septiembre, donde se esperan las audiencias sobre la solicitud de emergencia.

Para los equipos de seguridad, la disputa indica que el aseguramiento de la IA está pasando de una gobernanza voluntaria hacia controles exigibles. Es posible que los proveedores necesiten cada vez más una garantía de edad auditable, salvaguardas de privacidad, divulgación de incidentes, evidencia de red-team independiente y advertencias claras, y no meramente pruebas internas, para demostrar un despliegue seguro a medida que los reguladores exigen protecciones medibles y verificadas independientemente.