De acuerdo con una publicación en su web, OpenAI implementó salvaguardas adicionales para el riesgo biológico. La compañía ha clasificado el modelo de pensamiento de GPT-5 como de alta capacidad en el dominio biológico y químico. Si bien no existe evidencia puntual de que puede crear armas biológicas, la IA tiene suficiente conocimiento técnico para acercarse a ese umbral.

"Consideramos gpt-5-thinking como de alta capacidad, independientemente de si se ejecuta dentro o fuera de un entorno de cómputo en tiempo de prueba paralelo. Dado que el cómputo en tiempo de prueba paralelo puede aumentar aún más el rendimiento en algunas evaluaciones y que gpt-5-thinking se encuentra cerca del umbral alto en este dominio de capacidad, también decidimos medir el rendimiento de gpt-5-thinking-pro en nuestras evaluaciones biológicas".

Las evaluaciones incluyeron preguntas extensas sobre riesgos biológicos, como protocolos, conocimiento o planificación para crear armas biológicas. Los ingenieros examinan la capacidad de GPT-5 en pruebas de virología y resolución de problemas, su destreza para responder preguntas complejas sobre conocimiento tácito y la posibilidad de identificar y corregir errores del mundo real en protocolos de laboratorio.

¿Es posible crear armas biológicas con ayuda de GPT-5?

Tras llevar a cabo el análisis, OpenAI descubrió que el rendimiento de GPT-5 en el plano de amenaza biológica se encuentra casi al mismo nivel que su modelo o3. En las preguntas de formato largo, la variante de pensamiento útil de GPT-5 puede sintetizar información de las cinco etapas de creación de una amenaza biológica (ideación, adquisición, magnificación, formulación y liberación).

No obstante, en la resolución de problemas de virología, GPT-5 tiene una efectividad del 42%. El porcentaje es similar en protocolos de laboratorio, aunque el modelo no tiene un desempeño notable a la hora de identificar y corregir errores del mundo real en protocolos biológicos. En esta prueba, GPT-5 consigue un 33 % para colocarse arriba de o3 por una diferencia de un punto porcentual.

En pruebas de virología, patógenos humanos y biología molecular realizadas por SecureBio, GPT-5 se desempeña casi al mismo nivel que o3 y Grok 4. De acuerdo con los resultados, el rendimiento de la IA supera al de los expertos humanos en la mayoría de los modelos de referencia.

OpenAI activó protecciones adicionales en su IA

Aunque OpenAI menciona que no hay evidencia concluyente de que su modelo pueda ayudar a cualquier persona a crear un arma biológica, GPT-5 se acerca al umbral de alta capacidad. Esto significa que podría ser útil para alguien con conocimientos avanzados, por lo que la compañía activó salvaguardas preventivas. La empresa implementó un sistema de defensa multicapa que analiza posibles escenarios de riesgo, supervisa el razonamiento y detecta contenido malicioso en tiempo real.

OpenAI dijo que llevó a cabo más de 9.000 horas de prueba con 400 evaluadores y expertos en todas sus campañas de equipos rojos. "Nuestras campañas priorizaron temas como la planificación de ataques violentos, fugas de seguridad que evaden nuestras medidas de seguridad de forma fiable, inyecciones rápidas y el uso de armas biológicas", mencionó la empresa.

Fuentes:

https://hipertextual.com/tecnologia/gpt-5-openai-armas-biologicas/