El fiscal general de Florida investiga a OpenAI por un presunto crimen múltiple, afirmando que ChatGPT sería acusado de asesinato si fuera una persona; la empresa confía en salir airosa del proceso.

El Fiscal General de Florida, James Uthmeier, ha anunciado el inicio de una investigación criminal contra OpenAI por el papel que ChatGPT ha jugado en una reciente masacre en una universidad.

El año pasado, un estudiante de 20 años llamado Phoenix Ikner disparó indiscriminadamente a los alumnos de la Universidad Estatal de Florida. Mató a dos de ellos, e hirió a varios.

Antes del ataque, ChatGPT le enseñó a usar el arma y le recomendó la hora y el lugar en el que habría más gente en el campus.

Consultas a ChatGPT, y una masacre

Esta acusación se produce tras revisar los investigadores los logs de las conversaciones entre el presunto asesino y el chatbot de OpenAI.

“Florida está en la vanguardia en la lucha contra el uso de la inteligencia artificial en actividades delictivas, y si ChatGPT fuera una persona, se enfrentaría a cargos por asesinato”, afirma el fiscal general James Uthmeier en el comunicado. “Esta investigación penal determinará si OpenAI es responsable penalmente de las acciones de ChatGPT en el tiroteo ocurrido el año pasado en la Universidad Estatal de Florida”.

Según ha contado el fiscal a la prensa, ChatGPT aconsejó al presunto autor de los disparos sobre qué tipo de arma debía utilizar, qué munición debía adquirir y si un arma sería útil o no a corta distancia. Más problemático aún, el chatbot le aconsejó a qué hora del día habría más gente en el campus y en qué lugares concretos del recinto podría encontrar una mayor concentración de estudiantes.

La clave del asunto está en saber si Phoenix Ikner hizo estas preguntas aisladas, sin contarle a ChatGPT sus intenciones, o las realizó todas seguidas.

Kate Waters, portavoz de OpenAI, ha dicho a Ars Technica que “el tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”.

Y explica por qué: “En este caso, ChatGPT proporcionó respuestas objetivas a preguntas con información que se podía encontrar ampliamente en fuentes públicas de Internet, y no fomentó ni promovió actividades ilegales o perjudiciales”.

ChatGPT: IA o buscador, según convenga a OpenAI

Resulta curioso como, según le interese a OpenAI, ChatGPT es una IA que razona o, como en este caso, un simple buscador de información disponible públicamente.

El punto es que el chatbot de OpenAI enseñó a manejar un arma a este presunto asesino, y luego le dijo a qué hora había más gente en el campus, y en qué lugar. Puesto que ChatGPT es una IA que, además, tiene memoria… ¿No debería haber razonado que hay terribles intenciones en estas preguntas? ¿No existe un luz roja que se encienda cuando alguien le pregunta a la IA por el manejo de armas, y por la gente de un campus universitario?

Eso es lo que el Fiscal General de Florida quiere saber. Ha pedido a OpenAI que revele cómo gestiona este tipo de preguntas, y cómo funcionan sus guardarrailes (que, en este caso, no funcionaron).

El fiscal ha confirmado que OpenAI está colaborando en la investigación. Veremos si termina en juicio, o da la razón a OpenAI.