OpenAI implementará un nuevo sistema de seguridad para notificar a los progenitores cuando sus hijos adolescentes utilicen ChatGPT para realizar consultas prohibidas, específicamente aquellas relacionadas con actos de violencia o autolesiones.

Debido a que la inteligencia artificial generativa es sumamente accesible y sencilla de utilizar mediante prompts de texto, la compañía busca reforzar la supervisión parental ante los posibles riesgos de contenido inadecuado.

La inteligencia artificial generativa está disponible para todos de forma gratuita y es muy fácil de usar. A diferencia de apps y programas que tenemos que ir aprendiendo cada una de sus funciones, usar un modelo de IA es tan sencillo como escribir lo que queremos como prompt de texto y nos dará la respuesta, tanto si es texto, imágenes, música o vídeos. Al ser tan accesible, pueden usarla incluso los niños más pequeños o las personas mayores que apenas saben de tecnología. Esto hace que se formen grupos más vulnerables como los niños y por ello, OpenAI comenzará a avisar a los padres si sus hijos adolescentes infringieron las normas de ChatGPT y fueron expulsados por ello.

OpenAI pasó de convertirse de una startup desconocida a la empresa de IA que todos conocen de su existencia y esto ha sido por ChatGPT. Este chatbot ha sido tal éxito que rompió récords de usuarios y crecimiento cuando se estrenó, alcanzando 10, 100 y 1.000 millones de usuarios activos mensuales más rápido que cualquier otra plataforma y web. De hecho, los 1.000 millones los consiguieron en algo más de 3 años y en comparación, TikTok tardó 5 años e Instagram alrededor de 8 años.

OpenAI avisará y enviará notificaciones a los padres si sus hijos adolescentes buscan temas de violencia en ChatGPT

Casi todo el mundo conoce o a usado ChatGPT en algún momento, tanto si ha sido por curiosidad como si necesitaban ayuda en alguna tarea concreta. Hay quienes usan ChatGPT en el trabajo como asistente y como no, también tenemos a muchos estudiantes que lo emplean para acabar los ejercicios y trabajos que deben entregar en clase, algo que cada vez es más común. De hecho, vimos un caso de un profesor que detectó como sus estudiantes usaron IA en un examen sacando un 9,6 de media y cuando hizo un examen presencial sin IA la media bajó a un 4,8.

Relacionado con los estudiantes y la IA, pero no por notas, tenemos una actualización de OpenAI, pues la compañía ha anunciado que notificará a los padres si sus hijos adolescentes han sido expulsados de ChatGPT y esto ocurrirá si se infringen las normas. Según se indica, aquí la infracción se produce por casos de amenazas y actos de violencia online. Esto forma parte del plan de OpenAI que comenzó en septiembre del año pasado, momento en el que lanzó controles parentales para ChatGPT. Ahora se ha actualizado y enviará notificaciones a los padres si cree que sus hijos han pasado la línea y están en peligro.

OpenAI añadió el control parental para ChatGPT, permitiendo que los padres tengan control, elijan horarios y funciones que puedan usar sus hijos

Con los controles parentales de ChatGPT, los padres podrán decidir que funciones pueden usar y elegir un horario. Además, si ChatGPT detecta que el hijo ha hecho un mal uso de la IA y ha cometido alguna infracción, mandará una notificación automática a su padre informándolo. Aquí tendríamos casos de violencia en niños adolescentes, pues tienen prohibido buscar información para hacer daño a otras personas o a sí mismos.

Ya se han encontrado casos de niños y no tan niños que han acudido a la IA desesperadamente por ayuda y hasta le preguntan por formas de suicidarse. Este es un tema recurrente que hemos visto mencionado desde hace años como uno de los más sensibles y aquí la IA debe avisar a padres y si eso, recomendar visita a un profesional para tratar el caso. Es como los problemas de salud física, la IA no puede llegar a reemplazar a un equipo médico cualificado por muchos consejos que pueda dar e ideas de lo que ocurre. Encima, la salud mental es mucho más complicada y son casos individuales que deben tratarse.