La cuestión que tenía que llegar por fin está sobre la mesa. OpenAI ha abierto el melón de la pornografía, el contenido para adultos y todo lo relacionado con el mundo NSFW. Lo hace, por supuesto, bajo el paraguas de la IA y la creación de este tipo de materiales por parte de sus modelos de lenguaje, siendo ChatGPT y DALL-E los dos servicios que adoptarían los cambios.

 ChatGPT abre sus puertas a contenido erótico

Ha sido Joanne Jang, colaboradora en la creación de un nuevo documento de OpenAI llamado Model Spec, la encargada de empezar a valorar la llegada del contenido pornográfico y hablar de cómo debería integrarse en los diferentes servicios. "Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad", indican las reglas en cuestión.

En declaraciones a NPR, Jang profundizó: "Queremos asegurarnos de que la gente tenga el máximo control en la medida en que no viole la ley ni los derechos de otras personas, pero permitir los deepfakes está fuera de discusión, punto".

Para llevar a cabo esta inclusión, OpenAI debería modificar buena parte de sus pautas y normas, pues el porno y todo lo relacionado con él están completamente prohibidos en sus modelos de lenguaje. Ahora la compañía no tiene claro que esto deba ser así, pues el erotismo y el contenido NSFW también se contemplan como una forma de expresión.

ChatGPT le abre la puerta al porno

ChatGPT permite muchas cosas, pero el porno no es una de ellas. Y no hablamos de contenido explícito para generar imágenes, sino de textos sexuales o la recreación de escenas subidas de tono.

Es decir, no puedes pedirle a ChatGPT que cree un capítulo de un libro, por ejemplo, en el que dos personas se conocen y tienen sexo apasionado. El chatbot te dirá que no puede hacerlo porque este contenido no tiene cabida su modelo de lenguaje. 

Pues bien, esto es lo que pretenden cambiar en OpenAI con la llegada del contenido erótico, sensual y NSFW a sus servicios. No quieren que los usuarios hagan porno IA, pero sí que puedan utilizar la sensualidad y el erotismo para crear cualquier cosa que no sea un delito.

Y es que este planteamiento no solo pone el porno en la mira, también el contenido relacionado con sangre, violencia o conductas extremas. Utilizar estos términos en los servicios de OpenAI como ChatGPT está prácticamente prohibido, incluso para generar ficción o documentar trabajos. Pero no por mucho tiempo. 

Ahora bien, el debate llega en la peor época posible, cuando los deepfakes están campando a sus anchas por todo Internet y los usuarios tienen acceso a herramientas muy peligrosas. Incluso Taylow Swift ha sido víctima de estas imágenes creadas por IA en las que se muestran desnudos y poses provocativas.

Por suerte, Jang comenta que los deepfakes están completamente fuera del planteamiento y que seguirán sin tener cabida en sus servicios, pero que los textos eróticos y las imágenes sobre desnudos no siempre serán un tema tabú para su inteligencia artificial.

Por lo tanto, durante algún momento de 2024 es posible que los usuarios de ChatGPT y DALL-E tengan la posibilidad de crear textos sensuales, imágenes de desnudos o una novela gore sin temor a que la IA les diga que no puede hacer algo así. 

¿Qué se podrá hacer?

"Hay casos creativos en los que el contenido relacionado con la sexualidad o la desnudez es importante para nuestros usuarios", continúa Jang. "Estamos explorando esto de manera que lo serviríamos en un contexto apropiado para la edad". La idea es permitir que los usuarios puedan crear contenido para adultos original, sin infringir las leyes y sin utilizar deepfake. Al fin y al cabo, la IA es una herramienta al servicio, a menudo, de la creatividad humana.

El problema es ver si realmente serán capaces de limitar las posibilidades de la IA para encontrar ese margen, ya que, si abres la puerta, aunque sea una rendija, tal vez puedan colarse los ciber acosadores. 

Fuentes:

https://hipertextual.com/2024/05/el-porno-llega-a-chatgpt-y-dall-e-asi-se-podra-utilizar

https://www.elconfidencial.com/tecnologia/2024-05-15/chatgpt-abre-sus-puertas-a-contenido-erotico_3884042/