Un experto de DeepSeek advierte sobre el peligro catastrófico de la IA

• La inteligencia artificial se ha consolidado como el pilar fundamental del progreso tecnológico actual, siendo comparada incluso con la invención del internet debido a su profunda influencia en la sociedad y el mercado laboral.
• Sin embargo, esta evolución ha generado inquietudes extremas. Un ingeniero de DeepSeek ha expresado su temor, señalando que a medida que la IA se perfecciona, aumenta el riesgo de alcanzar un escenario desastroso para la humanidad.

La IA se ha convertido en la pieza central del avance tecnológico de la sociedad donde vivimos, pues muchos ya la posicionan incluso por arriba del Internet y otros descubrimientos. No es de extrañar si nos paramos a ver el impacto que ha tenido en nuestras vidas, sobre todo a nivel laboral. En unos pocos años hemos pasado de tener una IA generativa que creaba desastres en imágenes y vídeos a lo que hay en la actualidad. Uno de los ingenieros de DeepSeek ha entrado en un ciclo autodestructivo, pues dice que usar sus conocimientos para mejorar la IA hace que esta aprenda y automatice, mejorando aún más y creando algo que se escapará de nuestro control.

Cada vez más personas acuden a modelos de inteligencia artificial en busca de ayuda para realizar cualquier tipo de tarea. Si fuese solo para aquello que es complicado o lleva mucho tiempo, podríamos entender que se acude a la IA como una última opción tras probar por tu cuenta a realizarlo. El problema es que las personas van directamente a preguntar a ChatGPT u otros modelos para conseguir una respuesta o solución fácil a sus problemas, tanto a nivel personal como en el mundo laboral. Como la IA es cada vez más precisa e "inteligente" en sus respuestas, entonces cada vez vemos mayor dependencia de esta.

Un ingeniero de DeepSeek encargado de desarrollar kernels de GPU reconoce que está metido en un ciclo autodestructivo por entrenar a la IA que lo dejará sin trabajo

Es curioso ver el panorama de la IA desde el punto de vista de aquellos que están involucrados en su desarrollo, pues ahora tenemos el caso de Liu Sengyu, un ingeniero de sistemas y ML de DeepSeek experto en kernels de GPU. Este desarrollador tiene grandes conocimientos en kernels y todo lo relacionado con ellos y él mismo está sumido en un "bucle autodestructivo", pues considera que está usando todo lo que sabe para entrenar y mejorar la IA y lo que hace esta es automatizar el proceso y hacer todo mucho más rápido.

Desde el punto de vista del desarrollador, continuar haciendo su trabajo implica que la IA avanzará más rápido y él estima que en 6-12 meses podrá producir kernels a su nivel, lo que lo hará reemplazable. Por supuesto no quiere perder su trabajo, pero tampoco considera que es ético seguir haciendo esto. El problema es que aunque él decida dejar de contribuir al desarrollo de la IA, otros muchos seguirán haciéndolo y nada cambiará.

El desarrollador de IA dice que en un futuro próximo tendremos competiciones de humanos capaces de desarrollar código a mano, pues todo será automatizado

Aunque se pueda ver todo de forma negativa a la hora de convertirnos en humanos fácilmente reemplazables, Liu aún tiene algo de esperanza. Él opina que en su caso no será totalmente sustituido por la inteligencia artificial, pero si cambiará la forma de trabajar, pues se encargará de dirigir y controlar los agentes de IA. Personalmente cree que eso acaba con gran parte de lo interesante que era su trabajo, pues en lugar de ponerse a programar individualmente descubriendo que funciona y que no, ya estará todo el trabajo hecho y solo revisará algunos errores.

Así pues, ya está haciéndose a la idea que va a perder aquello que le apasiona que era escribir y optimizar kernels a mano. De hecho, los agentes ya han empezado a aprender a optimizar a bajo nivel y por eso el desarrollador cree que en un futuro próximo programar de forma manual sin ayuda de IA y máquinas podría convertirse en un "deporte competitivo".