Anthropic solicita una pausa global en el avance de la inteligencia artificial

• La compañía Anthropic, referente en el sector de la IA, ha hecho un llamado para detener el desarrollo mundial de esta tecnología. El motivo principal es la preocupación de que la humanidad pierda el control sobre estos sistemas, comparando la situación actual con un conflicto de control de armamentos.

Anthropic, la empresa de IA más valiosa del mundo, ha pedido una paralización global del desarrollo de la IA, advirtiendo que los humanos corren el riesgo de perder el control de la tecnología. La compañía compara el avance imparable de los modelos de inteligencia artificial con «un problema de control de armamentos» y se ofrece a suspender el desarrollo de sus sistemas más potentes si se le garantizaba que otros harían lo mismo.

«Si fuera posible ralentizar eficazmente el desarrollo de esta tecnología para tener más tiempo para afrontar sus inmensas implicaciones, creemos que probablemente sería algo positivo», escribieron los ejecutivos de la empresa en una nota que puede sorprender teniendo en cuenta que Anthropic superó recientemente a OpenAI, creadora de ChatGPT, como la empresa de IA más valiosa del mundo con una valoración de 965.000 millones de dólares.

¿Por qué sería sensato congelar el desarrollo de la IA?

La alerta no es nueva. Hace más de tres años que un grupo de 1.000 personas entre los que se encontraban científicos, ingenieros, intelectuales, empresarios, políticos y grandes nombres de la tecnología mundial, firmaron una carta abierta donde solicitaban la suspensión durante seis meses del desarrollo de los mayores proyectos de Inteligencia Artificial, ante lo que entendían como «profundos riesgos para la sociedad y la humanidad» que podían plantear sin el control y gestión adecuados.

Nada de ello se ha hecho desde entonces… al contrario; el desarrollo de la IA ha avanzado a pasos estratosféricos en una batalla mundial por su control, a pesar de la problemática en ciberseguridad o empleo, consumo de energía o agua, o que simplemente esté colapsando el mercado tecnológico ante el acaparamiento masivo de semiconductores.

La IA no para de mejorar, también a sí misma

En un ensayo publicado anoche, Marina Favaro y Jack Clark, responsable de la división de investigación de Anthropic y su presidente, respectivamente, afirmaron que la tecnología de IA se acercaba al punto en que los sistemas se desarrollarían por sí mismos. Los ejecutivos se refieren a la automejora recursiva de la IA (RSI por sus siglas en inglés), un fenómeno tan deseable por los desarrolladores de IA como temido de manera general por sus implicaciones: simplemente, en ese momento, los humanos serían incapaces de controlar los sistemas de IA.

Las tendencias técnicas analizadas en este artículo sugieren que los sistemas de IA serán mucho más capaces en los próximos años. Estas tendencias tienen enormes implicaciones. Una IA capaz de autoconstruirse representaría un avance trascendental en la historia de la tecnología, con el potencial de generar enormes beneficios para el mundo en ciencia, salud y otros ámbitos. Sin embargo, la auto-mejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA.

Si los sistemas de IA alcanzan -gracias a RSI- un grado tecnológico donde sean capaces de mejorarse a sí mismos y construir completamente a sus propios sucesores, la forma en que los protegemos, los monitorizamos y moldeamos su comportamiento adquiere una importancia trascendental. De ahí la alerta de Anthropic, que no es la primera, ya que ha mantenido a su modelo más avanzado, Mythos, internamente y bajo control por su peligrosidad en según qué manos.

«Creemos que sería beneficioso para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación sobre sus implicaciones se mantengan al día»

Teniendo en cuenta la importancia actual de Anthropic y su conocimiento del potencial de los modelos de IA, la nueva alerta no debería caer en saco roto, aunque la congelación mundial del desarrollo de la IA parece impensable ante la feroz competencia entre Estados Unidos y China por su control mundial y las motivaciones económicas con inversiones de billones de dólares.