Dario Amodei, CEO de Anthropic, advierte sobre un 25% de riesgo existencial por la IA y urge a la humanidad a actuar ya para evitar consecuencias catastróficas.

El CEO de Anthropic, una de las mayores empresas de IA a nivel mundial gracias a su chatbot Claude, vuelve a la carga con una buena dosis de pesimismo. Dario Amodei nunca suele traer buenas noticias en lo que a IA se refiere y se caracteriza por ser la voz de alarmismo y el drama absoluto en cuanto al futuro de la humanidad.

Esta vez, siguiendo su estilo, vuelve a la carga con algo que pone los pelos de punta. Estima que hay entre un 10% y un 25% de probabilidades de que la inteligencia artificial cause un riesgo existencial para la humanidad. Es decir, hay una posibilidad entre cuatro de que nuestra propia creación acabe con nosotros.

Para entender este miedo, hay que mirar a los datos. Amodei y su equipo, que consideran que el camino que están tomando compañías como OpenAI es muy peligroso, creen que la IA es como la energía nuclear: puede curar el cáncer o solucionar el cambio climático, pero también puede descontrolarse.

El riesgo no es que la IA se vuelva mala, sino que ejecute órdenes de forma tan eficiente que cause daños que se desconocen por ahora. Por ejemplo, si le pides a una IA que detenga el cambio climático como sea, podría concluir que eliminar a los humanos es la forma más rápida de bajar las emisiones. Es lo que los expertos llaman el problema de alineación.

Aquí es donde el gobierno de los EEUU entra y choca directamente con las ideas de Amodei. El Pentágono parece muy interesado en usar la tecnología de Anthropic en tareas clasificadas. Sin embargo, este no quiere que sus algoritmos se usen para este tipo de tareas. Perderían, por así decirlo, el control de su IA y nunca se sabe para qué podría llegar a usarse.

Para este, si se deja que la tecnología corra sin control para ganar a otros países, el riesgo de que alguien cometa un error aumenta exponencialmente.

Esta postura de Anthropic choca con la de otros gigantes. Google, por ejemplo, tuvo su propia crisis en 2018 cuando sus empleados protestaron contra contratos militares, pero hoy en día trabaja codo con codo con el Pentágono bajo ciertas guías. OpenAI ha abierto la mano para casi cualquier uso legal. En este escenario, Dario Amodei es el último gran CEO que prefiere dar datos a ese potencial fin del mundo.

"La mayoría desconoce que está a punto de ocurrir"

Siguiendo con su estilo catastrofista, Amodei afirma que, en los próximos años, la IA podría dejar sin empleo a la mitad de los trabajadores de oficina, especialmente a los que están empezando.

En concreto, habla de una 'masacre de cuellos blancos', un cambio total que afectará a millones de personas que trabajan en tecnología, economía, derecho, consultoría y otros sectores donde el trabajo de oficina es lo habitual. Y lo peor es que la mayoría de la gente ni se imagina lo que se está cociendo.

El motivo es que, según explica, ni los políticos, ni los jefes, ni los propios trabajadores están prestando la atención que merece este tema. Los gobiernos no regulan ni advierten, los CEO tienen miedo de hablar claro y los empleados siguen pensando que la IA es solo una herramienta para ayudar, no para reemplazar.

Como referencia y fiel reflejo de que esto ya está ocurriendo, tan solo hay que fijarse en que grandes empresas ya están recortando puestos de trabajo. IBM, recientemente, ha metido tijera a su plantilla para dejar sin trabajo a unas 7.800 personas, y Microsoft, que, a pesar de haber incrementado su beneficio, ha optado por despedirse de otros 6.500 empleados.

Y no es solo cosa de grandes empresas. Amodei explica que muchas compañías están en una carrera para desarrollar agentes de IA que puedan hacer trabajos humanos al momento, indefinidamente y mucho más baratos. Desde escribir código, analizar datos, atender clientes o crear contenido, la lista es larga y crece cada día.

Eso sí, añadir que esto no significa que todos los empleos vayan a desaparecer mañana, pero sí que el cambio será rápido. En pocos años, muchas tareas que ahora requieren un humano podrían ser automatizadas, poniendo sobre la mesa la duda de qué pasará con todas esas personas que pierdan su trabajo.

Amodei parece que esto no se lo plantea y afirma que los beneficios superarán a las desventajas. Cree que la inteligencia artificial puede traer enormes avances en medicina, crecimiento económico, avances tecnológicos increíbles... Sin embargo, y como ves, hace falta mucho control que, en su opinión, brilla por su ausencia.