Alianza entre gigantes de la IA para establecer regulaciones globales

Los máximos responsables de OpenAI, Google DeepMind y Anthropic (desarrolladores de ChatGPT, Gemini y Claude, respectivamente) han manifestado su interés en crear una coalición conjunta para determinar las normas de regulación de la inteligencia artificial.

En el marco de un encuentro con el G7, estos líderes propusieron que Estados Unidos sea la entidad encargada de definir las directrices y reglas que deben regir el funcionamiento y control de esta tecnología a nivel mundial.

Los CEOs de las tres empresas más grandes de inteligencia artificial quieren formar una coalición para definir cómo se regula la IA. Durante una reunión con el G7, los directores de Anthropic, Google DeepMind y OpenAI propusieron que sea Estados Unidos quien establezca las reglas del juego. El suceso ocurre a unos días de que el gobierno de Donald Trump bloqueara Claude Fable en todo el mundo.

De acuerdo con CNBC, Dario Amodei, Demis Hassabis y Sam Altman quieren crear una coalición internacional liderada por Estados Unidos. En un almuerzo celebrado en el marco de la cumbre del G7, los directivos se reunieron con una docena de ejecutivos tecnológicos para expresar sus preocupaciones por el futuro de la inteligencia artificial.

Amodei pidió a los líderes del G7 que "resistan la tentación de fragmentarse" y defendió que las naciones democráticas deben actuar de forma conjunta. El CEO de Anthropic propuso un acceso estructurado a los modelos más avanzados, así como la cooperación para responder a los riesgos de la IA en cuestiones como ciberataques o bioterrorismo. El directivo también sugirió bloquear a China para que no acceda a cadenas de suministro de chips y componentes críticos.

Demis Hassabis y Sam Altman siguieron una línea similar, proponiendo la creación de un organismo de estándares y un foro de evaluación liderado por EE.UU. De acuerdo con Financial Times, el primer ministro canadiense, Mark Carney, mostró su apoyo a la idea de que Washington asumiera ese liderazgo.

La coalición de Anthropic, Google y OpenAI llega en un momento crítico para Claude

La idea de formar una coalición se ha dado en uno de los momentos más complicados para Anthropic en mucho tiempo. Aunque la empresa dirigida por Amodei ya había tenido roces con el gobierno, las tensiones escalaron al siguiente nivel este fin de semana. La administración de Donald Trump impuso controles de exportación sobre Fable 5 y Mythos 5, tras reportarse un posible jailbreak.

Según los reportes, fue el CEO de Amazon quien prendió las alarmas sobre Fable 5 y alertó al Gobierno sobre la vulnerabilidad. En cuestión de horas, los modelos más avanzados de Anthropic quedaron bloqueados y ningún usuario puede acceder a ellos. La decisión no solo generó un tsunami dentro de la compañía, sino también en Europa y otros países.

El presidente francés, Emmanuel Macron, advirtió que si Estados Unidos puede "apagar el interruptor de un día para otro", eso acabaría dañando a las empresas. Por su parte, el primer ministro de India, Narendra Modi, expresó su preocupación por el bloqueo de los modelos de Anthropic y subrayó que las naciones democráticas deben tener acceso a la IA para proteger sus infraestructuras críticas.

Macron reconoció que las conversaciones con Trump y el resto de líderes habían sido productivas, aunque no concluyentes. El mandatario francés anunció que se trabajará en "una plataforma de discusión y cooperación entre democracias" para definir estándares comunes frente a los riesgos de la IA. Sam Altman añadió que es necesario crear un foro internacional que establezca estándares aceptados globalmente.

Mientras eso termina por definirse, Anthropic sigue negociando con Estados Unidos para levantar los controles de exportación a Claude Fable 5 y Mythos 5. Hace unas horas, la compañía actualizó sus políticas de privacidad y confirmó que pedirá una verificación de identidad "para mantener la seguridad y protección de los servicios". Anthropic usará Persona, el mismo sistema que intentó usar Discord y que tuvo que cancelar tras el rechazo generalizado de todos sus usuarios.