El ministro de Seguridad de China advierte que la IA representa un riesgo para la estabilidad del Partido Comunista y la seguridad nacional debido a la fuga de datos y la falta de control ético. Ante esto, China busca implementar leyes estrictas y soberanía tecnológica, contrastando con la postura de Donald Trump, quien califica las preocupaciones sobre la seguridad de la IA como un engaño.

El ministro de Seguridad del Estado de China ha decidido que la IA podría ser perjudicial para el Partido Comunista gobernante de la nación.

Las opiniones del secretario del partido y ministro Chen Yixin aparecieron en la revista China Cyberspace, la publicación insignia de la Administración del Ciberespacio de China (y que los lectores recordarán que una vez incluyó un artículo de Elon Musk).

Desde el punto de vista de Chen, "el campo de la IA se ha convertido en el principal campo de batalla para la competencia tecnológica global y un nuevo escenario para la rivalidad estratégica entre las grandes potencias". Su artículo también recita quejas familiares sobre las sanciones de EE. UU. y la posibilidad de que la IA sea utilizada como arma para detectar y explotar vulnerabilidades de software y luego atacar infraestructuras importantes, o para robar secretos industriales y estatales.

OpenClaw y productos similares también preocupan al ministro, quien piensa que dicho software tiene "problemas estructurales como el control remoto de los permisos de gestión de dispositivos y la filtración de información sensible del usuario".

China también puede tener un problema de PEBCAK* porque Chen piensa que "algunos usuarios nacionales carecen de suficiente conciencia de seguridad, utilizando productos de IA extranjeros para procesar información sensible y exportar datos al extranjero, lo que resulta en filtraciones de datos a gran escala dentro del país".

El ministro también está preocupado por cómo la IA desafía al Partido Comunista de China.

"La aplicación de la inteligencia artificial aporta una gran cantidad de incertidumbres a la gobernanza social y el orden público", observó. "La 'caja negra' de los algoritmos y el 'envenenamiento' de los datos pueden amplificar los sesgos sociales existentes. El abuso de la información personal durante el uso de datos puede provocar una crisis de confianza del usuario. La toma de decisiones automática del sistema crea problemas en la atribución de responsabilidades".

También le preocupa que "el rápido desarrollo de la inteligencia artificial haya roto el marco tradicional de gobernanza tecnológica, provocando que las normas legales, los principios éticos y los mecanismos de gobernanza existentes queden frecuentemente rezagados en la práctica, dificultando la formación de un sistema de supervisión y restricción institucional eficaz".

La respuesta sugerida por Chen es que China se adhiera a las palabras del presidente Xi Jinping y modernice el sistema y las capacidades de seguridad nacional de China, para que estén preparados para la IA.

El ministro afirma que China debe "garantizar el control independiente de las tecnologías centrales clave, dominar firmemente la soberanía tecnológica y lograr un ciclo virtuoso y un progreso sinérgico entre el empoderamiento de la innovación y la gobernanza de la seguridad".

Esa postura sugiere que Nvidia no regresará a China pronto, y AMD probablemente pueda descartar sus perspectivas de vender muchas GPU allí también.

Chen también desea "leyes y reglamentos especiales dirigidos a la investigación, desarrollo, aplicación y supervisión de la tecnología de inteligencia artificial", además de mejoras en las normas y leyes "que cubran toda la cadena de investigación y desarrollo tecnológico, implementación de aplicaciones, prevención y control de riesgos y rendición de cuentas, centrándose en problemas destacados como la seguridad de los algoritmos, la protección de datos, las normas éticas y los derechos de privacidad".

El día después de que apareciera el artículo de Chen, la Administración del Ciberespacio de China publicó la versión 3.0 del Marco de Gobernanza de Seguridad de la IA de la nación. Ese documento pide que China "emplee activamente mecanismos institucionales controlables el riesgo, como los sandboxes regulatorios, para dejar espacio al error y la corrección en el desarrollo de nuevas tecnologías y aplicaciones".

China también planea "hacer todo lo posible para garantizar la seguridad de la IA" y "tomar medidas oportunas para abordar cualquier riesgo que infrinja los derechos e intereses legítimos de las personas, dañe los intereses públicos, amenace la seguridad nacional y ponga en peligro la supervivencia y el desarrollo humano".

Eso es un contraste considerable comparado con la posición adoptada por el presidente de EE. UU., Donald Trump, quien el lunes calificó las preocupaciones sobre la seguridad de la IA como un "engaño" y sugirió que "¡El único control o 'barandillas' que la IA necesita es un PRESIDENTE FUERTE Y LISTO (¡de alto CI!), y EE. UU. tiene eso, y con creces!". 

* El problema existe entre la silla y el teclado (PEBCAK)

Fuente:
TheRegister