En la cumbre de Washington, Donald Trump y Xi Jinping acordaron establecer un mecanismo de diálogo directo para evitar incidentes relacionados con la inteligencia artificial. Expertos señalan diferencias en las prioridades de ambas potencias.
Los presidentes de Estados Unidos, Donald Trump, y de China, Xi Jinping, acordaron en la cumbre de esta semana en Washington abrir un "canal de comunicación" para incidentes relacionados con la inteligencia artificial (IA), según se informó.
La medida responde a la preocupación por el potencial de la IA para actuar de forma imprevista o acelerar la toma de decisiones militares sin control, indicaron las fuentes.
"Por ambas partes se observa una toma de conciencia de que existe la posibilidad de incidentes y usos indebidos en detrimento de los intereses de los dos países", declaró Jean-Marc Rickli, director de Riesgos Globales y Emergentes del Centro de Política de Ginebra.
Rickli recordó que el "teléfono rojo" se estableció a raíz de la crisis de Cuba en 1962, en referencia al sistema de comunicación directa entre Estados Unidos y Rusia durante la Guerra Fría para evitar incidentes militares graves.
El experto mencionó un incidente reciente en el que, según la cadena CNN, Estados Unidos estuvo a punto de abordar un buque chino basándose en información falsa elaborada con inteligencia artificial.
Desde 2023 existe un diálogo bilateral entre expertos y centros de investigación, sin intervención gubernamental, sobre los modelos de IA más avanzados de compañías como OpenAI, Anthropic, DeepSeek o Alibaba.
Según la investigadora Mathilde Viellet, del Instituto Francés de Relaciones Internacionales (Ifri), ese diálogo ha puesto de relieve que las prioridades de las dos potencias son distintas. Mientras China lleva años preocupada por la seguridad o luchando contra los "deepfakes", Estados Unidos "se preocupa sobre todo por la pérdida de control y la 'desalineación' de la IA, cuando actúa de forma autónoma", explicó la experta.
Además, Estados Unidos apuesta por modelos de IA cerrados y de propiedad privada para preservar su ventaja comercial, mientras que China opta por el código abierto para acelerar los avances tecnológicos.
Según Jean-Marc Rickli, tendría sentido crear un sistema de comunicación entre China y Estados Unidos en caso de una decisión militar en la que la IA tome decisiones demasiado rápidas o basadas en información errónea.
Por su parte, Mathilde Viellet aboga por un "teléfono rojo" que sirva en caso de pérdida de control de la IA y para evitar su utilización por parte de actores maliciosos. Este mes, Anthropic reveló cinco casos de utilización de su modelo de IA Claude de una forma "que podría servir para el desarrollo de armas biológicas".
Aunque llegue a establecerse "cierta coordinación flexible", el investigador Matt Sheehan considera que "las medidas más importantes en materia de seguridad de la IA serán las que adopte cada país".