MADRID (Portaltic/EP).– Un total de 28 países de todo el mundo, entre los que se encuentran Estados Unidos, China y los que forman la Unión Europea (UE), acordaron un desarrollo seguro y responsable de la Inteligencia Artificial (IA), que se ha materializado en la denominada Declaración de Bletchley.

El museo Bletchley Park, situado en Buckinghamshire (Inglaterra) fue el escenario en el que se ha celebrado la AI Safety Summit, una cumbre que ha tenido esta tecnología como temática central y en la que se ha planteado "un futuro más seguro tanto para la IA como para el mundo", explicó el Departamento de Ciencia, Innovación y Tecnología de Reino Unido en X.

Para ello, los Estados participantes en la cumbre –Reino Unido, Estados Unidos, China, los países de la UE, Brasil, Francia, india, Irlanda, Kenia, Japón, Arabia Saudí, Nigeria y Emiratos Árabes Unidos– consolidaron este miércoles 1 de noviembre un primer acuerdo mundial que establece las oportunidades y los riesgos que plantea la IA, así como la necesidad de que los gobiernos trabajen en sintonía para enfrentarse a los desafíos más relevantes.

Con este acuerdo, los firmantes "aceptan la urgente necesidad de comprender y gestionar de forma colectiva los riesgos potenciales a través de un nuevo esfuerzo global conjunto para garantizar que la IA se desarrolla y despliega de forma segura", según un comunicado del gobierno británico.

En la cumbre, los presentes coincidieron en que pueden surgir riesgos sustanciales por el uso indebido intencional de la IA y en que existe una especial preocupación por aquellos relacionados con la ciberseguridad, biotecnología y desinformación.

En este sentido, la misiva establece que existe "un potencial de daño grave, incluso catastrófico, ya sea deliberado o no, derivado de las capacidades más significativas de estos modelos de IA".

Debido a que los participantes en la cumbre creen que se debe profundizar la comprensión de los riesgos de esta herramienta y sus capacidades, que "no se comprenden completamente", también acordaron trabajar juntos para apoyar una red científica sobre la seguridad de la inteligencia artificial gracias al Instituto de Seguridad de IA anunciado hace unos días por el primer ministro británico, Rishi Sunak.

Encuentros anuales

Los países participantes determinaron, como parte de esta declaración, que para seguir avanzando en materia de seguridad se reunirán cada año de manera presencial, siendo Francia la próxima sede de esta cumbre. Antes de esto, en seis meses, será Corea del Sur el que figure como coanfitrión en una cumbre virtual sobre IA a menor escala.

"Esto garantiza un legado duradero de la cumbre y una acción internacional continua para abordar los riesgos de la IA, incluida la información sobre políticas nacionales e internacionales basadas en riesgos en estos países", se puntualiza en el comunicado.