Potsdam, 4 de agosto de 2025
Hace ochenta años, el mundo fue testigo de las catastróficas consecuencias de las primeras bombas atómicas lanzadas sobre Hiroshima y Nagasaki. Sin embargo, también fue testigo de los comienzos de un orden de posguerra basado en el compromiso con la paz. En julio de 1945 se adoptó la Carta de las Naciones Unidas y el 1 de agosto de 1945 los dirigentes de Estados Unidos, el Reino Unido y la Unión Soviética firmaron el Acuerdo de Potsdam.
Una década más tarde, un grupo de científicos, encabezados por Albert Einstein y Bertrand Russell, publicaron un manifiesto en el que instaban a los líderes de las potencias mundiales a hacer todo lo que estuviera a su alcance para evitar la guerra nuclear. Advertían: «Tenemos que aprender a pensar de un modo nuevo… no sobre qué medidas pueden tomarse para dar la victoria militar al grupo que prefiramos… sino qué medidas pueden tomarse para evitar una contienda militar cuyo resultado sea desastroso para todas las partes».
Este llamamiento tuvo un efecto duradero. A pesar de los numerosos conflictos a lo largo de décadas, las armas nucleares, reconocidas como armas de destrucción masiva, no se han vuelto a utilizar en la guerra.
Sin embargo, el mundo no se ha pacificado. Nos enfrentamos a continuas guerras regionales y locales, con sistemas de armamento cada vez más sofisticados. Aunque hasta ahora los gobiernos se han abstenido de utilizar la «opción nuclear», está surgiendo una nueva amenaza, que plantea riesgos fundamentalmente diferentes pero potencialmente de gravedad comparable: los sistemas de armas autónomos (AWS).
Hace ochenta años, la bomba nuclear fue anunciada como un gran avance científico. Pero también marcó el inicio de una carrera armamentística nuclear. Hoy en día, la inteligencia artificial, que es lo suficientemente potente como para permitir el despliegue de sistemas de armas autónomas letales, resulta otro avance científico transformador. Y una vez más asistimos a la aparición de una carrera armamentística, esta vez en el ámbito de la IA.
Nosotros, los firmantes del «Llamamiento de Potsdam sobre Sistemas de Armas Autónomos», reconocemos que las armas nucleares y las AWS no son lo mismo. Las armas nucleares están diseñadas para la destrucción masiva. Los AWS, por el contrario, permiten ataques selectivos. Sin embargo, su peligro reside en otra cosa: en la pérdida potencial de un control humano significativo. Cuando a las máquinas se les da el poder de tomar decisiones de vida o muerte, el umbral de la violencia puede reducirse drásticamente y la escala de despliegue podría resultar en una destrucción a una escala que desafía los marcos legales y éticos existentes.
El 14 de junio de 2024, el difunto Papa Francisco se dirigió a los líderes del G7 en Apulia, advirtiéndoles: «A la luz de la tragedia que suponen los conflictos armados, es urgente reconsiderar el desarrollo y el uso de dispositivos como las llamadas ‘armas autónomas letales’ y, en última instancia, prohibir su uso… Ninguna máquina debería elegir jamás quitar la vida a un ser humano».
Los científicos abajo firmantes no somos ingenuos. Comprendemos que, una vez estallada la guerra, se consideran todas las opciones militares. Pero la historia demuestra que incluso adversarios con profundos desacuerdos han sido capaces de negociar acuerdos de desarme, como los concluidos en las décadas de 1960 y 1970, para reducir el riesgo de una escalada. Un camino similar debe seguirse para los AWS.
Como nos recordaron Einstein y Russell en 1955: «Apelamos, como seres humanos, a los seres humanos: Recordad vuestra humanidad y olvidad el resto».
Hace ochenta años, la ciudad de Potsdam acogió a los líderes de tres grandes potencias, que sentaron las bases de un orden de posguerra alineado con los principios de la Carta de las Naciones Unidas, firmada semanas antes en San Francisco.
Ochenta años después, pedimos a los líderes mundiales de hoy que recuerden este legado. Garanticen que las decisiones sobre la vida y la muerte sigan estando en manos humanas. Y comprometerse a resolver los conflictos no mediante la automatización y la selección algorítmica de objetivos, sino de conformidad con el derecho internacional y el sentido común de la humanidad.