Poczdam, 4 sierpnia 2025 r.
Osiemdziesiąt lat temu świat był świadkiem tragicznych skutków zrzucenia pierwszych bomb atomowych na Hiroszimę i Nagasaki. Jednocześnie jednak rozpoczął się proces kształtowania powojennego porządku międzynarodowego, opartego na zasadzie poszanowania pokoju. W lipcu 1945 roku przyjęto Kartę Narodów Zjednoczonych, a 1 sierpnia 1945 roku przywódcy Stanów Zjednoczonych, Zjednoczonego Królestwa oraz Związku Radzieckiego podpisali Porozumienie Poczdamskie.
Dekadę później grupa naukowców, kierowana przez Alberta Einsteina i Bertranda Russella, wystosowała manifest, w którym zaapelowano do przywódców światowych mocarstw o podjęcie wszelkich możliwych działań w celu zapobieżenia wojnie nuklearnej. Ostrzegali:
„Musimy nauczyć się myśleć w nowy sposób… nie o tym, jakie kroki można podjąć, aby zapewnić militarne zwycięstwo wybranej przez nas grupie… lecz o tym, jakie działania należy podjąć, aby zapobiec militarnemu starciu, którego wynik będzie ponad wszelką wątpliwość katastrofalny dla wszystkich zaangażowanych stron”.
Apel ten wywarł trwały wpływ na kształt współczesnych stosunków międzynarodowych. Pomimo licznych sporów i konfliktów w kolejnych dekadach, broń jądrowa – uznana za broń masowego rażenia – nigdy więcej nie została użyta w działaniach wojennych.
Nie oznacza to jednak, że świat zaznał pokoju. Wciąż mamy do czynienia z konfliktami regionalnymi i lokalnymi, w których wykorzystywane są coraz bardziej zaawansowane systemy uzbrojenia. Choć dotąd państwa powstrzymywały się przed użyciem „opcji nuklearnej”, pojawia się nowe zagrożenie – odmienne co do natury, lecz potencjalnie równie poważne: autonomiczne systemy uzbrojenia (ang. Autonomous Weapons Systems, dalej: AWS).
Osiemdziesiąt lat temu możliwość użycia broni atomowej została uznana za przełom naukowy, który jednak zapoczątkował wyścig zbrojeń jądrowych. Dziś sztuczna inteligencja (SI) – wystarczająco zaawansowana, by umożliwić rozmieszczanie autonomicznych systemów uzbrojenia – stanowi kolejny przełom technologiczny. I ponownie jesteśmy świadkami narodzin nowego wyścigu zbrojeń – tym razem w dziedzinie SI.
My, sygnatariusze „Apelu Poczdamskiego w sprawie Autonomicznych Systemów Uzbrojenia”, uznajemy, że broń jądrowa i AWS nie są tożsame. Broń jądrowa została stworzona do masowego rażenia. AWS, przeciwnie, umożliwiają precyzyjne ataki. Jednak systemy te niosą ze sobą zagrożenie zgoła innej natury: polega ono na utarcie istotnej kontroli człowieka nad ich działaniem. Gdy maszynom powierza się podejmowanie decyzji o życiu i śmierci, próg użycia siły zbrojnej może ulec drastycznemu obniżeniu, a skala zastosowania AWS może prowadzić do naruszeń wykraczających dalece poza aktualne granice wynikające z ram prawnych i etycznych.
14 czerwca 2024 roku, nieżyjący już papież Franciszek przemawiał do przywódców państw G7 w Apulii, ostrzegając:
„W obliczu tragedii, jaką jest konflikt zbrojny, konieczne jest pilne przemyślenie rozwoju i stosowania rozwiązań takich jak tzw. ‘śmiercionośna broń autonomiczna’ i ostatecznie zakazanie ich użycia… Żadna maszyna nie powinna mieć prawa decydować o odebraniu człowiekowi życia”.
My, niżej podpisani naukowcy, nie jesteśmy naiwni. Rozumiemy, że w obliczu wybuchu wojny każda opcja militarna może być brana pod uwagę. Jednak historia dowodzi, że nawet przeciwnicy pogrążeni w głębokim sporze potrafili negocjować porozumienia rozbrojeniowe – jak te zawarte w latach 60. i 70. XX wieku – w celu ograniczenia ryzyka eskalacji. Podobna droga musi zostać obrana w przypadku AWS.
Jak przypomnieli nam Einstein i Russell w 1955 roku:
„Zwracamy się jako ludzie do ludzi: pamiętajcie o swoim człowieczeństwie i zapomnijcie o reszcie”.
Osiemdziesiąt lat temu miasto Poczdam gościło przywódców trzech wielkich mocarstw, którzy położyli podwaliny powojennego ładu międzynarodowego, zgodnego z zasadami Karty Narodów Zjednoczonych, podpisanej kilka tygodni wcześniej w San Francisco.
Dziś, osiemdziesiąt lat później, apelujemy do współczesnych przywódców świata, aby pamiętali o tym dziedzictwie.
Zadbajcie o to, aby decyzje o życiu i śmierci pozostały w rękach ludzi.
I zobowiążcie się do rozwiązywania konfliktów nie poprzez automatyzację i wykorzystanie algorytmów do namierzania celu, lecz zgodnie z prawem międzynarodowym oraz wspólnym poczuciem człowieczeństwa.
Tłumaczenie polskie: dr Joanna Kulesza, UŁ