Потсдам, 4 августа 2025 г.
Восемьдесят лет назад мир стал свидетелем катастрофических последствий первой атомной бомбардировки Хиросимы и Нагасаки. Но в то же время зародился послевоенный порядок, основанный на приверженности миру. В июле 1945 года был принят Устав Организации Объединенных Наций, а 1 августа 1945 года лидеры США, Великобритании и Советского Союза подписали Потсдамское соглашение.
Десять лет спустя группа учёных во главе с Альбертом Эйнштейном и Бертраном Расселом опубликовала манифест, призывающий лидеров мировых держав сделать всё возможное для предотвращения ядерной войны. Они предупреждали: «Мы должны научиться мыслить по-новому… не о том, какие шаги можно предпринять для обеспечения военной победы той или иной предпочитаемой нами стороны… а о том, какие шаги можно предпринять для предотвращения военного противостояния, исход которого неизбежно обернётся катастрофой для всех сторон».
Этот призыв имел долгосрочный эффект. Несмотря на многочисленные конфликты, имевшие место на протяжении десятилетий, ядерное оружие, признанное оружием массового поражения, больше никогда не применялось в военных действиях.
Однако мир не стал мирным. Мы сталкиваемся с продолжающимися региональными и локальными войнами, в которых используются всё более совершенные системы вооружения. Хотя правительства до сих пор воздерживались от использования «ядерного варианта», возникает новая угроза, которая влечет за собой принципиально иные, но потенциально сопоставимые по серьёзности риски: автономные системы оружия (AWS).
Восемьдесят лет назад ядерная бомба была провозглашена научным прорывом. Но она также ознаменовала начало гонки ядерных вооружений. Сегодня искусственный интеллект (ИИ), достаточно мощный для развертывания смертоносных автономных систем оружия, является ещё одним революционным научным достижением. И мы вновь наблюдаем зарождение гонки вооружений, на этот раз в области ИИ.
Мы, подписавшие «Потсдамский призыв об автономных системах оружия», признаём, что ядерное оружие и AWS — это не одно и то же. Ядерное оружие предназначено для массового уничтожения. В отличие от этого, системы AWS позволяют наносить точечные удары. Однако их опасность кроется в другом: в потенциальной потере значимого человеческого контроля. Когда машинам предоставляется возможность принимать решения, связанные с жизнью и смертью, порог насилия может резко снизиться, а параметры применения могут привести к разрушениям, масштаб которых бросает вызов существующим правовым и этическим нормам.
14 июня 2024 года покойный Папа Римский Франциск обратился к лидерам «Большой семёрки» в Апулии, предупредив: «В свете трагедии вооружённого конфликта необходимо срочно пересмотреть разработку и использование таких устройств, как так называемое «смертоносное автономное оружие», и в конечном итоге запретить их применение… Ни одна машина никогда не должна лишать жизни человека».
Мы, нижеподписавшиеся учёные, не наивны. Мы понимаем, что, как только разразится война, могут быть рассмотрены все военные варианты. Но история показывает, что даже противники, находящиеся в глубоком противоречии, могут договориться о разоружении, как например в соглашениях, заключённые в 1960-х и 1970-х годах, чтобы снизить риск эскалации. Аналогичный путь необходимо пройти и AWS.
Как напомнили нам Эйнштейн и Рассел в 1955 году: «Мы, как люди, обращаемся к людям: помните о своей человечности и забудьте обо всём остальном».
Восемьдесят лет назад Потсдам принимал лидеров трёх крупнейших держав, которые заложили основу послевоенного порядка, соответствующего принципам Устава Организации Объединённых Наций, подписанного неделями ранее в Сан-Франциско.
Восемьдесят лет спустя мы призываем сегодняшних мировых лидеров помнить об этом наследии. Обеспечить, чтобы решения, касающиеся жизни и смерти, оставались в руках человека. И стремиться разрешать конфликты не с помощью автоматизации и алгоритмического нацеливания, а в соответствии с международным правом и общим чувством гуманности.