Гонка боевых роботов

Мир стоит на пороге новой военной революции – третьей после изобретения пороха и ядерного оружия. Сейчас достигнут невероятный прогресс в области робототехники и искусственного интеллекта. Однако любой, у кого хотя бы раз в жизни зависал компьютер, задается вопросом: можно ли доверять машине?
Der Spiegel (Германия): гонка боевых роботов

Кристоф Зайдлер (Christoph Seidler)

Важный консультативный орган Пентагона требует от правительства США значительных инвестиций в автономные системы вооружения, иначе лидерство в этой области якобы перехватит Китай. Возникает ли в связи с этим опасность новой гонки вооружений?

Можно, нужно и допустимо ли использовать в войнах автономные системы вооружения? На этот вопрос можно ответить, обладая определенным жизненным опытом и небольшой долей цинизма. Тот, кто хоть когда-нибудь работал на компьютере, мучился с его зависаниями и странными обновлениями, посчитает мысль, будто машины способны решать вопросы жизни и смерти людей, абсурдной.

Но в военной технике сейчас происходит основополагающая революция – третья после изобретения пороха и ядерного оружия. “Невероятный технологический прогресс, достигнутый в последние годы в области робототехники и искусственного интеллекта, поставил идею об автономно действующем оружии на грань реализации”, – об этом говорится в одном из аналитических отчетов Бюро оценки техники при германском бундестаге.

Во многих государствах мира говорят о том, что принесет цифровизация в военную сферу, в том числе и в США. Недавно соответствующие рекомендации представил президенту Джо Байдену и Конгрессу один авторитетный консультационный орган в министерстве обороны США.

С сердечным приветом из Кремниевой долины

В чем – в чем, а в компьютерах, их несовершенствах и возможностях эта группа разбирается досконально. Среди 15 членов Комиссии по искусственному интеллекту (National Security Commission on Artificial Intelligence) – будущий шеф компании Amazon Энди Джесси (Andy Jassy), до последнего времени отвечавший в концерне за разработку платформы облачных вычислений. Google и Microsoft также отправили своих представителей в комиссию – ответственных за искусственный интеллект Эндрю Мура (Andrew Moore) и Эрика Хорвица (Eric Horvitz). Компанию Oracle представляет ее гендиректор Сафра Кац (Safra Catz). Во главе комиссии – бывший шеф компании Google Эрик Шмид (Eric Schmid), руководивший еще двумя комиссиями Пентагона.

В заключительном докладе комиссии рассматривается вопрос, какую роль должна играть в будущем Америка при разработке и применении автономных систем вооружений. По мнению Шмида и других членов комиссии, на этот вопрос может быть только один ответ: США должны занять в этой области абсолютно лидирующее место, иначе его займет Китай. Машины якобы не должны управлять только ядерным оружием, а в других сферах активное продвижение соответствующих технологий имеет исключительное значение.

“Соединенные Штаты должны сейчас предпринимать активные действия по внедрению систем искусственного интеллекта и инвестировать значительно больше ресурсов в инновации, связанные с искусственным интеллектом. Это необходимо для защиты безопасности страны, для поддержания ее благосостояния и обеспечения будущего демократии”, – говорится в отчете. Там же сказано, что международный запрет подобных систем вооружений не отвечает интересам страны, потому что главные стратегические противники не будут его соблюдать. “Согласие таких государств, как Россия или Китай, скорее всего, не будет иметь никакого значения” – таков вывод комиссии.

По ее мнению, Америка должна инвестировать в эту область как можно больше, чтобы сохранить превосходство перед такими странами, как Россия и особенно Китай, и использовать это превосходство для укрепления стабильности. То есть вооружаться во имя мира.

Но некоторые другие эксперты смотрят на эту перспективу критически: “Мы вновь вступаем на путь гонки вооружений между США, Китаем и Россией”, – говорит Аня Дальман (Anja Dahlmann) из берлинского Фонда науки и политики. По ее словам, американцы думают, что смогут сохранить и углубить свое технологическое превосходство. Но это весьма сомнительно. “Возникают серьезные сомнения в разумности этого магистрального направления”, – вторит ей Франк Зауэр (Frank Sauer) из Университета бундесвера в Мюнхене.

Переговоры ведутся уже несколько лет

То, что комиссия все-таки отстаивает эту идею, может иметь вполне меркантильные причины. Многие ее члены заинтересованы в том, чтобы министерство обороны США вкладывало как можно больше денег в цифровизацию. Amazon и Oracle судятся друг с другом за право разработать для Пентагона многомиллиардную платформу облачных вычислений. А глава комиссии Шмид, как известно, – инвестор сразу в нескольких военно-технических фирмах.

“Он финансово весьма заинтересован в том, чтобы министерство обороны и другие федеральные ведомства как можно активнее использовали искусственный интеллект”, – говорит Джон Дэвидсон (John Davisson) из Информационного центра по электронной конфиденциальности (Electronic Privacy Information Center) в Вашингтоне.

Но насколько вообще реалистичен международный запрет автономных систем вооружения? В Организации Объединенных Наций в Женеве вот уже несколько лет ведутся переговоры по этой проблеме в рамках обсуждения Конвенции об определенных обычных вооружениях. Но заметного прогресса нет. Это связано, вероятно, с недостатком политической воли, а также с комплексным характером проблемы. Боеголовки и танки подсчитать относительно просто, так же как и рассчитать дальность полета ракет. А вот с алгоритмами дело обстоит несколько сложнее.

Правозащитная организация Human Rights Watch в прошлом году обобщила точки зрения государств по этой проблеме в одном из своих отчетов. Согласно ему, только 30 стран, прежде всего из Южной Америки, Африки и Азии, четко высказались за международный запрет.

У многих других стран, в том числе и у Германии, позиция несколько сложнее. Правда, в коалиционном договоре нынешнего федерального правительства написано: “Автономные системы вооружения, не управляемые человеком, мы отвергаем. Мы хотим их международного осуждения”. Однако Human Rights Watch обвиняет Германию в том, что, хотя она и участвовала в дискуссиях о роботах-убийцах в рамках обсуждения Конвенции ООН по конкретным видам обычных вооружений с 2014 по 2019 год, немецкие участники “не поддерживали инициатив, касающихся начала переговоров о соответствующем договоре”. Вместо этого Германия и Франция предложили принять лишь политическое заявление о намерениях, не имеющее никакой юридической силы.

“Позиция Германии двойственна”, – говорит эксперт Фонда науки и политики Дальман. Даже понятие “осуждение” в коалиционном договоре можно интерпретировать по-разному, и никто точно не знает, что оно, собственно, должно означать. Идет ли речь о правовом запрете? Или о политическом заявлении: дескать, Германия считает эту технологию плохой?

В правительстве по этому поводу разные мнения. В министерстве иностранных дел могут представить себе введение международного запрета на автономные системы вооружения. Министр Хайко Маас (Heiko Maas) регулярно заявляет об этом публично. Но ведущие переговоры дипломаты не получают указаний действовать в том же духе на международной арене. А если спросить в министерстве обороны, то там скорее всего предпочтут ограничиться каким-нибудь политическим заявлением.

Это, вероятно, связано и с новой боевой авиасистемой (Future Combat Air System FCAS), которую Германия, Франция и Испания намерены разработать совместно. Эта система должна к 2040 году заменить истребители Eurofighter, а также французские Rafale. В нее, помимо классических боевых самолетов, входят и так называемые беспилотные ведомые аппараты (remote carrier), которые можно запускать из самолетов и затем использовать в совместных действиях. Эти беспилотники должны объединить в себе возможности управляемых летательных аппаратов и дронов и могут снабжаться как минимум некоторыми автономными функциями. Детали сейчас определяются.

В США тем временем раздается все больше критики относительно использования искусственного интеллекта в военной области – и не только из лагеря пацифистов. Против выступает, например, Мэри Каммингс (Mary Cummings), одна из первых летчиц, управлявших палубными истребителями F/A-18. Сегодня она занимается автономными системами вооружения в Дьюкском университете города Дарем (штата Северная Каролина).

По ее словам, большинство разработок в области искусственного интеллекта ведутся коммерческими фирмами. “Военные очень и очень далеко от них отстали”. Себя Каммингс называет “технореалисткой”. По ее словам, искусственный интеллект в военной области важен, и так будет и впредь, но истерическое представление об его якобы огромных возможностях ложно.

Риск возникновения гонки вооружений в области автономного оружия реален, однако в его военных преимуществах есть сомнения. Возможно, президент Байден придет к тому же выводу. То, что тема контроля над вооружениями ему близка, он дал понять в самом начале своего президентства. Поэтому он договорился с российским президентом Владимиром Путиным о продлении договора СНВ-III.

Вот почему исследователь Зауэр говорит: “Я могу себе представить, что от правительства Байдена поступит новый импульс о переговорах и по автономным системам вооружения”.

Оригинал публикации: Wettlauf der KampfroboterОпубликовано 02/03/2021