«Не твори зла!» Ватикан категорически выступил против летающих роботов-убийц

Сергей Путилов

Локальные конфликты последних лет характеризуются все более активным применением ударных беспилотников. Последние, к тому же, все чаще способны самостоятельно принимать решение об уничтожении цели. Этому способствуют роботизация и развитие искусственного интеллекта. Однако не все согласны с тем, что применение подобных смертоносных систем отвечает нормам гуманитарного права и нравственности. Постоянное представительство Святого Престола при ООН в Женеве выступило с резким заявлением против применения летальных автоматизированных систем вооружений, сообщает официальное издание римской церкви Vatican News.

В Женеве на заседании Группы правительственных экспертов по системам автономного летального оружия (LAWS) группа экспертов Ватикана представила свое видение этого вопроса. С точки зрения католической церкви автономные системы вооружений, способные самообучаться или самопрограммироваться, «обязательно оставляют место для определённого уровня непредсказуемости». То есть, например не принимают во внимание, если поблизости от террориста оказываются мирные жители, которые могут также пострадать в результате удара. В отличие от человека робот не может использовать «принцип различения», - полагают эксперты Ватикана. Применение роя малоразмерных беспилотников -«камикадзе» в городских районах еще больше повышает риски для гражданского населения. «Без непосредственного контроля со стороны человека такие системы могут ошибаться при определении намеченных целей. Концепция стаи автономного оружия ещё больше усугубляет этот риск, поскольку массированная природа роя может привести к чрезмерным повреждениям и неизбирательным действиям, что явно противоречит международному гуманитарному праву», - говорится в документе Святого Престола.

В то же время, как отмечают специалисты Ватикана среди видных учёных, инженеров, исследователей растет понимание того, что применение боевых автоматизированных систем противоречит нормам морали. «Всё чаще – по этическим соображениям – сотрудники и предприниматели выступают против определённых проектов, связанных с военным использованием искусственного интеллекта», – подчёркивается в заявлении.

Действительно, в 2018 году Google заявил, что не позволит использовать свои продукты искусственного интеллекта (ИИ) в сфере вооружений. Тем самым корпорация пыталась продемонстрировать, что ее неофициальный девиз «Корпорация добра» не является пустым звуком, хотя на кону оказались и миллиарды долларов, которые могли бы пролиться на нее из Пентагона. Компания заявила, что она не будет разрабатывать «технологии, которые причиняют или, скорее всего, причинят вред», а также технологии ИИ для использования в вооружениях. «Это не теоретические концепции», — заявил гендиректор Google Сундар Пичай в блоге, касаясь недавно одобренного этического кодекса компании под названием «Новые принципы».

Все началось с того, что руководство Google накануне подверглось критике со стороны собственных сотрудников из-за контракта на поставку технологии распознавания изображений Министерству обороны США в рамках программы Project Maven («Знаток», «Специалист»). Позднее стало известно, что Google не будет продлевать контракт с военными. Проект «Специалист» был инициирован Минобороны США. Его предназначение — обработка огромного количества визуальной информации, поступающей с беспилотных летательных аппаратов, оперирующих в самых разных уголках мира. Предполагается, что проект уже применялся Пентагоном в борьбе с ИГИЛ (террористическая организация, запрещенная в России) в Сирии. Вместе с тем, Google ранее претендовал на многомиллиардный контракт по переводу данных Пентагона в облачные сервисы. Стоимость этого контракта, известного как JEDI (Совместное предприятие оборонной инфраструктуры), в части облачных вычислений может составить миллиарды долларов за 10 лет. Общая упущенная прибыль компании в случае прекращения сотрудничества с военным ведомством может достигать 11 млрд долларов. Как говорилось в открытом письме, подписанном 3 тыс. работников Google, и опубликованном газетой The New York Times, репутационные риски «самой доброй» корпорации мира окажутся неизмеримо выше по сравнению с потерей военных контрактов. Как отмечают пацифистски настроенные сотрудники компании, сотрудничество с военными нанесет невосполнимый ущерб бренду Google и его возможности бороться за талантливых сотрудников. «Заключая этот контракт, Google вопреки своему собственному лозунгу «Не твори зла» вступает в ряды таких компаний, как Palantir, Raytheon и General Dynamics (оборонные компании США). Тот аргумент, что другие фирмы, такие как Microsoft и Amazon, тоже участвуют, не делает ситуацию менее рискованной для Google», – отмечают авторы письма.

«Ватикан может лишь действовать на совесть людей. В то же время, практическая реализация этих идей возможна только если ее подхватят конкретные компании, корпорации, отдельные ученые. Даже если предположить, что решение Google отказаться от сотрудничества с военными диктовалось не столько миротворческими, сколько корыстными соображениями (потеря репутации, которая много стоит, риск потери сотни высококвалифицированных специалистов), тем не менее, подобная мера достойна уважения. С другой стороны, письмо протеста, подписанное более чем 3000 сотрудников компании, возмутившихся сделкой с Пентагоном, говорит о высокой степени гражданской ответственности этих людей. В этом смысле компьютерщикам и программистам других стран есть чему поучиться у их американских коллег», – сказал «НИ» руководитель электронной библиотеки «Вне насилия» Виталий Адаменко.