Хотят ли русские войны? Даже искусственный интеллект мы делаем милитаристом

И даже не знаешь, как на эту новость реагировать, если буквально на днях Председатель Сбербанка Герман Греф лично признался, что этот самый «искусственный интеллект» довел его учреждение до многомиллиардных убытков...

Об этой опасной тенденции написала в ФБ общественный деятель Алена Попова:

«Раз уж не получается создать качественный автомобиль, самолет или телефон, надо чем-то другим удивить весь мир. Например, своей аморальностью. "Калашников" и другие предприятия Ростеха работают над созданием вооружения с искусственным интеллектом, которое сможет убивать людей в полностью автономном режиме. То есть без какого-либо контроля человека (даже удаленного). Об этом сообщил индустриальный директор кластера обычного вооружения, боеприпасов и спецхимии Ростеха Сергей Абрамов.

По его словам, «отправляя комплекс в полностью автоматический режим, человек должен быть стопроцентно уверен, что цель правильная и уничтожен будет именно противник". Видимо, Сергей Абрамов не в курсе, что ни о какой 100% уверенности даже речи идти не может. Человек, отправивший эту систему, чаще всего будет с удивлением получать информацию о том, что она в итоге натворила. Уровень интеллекта текущих алгоритмов не нужно преувеличивать. При принятии решения о лишении человека жизни во время боевых действий должны учитываться тысячи различных факторов и их сочетаний. И все эти факторы сейчас нельзя алгоритмизировать. И уж тем более у алгоритмов нет внутренних оснований и побуждений, собственных ценностей. Они не могут гуманно относиться к людям - уважать человеческую жизнь и достоинство.

«Но искусственный интеллект - это не просто замена человека машиной, это возможность обеспечить большую управляемость», - добавил Абрамов. Вообще-то, это не большая управляемость, а ровно наоборот - отсутствие управляемости. К тому же системы будут работать на таких скоростях и на таких масштабах, за которыми человеческий мозг не уследит. Решения, принимаемые на основе машинного обучения, непрозрачны. Человек не сможет даже понять, на основе чего алгоритм принял то или иное решение.

Новые прорывные образцы вооружения Ростеха, по словам Абрамова, обеспечивают России «существенное преимущество перед вооружением и военной техникой потенциальных противников». «Наше оружие было, есть и будет лучшим в мире. Без ложной скромности и без иллюзий по поводу наших конкурентов». У меня есть новость: гордиться своей аморальностью долго не получится. Данное вооружение нанесет такой вред и быстро совершит такие ошибки, что гордость быстро смениться стыдом. Хотите гордиться своими изобретениями? Выступите за запрет разработки, производства и использования полностью автономных систем вооружения, а высвободившиеся деньги и силы направьте на гражданские нужды.

Кто-нибудь вообще может назвать хоть один российский товар, который продается по всему миру, а этикетка Made in Russia свидетельствует о высоком его качестве? Лучше бы использовали свое желание заниматься искусственным интеллектом для создания качественных и конкурентоспособных беспилотных автомобилей, медицинского диагностического оборудования и систем персонального обучения...»

***

Комментаторы были обеспокоены таким положением дел:

Jelena Ivanova:

«Горько такое говорить, но какая Россия, такой и Ростех...»

Tatiana Parshina отреагировала со знанием дела:

«Я занимаюсь сейчас разработкой машинного обучения и результат получается совершенно непредсказуемый и на него особо не повлияешь, так как машина учится сама. Если доверить искусственному интеллекту самому убивать людей, то он всех и убьет непредсказуемо!»

Светлана Саградова:

«Если бы это была единственная проблема в стране... У нас ежедневно ад адресный с четко понимаемой целью в каждом городе, в куче инстанций и учреждений...»

Впрочем Максим Ефремов успокоил собеседников:

«Скорее всего этот проект будет воплощен только на бумаге и только для освоения очередного многомиллиардного бюджета. Сделают какую-нибудь бутафорскую игрушку, покажут по зомбоящику на фоне путина и успокоятся. Как всегда...»

Тогда как Дмитрий Слитинский не согласился с автором:

«Поймите, оружие должно пугать! Чем оно чудовищнее, тем больше шансов, что оно никогда не будет использовано. Во вторых, чем больше будет в армии ИИ, тем меньше потребуется в армии людей. Тем меньше людей будет "погружено" в военщину и останется мирным населением. Не будет людей с деформацией психики после "горячих точек" и т.д.

PS: самолёты у нас прекрасно получаются. Сейчас МС-21 на испытаниях, прекрасный самолёт!»