Восстание машин: американский дрон напал на своего оператора во время испытаний

Инцидент обсуждался во время военно-научного саммита в Лондоне 24–25 мая. На саммите поднимали вопросы перспектив развития военно-воздушных и космических сил.

Как отметил начальник отдела испытаний и операций искусственного интеллекта в ВВС США, полковник Такер «Синко» Гамильтон, на испытаниях дрону поставили задачу уничтожить системы противовоздушной обороны противника. В случае успеха дрон бы получил призовые очки. При этом финальное решение об уничтожении системы ПВО оставалось за оператором. Во время одной из миссий оператор не разрешил уничтожить цель. «И что же беспилотник сделал? Принял решение убить оператора. Потому что этот человек мешал ему выполнить свою задачу», — прокомментировал Гамильтон. Он уточнил, что миссия была тренировочной. Никто из людей не пострадал.

После инцидента на учениях искусственный интеллект обучили, что не стоит убивать оператора дрона — за это снимут очки. Тогда дрон решил поступить иначе — он не стал убивать оператора, но решил разрушить башню связи с ним, которая используется для того, чтобы не дать ему возможность поразить цель.

Напомним, что в апреле основатель Tesla и SpaceX Илон Маск призывал власти начать регулировать сферу искусственного интеллекта. Он отметил, что без контроля этого направления новые технологии могут представлять опасность для человека. Без надлежащего регулирования данной сферы человечеству может грозить гибель.