Почему машины никогда на восстанут против людей

Любопытное объяснение, почему человечеству не следует опасаться так называемого «бунта машин», которым так любят нас пугать фантасты, дал кубанский блогер Алексей Павлюц:

«Мне вчера пришла в голову хорошая аллюзия, объясняющая людям, далеким от темы, гуманитариям, детям и журналистам почему новости типа "ИИ обыграл человека в шахматы", "ИИ лучше человека считает мух на куске [beep]" и прочие "ИИ лучше человека" - не имеет отношения к ужасам бунта машин и прочей фантастике, да и в общем-то никакой особо яркой новостью не является.

Я просто покажу Вам "человеческий" эквивалент ИИ.

Итак, давайте промоделируем ситуацию, отрешившись от гуманизма. Возьмем новорожденного ребенка и поместим его в замкнутую искусственную среду, целиком заточенную на выполнение им какой-то одной функции. Например, бросания красного мячика в синее кольцо.

Причем делать это будем прагматично, жестоко и бесчеловечно. Попал - более вкусная еда (с добавкой глутомата натрия), не попал - удар током. Никаких внешних раздражителей кроме мячиков, колец, еды и периодических разрядов тока.

Через какой-то время (несколько лет, что связано с чисто биологическим "вызреванием" нервной системы) мы получим существо, которое попадает красными мячиками в синие кольца с чудовищной, запредельной, нечеловеческой эффективностью. Из любых положений, при любых условиях процент успешных попаданий будет фантастичен. И недостижим для обычного человека даже если он посвятит всю свою жизнь тренировкам.

Но будет ли это существо человеком? Все же скорее нет, чем да. Вы даже пообщаться с ним не сможете - у него для этого тупо нет механизмов. А что случится, если мы внезапно расширим его внешнюю среду? А вот смотря как. Навыки, близкие к "бросанию" будут усваиваться сравнительно быстро, а сложные навыки далекие от него скорее всего не смогут быть усвоены. Весьма вероятно, что слой абстрактного мышления окажется сформирован очень, очень слабо.

Развить такое существо в хотя бы сколько-нибудь полноценного члена общества скорее всего не получится, ибо весь ценный период максимальной обучаемости мозга уже пропал.

Вот в этом месте посмотрите на это существо, Вам не страшно? Вы не боитесь что оно вытеснит Вас из мироздания? А почему? Оно с 30 метров при боковом ветре красным мячиком в синюю корзину попадает безошибочно, а если дать ему пушечное ядро или метательный нож? Все равно не страшно?

Ну так вот!

Возвращаясь к ИИ. Даже самые громкие успехи ИИ - это, по сути, реализация целевой функции, бесконечно узкой и предметной относительно всего поля информации, алгоритмов и действий, которые мы привыкли ассоциировать с обычным человеком. При этом их реализация постоянно упирается в наши пределы вычислительных мощностей.

Парадокс в том, что малообразованный гражданин в терминальной стадии алкоголизма таки на многие порядки сложнее, чем самый топовый синтетический Ватсон, как бы не казалось обратное. И все обозримые и загоризонтные перспективы роста скорости вычислений могут лишь сократить дистанцию между ИИ и алкоголиком с миллиарда километров до ста миллионов. Что само по себе, конечно, развитие.

Поэтому автопилот будет водить машину лучше самых лучших водителей. Автоврач будет диагностировать известные (!!!) заболевания лучше самых опытных врачей. Но это всего лишь шуруповерт и электронасос следующего уровня сложности. Копать палкой быстрее, чем когтями, мотыгой быстрее чем палкой, лопатой еще быстрее, а экскаватор куда быстрее лопаты. Заголовок "Экскаватор копает котлованы в тысячу раз быстрее человека!" - как вам? Ну и?

Да и все! Инструмент и ничего больше.

P.S. Все написанное выше одной строкой: "ИИ - это про навык, но не про знания или мышления". Как-то так...»

Оригинал здесь