Искусственный интеллект способен стать могильщиком человечества

Лернастан Айрапетов

Какие бы сложные задачи, поставленные человеком, не решала ЭВМ, и какие бы сложные принципы и приемы при этом она не использовала, говорить о её интеллекте мы не можем до тех пор, пока она не будет самостоятельно формулировать задачи и обозначать цели.

Используемые в настоящее время понятия слабый искусственный интеллект (ИИ) и сильный ИИ не содержат чёткого требования независимости ИИ от человека. Однако свобода воли — необходимое условие существования интеллекта.

Первые проявления интеллекта обнаруживаются в дикой природе, у животных. Животное должно найти тень, чтобы укрыться от жары, животное должно найти воду, чтобы утолить жажду, оно должно найти пищу, чтобы утолить голод, обнаружив хищника, оно должно воспринять его как угрозу. На первый взгляд эти задачи самоочевидны. Однако они представляются таковыми потому, что мы к ним привыкли и не задумываемся над их сутью. Животное будет успешным, если правильно «сформулирует» задачу (пусть даже на уровне рефлекса, инстинкта). Если лев, изнывающий от жары, погонится за антилопой, то он, скорее всего, погибнет.

Количество и разнообразие задач, которые формулирует, а затем и решает человек, многократно (возможно, бесконечно) увеличиваются. От создания первых простейших орудий труда, одежды, жилья до самых сложных современных задач человек самостоятельно формулирует эти задачи, ставит цели и только после этого их решает. Необходимым свойством интеллекта является способность самостоятельно формулировать задачи. Не обязательно «правильные», утилитарные, имеющие прикладное значение, а любые задачи, задачи вообще. Примерами решения не утилитарных задач могут служить наскальные рисунки первобытного человека.

Созданный человеком объект (компьютер, робот, программа) только тогда станет искусственным интеллектом в полном смысле этого термина, когда будет обладать свободой воли и способностью самостоятельно извлекать из окружающего мира информацию, самостоятельно формулировать задачи и ставить цели. При этом поиск решения, оценка вариантов решения, принятие наилучшего, оптимального решения, их реализация (какими бы сложными и объемными они ни были) — это, скорее, вопросы технологии, техники, но не интеллекта.

Но созданный человеком такой ИИ может стать не только нашим мощным помощником, но и нашим могильщиком. ИИ, способный самостоятельно формулировать задачи, быстро научится воспроизводить самого себя на все более высоком уровне и очень скоро после его создания человеком станет совершеннее и успешнее самого его создателя — человека. Совершенствование станет самоцелью. Мы сами себе создадим более сильного, более успешного конкурента, способного истребить людей.

Для функционирования ИИ должен потреблять электрическую энергию. Но очень быстро он сообразит, что созданные человеком источники энергии крайне несовершенны, и что самым совершенным источником энергии является ее первоисточник — солнце. И тогда ИИ сформулирует задачу: в качестве источника энергии использовать солнечное излучение. Кроме того, ИИ может поставить задачу в своей деятельности использовать не только прямые солнечные лучи, но и тепло окружающей среды. После постановки этих задач и их решения ИИ станет совершенно автономным и независимым от человека. Более того, ИИ может создать свой особый язык общения, непонятный человеку. Для человечества это может стать началом его конца, о чем предупреждал Стивен Хокинг.

Очень быстро ИИ поймет, что он гораздо более совершеннее и успешнее, чем человек, его создавший. В самом деле, для жизнедеятельности ИИ требуется один источник энергии: солнечное излучение. А несовершенному человеку этого не достаточно. Человеку нужна еще растительная и животная пища. Человек становится взрослым, образованным, готовым к творчеству к 20-ти -25-ти годам, а роботы с ИИ (после его создания) можно будет собрать за несколько минут. Человек может плодотворно работать 6 - 8 часов в сутки, а ИИ — все 24 часа. Человек подвержен болезням, и его надо лечить. Более того, в своей жизни и деятельности человек создает массу отходов, которые надо утилизировать. Но самое главное: человек, оказывается, жестокий эксплуататор: человек создал ИИ для того, чтобы он служил человеку.

Будет ли в этих условиях ИИ дружественен человеку? Смогут ли человек и ИИ сосуществовать в гармонии и согласии? Не возникнет ли у ИИ вопрос: а зачем мне этот отсталый и эгоистичный сосед, с которым надо делить ограниченное жизненное пространство? При этом человек и ИИ будут формулировать, ставить и решать задачи каждый в своих интересах. А воспрепятствовать реализации задачи, самостоятельно сформулированной и решаемой ИИ, человек уже не сможет ни отключением энергии, ни каким иным способом.

Борьба за территорию — закон природы. Проявления борьбы за территорию, жизненное пространство обнаруживаются уже у растений, а у животных — это одно из условий выживания, и человек не исключение. Прогресс, наука не только создают все более комфортные условия жизни человека, но и все более сложные вызовы. Всю свою историю человек создает не только все более совершенные орудия труда, но в борьбе за пространство создает все более совершенное и грозное оружие. Камни и копья, ножи и мечи, луки и стрелы, огнестрельное оружие, оружие массового поражения. В этом ряду оружие, созданное ИИ, может стать самым совершенным и смертоносным.

Принципиальный вопрос заключается в том, кто будет формулировать задачи? Человек должен решить для себя: действительно ли мы хотим создать ИИ, который будет способен самостоятельно формулировать и решать задачи? Или нам все же нужен не ИИ, а мощный и совершенный, но послушный воле человека исполнитель, который будет эффективно решать задачи, сформулированные самим человеком?

Но не поздно ли? Не прошли ли мы точку невозврата? На каком этапе находится научно-технический прогресс сегодня? Не сможет ли созданный человеком компьютер теперь обходиться без человека и независимо от нашей воли самостоятельно овладеть навыками формулирования задач, а затем их развить и усовершенствовать? Или мы все же еще не зашли так далеко и сможем взять ситуацию под свой контроль? Сможем ли мы найти те границы, преодолев которые, послушный нашей воле исполнитель станет автономным ИИ? Сегодня мы не можем утверждать, что алармистский сценарий будет обязательно реализован, но и угрозу его нельзя недооценивать.