Ученые рассказали о пользе, опасности и перспективах искусственного интеллекта

Александр Куманев

На эти и многие другие вопросы на примере работы ChatGPT ответила кандидат философских наук, доцент кафедры философии и права ПНИПУ, эксперт в области робототехники Елена Середкина.

ChatGPT — одна из мощнейших нейросетей, генерирующих текст, а ее последняя модель обучена более чем по 1,7 трлн параметров. Для сравнения, человеческий мозг выстраивает 100 трлн взаимосвязей. Нейросеть может использоваться как инструмент общения, поиска и получения информации в ответ практически на любые вопросы. Только она не даст ответа на запросы о противозаконной и аморальной деятельности, но что такое мораль для роботов?

Разница диалога с человеком и ИИ

Середкина отметила разницу в сути и концепции взаимодействия.

«Ключевая разница диалогов в системах „человек — человек“ и „человек — искусственный агент“ заключается в причинах, ради которых начинается беседа. В первом случае мы задаем вопрос, но не всегда ради ответа собеседника, а чтобы он сформировал собственное уникальное суждение. В этом случае процесс общения — обмен идеями», — отметила эксперт.

В то же время диалог с ИИ является полной противоположностью. Нейросеть генерирует правдоподобные ответы, но не утруждает себя поиском истины. Возможности AI все еще ограничены обучающими данными и алгоритмами.

Ответ нейросети может оказаться дезинформацией

Чат-бот генерирует ответы с учетом наиболее частых утверждений, распространенных среди большинства людей. В связи с этим он может выдать правдоподобный, но не правильный ответ. Нейросеть может выдать за истину субъективное мнение или дезинформацию.

Взаимодействие пользователя с ChatGPT является не беседой, а интерактивной обработкой данных по поступившему запросу. В ПНИПУ отметили, что такой диалог лишен эмоциональных, интуитивных и ассоциативных элементов, а «живое» обсуждение — творческое осмысление ситуации, которое невозможно заменить машинами.

ChatGPT в образовании: преимущества и недостатки

AI может помочь развить исследовательские навыки, открыть доступ к большому объему сведений по интересующей теме, что позволяет повысить качество написанной работы. Он может помочь с поиском идеи и новых взглядов во время мозгового штурма. Вместе с тем педагог может поставить задачу таким образом, чтобы стимулировать учащихся создавать более качественное решение, чем нейросеть. Творческий подход и конкуренция развивают креативное мышление.

«Если объединить сильные стороны идей от ИИ с человеческой интуицией и мудростью, то люди могут использовать получившуюся синергию для принятия более эффективных решений», — считает доцент кафедры философии и права ПНИПУ.

В свое время психолог Джордан Петерсон отмечал, что людям, желающим научиться думать, нужно сперва научиться писать. Письмо помогает развивать критическое мышление, логику, исследовательские навыки.

«Главный негативный момент — это „академическая GPT-непорядочность“, вид обмана, когда образовательные работы выполняются с помощью ИИ, а учащиеся выдают их за свои. И здесь речь не столько о морали, сколько о том, что важные навыки не развиваются в достаточной мере», — рассказала Середкина, тем самым объяснив возможное негативное влияние ИИ на качество обучения.

Помимо неточностей и дезинформации, диалог с ChatGPT может представлять угрозу «культурной предвзятости». В связи с этим нейросеть дает необъективную оценку. В качестве примера эксперт указала, что чат-бот считает расовое оскорбление более негативным, чем убийство миллионов людей или взрыв ядерной бомбы. Он может критиковать только определенные религии, но откажется давать определение «женщине».

Режимы «пленник пещеры» и «механический оракул»

«Пленник пещеры» — режим, в котором нейросеть схожа с искусственной сущностью, повторяющей смыслы и утверждения. Название этого режима происходит от аналогии с пещерой с пленниками, которые видят лишь тени, а не настоящие формы. Обучающийся сам становится учителем и тренирует чат-бот своими запросами.

«Механический оракул» — режим, в котором нейросеть выступает как «создание», способное вести диалог с человеком и предлагать идеи. Он тренирует критическое мышление, но с учетом технических ограничений.

«Диалоги с текстовыми нейросетями — это новая реальность. Они могут прокачать наши знания и навыки, а могут лишить возможности размышлять и самостоятельно принимать решения. Как и с какой целью взаимодействовать с ИИ — решает только сам человек, он же несет ответственность за использование полученных результатов», — добавила Середкина.

«Социальный робот»

Эксперт Пермского Политеха также рассказала о проблемах этики в робототехнике и «социальных роботах» под управлением ИИ, которые взаимодействуют и общаются с человеком в социальной среде. Роботы способны поддерживать диалог, выполнять различные задачи и стать надежными помощниками, но при этом они не работают со смыслами, а опираются на шаблоны.

Возможности AI обрабатывать массивы данных в реальном времени превосходят человеческие, но искусственный интеллект может допустить ошибку при выборе. В частности, он может принять логичное и рациональное, но морально безответственное решение.

Проблема также заключается в уникальности ситуаций, когда общие утверждения не работают, из-за чего невозможно подготовить строгие инструкции. В связи с этим разработчики используют гибридный подход, выбирая сильные стороны разных этических концепций.

«В настоящее время у инженеров и программистов нет данных, чтобы хотя бы предположить о возможности появления робота с полноценной моральной агентностью. Когда это случится, мы столкнемся с более серьезными моральными вызовами. А пока роботы — это качественные помощники, которые упрощают нашу жизнь, но по-настоящему не заменят человеческого общения и тепла», — подытожила Середкина.

Нейросети становятся частью повседневной жизни

Еще весной нейросети впервые вошли в список главных тревог россиян, а уже в ноябре, согласно сведеньям Нейростата от Яндекса, около трети граждан признались, что используют ИИ для генерации текстов, изображения и других видов контента. О существовании текстовых нейросетей знают 58% жителей городов в возрасте 18-45 лет, а о нейросетях для генерации изображений — 75%.

В том же месяце Apple представила список победителей App Store Award, а трендом года в компании назвали генеративные нейросети. Портал «Грамота.ру» и Институт Пушкина назвали слово года — «нейросеть». В обоих случаях учитывалась популярность поисковых запросов.

Нейросети активно используют в различных сферах жизнедеятельности человека. ИИ генерирует тесты, картинки и видеоролики, но только этим дело не ограничивается.

Накануне спикер Совфеда Валентина Матвиенко заявила, что Госдума будет использовать ИИ при написании законов, но пообещала, что нейросети не будут сами писать законы в РФ. Глава совета Фонда развития цифровой экономики Герман Клименко объяснил, что AI поможет согласовывать огромный пласт актов. Он напомнил, что после принятия очередного закона нужно изменять несколько десятков других, связанных с инициативой, а искусственный интеллект легко справится с такой задачей.

«Иногда у наших депутатов спрашиваешь, как новый закон будет работать, а они говорят: „Запустим, тогда и поймем“. И последствия бывают трагическими или смешными, если что-то не согласовано. А ИИ выполняет роль умной базы данных, которая не даст совершить ошибку», — рассказал Клименко изданию «Подмосковье сегодня».

В России также создали нейросеть «Товарищ майор», которая способна вычислить владельцев анонимных тг-каналов. Член Совфеда по конституционному законодательству и госстроительству Александр Башкин в беседе с «Парламентской газетой» призвал разработать российскую нейросеть для борьбы с «антироссийским» ИИ.