Ашманов рассказал о нашем ответе Chat GPT и готовящемся в РФ Цифровом кодексе

«Через несколько лет на поле боя будет сверхразумное, сверхбыстрое оружие. Условно говоря, ракеты, которые не может сбить обычный расчёт ПВО, в принципе не может, или даже увидеть.

Бои будут происходить так: что-то мелькнуло в воздухе, и всё — кто-то победил. А мы даже не поняли, что произошло.

Мало кто знает, что компьютерных вирусов производится несколько десятков тысяч в день, и, конечно, их производят генераторы вирусов.

И сейчас вся эта штука ускорится в разы.

Точно так же произойдёт с мошенниками. Если раньше условный цыган или жулик должен был на улице разводить лично, а потом эти мошенники с помощью украденных или купленных у мобильных операторов данных начали названивать нескольким десяткам людей в день, отработали себе компетенцию распознавать, ведётся человек или нет, — сейчас будет и диалоги вести чат GPT.

И будет распознавать, ведётся человек или нет.

На вашу бабушку будут нападать несколько раз в день абсолютно гипнотические сущности, абсолютно неотразимые. Поэтому сейчас учить бабушку разговаривать с мошенниками нельзя, надо просто отнимать телефон и отрывать от интернета, и её, и всех уязвимых.

Приведу пример. В Екатеринбурге на недавнем банковском форуме по безопасности разговаривал с ведущим нашей секции, который рассказал, что у него есть знакомая бабушка 85 лет, и её за последние два года развели на серьёзные деньги четыре раза.

Первый раз — «служба безопасности» Сбербанка, второй раз какой-то приз ей надо было получить, а для этого что-то заплатить.

Третий раз — ей, допустим, внучок позвонил, сказал, что его менты захватили, сейчас посадят и для того, чтобы его вызволить, надо… И вот этот мужчина рассказал, что регулярно проводит с ней беседу, объясняет всё.

И вот, говорит, в очередной раз, говорит ей — ну я же вам всё объяснял, почему вы ведётесь? Она отвечает, что если бы ей второй раз предложили льготный кредит, она бы не согласилась, но ведь они же каждый раз разное придумывают.

То есть страсть к халяве в её 85 лет у неё есть, или испуг есть.

Как правило используется всего два приёма: халява и испуг.

А теперь всё это, брать на халяву и на испуг, будет чат GPT, с невероятной скоростью. Десятки и, может быть, сотни тысяч звонков в день. И там же конверсия важна. Пусть один из тысячи поведётся, но зато у него можно отнять денег. Сотни тысяч вот таких атак будет.

С кибератаками та же самая история: DDOS-атаки, атаки взлома, атаки persistence red, когда нужно подсадить в компанию «троян» и чтобы он сидел тихо.

Всё это будут делать автоматы. И кроме того, что они это будут делать массово, у них будет очень высокая скорость.

Что делать?

А надо ли повторять (создавать свои аналоги зарубежных ИИ-разработок)? Непонятно. Наши цифровизаторы говорят: да, да, конечно, а то отстанем.

Но туда ли мы идём, нужно ли нам туда попасть? Это всё довольно серьёзные вопросы.

Я пока не понимаю.

Ну наделаем мы ещё генераторов. Эти генераторы, в основном, как и блокчейн, будут использоваться для нехороших дел. В основном.

Так мы что — тоже хотим эти «говномёты» поставить, что ли, не менее мощные, чем у врага?

Но оно же так не работает. Все, кто занимается управлением репутацией, знают, что обливать врага нехорошими субстанциями — не помогает, если на тебя идёт атака, нужны асимметричные ответы. Какими они могут быть — отдельный вопрос.

Можем ли мы вообще догонять в этом деле? Там же сейчас вопрос железа и больших языковых моделей.

Условно говоря, у Сбербанка есть девять тысяч карточек, а у этого OpenAI уже под двадцать тысяч, и они могут себе позволить ещё. Бесконечные ресурсы, там Microsoft в доле, ещё кто-то. Это деньги, а во-вторых, поди ещё эти карточки купи, левым способом, через пять звеньев.

На самом деле эти вопросы… Ну, мы-то их за пивом обсуждали, но они должны на государственном уровне обсуждаться.

Пока на коммерческом уровне все начальники позвонили своим яйцеголовым и сказали: срочно делай (свой аналог чата GPT и т. д.), и не обсуждай вопрос, надо это или нет. Потому что этого начальника суперкорпорации его более старший начальник, который ему позволяет эту корпорацию строить, зарабатывать, госденьги получать — он же его тоже спросит: а чего вы-то не сделали?

И этот хочет знать, что тому ответить. Если он может ответить, что работа ведётся, скоро будет — то всё нормально. А если — нет? Получается, он дурак. То есть это в общем, по-другому и не могло быть. Но на самом-то деле — мы должны это делать или нет? Это большой вопрос.

Ответы должны быть, возможно, другими.

Что происходит в целом? Народ включился массово, мошенники включились.

Курсы «промтов», использования GPT, дикий спрос на «джипотологов».

Идёт фальсификация научных статей, курсовых и дипломов. Маркетологи, рекламщики пишут тексты и создают картинки. Пропагандисты тоже уже включились. Коммерсанты бросились догонять: Сбербанк, Mail.ru, Яндекс делают свои генераторы текста и картинок. Google и Bing вставляют генераторы в поиск.

Созданы уже сотни стартапов на базе GPT и аналогов.

Система «Антиплагиат» заявляет между тем, что распознаёт сгенерированные тексты с точностью 97%, может отличать их от созданных человеком. Мой технический директор, правда, заявил, что такого залихватского вранья давно не слышал.

В общем, не знаю, но до сих пор что-то никто не умел распознавать дипфейки и сгенерированные тексты.

Но законодатели зашевелились. В Европе готовится большой пакет законов на 150 страниц, аналог закона о персональных данных. Про ограничение на искусственный интеллект.

AI Act — новый пакет законов, предварительный. В нём, в частности, прописан запрет биометрического распознавания в общественных местах, запрет распознавания эмоций, запрет предиктивной аналитики по людям, требование маркировки сгенерированного конента.

Наши пока шевелятся вяло. Есть у нас группа депутатов, которые не то что борются с цифровизацией, но пытаются её галоп немножко осадить.

Я об этом говорю так: нам нужно альтернативная цифровизация, с учётом рисков и так далее.

Ровно об этом и пишут европейцы. Мы не остановим цифровизацию, но нам надо договариваться, чтобы она была безопасной для общества, людей государства.

В Совете по правам человека я организовал рабочую группу, мы написали концепцию по защите прав граждан в цифровой среде, прямо по поручению президента. Доклад, который является подложкой, на 120 страниц, висит на сайте.

Сейчас мы, вроде бы, договорились, что будем делать Цифровой кодекс. Президенту об этом доложили. Вероятно, он будет делаться на базе Комитета по информационным технологиям, Хинштейном, в Госдуме».

Целиком посмотреть выступление Игоря Ашманова можно здесь.