Высокие статистические технологии

Отказ от бумаги — это измена
Чем опасна цифровизация?

В июне 2025 года в Нижнем Новгороде состоялась конференция «Цифровая индустрия промышленной России» (ЦИПР). В рамках сессии «Архитектура цифровизации государственного управления» выступила Наталья Ивановна Касперская – президент группы компаний InfoWatch, специализирующаяся на информационной безопасности в корпоративном секторе. Свое выступление Касперская посвятила крайне актуальной сегодня теме – рискам цифровизации и использования искусственного интеллекта.
Если вы позволите, я все-таки не про то, какие меры регулирования необходимо принять, потому что регуляторных у нас достаточно. У нас есть ФСТЭК, ФСБ, Банк России по своей сфере компетенции, и регуляторы делают всё необходимое. На мой взгляд, избыточного регулирования здесь не требуется. Если позволите, я про цифровизацию немножко поговорю.
Вот смотрите, у нас цифровизация – это очень модная тема, и сейчас всё должно идти в цифру, всё, значит, мы быстрее туда бежим. Но надо понимать следующие ограничения.
Во-первых, вся цифровизация построена на данных. Данные – что это значит? Это значит, что данные, которые мы отдаем в «облака» или в какие-то государственные системы, они подвержены рискам информационной безопасности. Риски информационной безопасности на 100% не купируются. Это просто невозможно. Эта задача не решена до сих пор. Вообще. Нет гарантийного избавления от рисков.
Если вы поставите задачу гарантированного избавления от утечек, то такую задачу решить нельзя. По крайней мере, на сегодняшний день человечество эту задачу не решило нигде. Ни в России, нигде. То есть отдаем данные в цифру, мы получаем гарантированное снижение уязвимости. Понятно, что уровень уязвимости оценивается по слабейшему звену. В данном случае самым слабым звеном становится цифровизация.
Второе. Оборудование у нас в основном иностранного производства. У всех вас в карманах лежат смартфоны. Посмотрите внимательно, чьего они производства. Может быть, кто-то в аудитории поднимет руку, вдруг я ошибаюсь, и смартфоны российского производства.
Вот, пожалуйста. Это иностранные платформы. Как они основаны? Они основаны на «облачных» технологиях. Что это значит? Это значит, что все наши данные принадлежат тому производителю, устройство которого лежит у вас в кармане. Либо это американские производители, либо китайцы, которые, уж точно, не постесняются напихать туда столько закладок, какие они только могут. Это значит, что все наши данные доступны. Потом мы можем туда ставить всё, что угодно, любые системы государственного управления, которые у нас такие славные, замечательные и хорошие. Но, понимаете, если это платформа, то на платформенном уровне все эти данные могут быть перехвачены. Всё.
Как вы собираетесь их защищать, и как мы создадим щит кибербезопасности страны? Ответ – никак. На иностранные системы это невозможно. Невозможно, нужно сначала заменить всю систему. А это полное импортозамещение. А полное импортозамещение пока, по крайней мере в области железа, я не знаю, как это делается. То есть у нас пока это не сделано.
Значит, третий момент. Смотрите, вот Максут Игоревич очень любит об этом говорить, он так прямо вначале вообще радикально заявил, что наши идеалы – это чиновник-робот. То есть это чиновник. И здесь вот у нас тоже звучало, что это будет возможность для чиновников быть управляемыми электронными системами. То есть, по сути, мы предлагаем электронный кнут для чиновников.
Ну, во-первых, им это не нравится, да, по крайней мере региональным чиновникам точно, и это явно снижает мотивацию. А второе, вообще-то мы имеем непредсказуемые социальные риски, потому что что же проще – сделать электронную систему? Вот послушайте, что проще? Проще послать нафиг. Ну самое простое. Поэтому мы видим это на примере внедрения электронных помощников.
Вот смотрите, электронных помощников сейчас внедрили везде. Вы сейчас звоните в банк, поговорить с человеком невозможно, вам отвечает электронный робот. Вы пытаетесь, десять минут пытаетесь, электронному болвану что-то сказать. Электронный болван с вами что делает? Он, в первую очередь, вас посылает. Если у вас какая-то чуть-чуть сложная проблема, то пробиться через этот «искусственный интеллект» просто невозможно.
Теперь представим, что мы всё оцифровали… Нам уже не нужно пробиваться, люди, граждане никуда пробиваться не будут, при этом у нас будет вот такая статистика, отлично. У нас электронные болваны сами будут выдавать хорошую статистику, все будут счастливы, всё будет замечательно, и государственное управление у нас будет на очень высоком уровне.
Значит, четвертый момент. Цифровизация, вообще-то говоря, коллеги, вы не задумались, что это электричество плюс интернет? Это два обязательных свойства, которые нужны.
Вот я сейчас живу на даче за городом по южному направлению, значит, у нас интернет с вечера и до утра отключают. Каждый день, в принудительном порядке, по всем трем, значит, этим самым мобильным операторам. У нас три мобильных оператора, мы очень хитрые, мы поставили три. Значит, антенны, все три отключают. Почему? Летят БПЛА на Москву, летят БПЛА массово, они ориентируются по вышкам, у них триангуляция. Соответственно, для того чтобы как-то сбить им навигацию, выключается интернет. Иногда и днем выключается. Ну, коллеги, давайте будем честны, мы идем к глобальной войне. У нас через некоторое время отключение интернета будет нормой. Мы как в этом случае к государственному «облаку» будем стучаться? Что мы там будем делать? Какие данные мы там будем получать?
Что далеко ходить? Вот сегодня мы шли на завтрак с Максутом Шадаевым, входили сюда в ЦИПР. Значит, проходим, система не работает. Мы говорим: ну пустите, у нас завтрак с министром, ну вы что? Система не работает. Они говорят: ждите. Значит, вот там люди, там собралась толпа. Я говорю: посмотрите, у нас бумажная карточка. Вот видите, вот здесь написана моя фамилия. Я готова предъявить свой паспорт, чтобы вы сверили. Они говорят: нет, нам нужно в систему.
Ну, слава Богу, один из десяти вот этих штук в конце концов заработал, нас по одному начали пускать. Но это очень характерный пример, понимаете? Если мы будем полагаться на электронные системы, то мы рискуем оказаться в момент отключения этих систем безрукими, глухими и слепыми котятами, абсолютно. Это просто гигантский риск, который нельзя недооценивать.
И еще хочу сказать по поводу искусственного интеллекта. Очень модно у нас сейчас встраивать искусственный интеллект. Это здорово, это классно, это очень молодежно. Но искусственный интеллект, основанный на глубоких нейронных сетях, надо понимать, что это система, которая имеет ложноположительное и ложноотрицательное срабатывание. Это что значит? Это значит, что она глючная по определению. При этом, если вы закрутите ложноположительное срабатывание до нуля, например, то у вас тогда ложноотрицательный подскочит. И вы не сможете ничего сделать…
Ну, мы занимаемся системой искусственного интеллекта, вот чем мы занимаемся в сфере защиты от утечек. На самом деле это большая система распознавания. Система распознавания так устроена, что у нее LPS-ы, LOSS-ы, вот эти. И мы постоянно балансируем. Мы чуть-чуть опустили здесь, значит, у нас тут чуть-чуть поднялось. Потом мы опустили эти, а эти поднялись. И вот мы всё время балансируем. То есть она глючная по определению. Ноль и ноль получить там и там нельзя. Все время будет глючить. Значит, мы должны понимать, что имеем дело с глючными системами.
Поэтому предложение внедрить это в какие-то государственные системы с принятием решений ответственных, для ответственного применения, типа юридическими документами, – это, коллеги, просто нельзя. Также нельзя внедрять эти системы, например, в медицинские решения. Нам говорят: «Ну, врачи же тоже ошибаются». Врачи тоже ошибаются, да, но врач при этом несет ответственность. А тут кто будет? Электронный болван? Кому вы потом предъявите свои требования? А он скажет: ну это же разработчик. А разработчик скажет: а я-то что, я вот систему разработал, я ответственности не несу, это вообще черный ящик, она приняла решение, я не знаю, как. Это, кстати, тоже нужно учитывать, коллеги.
Почему мы никогда об этом не говорим? Говорят про искусственный интеллект, никогда не говорят про проблему черного ящика. Но, коллеги, вот мы из года в год собираемся, мы из года в год садимся и начинаем: давайте поговорим про риски искусственного интеллекта. Проблема черного ящика опять. И опять каждый год. Она не решена…
А сейчас уже дипфейки у нас. Друзья мои, что мы придумали, чтобы сделать что-то с дипфейками? Они сейчас такого уровня и такого качества, что вообще неотличимы. Ну вот, приняли у нас закон о борьбе с мошенничеством. Завтра мошенники с лицом мэра и голосом мэра будут убеждать нас перевести куда-то деньги, куда он скажет. И что? Уже сейчас эти фейки выходят на такой высокий уровень, что многие люди попадаются на удочку…
Предложения теперь у меня.
Первое у меня предложение: это когда мы что-то цифровизуем, мы обязательно должны иметь дубль в бумаге. Вот прямо обязательно. То есть мы знаем, что да, это модно, красиво, молодежно, но вот эта задача, про которую здесь сказали, – отказ от бумаги к 2030 году – это диверсия под государственное управление. На мой взгляд, это просто государственная измена. Вы извините, пожалуйста. Ну, потому что, если мы не будем говорить такими терминами, то мы сейчас всё переведем в цифру, и когда нас накроет, мы просто окажемся безрукими и слепыми. Поэтому давайте прямо. Отказ от бумаги – это измена.
Второе. При внедрении, при создании любой цифровизованной системы, по цифровизации должны сразу учитываться риски. То есть должна быть проанализирована модель угроз, что будет, какие возможные векторы атак, какие возможные внутренние уязвимости. Вот это должно быть проанализировано и составлена система защиты. И если это идет вместе с системой защиты, тогда да. Что мы имеем? Мы имеем то, что кто-то там цифровизировался, а потом приходит к нам и говорит: «Защитите». Мы говорим: «А как защитить ваш вот этот зоопарк, который вы тут наслесарили?» Я не знаю, как это защитить. Это всё надо выкинуть и начать всё с нуля. Давайте так не будем делать. Давайте сразу будем думать, что если цифровизация, то у нас вот здесь обязательно информационная безопасность. Информационная безопасность равна цифровизации. Должны быть братья-близнецы, как вот такая как бы единая система.
И никак иначе. Потому что иначе наложенные средства информационной безопасности работают всё хуже, хуже и хуже. А дальше они совсем не будут работать. Они совсем не работают над искусственным интеллектом. Они совсем не работают над дипфейками. Просто давайте не строить иллюзий. Вот вы сказали про щит. Нет у нас щита, коллеги. Ну нет у нас щита! У нас дыры сплошные на небе.
Ну и последнее, значит, просто такой последний вывод. Не стоит возлагать излишние надежды на искусственный интеллект. Я предлагаю в этом смысле вспомнить кривую Гартнера, которая нам показывает, что сначала любая технология проходит пик хайпа, потом падает в плато разочарований, точнее, в яму разочарований, если она оттуда выбирается, что не всегда, как, например, случилось с 3D-телевидением, которое там и умерло, да?.. Но если она выбирается, то потом выходит на какое-то плато производительности. Вот я искусственный интеллект изучаю и им занимаюсь профессионально, так вот, искусственный интеллект – это такая синусоида. Сколько лет этой технологии искусственного интеллекта? Она взлетает, у нас в 60-х годах прошлого века все писатели-фантасты обписались, помним мы там Роберта Шекли и Лема, других мы все читали, да, это не надо пересказывать. То есть эта тема была актуальна еще тогда.
Потом, значит, ничего не получилось из этого прекрасного андроида. Всё это упало в плато разочарования. Потом, значит, Деблю, который выиграл в шахматы. Опять все кричат: «Ура, вот оно, наше будущее!» Опять всё рухнуло в пропасть. И так сейчас. Сейчас у нас есть глубокие нейронные сети. Потом у нас появился чат GPT. Сейчас все, значит, восхищаются чатом GPT. О, чат GPT – это прекрасно! Но мы уже видим, что производительность снизилась.
Поэтому давайте сейчас немножко выдохнем. Вот оно выйдет на плато производительности. И тогда мы будем об этом говорить. А то, знаете, получится как с блокчейном. Мы блокчейн вписали во все государственные программы. Я вот лично участвовала тогда в программе «Цифровая экономика», и у нас блокчейн был прямо прописан в строке выделения денежных средств на технологию «блокчейн». Потом мы разговорились с директором. Он мне говорит: «Наталья Ивановна, можете ли Вы подобрать для меня какие-нибудь компании?» Я спрашиваю: в чем проблема? Ну, говорит, у нас выделено 2 миллиарда на блокчейн, а никто не пришел. Ну в госуправлении. Так давайте, прежде чем впишем искусственный интеллект во все места мыслимые, мы все-таки немножечко так критически переосмыслим это и подождем, мы получим реальные технологии, а не нереалистичные сказки от ИИ-фантастов.

https://sovross.ru/2025/07/16/otkaz-ot- ... /#comments