Любое обсуждение текущего состояния дел в бизнесе непременно содержит вопрос: «А как вы с ИИ, дружите?» И ответы у всех примерно схожи. Есть где-то ИИ-агенты — как же без них, ведь сегодня это обязательный минимум. Есть понимание, как надо все правильно выстраивать: от ИИ-оркестраторов и планировщиков до ИИ-валидаторов и генераторов по конкретной отрасли: ретейлу, телекому, логистике, страхованию, банкам и пр. А вот о том, что пора бы сосредоточиться на условиях успешного и, главное, безопасного для обеспечения конфиденциальности данных внедрения, обсуждений нет.

ИИ-агенты повсеместно получают сегодня права на изменение данных в корпоративных системах, что делает их потенциальной уязвимостью и точкой входа для возможных атак. Где расположена LLM? Если за рубежом страны, то как обстоит дело с рисками и полным отсутствием контроля над переданными данными? Если в России, то с 152-ФЗ уже лучше, но что с функционалом отечественных систем (YandexGPT, GigaChat и пр.)? Если имеется собственная закрытая большая языковая модель в местном ЦОДе, то насколько эффективно там меняются деньги (дорогостоящие вычислительные ресурсы) на полный контроль и максимальную конфиденциальность? Есть ли что-то принципиально новое по кейсам? Нет, тогда перейдем к безопасному внедрению — что нового по требованиям со стороны ИБ? А как дело с безопасной разработкой, насколько безопасен и понятен код от ИИ, как с уязвимостями нулевого дня, кому доступны данные? Вопросов много, а четких ответов нет.

При рассмотрении практически любого кейса по ИБ, независимо от бизнеса, сразу же ставится вопрос об эффективности внедрения инструментов ИИ для автоматического обнаружения, анализа и предотвращения угроз, а также реагирования на них. Что нового, какие результаты, как надо модифицировать уже имеющиеся стандартные решения?

Без ИИ в ИБ сегодня нельзя, тем более что уже сформированы базовые требования по апробации. Как всегда, сначала бизнес постарался сформулировать и ввести метрики на то, что именно ему требуется от ИИ для того, чтобы обеспечить непрерывность работы и устойчивость к компьютерным атакам, при этом действия ИИ должно быть максимально понятны и интерпретируемы, особенно в части принятия решения. Кто-то это сделал быстрее, кто-то до сих пор не решается, хотя практики уже тиражируют наиболее эффективные методики, особенно при тестировании и валидации моделей, контролировании данных, управлении доступом и аутентификации, человеческом контроле (Human-in-the-loop), документировании процессов и даже обучении персонала. Затем все это обобщили регуляторы, выпустив, например, для КИИ Приказ от 11.04.2025 N 117 «Об утверждении Требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений» и предварительный национальный стандарт ПНСТ 1046–2026 «Искусственный интеллект в критической информационной инфраструктуре. Общие положения». Налицо близнецы-братья: говорим ИИ — подразумеваем ИБ, говорим ИБ — без ИИ не обойтись. И кто более ценен? Регулятор четко говорит, что ИИ это, конечно, важно, но контроль технологий ИБ уже отлажен и методологически проще не описывать все с нуля, а дополнить этим нормативную базу именно по ИБ. Но тут возникает вполне законное сомнение в том, что нормативные документы часто запаздывают и не отражают реальную ситуацию. Поэтому в той же ИБ обязательная отчетность — это святое, но реальная защита может быть более продвинутой и не подпадающей под такой контроль. Особенно когда изменения слишком быстрые. Вот как в случае с пентестингом, когда все в отчетности в основном сводится к красно-синим, а по делу надо учесть, что нужна бы еще белая, желтая и другие цветные команды. Поэтому в ИИ именно ИБ де-юре впереди. А де-факто, для реального бизнеса, важно сразу понять, за счет чего идет опережение, почему ИБ была, есть и будет на шаг впереди, а главное, на чем все это основано?

Чтобы не ошибиться с внедрением максимально подходящего решения, особенно в плане эффективности, надо прежде разобраться, откуда пошла нынешняя мода на ИИ, — прежде чем сделать шаг вперед, надо сделать два шага назад.

Все началось в середине прошлого десятилетия, когда возникло понимание, что переход на цифру неизбежен и общество семимильными шагами неотвратимо движется к новому миру. Но тут прилетел «черный лебедь» — ковидный 2019 год — наступил момент истины. Удаленный доступ стал основным поводом для жесткого, максимально быстрого внедрения цифры, несмотря на все сопутствующие издержки. До конца не разобравшись с финансовой грамотностью и с управлением рисками, надо было сразу начинать жить в дивном новом цифровом мире. И как только начали внедрять цифровые технологии, тут же столкнулись с определенными трудностями — и дело даже не в том, как сделать лучше, а в том, чтобы вообще заставить технологии работать.

Сразу же активизировались разные преступные элементы, причем уже не только привычные хакеры-злоумышленники новой цифровой реальности, а совершенно новые типажи цифровых мошенников. Типичный для доцифровой эпохи ландшафт угроз ИБ радикально обновился, а саму ИБ уже пришлось рассматривать как составную часть цифры, в рамках еще недопонятых финансовой культуры и управления рисками. Первые обобщения причин проблем цифровой трансформации свидетельствовали, что дело не столько в технологиях, сколько в изменении подходов к работе, мышлению и в культуре компании. Именно в переходе к цифре роль ИБ стала наиболее значимой, что выражалась не только в быстрой апробации соответствующих технологий, сколько в немедленном внедрении корпоративной кибербезопасности, киберграмотности и киберкультуры. Оказалось, что сейчас именно ИБ стала определять возможности цифровизации.

В начале этого десятилетия в индустрии ИБ появились апробированные методики внедрения, метрики оценки, мониторинга эффективности и даже своеобразная, но хорошо работающая оценка степени зрелости ИБ в бизнесе. На первом уровне зрелости это просто сам факт внедрения в организации отдельных технологий ИБ, обеспечивающих оперативную реакцию на любое проникновение в инфраструктуру, на атаку злоумышленников и ликвидацию уязвимости. Следующий уровень — внедрение системы управления рисками в ИБ и ее интеграция в общую систему управления бизнес-рисками. Третий уровень — ИБ уже как целостная система обеспечения непрерывности ведения бизнеса благодаря управлению рисками с осознанием того, какие из них компания готова принять для эффективного развития бизнеса, если нет ресурсов на нивелирование всех.

Оказалось, что именно российская индустрия ИБ совершенствуется наиболее быстрыми темпами, если говорить о внешних целевых атаках и минимизации их последствий. Во-первых, злоумышленники всех мастей, включая мощные хакерские группировки, осознали, что Россия представляет собой мишень, атака на которую если и не будет напрямую спонсироваться правительствами недружественных государств, то хотя бы может осуществляться с их молчаливого согласия. Во-вторых, страна стала приоритетным полигоном для апробации новых технологий атак — а значит, и защиты. Возник некий двигатель «прогресса» — развитие средств защиты стимулирует развитие всей российской отрасли ИБ, в которой задействованы продвинутые хакеры и идет постоянный процесс усложнения атак и рост их числа. Одновременно наблюдается рост количества атак за счет нового, многочисленного поколения молодых, начинающих хактивистов, у которых появился полигон для обучения, а порог входа в «профессию» сильно снизился. И в третьих: уход западных компаний и санкционное давление стимулировали разработку ПО по ИБ — только за 2025 год объем российского рынка ИБ превысил 400 млрд руб., а рост составил около 20–25% при весьма неплохих перспективах, в том числе и за счет экспорта. При этом, по оценкам Института экономики роста им. П. А. Столыпина и фонда «Сайберус», совокупный вклад всей отрасли ИБ в российскую экономику по итогам 2025 года составил 3,6–5,3 трлн руб — 2% ВВП.

Начало массового увлечения LLM ознаменовало появление еще одного «черного лебедя» на пути реорганизации цифрового мира. Резкий рывок в эволюции LLM на больших массивах для обучения привел не просто к привлечению в ИИ дополнительных ресурсов, а породил мысль о том, что ИИ со скоростью ковидного урагана поменяет и сам этот мир. Только ставшие уже привычными цифровые мошенники тут же начали активно использовать ИИ, превращаясь в новых «цифровых вампиров». Ну а порог входа для тех, кто использует ИИ для атак, снизился еще больше. Теперь для организации сложных атак уже не требуются глубокая техническая экспертиза или доступ к дорогим инструментам — достаточно базовых навыков и ИИ-модели, которая проводит исполнителя по цепочке атаки от разведки до заражения и эксплуатации проникновения. В результате криминальные группы хакеров и мошенников смогли легко расширять свои штаты за счет неквалифицированных сотрудников, умеющих лишь эффективно использовать инструменты на базе ИИ.

Защита от всего этого снова легла на плечи индустрии ИБ, которая к этому моменту обладала соответствующими ИИ-решениями, работающими быстрее и масштабнее человека: поведенческий анализ и обнаружение аномалий (User and Entity Behavior Analytics, UEBA — построение «цифрового портрета» каждого пользователя и устройства); защита конечных точек (EDR/XDR); фильтрация фишинга и спама; автоматизация центров безопасности (Security Operations Center, SOC); детекция дипфейков; анализ уязвимостей и пентестинг; обобщенная защита данных (DLP с ИИ). Однако апробация ИИ в бизнесе идет медленней, чем в ИБ, ведь ИИ в ИБ — это уже классика технологий двойного назначения. Те же алгоритмы, которые защищают инфраструктуру бизнеса, в руках хакеров становятся оружием, и на начальном этапе внедрения новых наработок ИИ преимущество получает нападающая сторона.

Итак, на рубеже 2025–2026 годов уже никто не говорит об ИБ без привязки к ИИ — точка невозврата пройдена. При этом внедрение ИИ в ИБ получилось настолько масштабным, что стало непосредственно влиять на собственно внедрение ИИ в бизнес-процессы. Более того, дальнейшая востребованность ИИ определяется текущими результатами и перспективами апробации ИИ в ИБ. Например, рекурентные нейронные сети (Recurrent Neural Networks, RNN) и долгая краткосрочная память (Long Short-Term Memory, LSTM) используются почти исключительно для анализа данных, помогающих выявить злоумышленников или обнаружить аномалии: логи событий, сетевой трафик во времени, действия пользователей. ИБ здесь не просто на шаг впереди — теперь конкретные алгоритмы и апробируемые методики ИИ рассматриваются с точки зрения ИБ!

Бум вайб-кодинга также внес свою лепту в развитие союза ИИ и ИБ, хотя поначалу издержки безопасной разработки, слишком тормозящие развитие темы AI-first, на время были забыты, в угоду быстрой генерации кода. Как следствие, безопасная разработка, совсем недавно принципиальная для Low- и No-code, отошла на второй план. В итоге без ИБ добились многого. Если еще три года назад ChatGPT был способен лишь написать однострочные функции на Python, то сейчас Claude Code, Cursor и Codex генерируют большие программы — вайбкодинг стал такой же привычной средой, как IDE или Git, базой создания продуктов сразу с расчетом на AI-first. Однако широкое использование вайб-кодинга приводит к появлению больших объемов функционального, но небезопасного кода — пришлось вернуться к ИБ и к соответствующим издержкам, не учитывать которые уже стало нельзя. В апреле 2026 года мощная нейросеть Mythos обнаружила тысячи ранее неизвестных уязвимостей нулевого дня в OpenBSD, FreeBSD, Linux, Firefox и других проектах, а чуть позже выяснилось что подобный взлом доступен и с помощью заурядных моделей от Anthropic и OpenAI. Пришлось в авральном порядке затыкать дыры. ИБ в очередной раз снова показала, что без нее никуда и она всегда должна опережать внедрение, чтобы потом не пришлось столкнуться с более существенными издержками.

И здесь совсем неудивительно, что крупные компании, в том числе и российские, предпочитают собственные модели ИИ. Даже простой запрос подразумевает, что на сторону отдается понимание того, что именно необходимо компании. Лишь по анализу промтов можно узнать почти все о бизнесе конкурентов. А знание кода, который был создан для конкретной компании в рамках вайбкодинга, дает возможность воспользоваться скрытыми в нем уязвимости. Аналогичное знание получает не только конкурент, но и хакерские группировки разных мастей, которые теперь вполне легально могут получить конфиденциальные данные.

***

ИИ — новая данность современности. Как только заходит вопрос о внедрении новой технологии ИИ, то сразу появляется необходимость внедрения адекватных методик ИБ, которые уже давно работают с ИИ. Да, все новые цифровые технологии равны в плане развития бизнеса, но ИБ приоритетнее. Начали внедрять технологии ИИ — это сразу про ИБ.

Алексей Гусев (gusev@ccb.ru) — cтарший советник, Банк «Центрокредит», старший преподаватель РУДН и НИЯУ МИФИ (Москва).

DOI: 10.51793/OS.2026.24.36.001