По прогнозам Gartner, к 2028 году половина всех усилий реагирования на инциденты области корпоративной кибербезопасности будут сосредоточена на инцидентах, связанных с пользовательскими ИИ-приложениями. Поскольку многие из них переходят в продуктовую фазу до завершения тестирования, службам безопасности следует как можно раньше приступать к участию в разработках приложений с ИИ, чтобы иметь достаточно времени для принятия адекватных мер безопасности, рекомендуют эксперты Gartner.

Они полагают также, что к 2028 году в более 50% предприятий будут применять платформы безопасности на основе ИИ для защиты при работе со сторонними ИИ-сервисами и собственными ИИ-приложениями. Эти платформы унифицируют подход к управлению такими новыми рисками, связанными с быстрым внедрением ИИ, как подмена/внедрение инструкций в промптах (prompt injection), нецелевое использование данных (data misuse) и другими. Благодаря централизации видимости и управления, они обеспечивают применение политик, мониторинг активности ИИ и формирование единых правил безопасности. Однако необходимо убедиться, что такие платформы способны защищать все ИИ-нагрузки.

К 2030 году примерно треть ИТ‑процессов организаций будет связана не с созданием новых функций, а с устранением «задолженности по данным», так как плохо защищенные и неструктурированные данные являются основным препятствием для внедрения ИИ. Предприятия расширяют системы предотвращения утечек данных, чтобы контролировать и ограничивать потоки данных, формируемые генеративным ИИ и агентными ИИ‑сервисами. Для разработки структурированной программы обнаружения, оценки и исправления управления доступа к данным в Gartner рекомендует сотрудничать с лидерами в области обработки данных, аналитики и ИИ.

Из-за ручных процессов контроля соблюдения нормативных требований к технологиям ИИ 75% подлежащих регулированию организаций подвергнутся риску штрафов на сумму, превышающую 5% их выручки. Для предотвращения этого следует разработать систему управления рисками и соответствия требованиям, а также обеспечить соответствие с помощью технологий.

В условиях геополитической нестабильности к 2027 году в 30% организаций будут требовать полного суверенитета в вопросах управления средствами защиты облачной инфраструктуры, исключающего передачу критическив важных функций и данных за пределы своей страны или юрисдикции.

К 2028 году 70% ИБ-директоров будут использовать возможности мониторинга и аналитики идентификационных данных, чтобы сократить поверхность атак управления идентификацией и доступом (IAM) и снизить риски компрометации учетных данных. Обнаружению и устранению таких угроз поможет интеграция унифицированных платформ мониторинга и аналитики идентификационных данных с поддержкой ИИ, утверждают в Gartner.