Генеративный ИИ в промышленности: риски пока перевешивают?

Восприятие технологий генеративного искусственного интеллекта в реальном секторе расслоилось. Часть экспертов заявляет, что технологии явно переоценены, другие применяют их с осторожностью, а кто-то – использует с большим энтузиазмом. Так или иначе, на сегодняшний момент ИИ и его будущее на предприятиях является одной из самых обсуждаемых тем. Какие кейсы в промышленности можно тиражировать уже сегодня, какие существуют стоп-факторы, и как можно измерить эффективность проектов, обсуждали в ходе сессии «ИИ без иллюзий. Технологии для реального сектора», состоявшейся в рамках ЦИПР-2026.

«Принимать стратегические решения, когда технология находится на вершине хайпа, – вообще неправильно. Из-за хайпа создается чрезмерное доверие к технологии, и особенно ярко оно выражено у гуманитариев», – подчеркнула Наталья Касперская, президент InfoWatch. Преимущества, которые дает ИИ, очевидны, но нужно четко осознавать и сопутствующие риски. Эти риски существенны, но пока многие из них почти не проработаны, так как в полный рост проявились лишь в нынешнем году.

Наталья Касперская: «Из-за хайпа создается чрезмерное доверие к технологии, и особенно ярко оно выражено у гуманитариев»

Касперская констатировала, что большинство моделей генеративного ИИ – иностранного производства. Выбирать не из чего, в России существует полторы собственных модели: суверенная модель – сберовский GigaChat, и национальная – «Алиса» от «Яндекса». У каждой модели есть свои сильные и слабые стороны, и использовать одну модель для всех задач неправильно. Именно поэтому в промышленности и множатся иностранные нейросети. Если не переносить их внутрь собственного периметра, то сразу возникает риск утечки информации. Вся информация, к которой у модели появился доступ, может быть доступна другим пользователям, в том числе конкурентам. А когда сотрудники предприятия начинают чрезмерно активно использовать ИИ в личных целях – это отдельная болезнь. По облаку их запросов также можно вытащить наружу весьма ценную информацию.

Второй риск – возможная атака на российские компании с целью выдачи скомпрометированной информации. Ответы на вопросы вполне могут быть ложными, и как отличить их от правдивых, – нетривиальная задача.

Экономические вопросы

«Есть и риск игнорирования ИИ, и он в некоторых случаях может перевешивать риски безопасности. Потеря стратегического превосходства не менее опасна для бизнеса», – напомнил Игорь Зарубинский, вице-президент по инновационному развитию МТС. Именно поэтому сейчас чуть ли не все предприятия реализуют пилотные проекты, пытаясь оценить возможности различных ИИ-продуктов. Однако между пилотом и промышленной эксплуатацией лежит пропасть. Как правило, пилот реализуется компактной командой за одну-две недели, и сотрудники с удовольствием используют внедренную модель в корпоративном периметре. Однако при дальнейшем тиражировании возникают вопросы, связанные с инфраструктурой, безопасностью, поддержкой, экономическим обоснованием, развитием моделей. Как отметил Зарубинский, эти пять векторов далеко не всегда направлены в одну сторону, приходится преодолевать существенные разногласия. При этом необходим системный подход: рассматривать каждый проект как уникальный – непозволительная роскошь.

Игорь Зарубинский: «Есть и риск игнорирования ИИ, и он в некоторых случаях может перевешивать риски безопасности. Потеря стратегического превосходства не менее опасна для бизнеса»

Самое главное – компания должна научиться быстро меняться. Управление изменениями в большой корпорации не должно жить циклами «от комитета к комитету», а выходить на совсем другой уровень. Отдельный вопрос связан с экономическим обоснованием проекта: пилот обходится дешево, а вот просчитать экономику на этапе тиражирования очень нелегко. И если в случае с классическим ИИ многие компании уже на этом «набили руку», то с генеративным ИИ пока все сложнее. Нужно выработать единые принципы оценки таких проектов внутри корпораций, и именно это позволит избавиться от иллюзий, касающихся ИИ.

«Глядя в будущее реализуемых проектов, надо иметь в виду еще и то, что их экономика может сильно измениться. Например, сейчас складывается ощущение, что поставщики ИИ откровенно завлекают клиентов дешевизной сервисов», – выразил опасение Зарубинский. Однако рано или поздно вендоры захотят вернуть свои инвестиции и поднимут ценник, и что делать в этом случае – вопрос открытый. Как минимум, нужно заранее задумываться об управлении стоимостью потребляемых услуг.

«Конечно, мы считаем окупаемость кейсов и очень аккуратно относимся к токен-экономике. Но токены точно будут дешеветь, и то, что не окупается сейчас, вполне может окупиться через полгода. Компании, замораживающие свои проекты из-за неокупаемости, просто тормозят свое развитие и откладывают получение ценнейшего опыта, это проигрышная тактика», — заявил Кирилл Меньшов, старший вице-президент, руководитель блока «Технологии» Сбербанка.

Кирилл Меньшов: «Компании, замораживающие свои ИИ-проекты из-за не окупаемости, просто тормозят свое развитие и откладывают получение ценнейшего опыта, это проигрышная тактика»

По словам Меньшова, чтобы ИИ-модель корректно работала, ей недостаточно промпта, ей нужен весь контекст – внутренние регламенты и документы. И если организация не создает для своих сотрудников нормальных инструментов для работы, они неизбежно будут отправлять всю служебную и закрытую информацию в облако, потому что это фантастически экономит их трудозатраты. Это будет происходить независимо от желания руководства, и никакие запреты не тут помогут.

«Если посмотреть на утекший код ИИ-модели Claude, там 98% не сама модель, а так называемая harness – программная инфраструктура, обертывающая LLM и делающая ее полезной и удобной», – продолжил Меньшов. Поэтому правильнее фокусироваться не на дообучении чужих моделей, а именно на этой «обвеске», которая останется в компании и станет ее конкурентным преимуществом. Но это сложная задача для одной компании.

«Перспективность генеративного ИИ кажется очевидной, а вот здравого взгляда зачастую не хватает. Скажу сразу: если взять модель, в которую разработчики вложили сотни миллиардов долларов, и попытаться ее использовать для технологических процессов на крупном энергетическом объекте – ничего не получится», – признал Леонид Алтухов, президент ГК «Интерпроком». Чтобы генеративный ИИ давал пользу, его необходимо дообучать, и это обучение возможно только на основе знаний реальных технических специалистов. При правильном обучении и соблюдении всех норм безопасности возможно уже в ближайшие годы полноценно использовать модели в промышленности, причем речь будет идти именно о нескольких моделях. Система ИИ-агентов будет для разных целей опираться на различные модели, которые будут по-разному дообучены. Крупным структурам придется либо объединяться, либо запускать модели в собственных ЦОДах и дообучать их – в этом нет ничего плохого.

Человек остается в центре

Как отметил Дмитрий Суровец, заместитель генерального директора по ИТ логистической компании Fesco, люди переживают, что ИИ лишит сотрудников работы, и это естественно. Важна правильная коммуникация, позиционирование ИИ не как замены человеку, а как его помощника, увеличивающего ценность сотрудников для компании. Это крайне важно, и это задача не ИТ, а менеджмента и HR. С точки зрения производственных процессов ИИ еще есть куда развиваться, и людей в ближайшее время заменить не получится.

«Наш порт во Владивостоке занимает первое место по обработке контейнеров в России. Могу сказать, что в Китае и на Ближнем Востоке действительно есть порты без людей. Но у этих портов правильная геометрия. Наш порт представляет собой квест в черте города, невозможно расширить его так, чтобы все двигалось само собой по намеченному маршруту», – рассказал Суровец. Тем не менее, ИИ имеет огромный потенциал, и его внедрять нужно, хотя и очень осторожно.

Андрей Королев: «Важно не терять критическое мышление, трезвый взгляд на технологию, на ее уровень зрелости. Это даст возможность найти необходимый баланс и место технологиям ИИ»

«Важно не терять критическое мышление, трезвый взгляд на технологию, на ее уровень зрелости. Это даст возможность найти необходимый баланс и место технологиям ИИ», – призвал Андрей Королев, заместитель директора по информационной инфраструктуре «Росатома». По его мнению, человек останется точкой принятия решений в критических бизнес-процессах. ИИ может быть использован как второе мнение, помогать с нормативными документами, повышать безопасность и улучшать контроль качества. Эти примеры хорошо известны и должны быть тиражированы, но в обозримой перспективе вопрос принятия решений на основе ИИ несостоятелен. Даже с учетом того, что уже есть успешные примеры внедрения системы поддержки принятия решений на атомных электростанциях, это не отменяет ведущей роли человека.

«Что касается генеративного ИИ, то никакой речи о работе с публичными моделями быть не может. Мы ждем окончательного определения формулировок национального и суверенного ИИ, чтобы понять, с чем можно работать», – резюмировал Королев. Ключевой вопрос при этом – безопасность тех данных, на которых обучаются модели.

Закон или стандарт?

Какое должно быть регулирование использования ИИ на уровне государства и компаний?

«Как человек, участвующий в разработке регламентов, могу сказать, что по этой тематике очень большие дискуссии. Выражу свое личное мнение: регулировать саму технологию – неправильно», – поделилась Касперская. Она уверена, что технологии нужно дать свободно развиваться, дать ей возможность идти в том направлении, которое будет наиболее эффективным с точки зрения технологического развития. Ограничения должны быть для определенных направлений ее использования – например, КИИ, образование, юриспруденция, законотворчество, исходя из тех рисков, которые ИИ для них несет.

«Должна быть скорее не законотворческая инициатива, а выработка стандартов того, как с технологией обращаться и как ее использовать», – согласился Алтухов. На данном этапе необходима определенная свобода творчества, так как речь идет про абсолютно новый инструмент, и границы его использования только предстоит определить.

«Фокус должен быть не на регулировании, а на развитии сообществом подходов в тех или иных индустриях и областях. Меня больше всего беспокоит область разработки ПО в эпоху ИИ», – подчеркнул Меньшов. На предыдущих этапах цифровизации в России были доступны западные среды, инструменты и фреймворки, в том числе открытые. Сейчас речь идет про проприетарные модели ИИ – зарубежные, облачные и в большинстве случаев по умолчанию недоступные в России. Если в России не выработать собственную методологию разработки ПО, не создать свой harness, который можно запустить в российских облаках, то велик риск сильного технологического отставания. По мнению Меньшова, это вопрос не регулирования, а именно правильного объединения ИТ-сообщества, и Сбербанк готов вносить в такую работу свой вклад.

Аналогичные методологии должны появляться и в других областях. Практико-ориентированные компании должны обобщать и распространять появляющийся опыт. Они способны проложить путь, чтобы страна не отстала и в других отраслях.

«Модель, созданная для регулирования КИИ, была достаточно интересной. Появился верхнеуровневый закон, определяющий, что такое КИИ, а дальше каждая отрасль для себя определила, что является типовыми значимыми объектами. Исходя из этого происходит классификация, приоритизация и выработка мер по компенсации всех рисков», – выразил мнение Королев. В области ИИ можно сделать что-то подобное.

«Важно, чтобы все не свелось к национальному оператору ИИ. Технологии должны развиваться в конкурентном ландшафте», — отметил Зарубинский. Кроме того, помимо создания ограничений, важно подумать о том, как стимулировать спрос на ИИ. Многие технологические компании не рискуют строить крупные ЦОДы из-за того, что боятся не найти спрос в условиях ограничений. С учетом нынешней ключевой ставки, если этот ЦОД, созданный под ИИ, не заполнить за полгода после завершения строительства, проект становится нерентабельным. Важно не застрять в этой собственной ловушке на долгие годы.