Меньше людей, больше человечности: «большая семерка» ОС, версия 2025

1. ИИ требует этики. Теперь официально

Как ожидают аналитики Forrester, в 2025 году состоится знаковое событие — Европейский Союз впервые оштрафует поставщика генеративного ИИ в соответствии с законом EU AI Act. Благодаря объединению усилий офиса ЕС по надзору за развитием, развертыванием и регулированием искусственного интеллекта (EU AI Office) и органов по защите данных, в области ИИ введены такие же драконовские наказания, как и для нарушителей регламента по защите данных (GDPR). Как и в случае с GDPR, закон ЕС об искусственном интеллекте применяется к организациям, работающим в ЕС, и тем, кто работает с потребителями из ЕС, независимо от адреса прописки их штаб-квартиры.

В ответ на многочисленные риски, связанные с ростом применения генеративного ИИ: конфиденциальность, предвзятость, дезинформацию и пр., во многих компаниях начали появляться специалисты по этике ИИ — либо в штате, либо в качестве консультантов. В первую очередь такие специалисты призваны помочь организациям с соблюдением регуляторных требований и снижением рисков при внедрении ИИ. Однако аналитики Gartner уверены, что их полномочия должны быть гораздо шире и распространяться на практику внедрения ИИ в продукты, услуги и рабочие процессы компании. Используя этот подход, организации могут превратить этику исключительно из вопроса соответствия требованиям в источник конкурентного преимущества.

Одна из ключевых обязанностей специалистов по этике — коммуникация: ИИ как концепция должен быть правильно донесен до организации, чтобы люди понимали его ограничения и могли ответственно его использовать. Этика ИИ может продвигаться как часть корпоративной культуры компании, наподобие командной работы или гибкости. Следом за вопросом, может ли компания использовать ИИ для решения конкретной задачи, должен идти вопрос, а нужно ли вообще это делать в конкретном случае. Это особенно актуально, когда компании сломя голову погружаются в ИИ без какой-либо четкой стратегии — просто потому, что это модно.

Несомненно, большинство компаний, озабоченных вопросами этики ИИ, имеют благие намерения, однако существует опасность, что соответствующие специалисты будут наняты лишь для вида (например, из имиджевых соображений) и не окажут существенного влияния на направление развития организации и принятие решений.

2. Дегуманизация и техностресс

«Организационная дегуманизация» — так описывают в Gartner феномен, при котором сотрудники все чаще чувствуют, что к ним относятся как к инструментам, машинам или ресурсам, а не как к людям. Как подчеркивают аналитики, даже само слово «ресурс» кажется бесчеловечным по своей сути.

Более 82% сотрудников утверждают, что для них важны уважение и достоинство, и они хотели бы, чтобы компания видела в них личность, а не просто ресурс, однако лишь 45% ощущают, что организация действительно воспринимает их в таком качестве. Всеобщее стремление к эффективности эволюционировало так, что людей больше ценят по количественным показателям, а не по опыту или навыкам. Чувствовать себя винтиками в механизме нравится далеко не всем — часто это демотивирует.

Отдельной проблемой, усугубляющей общую ситуацию, становится деморализующее влияние на сотрудников возможностей генеративного ИИ, который ставит под вопрос их ценность, — 60% сотрудников, опрошенных аналитиками Accenture, признают, что генеративный ИИ ускоряет их эмоциональное выгорание. Многие работодатели предпочитают не замечать эту проблему и не стремятся развеять опасения сотрудников. И уж совсем неправильно заставить людей почувствовать, что их начальство не видит большой разницы между ними и ботами. Лишь 17% компаний придерживаются четкой, взвешенной политики, которая на данный момент лишь частично поощряет использование ИИ. В результате у сотрудников возникает ощущение, что радикальное переосмысление рабочих процессов происходит вместе с ними. Важно внедрять новые технологии совместно с сотрудниками, а не навязывать их сверху, объяснять, что ИИ повышает их компетентность, а не подрывает.

Еще один термин современности — «техностресс», определяемый как давление, испытываемое при работе со множеством информационных систем. Любой проект по повышению эффективности предполагает дополнительную нагрузку по освоению новых решений, что также ведет к стрессам, выгоранию и нарушению баланса между работой и личной жизнью. Конечно, сокращение расходов и оптимизация процессов — условие выживания компаний, но они серьезно влияют на моральный дух коллектива.

Как будут решать подобные проблемы — вопрос открытый. Например, индийская компания по оказанию бьюти-услуг YesMadam совсем недавно оказалась в центре скандала из-за массового увольнения выгорающих сотрудников. Ее руководство выгнало всех, кто пожаловался на высокий уровень стресса, ради «оздоровления атмосферы в коллективе». И хотя эта история не имеет отношения к ИИ, она заставляет задуматься о перспективах сотрудников из «группы риска».

3. Без «черного ящика»

В нынешнем мире, полном фейков, все большей ценностью становится доверие к информации — и порождаемой внутри организации, и поступающей извне.

Одной из граней проблемы является принцип «черного ящика», характерный для любого ИИ. В случае с нейросетями и, в частности, большими языковыми моделями весьма сложно или почти невозможно понять, как они получают свои результаты и что управляет процессом принятия решений. Исследователи изучают методы, позволяющие понять, почему LLM делают те или иные выводы и как можно контролировать их действия. Объяснение поведения моделей и управления их рисками важно для завоевания доверия пользователей, а еще важнее — для использования ИИ в регулируемых отраслях. Повышение прозрачности ИИ должно способствовать дальнейшему внедрению все более сложных моделей.

Потребность в контроле за ИИ-системами приводит к появлению платформ управления ИИ. Подобные решения позволяют создавать политики использования ИИ, а в дальнейшем — управлять ими и обеспечивать их соблюдение. И именно на них возлагается роль объяснения логики работы систем ИИ, обеспечения их прозрачности и отчетности. По прогнозам Gartner, к 2028 году такие платформы появятся у 40% организаций.

Вторая грань проблемы доверия — защита от дезинформации, поступающей из внешних источников. Она подразумевает создание методологии для обеспечения целостности информации, оценки ее подлинности и предотвращения распространения откровенной лжи, в том числе попыток выдачи себя за кого-либо другого.

Сейчас средства для защиты от дезинформации пытаются создавать менее 5% организаций, однако ожидается, что доступность и простота инструментов, используемых злоумышленниками, приведут к резкому увеличению числа дезинформационных атак, направленных против предприятий. Это может нанести значительный ущерб любой организации. Как результат, уже через три года «антифейковая» платформа появится в каждой второй компании.

4. Шифровать придется дважды?

Уже давно существует понимание того, что появление достаточно мощного квантового компьютера сделает неактуальными традиционные средства криптографии. Пока подобного устройства, способного решать практические задачи, еще не появилось, но когда оно появится, решать проблему будет уже поздно.

В любом случае из-за прогресса в квантовых вычислениях можно ожидать, что очень скоро придет конец широко используемым видам криптографии. В Gartner прогнозируют, что к 2029 году достижения в области квантовых вычислений сделают использование большинства традиционных методов криптографии бесполезными. Поэтому сейчас разрабатываются постквантовые (или квантово устойчивые) алгоритмы шифрования, основанные на принципиально иных математических подходах, индифферентные и к классическим способам взлома, и к атакам квантовых машин. Постквантовые алгоритмы уже реализованы у ряда облачных провайдеров, производителей браузеров и мессенджеров. Из российских разработок в этой области успели появиться такие алгоритмы с «колючими» названиями, как «Шиповник» и «Крыжовник».

Однако проблема еще далека от решения. Помимо таких очевидных подводных камней, как проблемы совместимости и более высокая вычислительная нагрузка, в «Лаборатории Касперского» подчеркивают, что в ходе глубокого анализа квантово устойчивых алгоритмов наверняка будут найдены уязвимости и дефекты. Во многом из-за этого в качестве промежуточного решения международные организации продвигают необходимость двойного шифрования наиболее важных данных — и постквантовыми, и классическими алгоритмами.

5 . Энергоэффективность и малая энергетика

Стоимость решений ИИ постепенно снижается. Согласно оценкам ARK Invest, затраты на эксплуатацию моделей ИИ с эквивалентной производительностью снижаются вдвое каждые четыре месяца, и эта тенденция в ближайшие годы сохранится. Снижение происходит в 4–6 раз быстрее, чем можно было ожидать по закону Мура, однако проблема приходит совсем с другой стороны — потребности в ИИ растут настолько быстро, что упираются в ограничения текущей энергетической инфраструктуры. Да, ожидается появление процессоров, ориентированных на задачи ИИ, менее энергозатратных и более производительных. Как отмечают в CB Insights, технологические компании превращаются в ведущих инноваторов в области энергетики, чтобы поддерживать рабочие нагрузки ИИ. Но радикально повлиять на ситуацию они не смогут — традиционные ЦОДы не справляются с требованиями ИИ.

В результате крупнейшие ИТ-компании — Google, Microsoft, Amazon и др. — реализуют собственные энергетические проекты. Совместно с партнерами из числа энергетиков они проектируют электростанции (тепловые, атомные, геотермальные), предназначенные для поддержки работы именно своих ЦОДов с планируемым запуском в 2027–2030 годах. Общественные ЦОДы также перестраиваются в соответствии с новыми требованиями по энергоэффективности, используя возможности новых процессоров, технологий охлаждения и т. п.

Еще одно важное направление инвестиций, призванное снизить энергозависимость, — малая энергетика (microgrids). Как ожидают в Gartner, к 2027 году компании из списка Fortune 500 перенесут 500 млрд долл. с обычных энергетических затрат на «микросети», чтобы снизить свои хронические энергетические риски. Микросети объединяют возможности генерации и хранения электроэнергии и потребляющие мощности в независимую энергетическую систему, которая может работать самостоятельно. Многим компаниям, которые тратят значительные средства на электроэнергию, следует рассмотреть возможность инвестирования в микросети.

6. Путь в 3D продолжается

Несмотря на замедление развития всеобъемлющих метавселенных и охлаждения интереса к ним, дополненная и виртуальная реальности продолжают раздвигать границы физического мира. Их использование уже повышает эффективность организаций за счет оптимизации рабочих процессов и расширения возможностей для корпоративного взаимодействия. По прогнозам Gartner, к 2033 году объем технологий AR/VR вырастет c нынешних 110 млрд долл. до 1,7 трлн.

В CB Insights подчеркивают, что интерес к этой технологии подстегнул выпуск VR-гарнитуры Apple Vision Pro в феврале 2024 года, а теперь компания изучает возможность выпуска «умных» очков. Стоимость устройств пока препятствует их массовому проникновению на рынок, но свою нишу в корпоративном сегменте они находят. Производители делают ставку именно на расширение использования AR/VR-устройств в бизнесе — в офисе это могут быть настраиваемые рабочие станции для повышения производительности сотрудников, тренинги для новых сотрудников, моделирование очного общения для распределенных команд, иммерсивная визуализация данных для принятия решений топ-менеджментом. На производстве — визуализация и тестирование планировки производственных помещений, выявление узких мест и оптимизация рабочего процесса, дистанционное обучение и помощь операторам производственных линий, 3D-моделирование для проектирования и разработки продукции. В здравоохранении — 3D-визуализация анатомических изображений для диагностики и хирургических процедур, реалистичное обучение студентов.

Комплект Apple Vision Pro нашел применение в Lufthansa и Porsche, а Meta (признана в России экстремистской организацией и запрещена. — Прим. ред.) уже давно выпускает линейку VR-устройств Quest, используемую в строительной компании Mortenson и в крупнейшей фармацевтической корпорации Pfizer. AR-решение Microsoft HoloLens 2 используется в L'Oreal и фармкомпании Sanofi. Голографический чат Project Starline, не требующий использования каких-либо очков или шлемов, пока доступен только в офисе своего разработчика Google, однако уже в 2025 году компания совместно с HP обещает представить коммерческое решение на его основе. NVidia сфокусировалась на платформе для создания 3D-приложений Omniverse, которую используют торговая сеть Lowe's и General Motors.

Из российских компаний наиболее известны эксперименты с технологиями AR/VR, проводимые компаниями «Газпром нефть», «Росатом», «Северсталь», «Сибур» и X5 Group.

7. Человек дополненный

Специалисты начинают восприниматься не как люди со своими приобретенными навыками, а вкупе со своими цифровыми помощниками. «Цифровая обвеска» становится неотъемлемой частью сотрудников и может выступать как их конкурентное преимущество. Ведь речь вполне может идти не только о владении тиражируемыми инструментами повышения эффективности, но и о способности создавать необходимых помощников — например, с помощью инструментов Low-Code.

Однако успешные опыты Neuralink по вживлению чипов в мозг дают почву для того, чтобы пойти гораздо дальше и обсуждать модификацию человеческого тела с целью повышения его эффективности. Речь идет о нейрологических усилителях, способных считывать и декодировать активность мозга, улучшая когнитивные способности человека.

Эти технологии имеют огромный потенциал не только с точки зрения производительности персонала, но и открывают возможности маркетингу нового поколения. Расшифровка сигналов мозга позволит компаниям знать, что думают и чувствуют потребители их продуктов. Но пока в большинстве случаев речь идет именно о расширении возможностей нервной системы человека для оптимизации результатов. Весь вопрос — не превратится ли такое нейроулучшение в обязательную процедуру и за чей счет оно будет производиться. По прогнозам Gartner, к 2030 году 30% работников умственного труда уже будут «улучшены», причем как за счет средств работодателей, так и за счет собственных инвестиций людей в свои сверхспособности. Более того, люди станут зависеть от этих улучшений, чтобы выдерживать конкуренцию в условиях распространения искусственного интеллекта.

Николай Смирнов (nsmirnov@osp.ru) — независимый автор (Москва).