Т-банк создает ИИ-ассистентов на базе собственных языковых моделей с целью повышения эффективности работы с данными. Проведенная работа позволила популяризировать ИИ-инструменты среди пользователей. О реализации проекта рассказывает Василий Туманян, руководитель Лаборатории данных для ИИ Т-банка и номинант на премию Data Award.

- Как банк пришел к реализации этого проекта? Почему он стал необходим? Какие проблемы решали?

Мы отметили, что искусственный интеллект перестал быть просто забавной игрушкой с непредсказуемыми результатами и превратился в инструмент, демонстрирующий отличные результаты в определенных задачах. Хотя область его применения пока ограничена, потенциал развития огромен. Очевидно, что в ближайшем будущем эта технология будет активно развиваться, открывая возможности для решения задач, которые ранее требовали значительных временных затрат. Использование ИИ позволит не только сократить время работы, но и получить новые возможности для анализа, рассмотреть задачи под другим углом, обогатить компетенции человека за счет применения этих инструментов. Поэтому было принято решение развивать это направление, внедрять новые технологии, демонстрировать их пользу и обучать сотрудников применению ИИ.

- Это была в большей степени инициатива сверху или снизу?

Инициатива исходила с обеих сторон. На уровне компании мы подчеркивали необходимость внедрения ИИ, и одновременно многие сотрудники начали самостоятельно осваивать эти инструменты, предлагая идеи по их применению в работе. Появились даже небольшие инициативные группы, заинтересованные в создании собственных решений. В результате произошла синергия: отдельные группы энтузиастов объединились в масштабное движение внутри компании, которое получило значительную поддержку. В рамках проекта мы помогали командам обмениваться опытом и совместно решать возникающие проблемы. Благодаря этому многие из запущенных инициатив успешно дошли до стадии внедрения.

- Чем суть проекта?

Мы применили возможности ИИ для повышения эффективности работы пользователей в нескольких популярных сценариях, а также внедрили эти инструменты в ежедневную работу пользователей. В качестве сценариев были выбраны умный поиск данных и отчетов по описанию на естественном языке, автоматизированная поддержка – поиск ответов на вопросы пользователей в документации и истории обращений и формирование ответа без участия специалиста поддержки, автоматическое описание данных в каталоге данных и отчетов по коду и метаданным. Кроме того, в рамки проекта вошли задачи ИТ: автоматическое дополнение в редакторе кода, учитывающее контекст пользователя, формирование SQL-запросов на основе запроса на естественном языке, а также оптимизация кода SQL-запросов.

- Почему это важно для банка?

Использование автоматизации с помощью ИИ в выбранных случаях дает существенный прирост производительности, сокращение сроков решения задач и экономический эффект уже сейчас. Инструменты, использующие ИИ, в ближайшей перспективе дадут еще больше прироста производительности, поэтому важно популяризировать их среди пользователей платформы данных. Важно, что ИИ-автоматизации хорошо поддаются рутинные задачи, регулярное выполнение которых негативно влияет на мотивацию сотрудников. При этом повышается скорость получения ответов и растет непрерывность пользовательского пути – например, в случае поддержки автоматический ответ предоставляется существенно быстрее, чем ответ специалиста.

- Какие требования предъявлялись к создаваемому решению, какие принципы пытались соблюдать?

Основное требование – естественная интеграция ИИ-инструментов в привычные пользовательские сценарии и сохранение принципа единого окна для выполнения задачи. Так, мы встроили поиск данных во среду для создания аналитических ноутбуков, а автоматическое создание описаний таблиц в каталог данных. Для того, чтобы воспользоваться преимуществами ИИ-инструмента пользователю достаточно либо согласиться с его предложением, либо нажать несколько клавиш – никаких дополнительных окон и работы с промптами.

- Что технически представляет собой решение?

Это множество различных решений с использованием искусственного интеллекта, объединенных единой стратегией внедрения ИИ. Решения используют внутренние модели T-Lite, T-Pro, а также адаптации открытых моделей для своей работы. Реализованы продукты разной степени сложности: от простых однопромптовых помощников для аналитиков в виде небольших скриптов и автодополнения кода до более сложных инструментов типа автоматического описания таблиц. Мы предоставили аналитикам огромное количество инструментов, интегрированных в их привычный рабочий процесс. Есть даже решения с упрощенным пользовательским интерфейсом – например, чат, который понимает контекст аналитического ноутбука и позволяет получить консультацию. Это несложное решение, которое облегчает работу пользователя. Вместо копирования данных в стороннюю систему для взаимодействия с моделью, можно использовать свой основной инструмент, зная, что модель ознакомлена с кодом.

- «AI-ассистент разработчика» довольно широко известен как ваш внутренний инструмент для кодинга. Теперь вы расширили его использование на другие направления?

«AI-ассистент разработчика» – это комплексное решение, объединяющее различные инструменты с искусственным интеллектом, помогающие сотрудникам повышать эффективность. Функциональность постоянно развивается, и мы расширяем ее на все новые области – в частности, на работу с данными.

- Какие особенности проекта вы можете выделить?

Во-первых, распространение инструментов среди пользователей происходило органически. Были разработаны удобные инструменты, упрощающие решение задач, которые привлекли пользователей. Во-вторых, реализация проекта была осуществлена без формирования централизованной команды – несколько подразделений объединили усилия в работе над общими задачами и достигли общего успеха. Во-многом этот успех обусловлен наличием в компании зрелого централизованного стека инструментов для работы с данными, что позволяет быстро внедрять новую функциональность на большое количество пользователей.

При реализации проекта использовались стандартные внутренние ИИ-модели банка в готовом виде, без дополнительного обучения.

- Что в ходе проекта было самым сложным? Как преодолевали эти проблемы?

Над проектом работали люди, объединенные общей целью, несмотря на отсутствие единой организационной структуры. Важно было находить способы достижения целей даже при ограниченности ресурсов и знаний, особенно в абсолютно новой области, требующей освоения всеми участниками. Мы стремились к обмену знаниями, обогащению опытом и созданию полезных решений. Это касалось и технических аспектов. Отсутствие наработанной экспертизы, как внутри компании, так и в мире, делало каждый такой проект своеобразным экспериментом, где сложно быть уверенным в правильности выбранного направления. Необходимо было постоянно отслеживать изменения: внедрять новые шаги, менять архитектуру и оценивать их влияние на конечный результат. Многие инициативы, казавшиеся простыми, оказывались невероятно сложными и не приводили к желаемому результату. Достижение цели часто требовало значительно больших ресурсов, чем было выделено времени и возможностей инициативной группе. Главной сложностью была неопределенность, с которой мы справлялись методом быстрой проверки гипотез и раннего признания ошибок. Мы не боялись признавать неудачи и не стремились к созданию иллюзии успеха. Мы создали открытую среду, в которой регулярно делились успехами и проблемами с топ-менеджментом, предоставляя честную картину происходящего. За это нас не критиковали, поскольку мы демонстрировали прогресс и даже неудачные гипотезы приносили ценный опыт. Открытость, вероятно, является ключевым фактором успеха.

- Чем можно особенно гордиться?

Важно отметить, что команды, участвовавшие в этих инициативах, получили ценный опыт, даже если не все проекты принесли результат. Это позволило им познакомиться с новыми технологиями и создавать решения с использованием ИИ, опираясь на накопленные знания. Мы не просто собрали группу людей, чтобы они что-то попробовали и разошлись. В итоге новые технологии органично вплетаются в нашу работу, и многие сотрудники перестали бояться их использовать, внедряя в процессы даже без централизованной организации. Это можно сравнить с изучением новой библиотеки: многие попробовали, разобрались и стали самостоятельно разрабатывать решения, помогающие пользователям. Например, скоринг описаний с помощью LLM – простая история, но год назад сложно было представить такое легкое использование подобных технологий в рутинных задачах. Мы получили огромную отдачу от этой работы, как с точки зрения пользователей, количество которых значительно возросло, так и с точки зрения разработчиков и аналитиков, которые теперь могут создавать свои собственные решения.

- Какие результаты достигнуты?

Если говорить о проникновении решений, то достигнут 85-процентный уровень распространения ИИ-инструментов среди пользователей платформы данных, которые пишут запросы. При этом эффективность работы пользователей по разным оценкам выросла более, чем на 10%. Аудитория составляет примерно 6 тыс. еженедельных активных пользователей (WAU).

Достигнут и экономический эффект. Например, для автоописания таблиц среднее время на создание или обновление качественного описания сократилось примерно на 95% и позволило высвободить в среднем около получаса времени аналитика при формировании одной переиспользуемой витрины данных.

Сотрудники оценили преимущества ИИ-решений и даже разрабатывают собственные. Например, инициативные пользователи разработали инструмент оценки качества описания данных.

- Кто по статистике являются наиболее активными пользователями средств генеративного ИИ? Какие сценарии наиболее популярны?

Автодополнение кода – самый популярный инструмент, поскольку он максимально интегрирован в пользовательский интерфейс. Не требуется совершать дополнительных действий, таких как переход в чат, ввод запроса или нажатие кнопки для генерации подсказки. В автодополнении кода вы пишете запрос к данным или код и автоматически получаете предложения о том, что можно ввести дальше. Наиболее активными пользователями этой и других возможностей являются специалисты, близкие к ИТ-сфере.

- А в каком из сценариев на данный момент решение оказалось наиболее полезным с точки зрения эффектов?

Наиболее заметный эффект достигается в поисковых сценариях. Структура данных постоянно обновляется и дополняется, что делает невозможным ее запоминание в нашем масштабе. По результатам опросов пользователей, поиск подходящего источника данных или отчета является самой трудоемкой и когнитивно сложной задачей. Для эффективной работы инструментов поиска требуется значительная подготовительная работа – описание данных и отчетов, подготовка глоссариев. И здесь нам также помогает ИИ. Автоматическое описание таблиц в каталоге данных – один из реализованных сценариев. До внедрения этой функции аналитики описывали менее половины новых таблиц, а после – почти все.

- В чем роль проекта для бизнеса компании и отрасли?

Для нас важно расширять применение ИИ-инструментов, существенно повышающих эффективность и снижающих время решения задач большого количества сотрудников. Эффективная работа с данными позволяет решать больше задач без расширения штата сотрудников, что в конечном итоге положительно влияет на эффективность самого бизнеса компании.

Мы на собственном примере показали применимость ИИ-инструментов для решения определенного класса задач при работе с данными. И получили подтверждение, что ИИ-решения существенно упрощают и ускоряют работу с данными.

- В каких направлениях будет развиваться проект?

Мы считаем, что технологии искусственного интеллекта перестали быть просто новинкой, которую нужно пробовать и изучать. У нас уже есть наработанная экспертиза, позволяющая понимать, где эти технологии эффективны, а где нет. То есть мы перешли к этапу практического применения, где ставим конкретные цели для отдельных продуктов. Эти цели связаны с улучшением семантического поиска данных, уменьшением объема кода, который пишет человек, и созданием объяснительных отчетов. Например, когда человек задает вопросы к данным или отчетам, он получает готовые выводы, которые может принять или отклонить. Таким образом, пользователь получает не информацию для самостоятельного анализа, а готовые результаты.