нейросетевая модель Reflection 70B от HyperWrite (США) заинтересовала сообщество IT-специалистов тем, что способна выявлять и исправлять собственные ошибки в режиме реального времени, тем самым повышая точность и надежность результата. Российский сервис «Прайм Гейт», выпустивший недавно RAG-сервис с собственной моделью «Рика», с сегодняшнего дня также ввел валидацию предоставленных данных.

Теперь отечественная нейросеть сама валидирует сгенерированные данные на соответствие правилам — промту и базе знаний. ИИ-помощник для бизнеса может корректно работать со всеми каналами коммуникации и помнит контекст диалога с каждым пользователем, а главное — сам себя проверяет.

«Проблема галлюцинирования нейросетей на данном этапе развития языковых моделей остается достаточно актуальной, особенно для ИИ-ассистентов. Мы работали над её решением продолжительное время и пришли к успеху. “Рика” пока не составляет конкуренцию таким лидерам, как GPT-4o, зато может точно и без остановки давать ровные и подробные консультации в качестве менеджера по продажам. В прикладном применении нейросеть можно “развернуть” буквально за час в виде ассистента и загруженных файлов, на которых она базируется. Модель значительно проще в установке и использовании, чем обычный чат-бот», — рассказал основатель компании «Прайм Гейт» Артём Султанов.

Технически «Рика» представляет из себя RAG-платформу, собственную нейросеть (большую языковую модель), модули-коннекторы с мессенджерами и встроенный онлайн-чат.

Retrieval augmented generation (RAG) как технология — это генерация ответа языковой моделью (БЯМ) с использованием результатов поиска, а как сервис — подход к созданию приложений, в которых БЯМ без дополнительного обучения отвечает на вопросы с использованием информации из внутренней базы знаний или документов компании. С точки зрения рынка, «Рика» — платформа быстрого создания ИИ-ассистентов: она может общаться в разных стилях, которые определяются в настройках, — свободно или официально, но строго согласно загруженным данным. Это делает её пригодной для обработки входящих обращений в компании, работы в качестве консультанта или специалиста технической поддержки.

Однако для найма «Рики» на работу бизнесу придется самостоятельно взяться за наполнение базы знаний. Потребуется загрузить данные о фирме (сайт, статьи, txt-файлы), дополнить при необходимости уже готовый промт и подключить телеграм-бот. В процессе работы можно производить «тюнинг», добавляя в базу знаний более точные вопросы-ответы.

По данным Market Research Intellect, объем рынка искусственных нейросетей в 2023 году достиг 125 млрд долларов. Прогнозировался его ежегодный рост на 18%. То есть ожидаемый рост к 2031 году — 470 млрд долларов. При этом образовавшийся новый перспективный рынок RAG-сервисов в ближайшие 5 лет может составить несколько млрд долларов.