Новые средства взаимодействия с языковыми моделями семейства GPT, которые компания OpenAI готовит к запуску в ноябре, сделают использование моделей значительно проще и дешевле. По сведениям Reuters, они будут представлены на первой конференции разработчиков OpenAI, открывающейся 6 ноября.
Возможно, самым важным из них станет программный интерфейс с сохранением состояния. Языковая модель будет сохранять в памяти запись разговора, что резко сократит необходимое количество запросов и, соответственно, оплату за использование модели. Сейчас за обработку одной страницы текста в GPT-4 приходится платить порядка 10 центов, в зависимости от длины и сложности текста и результата обработки. При использовании интерфейса с сохранением состояния стоимость, теоретически, может упасть в двадцать раз. Это должно помочь компании OpenAI привлечь разработчиков чат-ботов, автономных агентов и других программ, использующих возможности языковых моделей.
Кроме того, OpenAI запустит программный интерфейс для работы с изображениями. С помощью искусственного интеллекта изображения можно будет анализировать и описывать. Такая возможность уже появилась в ChatGPT, а теперь с изображениями смогут работать и сторонние приложения.