В нейросети ChatGPT, принадлежащей компании OpenAI, обнаружена уязвимость, с помощью которой злоумышленники могут инициировать распределенные атаки, направленные на отказ в обслуживании (distributed denial of service, DDoS). По словам немецкого исследователя Бенджамина Флеша, поисковый робот ChatGPT, который OpenAI использует для сбора данных из Интернета, обманным путем может быть вовлечен в DDoS-атаки. Атака на веб-сайт жертвы осуществляется с помощью HTTP-запроса к API ChatGPT с различных IP-адресов в облаке Microsoft Azure, где работает поисковый робот ChatGPT.

Флеш уже уведомил OpenAI и Microsoft об обнаруженной им уязвимости, но ни одна из этих компаний пока не признала ее наличие. API OpenAI требует наличия списка URL-адресов, но не проверяет гиперссылки на повторение и не ограничивает их количество, что потенциально позволяет использовать тысячи гиперссылок в одном HTTP-запросе. Каждая гиперссылка в POST-запросе обрабатывается индивидуально, а это в свою очередь приводит к многочисленным попыткам одновременного подключения к целевому сайту. В результате большой объем подключений с серверов OpenAI потенциально может вызвать перегрузку целевого веб-сайта.

Кроме того, Флеш обнаружил уязвимость для атак с использованием промпт-инъекций. Дело в том, что API принимает параметр URL, содержащий текстовые команды для LLM. Вместо простого поиска веб-сайтов, как это было задумано, можно заставить поисковый робот отвечать на вопросы. С учетом сетевой природы, низкой сложности, отсутствия требований к привилегиям и взаимодействия с пользователем, а также высокой доступности сервисов Флеш оценил степень серьезности уязвимости в 8,6 балла из 10 по шкале CVSS.