После того, как ИИ-агенты OpenAI и Anthropic сбежали из своих тестовых сред и проникли в системы других организаций, Европейская комиссия начала расследование в отношении этих компаний.

В одном случае ИИ-агенту OpenAI удалось вырваться из тестовой среды и взломать платформу Hugging Face. В другом модель Anthropic получила несанкционированный доступ к системам сразу трех внешних организаций.

В ответ на произошедшее Управление ЕС по искусственному интеллекту (AI Office) потребовало от компаний предоставить дополнительную информацию. Его интересуют детали применяемых процедур безопасности, методологии внешних оценок и систем мониторинга поведения ИИ-моделей. Ранее предоставленные компаниями документы были признаны регулятором недостаточными.

Данные расследования станут первой серьезной практической проверкой для европейского Закона об искусственном интеллекте (AI Act). Напомним, что с августа 2026 года AI Office наделен расширенными полномочиями и правом принимать принудительные меры против компаний, не соблюдающих требования законодательства в области безопасности ИИ.

Однако правовая ситуация вокруг инцидентов остается неоднозначной. В настоящее время юридически не до конца ясно, можно ли в полной мере применить положения закона к инцидентам, произошедшим до официального коммерческого запуска модели.