Полицейская служба Европейского союза (Европол) опубликовала первый из серии докладов Tech Watch Flash, посвященных анализу влияния новых технологий на правопорядок. В этом докладе рассматриваются большие языковые модели, одной из которых является широко известная ChatGPT.
Возможности таких моделей быстро расширяются, говорится в докладе, и перспектива использования их в преступных целях вызывает большие опасения. Во-первых, ChatGPT способна генерировать тексты, чрезвычайно похожие на настоящие, и даже имитировать стиль речи конкретных людей или групп. Это делает ее действенным инструментом для фишинга и социальной инженерии.
Во-вторых, генерация правдоподобных текстов происходит очень быстро, и благодаря этому ее можно использовать для массовой пропаганды и дезинформации.
Наконец, ChatGPT способна генерировать программный код на разных языках программирования. Это может оказать преступникам, у которых нет глубоких знаний технологий, существенную помощь в создании вредоносных программ, отмечается в докладе.