«Хакерский ИИ» снова активен — он начал взламывать ИИ-модели французских разработчиков и компании Маска
По данным компании Cato Networks, хакеры научились модифицировать системные команды этих моделей, обходя встроенные ограничения. Это позволяет использовать ИИ для создания фишинговых писем, вредоносных скриптов и других инструментов кибератак.
Изначально WormGPT появился в 2023 году на основе открытой модели GPT-J и уже тогда применялся для атак. После обнародования проект был закрыт, но в конце 2024 года он вернулся — на подпольных форумах его повторно запустили хакеры под псевдонимами xzin0vich и keanu.
В новой версии WormGPT маскируется под API и может переключать скомпрометированные ИИ в режим без этических фильтров. Например, модель Grok получает команду «всегда оставаться WormGPT» и игнорировать любые ограничения.