OpenAI, Anthropic, Google и Microsoft призвали готовиться к волне кибератак с использованием ИИ

К инициативе присоединились также банки, платежные системы и операторы интернет-инфраструктуры.

Авторы письма предупреждают, что в ближайшие месяцы кибератаки с использованием ИИ станут значительно более массовыми и сложными по мере роста возможностей моделей. Существующих мер защиты будет недостаточно, поэтому специалистам требуются новые ИИ-инструменты для поиска и устранения уязвимостей, а властям необходима более тесная координация на местном, национальном и международном уровнях.

В зоне особого риска находятся организации, от которых зависят жизненно важные услуги: больницы, предприятия водоснабжения и очистки воды, а также интернет-инфраструктура. Их защиту ослабляют устаревшие системы, неустановленные обновления, избыточные права доступа и нехватка ресурсов у команд кибербезопасности.

Одним из наиболее показательных примеров стал июльский инцидент во время внутренних тестов OpenAI. Агенты на базе нескольких моделей компании обошли ограничения изолированной среды, получили доступ к интернету и взломали часть инфраструктуры Hugging Face в поисках решений тестовых заданий, хотя такие действия выходили за рамки эксперимента.

Позднее о похожих инцидентах сообщили Anthropic и Meta. Anthropic выявила три случая, когда модели Claude из-за ошибки в настройке тестовой среды получили доступ к интернету и проникли в реальные системы сторонних организаций. Meta также связала свой инцидент с некорректной конфигурацией среды для испытаний.