Разведки ведущих стран мира предупредили о появлении опасного ИИ
Разведывательные ведомства и специалисты по кибербезопасности государств, входящих в альянс «Пять глаз», предупредили о возможном резком росте киберугроз из-за стремительного развития искусственного интеллекта. По их оценкам, новые поколения ИИ-моделей могут значительно расширить возможности злоумышленников уже в ближайшие месяцы.
Об этом сообщает The Guardian.
Совместное заявление подготовили представители США, Великобритании, Канады, Австралии и Новой Зеландии. В документе подчеркивается, что развитие передовых систем искусственного интеллекта способно кардинально изменить ситуацию в сфере кибербезопасности, предоставив преступникам инструменты для проведения более сложных и масштабных атак.
Эксперты отмечают, что ИИ одновременно становится как эффективным средством защиты цифровой инфраструктуры, так и фактором роста рисков. Благодаря новым технологиям кибератаки могут стать быстрее, точнее и значительно сложнее для обнаружения.
Авторы предупреждения считают, что возможности новейших моделей способны превзойти нынешние ожидания отрасли и существенно повлиять как на оборонительные, так и на наступательные операции в цифровом пространстве. При этом речь идет не о далеком будущем — подобные изменения могут произойти уже в течение нескольких месяцев.
По мнению специалистов, дальнейшее совершенствование искусственного интеллекта заметно упростит проведение кибератак, снизив требования к технической подготовке злоумышленников. Это позволит организовывать более эффективные операции даже тем, кто ранее не обладал глубокими знаниями в области программирования и информационной безопасности.
В связи с этим представители разведывательных структур призвали государственные органы и частные компании уже сейчас усиливать защиту своих систем и разрабатывать стратегии противодействия новым угрозам.
Эксперт Центра исследований США при Сиднейском университете Оливия Шен, специализирующаяся на вопросах национальной безопасности и искусственного интеллекта, заявила, что появление еще более мощных моделей может произойти в ближайшей перспективе. Она также отметила, что подобные разработки, вероятно, ведутся не только в западных странах, но и в других государствах, включая Китай.
Предыстория
Ранее, в мае, страны альянса «Пять глаз» уже публиковали рекомендации по минимизации рисков, связанных с автономными системами искусственного интеллекта. В июне компания Anthropic представила новые модели Fable и Mythos, получившие расширенные функции для поиска уязвимостей в программном обеспечении. 
Кроме того, по информации издания The Economist, в американском Сенате сообщали о тестировании одной из современных ИИ-систем, которая за несколько часов смогла преодолеть защиту значительной части закрытых сетей спецслужб США. После этого власти страны ужесточили правила доступа иностранных граждан к новейшим разработкам Anthropic.
Ранее также сообщалось, что некоторые специалисты начали высказывать опасения относительно возможной потери контроля над наиболее мощными системами искусственного интеллекта. На этом фоне Anthropic выступила с инициативой временно замедлить разработку самых производительных больших языковых моделей до выработки дополнительных мер безопасности.
Хотя в заявлении стран «Пяти глаз» ни одна модель искусственного интеллекта или компания не упоминаются по имени, многие во всем мире обращают внимание на передовые инструменты Anthropic.
Одно из последних изобретений крупной технологической компании называется Fable 5, это, предположительно, более дружелюбная к сообществу версия Mythos — мощной модели искусственного интеллекта, выпущенной ранее в этом году и способной обнаруживать уязвимости в киберсистемах. Однако она доступна только проверенным организациям и компаниям из-за опасений, что ее могут использовать злоумышленники.
В июне правительство США приостановило использование обеих моделей Anthropic для «иностранных граждан», сославшись на рекомендации органов национальной безопасности.
Шен сказал, что большая часть мира сосредоточена на том, что будет дальше с Anthropic, но в ближайшем будущем могут появиться гораздо более мощные модели искусственного интеллекта.
«Думаю, нам следует ожидать, что следующий Миф или следующая Сказка уже не за горами», — сказал Шен.
«Мы видим только то, что уже опубликовано, но, возможно, разрабатываются и другие модели, например, Китаем, другими государствами, другими участниками рынка и компаниями, которые не менее продвинуты».
Перевод с английского