редакции
Беличенко Виктория
В 2025 году наблюдается резкий скачок в количестве слабых мест в защите веб-приложений ИИ
Ранее подобные инциденты не регистрировались.
Аналитик центра, Сергей Беляев, подчеркнул, что значительная часть брешей в AI-решениях обусловлена распространенными проблемами клиентской стороны, включая внедрение вредоносных скриптов на веб-страницы и несанкционированный доступ к внутренним компонентам приложения посредством манипуляции идентификаторами, пишут «Известия»
В числе уязвимых платформ оказались Aibox (платформа для взаимодействия с нейросетями), Liner (поисковая система на базе ИИ), Telegai (платформа ролевых игр с ИИ-персонажами), Deepy (ИИ-помощник с открытым кодом) и Chaindesk (платформа для создания чат-бота ChatGPT AI для веб-сайтов).
Эксперты отмечают, что ИИ-модели получают доступ к различным данным, инструментам и файлам. Это создает риски утечки личной информации пользователей, конфиденциальных документов организаций и баз данных клиентов.
К ключевым угрозам относятся автоматическое исполнение вредоносных команд, инфицированные файлы, подмена используемых инструментов и несанкционированная передача данных через, казалось бы, безобидные текстовые запросы.