редакции
Уязвимость на миллион: как защитить корпоративный ИИ от промпт-инъекций
«БЕЗВАЙРОС» — российский вендор в сфере кибербезопасности, специализирующийся на защите систем искусственного интеллекта от утечек персональных данных и киберугроз. Команда разработала платформу, обеспечивающую многоуровневую фильтрацию запросов к LLM. Она предотвращает атаки типа prompt injection (внедрение вредоносных команд в запрос) и блокирует попытки джейлбрейка (обхода ограничений модели) анализирует полномочия которые есть у ИИ, и ищет бэкдоры в данных, на которых обучена модель.
«Все говорят о скорости, мы говорим об угрозах»
В отрасли основной фокус часто делается на скорости и возможностях ИИ, а не на атаках против него.
«Все обсуждают ИИ с точки зрения скорости обработки данных, но мало кто говорит об уязвимостях, — рассказывает основатель „БЕЗВАЙРОС“ Руслан Кулиев. — В топ-10 угроз для нейросетей (по версии OWASP) входят промпт-инъекции, джейлбрейки и отравление датасетов. Жизненный цикл нейросети состоит из трех этапов: данные для обучения, облачная инфраструктура и сам пользовательский интерфейс. Атаковать можно на каждом из них».
По словам Руслана, несмотря на то что уязвимости ИИ признаны критическими в 2025 году, реальное осознание проблемы приходит к бизнесу с опозданием. Особенно это касается малого и среднего бизнеса (МСБ).
«МСБ находится под ударом не меньше корпораций, но у них банально нет бюджетов. Для них кибербезопасность — это фаервол, бесплатный антивирус и сложные пароли. И, честно говоря, если не лениться, это закрывает 90% базовых дыр. Но когда мы говорим о крупном бизнесе, где внедряются собственные LLM, ставки совсем другие».
Иллюзия «умного» ИИ и человеческий фактор
На рынке существует миф, что нейросети скоро заменят специалистов по кибербезопасности. Руслан относится к этому скептически.
«Технологии часто переоценивают. LLM может отлично общаться с клиентом или писать код по шаблону. Но провести сложный аудит, придумать нестандартный вектор атаки или применить социальную инженерию нейросеть не способна. Она не догадается посмотреть версию Wi-Fi-роутера или проверить старый протокол на забытом сервере. Здесь все еще нужен человек».
Парадокс кибербезопасности в том, что самое слабое звено — не софт, а люди и процессы.
«Программное обеспечение подводит редко. Подводят сотрудники, которые игнорируют политики безопасности, или бизнес-процессы, заставляющие людей пересылать пароли в мессенджерах. Часто компании запускают автоматический сканер уязвимостей, получают отчет и считают себя защищенными. Это иллюзия. Настоящая защита — это имитация реального взлома на тестовом контуре, когда мы пытаемся положить базу данных или вывести систему из строя по-настоящему».
Аналитика рынка: почему сейчас?
Рынок защиты ИИ формируется под давлением двух факторов: роста атак и ужесточения регуляторики. По данным аналитиков, количество атак на LLM-модели через промпт-инъекции выросло кратно. Хакеры заставляют банковских ботов выдавать личные данные клиентов или согласовывать невыгодные транзакции.
По данным Lenta.ru, в 2024 году зафиксировано 135 утечек данных на 710 млн записей. Это стимулирует компании строить ИБ-политику и внедрять средства защиты. Глобальные тенденции показывают, что помимо традиционных ИБ-продуктов все чаще внедряются решения с ML/NLP для раннего обнаружения аномалий и автоматического реагирования.
Как меняются запросы партнеров
Стартап активно работает с крупными российскими корпорациями, которые внедряют ИИ во фронт- и бэк-офисные процессы, но не всегда просчитывают последствия с точки зрения защиты данных. Фаундер отмечает, что часть партнеров поначалу воспринимает нейросети как инструмент ускорения внутренних задач, а уже в процессе обсуждения проектов становится понятно: без защиты такие внедрения несут риск утечек и регуляторных санкций.
По словам Руслана, в России до сих пор много компаний, которые даже не дошли до системной эксплуатации ИИ: внедрение только планируется, а безопасная архитектура не заложена на этапе проектирования. Работа с такими партнерами превращается в комбинированную задачу — одновременно запускать ИИ-сервисы и сразу выстраивать требования к их безопасности.
Сила офлайна
Одним из ключевых этапов развития проекта стал Demo Day преакселератора MGIMO Ventures, где Руслан выступал перед представителями крупных компаний и фондов. Несмотря на сильное волнение, он сумел донести идею продукта и после выступления получил контакты сразу нескольких B2B-клиентов, включая крупный банк, технологическую компанию и корпоративные госструктуры. Тогда он работал над проектом практически один, однако с тех пор «БЕЗВАЙРОС» уже получил первую выручку и вырос до команды из пяти специалистов, которые активно развивают продукт.
Позже фаундер начал активно использовать отраслевые мероприятия и выставки как основной канал продаж: на одном из событий он за день обработал несколько десятков стартапов и корпораций, проводя быстрый анализ их доменов и демонстрируя потенциальные уязвимости на месте. В результате таких активностей сформировался пул из десятков квалифицированных лидов, а также прямые контакты с крупными игроками банковского, ритейл- и технологического сегментов.
Заключение
Новые ИИ-технологии открывают большие возможности, но вместе с тем создают серьезную нагрузку на информационную безопасность компаний. Спрос на защиту будет только расти — от крупных корпораций и госструктур, которые осознают риски, до регуляторов, ужесточающих ответственность за утечки.
Создание эффективных инструментов фильтрации запросов и контроля доступа к данным позволяет компаниям реализовать потенциал ИИ, не опасаясь крупных утечек. Хочется пожелать команде «БЕЗВАЙРОС» выдержки, аккуратного роста и фокуса на измеримых результатах!
Интервью опубликовано в рамках Акселерационной программы MGIMO Ventures.
Подписывайтесь на наш блог и следите за новостями в соцсетях — скоро мы расскажем о новых героях и их стартапах из числа участников Акселератора!
Акселератор MGIMO Ventures реализуется Эндаументом МГИМО в партнерстве с венчурной компанией Startech.vc в рамках программы «Приоритет 2030».