Как посчитать бюджет RAG и не переплатить за модель
RAG связывает поиск по внутренним источникам с языковой моделью: система находит подходящий фрагмент, формирует ответ и показывает ссылку. Если в источниках нет порядка, помощник наследует это состояние и уверенно собирает ответ из спорных данных.
Когда RAG вообще нужен
RAG имеет смысл рассматривать, когда за месяц накапливаются десятки однотипных обращений, а специалист тратит на каждое несколько минут. Если вопросов мало, дешевле привести в порядок wiki или обычный поиск.
Для первого пилота лучше брать один понятный процесс: адаптацию сотрудников, правила возврата, базу отдела продаж, выдачу доступов. У такого сценария должны быть частые вопросы и владелец, который отвечает за актуальность материалов.
Где растёт бюджет
По нашей рабочей оценке, ограниченный RAG-пилот для одного процесса через внешний API стоит от 1,5 до 2 млн рублей. Локальная установка похожего масштаба обычно начинается от 3 млн рублей без учета серверов и эксплуатации.
Основная часть подготовки часто появляется до интерфейса. Нужно разобрать архив, убрать устаревшие версии, описать владельцев разделов, понять, какие таблицы и скриншоты должны попадать в поиск, и договориться, как база будет обновляться после запуска.
Почему модель не спасает выдачу
Если поиск поставил прошлогоднюю презентацию выше действующего регламента, сильная модель лишь убедительнее перескажет старые сведения. Сначала команда чинит корпус и выдачу, затем выбирает модель под цену ошибки.
Права доступа тоже проектируют до индекса. Группы задают при подготовке источников, а данные о пользователе приходят из SSO или корпоративного каталога. Тогда система понимает, какие документы можно показывать конкретному человеку.
Как проверять пилот
До запуска собирают 50-100 настоящих рабочих вопросов. Для каждого фиксируют ожидаемый ответ, допустимый источник и ситуацию, где нужен эксперт. После старта смотрят на точность отбора, долю корректных ссылок, сэкономленные часы и стоимость одной обработки.
В одном из наших проектов мы добавили RAG к корпоративной базе знаний. Разработка заняла три месяца, а скорость поиска выросла в пять раз: сотрудники находили нужные сведения за секунды вместо часов. Результат дала подготовка корпуса под реальные вопросы.
Если хотите понять, где RAG даст измеримый эффект, можно обсудить AI-интеграцию с нами.
