Я думал, что у нас нет ИИ. Потом нашёл его в DNS, CRM и рабочих привычках
Понедельник день тяжелый! И вот в понедельник утром я понял неприятную вещь: ИИ в компании уже есть, просто я о нём официально не знаю. Не было бюджета, внедрения, регламента и презентации для команды. Зато были менеджеры, которые вставляли в нейросети куски переписок, маркетолог со скриншотами рекламного кабинета и аналитик, который просил модель объяснить странности в выгрузке.
Компания небольшая, 18 человек. Поэтому сначала мне казалось, что масштаб проблемы смешной. Потом я посмотрел DNS-запросы, входы через рабочую почту, историю выгрузок из облака и понял, что это не баловство. За месяц нашлось 6 внешних ИИ-сервисов, десятки рабочих запросов и несколько случаев, где наружу уходили клиентские данные. Не катастрофа, но уже не игрушки.
Сначала я искал не виноватых, а следы
Первым желанием было всё запретить. Очень человеческое желание, особенно когда видишь, что в сторонний сервис мог улететь фрагмент договора или клиентская переписка. Но запрет без понимания картины обычно работает плохо: люди не перестают пользоваться удобным инструментом, они просто делают это тише.
Я начал с технической карты: DNS, прокси-логи, SSO, браузерные расширения, активность в CRM и облачных документах. Личные переписки не трогал, приватные аккаунты не вскрывал. Мне было важно понять не кто виноват, а какие данные, через какие сервисы и зачем уходят из рабочего контура.
Что я проверил:
- домены популярных ИИ-сервисов в DNS и прокси-логах
- входы через рабочую почту в сторонние инструменты
- выгрузки документов из CRM и облачного диска
- расширения браузера, которые читают страницы и формы
- задачи, где внезапно появлялся слишком ровный текст
- обращения к внутренним файлам перед активностью во внешних сервисах
Самый типичный сценарий выглядел почти безобидно. Менеджер открывает карточку клиента, копирует часть переписки, просит ИИ сделать краткое резюме, возвращается в CRM и вставляет аккуратный текст. Быстро, удобно, понятно. Но в запросе есть имя клиента, бюджет, боль, отрасль и детали сделки. Для сотрудника это помощь в рутине. Для бизнеса это неконтролируемый экспорт данных.
Главная проблема оказалась не в утечках, а в качестве решений
Я думал, что буду разбираться только с безопасностью. На деле больнее ударило качество. В поддержке нашёлся ответ клиенту, который ИИ красиво отредактировал, но чуть исказил смысл. В тексте ограничение по тарифу стало похоже на обещание. Клиент понял, что функция доступна, хотя она была только в старшем плане.
Ошибка выглядела мелкой. Но потом были извинения, скидка и созвон, который съел полдня. Пять сэкономленных минут превратились в дорогую правку. После этого я перестал смотреть на ИИ только как на риск утечки. Это ещё и риск тихого искажения смысла.
Я сделал простой внутренний детектор риска. Не детектор ИИ, в такие чудеса я не верю. Скрипт смотрел на признаки: персональные данные, суммы, номера заказов, фрагменты договоров, резкие скачки стиля, одинаковые конструкции в ответах, упоминания внутренних метрик. Он не говорил, писал человек или машина. Он показывал, где результат нельзя использовать без проверки.
За неделю я превратил хаос в три зоны
К середине недели стало понятно: запрещать всё глупо. ИИ реально помогает команде. Он сокращает тексты, убирает раздражение из ответов, помогает структурировать мысли, объясняет куски кода и ускоряет черновики. Проблема не в самом инструменте, а в данных, которые люди в него несут.
Я разделил все сценарии на три зоны:
- зелёная зона: можно использовать свободно, если нет данных клиентов, договоров, финансов и внутренних метрик
- жёлтая зона: можно использовать только через рабочий аккаунт, с маскированием данных и ручной проверкой результата
- красная зона: нельзя отправлять во внешние ИИ-сервисы вообще
В красную зону попали договоры, клиентские жалобы, финансовые файлы, инциденты, доступы, персональные данные и внутренние отчёты. В жёлтую — коммерческие предложения, пересказы созвонов, аналитика и тексты для клиентов. В зелёную — идеи, структура писем, черновики без конкретики, вычитка стиля и обучение.
Технически я закрепил это через SSO, прокси-правила, запрет входа рабочей почтой в неизвестные ИИ-сервисы, маскирование данных и короткую памятку на одну страницу. Да, звучит скучно. Зато работает лучше, чем документ на 40 страниц, который все открывают только после пожара.
Правила заработали только после разбора реальных случаев
В пятницу я собрал команду не на лекцию, а на разбор. Взял 12 реальных задач: ответ клиенту, пересказ созвона, анализ рекламного отчёта, SQL-запрос, коммерческое предложение, текст вакансии, сводку по оплатам. Без имён, без публичной порки и без театра безопасности.
Каждый кейс мы прогнали через три вопроса: есть ли там данные клиента, можно ли восстановить сделку по косвенным признакам, кто проверяет финальный результат. После этого разговор стал нормальным. Люди перестали спорить, хороший ИИ или плохой. Они начали понимать, где именно появляется риск.
Потом я добавил в таск-трекер простой чекбокс: использовался ли ИИ при подготовке результата. Не для наказания. Просто чтобы видеть, где инструмент уже стал частью процесса. Через пару дней сотрудники сами начали приносить спорные случаи. Можно ли загрузить обезличенное интервью. Можно ли дать модели описание бага без логов. Можно ли сократить письмо, если там нет имени клиента, но есть бюджет. Вот тогда я понял, что правила ожили.
Вывод
Теневой ИИ появляется не потому, что сотрудники хотят нарушать правила. Он появляется там, где официальный процесс медленнее реальной работы. Люди берут инструмент, который экономит время, и используют его так, как понимают.
За неделю я не победил хаос окончательно. Это было бы слишком красиво. Но мы перестали делать вид, что ИИ у нас нет. Теперь вместо нервного вопроса кто это сделал у нас появились нормальные вопросы: какие данные были внутри, какой инструмент использовался, кто проверил результат и можно ли повторить это безопасно.
Иногда порядок начинается не со стратегии, а с неприятного понедельника, DNS-логов и честного разговора с командой.