ИИ-агент — не сотрудник: пять ошибок собственника при внедрении

Опрос проводила независимая компания Edelman Data & Intelligence с 6 февраля по 24 марта 2025 года. В нём участвовали 31 тысяча работающих полный день и самостоятельно занятых специалистов умственного труда из 31 страны.

Но важно понимать: исследование опубликовано поставщиком технологий искусственного интеллекта. Поэтому это не гарантия того, что через полтора года агенты действительно появятся почти в каждой компании. Это ожидания руководителей и возможное направление развития рынка.

Я решил не наблюдать за этим со стороны и пошёл учиться создавать ИИ-агентов.

Первое занятие показалось мне размытым. Но один управленческий вывод я сделал уже на старте:

ИИ-агент не создаёт порядок в компании. Он быстро воспроизводит тот порядок или тот хаос, который собственник ему передал.

Чем агент отличается от обычного чата с нейросетью

В обычном чате человек задаёт вопрос и получает ответ. Попросил составить письмо — получил черновик. Загрузил таблицу — получил анализ.

Агенту можно поставить цель и разрешить выполнить несколько связанных действий. Например, получить данные, обработать их, сравнить с заданными условиями, подготовить документ и передать результат человеку.

В зависимости от настроек агент может взаимодействовать с другими программами и рабочими системами. Именно здесь заканчивается разговор о «полезном помощнике» и начинается управленческая ответственность собственника.

До запуска нужно определить:

1. какие данные система может видеть;
2. какие действия может выполнять;
3. что ей запрещено;
4. где она обязана остановиться;
5. кто проверяет результат;
6. кто принимает окончательное решение.

Если этих правил нет, компания рискует автоматизировать не работу, а потерю контроля.

Ошибка № 1. Считать уверенный ответ правильным

Большая языковая модель может сформулировать убедительный, логичный и при этом неверный ответ. В перечне рисков OWASP это называется недостоверной информацией: система может создавать ложные или вводящие в заблуждение сведения, которые выглядят правдоподобно.

Кроме того, агент не знает всех внутренних договорённостей компании, если они не были ему переданы. Он может не учитывать реальную ситуацию с клиентом, сезонность, негласные ограничения и последствия управленческого решения.

Поэтому качество ответа нельзя оценивать только по тому, насколько уверенно он написан.

Я бы разделил работу агента на три уровня:

1. Он собирает информацию и готовит черновик.
2. Предлагает варианты, но решение принимает человек.
3. Выполняет действие только после подтверждения ответственного сотрудника.

Чем выше цена ошибки, тем строже должен быть контроль.

Если агент готовит внутреннюю справку, последствия ошибки могут быть ограниченными. Если он меняет цену, отправляет предложение клиенту, редактирует договор или получает доступ к финансовым операциям, правила проверки должны быть другими.

Я бы не давал системе самостоятельность в критическом процессе, пока она не прошла проверку на ограниченном участке.

Ошибка № 2. Выдать доступ ко всему бизнесу

Опасность не в том, что любой ИИ обязательно передаст информацию посторонним. Это было бы слишком грубым обобщением.

У каждого продукта, тарифа и подключённого приложения свои условия работы с данными.

Например, «Опен-эй-ай» (OpenAI) сообщает, что по умолчанию не использует данные ChatGPT Business, Enterprise, Edu и программного интерфейса для обучения своих моделей.

Но фраза «данные не используются для обучения» не означает, что больше ничего проверять не нужно.

Сроки хранения зависят от продукта и настроек. Информация, переданная подключённому стороннему приложению, может обрабатываться уже по правилам поставщика этого приложения. Отдельно настраиваются разрешения на чтение и изменение данных.

Поэтому перед подключением агента нужно выяснить:

1. где и сколько хранится информация;
2. какие приложения подключены;
3. какие данные уходят сторонним сервисам;
4. какие сотрудники имеют доступ;
5. что система может прочитать, изменить или удалить;
6. как быстро отключить доступ;
7. какие действия сохраняются в журнале.

OWASP включает в перечень рисков для языковых моделей раскрытие конфиденциальной информации, внедрение вредоносных инструкций и избыточные полномочия системы.

Поэтому я бы не отдавал первому агенту сразу клиентскую базу, договоры, финансовые документы и доступы к рабочим системам.

Начинать следует с минимально необходимых данных и минимальных полномочий.

Ошибка № 3. Поставить технологию выше бизнес-процесса

Умение соединить несколько программ ещё не означает понимания бизнеса.

Технический специалист может хорошо знать инструмент и при этом не понимать:

1. как компания зарабатывает;
2. почему процесс построен именно так;
3. сколько стоит ошибка;
4. какие исключения возникают в работе;
5. какие решения нельзя принимать без собственника.

Поэтому внедрение должно начинаться не с вопроса:

«Какого агента мы можем создать?»

Первый вопрос должен звучать иначе:

«Какую проблему бизнеса мы решаем и по каким показателям поймём, что результат получен?»

Только после этого выбираются программа, модель и технический исполнитель.

Иначе компания начинает перестраивать работу под возможности инструмента. Собственник получает дорогую автоматизацию, но не получает решения своей задачи.

Ошибка № 4. Самому ничего не понимать

Собственнику не нужно становиться программистом и самостоятельно настраивать каждое подключение.

Но полностью отдавать эту тему техническому специалисту я считаю опасным.

Предприниматель должен понимать хотя бы семь вещей:

1. Какую задачу выполняет агент.
2. Какие данные он получает.
3. По какому алгоритму действует.
4. Какие действия выполняет самостоятельно.
5. Где требуется участие человека.
6. Кто оценивает качество результата.
7. Как систему немедленно остановить.

Именно поэтому я пошёл учиться сам.

Моя задача — не собирать все подключения своими руками. Мне необходимо уметь поставить задачу, определить ограничения, проверить результат и не стать зависимым от человека, который настроил систему.

Собственник может передать техническую работу. Но понимание того, что происходит внутри его бизнеса, передавать нельзя.

Ошибка № 5. Оставить процесс без ответственного

ИИ может подготовить отчёт, обнаружить отклонение или предложить решение. Но появление системы не отменяет необходимость определить, кто отвечает за процесс внутри компании.

Конкретная юридическая ответственность зависит от ситуации, договора, действий сотрудников и применимого законодательства. Поэтому фразу «так решила система» нельзя считать достаточным объяснением ошибки.

У автоматизированного процесса должен оставаться ответственный человек. Он:

1. утверждает правила;
2. проверяет критические действия;
3. оценивает результат;
4. разбирает ошибки;
5. при необходимости останавливает агента.

Если ответственного нет, компания не автоматизировала управление. Она создала участок, на котором решения принимаются, а хозяина процесса нет.

Как запустить первого агента без перестройки всей компании

Я бы начинал не с целого отдела и тем более не со всего бизнеса.

Для первого эксперимента достаточно одного повторяющегося процесса. Желательно, чтобы он:

1. выполнялся регулярно;
2. состоял из понятных действий;
3. имел измеримый результат;
4. не создавал критических последствий при ошибке.

Например, агент может собирать данные для еженедельного отчёта, проверять заполнение карточек клиентов или готовить черновик ответа по утверждённым материалам.

Перед запуском нужно зафиксировать:

1. Входные данные.
2. Последовательность действий.
3. Допустимые исключения.
4. Запрещённые действия.
5. Момент передачи задачи человеку.
6. Показатели результата.

Оценивать эксперимент можно по времени выполнения, количеству ошибок, доле переделанных результатов и стоимости одной операции.

Если агент выполняет задачу быстрее, но сотруднику приходится исправлять значительную часть результата, реальная экономия может оказаться намного меньше заявленной.

Начинать нужно не с ИИ

Внедрение агента начинается с описания работы компании.

Если процесс существует только в голове опытного сотрудника, сначала придётся разобраться:

1. какие действия он выполняет;
2. на основании каких данных принимает решения;
3. какими правилами руководствуется;
4. какие исключения встречает;
5. что делает в нестандартной ситуации.

И здесь проявляется одна из главных управленческих польз ИИ.

Подготовка к автоматизации показывает собственнику, какие процессы в компании действительно описаны, а какие держатся на памяти, привычках и личном опыте отдельных людей.

ИИ-агент способен ускорить понятную работу. Но он не определит за собственника цели, ответственность и допустимый риск.

Поэтому мой вывод прямой:

не внедряйте ИИ в хаос. Сначала опишите алгоритм, назначьте ответственного и определите показатели. Потом решайте, какие действия можно передать системе.

Описание алгоритмов входит в мои шесть инструментов системного управления. Чек-лист по всем шести инструментам можно найти в моих социальных сетях.

Мои контакты:

ТГ-канал

Вконтакте

Макс