Человек в контуре: почему ИИ-агент не должен отправлять письма сам
Где агенту можно доверять, а где нет
Языковые модели хорошо читают, структурируют и пишут черновики. Но иногда ошибаются уверенно — и в важной переписке такая ошибка стоит дорого. Поэтому мы делим действия агента на три группы.
| Действие | Пример | Как делает агент |
|---|---|---|
| Внутреннее, обратимое | Завести задачу, обновить карточку встречи, найти документ | Сам, с записью в журнал |
| Спорное | Исполнитель угадан по контексту, цитата не подтвердилась дословно | Отправляет в очередь проверки |
| Наружу и необратимое | Письмо клиенту, платёж, публикация | Только готовит черновик, отправляет человек |
Как выглядит подтверждение
Агент не просто спрашивает «отправить?». Человек видит, кому уйдёт письмо, с какой темой и каким текстом, и только после этого нажимает «Отправить». Если что-то не так — правит черновик. Без этого шага письмо не уйдёт.
Пример. Бухгалтер пишет: «Подготовь отчёт по дебиторке за сентябрь и письмо самому крупному должнику». Агент берёт данные из 1С, собирает таблицу и готовит черновик письма. Бухгалтер проверяет цифры и сам отправляет.
Очередь проверки вместо угадывания
Хуже ошибки только тихая ошибка. Если агент не уверен — например, в речи прозвучало «Алексей», а Алексеев в компании трое, — он не выбирает наугад, а кладёт задачу в очередь проверки. Дежурный подтверждает за пару секунд, а система учитывает правку в следующий раз.
Журнал каждого шага
Для каждого действия видно, что сделал агент, на основании чего и кто подтвердил. Это нужно и для разбора ошибок, и для безопасности: всегда можно ответить на вопрос «почему это произошло».
Итог
Агенты экономят время на рутине, а люди сохраняют контроль над тем, что действительно важно. Этот принцип заложен во все наши решения.