От чат-бота к фильтру внимания
Большинство корпоративных AI-инструментов работает по простой схеме: сотрудник задаёт вопрос, система формирует ответ. Claude Duet, представленный Anthropic в исследовательском предпросмотре, предлагает другую модель. Агент получает доступ к рабочему контексту, следит за подключёнными приложениями и сам решает, когда человеку нужно вмешаться.
По описанию компании, Duet может собирать утренний брифинг, периодически проверять почту, календарь, CRM и другие источники, а затем обращаться к пользователю только при обнаружении ситуации, которую считает важной. В числе заявленных сценариев — административные задачи, подготовка прогнозов, создание дашбордов и прототипов.
Это заметный сдвиг в логике продукта. AI больше не только отвечает и исполняет. Он начинает формировать очередь человеческого внимания.
Главная функция — не действие, а приоритет
Представим владельца небольшой компании. За день ему приходят десятки писем, меняются встречи, клиенты переносят сроки, в CRM появляются новые сделки, а финансовая система фиксирует платежи и задолженности. В таком окружении проблема часто не в отсутствии данных, а в невозможности вовремя заметить действительно существенное.
Проактивный агент пытается стать фильтром между человеком и этим потоком. Его рабочая цепочка выглядит примерно так:
- получить разрешённый доступ к источникам;
- обнаружить изменения в рабочем контексте;
- оценить их срочность и потенциальные последствия;
- выбрать — уведомить человека, подготовить рекомендацию или промолчать;
- при необходимости выполнить действие после подтверждения.
Схема работы проактивного AI-агента: он отслеживает рабочие источники, оценивает важность сигналов и решает, что показать человеку. Иллюстрация: ИИ
У такой системы есть очевидная ценность. Руководителю не нужно каждый час вручную просматривать все каналы и формулировать десятки запросов. Но вместе с этим появляется новый тип риска: ошибка агента может быть не неправильным ответом, а неправильной расстановкой приоритетов.
Система может не заметить письмо ключевого клиента, принять обычное изменение встречи за кризис или решить, что потенциальная кассовая проблема подождёт. В каждом случае она влияет на решение ещё до того, как человек увидит исходную информацию.
Цена молчания может быть выше цены ошибки
Компании привыкли оценивать автоматизацию по действиям: сколько задач выполнено, сколько часов сэкономлено, сколько операций прошло без участия сотрудника. Для проактивных агентов этого недостаточно.
Не менее важны события, которых пользователь не увидел. Если агент промолчал, невозможно просто посчитать отправленное уведомление и объявить систему эффективной. Нужно выяснить, что он проверял, какие сигналы обнаружил, почему счёл их несущественными и была ли ошибка замечена позже.
Поэтому для такого класса продуктов понадобятся новые показатели:
- доля важных событий, которые агент пропустил;
- количество ложных тревог;
- число прерываний, не приведших к полезному решению;
- доля рекомендаций, отменённых человеком;
- время между пропущенным сигналом и его обнаружением;
- частота повторных уведомлений по одной и той же теме.
Главный риск проактивного агента — не только ложная тревога, но и сигнал, который так и не дошёл до человека. Иллюстрация: ИИ
Последний показатель особенно важен. Даже корректные сообщения становятся бесполезными, если система постоянно напоминает о задачах, которые сотрудник уже видел или сознательно отложил.
Подтверждение не исправляет ошибку приоритизации
Для чувствительных операций, включая покупки, агент должен получить подтверждение пользователя. Это разумная мера: система не должна самостоятельно переводить деньги или совершать внешние действия с высокой ценой ошибки.
Однако подтверждение закрывает только последний этап цепочки. Оно не гарантирует, что агент правильно понял переписку, выбрал нужный документ или построил прогноз на релевантных данных. Человек может подтвердить действие, не заметив, что предварительная работа уже содержит ошибку.
Например, агент видит несколько просроченных счетов и предлагает срочно перенести бюджет. Руководитель подтверждает рекомендацию, потому что доверяет краткому объяснению. Позже выясняется, что один из платежей уже был проведён, но информация в подключённой системе обновилась с задержкой.
В этом сценарии проблема возникла не в момент нажатия кнопки. Она появилась раньше — когда агент неверно оценил контекст и представил вывод как приоритетный.
Начинать стоит с режима наблюдения
Для бизнеса безопаснее внедрять таких агентов поэтапно. Первый этап — режим наблюдения. Система получает ограниченный доступ к выбранным источникам, формирует рекомендации и ведёт журнал решений, но ничего не отправляет и не меняет без ручного подтверждения.
В журнале должны сохраняться как минимум:
- какие источники проверялись;
- какие события были обнаружены;
- какие факторы повлияли на оценку срочности;
- почему агент решил уведомить пользователя или промолчать;
- какое действие было предложено и что с ним сделал человек.
Безопасное внедрение начинается с режима наблюдения: агент предлагает решения, а человек проверяет контекст и сохраняет след принятия решений. Иллюстрация: ИИ
Через несколько недель такого наблюдения компания сможет сравнить рекомендации с реальными решениями сотрудников. Это позволит понять, где агент полезен, а где он лишь создаёт дополнительный шум.
Только после этого имеет смысл расширять полномочия — например, разрешать подготовку черновиков писем или обновление внутренних задач. Автоматическую отправку, финансовые операции и изменения в критических системах лучше отделять от обычных административных действий.
Что меняется для руководителя
Claude Duet пока остаётся исследовательским предпросмотром, а заявленная экосистема интеграций не означает одинаковой надёжности каждого сценария. Сам Anthropic предупреждает, что ранняя версия может неправильно прочитать переписку или неверно определить срочность.
Но даже в таком статусе продукт показывает важное направление развития AI. Следующий корпоративный интерфейс может оказаться не ещё одним чатом, а системой, которая решает, какую информацию человек вообще увидит сейчас.
Для руководителя главный вопрос поэтому звучит не так: «Может ли агент выполнить эту задачу?» Важнее спросить: «Можем ли мы проверить, почему он обратил на неё внимание — и что произошло с тем, о чём он промолчал?»
Если компания не умеет измерять пропущенные события и лишние прерывания, она передаёт системе не просто рутинные операции. Она передаёт ей право определять, что считается важным.
