Агенты

Чем агент отличается от бота и от чата

Разница в том, кто ведёт разговор. Чату задают вопрос и получают ответ. Боту нажимают кнопку и проходят по сценарию, который кто-то заранее нарисовал. Агенту ставят задачу и не описывают шаги.

Дальше он действует сам: решает, какой инструмент взять, вызывает его, смотрит на результат и решает, что делать следующим шагом. Цикл повторяется, пока задача не закрыта или пока не кончились попытки.

Отсюда все свойства агентов, и хорошие, и плохие. Он справляется с задачами, где путь заранее неизвестен – например, найти нужные данные в трёх системах и свести их. И он же непредсказуем по стоимости и времени, потому что число шагов заранее неизвестно.

Практический признак, по которому легко отличить: если можно нарисовать блок-схему и она не разъезжается, вам нужен не агент, а сценарий. Он дешевле, быстрее и не ошибается в местах, где ошибаться нечем.

Из чего собран агент

Под красивым словом лежит довольно скучная конструкция из четырёх частей. Понимание этих частей экономит недели.

Цикл. Модель получает задачу и список доступных инструментов, выбирает один, получает результат вызова, снова думает. Никакой магии: это обычный цикл с условием выхода, и от того, как написано условие, зависит, остановится агент или будет крутиться вечно.

Инструменты. Функции, которые агент может вызвать: поиск по базе, запрос в CRM, отправка письма, запуск расчёта. Инструмент описывается словами, и от качества описания результат зависит сильнее, чем от выбора модели. Механику выбора я разбирал отдельно, схемой: как агент выбирает инструмент.

Память. То, что агент помнит между шагами и между запусками. Здесь же живёт главная статья расходов: история диалога отправляется модели заново на каждом шаге, и растёт она быстро.

Ограничители. Лимит шагов, лимит денег, список того, что делать нельзя, и точки, где нужно подтверждение человека. Это не перестраховка, а часть конструкции: агент без ограничителей рано или поздно уходит в цикл или делает необратимое.

Где агент окупается, а где нет?

Ответ упирается в одно свойство задачи – известен ли путь решения заранее.

Половина неудачных внедрений – это агент там, где хватило бы двух строк кода. Разбор причин, по которым проекты не выходят в плюс, у меня отдельной статьёй: почему ИИ-агенты не окупаются у большинства компаний. А месяц наблюдений за живой очередью заявок – в разборе ИИ-агент вместо менеджера по заявкам, там же прямой список того, что он не потянул.

Сколько стоит агент в работе

Цена агента считается не по прайсу модели. Она складывается из числа шагов и размера контекста, который улетает на каждом шаге.

Механика простая. На первом шаге отправляется задача и описания инструментов. На втором – всё то же плюс результат первого вызова. На десятом – вся накопленная история. Диалог, который человеку кажется коротким, к концу работы отправляется в модель десятки раз.

Именно поэтому счета удивляют. Я разбирал случай, где на короткую реплику уходило 60 тысяч токенов: куда именно они девались. Ничего экзотического там не было – описания инструментов, системная инструкция и история, отправляемые заново.

Отсюда три рычага. Меньше инструментов в списке – короче каждый запрос. Сжатие или отсечение старой истории – меньше растёт хвост. Кэширование неизменной части запроса – прямая экономия, у большинства вендоров чтение из кэша дешевле обычного входа в разы.

И четвёртый, о котором забывают: выбор модели под шаг. Не всякий шаг требует флагмана. Разметить письмо или выбрать инструмент из пяти может модель попроще, а сильную звать только на рассуждение.

Что держать под контролем, чтобы отпустить агента

Автономность – это не «запустили и забыли», а набор ограничений, при которых можно не смотреть.

Права доступа. Агент получает ровно те доступы, которые нужны задаче, и отдельную учётную запись. Общий административный ключ «чтобы всё работало» – самая частая и самая дорогая ошибка.

Необратимые действия – через подтверждение. Отправка письма клиенту, платёж, удаление, публикация. Всё, что нельзя откатить, проходит через человека, пока статистика не покажет, что можно иначе.

Лимиты. Потолок шагов, потолок расходов на запуск, таймаут. Без них цикл, попавший в развилку, крутится до конца бюджета.

Логи с расшифровкой решений. Нужно видеть не только результат, но и почему агент выбрал этот инструмент. Без такого журнала отладка превращается в гадание, а разбор инцидента – в спор.

Проверка результата. Отдельный шаг, который сверяет ответ с исходными данными. Модель, которая пишет грамотный и неверный текст, ловится только сверкой с фактами, а не вычиткой.

Как агент встраивается в существующие системы

Агент сам по себе ничего не умеет – всё полезное он делает через инструменты, а инструменты упираются в ваши системы. Поэтому проект начинается не с модели, а с инвентаризации доступов.

Лучший случай – у системы есть нормальный API: тогда инструмент пишется за час и работает предсказуемо. Средний случай – API есть, но кривой или неполный, и половина работы уходит на обходные пути. Худший – интерфейс без API вообще, и тогда остаётся либо работа за компьютером через браузер, либо выгрузки файлами по расписанию.

Отдельная развилка – данные компании. Если агенту нужно отвечать по внутренним регламентам и документам, ему нужен поиск по внутренним документам, а это уже не агент, а связка: хранилище с поиском плюс модель поверх него. Путать эти две задачи дорого: без нормального поиска агент бодро придумывает ответы.

Там, где всё крутится вокруг сделок и клиентов, обычно всё сводится к тому же вопросу: внедрение ИИ в CRM с правильно нарезанными правами. Агент читает то, что ему разрешили, пишет туда, где его правки видны, и не трогает остальное.

Куда движутся платформы

За последний год агентские возможности переехали из библиотек в сами платформы. Инструменты, вызовы функций, память между шагами и режим работы за компьютером стали частью продуктов вендоров, а не тем, что каждый пишет себе сам.

Практическое следствие приятное: связку, на которую раньше уходили недели, теперь можно собрать на готовых кирпичах и проверить гипотезу за дни. Следствие неприятное: вместе с удобством приезжает привязка к вендору, и переносимость приходится закладывать заранее.

Что из этого стоит смотреть, видно по ленте новостей ниже. Там же – разборы релизов, в которых цифры по агентным задачам и по стоимости прогона важнее заявленного уровня интеллекта.

Вопросы и ответы