Чем ИИ-агент отличается от чат-бота
Разница не в модели и не в интерфейсе, а в том, кто решает следующий шаг. У бота сценарий задан заранее, у агента — выбирается на ходу.
Короткий ответ: чат-бот выполняет сценарий, который человек задал заранее. Агент сам решает, какой шаг делать следующим, — из цели и того, что увидел на предыдущем шаге. Модель под ними может стоять одна и та же; отличается не она, а кто держит управление.
Практическое следствие важнее определения. У бота множество возможных поведений конечно и его можно перечислить: сценарий либо отработал, либо упёрся в ветку, которой нет. У агента оно не перечисляется — и потому вопрос «что он может сделать» превращается из вопроса о сценарии в вопрос о правах.
Отсюда три вещи, которых у чат-бота нет, а у агента обязаны быть:
Ограничение шагов. Без потолка агент не ошибается — он зацикливается, и счёт растёт молча.
Отдельное подтверждение необратимых операций. Удаление, отправка наружу, деньги. Не потому что модель плохая, а потому что цена ошибки несимметрична — разбирал это отдельно.
Журнал действий. У бота ход разговора и есть журнал. У агента нужно записывать, какой инструмент вызван и с какими аргументами, иначе через неделю нельзя ответить, почему он так сделал.
Граница между двумя понятиями на практике мутная: бот с парой ветвлений и агент с жёстко ограниченным набором шагов почти неразличимы. Полезнее не спорить о термине, а спросить: можно ли перечислить все действия, которые эта штука способна совершить. Если да — это бот, и хватит тестов. Если нет — это агент, и нужны права, лимиты и журнал.
Подробнее про границы доверия — в записи «Агент на рабочем столе».