Определяйте возможности, а не полагайтесь на метку
Термины «чат-бот» и «ИИ-ассистент» используются неконсистентно. Лучшая спецификация описывает, что система может читать, что может изменять и какие действия требуют одобрения.
Интерфейс вопросов и ответов может возвращать только информацию. Ассистент рабочих процессов может составлять записи или вызывать инструменты. Правиловый бот может выполнять узкую транзакцию более предсказуемо, чем любой из них. Видимый пузырь чата не говорит о том, какая архитектура стоит за ним.
Составьте таблицу полномочий
| Возможность | Пример | Необходимая граница |
|---|---|---|
| Объяснить | Суммировать опубликованную услугу | Утвержденный фактический источник |
| Собрать | Запросить недостающие детали брифа | Контекст валидации и согласия |
| Предложить | Предложить классификацию лида | Четкое отличие от подтвержденного решения |
| Подготовить | Составить черновик обновления CRM | Предлагаемые изменения, доступные для проверки |
| Выполнить | Сохранить утвержденное действие | Серверная авторизация, идемпотентность и история |
Ассистент не должен получать более широкие разрешения, потому что пользователь убедительно просит. Аутентифицируйте вызывающего и валидируйте действие вне языковой модели. Ограничьте каждый инструмент минимальными данными и операцией, которые ему необходимы.
Дизайн разговора о сбое
Когда модель не может ответить, предложите полезный следующий шаг: уточните запрос, откройте бриф или свяжитесь с командой. Держите прямые ссылки на контакт доступными даже когда провайдер ИИ не работает. Сохраняйте черновик там, где это уместно, вместо того чтобы притворяться, что неудачный вызов инструмента прошел успешно.
Избегайте подразумевать, что ответ от человека, если его фактически не отправил человек. Сделайте ясным, когда вывод является черновиком или предварительной интерпретацией.
Оцените полную задачу
Проверьте, дает ли система правильный ответ и записывается ли разрешенное действие корректно. Включите неподдерживаемые запросы, инъекции подсказок, повторные отправки и сбой провайдера. Убедительный разговор без прочного завершения не является рабочим ассистентом.
Изучите AI automation и API integrations как отдельные области: понимание запроса и безопасное выполнение требуют разных элементов управления.
Практический вопрос
Делает ли предоставление инструментов ассистента автономным?
Нет. Доступ к инструментам должен указывать аутентифицированного актера, разрешенные объекты, допустимые операции и требования к одобрению. Валидируйте каждое действие на сервере, даже когда модель приводит правдоподобные аргументы.