me_edu
Инженерия GenAI-приложений: RAG, агенты и оценка качестваШаг 14 из 19 · 0% пройдено
Инструменты, агенты и безопасность

Tool calling без самоуправства

Шаг 14 из 1911 минТеория
Цель

Понять основной механизм темы «Tool calling без самоуправства» без заучивания отдельных терминов.

Как работать

Прочитайте блок один раз целиком, затем вернитесь к схеме или примеру и перескажите идею своими словами.

Критерий

Сформулированное правило, пример применения и одно ограничение метода.

ITERATION CYCLEцельпланtoolнаблюдениепроверка
Агентный цикл должен быть ограничен правами, логами и критериями остановки
Опорная идея

Tool calling позволяет модели вызвать функцию: поиск заказа, создание задачи, расчёт цены, отправка письма. Опасность в том, что действие может изменить внешний мир. Поэтому инструмент должен иметь строгую схему входа, проверку прав, dry-run для рискованных операций и понятное подтверждение пользователя.

Агент — это цикл: цель, план, действие, наблюдение, следующий шаг. Чем больше автономии, тем важнее ограничения: whitelist инструментов, лимиты итераций, журнал действий, запрет на скрытые операции и явная политика отказа.

Назад

Обсуждение

Войдите, чтобы участвовать в обсуждении.

Пока нет сообщений.