Опорная идея
В эксплуатации важны три бюджета: качество, задержка и деньги. Логируют длину контекста, число retrieved chunks, модель, токены, latency, tool calls, ошибки фильтров и оценку пользователя. Эти данные показывают, где система дорогая или слабая: слишком большие chunks, лишние tool calls, неудачный reranking или неподходящая модель.
Профессиональный итог курса — не демо-чат, а приложение, которое можно обслуживать: видно, что оно делает, почему ошибается и сколько стоит каждый сценарий.