Опорная идея
Guardrails — это правила, которые защищают пользователя, компанию и сам продукт. Они включают фильтрацию PII, запрет утечки системных инструкций, проверку источников, ограничение опасных действий, безопасный fallback и аудит логов. Важно не хранить лишние персональные данные и не отправлять модели то, что не требуется для ответа.
Для учебного проекта достаточно трёх уровней: входной фильтр, проверка ответа и журналирование решения. Для production добавляют роли доступа, red-team тесты, мониторинг drift и регрессионный набор запросов.