Опорная идея
AI red team не должен ломать production без рамок. Нужны тестовый контур, синтетические данные, журнал действий, severity model, reproduction steps and mitigation. Цель не «обмануть модель любой ценой», а найти воспроизводимые слабые места до того, как ими воспользуются пользователи или атакующие.
Проверки повторяют после изменения prompt, retrieval, tools or model version.