Опорная идея
LLM-приложение соединяет пользователя, модель, retrieval, tools, logs and external APIs. На каждой границе есть риск: пользователь может внедрить инструкцию, retrieval может вернуть poisoned document, tool может выполнить опасное действие, logs могут раскрыть персональные данные.
Threat model делает систему видимой: какие активы защищаем, кто атакует, какие данные проходят через модель и где нужен least privilege.