AI Security и Red Team: prompt injection, model abuse и защита LLM-приложений

Чему вы научитесь

• Строить threat model для AI-приложения: assets, actors, trust boundaries, tools and data stores
• Понимать OWASP LLM risks: prompt injection, sensitive information disclosure, insecure output handling and excessive agency
• Проводить red-team сценарии без вреда: тестовые данные, sandbox tools, logging and approval gates
• Защищать RAG: source access control, citations, retrieval filters, poisoning checks and refusal policy
• Готовить AI security report с findings, severity, reproduction, mitigation and residual risk

О курсе

Курс закрывает новую зону кибербезопасности: атаки на LLM-приложения, prompt injection, data exfiltration, insecure tool use, model denial of service, supply chain of models and plugins, jailbreak testing and governance. Ученик учится проектировать защиту до запуска, а не чинить ее после инцидента.