Методы защиты генеративного и агентного искусственного интеллекта от новых угроз безопасности
Уровень
для практикующих
На выходе
Выявление уязвимостей в LLM и агентных системах согласно OWASP Top 10; Применение фреймворков NIST AI RMF и Mitre Atlas для оценки рисков; Внедрение методологии LLMSecOps в жизненный цикл разработки ИИ; Проектирование защиты для многоагентных и мультимодальных систем; Оценка рисков ИИ-систем с использованием метрик AIVSS
Специалисты по безопасности приложений и инженеры; Разработчики и ML-инженеры; Руководители направлений ИТ-рисков, комплаенса и технические менеджеры
Знать заранее
Понимание основных концепций кибербезопасности; Знание принципов безопасности приложений; Знание жизненного цикла разработки ПО (SDLC); Общее понимание механизмов работы искусственного интеллекта