Тестирование на проникновение моделей GenAI LLM: защита больших языковых моделей
- Суть
- Пентестинг, Red Teaming и защита генеративных моделей (GenAI) и больших языковых моделей (LLM)
- На выходе
- Проведение пентестов и Red Teaming для LLM-систем; Выявление уязвимостей типа «prompt injection»; Анализ и минимизация рисков, связанных с галлюцинациями моделей; Использование фреймворка MITRE ATT&CK в контексте ИИ-безопасности; Моделирование векторов атак на ИИ-агенты и плагины
- Навыки
- пентестинг LLM · Red Teaming · выявление prompt injection · MITRE ATT&CK
- Кому подойдёт
- специалисты по кибербезопасности; разработчики ИИ-решений; этичные хакеры