Практикум по проверке безопасности ИИ-приложений через CTF-задания
На выходе
Познакомиться с типами атак на LLM-приложения; Оценивать защиту промптов, агентских действий и содержимого базы знаний; Получить материал для проверки собственных AI-продуктов и adversarial testing
Навыки
Prompt injection · Jailbreak · Атаки на агентов и RAG · Усиление промптов · Guardrails · Фильтрация входных и выходных данных · Adversarial testing
Кому подойдёт
Специалистам по информационной безопасности; Разработчикам и продакт-менеджерам AI-продуктов; QA-инженерам, студентам и исследователям AI safety; Пользователям языковых моделей, желающим понимать типовые уязвимости таких систем
Знать заранее
Понимать, что языковая модель генерирует текст; Иметь опыт диалога с ChatGPT, Claude, Gemini или другой LLM; Читать английские технические термины либо пользоваться переводчиком