- Суть
- Проектирование LLM-систем: поиск по базе знаний, клиентский саппорт, речевая аналитика и агенты
- На выходе
- Собрать работающие прототипы LLM-сервисов; Развернуть собственную LLM на vLLM или SGLang с квантованием; Собрать офлайн-пайплайн речевой аналитики
- Навыки
- vLLM · SGLang · Квантование моделей · Трейсинг · LLM-observability · ReAct · Векторный поиск
- Кому подойдёт
- DL-инженеры; ML-инженеры; Аналитики; Backend-разработчики
- Знать заранее
- Уверенный Python, включая async/await, классы и типизацию; Опыт работы с REST API, HTTP-запросами, обработкой ошибок и JSON; Понимание, что такое токен, эмбеддинг и prompt; Опыт использования агентов или LLM-чата