- Суть
- Настройка, оптимизация и защита больших языковых моделей (LLM) с помощью Azure API Management
- На выходе
- Настройка Azure API Management для работы с LLM; Реализация балансировки нагрузки для моделей OpenAI; Настройка семантического кэширования запросов; Внедрение политик ограничения токенов; Настройка безопасности через частные конечные точки
- Навыки
- Настройка Azure API Management · Семантическое кэширование · Настройка private endpoints · Ведение журналов API · Ограничение токенов · Балансировка нагрузки
- Кому подойдёт
- разработчиков API; архитекторов облачных решений; специалистов по машинному обучению и искусственному интеллекту; инженеров по информационной безопасности и технических руководителей
- Знать заранее
- базовое понимание принципов работы API; опыт взаимодействия с платформой Azure; начальные навыки написания кода на Python; активная подписка Azure