- Суть
- Управление большими языковыми моделями (LLM) в корпоративной среде с Azure API Management
- На выходе
- Настройка Azure API Management для работы с LLM; Реализация балансировки нагрузки для моделей OpenAI; Настройка семантического кэширования запросов; Внедрение политик ограничения токенов; Настройка безопасности через частные конечные точки
- Навыки
- Azure API Management · семантическое кэширование · балансировка нагрузки · Private Endpoints · логирование API-запросов · мониторинг API-запросов
- Кому подойдёт
- разработчикам; облачным архитекторам; специалистам по безопасности
- Знать заранее
- базовые навыки работы с Python; базовые навыки работы с API; подписка Azure
