Разработка, дообучение и внедрение больших языковых моделей (LLM) в бизнес-процессы
На выходе
Проектирование архитектуры LLM-решений; Тонкая настройка (fine-tuning) моделей с использованием библиотек Hugging Face; Применение методов LoRA и QLoRA для эффективного обучения; Реализация систем поиска с дополненной генерацией (RAG); Настройка RLHF для приведения ответов модели в соответствие с заданными критериями
Навыки
Fine-tuning LLM · Hugging Face · PEFT (LoRA/QLoRA) · RLHF (DPO, PPO) · Квантизация моделей · Дистилляция моделей · Мониторинг LLM-сервисов