Senior DataScience: Введение в устройство LLM и Transformers
- Суть
- Изучение архитектуры больших языковых моделей (LLM) и трансформеров, стратегий их обучения и работы
- Формат
- текстовые материалы
- На выходе
- Понимать архитектуру LLM, разницу между Энкодером и Декодером; Осознанно подходить к выбору стратегий обучения: Pre-training, Fine-tuning, RLHF; Управлять генерацией текста через параметры Temperature, Top-k и Top-p; Выбирать архитектуру нейросетей под конкретные бизнес-задачи; Понимать природу галлюцинаций и предвзятости искусственного интеллекта
- Навыки
- Архитектура Transformers · Pre-training · Fine-tuning · RLHF · Настройка Temperature, Top-k и Top-p
- Кому подойдёт
- Разработчики (Backend, Fullstack, Python); Data Scientists и ML-инженеры уровня Junior или Middle; Технические менеджеры и Product Owners
- Знать заранее
- Базовое знание Python; Понимание школьной математики (векторы, вероятности)