- Суть
- Введение в устройство больших языковых моделей и архитектуру Transformer
- Формат
- текстовые материалы
- На выходе
- Разобраться в архитектуре Transformer, механизме внимания и векторах Query, Key, Value; Понять различия между Pre-training, Fine-tuning и RLHF
- Навыки
- transformers · pytorch · Fine-tuning · токенизация · RLHF
- Кому подойдёт
- Backend-, fullstack- и Python-разработчикам, использующим API языковых моделей; Начинающим и продолжающим специалистам по Data Science и ML; Техническим менеджерам и владельцам продуктов с AI-функциями
- Знать заранее
- Основы Python: переменные, списки, функции и циклы; Представление о векторах, матрицах и вероятностях; Общее представление об API, базах данных и JSON