- Суть
- Практическое руководство по запуску больших языковых моделей на локальном оборудовании
- На выходе
- Настройка локальной среды для запуска LLM через Ollama и LM Studio; Выбор и квантование моделей под конкретное аппаратное обеспечение; Работа с мультимодальными моделями (анализ изображений и PDF); Управление параметрами генерации для контроля точности и стиля ответов; Создание и использование кастомных моделей через Modelfiles
- Навыки
- Ollama · LM Studio · квантование моделей · настройка системных промптов · работа с Modelfiles
- Кому подойдёт
- пользователи, которым важна конфиденциальность данных
- Знать заранее
- понимание основ работы с чат-ботами; 8 ГБ оперативной памяти
