- Суть
- Сборка локального ИИ-сервера на Ollama и Open WebUI с нуля
- Уровень
- с нуля
- На выходе
- Запуск моделей на своём оборудовании и открытие доступа команде через браузер; Подключение собственного OpenAI-совместимого API к своим программам и скриптам; Настройка сервера на Windows 11 и развёртывание на Ubuntu Server; Настройка системного промпта, температуры и длины контекста через Modelfile; Организация работы с PDF, Word и Excel через локальную модель
- Навыки
- установка Ollama · настройка Open WebUI · работа с Modelfile · развертывание на Ubuntu Server · настройка системного промпта · квантизация моделей · работа с vision-моделями
- Кому подойдёт
- системные администраторы; ИТ-специалисты; разработчики; руководители и владельцы бизнеса
- Знать заранее
- компьютер с видеокартой NVIDIA; Windows 11