Установка нейросети Gemma на свой ПК под Windows

Уроки

Всем привет! В этом гайде я расскажу и покажу, как вы можете установить нейросеть Gemma от Google на свой Пк под ОС windows. Про саму Gemma я уже писал в нашем каталоге нейросетей, если вам нужно описание как она работает и как ее применять, сначала посетите его.

Как работает Gemma

На самом деле, я немного разочарован как работает gemma, поэтому не буду тут ее сравнивать с чем-то или делать какие-либо выводы, просто покажу как она работает. А вы делайте свои.

Установка нейросети Gemma на свой ПК под Windows
Работа gemma в web, интерфейсе

Как установить Gemma на свой ПК (веб версия)

Расскажу, как легко установить модель Gemma 2B или 7B на ваш локальный компьютер с Windows. Нам понадобятся такие приложения как Ollama и Docker, скачайте их и установите. Далее следуйте моей пошаговой инструкции:

ШАГ 1: Переходим в депозитарий Gethub и скачиваем compose файлы для Docker. Нам нужны только docker-compose.yaml, docker-compose.gpu.yaml, docker-compose.data.yaml и docker-compose.api.yaml.

ШАГ 2: Размещаем их в папку Ollama, например под диском «C». Вот, как у вас должно получится.

Установка нейросети Gemma на свой ПК под Windows

ШАГ 3: Открываем командную строку и вводим туда (docker должен быть запущен): docker-compose -f C:\Ollama\docker-compose.yaml up -d и жмем enter. Запустится установка необходимых компонентов.

Установка нейросети Gemma на свой ПК под Windows

ШАГ 4: Открываем Docker, переходим в раздел Containers и жмем на ссылку с названием нашего компонента «Ollama». В следующем появившемся окошке жмем на ссылку 3000:8080 под надписью «Running«.

Установка нейросети Gemma на свой ПК под Windows

Вот и все! Запустится страница с веб версий. Далее пройдите простую регистрацию и добавьте нужную модель в настройках (пример ниже).

Добавление модели в Webui (веб интерфейс):

Установка нейросети Gemma на свой ПК под Windows

Gemma через командную строку (простая установка)

Еще один способ установить Gemma на свой ПК, но более простой, работа при этом происходит при помощи стандартной командной строки windows.

Для этого я воспользуюсь инструментом Ollama, она автоматизирует скачивание, установку и запуск Gemma. Весь процесс занимает всего пару минут.

ШАГ 1: Для начала скачайте и установите приложение для windows Ollama. Запустите.

ШАГ 2: Далее открываем стандартную командную строку windows.

ШАГ 3: В коммандной строке вводим ollama run gemma:2b или ollama run gemma:7b если хотите модель с 7 миллиардами параметров. Дождитесь установки модели.

ШАГ 4: Как только появилась надпись Send Message, можете вводить любое сообщение прямо в коммандной строке. Приятной работы!

Вот и всё! Теперь вы можете задавать вопросы Gemma прямо на своем компьютере и получать мгновенные ответы. Если возникнут какие либо вопросы, пишите их в комментариях ниже, я быстро отвечаю!

Фанат ИИ, а также исследователь и практикующий специалист в области нейронных сетей. Владелец сообщества в телеграмме и вконтакте, посвещенный нейросетям.

Оцените автора
Лабаратория нейросетей
Добавить комментарий

  1. Антон

    При установке на компьютер для командной строки, как потом правильно всё удалить? А то печатает ответы в час по слову и на английском при запросе на русском.

    Ответить
    1. Кристиан Акила автор

      Он скачивает сюда: C:\Users\krist\AppData\Local\Programs\Ollama Можно просто удалить папку!

      Ответить