Skip to main content

Один клик — удалённый GPU-сервер с Ollama + VS Code Remote

Project description

# Gpu-setup — один клик до удалённого GPU-сервера с Ollama и VS Code Remote

Автоматическая настройка SSH, установка [Ollama](https://ollama.com/), загрузка LLM-моделей и открытие VS Code Remote на удалённом GPU-сервере — всё одной командой.

---

## Возможности

- Генерация SSH-ключей (ed25519 / RSA) **или** использование готового `.pem`-ключа от провайдера
- Автоматическое копирование публичного ключа (если используется свой ключ)
- Настройка `~/.ssh/config` с удобным алиасом
- Установка Ollama и запуск сервиса
- Загрузка моделей с живым выводом прогресса
- Автоматическое открытие VS Code Remote
- Полноценный Colab-режим: Jupyter Notebook + SSH-туннель на локальный порт + venv с torch
- Режим `--dry-run` для просмотра плана
- Красивый вывод с помощью `rich`

---

## Поддержка ключей

Скрипт поддерживает **два способа** аутентификации:

### 1. Обычный режим (генерация своего ключа)
Используется по умолчанию. Скрипт сам генерирует ключ и копирует его на сервер.

### 2. Режим `.pem`-ключа (для большинства облачных провайдеров)
Когда у вас уже есть скачанный приватный ключ (например `keyname-ubuntu.pem`).

В этом случае:
- Генерация своего ключа пропускается
- Автоматически выполняется `chmod 600` на `.pem`-файл
- Публичный ключ на сервер **не копируется** (он уже добавлен провайдером)

---

## Предварительные требования

- Python 3.8+
- SSH-клиент и `ssh-keygen`
- (опционально) `code` CLI для VS Code Remote
- Для `.pem`-ключа: файл должен быть скачан и доступен на локальной машине

---

## Установка

```bash
pip install gpu-server-setup

После установки команда gpu-server-setup будет доступна в терминале.


Использование

gpu-server-setup [команда] [опции]

Доступные команды

Команда Описание
setup Полная настройка (SSH + Ollama + модель + VS Code)
ssh Только настройка SSH-доступа
ollama-install Установка Ollama
model-pull Загрузка модели
vscode Открытие VS Code
colab
colab upyter Notebook + локальный туннель
Remote
plan Показать план действий

Подробное описание команд

gpu-setup setup (основная команда)

Опции:

  • --ip (обязательно)
  • --user (обязательно)
  • --password — пароль для sudo (если требуется)
  • --model — модель для скачивания (например llama3.2)
  • --pem-key, --key-file — путь к .pem-ключу от провайдера
  • --install-ollama / --no-install
  • --no-vscode
  • --dry-run
  • --key-type (ed25519 по умолчанию)

gpu-setup ssh

Только настройка SSH по ключу.

Опции:

  • --ip, --user
  • --password
  • --pem-key
  • --dry-run
  • --key-type

gpu-setup ollama-install

Установка Ollama.

Опции:

  • --ip, --user
  • --password (если sudo требует пароль)
  • --pem-key
  • --dry-run

gpu-setup model-pull <MODEL>

Скачивание модели.

Пример:

gpu-server-setup model-pull llama3.2 --ip 123.45.67.89 --user ubuntu --pem-key ~/key.pem

Опции:

  • --ip, --user
  • --password
  • --pem-key
  • --dry-run

gpu-setup plan

Показывает план без выполнения.


Примеры использования

1. Полная настройка со своим ключом (классический способ)

gpu-server-setup setup --ip 123.45.67.89 --user ubuntu --password "pass" --model llama3.2

2. Полная настройка с .pem-ключом (самый удобный для облака)

gpu-server-setup setup --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem --model llama3.2

3. Только SSH с .pem-ключом

gpu-server-setup ssh --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem

4. Установка Ollama с .pem-ключом

gpu-server-setup ollama-install --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem

5. Скачивание модели (после настройки SSH)

gpu-server-setup model-pull gemma2:27b --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem

6. Настройка colab

gpu-server-setup colab --ip 123.45.67.89 --user ubuntu  --pem-key ~/key.pem (или --password) --port 9999

7. Просмотр плана

gpu-server-setup plan --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem --model llama3.2

Dry-run

Все команды поддерживают --dry-run:

gpu-server-setup setup --ip IP --user user --pem-key key.pem --dry-run

Устранение неполадок

  • Ошибка при подключении — проверьте правильность пути к .pem-файлу и права (chmod 600).
  • Ollama не устанавливается — передайте --password, если sudo требует пароль.
  • VS Code не открывается — установите code CLI в PATH.
  • "Permission denied" для ключа — убедитесь, что выполнено chmod 600 путь_к_ключу.pem.

Лицензия

MIT License.

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

gpu_server_setup-0.4.9.tar.gz (10.1 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

gpu_server_setup-0.4.9-py3-none-any.whl (12.2 kB view details)

Uploaded Python 3

File details

Details for the file gpu_server_setup-0.4.9.tar.gz.

File metadata

  • Download URL: gpu_server_setup-0.4.9.tar.gz
  • Upload date:
  • Size: 10.1 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.9.6

File hashes

Hashes for gpu_server_setup-0.4.9.tar.gz
Algorithm Hash digest
SHA256 a6ed36be92c982ce03849ef8dfccd9906e2d514b68f8b98f0e87dfcdce6305fd
MD5 75db42e01dcc6e8558295232e89a5989
BLAKE2b-256 959bd0f84d1cbaa95b9bd87949a8ed642e9233883e279baa6358835f7f7d57b1

See more details on using hashes here.

File details

Details for the file gpu_server_setup-0.4.9-py3-none-any.whl.

File metadata

File hashes

Hashes for gpu_server_setup-0.4.9-py3-none-any.whl
Algorithm Hash digest
SHA256 ceee784b8300db01b40e5095d4d5e7ad768a37696b9eb12666420b29862f49c0
MD5 23bfe5ec81760dfe7a2bddc7df8d9683
BLAKE2b-256 5c514f2f07c37af2fa00890b5e6225baf62ea0f20637757d87e591d41be49dd6

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page