Skip to main content

Один клик — удалённый GPU-сервер с Ollama + VS Code Remote

Project description

# Gpu-setup — один клик до удалённого GPU-сервера с Ollama и VS Code Remote

Автоматическая настройка SSH, установка [Ollama](https://ollama.com/), загрузка LLM-моделей и открытие VS Code Remote на удалённом GPU-сервере — всё одной командой.

---

## Возможности

- Генерация SSH-ключей (ed25519 / RSA) **или** использование готового `.pem`-ключа от провайдера
- Автоматическое копирование публичного ключа (если используется свой ключ)
- Настройка `~/.ssh/config` с удобным алиасом
- Установка Ollama и запуск сервиса
- Загрузка моделей с живым выводом прогресса
- Автоматическое открытие VS Code Remote
- Полноценный Colab-режим: Jupyter Notebook + SSH-туннель на локальный порт + venv с torch
- Режим `--dry-run` для просмотра плана
- Красивый вывод с помощью `rich`

---

## Поддержка ключей

Скрипт поддерживает **два способа** аутентификации:

### 1. Обычный режим (генерация своего ключа)
Используется по умолчанию. Скрипт сам генерирует ключ и копирует его на сервер.

### 2. Режим `.pem`-ключа (для большинства облачных провайдеров)
Когда у вас уже есть скачанный приватный ключ (например `keyname-ubuntu.pem`).

В этом случае:
- Генерация своего ключа пропускается
- Автоматически выполняется `chmod 600` на `.pem`-файл
- Публичный ключ на сервер **не копируется** (он уже добавлен провайдером)

---

## Предварительные требования

- Python 3.8+
- SSH-клиент и `ssh-keygen`
- (опционально) `code` CLI для VS Code Remote
- Для `.pem`-ключа: файл должен быть скачан и доступен на локальной машине

---

## Установка

```bash
pip install gpu-server-setup

После установки команда gpu-server-setup будет доступна в терминале.


Использование

gpu-server-setup [команда] [опции]

Доступные команды

Команда Описание
setup Полная настройка (SSH + Ollama + модель + VS Code)
ssh Только настройка SSH-доступа
ollama-install Установка Ollama
model-pull Загрузка модели
vscode Открытие VS Code
colab
colab upyter Notebook + локальный туннель
Remote
plan Показать план действий

Подробное описание команд

gpu-setup setup (основная команда)

Опции:

  • --ip (обязательно)
  • --user (обязательно)
  • --password — пароль для sudo (если требуется)
  • --model — модель для скачивания (например llama3.2)
  • --pem-key, --key-file — путь к .pem-ключу от провайдера
  • --install-ollama / --no-install
  • --no-vscode
  • --dry-run
  • --key-type (ed25519 по умолчанию)

gpu-setup ssh

Только настройка SSH по ключу.

Опции:

  • --ip, --user
  • --password
  • --pem-key
  • --dry-run
  • --key-type

gpu-setup ollama-install

Установка Ollama.

Опции:

  • --ip, --user
  • --password (если sudo требует пароль)
  • --pem-key
  • --dry-run

gpu-setup model-pull <MODEL>

Скачивание модели.

Пример:

gpu-server-setup model-pull llama3.2 --ip 123.45.67.89 --user ubuntu --pem-key ~/key.pem

Опции:

  • --ip, --user
  • --password
  • --pem-key
  • --dry-run

gpu-setup plan

Показывает план без выполнения.


Примеры использования

1. Полная настройка со своим ключом (классический способ)

gpu-server-setup setup --ip 123.45.67.89 --user ubuntu --password "pass" --model llama3.2

2. Полная настройка с .pem-ключом (самый удобный для облака)

gpu-server-setup setup --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem --model llama3.2

3. Только SSH с .pem-ключом

gpu-server-setup ssh --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem

4. Установка Ollama с .pem-ключом

gpu-server-setup ollama-install --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem

5. Скачивание модели (после настройки SSH)

gpu-server-setup model-pull gemma2:27b --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem

6. Настройка colab

gpu-server-setup colab --ip 123.45.67.89 --user ubuntu  --pem-key ~/key.pem (или --password) --port 9999

7. Просмотр плана

gpu-server-setup plan --ip 111.11.111.111 --user ubuntu --pem-key ~/Downloads/keyname-ubuntu.pem --model llama3.2

Dry-run

Все команды поддерживают --dry-run:

gpu-server-setup setup --ip IP --user user --pem-key key.pem --dry-run

Устранение неполадок

  • Ошибка при подключении — проверьте правильность пути к .pem-файлу и права (chmod 600).
  • Ollama не устанавливается — передайте --password, если sudo требует пароль.
  • VS Code не открывается — установите code CLI в PATH.
  • "Permission denied" для ключа — убедитесь, что выполнено chmod 600 путь_к_ключу.pem.

Лицензия

MIT License.

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

gpu_server_setup-0.4.10.tar.gz (10.3 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

gpu_server_setup-0.4.10-py3-none-any.whl (12.4 kB view details)

Uploaded Python 3

File details

Details for the file gpu_server_setup-0.4.10.tar.gz.

File metadata

  • Download URL: gpu_server_setup-0.4.10.tar.gz
  • Upload date:
  • Size: 10.3 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.9.6

File hashes

Hashes for gpu_server_setup-0.4.10.tar.gz
Algorithm Hash digest
SHA256 5e6fb8a14fddecb7284592069b69859135d7059fc3ac14c5577f52ceed28b9ad
MD5 26eb8622b27dab643c1b361f42301df4
BLAKE2b-256 a6859428d25de8f707404a0c34d7ad2d77366ea5c11c48a37589d67f82d0ea5e

See more details on using hashes here.

File details

Details for the file gpu_server_setup-0.4.10-py3-none-any.whl.

File metadata

File hashes

Hashes for gpu_server_setup-0.4.10-py3-none-any.whl
Algorithm Hash digest
SHA256 bd3827ff33b15f05bd2afc5120189ac0878ad0de044c8c2547290e2d26aef888
MD5 8e23f17bdc86738793e17993ab8632a5
BLAKE2b-256 0989573c6851c002c376a1a0495bcd06e7ed231620f6e7befce391713a4b9630

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page