Skip to main content

ローカルLLM(mlx / llama.cpp / OpenAI互換)エージェントの CLI / Web フロントエンド。エンジンは local-automata-core に委譲

Project description

local-automata

ローカルLLM(mlx / llama.cpp)で動く、最小の汎用エージェントとサーバー。LLM とツールを組み合わせた agent loop が土台で、設定(agent.toml + 指示 AGENTS.md)だけで他のエージェントにも転用可能。

クイックスタート

uv が必要。

初回だけ環境構築が必要。

uv sync

ターミナル1: ゲートウェイ(LLM/VLMサーバー)を起動する。サーバーは別パッケージ local-llm-server で、gateway.toml(モデルカタログ)を読む。使用中サーバーは常時起動。

uv run local-llm-server

ターミナル2: チャット画面を起動する(ブラウザが開く)。

uv run local-automata-web

設定(agent.toml)

エージェントの挙動は agent.toml で決まる。modelbase_url(接続先ゲートウェイ)は必須:

model = "mlx-community/Qwen3.6-27B-4bit"   # 使うモデル(ゲートウェイの gateway.toml に登録)
base_url = "http://localhost:8799/v1"      # 接続先ゲートウェイ
tools = ["read_file", "edit_file", "run_command"]

全キー・プロファイル・複数エージェントの設計は docs/configuration.md を参照。

LLM サーバー(ゲートウェイ)

LLM サーバーは1つのゲートウェイとして立てる。使うモデルを書いた ./gateway.toml(モデルカタログ)が必須で、model でモデルを振り分け、登録したモデルは使われた時にロードされる。(同時に載せる数は max_resident

起動する(カレントディレクトリの ./gateway.toml を読む):

uv run local-llm-server

状態確認:

uv run local-llm-server --status

停止:

uv run local-llm-server --stop

サーバーは別パッケージ local-llm-server で、gateway.toml の書き方(提供モデル・MTP・max_resident)はそちらを参照(サンプルの gateway.toml も同梱)。接続側の概要は docs/llm-server.md を参照。

外部ツール(MCP)

agent.tomlmcp_dir のパスを設定し、そのフォルダに MCP サーバーのコードを置くだけで、エージェントが全ツールを認識し、呼び出し時に自動起動する。詳しくは docs/tools-and-mcp.md

サンプル

examples/ に用途別のエージェント一式がある。ゲートウェイを起動してから、各ディレクトリで実行する。

ディレクトリ 内容
examples/character/ 会話のみ(ツールなし)+長期メモリの「ルナ」
examples/coder/ 汎用コーディングエージェント。作成・修正 → 実行 → 検証
examples/optimizer/ 作成 → 実行 → 評価 → やり直しを固定ワークフローで反復
examples/ml/ CSV から前処理 → 学習 → 評価 → 保存

coder サンプル

cd examples/coder

GUI を起動する:

uv run local-automata-web

ドキュメント

  • docs/cli.md — ターミナルで使う(local-automata)、添付、複数エージェントの同時実行
  • docs/configuration.mdagent.toml 全リファレンス、プロファイル、機能トグル(tool_mode / verbose / thinking / planning / memory)
  • docs/tools-and-mcp.md — 組み込みツールと安全性、MCP の探索・起動(mcp_dir / AIOS フォルダ方式 / mcp_mode
  • docs/llm-server.md — ゲートウェイ、投機的デコード(MTP)、画像・動画(vision)、音声(voice)
  • docs/workflows.md — 固定ワークフロー(YAML / Markdown)の書き方
  • docs/library.md — ライブラリとして組み込む、入力アダプタ
  • docs/development.md — 構成・テスト・開発
  • docs/troubleshooting.md — よくある症状と対処
  • SPEC.md — 挙動の詳細仕様

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

local_automata-0.4.0.tar.gz (420.8 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

local_automata-0.4.0-py3-none-any.whl (415.9 kB view details)

Uploaded Python 3

File details

Details for the file local_automata-0.4.0.tar.gz.

File metadata

  • Download URL: local_automata-0.4.0.tar.gz
  • Upload date:
  • Size: 420.8 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.2.0 CPython/3.13.10

File hashes

Hashes for local_automata-0.4.0.tar.gz
Algorithm Hash digest
SHA256 2b510032e2aea7e6635626afdb5648aa2df2ecb5d33581279529428fa973601d
MD5 3c4e365b459f4196aa529c972e3f5990
BLAKE2b-256 96f7949edb9eb44fb94a2c9ff1f40dcea68f92e7d89d6cabd679d4c171258c37

See more details on using hashes here.

File details

Details for the file local_automata-0.4.0-py3-none-any.whl.

File metadata

  • Download URL: local_automata-0.4.0-py3-none-any.whl
  • Upload date:
  • Size: 415.9 kB
  • Tags: Python 3
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.2.0 CPython/3.13.10

File hashes

Hashes for local_automata-0.4.0-py3-none-any.whl
Algorithm Hash digest
SHA256 23f42cd10aa07b81b35044f26f94b654e05a2175385f903c5ce8c6424776a84b
MD5 57e291cb26776996dc9f894470e9e568
BLAKE2b-256 e08ff9786af74d9bd56cddfb55ef2d95cb3ac871d4b9e5b0b1bd5dd3979abc0b

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page