10 projects
local-automata
ローカルLLM(mlx / llama.cpp / OpenAI互換)エージェントの CLI / Web フロントエンド。エンジンは local-automata-core に委譲
local-automata-core
エージェント共有コア(L3)。ツールフレームワーク・共通ツール・MCP 連携・エージェントループ・文脈管理。LLM 接続は local-llm-client(L2)に委ね、推論サーバーは別パッケージ local-llm-server。
local-llm-client
ローカル LLM ゲートウェイ(local-llm-server / OpenAI 互換)に繋ぐ高レベルクライアント。エージェント共通のクライアントで、openai のボイラープレートを再実装しない。
local-llm-server
ローカルLLM(mlx / mlx-vlm / llama.cpp)を OpenAI 互換 API で束ねるマルチモデルゲートウェイ(サーバー)。gateway.toml のカタログを 1 ポートで配信し、model で振り分け・遅延起動・LRU 退避・MTP 高速化(Ollama 流の共有デーモン)。接続用クライアントは別パッケージ local-llm-client。
augllm
This is LLM interface library.
agent-hub-kit
MCP ベースのマルチエージェント開発キット: ストリーミング対応の MCP クライアント / サーバーをまとめた統合ライブラリ
llm-graph-kit
Add your description here
ship-hull-generator
Add your description here
rag-support-toolkit
FAISS-based RAG utility library
mlx-augllm
('A library for augmenting large language models using MLX',)