llm-secure-cli 1.0.3

A Unified Command-Line Interface for Multiple LLMs

llm-cli: A Unified Terminal Interface for Multiple LLMs

llm-cli is a high-assurance command-line tool designed for interacting with Large Language Models (LLMs). It provides a unified, stable interface for Gemini, OpenAI, Claude, xAI, and local models via Ollama, prioritizing cognitive focus, secure execution, and extensible automation.

[English] | 日本語

---

🚀 Quick Start

1. Install:

   # Recommended: Install from PyPI
   pip install llm-secure-cli
   
   # Alternatively, install from source
   git clone https://github.com/yosh95/llm-cli.git
   cd llm-cli
   pip install .
   

2. Set API Keys: llm-cli requires API keys to be set as environment variables.

   export GEMINI_API_KEY="your-api-key"
   # Supported: OPENAI_API_KEY, ANTHROPIC_API_KEY, XAI_API_KEY, OLLAMA_API_KEY, BRAVE_SEARCH_API_KEY
   

3. Chat: Type llm-cli to start an interactive session.
   • Config-less usage: If the API key is set, the tool is ready to use immediately without a config.toml.
4. Configure (Optional): To customize behavior or add MCP servers, run:

   llm-cli --init-config
   # Edit ~/.llm_cli/config.toml to modify settings.
   

5. Help: Type /help inside the chat to see all commands.

One-Shot Examples

# Ask a question using the default provider (Gemini)
llm-cli "What is the capital of France?"

# Use a specific provider and model
llm-cli -p anthropic -m sonnet "Explain quantum computing"

# Analyze a local file or a URL
llm-cli "Summarize this PDF" ./document.pdf
llm-cli "Analyze this website" https://example.com

✨ Core Features (Product Ready)

• Unified Provider Access: Seamlessly switch between Google (Gemini), OpenAI, Anthropic (Claude), xAI (Grok), and Local LLMs (Ollama).
• Autonomous Agent: Let the AI manage files, execute Python code (replacing risky shell commands), and search the web.
• Config-free Execution: Start using immediately by just providing an environment variable.
• MCP (Model Context Protocol) Support: Connect to remote resources or services via custom servers.
• Multimodal capabilities: Support for Images, PDFs, Audio, and Video.
• Operational Stability: A clean, flicker-free UI designed for long-term "Deep Work" sessions and SSH-based environments.
• Human-in-the-Loop: All critical actions (file edits, code execution) require explicit human approval by default.

🤖 Autonomous Agent & Tool Use

The AI agent autonomously uses tools to perform complex tasks, such as file management, web search, and Python execution.

---

🛡️ Security & Governance (High-Assurance Framework)

As a tool designed with CISSP/CISA/CCSP principles and EU AI Act compliance in mind, llm-cli implements a multi-layered security architecture to mitigate the risks associated with autonomous AI agents.

1. Zero Trust & Access Control (ABAC)

llm-cli implements Attribute-Based Access Control (ABAC), providing granular security based on execution context and resource attributes.

• Risk-based Scaling: Security requirements automatically scale based on the tool's risk level (HIGH/MEDIUM/LOW).
• Identity Proof: High-risk actions (e.g., Python execution) require a valid PQC-signed identity.
• Path Guardrails: Tools are restricted by path attributes (defaulting to the current directory).
• Explanation Enforcement: Every tool mandates an explanation parameter, forcing the LLM to justify its intent.

2. Identity & Non-Repudiation (Post-Quantum Ready)

• Hybrid Identity Tokens: Uses COSE (RFC 9052) binary structures combining RS256 with Post-Quantum Cryptography (ML-DSA) to sign tool execution requests, ensuring long-term non-repudiation.
• Client Integrity Attestation: The client generates a signed manifest of its own source code state to prove the integrity of the execution environment.
• Bi-directional Verification: Tool results are signed by the client, allowing the LLM to verify that the observations it receives are authentic and untampered.

3. Observability & Anomaly Detection

• Reasoning Sentinel (SSM-based): A built-in Mamba (State Space Model) implementation monitors the LLM's reasoning tokens in real-time. It detects statistical anomalies that may indicate prompt injection or "model hallucination" leading to risky behavior.
• Tamper-Evident Audit Logs: Audit trails are protected using Chained Hashing and optionally encrypted with ML-KEM (Kyber) for confidentiality.
• Merkle Tree Anchoring: Log batches are anchored via Merkle Roots to prevent historical revisionism.

---

📖 Advanced Commands & Power User Tips

Inside the llm-cli interactive session:

• /help: Display all available commands.
• /p <provider> / /m <model>: Switch the AI engine on the fly.
• /attach <path/URL>: Add a file or website content to the context.
• /tools on|off: Enable/disable autonomous tool use.
• /i: Show session integrity and Reasoning Sentinel (anomaly) scores.
• /save / /load: Manage conversation history.
• /cp: Checkpoint (Summarize and clear history).
• /mcp: Toggle or manage MCP server integrations.

💡 Power User Tips

• Backgrounding (Ctrl+Z): Suspend the session to perform shell operations, then use fg to return.
• External Editor (Ctrl+X, Ctrl+E): Open the current prompt in your default editor (vim, nano, etc.) for complex editing.
• Templates: Define reusable prompts in ~/.llm_cli/config.toml and call them with /t <name>.

🔑 Security Management

Use the llm-cli-security tool to manage your cryptographic identity:

llm-cli-security keygen     # Generate RSA and PQC (ML-DSA/ML-KEM) keys
llm-cli-security manifest   # Rebuild integrity manifest for remote attestation
llm-cli-security decrypt-log ~/.llm_cli/audit.jsonl -o decrypted.jsonl

📜 License

Licensed under Apache License 2.0.

For detailed architectural insights and the academic background of our security framework, please refer to the Technical Report (Pre-print).

---

llm-cli: 複数LLM対応 統合コマンドラインインターフェース

llm-cli は、Gemini, OpenAI, Claude, Grok、および Ollama を介したローカルLLMを一元的に操作できる、高い安全性を備えたCLIツールです。開発者の「深い集中（Deep Work）」を妨げない安定した対話環境と、プロフェッショナルな要求に応える高度なセキュリティ機能を両立しています。

🚀 クイックスタート

1. インストール:

   # 推奨: PyPIからインストール
   pip install llm-secure-cli
   
   # あるいはソースからインストール
   git clone https://github.com/yosh95/llm-cli.git
   cd llm-cli
   pip install .
   

2. APIキーの設定: APIキーを環境変数として設定します。

   export GEMINI_API_KEY="your-api-key"
   # 対応: OPENAI_API_KEY, ANTHROPIC_API_KEY, XAI_API_KEY, OLLAMA_API_KEY, BRAVE_SEARCH_API_KEY
   

3. 対話開始: llm-cli コマンドでスタート。
   • 設定ファイル不要: APIキーさえ設定されていれば、config.toml なしですぐに利用可能です。
4. 詳細設定 (任意): MCPサーバーの追加や動作のカスタマイズを行いたい場合は、以下のコマンドを実行します。

   llm-cli --init-config
   # ~/.llm_cli/config.toml を編集して設定を調整してください。
   

5. ヘルプ: チャット内で /help と入力するとコマンド一覧が表示されます。

✨ 主な機能 (実用ツールとして)

• 統合インターフェース: llm-cli コマンド一つで主要なクラウドLLMと Ollama (Local) にアクセス。
• 自律型エージェント: ファイル操作、Python実行、Web検索、URL解析をAIが自律的に実行。
• 設定不要の即時利用: 環境変数を設定するだけで、セットアップの手間なく利用可能。
• MCP (Model Context Protocol) 対応: リモートサーバーや外部サービスとの連携をサポート。
• マルチモーダル対応: 画像、PDF、音声、動画の入力をサポート。画像・動画の生成も可能。
• 集中力を削がないUI: 画面のちらつきを抑え、SSH越しでも安定して動作するクリーンなターミナル出力。

🤖 自律型エージェントのツール実行

AIがファイル操作、Web検索、Python実行などのツールを自律的に使用し、複雑なタスクを遂行します。

🛡️ セキュリティとガバナンス (プロフェッショナル向け)

本ツールは CISSP/CISA/CCSP の各ドメインにおける管理策、および EU AI Act（欧州AI法） の技術的要件を意識して設計されています。

1. 属性ベースアクセス制御 (ABAC)

llm-cli は、実行コンテキストとリソース属性に基づいた 属性ベースアクセス制御 (ABAC) を採用し、高度に粒度の細かいセキュリティを実現しています。

• リスクベース・スケーリング: ツールのリスクレベル（HIGH/MEDIUM/LOW）に応じて、要求されるセキュリティ強度が自動的に変化します。
• アイデンティティ証明: 高リスクな操作（Python実行など）には、耐量子暗号 (PQC) による署名付き証明が必要です。
• パス・ガードレール: 操作可能な範囲を属性（ディレクトリ・パスなど）で制限します。

2. アイデンティティと非否認性 (耐量子暗号)

• ハイブリッド署名: COSE (RFC 9052) を採用し、RS256 と 耐量子暗号 (ML-DSA) を組み合わせ、ツール実行リクエストの正当性をバイナリレベルで長期的に保証（非否認性）。
• 完全性検証: クライアント自身のソースコードの状態を署名付きマニフェストで証明し、実行環境の健全性を担保。

3. 観測可能性と異常検知

• 推論異常モニタ (Reasoning Sentinel): Mamba (SSM) の実装により、LLMの推論プロセスをリアルタイム監視。プロンプトインジェクション等による統計的異常を検知。
• 改ざん防止監査ログ: ハッシュ連鎖（Chained Hashing）によるログ保護と、ML-KEM (Kyber) による機密性保護。

💡 パワーユーザー向け機能

• 一時中断 (Ctrl+Z): セッションをバックグラウンドに送り、シェルに戻る。fg で復帰可能。
• 外部エディタ編集 (Ctrl+X, Ctrl+E): プロンプト入力を vim や nano で編集。
• テンプレート: 頻繁に使うプロンプトを ~/.llm_cli/config.toml に定義し、/t <名前> で呼び出し。

---

📜 ライセンス

Apache License 2.0 に基づき公開されています。技術的な詳細については テクニカルレポート を参照してください。