Skip to main content

AI paper discovery, translation, summarization & knowledge linking pipeline

Project description

Knowledge Hub

AI 논문을 자동으로 검색, 다운로드, 번역, 요약하고 Obsidian과 연결하는 CLI 파이프라인 도구입니다.

Features

  • 논문 자동 발견 - Semantic Scholar + arXiv에서 최신/중요 논문 검색
  • 벡터DB 중복 체크 - ChromaDB + SQLite로 이미 수집된 논문 자동 건너뜀
  • 플러그인 AI 프로바이더 - OpenAI, Anthropic, Google, Ollama, OpenAI-Compatible(DeepSeek/Groq 등) 자유롭게 교체
  • 한국어 번역/요약 - 원하는 AI로 논문 번역 및 심층 요약 생성
  • Obsidian 연결 - vault에 논문 요약 노트 자동 생성, 관련 노트 [[링크]] 삽입
  • 벡터 검색 + RAG - 수집된 논문/노트에서 시맨틱 검색 및 질의응답
  • 학술 탐색 - 저자 검색, 인용 네트워크 분석, 참고문헌 탐색
  • MCP 서버 - Cursor/Claude Code에서 모든 기능을 에이전트 도구로 사용 가능

Quick Start

# 설치 (최소)
pip install -e .

# OpenAI 사용 시
pip install -e ".[openai]"

# Ollama(로컬) 사용 시
pip install -e ".[ollama]"

# 전체 프로바이더
pip install -e ".[all]"

최소 데모 흐름

# 1. 초기 설정 (프로바이더/API키/경로 설정)
khub init

# 2. 시스템 상태 확인
khub status

# 3. 논문 검색 + 수집 (Semantic Scholar → 다운로드 → 번역 → 요약 → Obsidian)
khub discover "large language model agent" -n 3

# 4. 수집 결과 확인
khub paper list

# 5. 벡터 인덱싱
khub index

# 6. 벡터 검색
khub search "attention mechanism"

# 7. RAG 질의
khub ask "Transformer의 핵심 아이디어는?"

# 8. 학술 탐색
khub explore author "Yoshua Bengio"
khub explore paper 1706.03762
khub explore citations 1706.03762

Installation

기본 설치 (PyPI 미등록 시 로컬 설치)

git clone https://github.com/chowonje/knowledge-hub.git
cd knowledge-hub
pip install -e ".[openai]"

프로바이더별 설치

# OpenAI만 사용
pip install -e ".[openai]"

# Ollama(로컬) + OpenAI
pip install -e ".[ollama,openai]"

# 전체 프로바이더
pip install -e ".[all]"

사전 조건

구성 요소 필수 여부 설명
Python >= 3.10 필수 런타임
API 키 (하나 이상) 필수 OpenAI, Anthropic, Google 중 택 1
Ollama 선택 로컬 LLM/임베딩 사용 시
Obsidian 선택 지식 그래프 연결, 노트 생성 시

Configuration

인터랙티브 설정

khub init

번역/요약/임베딩에 사용할 AI 프로바이더, API 키, 저장 경로 등을 대화형으로 설정합니다. 설정은 ~/.khub/config.yaml에 저장됩니다.

설정 관리

# 전체 설정 보기
khub config list

# 개별 설정 변경
khub config set translation.provider openai
khub config set translation.model gpt-4o-mini
khub config set summarization.provider ollama
khub config set summarization.model qwen2.5:14b

# 사용 가능한 프로바이더 + 모델 확인
khub config providers --models

설정 파일 예시 (~/.khub/config.yaml)

translation:
  provider: openai
  model: gpt-4o-mini

summarization:
  provider: ollama
  model: qwen2.5:14b

embedding:
  provider: ollama
  model: nomic-embed-text

storage:
  papers_dir: ~/.khub/papers
  vector_db: ~/.khub/chroma_db
  sqlite: ~/.khub/knowledge.db

obsidian:
  enabled: true
  vault_path: /path/to/your/obsidian/vault

providers:
  openai:
    api_key: ${OPENAI_API_KEY}
  ollama:
    base_url: http://localhost:11434

AI Providers

프로바이더 LLM Embedding 로컬 설치
OpenAI GPT-4o, 4o-mini, o1, o3, 4.1-nano text-embedding-3-small/large - [openai]
Anthropic Claude Opus 4, Sonnet 4, 3.5 Sonnet - - [anthropic]
Google Gemini 2.0 Flash/Pro/Lite text-embedding-004 - [google]
Ollama Qwen3, Llama4, Gemma3, DeepSeek-R1 등 nomic-embed-text, bge-m3, snowflake O [ollama]
OpenAI-Compatible DeepSeek, Groq, Together AI, Mistral 등 서비스별 지원 - 추가 의존성 없음

용도별로 다른 프로바이더를 조합할 수 있습니다:

  • 번역: OpenAI GPT-4o-mini (저렴, 고품질)
  • 요약: Ollama qwen2.5:14b (무료, 로컬)
  • 임베딩: Ollama nomic-embed-text (무료, 로컬)

Commands

khub discover - 핵심 파이프라인

# 기본 사용
khub discover "topic" -n 5

# 연도 필터 + 인용수 필터
khub discover "RAG retrieval augmented generation" --year 2024 --min-citations 10

# 인용수 기준 정렬
khub discover "transformer" --sort citationCount -n 10

# Obsidian 노트 생성 포함
khub discover "AI agent" --obsidian

khub paper - 개별 논문 관리

khub paper list                          # 목록
khub paper info 2401.12345               # 상세 정보
khub paper download 2401.12345           # 다운로드
khub paper translate 2401.12345          # 번역
khub paper summarize 2401.12345          # 요약
khub paper translate 2401.12345 -p anthropic -m claude-3-5-haiku-20241022
khub paper sync-keywords                 # 키워드 추출 + 개념 연결
khub paper build-concepts                # 개념 노트 자동 생성
khub paper normalize-concepts            # 동의어/약어 정규화

khub explore - 학술 탐색

khub explore author "Yoshua Bengio"      # 저자 검색
khub explore author-papers <author_id>   # 저자 논문 목록
khub explore paper 1706.03762            # 논문 상세 정보
khub explore citations 1706.03762        # 인용 논문 목록
khub explore references 1706.03762       # 참고 논문 목록
khub explore network 1706.03762          # 인용 네트워크 분석
khub explore batch 1706.03762 2301.10226 # 배치 조회

khub search / khub ask - 검색 & RAG

khub search "attention mechanism" -k 10  # 벡터 검색
khub ask "RAG의 장단점을 설명해줘"         # RAG 질의

khub index - 벡터 인덱싱

khub index                               # 미인덱싱 논문 + 개념 인덱싱
khub index --all                         # 전체 재인덱싱
khub index --concepts-only               # 개념 노트만

khub notebook - 지식 노트

khub notebook list                       # 노트 목록
khub notebook show <id>                  # 노트 상세

khub graph - 지식 그래프

khub graph stats                         # 그래프 통계
khub graph show <id>                     # 노트 연결
khub graph isolated                      # 고립 노트

명령별 필수 의존성

명령 LLM 필요 임베딩 필요 Obsidian 필요 API 키
khub discover O (번역/요약) O (인덱싱) 선택 프로바이더에 따라
khub paper list/info - - - -
khub paper translate O - - 프로바이더에 따라
khub paper summarize O - - 프로바이더에 따라
khub index - O 선택(개념 노트) 프로바이더에 따라
khub search/ask O (ask만) O - 프로바이더에 따라
khub explore * - - - - (Semantic Scholar 무료)
khub paper sync-keywords O - O 프로바이더에 따라
khub paper build-concepts O - O 프로바이더에 따라
khub status - - - -

MCP 서버

Cursor / Claude Code에서 khub 기능을 에이전트 도구로 사용:

# MCP 서버 시작
khub-mcp

~/.cursor/mcp.json 또는 에이전트 설정에 추가하면 됩니다.

Troubleshooting

증상 원인 해결
ModuleNotFoundError: ollama ollama extra 미설치 pip install -e ".[ollama]" 또는 다른 프로바이더로 변경
khub search 실패 임베딩 프로바이더 미설정 khub init → 임베딩 프로바이더 선택
OPENAI_API_KEY 오류 환경변수 미설정 export OPENAI_API_KEY=sk-... 또는 .env 파일 생성
Obsidian 관련 명령 실패 vault 경로 미설정 khub config set obsidian.vault_path /path/to/vault
인덱싱 0건 논문 미수집 khub discover "topic" -n 3 먼저 실행

License

MIT

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

knowledge_hub_cli-0.1.4.tar.gz (110.6 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

knowledge_hub_cli-0.1.4-py3-none-any.whl (126.9 kB view details)

Uploaded Python 3

File details

Details for the file knowledge_hub_cli-0.1.4.tar.gz.

File metadata

  • Download URL: knowledge_hub_cli-0.1.4.tar.gz
  • Upload date:
  • Size: 110.6 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.13.7

File hashes

Hashes for knowledge_hub_cli-0.1.4.tar.gz
Algorithm Hash digest
SHA256 f92f02f4434573d06252e3f7f54103001d09275cb0c6e7a0348af18ac2ca7785
MD5 a2420339ca23955b67459b4d63ceb5f3
BLAKE2b-256 11d9c73f8ab722d6d55ad83ad95961f1f661377695fee83c6266132b2e446d07

See more details on using hashes here.

File details

Details for the file knowledge_hub_cli-0.1.4-py3-none-any.whl.

File metadata

File hashes

Hashes for knowledge_hub_cli-0.1.4-py3-none-any.whl
Algorithm Hash digest
SHA256 0b86cc27269778b302acf7a864ab2098bbe6d4812d6b2721e4e55ad0d927874f
MD5 547e55b42baa4b22ff5b1d317fb2af3b
BLAKE2b-256 b5ef4191b4283f2e685ee7ea42112317e91ea1a5d6285532c11aa1ded73ae2d6

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page