Modular Document AI Runtime for RAG and Markdown exports.
Project description
📄 Document AI Runtime
Un pipeline modulaire et extensible pour l'extraction de documents (OCR et Bureautique), conçu pour transformer des PDF, images et Word en formats structurés (Markdown et RAG).
Inspiré des capacités de solutions comme ABBYY, ce runtime repose sur une architecture de plugins indépendants manipulant un modèle de données canonique (DOM).
🚀 Fonctionnalités
- Multi-Formats natifs et VLM :
- Bureautique (Path B) : DOCX, XLSX (Excel), PPTX (PowerPoint) extraits nativement.
- PDF Hybride : Extrait le calque texte natif, et bascule automatiquement sur la vision IA (Ollama) pour les pages scannées.
- Forçage OCR (
force_ocr) : Possibilité de convertir toutes les pages d'un PDF en images pour forcer l'OCR par l'IA, ignorant le calque texte natif (idéal pour les PDF au texte corrompu). - Images (Path A) : JPG, PNG traités via Qwen2.5-VL (VLM) qui comprend le layout et génère du Markdown directement.
- Exports spécialisés :
markdown: Renvoie tout le document en une seule chaîne de caractères.markdown_by_page: Renvoie un dictionnaire{page_num: "markdown"}pour un traitement page par page (parfait pour le RAG).rag: JSON chunké avec métadonnées.
📦 Installation
1. Prérequis Python
Installer la bibliothèque et ses dépendances :
```bash
pip install doc-ai-runtime
(Dépendances : python-docx, openpyxl, python-pptx, PyMuPDF, Pillow, ollama)
- Dépendances Système : Ollama
Ce runtime utilise Ollama pour l'OCR et la vision.
Installez Ollama.
Téléchargez le modèle de vision Qwen :
ollama pull qwen2.5vl:7b
Assurez-vous que le serveur Ollama tourne en arrière-plan (ollama serve).
1 🏃 Utilisation
Interface en ligne de commande (CLI)
# Extraction standard (Markdown)
python main.py --file mon_document.pdf --export markdown
# Forcer l'OCR sur toutes les pages du PDF
python main.py --file mon_document.pdf --export markdown --force-ocr
# Récupérer le contenu page par page (Sauvegardé en JSON)
python main.py --file mon_document.pdf --export markdown_by_page
En tant que Bibliothèque Python
from src.core.pipeline.runner import PipelineRunner
runner = PipelineRunner()
# 1. PDF standard -> Export Markdown classique
md_text = runner.process("mon_document.pdf", export_mode="markdown")
# 2. PDF avec calque corrompu -> Forcer l'OCR VLM
md_text_forced = runner.process("mon_document.pdf", force_ocr=True)
# 3. Récupérer un dictionnaire page par page
pages_dict = runner.process("mon_document.pdf", export_mode="markdown_by_page")
print(pages_dict[1]) # Affiche le markdown de la page 1
🛠 Architecture
Le projet est construit autour de 4 piliers :
Le DOM (Document Object Model) : Des classes Python (Document, Page, Region, Block, Table, Cell) qui modélisent le document.
Les Interfaces : IDocumentLoader et IDocumentPlugin garantissent que tous les modules communiquent avec le même langage.
Les Plugins : Chaque étape (chargement, OCR) est un module interchangeable dans src/plugins/.
Le Pipeline Runner : L'orchestrateur qui détecte le type de fichier et exécute le bon chemin automatiquement.
🗂 Structure du dépôt
doc-ai-runtime/
├── src/
│ ├── core/ # Le cœur (DOM, Interfaces, Runner)
│ │ ├── dom/ # Modèles de données (Document, Page, Block...)
│ │ └── pipeline/ # Orchestrateur (runner.py)
│ ├── plugins/ # Les briques interchangeables
│ │ ├── loaders/ # ImageLoader, PdfLoader, DocxLoader, XlsxLoader, PptxLoader
│ │ └── ocr/ # QwenOCRPlugin (Ollama VLM)
│ └── exporters/ # MarkdownExporter, RagExporter
├── main.py # Interface CLI
└── README.md
Project details
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Filter files by name, interpreter, ABI, and platform.
If you're not sure about the file name format, learn more about wheel file names.
Copy a direct link to the current filters
File details
Details for the file doc_ai_runtime-0.4.0.tar.gz.
File metadata
- Download URL: doc_ai_runtime-0.4.0.tar.gz
- Upload date:
- Size: 15.2 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.12.6
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
bfa9c7f9d23a6489ea599978bac11fdd39dc910890da8ef20b923246092d59be
|
|
| MD5 |
2d2f09121e5897b9cbe0b3a3e398a756
|
|
| BLAKE2b-256 |
cad07fc66c468656bf9bf1e58e19170029551f88102c5833e01c429edb570d95
|
File details
Details for the file doc_ai_runtime-0.4.0-py3-none-any.whl.
File metadata
- Download URL: doc_ai_runtime-0.4.0-py3-none-any.whl
- Upload date:
- Size: 20.7 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.12.6
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
824b05338adedb5cc86e2fe4b65244d723857e09e84105079b6bf1bb78e85896
|
|
| MD5 |
bee401977c23668ef5b115d3e9f2f948
|
|
| BLAKE2b-256 |
47775eb9b98c9f3ea3cd615378dbc17b4a6c48473af487275e9ae4bf433bb230
|