Công cụ tải web novel từ Valvrare Team (Async, Web UI & Download Queue)
Project description
Valvrare Team Web Novel Scraper
Mô tả dự án
Valvrare Team Web Novel Scraper là một công cụ mạnh mẽ được tối ưu hóa để tải web novel từ Valvrare Team. Công cụ hỗ trợ xuất bản ra nhiều định dạng như EPUB, PDF, HTML, Markdown, và TXT với hiệu suất vượt trội nhờ kiến trúc bất đồng bộ (Asynchronous) và giao diện Web hiện đại.
Tính năng nổi bật
- Web Dashboard & CLI: Giao diện Web hiện đại hoặc terminal chuyên nghiệp với Rich — tùy bạn chọn.
- Xuất đa định dạng: EPUB (có mục lục Tập/Chương, ảnh bìa), PDF, HTML, Markdown, TXT, MP3 (AI TTS).
- Batch Import & Download Queue: Tải hàng loạt truyện với hàng đợi đa luồng, hỗ trợ pause/resume/cancel.
- Checkpoint & Resume: Tự động lưu tiến trình — nếu bị gián đoạn, tiếp tục từ chương cuối đã tải.
- Thư viện truyện: Theo dõi lịch sử tải, kiểm tra chương mới, quét thư mục hiện có.
- Hybrid Scraping: Fast Mode (SSR) + Reliable Mode (Playwright), tự động dừng nếu >30% chương thất bại.
- Session Capture: Vượt Cloudflare và nội dung yêu cầu đăng nhập bằng phiên trình duyệt thực.
Cài đặt
Cách đơn giản nhất là cài đặt trực tiếp từ PyPI:
pip install vvr-scraper
Sau khi cài đặt, bạn cần cài đặt trình duyệt cho Playwright:
playwright install chromium-headless-shell
Yêu cầu: Python 3.9 trở lên.
Khả năng tương thích:
- Linux: Đã test hoạt động tốt (KDE/openSUSE).
- Windows: Chưa test trực tiếp (nhưng có khả năng hoạt động tốt).
- macOS: Chưa test trực tiếp (nhưng sẽ hoạt động tốt vì Playwright hỗ trợ chính thức).
- Termux (Android): Không hoạt động (do Playwright không hỗ trợ).
- iOS: Không hoạt động (giống Android, do giới hạn môi trường không thể chạy Playwright).
Cách sử dụng
1. Chế độ Web (Khuyến nghị)
Khởi chạy giao diện điều khiển hiện đại trên trình duyệt:
vvrt web
Các tham số hỗ trợ:
--port: Cổng chạy server (mặc định: 8000).--host: Host chạy server (mặc định: 127.0.0.1).--no-browser: Không tự động mở trình duyệt.--workers WORKERS: Số lượng novel tải song song (mặc định: 1).
2. Chế độ tương tác (CLI)
Dành cho người thích làm việc trực tiếp tại terminal:
vvrt
3. Chế độ dòng lệnh (CLI nâng cao)
# Ví dụ: Tải cùng lúc nhiều truyện với định dạng EPUB, dùng 10 luồng tải
vvrt slug-truyen-1 slug-truyen-2 -f EPUB -g tatca -t 10 --verbose
4. Batch Import (Web UI)
Trên giao diện Web Dashboard, sử dụng chức năng Batch Import để nhập danh sách URL hoặc slug, mỗi dòng một truyện. Tất cả sẽ được thêm vào hàng đợi và tải lần lượt.
Xử lý Cloudflare và Đăng nhập
Dự án hỗ trợ chế độ Session Capture:
- Chạy lệnh với cờ
--login. - Một trình duyệt thực sẽ mở ra, bạn thực hiện đăng nhập hoặc giải Cloudflare.
- Khi thấy nội dung truyện hiện ra, quay lại terminal và nhấn Enter.
- Session sẽ được lưu vào
.vvr_session.jsonvà tự động sử dụng cho cả Web và CLI.
Lưu ý
- Font chữ: Font hỗ trợ tiếng Việt (DejaVuSans, NotoSerif) sẽ được tự động tải xuống khi xuất file PDF.
- Folder Picker: Trên Linux, tính năng "Browse" thư mục yêu cầu
zenity(mặc định trên GNOME) hoặckdialog(mặc định trên KDE), hoặcpython3-tk. - Thư viện truyện: Dữ liệu thư viện được lưu tại
vvr_library.db(SQLite). File này được tạo tự động khi khởi chạy Web Dashboard.
Giấy phép
Dự án được phát hành dưới Giấy phép MIT.
Liên hệ
- Email: notthanhtung@gmail.com
- Issue: GitHub repository issues
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Filter files by name, interpreter, ABI, and platform.
If you're not sure about the file name format, learn more about wheel file names.
Copy a direct link to the current filters
File details
Details for the file vvr_scraper-1.5.2.tar.gz.
File metadata
- Download URL: vvr_scraper-1.5.2.tar.gz
- Upload date:
- Size: 39.1 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.13.12
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
8cebb70b5e48ca00dc54fb1ab39ad7c4974a4b0185ad4671a18d75c71606348e
|
|
| MD5 |
6b3e183a8d031f1c4a447d27ccc4545a
|
|
| BLAKE2b-256 |
497b6d7e3c32a6c1032471e5798c34ecbaf8002abf987b391a31d3c9ee737d68
|
File details
Details for the file vvr_scraper-1.5.2-py3-none-any.whl.
File metadata
- Download URL: vvr_scraper-1.5.2-py3-none-any.whl
- Upload date:
- Size: 35.9 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.13.12
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
1354828c144b34f5beaf55040a4e199ea4ed3acfd2106db9cfc674763d19c31f
|
|
| MD5 |
f0369b8861ebc3040cfafed6d806aaab
|
|
| BLAKE2b-256 |
321f07c9f17dbe5417e07c4302210d0c1f8d882ff84293bf524d1521f9138daf
|