Ekşi Sözlük Scraper - AI-friendly output üreten terminal tabanlı scraper
Project description
eksisozluk-scraper
Terminal tabanlı Ekşi Sözlük scraper'ı. JSON, CSV ve Markdown çıktıları üretir; Gemini CLI ile özet/blog oluşturabilir.
Özellikler
- Tarih, entry sayısı ve özel filtreler uygulayabilme
- Referans verilen link ve YouTube transkript içeriğini toplama
- Rate limit, retry mekanizması
- Gemini CLI entegrasyonu (özet/blog/prompt)
Kurulum
- Debian: eksisozluk-scraper_2.0.0-1_all.deb
- RPM: eksisozluk-scraper-2.0.0-1.noarch.rpm
- AUR:
eksisozluk-scraper - Pip:
pip install eksisozluk-scraperveyapip install git+https://github.com/erenseymen/eksisozluk-scraper.git - Kaynaktan:
git clone ... && pip install -r requirements.txt && python eksisozluk_scraper.py "başlık"
Komut Örnekleri
# Temel kullanım
eksisozluk-scraper "başlık"
# Tarih/süre filtreleri
eksisozluk-scraper "başlık" --start 2024.01.01 --end 2024.02.01
eksisozluk-scraper "başlık" --days 1
# Entry ve içerik filtreleri
eksisozluk-scraper "başlık" --filter python --filter asyncio
eksisozluk-scraper "başlık" --filter-urls
eksisozluk-scraper "https://eksisozluk.com/entry/123456"
# Çıktı biçimleri
eksisozluk-scraper "başlık" --output sonuclar.json
eksisozluk-scraper "başlık" --output sonuclar.csv
eksisozluk-scraper "başlık" --output sonuclar.md
# Gelişmiş ayarlar
eksisozluk-scraper "başlık" --delay 2 --max-retries 5 --retry-delay 10 --no-bkz
Çıktı Yapısı
Her entry, entry_number, has_external_url ve referenced_content (entry/url/youtube detayları) alanlarıyla gelir. Harici linkler için trafilatura özetleri, YouTube için transkript ve kimlik bilgileri eklenir.
{
"title": "the beatles",
"entry_id": "123456",
"content": "...",
"referenced_content": [
{"type": "entry", "title": "john lennon", "entry_id": "654321"},
{"type": "youtube", "url": "https://youtu.be/abc123xyz78"}
]
}
Gemini CLI
- Kurulum: geminicli.com
- Özet:
eksisozluk-scraper "başlık" --ozet - Blog:
eksisozluk-scraper "başlık" --blog --months 1 - Özel prompt:
eksisozluk-scraper "başlık" --prompt "Analiz et" -o cikti.json - Flash modeli:
--ozet --flash
Notlar
- Rate limit ve retry mekanizması varsayılan olarak aktiftir.
- Gemini özellikleri için Gemini CLI kurulu ve giriş yapılmış olmalıdır.
Project details
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Filter files by name, interpreter, ABI, and platform.
If you're not sure about the file name format, learn more about wheel file names.
Copy a direct link to the current filters
File details
Details for the file eksisozluk_scraper-2.0.0.tar.gz.
File metadata
- Download URL: eksisozluk_scraper-2.0.0.tar.gz
- Upload date:
- Size: 33.8 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.12.3
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
1c10f09f02ee109691fb63424588a720b15808ed91f646f2040760955a377171
|
|
| MD5 |
e02190814d54bd721aae49a6c96381ba
|
|
| BLAKE2b-256 |
de8ff198099dd9eb088cfdb1c7c5b53013e53e7b1c1f6649329119d8e8d7f759
|
File details
Details for the file eksisozluk_scraper-2.0.0-py3-none-any.whl.
File metadata
- Download URL: eksisozluk_scraper-2.0.0-py3-none-any.whl
- Upload date:
- Size: 31.6 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.12.3
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
d6ae428624cbef2eb1954da2d452e99e718dfb4b585a6ec1181e90cfd6388f1c
|
|
| MD5 |
e5885090c29d079242a326fe5fd432e5
|
|
| BLAKE2b-256 |
802e60ecd1fdea93bada0df17182af59502cde72eb3925977c7cee27a3e04dc0
|