Skip to main content

Automate downloads using predefined sites and the My-JDownloader-API

Project description

FeedCrawler

FeedCrawler automatisiert bequem das Hinzufügen von Links für den JDownloader.

GitHub Workflow Status GitHub stars GitHub all releases

PyPI PyPI - Downloads

Docker Image Version (latest semver) Docker Pulls

GitHub license Python 3 Backend Vue.js 3 Frontend GitHub last commit GitHub commit activity Lines of code

GitHub Sponsorship Discord GitHub issues


Installation

Manuelle Installation

Voraussetzungen

Installation / Update durch pip

pip install -U feedcrawler

Lokaler Build

Benötigt Node.js, npm und pip:

  1. Frontend-Pfad aufrufen: cd feedcrawler/web_interface/vuejs_frontend
  2. Dependencies installieren: npm ci
  3. Vue.js 3 Frontend kompilieren: npm run build
  4. Zurück in das Hauptverzeichnis wechseln: cd ../../..
  5. FeedCrawler auf Basis der setup.py installieren: pip install .

Start

feedcrawler in der Konsole (Python muss im System-PATH hinterlegt sein)

Docker Image

docker run -d \
  --name="FeedCrawler" \
  -p port:9090 \
  -v /path/to/config/:/config:rw \
  -e DELAY=30 \
  -e LOGLEVEL=[INFO/DEBUG] \
  --log-opt max-size=50m \
  rix1337/docker-feedcrawler
  • Der Betrieb als Docker-Container empfiehlt sich als Standardinstallation - vor allem für NAS-Systeme, Homeserver und sonstige Geräte die dauerhaft und möglichst wartungsfrei (headless) betrieben werden sollen.
  • Bei jedem Release wird ein getaggtes Image erstellt. Damit kann man auf der Wunschversion verbleiben oder im Falle eines Bugs zu einer stabilen Version zurück kehren.
  • Um immer auf dem aktuellen Stand zu sein, einfach das mit latest getaggte Image nutzen.
  • Für UNRAID-Server kann das Image direkt über die Community Applications bezogen und der Container so eingerichtet werden.
Spezifische Version nutzen

Das Image rix1377/docker-feedcrawler wird standardmäßig auf das :latest-Tag aufgelöst. Dieses wird mit jedem Release auf die neue Version aktualisiert. Mit jedem Release wird ebenfalls eine getaggte Version des Images erzeugt. Auf letztere kann man wechseln, um beispielsweise bei Fehlern in der neuen Version auf einen funktionierenden Stand zurück zu kehren.

Beispiel:

docker pull rix1337/docker-feedcrawler:13.3.7

Windows Build

  • Jedem Release wird eine selbstständig unter Windows lauffähige Version des FeedCrawlers beigefügt.
  • Hierfür müssen weder Python, noch die Zusatzpakete installiert werden.
  • Einfach die jeweilige Exe herunterladen und ausführen bzw. bei Updates die Exe ersetzen.

Hostnamen

FeedCrawler kann zum Durchsuchen beliebiger Webseiten verwendet werden. Welche das sind, entscheiden Anwender selbständig bei der Einrichtung. Es gilt dabei:

  • Welche Hostname aufgerufen werden entscheidet allein der Anwender.
  • Ist nicht mindestens ein Hostname gesetzt, wird der FeedCrawler nicht starten.
  • Passen Hostnamen nicht zum jeweiligen Suchmuster des FeedCrawlers, sind Fehlermeldungen möglich.

Startparameter

Parameter Erläuterung
--log-level=<LOGLEVEL> Legt fest, wie genau geloggt wird (INFO oder DEBUG)
--port=<PORT> Legt den Port des Webservers fest
--delay=<SEKUNDEN> Verzögere Suchlauf nach Start um ganze Zahl in Sekunden (optional)

Sicherheitshinweis

Der Webserver sollte nie ohne Absicherung im Internet freigegeben werden. Dazu lassen sich im Webinterface Nutzername und Passwort festlegen.

Es empfiehlt sich, zusätzlich einen Reverse-Proxy mit HTTPs-Zertifikat, bspw. kostenlos von letsencrypt, zu verwenden.

Credits

Project details


Release history Release notifications | RSS feed

Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

feedcrawler-21.0.8.tar.gz (747.3 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

feedcrawler-21.0.8-py3-none-any.whl (783.9 kB view details)

Uploaded Python 3

File details

Details for the file feedcrawler-21.0.8.tar.gz.

File metadata

  • Download URL: feedcrawler-21.0.8.tar.gz
  • Upload date:
  • Size: 747.3 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.12.3

File hashes

Hashes for feedcrawler-21.0.8.tar.gz
Algorithm Hash digest
SHA256 494cfaec274f785ffdd4734b0367aac4b9ea1732fd4475640dc471f78171bd41
MD5 83395b3300a84157b49f51aad51d86ab
BLAKE2b-256 8ec1de1f6a0d58fb2be22e658c8da56815b69e88f316e00b71eb1fd1e7132794

See more details on using hashes here.

File details

Details for the file feedcrawler-21.0.8-py3-none-any.whl.

File metadata

  • Download URL: feedcrawler-21.0.8-py3-none-any.whl
  • Upload date:
  • Size: 783.9 kB
  • Tags: Python 3
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.12.3

File hashes

Hashes for feedcrawler-21.0.8-py3-none-any.whl
Algorithm Hash digest
SHA256 7d97cc8958b43f975c18d38a4c782b892c1d9449e41035f90ff7c7e2e18a5cf1
MD5 3965e8fcdfddc10705cb89fe8b0b3afc
BLAKE2b-256 bc911373ba65ac06af88225fa49b44c7eac5696740b26e7845e40a5ff52ed2cc

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page