Skip to main content

Multi-level text augmentation library for NLP tasks

Project description

nlp_augmentation_library

nlp_augmentation_library — это современная библиотека для аугментации текстовых данных на нескольких уровнях: символном, словесном, синтаксическом и генеративном. Она предназначена для повышения качества моделей обработки естественного языка (NLP) путем расширения объема и разнообразия обучающих данных.


Возможности

  • CharAugmentor — аугментация на уровне символов: удаление, вставка, замена, перестановка, изменение регистра.
  • WordAugmentor — аугментация на уровне слов: удаление, вставка, синонимы, контекстная замена, морфологические преобразования, аббревиатуры, преобразование чисел.
  • TextAugmentor — синтаксическая аугментация: перестановка предложений, удаление поддеревьев, парафраз, суммаризация, обратный перевод, crossover.
  • Generator — генеративные методы на базе предобученных моделей Hugging Face.

Установка

Рекомендуется использовать Python версии 3.7 и выше.

pip install nlp_augmentation_library

pip install git+https://github.com/PrithivirajDamodaran/Parrot_Paraphraser.git
pip install https://github.com/explosion/spacy-models/releases/download/en_core_web_md-3.8.0/en_core_web_md-3.8.0-py3-none-any.whl
pip install https://github.com/explosion/spacy-models/releases/download/en_core_web_sm-3.8.0/en_core_web_sm-3.8.0-py3-none-any.whl
pip install torch==2.6.0+cu124 torchvision==0.21.0+cu124 torchaudio==2.6.0+cu124 --extra-index-url https://download.pytorch.org/whl/cu124
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

nlp_augmentation-1.0.4.tar.gz (3.3 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

nlp_augmentation-1.0.4-py3-none-any.whl (2.6 kB view details)

Uploaded Python 3

File details

Details for the file nlp_augmentation-1.0.4.tar.gz.

File metadata

  • Download URL: nlp_augmentation-1.0.4.tar.gz
  • Upload date:
  • Size: 3.3 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.10.0

File hashes

Hashes for nlp_augmentation-1.0.4.tar.gz
Algorithm Hash digest
SHA256 0c90ac60c9356b03120315dc123b95956a2b2685b98098af840d931727aeb689
MD5 03ab463e33a26f68a1bc142f162920ce
BLAKE2b-256 7cfc559f7f48bdfd1e352ec0e1fa3abc8c358e82d283ae164bd09891961fbe6a

See more details on using hashes here.

File details

Details for the file nlp_augmentation-1.0.4-py3-none-any.whl.

File metadata

File hashes

Hashes for nlp_augmentation-1.0.4-py3-none-any.whl
Algorithm Hash digest
SHA256 115735c6900ee0338b13358dc54efef341c704faf7a3323abe8e8629360249d8
MD5 5e0135548802c6954b7d10645a09b38a
BLAKE2b-256 3b02a0ff450240a97a4600f25a9fea142207c4556d464a77fb0645624ab30edd

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page