Skip to main content

Multi-level text augmentation library for NLP tasks

Project description

nlp_augmentation_library

nlp_augmentation_library — это современная библиотека для аугментации текстовых данных на нескольких уровнях: символном, словесном, синтаксическом и генеративном. Она предназначена для повышения качества моделей обработки естественного языка (NLP) путем расширения объема и разнообразия обучающих данных.


Возможности

  • CharAugmentor — аугментация на уровне символов: удаление, вставка, замена, перестановка, изменение регистра.
  • WordAugmentor — аугментация на уровне слов: удаление, вставка, синонимы, контекстная замена, морфологические преобразования, аббревиатуры, преобразование чисел.
  • TextAugmentor — синтаксическая аугментация: перестановка предложений, удаление поддеревьев, парафраз, суммаризация, обратный перевод, crossover.
  • Generator — генеративные методы на базе предобученных моделей Hugging Face.

Установка

Рекомендуется использовать Python версии 3.7 и выше.

pip install nlp_augmentation_library

pip install git+https://github.com/PrithivirajDamodaran/Parrot_Paraphraser.git
pip install https://github.com/explosion/spacy-models/releases/download/en_core_web_md-3.8.0/en_core_web_md-3.8.0-py3-none-any.whl
pip install https://github.com/explosion/spacy-models/releases/download/en_core_web_sm-3.8.0/en_core_web_sm-3.8.0-py3-none-any.whl
pip install torch==2.6.0+cu124 torchvision==0.21.0+cu124 torchaudio==2.6.0+cu124 --extra-index-url https://download.pytorch.org/whl/cu124
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

nlp_augmentation-1.0.3.tar.gz (3.3 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

nlp_augmentation-1.0.3-py3-none-any.whl (2.6 kB view details)

Uploaded Python 3

File details

Details for the file nlp_augmentation-1.0.3.tar.gz.

File metadata

  • Download URL: nlp_augmentation-1.0.3.tar.gz
  • Upload date:
  • Size: 3.3 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.10.0

File hashes

Hashes for nlp_augmentation-1.0.3.tar.gz
Algorithm Hash digest
SHA256 8b4ebd54f3df537689159003a2909d9865f461f949396860e73acea96f336ef9
MD5 3064360e14dd87621a6d193966db856d
BLAKE2b-256 dc05b14be0319f30a7720c6187150c5b20f76f02da23590c5bf93e462e62cc6b

See more details on using hashes here.

File details

Details for the file nlp_augmentation-1.0.3-py3-none-any.whl.

File metadata

File hashes

Hashes for nlp_augmentation-1.0.3-py3-none-any.whl
Algorithm Hash digest
SHA256 c0836c3914301930c7fa82bb6ced529353fee7d13f0e3d3869ec7827c4654d55
MD5 045d2afbb227eac6abb979bb0d67460c
BLAKE2b-256 f4014c40e3131270200725cf0faed638f872f8cff4fa2e86cc8f11644a0e3610

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page