Skip to main content

Phonémiseur neural du français — G2P + POS + Morpho + Liaison + Groupes de lecture (BiLSTM multi-tâche)

Project description

Lectura Phonemiseur

Phonemiseur neural du francais : G2P + POS + Morphologie + Liaison + Groupes de lecture

Anciennement lectura-g2p (pip) / lectura_nlp (import). Renomme lectura-phonemiseur / lectura_phonemiseur a partir de la v4.0.0.

Un seul modèle BiLSTM char-level multi-tête avec features lexicales (ONNX INT8) qui prédit simultanément :

  • G2P : transcription phonémique IPA (98.5% word accuracy)
  • POS : étiquetage morpho-syntaxique — 19 tags (98.5% accuracy)
  • Morphologie : genre, nombre, temps, mode, personne, forme verbale (96-99.8%)
  • Liaison : prédiction des liaisons obligatoires/facultatives (F1 90.6%)

Quatre backends d'inférence : ONNX Runtime, NumPy, pur Python (zéro dépendance), ou API serveur.

Démarrage rapide

Installation

pip install lectura-phonemiseur             # zéro dépendance (backend pur Python)
pip install lectura-phonemiseur[numpy]      # backend NumPy
pip install lectura-phonemiseur[onnx]       # backend ONNX Runtime (le plus rapide)

Utilisation rapide (factory — recommande)

from lectura_phonemiseur import creer_engine
from lectura_phonemiseur.tokeniseur import tokeniser

# Mode auto : utilise les modeles locaux si presents, sinon l'API
engine = creer_engine()

tokens = tokeniser("Les enfants sont arrives a la maison.")
result = engine.analyser(tokens)

print(result["g2p"])      # ['le', 'ɑ̃fɑ̃', 'sɔ̃', 'aʁive', 'a', 'la', 'mɛzɔ̃']
print(result["pos"])      # ['ART:def', 'NOM', 'AUX', 'VER', 'PRE', 'ART:def', 'NOM']
print(result["liaison"])  # ['Lz', 'none', 'Lt', 'none', 'none', 'none', 'none']
print(result["morpho"])   # {'Number': ['Plur', ...], 'Gender': [...], ...}

Modes disponibles : "auto" (defaut), "local", "api", "onnx", "numpy", "pure".

Mode API (zero config)

Sans modeles locaux, creer_engine() utilise automatiquement l'API Lectura :

engine = creer_engine()  # mode="auto" → API si pas de modeles locaux
# ou explicitement :
engine = creer_engine(mode="api", api_url="https://api.lec-tu-ra.com")

Variables d'environnement : LECTURA_API_URL, LECTURA_API_KEY.

Modeles locaux (licence commerciale)

Pour utiliser l'inference locale sans API, achetez les modeles sur https://www.lec-tu-ra.com/solutions/services/

Installez les modeles dans ~/.lectura/models/g2p/ :

mkdir -p ~/.lectura/models/g2p
cp unifie_v2_int8.onnx unifie_v2_vocab.json ~/.lectura/models/g2p/

Ou via variable d'environnement :

export LECTURA_MODELS_DIR=/path/to/models

creer_engine() detecte automatiquement les modeles locaux.

Poids NumPy / Pure Python (optionnel)

Les backends NumPy et Pure Python necessitent les poids JSON depuis GitHub :

curl -L -o unifie_v2_weights.json \
  https://github.com/maxcarriere/lectura-modules/raw/main/Phonemiseur/modeles_numpy/unifie_v2_weights.json
engine = creer_engine(mode="numpy")
result = engine.analyser(tokeniser("Bonjour le monde."))

Backends d'inférence

Backend Dépendances Vitesse Usage
API aucune ~100 ms/phrase Defaut (Niveau 1), zero config
ONNX Runtime onnxruntime ~2 ms/phrase Production locale
NumPy numpy ~50 ms/phrase Leger
Pur Python aucune ~200 ms/phrase Embarque, portabilite max

Les backends locaux (ONNX, NumPy, Pure) produisent des résultats identiques.

Features lexicales (optionnel)

Le modele V2 accepte en entree optionnelle un vecteur de 24 dimensions par mot, construit a partir d'un lexique de candidats POS. Cela ameliore la prediction POS, la morphologie et les liaisons.

Le lexique est detecte automatiquement si present dans le dossier modeles (lexique_pos_candidates.json), ou via le parametre lexicon_path de creer_engine(). Sans lexique, le modele fonctionne normalement (features = zeros).

# Avec lexique (automatique si disponible)
engine = creer_engine()

# Desactiver les features lexicales
result = engine.analyser(tokens, use_lex=False)

Benchmarks (dev set, modele V2 avec features lexicales)

Tâche Métrique Score
G2P Word Accuracy 98.5%
G2P PER (Phone Error Rate) 0.5%
POS Accuracy 98.5%
Liaison Macro F1 90.6%
Morpho — Number Accuracy 96.4%
Morpho — Gender Accuracy 98.3%
Morpho — VerbForm Accuracy 99.6%
Morpho — Mood Accuracy 99.8%
Morpho — Tense Accuracy 99.8%
Morpho — Person Accuracy 99.7%

Voir EVALUATION.md pour les résultats détaillés.

API

tokeniser(text) -> list[str]

Tokenise une phrase française (gestion apostrophes, ponctuation, contractions).

creer_engine(mode, models_dir, api_url, api_key, lexicon_path)

Factory pour creer un engine d'inference. Modes : "auto", "local", "api", "onnx", "numpy", "pure". models_dir permet de specifier le dossier des modeles (sinon cascade automatique).

engine.analyser(tokens, *, use_lex=True) -> dict

Analyse une liste de tokens et retourne un dictionnaire :

  • tokens : liste des tokens d'entrée
  • g2p : transcription IPA par token
  • pos : étiquette POS par token
  • liaison : label liaison par token (none, Lz, Lt, Ln, Lr, Lp)
  • morpho : dict de listes par trait (Number, Gender, VerbForm, Mood, Tense, Person)

Le parametre use_lex=False desactive les features lexicales (utile pour le benchmarking).

corriger_g2p(mot, ipa) -> str

Applique la table de corrections puis les règles (ex+consonne, ex+voyelle, yod).

appliquer_liaison(tokens, phones, liaisons) -> list[str]

Applique les consonnes de liaison entre tokens consécutifs.

Architecture du modèle (V2)

Phrase → Char Embedding (64d) → Shared BiLSTM (2×160h → 320d)
                                        │
                    ┌───────────────────┼───────────────────┐
                    ↓                                       ↓
              G2P Head (per-char)         Word repr (320d) + Lex Features (24d)
              Linear(320→40)                        │
                                          Word BiLSTM (128h → 256d)
                                                │
                                    ┌───┬───┬───┬───┬───┬───┬───┐
                                   POS Num Gen VF  Mood Tns Per Liaison
  • Entrée : séquence de caractères avec <BOS>, <SEP>, <EOS>
  • Lex Features : 24d par mot (21 POS one-hot + known + n_candidates + unambiguous)
  • G2P : prédiction par caractère avec labels _CONT (continuation)
  • Têtes mot : représentation mot = fwd[dernier_char] || bwd[premier_char] + lex_proj(24→24)

Limites connues

  • Le G2P est évalué en contexte phrastique ; la performance sur mots isolés hors-vocabulaire est plus basse (~92%)
  • La liaison Lp est très rare dans les données d'entraînement (F1 = 66.7%)
  • Les noms propres et néologismes peuvent produire des transcriptions approximatives
  • Le modèle ne gère pas les homographes contextuels complexes (ex: "fils" = /fis/ vs /fil/)

Licence

Ce module est distribue sous licence AGPL-3.0 (non commerciale) — voir LICENCE.txt.

Pour un usage commercial, contacter contact@lec-tu-ra.com.

Voir aussi ATTRIBUTION.md pour les credits.

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

lectura_phonemiseur-4.1.1.tar.gz (354.2 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

lectura_phonemiseur-4.1.1-py3-none-any.whl (355.2 kB view details)

Uploaded Python 3

File details

Details for the file lectura_phonemiseur-4.1.1.tar.gz.

File metadata

  • Download URL: lectura_phonemiseur-4.1.1.tar.gz
  • Upload date:
  • Size: 354.2 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.2.0 CPython/3.11.9

File hashes

Hashes for lectura_phonemiseur-4.1.1.tar.gz
Algorithm Hash digest
SHA256 98979f0036325ae1807e8552fb00c45099afa0fb5b02cb4f858628d74376675d
MD5 3c080f5a89be5e839f4f754133eb7daf
BLAKE2b-256 c78f90dc0c33567344a2a1e57cb9f9da702aa1a140e906b72a8756afe45d8dd2

See more details on using hashes here.

File details

Details for the file lectura_phonemiseur-4.1.1-py3-none-any.whl.

File metadata

File hashes

Hashes for lectura_phonemiseur-4.1.1-py3-none-any.whl
Algorithm Hash digest
SHA256 fa5860d19dbb33401ca3f123065e547d0032cd8ade66431d2ce850ac55cd2316
MD5 1f83b0e693cbad55e61b29c342f16e16
BLAKE2b-256 aef50ddc3e89984b1dbecd89e453bf95573dc00fc0261750f8bd0a58a316ea33

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page