A simplified implementation of BERT
Project description
MiniBert
Un modèle dérivé de Bert, simplifié à l'extrême puisque le modèle n'est constitué que d'une couche d'attention.
Dépendances
pip install -r requirements.txt
## Entrainement
python train_semeval
Le script va entrainer un modèle sur le corpus SemEval et enregistrer ses performances dans le dossier runs.
tensorboard --logdir=runs
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
minibert-0.2.2.tar.gz
(6.8 kB
view hashes)
