HELM — explications adaptées au profil

HELM (helm-xai) est une bibliothèque Python d’explicabilité pour la classification de textes, en particulier la modération de contenus. Elle propose des explications adaptées aux profils utilisateur, modérateur, expert technique et régulateur. Une extension expérimentale explique les prédictions de modèles entraînés sur des tableaux de variables numériques et catégorielles, notamment Random Forest, XGBoost et LightGBM, ainsi que les GLM binomiaux et GAM logistiques avec un adaptateur fourni par HELM.

Installation

Python 3.10 à 3.12. Pour installer la bibliothèque et son interface locale :

python -m pip install "helm-xai[ui]==0.2.0rc5"
helm-ui

Le navigateur ouvre http://127.0.0.1:8767/. Choisir un profil, saisir un commentaire et cliquer sur Expliquer. La wheel inclut l’interface ; Node.js n’est pas requis. Pour un autre port : helm-ui --port 8771. Arrêter le serveur avec Ctrl+C.

Le modèle de démonstration est entraîné sur 12 phrases synthétiques. Il permet d’essayer le parcours, mais ne constitue pas un détecteur de toxicité validé. L’interface utilise les poids des modèles de texte déjà présents dans le cache local ; elle ne les télécharge pas.

Utilisation Python

from helm import HELMPipeline, UserProfile
from helm.ui.models import DemoModel

pipeline = HELMPipeline(model_name="demo", model=DemoModel().load())
resultat = pipeline.explain(
    "Merci pour cette réponse utile",
    user_profile=UserProfile.END_USER,
    evaluate=True, num_features=8, evaluation_k=3,
)
print(resultat.prediction)
print(resultat.formatted_output.summary)

Le profil désigne le destinataire de l’explication ; il est choisi explicitement. HELM ne déduit pas le profil de la personne à partir de son commentaire.

Fonctionnalités

• Sélection et présentation d’explications par profil, avec backends effectivement exécutés identifiés.
• Attributions, règles locales et recherches de contrefactuels, selon les méthodes et dépendances disponibles.
• Interface locale avec historique, export JSON et avis liés à chaque explication individuelle.
• Extension TabularHELM : explications de prédictions individuelles, classement des scores élevés/faibles et sorties HTML par profil pour des données tabulaires.

Les analyses restent dans le dossier de données utilisateur helm-xai de la machine qui lance le serveur. helm-ui --data-dir ./mes-analyses permet de le changer.

Modèles tabulaires : compatibilité et périmètre

HELM explique un modèle déjà entraîné ; il ne l’entraîne pas à votre place.

Le modèle ou la Pipeline doit fournir predict, predict_proba et classes_, et accepter les DataFrames pandas transmis avec le même schéma et le même prétraitement qu’à l’entraînement. La classe à expliquer est choisie explicitement. Les modèles de régression, les objets XGBoost Booster bruts et les modèles Spark ML ne sont pas directement couverts par cet adaptateur.

Les tests couvrent les probabilités, les classements, SHAP/LIME et les quatre profils. Exemples et conditions précises.

Dépendances optionnelles

Pour un modèle de texte et ces explicateurs : python -m pip install "helm-xai[text,ig,anchors,notebook]==0.2.0rc5". Les poids des modèles sont à obtenir séparément, selon leurs licences.

Documentation et exemples

• API et fonctionnement
• Exemple tabulaire synthétique
• Développement et tests
• Notes de version

Périmètre et licence

Version candidate de recherche. Les tests logiciels vérifient les parcours et les calculs sur des cas contrôlés ; ils ne constituent pas une validation humaine. L’extension tabulaire est expérimentale et la compatibilité Databricks reste à vérifier sur le Runtime cible. L’interface locale n’est pas un service d’étude hébergé.

Les explications décrivent le comportement du modèle, sans établir de causalité. Les scores de méthodes différentes ne sont pas moyennés. Les métriques de fidélité ne mesurent pas la satisfaction des utilisateurs.

Code sous licence MIT. Les bibliothèques et modèles tiers conservent leurs licences respectives.