Étude de cas : Xpdeep – Réconcilier performance et explicabilité dans le deep learning

Contexte et problématique

Le deep learning a révolutionné de nombreux secteurs grâce à ses performances exceptionnelles. Cependant, la complexité de ces modèles les rend souvent opaques, ce qui pose des problèmes de confiance, de conformité réglementaire et d’adoption, notamment dans des domaines sensibles comme la santé, la finance ou la défense. Les méthodes d’explicabilité post-hoc, telles que LIME ou SHAP, tentent d’apporter des éclaircissements, mais elles restent limitées car elles interviennent après l’entraînement du modèle et ne fournissent qu’une compréhension partielle de son fonctionnement.

Présentation de la solution Xpdeep

Fondée en avril 2023 par Ahlame Douzal, chercheuse au Laboratoire d’informatique de Grenoble (LIG), et Stanislas Chesnais, entrepreneur, la start-up Xpdeep propose une approche innovante : un framework de deep learning auto-explicable par conception. Contrairement aux méthodes post-hoc, Xpdeep intègre l’explicabilité dès la phase de conception du modèle, offrant ainsi une transparence native sans compromettre les performances.

Cette technologie permet de générer simultanément un modèle de deep learning et ses explications complètes, précises et intelligibles. Elle fournit aux data scientists des outils pour comprendre, optimiser et expliquer le modèle, répondant ainsi aux objectifs et contraintes métiers.

« Xpdeep transforme l’intelligence artificielle en un véritable levier opérationnel pour l’entreprise : des modèles de deep learning enfin explicables, gouvernables et optimisables, pour une IA de confiance, certifiable et réellement actionnable. »

Stanislas Chesnais
CEO and co-founder

Fonctionnalités clés de Xpdeep

1. Modèles auto-explicables par conception : Xpdeep permet de concevoir des modèles de deep learning dont le fonctionnement est transparent dès le départ, facilitant ainsi leur compréhension et leur adoption.
2. Explications détaillées : Le framework fournit deux types d’explications :
   • Explications du fonctionnement du modèle : elles offrent une vue d’ensemble des décisions prises par le modèle, illustrées par un graphe décisionnel.
   • Explications causales des inférences : elles identifient les facteurs ayant influencé les prédictions, que ce soit pour un individu ou un groupe.
3. Compatibilité étendue : Xpdeep est compatible avec diverses architectures de deep learning (CNN, LSTM, Transformer, etc.) et types de données (tableaux, séries temporelles, images, textes). Il s’intègre facilement avec PyTorch via des API dédiées.
4. Visualisation interactive avec XpViz : Ce module permet de visualiser le cheminement des décisions du modèle, d’identifier les sources d’erreurs ou d’instabilités, et d’ajuster la complexité du modèle en fonction des besoins métiers.

Cas d’application : détection d’activités humaines

Un exemple concret de l’efficacité de XPDeep est son application à la reconnaissance d’activités humaines à partir de séries temporelles multivariées.

Stanislas Chesnais indique que dans une étude impliquant 20 000 individus équipés de capteurs, XPDeep a atteint un taux de réussite de

Avantages pour les entreprises

• Conformité réglementaire : Xpdeep facilite le respect des réglementations strictes telles que le RGPD ou l’AI Act en offrant une transparence sur le fonctionnement des modèles.
• Confiance accrue : La transparence native des modèles renforce la confiance des utilisateurs finaux et des parties prenantes.
• Optimisation des modèles : Les explications fournies permettent d’identifier et de corriger rapidement les biais, erreurs ou sur-ajustements, améliorant ainsi la performance globale.
• Réduction des risques : En comprenant mieux les décisions du modèle, les entreprises peuvent mieux gérer les risques juridiques et financiers associés à l’utilisation de l’IA.

Unicité de la technologie XPDeep

XPDeep se distingue par son approche unique d’intégration de l’explicabilité dès la conception du modèle, ce qui en fait le premier et seul framework de deep learning auto-explicable au monde. Cette innovation est protégée par des brevets et a été reconnue par des institutions telles que le programme Confiance.ai et le concours d’innovation i-Lab.

Contrairement aux méthodes post-hoc, Xpdeep offre des explications fiables et robustes, applicables à la fois au niveau individuel et global, sans augmenter la complexité du modèle ni compromettre ses performances.

Conclusion

La technologie XPDeep représente une avancée majeure dans le domaine du deep learning, en conciliant performance et explicabilité. Elle répond aux besoins croissants de transparence, de conformité et de confiance dans l’utilisation de l’IA, tout en offrant des outils puissants pour l’optimisation des modèles.

Son approche unique et ses résultats probants en font une solution incontournable pour les entreprises souhaitant adopter une IA responsable et performante.

Pour en savoir plus sur XPDeep et découvrir comment cette technologie peut transformer vos projets d’IA, visitez leur site officiel : https://xpdeep.com/en/

Sources :