Formations sur l’IA et l’explicabilité

Les enjeux de l’explicabilité

Généralisation de cadres tels MRM, Mifid II, la prise en compte de l’explicabilité des IA en banques,  notamment en entrée des modèles Bâlois sera un succès si elle est transverse.
 Populations techniques, métiers et conformité doivent en saisir les enjeux, chacun à sa mesure

Contexte

Acteur très actif, et en pointe sur ces sujets (librairie interne d’explicabilité, participation active aux consultations du régulateur national -ACPR- ), BNPP souhaite sensibiliser ses collaborateurs aux nouveaux enjeux de l’IA.
Parmi eux : l’explicabilité.

Facteur clef pour la bonne adoption des projets d’IA (compréhension, UX), c’est également un point majeur à venir pour la conformité. Le régulateur demande l’explicabilité ajustée aux impacts / risques portés par les modèles de ML.

Illustration : Enjeux Clients-Citoyens, d’Entreprise (performance globale, dont adoption) et… pour le futur des IA

Activités réalisées

Pour tout type de population, plus ou moins avertie sur l’IA :

Sensibilisation aux enjeux
Présentations des différentes techniques d’explication utilisées couramment par les DS (PDP, SHAP, …) aux non-techniques
Pour les Data Scientists : présentation simple, et veille technologique sur les dernières évolutions
Illustration des différents types d’explication (locale, globale, et garanties de fonctionnement)
Cas d’usage, et positions des régulateurs
Enjeux de l’IA responsable (éthique, stabilité, robustesse, équité, gouvernance, etc…)

Résultat

Temps de montée en compétences et d’une respiration / prise de recul : pour revenir sur les fondements du Machine Learning, et ses difficultés intrinsèques de compréhension ! et assurer une veille réglementaire, technique, et marché.

Complément de formation aux excellents initiatives et process internes (Design Thinking, benchmark technique, méthodologie agile…)