Atelier « EXPLAIN’AI » (4ème édition) à EGC’2025 (Strasbourg) – GdR Madics, GT EGC, GT EXPLICON

L’atelier Explain’AI a pour ambition de rassembler largement tout chercheur investi dans la problématique de l’explicabilité ainsi que tout utilisateur concerné par sa pratique. Pour cette raison, il est co-organisé avec l’action HELP du GdR Madics et du GT EGC en partenariat avec le GT EXPLICON – Groupe de Travail Explicabilité et Confiance – GDR RADIA – CNRS.

Présentation de l’atelier Explain’AI

L’explicabilité dans le domaine de l’intelligence artificielle, et plus particulièrement en machine learning, est devenue aujourd’hui incontournable pour permettre à tout utilisateur de mieux prendre conscience et de mieux s’impliquer dans les décisions algorithmiques qui lui sont proposées. Les utilisateurs de domaine (médecine, finance, assurance, chimie …) profitent désormais de systèmes permettant de lever, en partie, le voile sur le problème bien connu de « boite noire ». Ces systèmes posent cependant de nouveaux défis afin de toujours mieux considérer ces utilisateurs finaux. En particulier, se posent aujourd’hui des questions impliquant de nombreuses disciplines et portant par exemple : sur la représentation de ces explications, le besoin de les contextualiser ou d’interagir, le raisonnement, de mesurer leur fiabilité, de les rendre plus éthiques, conformes aux contraintes juridiques, de les adapter aux compétences et connaissance des utilisateurs.

Le thème proposé pour cette année est “Les méthodes d’explicabilité au service des experts métiers”. Dans ce cadre, on pourra plus particulièrement s’intéresser aux questions suivantes :

• Quelle méthode choisir pour expliquer, dans quel cas, et pour quelle raison ? On s’intéressera ici à l’évaluation des méthodes d’explicabilité ou encore à leur comparaison ou leur classification automatique en familles de méthodes d’explications.
• Comment assurer la confiance dans un pipeline (ou modèle) de traitement de données par le biais des méthodes d’explicabilité ? Est-ce que la production d’exemples contrefactuels est suffisante ? Comment intégrer la connaissance experte et la confronter aux explications produites ?
• Comment permettre l’interaction de l’utilisateur avec les pipelines et les explications d’autre part ? Quels opérateurs d’exploration mettre en place ? Comment permettre la visualisation ou l’appropriation des explications par l’utilisateur final ?
• Quelles nouvelles formes d’explication envisager à l’avenir ? Faut-il envisager d’autres outils que des exemples (contrefactuels) ou des pondérations d’attributs pour expliquer un pipeline ou un modèle ? Est-ce que l’on explique un prétraitement ou un filtrage de données comme un modèle prédictif ?
• Comment permettre l’actionabilité des méthodes d’explications, c’est-à-dire leur utilisation pour améliorer les pipelines de prise de décision ?
• Quels retours d’expérience (réussites et échecs) de l’usage des méthodes d’explicabilité dans des cas d’usage particulier ?

Les sujets d’intérêt de l’atelier incluent (liste non-exhaustive) :

• Explication d’apprentissage automatique de bout en bout (pipeline)
• Evaluation et comparaison des méthodes d’explication
• Génération d’explication pour les modèles d’apprentissage automatique (supervisé, non-supervisé, renforcé, profond)
• Construction d’approches / modèles transparents ou auto-explicatifs
• Résumé, explication et visualisation de données (e.g., temporelles, multidimensionnelles)
• Analyse comparative et évaluation de performance des explications
• Détection de biais d’apprentissage et extraction de motifs causaux
• Applications de méthodes d’explicabilité à des cas pratiques
• Explications du dialogue itératif
• Interfaces homme-machine
• Explication de données, narration de données (data storytelling)
• Droit et éthique pour l’explicabilité

Dates importantes :
– Soumission des articles : 26 novembre 2024
– Notification aux auteurs :  13 décembre 2024
– Version finale des articles : 10 janvier 2025
– Journée de l’atelier : 28 janvier 2025

Comité d’organisation:

Moncef Garouani
Alexandre Chanson
Julien Aligon
Nicolas Labroche
Maëlle Moranges
Grégory Bourguin
Victoria Bourgeais