Institut multidisciplinaire d'intelligence artificielle

DESCRIPTION

Les méthodes d'IA produisent des résultats qui devraient avoir un impact direct sur les décisions ou les prédictions concernant les personnes dans de multiples domaines sensibles tels que la justice, les soins de santé, la finance, la conduite autonome et la défense. Deux axes de recherche importants, qui peuvent être combinés, se dégagent : d'une part, s'assurer que l'IA est fiable (que ce soit par des méthodes a priori ou par un contrôle de l'exécution) et, d'autre part, faire en sorte que son fonctionnement soit explicable. En ce qui concerne la fiabilité, l'objectif est de développer des solutions intégrant des approches rigoureuses, basées sur des méthodes formelles, ainsi que sur l'ingénierie des données et des modèles, afin d'obtenir des garanties en matière de fiabilité (sécurité et transparence), d'efficacité (volume de données, qualité des données, consommation d'énergie de l'inférence des modèles...) et de robustesse (par rapport à des perturbations réalistes).

Par ailleurs, l'explicabilité, la transparence et la capacité de généralisation des modèles d'IA constituent des enjeux majeurs pour l'acceptabilité des systèmes d'IA fondée sur la confiance, qu'ils reposent sur des algorithmes d'apprentissage automatique ou sur des algorithmes de diagnostic, de recommandation, de vote, d'affectation ou de décision collective. L'objectif ici est de rendre compréhensibles les éléments pris en compte par le système d'IA lorsqu'il produit des résultats. Dans ce contexte, chaire cette chaire est de développer des méthodes d'IA fiables et/ou explicables liées (mais sans s'y limiter) aux domaines de recherche émergents suivants :

• Méthodes de surveillance de l'exécution
• Méthodes de vérification automatisée évolutive,
• Apprentissage des caractéristiques interprétables,
• Approximation (locale ou globale) des modèles à boîte noire par des modèles interprétables,
• Apprentissage par renforcement sûr/inverse
• Abstraction et généralisation,
• Calcul de l'importance des attributs pour la prise de décision ou la prédiction
• Modèles de causalité,
• Explications fondées sur des arguments,
• Évaluation et validation des explications,
• Convergence des approches basées sur l'apprentissage et sur les modèles,

La chaire à tous les types d'applications pertinentes, en mettant dans un premier temps l'accent sur l'IA appliquée aux systèmes cyber-physiques (par exemple dans la robotique, la conduite autonome ou les dispositifs médicaux).

ACTIVITÉS

Au cours des premiers mois d'existence de la chaire dans le prolongement de collaborations antérieures, nous avons travaillé sur plusieurs thèmes liés aux systèmes cyber-physiques intégrant des composants d'apprentissage automatique (CPS-ML), notamment :

• Surveillance de l'exécution avec et apprentissage de la logique temporelle des signaux (STL) : la STL est un langage formel permettant d'exprimer rigoureusement des propriétés impliquant une évolution temporelle. Il convient donc au contrôle des comportements des CPS-ML. Les propriétés STL dont il est démontré qu'elles sont satisfaites par un système peuvent être manipulées de différentes manières à des fins de test, de vérification et d'explication systématiques.
• Génération d'entrées uniformes avec contraintes temporelles : lors de la caractérisation du comportement d'une IA, un aspect crucial est son domaine d'opération, c'est-à-dire le domaine réel d'entrées dans lequel nous exigerions qu'elle se comporte correctement. La définition d'un tel domaine n'est pas triviale, en particulier lorsque le temps est impliqué, auquel cas la STL ou les automates temporisés peuvent être utilisés. La possibilité d'échantillonner uniformément le DO permet de tester les systèmes d'IA d'une manière plus efficace et plus rigoureuse.
• Apprentissage par imitation pour les systèmes de contrôle : pour les tâches complexes des systèmes de contrôle, il se peut qu'un contrôleur existe mais seulement pour des cas limités, ou à un coût de calcul élevé. L'apprentissage par imitation vise à concevoir un contrôleur en imitant son comportement à moindre coût et/ou en bénéficiant d'une meilleure généralisation. Dans ce travail, nous utilisons également STL pour définir et évaluer plus rigoureusement les objectifs de contrôle, et l'échantillonnage uniforme pour guider la génération de données utilisées de manière incrémentale dans le processus d'apprentissage.
• Apprentissage par renforcement sûr avec des objectifs complexes : L'apprentissage par renforcement est un type de synthèse de contrôle où la loi de contrôle est apprise par l'expérience. Les contrôleurs obtenus par RL peuvent accomplir des tâches complexes, mais leur convergence est difficile à prévoir et à expliquer. En utilisant la surveillance et nos outils de méthodes formelles, nous visons à améliorer notre compréhension des agents RL et à vérifier qu'ils satisfont à certaines exigences ou qu'ils s'y conforment.

En 2025, un poste de chercheur postdoctoral et une place de doctorant seront à pourvoir à partir de septembre ou avant, pour travailler sur ces thèmes ou d'autres liés à l'orientation thématique de la chaire.