Institut multidisciplinaire d'intelligence artificielle

DESCRIPTION

Pour construire des systèmes d'intelligence artificielle plus fiables, nous étudions comment produire explications pour les résultats renvoyés par les systèmes d'IA et comment construire des algorithmes d'IA avec des garanties de qualité. équité et respect de la vie privéeL'utilisation de la technologie de l'information dans le cadre de tâches variées telles que la classification, la recommandation, l'allocation de ressources ou l'appariement.

ACTIVITÉS

Nos activités sont structurées par plusieurs travaux de doctorat co-encadrés par des membres de l'équipe en collaboration avec des partenaires académiques ou industriels : CEA LIST, Nokia Bell Labs, Naver Labs Europe, NUKKAI.
 

• Vulnérabilités en matière de confidentialité et de sécurité du Web sémantique (doctorat financé par la chaire)
• Publicités politiques – audit, détection et analyse d'impact (doctorat financé par la chaire)
• Transparence collaborative (doctorat financé par la chaire)
• Équité dans les plateformes de recommandation multipartites (doctorat Cifre avec Naver Labs Europe)
• Apprentissage de règles pour la vérification formelle des réseaux de neurones profonds (thèse financée par le CEA LIST)
• Prédiction des alarmes dans les réseaux de communication par l'apprentissage automatique explicable (doctorat Cifre avec Nokia Bell Labs)

Nous développons également des collaborations internationales, en particulier au sein du réseau d'excellence européen TAILOR sur l'IA digne de confiance, dans lequel nous avons lancé des actions de recherche coordonnées sur l'explicabilité, la confidentialité et l'équité.

Pour l'année académique 2021-2022, nous cofinançons avec TAILOR la délégation de Radu Ciucanu, qui travaille sur des protocoles sécurisés pour les algorithmes d'IA sur des données distribuées, par exemple l'apprentissage fédéré sécurisé.

chaire

• Table ronde "Is Deep Learning explainable" (Organisateurs : MC Rousset, G. Quénot - Panélistes : O. Goga, P.Muhlem). Journée scientifique du LIG - 15 octobre 2020.
   
• Table ronde "How to buid Trustable AI systems ?" (co-organisée avec P. Wieczoreck de Minalogic)- Les éclairages de l'IA " Model versus Data Validation ou comment avoir confiance dans l'IA ? "- 5 février 2021.
   
• « Contribution de la chaire "IA chaire et responsable" à l'IA digne de confiance », MC Rousset, réunion de lancement du WP3 « IA digne de confiance » du projet TAILOR. MC Rousset, 17 décembre 2020.
   
• Workshop "Explainable and Responsible AI" organisé en format hybride à Grenoble, avec des chercheurs invités du LABRI et de l'IRISA, 25 novembre 2021

LISTE SÉLECTIVE DE PUBLICATIONS

• R. Ciucanu, P. Lafourcade, G. Marcadet, M. Soare. SAMBA : Un cadre générique pour les Bandits Multi-Armés Fédérés et Sécurisés. Journal of Artificial Intelligence Research (JAIR) 2022
• R. Ciucanu, A. Delabrouille, P. Lafourcade, M. Soare. Protocoles sécurisés pour l'identification du meilleur bras dans les bandits multiarmés stochastiques fédérés. IEEE Transactions on Dependable and Secure Computing (TDSC) 2022
• R. Ciucanu, P. Lafourcade, M. Lombard-Platet, M. Soare. Protocoles sécurisés pour la maximisation de la récompense cumulative dans les bandits multiarmés stochastiques. Journal of Computer Security (JCS) 2022
• G. Marcadet, R. Ciucanu, P. Lafourcade, M. Soare, S. Amer-Yahia. SAMBA : Un système pour des bandits multiarmés sécurisés et fédérés. IEEE International Conference on Data Engineering (ICDE) 2022, Demo
• R. Ciucanu, M. Soare, S. Amer-Yahia. Implementing Linear Bandits in Off-the-Shelf SQLite. Conférence internationale sur l'extension de la technologie des bases de données (EDBT) 2022, article court.
• Benjamin Roussillon, Patrick Loiseau. Scalable Optimal Classifiers for Adversarial Settings under Uncertainty (Classificateurs optimaux évolutifs pour les environnements adverses en cas d'incertitude). GameSec 2021 - 12th Conference on Decision and Game Theory for Security, Oct 2021, Prague, Czech Republic. pp.1-20.
• Dong Quan Vu, Patrick Loiseau. Colonel Blotto Games with Favoritism : Competitions with Pre-allocations and Asymmetric Effectiveness. Proceedings of the 22nd ACM Conference on Economics and Computation (ACM EC '21), Jul 2021, Budapest, Hungary. pp.862-863.
• Johnnatan Messias, Mohamed Alzayat, Balakrishnan Chandrasekaran, Krishna Gummadi, Patrick Loiseau et al. Selfish & Opaque Transaction Ordering in the Bitcoin Blockchain : The Case for Chain Neutrality. IMC 2021 - ACM Internet Measurement Conference, Nov 2021, Virtual Event, France. pp.1-16, ⟨10.1145/3487552.3487823⟩.
• Vitalii Emelianov, Nicolas Gast, Krishna Gummadi, Patrick Loiseau. On fair selection in the presence of implicit and differential variance. Artificial Intelligence, Elsevier, 2021, 302, pp.1-20.
• Anonymisation des graphes RDF robuste au couplage de données. Remy Delanaux, Angela Bonifati, Marie-Christine Rousset et Romuald Thion. Actes de WISE 2019 (20e conférence internationale sur l'ingénierie des systèmes d'information Web). Janvier 2020, Hong Kong.
• "Facebook Ads Monitor : An Independent Auditing System for Political Ads on Facebook", Márcio Silva, Lucas Santos de Oliveira, Athanasios Andreou, Pedro Olmo Vaz de Melo, Oana Goga, Fabrício Benevenuto, WWW 2020 (The Web Conference)
• Problèmes de planification de trajectoire avec observations latérales -- Quand les colonels jouent à cache-cache. Dong Quan Vu, Patrick Loiseau, Alonso Silva, et Long Tran-Thanh. Dans les actes de la 34e conférence de l'AAAI sur l'intelligence artificielle (AAAI), février 2020.
• Sihem Amer-Yahia, Shady Elbassuoni, Ahmad Ghizzawi, Ria Mae Borromeo, Emilie Hoareau, Philippe Mulhem : L'équité dans les emplois en ligne : Une étude de cas sur TaskRabbit et Google. EDBT 2020 : 510-521
• Équité de la notation dans les marchés de l'emploi en ligne : Shady Elbassuoni, Sihem Amer-Yahia, Ahmad Ghizzawi. Tansactions ACM en science des données, 2020
• Régression linéaire à partir de sources de données stratégiques. Nicolas Gast, Stratis Ioannidis, Patrick Loiseau, et Benjamin Roussillon. ACM Transactions on Economics and Computation, 8(2):10:1-10:24, mai 2020
• Vers la conception de politiques optimales en termes de coûts pour l'utilisation des nuages IaaS avec l'apprentissage en ligne. Xiaohu Wu, Patrick Loiseau, et Esa Hyytia. IEEE Transactions on Parallel and Distributed Systems, 31(3):501-514, mars 2020.
• Sur la sélection équitable en présence d'une variance implicite. Vitalii Emelianov, Nicolas Gast, Krishna P. Gummadi, et Patrick Loiseau. In Proceedings of the 21st ACM Conference on Economics and Computation (EC), juillet 2020.
• Jeux de tests d'hypothèses adversaires à somme non nulle. Sarath Yasodharan, et Patrick Loiseau. In Proceedings of the 33rd Conference on Neural Information Processing Systems (NeurIPS), décembre 2019.
• Bandits combinatoires pour l'apprentissage séquentiel dans les jeux de colonel Blotto. Dong Quan Vu, Patrick Loiseau, et Alonso Silva. Dans les actes de la 58e conférence de l'IEEE sur la décision et le contrôle (CDC), décembre 2019.
• Le prix de l'équité locale dans la sélection en plusieurs étapes. Vitalii Emelianov, George Arvanitakis, Nicolas Gast, Krishna Gummadi, et Patrick Loiseau. Dans les actes de la 28e Conférence internationale conjointe sur l'intelligence artificielle (IJCAI), août 2019.