Ma collègue Sonia Morin m’informe d’une nouvelle en lien avec le sujet en titre, où le professeur Foutse Khomh de l’École Polytechnique de Montréal s’est vu octroyé une chaire de recherche d’une durée de 5 ans en lien avec l’apprentissage automatique. La chaire obtenue par le biais du CIFAR a pour objectif de soutenir la recherche pour mieux comprendre le fonctionnement des algorithmes et garantir leur efficacité, leur fiabilité, leur sécurité et leur sureté. Le professeur Khomh est membre de l’équipe SWAT Lab, qui s’intéresse depuis un bon moment à l’exploitation des données en soutien à la prise de décision. Le groupe cherche également à développer des technologies afin d’améliorer la qualité et la productivité du développement de logiciels intégrant l’IA sur des plateformes infonuagiques.
Un aspect intéressant de cette recherche est le souci de bien valider les modèles qui sous-tendent le développement des algorithmes afin d’éliminer le plus possible les biais qui pourraient y être introduits:
« Les modèles fonctionnent parfois très bien dans l’environnement de recherche où ils ont été entraînés, mais avant de les amener en production (NDLR : c’est-à-dire dans le vrai monde), il faut s’assurer qu’ils ne comportent pas de biais ou de problèmes qui fassent en sorte qu’ils ne soient pas fiables lorsqu’on leur présentera de nouvelles données », explique Pr Khomh.
L’idée est d’éventuellement réussir à certifier l’IA pour un usage par des agences gouvernementales:
« Pour certifier un système, il faut démontrer que l’on comprend très bien son fonctionnement et être capable de garantir qu’il est digne de confiance » (…) « Les outils développés par mon équipe permettent de mieux comprendre le fonctionnement des systèmes d’IA, d’identifier les défaillances dans ces systèmes, de suggérer des correctifs, et de fournir des garanties sur leur fonctionnement, ce qui nous permet de nous rapprocher de cet objectif de certification. Cependant beaucoup reste à faire. »
Source: Intelligence artificielle : une chaire en IA Canada-CIFAR pour le professeur Foutse Khomh. Nouvelles de l’École Polytechnique, 7 décembre 2021.
