Notre collègue Marc Couture insiste régulièrement dans nos pages sur le point en titre. Je n’étais toutefois pas conscient de tous les enjeux que cette question suppose. Je suis donc tombé un peu par hasard sur l’ouvrage Faire la morale aux robots du philosophe Martin Gibert. Gibert s’y montre un excellent vulgarisateur, truffant son livre d’exemples et d’expériences de pensée, ce qui facilite l’appréhension d’un sujet qui pourrait s’avérer très abstrait. Les clins d’oeil à la science-fiction permettent également, par exemple, de réfléchir aux lois de la robotique d’Asimov à l’aune du féminisme anarchiste de l’écrivaine de fantasy Ursula Le Guin. Gibert compare notamment les approches utilitariste, déontologique et arétaïque (éthique de la vertu) en éthique des algorithmes.
« …[l]l s’agit de répondre à cet enjeu crucial pour l’avenir, celui de programmer des robots pour qu’ils agissent de façon morale. […] Une approche visant à entraîner les robots pour qu’ils se comportent comme le ferait une personne vertueuse aurait pour [Gibert] le mérite d’être plus flexible et de mieux correspondre à la complexité de notre époque. » (Marc-André Lapalice, librairie Pantoute, site Les libraires)
Pour ma part, je continue à me demander si un jour nous transigerons plutôt avec l’IA névrosée Hal (2001: Odyssée de l’espace), avec l’IA dictatoriale centralisée Skynet (franchise Terminator) ou avec le nourricier robot-infirmier Baymax (Big Hero 6)? Si les humains restent le point de référence de ces machines, je suis plutôt pessimiste…
Coded Bias
Si l’opinion de Gibert est très clairement énoncée dans son livre, sa démarche reste à priori objective. Ce n’est pas le cas du documentaire Coded Bias de la réalisatrice Shalini Kantayya qui suit le périple d’un groupe d’intellectuelles militantes américaines menées par l’informaticienne Joy Buolamwini de son laboratoire du MIT juqu’au Congrès ainsi que le travail de l’organisme britannique Big Brother Watch qui milite pour que cesse l’utilisation de la reconnaissance faciale par la police de Londres. Le film est disponible pour visionnement (en anglais seulement) sur la plateforme Netflix.
Si le film est percutant et montre plusieurs conséquences inquiétantes de l’utilisation d’algorithmes biaisés (difficultés d’accessibilité au logement, à l’emploi, au crédit; profilage racial par les policiers, etc.), on ne nous présente jamais le point de vue de ceux qui programment de tels algorithmes. La principale préoccupation qui ressort du document est “si les algorithmes s’enseignent (apprentissage profond) à partir de ce que les IA observent dans la société actuelle, voulons-nous vraiment perpétuer les inégalités à partir desquels ils prennent leurs décisions?” Le film est très clair : une législation est devenue nécessaire pour encadrer la situation de Far West qui prévaut à cet égard aux États-Unis.
À notre échelle, on continue à se demander quand les programmes de formation universitaire tiendront compte de ces enjeux très actuels de la vie professionnelle et citoyenne et s’ils incluront de la formation à propos de l’intelligence artificielle et des mégadonnées…
Sources:
Gibert, Martin, Faire la morale aux robots, une introduction à l’éthique des algorithmes, coll. « Documents », Atelier 10, UQAM, 2020, 93 p.
Kantayya, Shalini (réal.), Coded Bias (film documentaire), 7th Empire Media, 2020, 90 min. Disponible sur Netflix.
