Ma collègue Sonia Morin me fait part d’un article qui aborde un enjeu central en lien avec l’intégration de l’intelligence artificielle en éducation, soit celle de la démocratie numérique. Georges-Louis Baron, enseignant-chercheur en sciences de l’éducation à l’université Paris-Descartes, s’inquiète de l’utilisation de certains algorithmes qui cherchent à remplacer la prise de décision autrefois réservée à des humains, potentiellement au détriment des sujets de l’analyse des données personnelles et du traitement des dossiers individuels.
L’exemple de l’APB (pour “Admission PostBac”), algorithme utilisé pour faciliter l’analyse ainsi que le traitement des demandes d’admission à des programmes contingentés, est particulièrement éclairant à cet égard. Le ministère de l’Éducation nationale Français en a tout récemment rendu le code source disponible à l’association Droits des lycéens, qui demandait plus de transparence dans le processus de sélection des étudiants et de connaître les critères pris en compte et retenus pour la sélection. Ces critères étaient soupçonnés d’être basés sur des pratiques jugées illégales, incluant la discrimination basée sur la provenance des candidats ou le statut des demandeurs (par exemple, ceux qui sont en réorientation par rapport aux candidats réguliers).
Baron souligne que l’utilisation d’algorithmes doit être précédée par une réflexion plus profonde sur les conditions à respecter avant leur intégration, notamment pour conserver un regard externe sur comment les décisions sont prises, mais plus important encore, éviter des résultats imprévus. Il cite en exemple les ratés très publicisés de l’initiative d’apprentissage profond conversationnel Tay de Microsoft, qui avait appris de façon autonome à tenir un discours raciste avant d’être désactivé par la compagnie.
Au-delà de l’utilité des algorithmes pour automatiser le traitement de dossiers ou effectuer des simulations, le développement de ces solutions doit être débattu et passer le test de l’acceptabilité sociale. Ce développement aurait avantage à s’effectuer ouvertement, si ce n’est que pour en faciliter l’intégration de correctifs au besoin.
Sources:
Lefauconnier, Natacha. G.-L. Baron : Les algorithmes posent la question de la démocratie numérique. EducPros.fr, 14 novembre 2016.
Graveleau, Séverin. APB : les questions que soulève le code source. Le Monde, 25 octobre 2016.
