Des étudiants au MIT préoccupés par la façon d’enseigner l’éthique de l’IA

J’apprends par le biais de mon fil Twitter qu’un groupe de réflexion a été lancé par des étudiants du MIT afin de discuter les considérations éthiques du développement de l’intelligence artificielle (IA).  À la suite de l’annonce de la Fondation du MIT Schwarzman College of Computing que nous vous avons présenté tout récemment, ceux-ci se sont mobilisés – grâce aux encouragements d’un membre du corps professoral de l’institution – afin de créer un lieu pour échanger sur les enjeux de l’IA.

Un sujet présenté lors d’une récente rencontre du groupe soulève une question intéressante: comment doit-on enseigner l’éthique aux étudiants en informatique? Plusieurs modalités étant possibles, deux options ont été présentées puis débattues par le groupe : la première, de l’Université Harvard, propose l’intégration de l’éthique aux cours existants d’un programme; la seconde, de la Santa Clara University, cherche à offrir des cours dédiés au sujet et articulés autour d’études de cas:

A lively debate followed. The students then broke into small groups as the conversation shifted to how ethics should be taught: either as a stand-alone course, or integrated throughout the curriculum. They considered two models: Harvard, which embeds philosophy and moral reasoning into its computer science classes, and Santa Clara University, in Silicon Valley, which offers a case study-based module on ethics within its introductory data science courses.

Certains étudiants soulignent que ces considérations doivent faire partie du processus de design d’algorithmes:

“When you learn to code, you learn a design process,” said Natalie Lao, an EECS graduate student helping to develop AI courses for K-12 students. “If you include ethics into your design practice you learn to internalize ethical programming as part of your work flow.”

D’autres croient que l’enseignement de l’éthique est trop difficile à intégrer aux cours de sciences informatiques et devraient donc faire l’objet d’une activité particulière:

“It’s hard to teach ethics in a CS class so maybe there should be separate classes,” one student offered. Others thought ethics should be integrated at each level of technical training.

Tous les étudiants semblent toutefois s’entendre sur l’importance de tenir compte des considérations éthiques et plus globalement des impacts des développements de l’IA sur l’ensemble des usagers:

The students also debated whether stakeholders beyond the end-user should be considered. “I was never taught when I’m building something to talk to all the people it will effect,” Suresh told the group. “That could be really useful.”

Un résumé de la rencontre du 24 octobre dernier présente des exemples de sujets qui pourraient être abordés prochainement, incluant l’utilisation de l’IA et des armes autonomes, ses impacts sur la vie privée et l’emploi…  Une mine d’or d’information que je vais continuer à suivre.

À lire!

Source: Martineau, Kim. Student group explores the ethical dimensions of artificial intelligence, MIT News, 27 novembre 2018.

Le «Rapidmooc» : le photomaton réinventé
Cirt@ 2018 : rapport d'étonnement 2/2

Exprimez-vous !

*