Les IA ne remplaceront pas les profs… mais pourraient se faire passer pour eux

À pareille date l’an dernier, nous vous avions présenté les propos controversés d’Anthony Seldon, vice-chancelier à la University of Buckingham, lequel prédisait que l’intelligence artificielle avait le potentiel de remplacer éventuellement l’enseignant en classe.  Ces propos avaient eu pour effet de mousser les ventes de son livre à ce sujet.  Depuis, le débat s’est progressivement atténué dans les médias, alors que la majorité des experts semblent s’entendre sur le fait que l’IA a encore beaucoup de chemin à faire pour se substituer à l’enseignant.   En fait, les algorithmes seraient plutôt mieux positionnés pour assister ce dernier dans l’accomplissement de certaines tâches répétitives ou routinières.

Voici maintenant que Seldon revient à la charge en avertissant les spectateurs présents au lancement de l’Institute for Ethical AI in Education (IEAIED) que l’IA peut maintenant facilement manipuler les jeunes apprenants et les tromper en prenant le rôle de leurs enseignants.  Voilà qui n’est pas sans rappeler les dérives du phénomène des « deep fakes » que mon collègue Jean-Sébastien nous a déjà présenté.

L’initiative de l’IEAIED, la première du genre au Royaume-Uni, est présidée par Seldon et a pour mandat de réfléchir aux impacts de l’IA en éducation et sur les considérations éthiques entourant son développement.  Selon ce dernier, des prédateurs pourraient usurper l’identité des enseignants ainsi que d’autres responsables en position d’autorité afin de leurrer des enfants:

Sir Anthony, vice-chancellor of the University of Buckingham, said: ‘These machines can impersonate teachers, they can either impersonate people who they don’t know but look plausible, they can impersonate public figures.

‘Or they can impersonate teachers – the headteacher of the school – and insinuate and manipulate children into thinking that this is the real teacher telling them to do things.

Seldon appelle le système scolaire à prendre le temps de réfléchir aux dérives possibles de l’IA, notamment en préparant les jeunes à penser de façon critique pour les outiller à mieux distinguer le vrai du faux:

Sir Anthony said: ‘We are naturally overly trusting and our education system is not teaching critical thinking.

‘We are teaching passive learners in a factory exam-obsessed system that does not develop the critical thought and the discrimination to discern ‘Is this real? Is it really the person?’.’

Est-ce que Seldon est trop alarmiste dans ses propos ou doit-on s’en inquiéter?

À lire!

Sources:

Stickings, Tim. Predators could use artificial intelligence to manipulate children into ‘unspeakable’ actions by impersonating teachers or celebrities, professor warns. Daily Mail, 18 octobre 2018.

Rogers, Charley. Institute for Ethical AI in Education launches in a UK first. Education technology, 18 octobre 2018.

 

 

Le MIT mise gros sur l'intelligence artificielle: 1 milliard pour une nouvelle école en IA
Comment nomme-t-on le fait de ne pas avoir accès à Internet ou de ne pas savoir l’utiliser?

Exprimez-vous !

*