L’émergence de l’intelligence artificielle en éducation soulève plusieurs questions. Selon un panel d’experts qui a récemment participé à une table ronde sur l’éducation et l’éthique en lien avec le développement de l’intelligence artificielle, il faut prévoir d’importantes conséquences inattendues si l’on ignore le dilemme éthique inhérent à cette nouvelle technologie.
Benjamin Kuipers, professeur à l’Université du Michigan, mentionne que le développement de robots guidés par l’intelligence artificielle vise généralement à régler d’abord des problèmes spécifiques, mais qu’une série de décisions autonomes doivent être prises pour arriver au but visé. Ce sont justement ces décisions qui pourraient causer problème, surtout dans un contexte où les programmeurs humains ne prennent pas nécessairement en considération l’étendue de l’ensemble des choix possibles et sans établir de balises préalables :
Although humans typically program AI-powered robots to accomplish a particular goal, these robots will typically make decisions on their own to reach the goal, explained Benjamin Kuipers, a computer science professor and AI researcher at the University of Michigan.
It’s these smaller decisions that robots make on their own that can cause trouble because human programmers may fail to take all of a robot’s possible choices into account, Kuipers said.
“This is not the robot apocalypse,” said Kuipers. “What we’re seeing here are robots pursuing human-generated goals in unconstrained ways.”
Parallèlement, d’autres intervenants encouragent les éducateurs à prioriser l’enseignement de l’éthique aux étudiants qui développent les solutions basées sur l’intégration de l’intelligence artificielle. Cette compréhension pourra servir à mieux définir la portée de leurs travaux et leur impact sur la société :
Having a basic understanding of ethics can help technologists better understand the potential ramifications of the AI-powered software and robotics they are creating, he explained. One ethical dilemma he cited is how robotics can increase factory productivity; while this may lead to a boost in a nation’s GDP, it can also increase the wage gap between the poor and the rich.
Comme le souligne le professeur en robotique Illah Nourbakhsh de l’Université Carnegie Mellon, ces réflexions mettent en évidence le fait que les technologies ne sont pas neutres. Les créateurs ont une responsabilité de réfléchir à leurs impacts et évaluer comment les solutions éventuelles seront présentées à un public qui pourrait craindre, avec raison, une exploitation abusive de l’intelligence artificielle.
Source: Vanian, Jonathan. How Powerful AI Technology Can Lead to Unforeseen Disasters. Fortune, 6 février 2017
