C’est en tentant d’accéder sans succès à un article sur l’utilisation d’algorithmes pour aider à présélectionner des candidates à un programme de génie offert par le géant du logiciel Microsoft que je suis tombé sur une autre source qui évoque le problème des biais inhérents aux algorithmes utilisés par des systèmes d’intelligence artificielle (IA). Des données historiques biaisées servant de base pour programmer des algorithmes de reconnaissance visuelle seraient à l’origine du problème, où, par exemple, des photos montrant des hommes dans une cuisine seraient identifiés de façon erronée comme étant des femmes. Ceux-ci refléteraient les inégalités et certains comportements normalement associés au sexisme et aux inégalités encore présentes dans la société:
Maxine Mackintosh, a leading expert in health data, said the problem is mainly the fault of skewed data being used by robotic platforms.
“These big data are really a social mirror – they reflect the biases and inequalities we have in society,” she told the BBC.
“If you want to take steps towards changing that you can’t just use historical information.”
Noel Sharkey, professeur à la University of Sheffield et codirecteur de la Foundation for Responsabile Robotics, suggère que le manque de transparence dans le code sous-jacent aux logiciels mais également l’absence marquée des femmes impliquées dans le développement de l’IA augmentent la difficulté de résolution du problème. Réussir à attirer plus de femmes dans les programmes de formation en génie qui se penchent sur le développement et l’application de solutions intégrant l’intelligence artificielle se veut une réponse possible pour pallier ce défaut.
D’autres cas similaires avaient été recensés dans des expériences avec de tels systèmes aux États-Unis, où des services correctionnels expérimentaux auraient systématiquement identifiés les défendeurs noirs comme étant plus susceptibles de commettre de nouveaux délits, exposant un biais raciste dans les algorithmes utilisés pour obtenir ces résultats. De toute évidence, il reste beaucoup de travail à faire pour régler le problème.
Source: Bodkin, Henry. AI robots are sexist and racist, experts warn. The Telegraph, 24 août 2017.
