Point chaud / en émergence Technologique Tendances sociétales

Les biais en IA, source de conflit entre Google et chercheurs

Je suis depuis le début de l’année 2021 les développements en lien avec le licenciement par le géant du web Google de deux chercheuses qui se spécialisent en éthique de l’intelligence artificielle (IA). Dans le cadre de leurs fonctions, alors qu’elles étaient toutes les deux à l’emploi de l’entreprise, Timnit Gebru et Margaret Mitchell s’intéressaient plus particulièrement aux biais introduits dans les algorithmes développés par Google, notamment au plan de la représentativité des communautés culturelles dans les équipes chargées de leur conception, ainsi qu’au plan de la reconnaissance d’images associées à des personnes de différentes origines ethniques.

C’est à la suite de la publication d’un article intitulé « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? » que la compagnie a décidé de rompre les liens avec les deux chercheuses. Dans cet article, Gebru soulignait les biais introduits dans les algorithmes qui supportent le fonctionnement du populaire engin de recherche en ligne Google, ainsi que certains services connexes (plus particulièrement Google Photos). Cette critique des services de la compagnie, associée aux communications subséquentes de Gebru référant à une absence de leadership chez les dirigeants de Google pour défendre les intérêts des communautés sous-représentées, auraient mené à son congédiement ainsi qu’à celui de Mitchell, venue à sa défense:

But nearly three years later, Dr. Gebru was pushed out of the company without a clear explanation. She said she had been fired after criticizing Google’s approach to minority hiring and, with a research paper, highlighting the harmful biases in the A.I. systems that underpin Google’s search engine and other services.

“Your life starts getting worse when you start advocating for underrepresented people,” Dr. Gebru said in an email before her firing. “You start making the other leaders upset.”

As Dr. Mitchell defended Dr. Gebru, the company removed her, too. She had searched through her own Google email account for material that would support their position and forwarded emails to another account, which somehow got her into trouble. (Metz, 2021)

Depuis ces événements, d’autres employés ont quitté l’entreprise en guise de protestation, incluant Samy Bengio, le frère du professeur Yoshua Bengio de l’Université de Montréal, bien connu chez nous pour son implication dans le domaine de la recherche en IA au Québec et à travers le monde. Plusieurs collaborateurs académiques ont également décliné d’importantes subventions et des bourses offertes par Google, certains allant jusqu’à se demander si la compagnie était sincèrement intéressée à accepter les conclusions éventuelles de leurs études du sujet :

“I think it definitely calls into question whether Google can be trusted to honestly question the ethical applications of its technology,” says Baker. “And Google’s failure in diversity will lead to blindspots in its research. The reality is that Google is not a place where folks from all backgrounds can thrive.” (Vincent, 2021)

La réputation de Google en prend donc pour son rhume…

Cet épisode rappelle qu’il existe une tension fondamentale entre les intérêts d’entités privées et le travail effectué par les chercheuses et chercheurs. Ces derniers doivent demeurer vigilants et encourager la mise en place d’un dialogue constructif, entre autres, pour convaincre d’éventuels bailleurs de fonds du bien-fondé des propositions visant à éliminer les biais dans les algorithmes.

C’est un sujet que je vais assurément continuer à suivre!

Merci à mon collègue Jean-Sébastien pour sa suggestion de l’article du New York Times.

Sources:
Vincent, James. Google is poisoning its reputation with AI researchers. The Verge, 13 avril 2021.

Metz, Cade. Who Is Making Sure the A.I. Machines Aren’t Racist? New York Times, 15 mars 2021.

Sondage EDUCAUSE sur les technologies soutenant la réussite étudiante
La Caisse de dépôt et placement offre aux PME formation et accompagnement afin d'implanter une culture d’affaires numérique

À propos de l'auteur

Marc Couture

Marc Couture

Laisser un commentaire