C’est en parcourant mon fil Twitter que je suis tombé sur un article qui me laisse songeur. Selon une récente étude publiée par une équipe de l’Université du Massachusetts à Amherst, l’entraînement des modèles sous-jacents aux algorithmes d’intelligence artificielle aurait une empreinte carbone très élevée: environ 626 000 tonnes de CO2, soit plus de 5 fois ce qui est normalement émis par l’utilisation d’une voiture durant sa vie utile, incluant sa fabrication.
L’étude s’est plus spécifiquement penché sur le processus de traitement automatique du langage naturel (natural language processing, ou NLP), une branche de l’IA qui se concentre sur l’entraînement d’algorithmes permettant de reconnaître le langage humain. L’article rapporte que les récents travaux dans le domaine ont mené à des avancées significatives dont la rédaction autonome d’articles d’actualités (au risque d’encourager la prolifération de fausses nouvelles).
Le problème réside dans le fait que ces modèles requièrent énormément de ressources informatiques (des ordinateurs performants) afin d’optimiser les algorithmes à partir de sources de données massives, dont le traitement consomme aussi beaucoup d’énergie. De plus, ces ressources ne sont pas équitablement réparties entre les différents acteurs qui font de la recherche en IA, soient les institutions académiques mais également le secteur privé. Cette réalité mène notamment à des problématiques de rétention des talents qui tendent alors à migrer vers des environnements où les ressources sont disponibles… et qui sont malheureusement utilisées sans égard au gaspillage potentiel. C’est d’ailleurs à ce niveau que les chercheurs soulignent l’apport des universités qui pourront se démarquer en sensibilisant l’ensemble des parties prenantes et optimiser l’efficience des solutions informatiques utilisées pour mener à bien leurs travaux :
The significance of those figures is colossal—especially when considering the current trends in AI research. “In general, much of the latest research in AI neglects efficiency, as very large neural networks have been found to be useful for a variety of tasks, and companies and institutions that have abundant access to computational resources can leverage this to obtain a competitive advantage,” Gómez-Rodríguez says. “This kind of analysis needed to be done to raise awareness about the resources being spent […] and will spark a debate.”
Source – Hao, Karen. Training a single AI model can emit as much carbon as five cars in their lifetimes: Deep learning has a terrible carbon footprint. MIT Technology Review, 6 juin 2019.
