La déclaration de Montréal pour un développement responsable de l’intelligence artificielle

C’est à l’occasion du congrès NeurIPS 2018 qui se déroule cette semaine au Palais des congrès de Montréal que la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle a été dévoilée.  Ce manifeste propose les grandes lignes des orientations éthiques permettant de guider la recherche sur l’IA, qui sont déclinées en 10 principes :

  1. bien-être: le développement et l’utilisation des systèmes d’intelligence artificielle (SIA) doivent permettre d’accroître le bien-être de tous les êtres sensibles;
  2. autonomie: les SIA doivent être développés et utilisés dans le respect de l’autonomie des personnes et dans le but d’accroître le contrôle des individus sur leur vie et leur environnement;
  3. protection de l’intimité et de la vie privée: la vie privée et l’intimité doivent être protégées de l’intrusion de SIA et de systèmes d’acquisition et d’archivage des données personnelles (SAAD);
  4. solidarité: le développement de SIA doit être compatible avec le maintien de liens de solidarité entre les personnes et les générations;
  5. participation démocratique: les SIA doivent satisfaire les critères d’intelligibilité, de justifiabilité et d’accessibilité, et doivent pouvoir être soumis à un examen, un débat et un contrôle démocratiques;
  6. équité: le développement et l’utilisation des SIA doivent contribuer à la réalisation d’une société juste et équitable;
  7. inclusion de la diversité:  le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles;
  8. prudence: toutes les personnes impliquées dans le développement des SIA doivent faire preuve de prudence en anticipant autant que possible les conséquences néfastes de l’utilisation des SIA et en prenant des mesures appropriées pour les éviter;
  9. responsabilité: le développement et l’utilisation des SIA ne doivent pas contribuer à une déresponsabilisation des êtres humains quand une décision doit être prise;
  10. développement soutenable: le développement et l’utilisation de SIA doivent se réaliser de manière à assurer une soutenabilité écologique forte de la planète.

Les citoyens sont invités à signer cette déclaration pour signifier leur intérêt à ce que les développements en matière d’IA servent au bien-être de tous.  Les chercheurs à l’origine de l’initiative reconnaissent par cette déclaration qu’ils ont une grande responsabilité en ce sens:

« Il faut savoir que le Québec, et Montréal en particulier, a une responsabilité dans la recherche sur l’IA. C’est l’un des pôles mondiaux de la recherche. Il semblait naturel que l’on se penche sur les implications éthiques et sociales de l’IA », dit Marc-Antoine Dilhac, professeur en éthique et en philosophie politique à l’Université de Montréal et Titulaire de la Chaire de recherche du Canada en éthique publique et théorie politique.

En parallèle, on apprend que l’Université de Sherbrooke participera au Phare de réflexion sur l’intelligence artificielle.  Cette initiative menée par l’Université Laval vise à mettre en place l’Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (OIISIAN), qui aura pour mandat d’étudier les effets du développement de l’IA.  À ce titre, le projet a reçu un financement à la hauteur de 7,5 M$ des Fonds de recherche du Québec (FRQ) sur une période de 5 ans qui seront distribués entre les quelques 160 chercheurs provenant de divers établissements universitaires et collégiaux.

Merci à ma collègue Sonia pour m’avoir pisté sur la nouvelle.

À suivre!

Sources:

7 choses que vous devez savoir à propos des ressources éducatives libres (REL) du point de vue de contenu
Sophia, un robot pour fasciner... et anticiper les réactions humaines à l'IA

Exprimez-vous !

*