L’UNESCO franchit une étape majeure vers le premier instrument normatif mondial sur l’éthique de l’intelligence artificielle
Paris, le 17 septembre—Lorsque les États membres de l’Organisation des Nations Unies pour l’éducation, la science et la culture ont décidé de lancer le processus de rédaction d’une recommandation mondiale sur l’éthique de l’intelligence artificielle (IA) en novembre 2019, Le Secrétaire général des Nations Unies Antonio Guterres avait félicité l’UNESCO de relever ce défi :
L’IA dessine une toute nouvelle frontière décisive pour l’ensemble des Nations Unies et pour le monde.
Vingt-quatre spécialistes de renom, ayant une expertise multidisciplinaire dans l’éthique de l’intelligence artificielle, ont ainsi été chargés par l’UNESCO en mars dernier d’élaborer un projet de recommandation sur l’éthique de l’IA.
L’UNESCO a par la suite lancé un large processus de consultations permettant d’obtenir le point de vue d’une multiplicité d’acteurs: experts issus de 155 pays, citoyens (via une enquête mondiale en ligne), agences des Nations Unies, et acteurs majeurs du secteur tels que Google, Facebook et Microsoft ou encore le secteur académique – de l’Université de Stanford à l’Académie chinoise des sciences -, ont pu partager leur point de vue et enrichir les conclusions du projet.
Celui-ci vient d’être transmis aux 193 États membres de l’UNESCO et fera l’objet d’une série de négociations, en vue de son adoption finale par eux lors de la Conférence générale de l’Organisation en novembre 2021.
« Nous devons garder les yeux ouverts, pour que l’intelligence artificielle se développe ’’à notre service, et non à nos dépens’’ », a averti la Directrice générale de l’UNESCO, Audrey Azoulay. « Nous avons besoin d’un socle robuste de principes éthiques afin que l’intelligence artificielle serve le bien commun. Nous avons souhaité que ce processus soit aussi large que possible puisqu’il s’agit bien d’un enjeu universel », a-t-elle rappelé.
Au cours de ces dernières années, et d’autant plus depuis l’apparition du COVID-19, des solutions reposant sur l’intelligence artificielle (IA) ont vu le jour, notamment dans le but d’accélérer la recherche d’un vaccin et d’identifier les cas contacts de personnes testées positives. L’intelligence artificielle a également contribué à l’essor de la télémédecine et de l’apprentissage à distance ; elle a aussi servi à mobiliser des drones pour livrer du matériel médical. Les domaines d’application de cette science se sont ainsi multipliés, et avec eux le besoin d’un instrument de régulation à l’échelle mondiale.
Le potentiel de l’intelligence artificielle, tel qu’il se traduit dans les publications scientifiques, comme dans les œuvres de fiction, fait naître la crainte que les machines ne commencent à décider pour l’homme, qu’elles n’érodent le droit à la vie privée des individus et n’exposent les utilisateurs à la manipulation, compromettant ainsi les libertés fondamentales et les droits humains. Les quantités massives de données amassées et analysées chaque jour soulèvent par conséquent des enjeux majeurs : la confidentialité, le respect de la vie privée, le risque de la reproduction de pratiques discriminatoires, ainsi que la propagation de stéréotypes.
Le projet de recommandation proposé à la discussion de la communauté internationale institue un certain nombre de concepts essentiels :
– La proportionnalité : les technologies d’IA ne doivent pas dépasser des limites préétablies pour atteindre des buts ou objectifs légitimes et doivent être adaptées au contexte de leur utilisation ;
– La surveillance et la détermination humaines : les humains sont éthiquement et légalement responsables de toutes les étapes du cycle de vie des systèmes d’IA ;
– La gestion de l’environnement : les systèmes d’intelligence artificielle doivent contribuer à l’interconnexion pacifique de toutes les créatures vivantes entre elles et respecter l’environnement naturel, notamment dans l’extraction des matières premières ;
– L’égalité des genres : les technologies d’IA ne doivent pas reproduire les écarts entre les genres existant dans le monde réel, notamment en ce qui concerne les salaires, la représentation, l’accès et la diffusion de stéréotypes. Des actions politiques, y compris en matière de discrimination positive, sont nécessaires pour éviter ces écueils majeurs.
L’UNESCO aidera les gouvernements et les acteurs de la société civile (entreprises, citoyens, etc.) à mettre en place des actions concrètes de sensibilisation et des outils d’évaluation des impacts éthiques de l’IA dans tous les domaines.
Outre la volonté d’établir un consensus international sur cette question, les experts de l’UNESCO invitent les États membres et les acteurs de l’IA à sensibiliser davantage le grand public et soulignent l’importance de l’éducation au numérique pour tous.
Communiqué de presse de l’UNESCO N°2020-89
