Une gouvernance mondiale de l’IA en gestation

Thierry PIGOT
Auteur et journaliste, spécialiste des technologies de l’information et de la communication, il a dirigé jusque récemment différentes publications centrées notamment sur l’intégration des technologies numériques dans les systèmes de production industrielle. Il anime aussi ponctuellement des débats pour nourrir la réflexion sur le numérique et les transformations sociétales qu’il provoque.

Pour formidables qu’ils soient les résultats et les applications potentielles de l’intelligence artificielle ne vont pas sans poser de questions notamment en matière d’éthique et de droits fondamentaux des individus. Avant d’entrer plus en détail sur les aspects de la réglementation qui va progressivement se mettre en place dans l’Union européenne, il est intéressant de se pencher sur les différentes initiatives qui sont menées par les instances internationales un peu partout dans le monde.

Elles montrent que l’UE n’est pas victime d’une lubie réglementaire, mais qu’elle se dote aujourd’hui d’un texte qui tout en favorisant l’innovation, vise à protéger ses citoyens, leurs états et les institutions qui les représentent.

Chronologie

Dès 2019, l’Organisation de coopération et de développement économiques (OCDE) qui regroupe trente-huit États membres, s’est dotée d’un Observatoire des politiques relatives à l’IA (OECD.IA) dans le but de promouvoir « une IA innovante et digne de confiance, qui respecte les droits humains et les valeurs démocratiques ».

En 2021, c’est au tour de l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco) d’émettre des recommandations en matière d’éthique et de gouvernance visant tant le développement de l’intelligence artificielle que ses applications pour protéger l’éducation, la culture et la science. Avec la Readyness Assesment Methodology, elle publie un document-cadre approuvé par 193 pays, et destiné à aider les États à évaluer leur niveau d’avancement en termes de compréhension des enjeux et de capacité d’intégration des systèmes.

Début 2023, l’organe consultatif du Secrétariat général de l’ONU sur l’IA (United Nation Advisory Body on AI) a publié un rapport intérimaire intitulé « Governing AI for Humanity » qui appelle notamment à un alignement plus étroit entre les normes internationales et la manière dont l’IA est développée et déployée. Elément central, une proposition vise à renforcer la gouvernance internationale de l’IA en s’acquittant de fonctions essentielles telles que l’analyse d’horizon pour les risques et l’appui à la collaboration internationale sur les données, le renforcement de la capacité de calcul et la promotion des talents pour atteindre les objectifs de développement durable.

Ce même rapport contient également des recommandations visant à renforcer la responsabilisation et à garantir une voix équitable à tous les pays. Il identifie les principes qui devraient guider la formation de nouvelles institutions mondiales de gouvernance de l’IA :

Tous les citoyens, y compris ceux du Sud global, devraient pouvoir accéder aux outils d’IA et les utiliser de manière significative.
La gouvernance devrait aller au-delà du principe visant à ne causer aucun dommage et définir un cadre de responsabilité plus large pour les entreprises qui construisent, déploient et contrôlent l’IA, ainsi que pour ceux qui la mettent en œuvre.
La gouvernance de l’IA ne peut être dissociée de la gouvernance des données et de la promotion des principes communs qui la guident.
La gouvernance de l’IA devrait donner la priorité à l’adhésion universelle des pays et des parties prenantes. Elle devrait tirer parti des institutions existantes par le biais d’une approche en réseau.
La gouvernance de l’IA doit être ancrée dans la Charte des Nations Unies, le droit international des droits de l’homme et les objectifs de développement durable.

Et l’Union européenne ?

Parmi les différentes instances administratives de l’Union européenne, c’est la Direction générale des réseaux de communication, du contenu et des technologies (DG Connect) qui s’empare des questions soulevées par l’intelligence artificielle avec pour mission de mener les négociations tant pour élaborer des propositions que pour favoriser l’émergence de compromis.

Les négociations se poursuivent pendant trois ans à partir de la fin 2020 au cours de la présidence slovène et se poursuivront sous les présidences française, tchèque et espagnole, cette dernière étant marquée par des avancées significatives dans l’élaboration du texte final qui est l’objet de négociations où interviennent le Conseil de l’Europe, la Commission et le Parlement. C’est du 6 au 8 décembre 2023 que ces négociations débouchent sur un accord politique qui satisfait les 27, accord qui sera entériné par le Parlement le 13 mars dernier.

L’aboutissement, c’est le règlement européen sur l’intelligence artificielle (RIA) comptant 113 articles et qui donne lieu à une série d’actes de mise en œuvre pour aboutir à une application progressive qui s’étalera sur deux ans.

L’esprit de ce texte s’inscrit dans la même logique que celle qui a conduit à l’adoption du règlement général sur la protection des données (RGPD) : favoriser la circulation des biens et des innovations dans l’Union tout en protégeant la santé, la sécurité et les droits fondamentaux des consommateurs. Le RIA s’inscrivant dans l’harmonisation du droit pour tous les États membres, il ne nécessite pas de transposition dans leur droit national et il s’articule en prolongement d’une série de textes destinés à encadrer le développement et les usages du numérique dans l’Union, notamment le Data Act qui concerne les données industrielles produites par les objets connectés, ou encore la directive NIS 2 qui amène les États membres à renforcer leur coopération en matière de cybersécurité.

Plutôt que de se focaliser sur les technologies elles-mêmes ce qui laisserait la porte ouverte sur de multiples interprétations, le RIA porte sur l’encadrement des usages de l’intelligence artificielle. Ainsi, il identifie trois axes :

les applications frappées d’interdit pour des raisons contraires à l’éthique comme la manipulation des personnes vulnérables et la catégorisation sociale, ou menaçants les libertés individuelles comme la reconnaissance faciale ou biométrique dans l’espace public.
Les applications à haut risque qui devront obtenir un agrément (semblable à la norme CE) comme les systèmes intervenant dans l’éducation ou la formation, ceux mobilisés dans les processus de recrutement ou l’emploi, ceux impliqués dans la sécurité des individus, ceux touchant à la répression ou à la coordination police-justice ou encore, ceux apportant une aide privée à un service public.
Les applications à risque modéré pour leur part ne devraient imposer que des critères de contrôle notamment humain en cours d’élaboration et de déploiement, et de transparence envers les personnes concernées afin qu’elles soient pleinement conscientes de leur interaction avec une intelligence artificielle, ce qui concernera au premier chef, les interfaces homme-machine, les chatbots, les voicebots et plus généralement tous les systèmes conversationnels avancés.

Il faut cependant souligner que ces règles quelles qu’elles soient ne s’appliqueront pas en matière de défense nationale, de sécurité nationale et quand elles sont de nature à entraver la recherche.

S’agissant des IA génératives, le législateur a considéré que le RIA tel qu’il existe aujourd’hui pouvait d’ores et déjà s’appliquer, sans s’interdire d’aboutir à une réglementation propre en s’appuyant sur des principes déjà à l’œuvre dans d’autres domaines couverts par le doit européen. Par exemple, si une IA générative produit un résultat reprenant intégralement ou de manière significative des éléments soumis à un copyright, il s’agira d’une contrefaçon.

Le droit, spécialement le droit naissant, est souvent perçu comme un frein à la liberté et un obstacle à la création et à l’innovation. Mais il ne faut pas s’y tromper, une dynamique est bel et bien enclenchée puisque la plupart des pays de l’OCDE s’intéresse à cette initiative de l’Union européenne.

Sans préjuger de l’avenir du RIA, de son influence sur les déploiements des systèmes d’intelligence artificielle dans l’Union européenne et de son éventuelle transposition au-delà de ses frontières, considérons qu’il s’agit aussi et surtout d’un cadre qui ouvre les portes de nos sociétés à une technologie qui doit encore gagner les âmes et les cœurs des individus pour y trouver sa place.

Mots clés : IA