Récemment, Xiaoice, un système d’intelligence artificielle qui compte 150 millions d’utilisateurs rien qu’en Chine a été mis au point. Celui-ci est un chat-bot et sert de petit ami ou de petite amie virtuel(le) à qui le souhaite. L’intelligence artificielle semble trouver à s’appliquer à tous les domaines, elle est capable d’être une évolution de nos habitudes, de nos modes de vie, et à présent de nos besoins les plus instinctifs. La création d’un système d’intelligence artificielle capable d’interagir comme un compagnon auprès d’un humain semble effrayant, interroge sur les limites de l’intelligence artificielle ? Existe t-il un cadre pour l’intelligence artificielle ? Est il possible d’en définir les contours ? Cette technologie semble échapper à tout contrôle juridique et social …
La nécessité d’un cadre pour l’intelligence artificielle
La Chine a mis en place une politique autoritaire permettant la création de nombreux systèmes d’intelligence artificielle, en dépit de considérations sociales et éthiques. La mise en place d’un système de notation sociale illustre parfaitement l’ambition chinoise illimitée en matière d’intelligence artificielle.
Les Etats Unis, qui ont toujours entretenu une vision libérale de l’économie, appliquent cette politique à l’intelligence artificielle. A titre d’exemple, Tesla a réussi en peu de temps à devenir le leader du marché de la voiture autonome. Les Etats Unis apparaissent comme un terrain favorable au développement de l’intelligence artificielle.
L’Union Européenne se positionne loin derrière les deux géants. Les européens tiennent à se démarquer en soumettant l’intelligence artificielle à certaines règles éthiques et juridiques. Dès lors, il apparaissait indispensable de lui créer un cadre, qui permettrait de satisfaire ces exigences tout en favorisant l’innovation.
Il faut attendre le 21 avril 2021, pour qu’une proposition de règlement soit émise par le Parlement européen. Les propos de Margrethe Vestager, vice-présidente exécutive pour une Europe adaptée à l’ère du numérique, permettent d’illustrer l’objectif que s’est fixé l’Union : «En matière d’intelligence artificielle, la confiance n’est pas un luxe mais une nécessité absolue. En adoptant ces règles qui feront date, l’Union européenne prend l’initiative d’élaborer de nouvelles normes mondiales qui garantiront que l’intelligence artificielle soit digne de confiance. En établissant les normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier, tout en préservant la compétitivité de l’Union européenne.»
Il est inopportun de penser que l’Union européenne ne s’est intéressée à l’intelligence artificielle qu’en 2021. En 2018, déjà, l’Union européenne a commencé à se préoccuper de l’intelligence artificielle avec une tentative d’explication de la technologie et de son importance en société dans une communication intitulée « L’intelligence artificielle pour l’Europe ». En 2019, la Commission publiait les « Lignes directrices pour une intelligence artificielle digne de confiance ». Puis, en 2020, le document le plus aboutit apparait, le livre blanc sur l’intelligence artificielle, jetant les fondations de la proposition de règlement publiée en avril 2021.
Quelle est l’approche juridique du législateur européen ?
Le Parlement européen consacre dans le titre V de la proposition de règlement du 21 avril 2021 des mesures de soutien à l’innovation, qui prendront la forme de « bacs à sable réglementaires ». Ces derniers sont des séries de règles qui permettent aux entreprises d’innover sans contraintes juridiques.
Cependant, les européens conscients des dérives potentielles liées à l’intelligence artificielle, ont développé une approche en fonction des risques que représentent les different systèmes. En outre, le législateur établit un hiérarchie des risques.
Dans un premier temps, le législateur liste les systèmes d’intelligence artificielle les plus dangereux. Ils sont qualifiés de « systèmes d’intelligence artificielle à risque intolérable ». Sont par exemple intégrés les pratiques visant à manipuler le comportement d’une personne et celles visant à établir un système de notation sociale.
Viennent ensuite les systèmes d’intelligence artificielle dits « à haut risque ». Sont principalement concernés les systèmes d’intelligence artificielle conçus comme produit de sécurité, ou composante d’un produit de sécurité. Le Parlement européen crée une catégorie ouverte et évolutive de ces systèmes d’intelligence artificielle à haut risque. La particularité du régime des systèmes d’intelligence artificielle à haut risque est l’exigence d’ un double contrôle à priori de conformité et à posteriori tout au long de la durée de vie du système d’intelligence artificielle.
Viennent enfin, les systèmes d’intelligence artificielle à faible risque, il s’agit pour le Parlement européen, de soumettre ces systèmes d’intelligence artificielle à une obligation de transparence. Tous les systèmes d’intelligence artificielle destinés à interagir avec des personnes physiques sont tenus à une obligation de transparence. Les personnes physiques doivent être informées qu’elles sont en interaction avec un système d’intelligence artificielle.
Bâtir une réglementation sur la base de l’évaluation du risque semble être un garde fous cohérent et pertinent pour l’intelligence artificielle. Cependant, le texte présente des lacunes qui ont été soulevées par plusieurs acteurs.
Ainsi, le Contrôleur européen de la protection des données met en lumière la nécessité d’élargir le champ des systèmes d’intelligence artificielle interdits et de clarifier leur définition.
De plus, de nombreuses exceptions au système créé par le texte du 21 avril 2021 remettent en question la pertinence du principe d’interdiction des systèmes d’intelligence artificielle.
Une initiative européenne soulignée
La proposition de règlement du 21 avril 2021, constitue une avancée significative dans la régulation de l’intelligence artificielle. L’objectif que s’est fixé le Parlement européen était de soumettre cette dernière à un régime juridique qui ne soit, toute fois pas trop contraignant pour les entreprises du secteur. Une mise en balance des intérêts, éthiques, économiques et sociaux a permis d’aboutir à cette proposition de règlement. On ne peut que saluer l’initiative européenne, qui place l’Union parmi les pionniers en la matière.
Cependant, le juriste ne peut que déplorer l’existence de plusieurs fragilités. D’une part, des limites relatives à la mise en pratique du régime juridique peuvent être soulevées. D’autre part, le texte ne ne consacre pas suffisamment d’importance aux enjeux éthiques et sociaux que représentent l’intelligence artificielle. Enfin, rappelons qu’il ne s’agit que d’une proposition de règlement; son entrée en vigueur au sein des Etats membres n’est pas prête de voir le jour. Le progrès technique de son coté n’est pas si lent, ou en sera l’intelligence artificielle d’ici là, nul ne peut le prédire.
Sources =
https://edpb.europa.eu/system/files/2021-06/edpb-edps_joint_opinion_ai_regulation_en.pdf
https://www.cnil.fr/fr/
Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle
Quelle politique européenne de l’intelligence artificielle ? – Céline Castets-Renard – RTD eur. 2021
“Il sera toujours là”: en Chine, le petit ami parfait est… virtuel – France 24 – 24/08/2021