par Léane MORIN, étudiante du Master 2 Droit des communications électroniques
Le passage de l’intelligence artificielle (IA) générative à l’intelligence artificielle agentique représente une avancée significative tant sur le plan technologique qu’éthique. Bien que ces deux systèmes se ressemblent, leur fonctionnement et leur capacité à interagir avec leur environnement sont différents. Selon un rapport sur les technologies émergentes, rendu par un organisme indépendant situé aux États-Unis, bien que cette catégorie d’intelligence artificielle soit encore à l’état embryonnaire, l’IA agentique finira par être utilisée de manière régulière.
I. Qu’est-ce que l’intelligence artificielle générative et l’intelligence artificielle agentique ?
L’IA générative est une catégorie d’intelligence artificielle qui va consister à la création autonome de contenus, tels que des vidéos, des images, des sons, des textes ou bien d’autres types de données. Ces systèmes vont générer des contenus semblables à ce qui pourrait être crée par des humains. Il existe plusieurs techniques d’IA générative, deux d’entre elles sont celles que nous connaissons le plus. Premièrement, les neurones génératifs antagonistes, ces derniers sont souvent utilisés pour générer des images, des vidéos ou des textes. Puis dans un second temps, les generative pre-trained transformer (GPT) qui sont des modèles d’apprentissage automatique, qui sont généralement utilisés pour la génération automatique de texte comme ChatGPT.
L’IA agentique est une catégorie d’intelligence artificielle consistant à interagir avec les données et les outils informatiques ; elle nécessite une intervention humaine minimale contrairement à l’IA générative. Elle désigne des logiciels capables de prendre des décisions en toute autonomie. L’IA agentique va collecter des informations sur son environnement, afin d’identifier la tâche à accomplir, puis, elle va planifier le meilleur plan d’action afin d’exécuter les tâches. Elle va ensuite surveiller les résultats, afin d’améliorer ses performances au fil du temps. L’IA agentique est entièrement autonome et capable d’apprendre, ainsi que d’ajuster ses comportements en fonction des informations reçues et de son environnement, démontrant une grande adaptabilité au monde qui l’entoure. Cette catégorie d’IA se distingue par son efficacité et offre un très bon rapport coût-efficacité pour l’entreprise ou la personne qui l’utilise.
II. Les inconvénients liés à l’utilisation de l’intelligence artificielle
Toutefois, l’utilisation de l’IA peut soulever quelques inconvénients, notamment les problèmes de responsabilité en cas d’incident. En effet, déterminer la responsabilité en cas de contenus problématiques générés peut être délicat. Il y a encore les biais et les discriminations, et il a d’ailleurs été prouvé plusieurs fois que certaines IA pouvaient générer du contenu raciste. L’IA peut également pousser certaines personnes malveillantes à produire du contenu afin de tromper les personnes comme la technique du deep fake. L’IA soulève finalement la question des défis éthiques, notamment les questions liées à la propriété intellectuelle. En effet, comment faire lorsqu’une IA s’entraîne sur des œuvres déjà existantes, ou emprunte à des œuvres déjà existantes.
Il reste encore beaucoup de points à approfondir et à découvrir sur l’intelligence artificielle générative qui est celle que nous connaissons le plus jusqu’à aujourd’hui.
L’IA agentique vient donc introduire de nouvelles problématiques qui n’ont pas été identifiées auparavant, notamment le manque de transparence et de compréhension, car on ne sait pas comment cette IA prend ses décisions. Nous pouvons encore soulever le manque de jugement humain, dans certains cas une intervention humaine peut être nécessaire, en particulier dans des scénarios où des relations humaines sont en jeu. L’IA agentique va également impacter les emplois, particulièrement dans certains secteurs où elle va remplacer des tâches humaines complexes, entrainant ainsi des répercussions socio-économiques importantes.
III. Les solutions mises en place pour pallier ces inconvénients
Avec l’émergence de ces nouvelles technologies et les inconvénients qu’elles ont pu engendrer, l’Union européenne s’est donc efforcée de réguler l’utilisation de l’intelligence artificielle afin de maitriser son développement et éviter qu’elle ne devienne incontrôlable ou dangereuse.
L’Union européenne a fini par fixer un cadre juridique de l’IA en adoptant le règlement sur l’IA (AI act) le 13 juin 2024. Le règlement a pour objectif de veiller que les systèmes d’IA mis sur le marché soient sûrs et respectent la législation en vigueur. Ce règlement promeut une IA axée sur l’humain, puis, il vise également à renforcer la gouvernance et l’application de la législation existante en matière de sécurité applicable aux systèmes d’IA. Ce règlement va établir des règles harmonisées concernant la mise sur le marché des systèmes d’IA. Il va également viser à interdire certaines pratiques, notamment la reconnaissance des émotions sur le lieu de travail et établissement, ou bien encore, des systèmes visant à évaluer ou établir un classement de la fiabilité d’une personne. Le règlement sera pleinement applicable à partir du 2 août 2026.
Concernant la problématique liée à la propriété intellectuelle, le règlement sur l’IA prévoit plusieurs obligations de déclarations, de transparence, notamment celle de déclarer les contenus utilisés pour entraîner le modèle d’IA, ce qui pourrait également concerner les contenus protégés. Toutefois, cette obligation n’est que générale, le règlement n’a pas visé spécifiquement les droits de propriété intellectuelle. Ceci ne reste qu’une hypothèse, puisque ce sujet est controversé et qu’il n’y a aucune précision au sein du règlement.
Le Conseil de l’Europe a lui aussi adopté le 17 mai 2024 un traité international, visant à garantir une IA respectueuse des droits fondamentaux, face aux pratiques discriminatoires, d’atteinte à la vie privée, de remise en cause des processus démocratiques… Cette convention est un texte juridique contraignant pour les pays hors de l’Union européenne, ce qui va permettre d’instituer un cadre pour tous les signataires de cette convention.
Malgré le fait que des réglementations aient été mis en place, afin de traiter les problématiques liées à l’intelligence artificielle, elles ne répondent pas aux nouveaux défis soulevés par l’IA agentique.
IV. Conclusion
Il faut souligner que l’IA ne remplacera pas totalement les humains, puisque certains processus comme la régulation de contenus sur les plateformes ou sur internet, nécessitent encore une intervention humaine au sein de l’Union européenne. Comme mentionné précédemment, le règlement sur l’IA encourage l’adoption de systèmes d’intelligence artificielle (SIA) centré sur l’humain et digne de confiance, en privilégiant des SIA où l’intervention humaine reste essentielle. Cependant, ce cadre fixé par le règlement ne vise que l’Europe, il ne vise pas les pays hors de l’Union européenne.
Bien que l’arrivée de l’IA agentique ne soit pas immédiate, il est essentiel de se préparer à son émergence, même s’il convient d’abord de maîtriser l’IA générative. Cette catégorie d’IA (agentique) pose de nombreux risques et défis qui nécessitent une attention particulière. Il sera donc nécessaire d’établir une réglementation adaptée à cette nouvelle technologie, bien que nous puissions accuser un certain retard dans ce domaine, étant donné la rapidité des évolutions technologiques.
Sources :
https://artificialintelligenceact.eu/fr
https://www.lemagit.fr/actualites/366592816/De-lIA-generative-a-lIA-agentique-rapport