par Jacques Jules Abélardo SEIDE, étudiant du Master 2 Droit des communications électroniques
Le Conseil de l’intelligence artificielle et du numérique (CIANum), mandaté par la ministre déléguée chargée de l’Intelligence artificielle et du Numérique, Madame Anne Le Hénanff, a publié le mardi 10 novembre 2026, un rapport intitulé : « Protéger sans empêcher : nos vulnérabilités à l’ère de l’IA générative ». Ce rapport s’intéresse aux risques cognitifs, sociaux et démocratiques liés aux systèmes d’IA tels que Chat GPT, Gemini ou Claude. Le Conseil a formulé 18 recommandations. Elles peuvent être déclinées en deux ordres : les recommandations prioritaires et celles dites complémentaires. Parmi ces recommandations, certaines visent à renforcer l’encadrement juridique des IA dites génératives. L’intérêt principal du rapport réside dans son analyse du cadre réglementaire existant en matière d’IA et dans sa volonté d’encourager une régulation fondée sur une logique préventives découlant des vulnérabilités induites par ces systèmes d’IA. C’est cette dimension du rapport que la présente note se propose d’examiner.

Un cadre juridique jugé insuffisant pour encadrer les IA génératives
Selon le rapport, le cadre juridique actuel du droit du numérique pour saisir l’IA générative et ses vulnérabilités repose principalement sur deux catégories d’instruments juridiques. D’une part, on a un droit de la régulation des dispositifs numériques. Celui-ci s’applique aux produits, services numériques ou traitements des données. En guise d’exemple, on peut citer : le Règlement sur l’intelligence artificielle (RIA), le Règlement sur les services numériques (RSN), le Règlement sur la sécurité générale des produits (RSGP), le RGPD. Dans une approche par les risques, ces textes font peser un ensemble d’obligations aux différents acteurs du numérique notamment les acteurs du monde de l’IA. En ce sens, à titre illustratif, on peut se référer au classement pyramidal des risques effectué par le RIA.
D’autre part, le droit du numérique actuel repose sur des instruments qui tendent à saisir les dommages causés par ces outils lorsque l’approche par les risques échoue à son objectif, celui de protéger les citoyens et individus. Pour cela, le législateur européen fait usage de nombreux textes : La Directive (UE) 2024/ 2853 relative à la responsabilité du fait des produites défectueux, la Directive (UE) 2019/770 relative à certains aspects concernant les contrats de fourniture de contenus et services numériques.
Cette superposition normative conduit à un système qualifié par les commissaires comme un véritable « mille-feuille » réglementaire, dont la cohérence demeure. Cette problématique de la cohérence des textes européens relatifs au numérique n’est d’ailleurs pas nouvelle au sein de l’Union européenne. Elle est posée à la fois dans l’articulation des textes entre eux et aussi dans l’articulation de la législation européenne avec celle des États membres.
Actuellement, le RIA constitue le principal texte européen en matière d’IA. Comme souligné plus haut, il est fondé sur une approche par les risques, car il distingue différents niveaux de risques et impose des obligations graduées aux fournisseurs de systèmes d’IA. Toutefois, le rapport souligne que la plupart des chatbots grand public ne relèvent pas de la catégorie des systèmes à haut risque et échappent ainsi aux obligations les plus exigeantes en matière d’évaluation préalable et de contrôle. Les principaux assistants conversationnels grand public ne sont généralement pas déployés dans les secteurs expressément identifiés comme à haut risque par le règlement. Ils ne sont donc soumis qu’à des obligations plus limitées, malgré leur influence potentielle sur la formation de l’opinion ou les comportements individuels.
Le rapport relève également que l’encadrement actuel demeure essentiellement fondé sur une logique ex post. Les autorités interviennent généralement après la réalisation du dommage ou après la constatation d’un manquement réglementaire. Cette approche apparaît insuffisante face aux risques liés à la manipulation de l’information, aux atteintes aux droits fondamentaux ou encore à l’exploitation des vulnérabilités cognitives et émotionnelles des utilisateurs.
Afin de combler ces lacunes, le Conseil recommande un changement de paradigme fondé sur une régulation ex ante. Elle préconise notamment la soumission des systèmes conversationnels grand public à une évaluation préalable avant leur mise sur le marché européen, accompagnée d’un contrôle continu pendant toute leur durée de commercialisation. Le rapport recommande également un accès renforcé des autorités et des chercheurs aux données d’usage afin de permettre une évaluation indépendante des risques.
Un rapport ambitieux mais confronté aux incertitudes inhérentes au développement de l’IA
S’il est vrai que les préoccupations soulevées par le rapport apparaissent légitimes, une interrogation fondamentale demeure : n’est-il pas trop tôt pour être affirmatif sur l’ampleur des risques relatifs à l’IA générative ?
En effet, le développement exponentiel de ces technologies demeure relativement récent. Nombreux sont ceux qui estiment que les connaissances scientifiques disponibles sur les risques liés à l’IA restent fragmentaires. En conséquence, les effets de long terme de l’IA générative sur les comportements individuels ou les institutions démocratiques sont difficiles à mesurer avec précision. Cette réalité peut expliquer en partie le caractère parcellaire du cadre légal relatif à l’IA. Comme le numérique dans sa globalité, le caractère évolutif de l’IA renforce cette difficulté. Dès lors, l’adoption de règles trop précises ou trop rigides pourrait conduire à une obsolescence rapide du cadre juridique. D’ailleurs, la Directive Omnibus numérique plus largement et la Directive Omnibus IA plus précisément de juillet 2026 visant à simplifier et ajuster le RIA peut conforter cette position.
À cet égard, l’approche privilégiée dans plusieurs États de tradition de Common Law mérite attention. Plutôt que d’adopter un cadre général consacré à l’IA, ces États privilégient une régulation sectorielle fondée sur la mobilisation de normes préexistantes relatives à la protection des consommateurs, à la concurrence, à la protection des données personnelles ou encore à la responsabilité civile. Cette méthode présente l’avantage du pragmatisme et favorise le développement de l’innovation technologique.
Toutefois, cette approche demeure elle-même critiquable. On peut en effet s’interroger sur la capacité réelle des mécanismes juridiques existants à appréhender certaines vulnérabilités inédites liées aux systèmes d’IA générative, notamment celles résultant de phénomènes tels que la personnalisation conversationnelle, la dépendance émotionnelle ou les capacités d’inférence de données sensibles.
Le rapport du CIANum s’inscrit dans un contexte où les pouvoirs publics cherchent encore à identifier avec précision les risques propres à l’intelligence artificielle générative. S’il met en lumière certaines limites du cadre juridique européen actuel, il soulève également une question fondamentale : comment réguler efficacement une technologie dont les effets demeurent en partie incertains ? Entre logique de précaution et impératif d’innovation, le rapport plaide en faveur d’une gouvernance davantage préventive des systèmes d’IA. Reste à déterminer si cette orientation pourra s’articuler durablement avec l’exigence de compétitivité et d’adaptation qui caractérise l’économie numérique contemporaine.
Sources
1.- BENBOUZID (B.) ; MENECEUR (Y.) ; SMUHA (N. A.), « Quatre nuances de régulation de l’intelligence artificielle. Une cartographie des conflits de définition », Réseaux, 2022/2-3, n° 232-233.
2.- SOULEZ (M.), « Questions juridiques au sujet de l’intelligence artificielle », Cahiers de la sécurité et de la justice, spéc. p. 82.
3.- DARNAULT (C.), « La protection des données personnelles : présentation des approches européennes et américaines », juillet 2021, n° 1.
4.- MAXWELL (W.), « La régulation de l’intelligence artificielle aux États-Unis », IGPDE, février 2025, n° 23.
5.- MENECEUR (Y.), « Réglementation de l’intelligence artificielle : une perspective transatlantique », Université de Strasbourg, mars 2023.
6.- Conseil de l’intelligence artificielle et du numérique (CIANum), Commission « IA générative et vulnérabilités », Protéger sans empêcher : nos vulnérabilités à l’ère de l’IA générative, novembre 2026.
7.- Présidence de la République & CIANum (2026) Dossier de remise officielle du rapport de la Commission d’experts sur l’IA générative.
8.- Union Européenne Règlement (UE) 2024/1689 du Parlement européen et du Conseil relatif à l’intelligence artificielle (EU Artificial Intelligence Act / RIA).
9.- Commission Européenne Cadre juridique sur l’IA : Bâtir l’avenir numérique de l’Europe (Approche fondée sur les risques et articulation des autorités).
10.- PIQUARD (A.), « Une commission préconise de mieux encadrer les assistants IA en France, de ChatGPT à Gemini ou Grok », Le Monde, 10 novembre 2026.