Un véto posé sur le projet de loi SB-1047 visant à encadrer les systèmes d’intelligence artificielle en Californie

Publié par le dans , | Consulté 79 Fois

Par Aurore LUNEL, étudiante en Master 2 Droit des communications électroniques

Leadeuse mondiale de l’innovation en matière d’intelligence artificielle générative, la Californie abrite aujourd’hui entre 30 et 50 des plus grosses entreprises d’intelligence artificielle dans le monde et est à l’origine d’un quart des brevets déposés aux États-Unis. Mais d’où vient l’intelligence artificielle, plus communément appelée IA ?  

Bien que le concept ait vu le jour dès 1956, c’est avec l’apparition des IA génératives, et notamment en 2022 avec l’avènement de ChatGPT d’OpenAI, que l’IA est devenue connue du grand public. Ce sous-domaine de l’intelligence artificielle permettant de générer des contenus de façon autonome a rapidement gagné en popularité. Et il ne s’agit là que d’un exemple d’IA générative parmi tant d’autres, ouvrant des possibilités considérables pour les entreprises en matière d’innovation et à ses utilisateurs.

Cependant, l’utilisation de ces systèmes d’intelligence artificielle a aussi mis en lumière des risques liés à leur utilisation. À ce titre, l’Union européenne s’est par exemple dotée cette année d’un règlement sur l’intelligence artificielle, l’AI Act, en optant pour une approche plus large et surtout différenciée. De l’autre côté de l’Atlantique, les États-Unis ne sont pas en reste. L’État de Californie a lui aussi souhaité à son tour se doter d’un encadrement normatif plus strict à travers le projet de loi SB-1047, proposé par le Sénateur Scott Wiener le 7 février 2024. Or, le 29 septembre dernier, le gouverneur Gavin Newsom a tranché la question en posant un véto sur ce projet de loi, mettant un terme à cette tentative de régulation des systèmes d’intelligence artificielle en Californie.

Une approche plus prudente que celle de l’Union européenne lorsqu’il s’agit d’innovation en matière d’intelligence artificielle

Le 29 septembre 2024, le gouverneur Newsom a ainsi posé son véto sur le projet de loi SB-1047, intitulé « Safe and Secure Innovation for Frontier Artificial Intelligence Models Acts » ou « AI Bill ». Ce texte visait, par le biais d’une série de mesures, à garantir la sécurité et à réguler le développement et l’utilisation des modèles avancés d’IA pouvant présenter des risques considérables pour la sécurité publique. Les mesures imposaient notamment aux entreprises des exigences de sécurité strictes pour leurs systèmes d’intelligence artificielle, incluant un protocole documenté, des audits ou encore la mise en place d’un mécanisme d’arrêt d’urgence d’un modèle d’IA en cas de défaillance grave. À cela s’ajoutait une mesure importante : la création d’un mécanisme de responsabilité des développeurs ainsi que des systèmes d’IA dans le cadre de dommages graves et extrêmement graves.

Par ailleurs, il faut également noter que ce projet de loi avait initialement suscité de vives réactions. Un clivage s’était instauré parmi les plus grands dirigeants des entreprises de la Silicon Valley (Meta, Google…), ainsi que certaines figures politiques importantes, telle que la Sénatrice Nancy Pelosi. La principale crainte portait sur l’impact potentiel d’une telle régulation sur l’innovation et la compétitivité des entreprises. La possibilité pour ces entreprises de quitter la Californie en direction d’autres États à la législation plus souple s’est même posée. Cette réaction est compréhensible lorsque l’on sait que la Californie est aussi connue pour être le berceau d’un certain nombre d’évènements dédiés à l’intelligence artificielle et où sont régulièrement débattus son essor et son avenir dans la société.

Et bien que cela s’annonçait mal engagé pour les partisans de l’innovation à la suite de l’adoption du texte par le Sénat ainsi que l’Assemblée de Californie, le gouverneur démocrate, Gavin Newsom, a mis fin au débat en transmettant un communiqué le 29 septembre 2024 dans lequel il pose son véto sur le projet de loi SB-1047. Par le biais de ce communiqué, il justifie sa décision par plusieurs raisons : d’abord, la crainte d’un « faux » sentiment de sécurité. En effet, cette loi se concentre uniquement sur les systèmes d’intelligence artificielle au sein d’entreprises à grande échelle, souvent très coûteux, sans traiter les modèles de plus petites entreprises, qui peuvent par ailleurs engendrer des conséquences similaires. De plus, selon Newsom et plusieurs experts, il existe également une absence de cas spécifique qui décourage les chercheurs à investir. En effet, la loi SB-1047 condamne la totalité des modèles d’IA qui répondent au critère d’échelle et de coût. Cela aurait ainsi tendance à freiner l’idée d’investir de manière importante et donc d’acquérir de nouvelles innovations en la matière, surtout en matière d’open source.

Malgré ce véto, le gouverneur a souligné dans son communiqué que sa décision n’est basée ni sur un désintérêt, ni sur un rejet total. Faisant partie des précurseurs en matière de régulation de l’IA, il souhaite collaborer activement avec les experts, universitaires et juristes afin de concevoir des régulations strictes mais aussi adaptées, permettant de trouver un équilibre entre encadrement et innovation. Cette question sur la manière de parvenir à encadrer l’IA sans freiner l’innovation résonne désormais aux États-Unis mais aussi jusque dans l’Union européenne. Cette année a en effet marqué l’apparition de nouvelles avancées de l’autre côté de l’Atlantique, permettant un parallèle entre les deux entités.

Le projet de loi SB-1047 en écho à l’adoption du règlement européen « AI Act » ? : un parallèle et des divergences

L’année 2024 a marqué le signe d’un débat majeur au Parlement européen portant sur la nécessité d’une régulation de ces systèmes d’IA et des risques associés à leur utilisation. Ce débat s’inscrit dans le courant d’une inflation législative européenne ayant conduit à des difficultés d’articulation et donc à une nécessité de clarifier les règles. C’est dans ce contexte que le règlement européen sur l’IA, encore appelé l’« AI Act », a été publié le 13 juin dernier.

À ce propos, on note certaines similarités entre les deux textes, notamment en matière de transparence et d’évaluation des modèles d’IA. Par ailleurs, une différence majeure réside dans l’approche européenne par le biais d’un plus large ciblage. Le texte vise en effet tant les grandes entreprises que les PME et propose de s’appuyer sur un seuil de calcul mais aussi sur des critères qualitatifs afin de déterminer les risques liés aux modèles d’IA pour ainsi les classer en différentes catégories. Il s’agit donc d’une approche plus différenciée et préventive, avec des obligations spécifiques pour chaque catégorie.

Pour le moment, cette démarche plutôt proactive n’a pas permis une meilleure compétitivité européenne en matière d’innovation. En effet, seulement quatre des 50 plus grandes entreprises technologiques mondiales sont européennes, en partie à cause d’un manque conséquent d’investissements financiers. De plus, l’AI Act impose une mise en conformité plus longue et complexe aux entreprises, freinant davantage l’innovation européenne déjà bien à la traîne derrière les États-Unis et la Chine. La Californie, quant à elle, avec ce véto du gouverneur, privilégie une approche plus mesurée et adaptable à l’évolution croissante de la technologie et des systèmes et modèles d’IA.

Ainsi, ces différences entre la régulation californienne et européenne montrent des priorités divergentes. Tandis que l’Europe met en avant la sécurité, la Californie mise sur une régulation plus flexible pour ne pas entraver l’innovation et nous place désormais dans l’attente d’une prochaine tentative de légifération.

Sources :