par Manon LEONARD, étudiante du Master 2 Droit des communications électroniques

L’État de Californie est venu adopter en septembre 2024 deux lois concernant la réglementation de l’intelligence artificielle : l’Assembly Bill (2602) relatif à la protection des artistes face aux nouvelles répliques et le California AI Transparency Act créant de nouvelles obligations pour les IA génératives.

En effet, pour la Californie, la réglementation de l’intelligence artificielle (IA) est devenue l’un des sujets les plus importants. En 2023, les scénaristes américains ont fait une grève pendant plus de 146 jours, appelée « Writers Guild of America »  aux fins de lutter contre plusieurs problèmes liés à leur métier et notamment à l’encadrement de l’intelligence artificielle.

Le 17 septembre 2024, le projet de loi nommé « Assembly Bill 2602 » a été approuvé. Cela a permis d’ajouter l’article 927 au Code du travail. Cette loi contient un seul et unique article. Cet article explique qu’une clause dans un contrat entre deux personnes ne pourra pas être appliquée si elle concerne une prestation future effectuée par une réplique numérique (tel qu’un avatar). Cependant, il faudra vérifier l’ensemble des conditions prévues par l’article.

À la suite, au sein de l’article, le terme « digital replica » ( = réplique numérique) » est défini comme : «a computer-generated, highly realistic electronic representation that is readily identifiable as the voice or visual likeness of an individual that is embodied in a sound recording, image, audiovisual work, or transmission in which the actual individual either did not actually perform or appear, or the actual individual did perform or appear, but the fundamental character of the performance or appearance has been materially altered. »

Cette loi prend le temps d’exclure certains procédés qui ne font pas partie de la définition de «  digital replica» tels que la reproduction électronique, l’utilisation d’un échantillon d’un enregistrement sonore ou d’une œuvre audiovisuelle dans un autre, le remisage, le matriçage ou la re-matérialisation numérique d’un enregistrement sonore ou d’une œuvre audiovisuelle autorisée par le titulaire du droit d’auteur.

L’entrée en vigueur de cette loi est prévue pour le 1er janvier 2025.

Ce projet de loi, approuvé par le gouverneur, permet enfin une protection effective des artistes de l’industrie du cinéma et apporte une certaine transparence au niveau des contrats. 

La Californie avait déjà essayé en février 2024 de réglementer l’intelligence artificielle avec une loi SB 1047 visant à encadrer les systèmes d’IA à haute capacité. Cette loi devait s’orienter uniquement vers les intelligences artificielles dites « avancées » qui pouvaient gérer et traiter de nombreuses informations. 

Cependant, le gouverneur Gavin Newsom a opposé son véto en estimant que même si la loi était ambitieuse, elle n’était pas adaptée aux risques actuels. Un nouveau projet de loi a ensuite été approuvé le 19 septembre 2024. Le California AI Transparency Act vise à mettre en place des obligations pour les IA génératives.

Cette loi contient 6 articles et a été ajoutée au Code du travail dans un chapitre 25. Cette loi va permettre au gouvernement de pouvoir établir un plan, la faisabilité et les obstacles afin de déterminer la provenance des contenus numériques.

Au sein de son préambule, le terme « deepfakes » a été défini comme : « mean audio or visual content that has been generated or manipulated by artificial intelligence that would falsely appear to be authentic or truthful and that features depictions of people appearing to say or do things they did not say or do without their consent, on state government, California-based businesses, and residents of the state. » Autrement dit, cette définition fait référence à des contenus numériques à base d’intelligence artificielle dans le but de rendre un contenu faussement authentique ou véridique, pouvant tromper l’œil du consommateur. 

Au sein de son premier article, plusieurs termes ont été définis, dont « Artificial intelligence » qui est défini comme «  an engineered or machine-based system that varies in its level of autonomy and that can, for explicit or implicit objectives, infer from the input it receives how to generate outputs that can influence physical or virtual environments », et le terme «Covered provider » (= Fournisseur couvert) est défini comme « a person that creates, codes, or otherwise produces a generative artificial intelligence system that has over 1,000,000 monthly visitors or users and is publicly accessible within the geographic boundaries of the state. ».

Ces définitions sont très importantes au sein de la loi et permettent d’encadrer la réglementation de l’intelligence artificielle en lien avec les fournisseurs couverts. Pour mieux comprendre l’encadrement de cette loi sur l’intelligence artificielle, la loi a pris le soin de définir d’autres termes tels que « generative artificiel intelligence system », « latent », « manifest », « personnel information ». 

L’article 2 exige des fournisseurs couverts de mettre en place un outil de détection de l’intelligence artificielle sur un contenu numérique pour le public gratuitement. Autrement dit, cette lourde obligation imposée aux fournisseurs couverts permet l’élaboration de normes technologiques et permettrait la protection des consommateurs qui consomment le contenu. 

Quant à l’article 3, celui-ci prévoit une seconde obligation, dans laquelle les fournisseurs doivent pouvoir offrir la possibilité d’inclure une divulgation manifeste et latente dans un contenu numérique selon des conditions précises. Autrement dit, les fournisseurs seront obligés de prévoir cela aux fins de protection des consommateurs et d’éviter la prolifération des « deepfakes ».

Les 3 derniers articles de la loi prévoient les sanctions en cas de non-respect, qui sont de 5000 dollars par violation, ainsi que les cas exclus du champ d’application de la loi (produits et services, sites internet, applications de jeux vidéo, émissions et films). Le dernier article fait référence à la date d’entrée en vigueur de la loi, qui aura lieu le 1er janvier 2026.

Le fait que l’entrée en vigueur de la loi se fera uniquement dans un peu plus d’un an laisse le temps aux fournisseurs couverts de se mettre en conformité. 

En parallèle, l’Europe a, elle aussi, contribué à l’encadrement de l’intelligence artificielle en adoptant un règlement.

En effet, le règlement européen sur l’intelligence artificielle (RIA aussi appelé AI Act) a été adopté le 13 juin 2024 et sera applicable progressivement entre 2025 et 2027. Ce règlement est paru au Journal officiel de l’Union européenne le 12 juillet 2024 et prévoit une classification des systèmes d’IA selon le risque encouru. 

Le RIA a pour objectif d’encadrer les systèmes d’IA afin de garantir et de protéger les droits fondamentaux des personnes, comme la loi californienne « California AI Transparency Act ». Même si les deux textes ne traitent pas précisément des mêmes obligations, ils ont une finalité commune, car il incombe aux fournisseurs de respecter certaines obligations dans le but de protéger les consommateurs de contenus numériques et d’encadrer les systèmes d’IA. 

Le RIA définit dans son article 3, le terme « système d’intelligence artificielle » comme étant : « un logiciel qui est développé au moyen d’une ou plusieurs des techniques et approches énumérées à l’annexe I et qui peut, pour un ensemble donné d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit » et non celui d’intelligence artificielle au sens général. Pour sa définition du terme  « fournisseur », elle est plutôt similaire à celle du « California AI Transparency Act », qui est perçu comme : « une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’IA en vue de le mettre sur le marché ou de le mettre en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit ».

Cependant, le RIA ne se prononce ni sur les nouvelles répliques ni sur la question du doublage par intelligence artificielle. Pourtant, l’intelligence artificielle menace ce secteur. Pour cette raison, le Syndicat Français des artistes Interprètes et l’association LesVoix ont décidé de mettre en place une pétition intitulée « Un doublage créé par des humains pour des humains » en début d’année 2024 pour éviter la perte d’emploi dans ce secteur. 

Pour conclure, même si l’État de Californie est en avance sur l’encadrement de l’intelligence artificielle, l’Europe fait son maximum pour essayer de réglementer au mieux les systèmes d’intelligence artificielle. 

Source : 

*SB-942 Loi californienne sur la transparence de l’IA en date du 19 septembre 2024 

• AB-2602 Contrats contraires a l’ordre public : services personnels ou professionnels : répliques numériques
• Règlement (UE)  2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle.