par Yanis IDRI, étudiant du Master 2 Droit des médias électroniques

Les deepfakes, contenus multimédias générés à l’aide de l’intelligence artificielle, consistent en des vidéos ou des images créées de de toutes pièces ou en modifiant des éléments d’une vidéo ou d’une image existante pour donner l’apparence que des personnes disent ou font des choses qu’elles n’ont jamais faites. Ces créations sont conçues pour sembler authentiques, ce qui les rend particulièrement trompeuses.

Les deepfakes peuvent être utilisés à des fins divertissantes, mais ils soulèvent également des préoccupations majeures, car ils permettent la création de contenus trompeurs et la diffusion de fausses informations. La technologie des deepfakes a des implications importantes en matière de désinformation, de protection de la vie privée et de manipulation de l’opinion publique.

Afin de contrer les dérives liés à cette technologie, le Gouvernement a récemment pris des mesures en intégrant deux amendements dans le Projet de loi visant à sécuriser et réguler l’espace numérique, également connu sous le nom de Projet de loi SREN. Ce texte actuellement soumis au vote de la Commission mixte paritaire a été validé le 17 octobre 2023 par l’Assemblée nationale.

Le premier amendement introduit un nouveau délit à l’article 226-8-1 du Code pénal, visant à réprimer la publication de montages traditionnels et de deepfakes à caractère sexuel sans le consentement de la personne représentée.

Le second amendement a pour objectif d’élargir la portée de l’article 226-8 du Code pénal qui sanctionne la publication d’un montage reprenant la voix ou l’image d’une personne pour y inclure explicitement les deepfakes.

Les fondements actuels de la protection de l’image des individus

Le droit positif prévoit des mécanismes qui permettent aux personnes physiques de prévenir le détournement de leur image.

Le droit à l’image n’est consacré par aucun texte juridique. Toutefois l’article 9 du Code civil qui protège le droit au respect de la vie privée constitue le principal fondement de la protection des droits de la personnalité. Le droit à l’image, qui figure au rang des droits de la personnalité, entre ainsi dans le champs de la protection de l’article 9 du Code civil.
Cette protection est complétée par une disposition répressive, l’article 226-1 du Code pénal qui sanctionne les atteintes à la vie privée.
Enfin, l’acte de publication d’un montage en utilisant l’image ou les paroles d’un individu sans son consentement est réprimé par l’article L226-8 du Code pénal.

Une pénalisation de l’utilisation non consentie de l’image d’une personne

L’article 5 ter du Projet de loi SREN introduit un nouvel article 226-8-1 dans le code pénal. Celui-ci dispose que la publication d’un montage contenant des paroles ou une image à caractère sexuel d’une personne sans son consentement est passible de deux ans d’emprisonnement et de 60 000 euros d’amende sans distinction pour le procédé de conception (contenu créé de façon traditionnelle ou généré par intelligence artificielle). Il peut paraître étonnant que ce texte vise spécifiquement les contenus à caractère sexuel, mais l’examen de la ratio legis révèle les objectifs poursuivis. Les chiffres de l’association Deeptrace avancés par le Gouvernement établissent une corrélation : 96% des vidéos « deepfake » sont des vidéos pornographiques et 99% d’entre elles concernent des femmes. En 2019, 8 des 10 sites pornographiques les plus consultés hébergeaient des «deepfakes », et une dizaine de sites pornographiques leur étaient exclusivement dédiées. La création du nouvel article 228-8-1 dans le Code pénal participe de la lutte contre le sexisme.

Le second amendement prévoit deux modifications à l’article 226-8 qui sanctionne d’un an de réclusion et 15 000 euros d’amende « le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention ». Le premier alinéa est complété afin d’inclure formellement les deepfakes définis comme « un contenu visuel ou sonore généré par un traitement algorithmique ». Les sanctions sont toutefois aggravées lorsque la publication d’un deepfake est effectuée via un service de communication au public en ligne. Dans ce cas, les peines maximales pourraient atteindre deux ans d’emprisonnement et 45 000 euros d’amende.

Une volonté louable d’établir un régime juridique des deepfakes vraisemblablement insuffisante

Bien que ces modifications législatives montrent la volonté du législateur de créer un cadre juridique pour faire face aux nouveaux défis posés par l’intelligence artificielle, il existe des questions sur la portée du texte. L’application du nouvel article 226-8 du Code pénal qui suppose en premier lieu que le contenu ait été publié sans l’autorisation de la personne dont il reprend des éléments d’identité visuelle ou sonore est soumise à deux conditions alternatives. Sa portée est limitée aux deepfakes qui n’apparaissent pas à l’évidence comme des contenus générés à l’aide d’un algorithme ou le cas échéant si la mention de l’utilisation d’un tel procédé n’est pas expressément mentionnée.
La simple mention de l’utilisation de l’IA qui informe le public sur le caractère factice du contenu permet de contourner facilement le texte afin d’échapper aux sanctions. Cependant la personne dont les traits ou la voix sont repris serait ainsi privée de toute action sur ce fondement, ce qui est d’autant plus regrettable si la représentation est dégradante.
De plus, le texte ne s’applique pas si l’usage de l’IA est évident pour le public, créant ainsi une certaine subjectivité et de l’incertitude juridique génératrice d’une jurisprudence abondante.

La législateur traduit au travers du Projet de loi visant à sécuriser et réguler l’espace numérique sa volonté de créer un cadre juridique permettant d’appréhender les nouvelles problématiques soulevées par l’intelligence artificielle. Il vise davantage à lutter contre le phénomène de désinformation qu’à préserver les individus des atteintes à leur image, en témoigne la nouvelle rédaction de l’article 226-8 du Code pénal.

Sources

Projet de loi numérique SREN (vie-publique.fr)
Amendement modifiant l’article 226-8 du Code pénal (senat.fr)
Amendement insérant un nouvel article 226-8-1 dans le Code pénal (senat.fr)
Article 226-8 – Code pénal – Légifrance (legifrance.gouv.fr)
Projet de loi n°1514 – 16e législature – Assemblée nationale (assemblee-nationale.fr)
Deepfakes : un Projet de loi visant à sécuriser et réguler l’espace numérique ? (haas-avocats.com)