Qu’est-ce qu’une Deepfake ? Il s’agit de la contraction entre deux mots : « Deep Learning » et « Fake ». Ce terme désigne le contenu mais également la technologie qui permet de créer une vidéo. Une Deepfake est une vidéo ou un enregistrement audio qui a été altéré à l’aide de l’intelligence artificielle. Cette altération permet de modifier les images en les supposant et les combinant de façon à créer une vidéo dans laquelle un visage a été remplacé par un autre, ce qui donne l’illusion que c’est une autre personne qui est mise en scène. La falsification peut porter sur la voix, l’image ou bien le corps et ce dernier peut être soit immobile ou soit en mouvement. Le phénomène est apparu en 2017, sur Reddit, lorsqu’un utilisateur a intégré les visages de célébrités dans des films X.

Les dangers liés à l’utilisation du Deepfake

L’un des plus grands dangers liés à l’utilisation de la Deepfake est que n’importe qui est en mesure de pouvoir en créer, en particulier à l’aide de logiciel qui utilise l’intelligence artificielle, par exemple : l’application FakeApp. Pour l’instant nous sommes en mesure de détecter les fausses vidéos mais si cette technologie continue à se développer, il n’est pas inenvisageable de penser qu’il deviendra très difficile, voire impossible, de détecter les Deepfakes. Aujourd’hui, il s’agit simplement de vidéos avec des stars Hollywoodienne ou des présidents américains qui sont tournés en ridicule mais l’impact de ce type de vidéo peut être désastreux.

La propagation des Deepfakes est tout autant dangereuse que les fakes news, les dangers qui peuvent en découler sont la manipulation, la diffamation, l’humiliation ou encore la désinformation. Ces vidéos peuvent également être créées à mauvais escient et propager sur les réseaux sociaux, c’est-à-dire dans le but de créer des infox, à des fins de propagande, voire même de terrorisme. Par exemple, ces fausses vidéos peuvent discréditer des candidats aux élections et dans cette optique, le réseau social qui est Facebook a décidé de retirer toutes les DeepFakes de sa plateforme.

Une décision prise dans un contexte de campagne électorale

En Amérique, lors des campagnes politiques, les partis peuvent user de l’exagération, de la partialité, du mensonge aux fins de discréditer l’autre partie, sans compter l’influence extérieure. Mark Zuckerberg a longtemps confirmé que la politique de Facebook concernant les publicités politiques était de ne pas distinguer le vrai du faux, et de ce fait, laisser en ligne les publicités. Cette politique menée par Facebook a longtemps été pointée du doigt[s] par les partis politiques car pour eux, il s’agit uniquement d’une plateforme véhiculant de l’infox. La raison de cette prise de position face au DeepFake peut s’expliquer en raison du contexte qui est en train d’intervenir aux États Unis, les campagnes électorales.

Facebook s’engage à retirer les Deepfake de sa plateforme

Le 6 janvier, la vice-présidente de la stratégie, Monica Bickert, a annoncé que le réseau social Facebook retirait les Deepfakes et que ces dernières n’apparaitraient plus sur la plateforme numérique, cela concerne aussi bien les vidéos que les audios. Cette décision n’est pas si surprenante dans la mesure où le réseau social avait lancé un concours en septembre 2019 avec à la clé plus de 10 millions de dollars de prix. L’objectif de la firme étant d’encourager la création de nouveaux logiciels capables de détecter les plus subtiles retouches qui échapperaient aux logiciels mis en place par le géant américain.

Pour être considérée comme une Deepfake, il faudra réunir deux critères selon le communiqué. Le premier étant qu’: « il faut qu’elle soit éditée « au-delà des ajustements pour la clarté ou la qualité, d’une manière qui n’est pas apparente pour une personne lambda et qui pourrait probablement induire en erreur en faisant croire qu’un sujet dans la vidéo a dit des mots qu’il n’a pas réellement prononcés ». Le second prévoit que « C’est le produit de l’intelligence artificielle ou de l’apprentissage automatique qui fusionne, remplace ou superpose le contenu d’une vidéo, le faisant alors paraître comme authentique ». Ces deux critères seront analysés par les outils informatiques mis à disposition par le géant américain, dès lors qu’ils sont remplis la Deepfake sera caractérisée.

Toutes les vidéos de Deepfakes ne sont pas concernées par cette suppression, la plateforme met en place deux exceptions à cette règle. La première étant les vidéos à caractère humoristique, catégorie dans laquelle on peut inclure les parodies ou les satires et la seconde catégorie concerne les vidéos où les mots ont changé d’ordre voire ont été omis. La sanction prévue par facebook étant « Si une photo ou une vidéo est jugée fausse ou partiellement fausse (…), nous réduisons considérablement sa distribution dans le fil d’actualités et la rejetons si elle est diffusée en tant qu’annonce ». L’une des difficultés de cette suppression repose sur le juste équilibre que la plateforme va devoir trouver pour éviter toute forme de censure.

Source :

• BALENIERI R., « Un an avant l’élection américaine, Facebook fait la guerre aux « deepfakes », Les echos, 7 janvier 2019
• BICKERT M., « Enforcing Against Manipulated Media », blog Facebook, 6 janvier 2020
• LAUSSON J., « À l’ère du fake : cette technologie transfère des mouvements sur le corps d’une autre personne », Numerama, 24 août 2018
• KAHN S., « Facebook va interdire les vidéos deepfake et les supprimer de sa plateforme », Le Figaro, 7 janvier 2020
• TUAL M., « « Deepfakes » : faut-il avoir peur de ces vidéos trafiquées ? », Le Monde, 24 novembre 2019
• « Vidéos truquées ou détournées : Facebook durcit ses règles de modération », Le monde, 7 janvier 2020
• « Deepfake : tout savoir sur la nouvelle menace liée à l’IA », Le bigdata, 18 juin 2019