« Les récentes attaques terroristes nous rappellent à quel point il est urgent de lutter contre les discours de haine en ligne. [Afin] qu’Internet reste un lieu d’expression libre et démocratique, dans lequel les valeurs et les législations européennes sont respectées ». Loin de nier la jurisprudence Handyside[1], la commissaire européenne Vera Jourova propose une responsabilisation de la société civile et des services de communications électroniques.
A travers Youtube Heroes, la plateforme de Google entend développer un programme promouvant le mérite de la majorité de ses utilisateurs à savoir ceux qui ne produisent pas de vidéos. Ils sont invités depuis le 20 septembre 2016 à multiplier les contributions aux sous-titrages, les commentaires bienveillants mais également les signalements en échange de points. Ces points permettront de gravir les échelons et de se voir reconnaitre un statut privilégié pouvant inclure des boutons de signalements supplémentaires, des interactions fréquentes avec les équipes de Youtube et des invitations aux évènements.
Loin d’être anecdotique, cette annonce a provoqué une levée de boucliers du côté des vidéastes. Ces derniers craignent qu’une telle possibilité engendre, du fait d’un certain anonymat inhérent à nos usages numériques, de nombreux abus. Il s’agirait alors d’une course au titre de Héros au cours de laquelle des internautes risqueraient de céder au clic déraisonnable, au signalement inapproprié avec la seule perspective de gagner des points, au détriment de la liberté d’expression.
Une prise de position rendue nécessaire aux Etats Unis mais qualifiée de censure
Les facultés précédemment décrites existaient déjà, Youtube ne vient pas allonger la liste. Pourtant, il assure que le signalement effectué dans le cadre de l’initiative Heroes sera bien plus rapidement et plus sérieusement prise en compte.
Cette démarche s’inscrit dans l’élan de lutte contre ce que les juristes européens qualifieraient d’abus – au contraire des américains qui y verraient un plein exercice de la liberté d’expression. Youtube, Twitch ou Facebook sont devenus en quelques années le terreau plus ou moins fertile du trolling, du swatting[2] et du cyber harcèlement.
Les campagnes nationales contre le harcèlement et sa forme électronique ont débuté aux Etats Unis depuis 2007. Elles incitent nécessairement les plateformes à développer des projets à hauteur de leurs responsabilités.
S’agissant de la liberté d’expression, la Constitution américaine empêche le Congrès de légiférer et donc de retenir la responsabilité juridique de la plateforme aussi strictement que le fait le droit français. Ce n’est donc pas de cette responsabilité dont il était question. Le site internet revêt un rôle essentiel dans la transmission des informations et apparait, aux yeux des utilisateurs et des victimes, comme un vecteur de discours haineux. Cette responsabilité dans sa dimension sociale est corrélée au risque réputationnel.
Une augmentation exponentielle des contenus à caractère haineux ou dangereux qui ne serait pas freinée par un certain contrôle de la part de Youtube entrainerait une baisse du sentiment de sécurité, une baisse de fréquentation et in fine une perte de croissance pour l’entreprise.
D’autres hébergeurs américains tels Reddit, 4Chan et InfiniChan font de l’absence de contrôle leur fer de lance. Ces espaces d’échanges souvent anonymes sont aujourd’hui reconnus pour être des lieux de « persécution humoristique », plus souvent nommée trolling[4]. Une telle tendance engendre immanquablement un climat d’insécurité pour les utilisateurs des services de communication électronique. Présente sur Youtube, elle y est cependant plus modérée.
Les cas de cyber-harcèlement médiatisés aux Etats Unis ainsi que le rôle croissant des médias sociaux dans des décisions aussi importantes qu’en matière d’élections politiques conduisent à une autorégulation du secteur. En cela, ce mouvement n’induit pas de perméabilité des visions européennes et américaine de la liberté d’expression en que cette dernière se verrait apporter des limites comme l’entend la première. Mais Youtube Heroes s’inscrit plutôt dans la logique libertaire de la Silicon Valley[5] qui prône toujours plus d’autorégulation que de législation.
Une mesure inspirée du Code de conduite contre les discours haineux illégaux
De l’autre côté de l’Atlantique, l’Europe tente d’endiguer les flux de discours haineux lorsqu’ils sont pénalement sanctionnés en droit interne. Aussi le 31 mai 2016, un Code de conduite en discussion depuis quelques années dans le cadre de l’EU Internet Forum a-t-il enfin été adopté. Signé par Facebook, Microsoft, Twitter et Youtube sous l’égide de la Commission européenne, le texte fixe en douze points de ce qui peut et doit être accompli par ces plateformes face aux discours incitant à la haine et à la violence.
Il y est d’abord prévu une amélioration du système de traitement des signalements valides. Ce caractère valide tient en une précision suffisante et une démonstration pertinente. Grâce à des guides internes clairs et des politiques unifiées, les employés doivent être à même de comprendre quels sont les contenus formellement proscrits par les conditions générales d’utilisation et quels sont les contenus tolérés. Les cas de « faux-positifs » – une suppression alors que les conditions n’étaient pas remplies ou sont discutées comme la disparition de l’Origine du monde du réseau Facebook – s’en trouvent limités. Les détracteurs du programme Youtube Heroes peuvent donc être rassurés.
Les règles étant clairement définies et régulièrement mises à jour au sein de l’entreprise, elles permettront à un plus grand nombre de salariés de supprimer ou rendre inaccessibles les discours illégaux de haine. La promotion de héros Youtube participe de cette multiplication des acteurs-modérateurs. En conséquence, le traitement des signalements bénéficiera d’une plus grande célérité, l’’objectif établi par le Code de conduite étant un délai de vingt-quatre heures.
Enfin, les médias sociaux se sont engagés à développer les partenariats avec la société civile et maintenir ceux qui existaient déjà[6]. A ce titre, Renaissance numérique a bénéficié d’un apport financier pour son dernier projet. L’association se voit comme « un lieu d’échanges, de réflexion et de production d’idées. » Depuis le mois de mai, elle a mis en place Seriously, une plateforme collaborative « pour agir contre les discours de haine Et recréer du lien social. »
La participation financière au think tank de Renaissance numérique par Google, Facebook et Twitter n’est donc pas fortuite. Au contraire, elle fait partie de leurs engagements européens.
Plutôt que d’inciter la plateforme à opérer seule un contrôle permanent, l’Union européenne mise sur une mutualisation des efforts. Avec Youtube Heroes et Seriously se dessine ce que M. Guillaume BUFFET, porteur de cette dernière initiative, nomme le « P2P contre les discours de haine. » Mais une modération sur le modèle du P2P est-elle suffisante ?
Une mesure insuffisante et incertaine au regard des attentes européennes
Un rapport communautaire remise le 4 décembre 2016 fait état de délais traitement toujours loin des objectifs établis en mai dernier. La majorité des signalements dits valides recevraient une réponse sous quarante-huit heures ou plus alors que le Code prévoyait la moitié.
Compte tenu du nombre quotidien croissant de mises en lignes et de commentaires, le résultat peut sembler satisfaisant. Mais pas pour la Commission européenne qui estime que les plateformes doivent fournir plus d’effort. Le programme Youtube Heroes n’ayant été dévoilé qu’en septembre, peut-être les prochains résultats permettront-ils d’améliorer les résultats.
Mais la modération de pair à pair qui le compose interroge les motivations économiques de Youtube. Des utilisateurs y perçoivent une forme de travail gratuit et un moyen plus ou moins dissimulé de ne pas procéder lui-même à la gestion des contenus litigieux.
La question se pose en effet de l’articulation entre les deux modalités de signalement. La fiabilité et la confiance gagnée par le Héros semble conduire à une présomption qui peut prêter à confusion. Un des arguments du nouveau programme est une plus grande célérité dans la prise en compte des signalements que par la voie classique. Même si le contenu ne sera pas nécessairement supprimé, une légitimité accrue est accordée au Héros.
Les prochaines études permettront sans doute de dégager avec plus de certitude les nouveaux contours de cette modération qui doit continuer à respecter le Code de conduite contre les discours de haine illégaux. Loin de pouvoir se substituer aux obligations liées à la qualité d’hébergeur, Youtube Heroes a cependant le potentiel d’être une alternative collective et collaborative de combattre les dérives sans pour autant être la censure précédemment décrite.
SOURCES :
BEREDEAUX (A) et BOURGUIGNON (C), Les géants du web doivent mettre les bouchées doubles dans la lutte contre les discours de haine : <https://www.droit-technologie.org/actualites/geants-web-doivent-mettre-bouchees-doubles-lutte-contre-discours-de-haine/>
KARAYAN (R), Facebook et Google financent une plateforme pour contrer les trolls et les complotistes : <http://lexpansion.lexpress.fr/high-tech/facebook-et-google-financent-une-plateforme-pour-contrer-trolls-et-complotistes_1776799.html>
Communiqué de presse de la Commission européenne : <http://ec.europa.eu/malta/news/fighting-illegal-online-hate-speech-first-assessment-new-code-conduct_en>
Synthèse du rapport commandé par la Commission : <http://ec.europa.eu/newsroom/document.cfm?doc_id=40573>
Présentation de l’association Renaissance numérique : <http://www.renaissancenumerique.org/think-tank/presentation>
[1] CEDH, 7 décembre 1976, Handyside c. Royaume-Uni n° 5493/72
[2] Pour aller plus loin, l’article de Mégane AMBLARD sur la notion et les conséquences du swatting.
[4] Le terme peut cependant recouvrir plusieurs significations, voir en ce sens une analyse approfondie du phénomène.
[5] ITEANU (O), « Liberté d’expression et freedom of speech » in Quand le digital défie l’Etat de droit, Eyrolles, 2016
[6] A l’instar de la collaboration entre des associations telles qu’e-Enfance et Facebook dans la lutte contre le cyber-harcèlement et la violence en ligne.