“Il est temps de protéger nos jeunes gens. Il est temps que la culture toxique qui est au cœur des réseaux sociaux change et qu’ils ne puissent plus orienter leurs profits aux dépens des souffrances des jeunes”. Ces mots sont ceux du père de Molly, une adolescente de 14 ans qui s’est donnée la mort au Royaume-Unis en 2017. Ce drame a conduit le père de la jeune fille à livrer un combat contre ceux qu’il considère comme ayant joué un rôle dans la mort de sa fille. Parmi eux se trouvent deux réseaux sociaux : Instagram et Pinterest. C’est la justice britannique qui, après une longue enquête, a finalement reconnu la responsabilité des deux plateformes.
La mise en avant de contenus sensibles et une enquête révélant le rôle d’Instagram et de Pinterest
Les deux réseaux sociaux sur lesquels l’adolescente britannique était inscrite ont comme à leur habitude, proposé du contenu à Molly en fonction de ce qu’elle consultait. Molly Russel souffrait de dépression et se dirigeait vers des contenus faisant notamment l’apologie des actes d’automutilation, d’autres contenus encore ont eu pour conséquence dramatique de l’isoler. Ceci a bien été compris par les algorithmes d’Instagram et Pinterest. Ces derniers ont proposé toujours plus de comptes ou de contenus en lien avec sa dépression, pas de contenus visant à l’aider, mais des contenus « tristes ou liés à la dépression ». Pinterest a même envoyé un mail à la jeune fille intitulé « 10 contenus déprimants que tu pourrais aimer ».
Ici l’état de dépression de la jeune fille a, selon les résultats de l’enquête, été accentué par son isolement, et les réseaux sociaux l’ont conforté dans son état de grande souffrance psychologique.
Le père de la jeune fille, devant l’incompréhension face au suicide de sa fille, a cherché à l’expliquer. Il a ainsi demandé à accéder au contenu vu par Molly sur les différentes plateformes qu’elle utilisait.
Après avoir cherché dans le téléphone de sa fille, le père de Molly s’est rendu compte que cette dernière consultait fréquemment du contenu en rapport avec la dépression ou le suicide. Instagram a finalement accepté de fournir les données de la jeune fille, et ce qui en est ressorti est bien entendu la mise en avant massive de contenus mortifères et incitant au suicide.
L’enquête a révélé que durant les 6 mois précédant son suicide, Molly Russel aurait regardé 138 vidéos parlant de suicide ou d’automutilation sur les réseaux sociaux.
Ce qui pose problème dans cette affaire et ce qui a été relevé par le juge britannique est le rôle actif des réseaux sociaux dans la consultation de ces contenus, notamment à travers leur algorithme. En effet, la jeune fille de 14 ans n’aura même pas eu à rechercher ce type de contenus, les algorithmes les trouvant pour elle, les mettant en avant sur son fil d’actualité, allant jusqu’à lui envoyer des mails lui proposant des contenus sur la dépression.
Les deux réseaux sociaux, à travers leurs représentants ont formulé des excuses, ont affirmé que les contenus que la jeune enfant a consultés n’auraient pas dû lui être proposés. C’est là un aveu d’erreur de modération selon certain.
Le rôle avéré de Meta et Pinterest dans le suicide de l’adolescente
Les juges britanniques ont reconnu que les plateformes ont “exposé à des contenus particulièrement explicites tendant à décrire l’automutilation et le suicide comme une conséquence inévitable d’une maladie dont elle ne pourrait pas guérir”. Le verdict est tombé en octobre 2022 après cinq années de combat pour Ian Russel, le père de la jeune fille, la cour reconnait la responsabilité des réseaux sociaux dans le suicide de l’adolescente.
C’est une décision historique au Royaume-Uni, et dans le monde du numérique et des réseaux sociaux. La responsabilité de Meta et de Pinterest est engagée et leur culpabilité retenue pour des posts dont ils ne sont pas à l’origine mais mis en avant de manière automatique par un algorithme, et surtout ils sont reconnus coupables de ce suicide. Selon les juges, les réseaux sociaux ont mis en avant des contenus qui n’auraient même pas dû être visibles par une enfant. Cette condamnation, symbolique pour l’essentiel, a mis en avant des problèmes que peuvent représenter les réseaux sociaux et leur part de responsabilité dans l’état de psychologique de leurs utilisateurs. En effet ni Meta ni Pinterest n’auront à payer quoi que ce soit, mais cette décision ouvre cependant la porte à une plus grande responsabilisation des réseaux sociaux.
En France on peut d’abord évoquer la jurisprudence « suicide mode d’emploi » qui avait condamné l’incitation au suicide, de manière plus directe. Il s’agissait d’un écrit faisant la promotion du suicide qui avait finalement était interdit.
Mais au-delà de cela on peut relever la loi du 2 mars 2022 qui prévoit une obligation d’installer un système de contrôle parental qui aurait pour rôle de bloquer des contenus comme ceux auxquels la jeune fille a été exposée. De telles mesures sont certes insuffisantes mais démontrent une prise de conscience de la nocivité qui peut être présente en ligne.
Des répercussions à envisager ?
Ce combat mené par Ian Russel visait à rendre les plateformes numériques plus sûres pour les jeunes utilisateurs particulièrement vulnérables. Et cette décision rendue par les tribunaux londoniens semble ouvrir une porte. L’ampleur médiatique qu’a pris cette affaire pourra sans conteste jouer dans l’opinion publique.
Certains réseaux sociaux ont déjà pris des mesures concernant de tels contenus. On peut par exemple citer TikTok qui, lorsque l’on écrit le mot « suicide » dans la barre de recherche, redirige vers des numéros d’aide et n’affiche aucun contenu. Cependant il faut que les plateformes soient de plus en plus vigilantes, et évitent de proposer des contenus comme ceux que Molly a pu consulter. Selon le père de l’adolescente c’est le climat toxique des réseaux sociaux qui a contribué au suicide de sa fille et il souhaite aujourd’hui que le débat sur la responsabilité des géants d’internet soit ouvert. Il faut cependant rester lucide, même si cette décision est encourageante pour la protection des utilisateurs les plus vulnérables, elle reste encore purement symbolique et insuffisante, d’autant plus qu’un équilibre fragile entre la liberté d’expression et la protection du jeune public reste à trouver. Finalement, peut-être que cette décision n’est qu’une suite logique concernant les efforts que les plateforme doivent faire en terme de modération.
——————————————————————————————————————————
Sources ;