Microsoft dépose un brevet inquiétant permettant de ressusciter numériquement les personnes disparues : un chatbot capable de discuter comme s’il s’agissait d’un proche décédé.

Qu’est-ce qu’un chatbot ?

Pour mieux comprendre ce qu’est un chatbot, on peut le décomposer : « chat » signifie « discussion instantanée » et « bot » provient de « robot ». Un chatbot est donc un robot logiciel utilisant l’intelligence artificielle afin de dialoguer avec un individu par le biais d’un service de conversation instantanée. Usuellement, les chatbots apprennent à l’aide de conversations provenant d’un large échantillon d’utilisateurs.

Toutefois, contrairement à la méthode conventionnelle, Microsoft envisage de créer des chatbots uniques se nourrissant des données personnelles d’une seule personne ciblée.

Le projet de Microsoft

En 2017, Microsoft a déposé un brevet dont le titre peut se traduire de la façon suivante « La création d’un agent conversationnel d’une personne spécifique ». Celui-ci vient d’être approuvé par l’Office américain des brevets et des marques. Le système pourrait recréer la personnalité d’une personne déterminée et pourrait ainsi nous permettre d’échanger avec une reproduction de cette dernière. Le chatbot devient alors une version numérique de la personne.

Pour que le chatbot établisse un profil précis, il faudrait lui transmettre les données personnelles de cette personne, comme des photos, des enregistrements audios, des messages, voire même des lettres manuscrites. En effet, le brevet indique : « Les données sociales peuvent être utilisées […] pour former un chatbot à converser et à interagir selon la personnalité d’une personne spécifique ».

Outre cela, le brevet ajoute que le chatbot pourra recréer la voix de la personne grâce à des enregistrements transmis au préalable. Il va même plus loin en affirmant qu’un modèle 2D voire 3D de la personne pourrait être généré grâce aux images et vidéos fournies.

Dans le brevet, Microsoft décrit le chatbot comme étant capable de reproduire de manière fidèle une conversation qui aurait pu avoir lieu avec un proche disparu. Bien sûr, le brevet ne concerne pas exclusivement la reproduction de personnes décédées. Il pourra également s’agir d’une personne vivante, d’un personnage fictif ou encore de soi-même.

Une invention soulevant de nombreuses interrogations

De nombreuses questions éthiques et juridiques se posent lorsque l’on pense à ce type d’innovation.

Tout d’abord, s’agissant des personnes vivantes, plusieurs droits peuvent ici être atteints. On peut notamment penser au droit à la vie privée (vol d’identité), au droit à l’image, au droit à la dignité humaine (notamment la dignité numérique), mais surtout au droit à la protection des données personnelles.

Concernant ce dernier droit, le chatbot a besoin de recevoir de très nombreuses données sur la personne ciblée pour pouvoir la recréer de la façon la plus fidèle possible. Or, si cette dernière ne consent pas à ce que ses informations soient utilisées à cette fin, mais qu’un tiers fait le choix de les transmettre, cela pose un réel problème juridique.

Ensuite, concernant les personnes décédées, le droit à la dignité humaine est également en danger. De plus, la mort numérique de la personne peut être remise en question si un tiers intègre les données personnelles de celle-ci au logiciel de Microsoft.

En outre, quid du préjudice par ricochet subi par les proches qui pourraient assister à la « résurrection » de la personne perdue sans le vouloir.

Quel avenir pour ce projet ?

Rien n’indique qu’un tel chatbot verra le jour puisqu’un seul brevet a été déposé.

De plus, Tim O’Brien, directeur général des programmes IA chez Microsoft, a indiqué qu’il n’était pas au courant de l’existence d’un tel projet. Il également expliqué que le brevet a été déposé en 2017 et qu’à cette date le comité d’éthique pour l’IA de Microsoft n’existait pas encore.

Microsoft n’avait peut-être pas lancé un tel projet mais cela pourrait évoluer avec l’accord qui vient d’être donné sur leur brevet. Toutefois, comme nous l’avons relevé plus haut, de nombreux droits sont en danger devant un tel système. Des barrières devront donc être mises en place afin de garantir leurs protections.

Affaire à suivre.

Sources :

• Barry Collins, « Microsoft pourrait nous ressusciter sous forme de chatbots », Forbes, 6 janvier 2021
• Clare Duffy, « Microsoft patented a chatbot that would let you talk to dead people. It was too disturbing for production », CNN Business, 27 janvier 2021
• Grace Kay, « Microsoft a breveté un chatbot qui pourrait reproduire un être cher décédé ou une célébrité », Business Insider, 25 janvier 2021
• « Le « chatbot » de Microsoft pour « parler avec nos proches décédés » », Gènéthique.org, 12 janvier 2021
• Edward Back, « Microsoft veut faire parler les morts », Futura Tech, 25 janvier 2021