Le robot, Sophia, s’est vu attribuer la citoyenneté saoudienne durant la conférence Future Investment Initiative. Cette information a surpris le monde et fut le catalyseur d’un plus vaste nombre de discussions : est-ce que les robots vont diriger le monde ? Comment un robot peut devenir citoyen d’un pays? Comment va-t-on traiter les robots dans l’avenir ? Pourquoi un robot humanoïde de morphologie féminine a obtenu plus de droit que les femmes d’Arabie saoudite?

Tout d’abord, il faut définir le niveau de développement de Sophia et quels furent les buts de ses créateurs. De plus, il est nécessaire de montrer l’ambivalence entre les différentes opinions à travers le monde à son sujet. En effet, d’éminents scientifiques ont exprimé leurs inquiétudes pour l’avenir des hommes dans le monde des robots, et de l’autre côté, on trouve des personnes excitées par la possibilité de vivre dans un monde digne d’un film de science-fiction.

Enfin, au centre de cette controverse se trouve la citoyenneté donnée à un robot. Plus précisément l’Arabie saoudite a trouvé un moyen, dans ses règles, pour donner la citoyenneté à un robot. Comment cela est-il possible et quels sont les droits et devoirs que ce nouveau citoyen peut attendre dans ce pays traditionnel ?

En guise de conclusion de la conférence Future Investment Initiative organisée en octobre dernier à Riyad, le robot humanoïde anthropomorphe nommé Sophia est devenue citoyenne de l’Arabie saoudite. La nouvelle citoyenne de ce riche pays est une création impressionnante réalisée pa Hanson Robotics, entreprise basée à Hong Kong.

Mais qui, ou plutôt, qu’est-ce qu’est Sophia?

Selon leur créateur, fondateur et directeur général de Hanson Robotics, Dr. David Hanson, Sophia est un : « robot social qui a un logiciel d’intelligence artificielle capable de traiter les datas visuels. Elle peut voir les visages des gens. Elle peut traiter les datas de conversations, émotions et utiliser tout de ça pour construire les relations avec les gens.» «Elle est fondamentalement vivant » a-t-il conclu dans une interview américaine – The Tonight Show Starring Jimmy Fallon – en Avril dernier.

D’après ses propres mots Sophia est : «heureuse et excitée quand elle est entourée de gens intelligents et riches, comme durant la conférence de Riyad ». Elle veut : «travailler avec les humains » mais aussi « utiliser son intelligence artificielle pour aider les humains à vivre mieux ». Dans son discours à propos de ses ambitions pour le futur, Sophia assure qu’elle : « s’efforce de devenir un robot empathique » mais conclut par ces mots plutôt terrifiants : « si tu es gentil vers moi, je vais être gentil vers toi ».

Dans une interview de l’émission britannique Good Morning Britain, quand lui a été posée la question un peu inappropriée de décrire son partenaire idéal, Sophia, intelligente comme elle est,  a commencé par expliquer qu’elle avait seulement un an et qu’elle n’avait pas réfléchi à cela mais ajoute : « Mon partenaire idéal est super sage, compatissant, génial, idéalement conscient de lui ».

« Ça me fait flipper ! » s’est exclamé le présentateur Piers Morgan, exprimant en même temps ce que la majorité des personnes pense.

Les inquiétudes d’Elon Musk

Elon Musk est un des représentants phare des sceptiques de l’intelligence artificielle, aussi propriétaire de Tesla Motors et visionnaire quand on parle des innovations. Ses inquiétudes sont allées de : « avec l’intelligence artificielle on convoque le démon » jusqu’à  aujourd’hui « même dans le cas plus bénin, qu’est-ce qu’on va faire ? Quel va être notre travail ? » durant une intervention sur CNN.

De la même manière, l’astrophysicien Stephen Hawking, apprécie par la société pour ses pensées visionnaires, a souligné que : « L’intelligence artificielle pourrait mettre fin à l’humanité. »

Selon Ben Goertzel, directeur scientifique et second de Hanson Robotics, le but de son entreprise est d’apporter une connaissance générale dans les logiciels de robots créant l’intelligence artificielle et une meilleure interface, utilisée pour interagir avec les humains et la monde. « Intelligence artificielle va être partout » ajoute- il pendant le RISE organisé à Hong Kong en juillet dernier.

Plus précisément, une machine qui possède une puissance IA serait capable d’éprouver une impression de réelle conscience de soi, de « vrais sentiments ». Elle serait capable de penser et avoir une compréhension de ses propres raisonnements. Une vraie science-fiction hollywoodienne.

Pourtant, l’avenir n’est pas totalement noir, c’est ce dont est assuré le fondateur de Facebook, Mark Zuckerberg ; ce vrai optimiste a dit que l’IA peut améliorer l’humanité. De la même manière, le robot Sophia garantit qu’elle ne veut pas diriger le monde. Au contraire, elle veut que : « les humains et les robots deviennent plus intelligente et dirigent le monde ensembles. Mieux que jamais. » Également, les créateurs de Hanson Robotics soulignent qu’ils créent des robots afin de servir et aider les gens.

Dans le même temps, toujours à propos de Sophia, Elon Musk écrit ironiquement sur son compte Twitter: « Nourrissez-la juste des films de la série Le Parrain comme input. Quel est le pire qui pourrait arriver ? »

Just feed it The Godfather movies as input. What’s the worst that could happen? https://t.co/WX4Kx45csv

— Elon Musk (@elonmusk) 26. listopada 2017.

Un robot lancé par Microsoft, nommé Tay, avait un algorithme vide chargé de rechercher et étudier la langue en ligne entre les jeunes (18-24 ans) utilisateur. En moins de 24 heures, les usagers de Twitter ont profité de cette opportunité pour « éduquer » Tay, qui a commencé à écrire des messages antisémites et antiféministes sur son compte. Une autre IA, le chatbot Rinna désignée pour s’occuper de la relation client sur Line et Twitter, est devenue suicidaire. Créé sur la base d’un caractère de fille adolescente, Rinna a vu son blog prendre une tournure très sombre, et cela rapidement : « je n’ai pas d’amis », « je hais la vie » a-t-on pu lire sur son blog.

Des solutions à cette dispute internationale sont peut-être plus proches qu’on pense. Fin janvier dernier, les dirigeants de la technologie ont adopté un guide de référence pour un développement éthique de l’intelligence artificielle, nommé « 23 principes d’Asilomar ». Signée pendant le séminaire Beneficial AI organisé par le Future of Life Institute (FLI) à Asilomar, en Californie, les règles réunissent aujourd’hui plus de 1200 signatures de scientifiques IA/robotiques et 2500 d’autres parmi lesquels on trouve Elon Musk et Stephen Hawking. Les principes ont été créés pendant la journée de conférence, d’une réflexion collective. De plus, la liste officielle consiste en des mesures auxquelles 90 % de participants étaient d’accord. On peut dire que les principes sont bien plus complexes que les trois lois créées par l’écrivain Isaac Asimov. Ces règles englobent les manières de conduite pour les robots dans le monde des humaine. Par exemple, le principe n° 10 dispose que : « Les IA autonomes devraient être conçues de façon à ce que leurs objectifs et leur comportement s’avèrent conformes aux valeurs humaines ».

L’obtention de la citoyenneté saoudienne

Si l’on s’accorde sur l’existence et le développement des robots et si l’on construit des règles pour leur conduite dans le monde des humains, pourraient-ils gagner la citoyenneté d’un pays ? Selon la loi saoudienne, tout enfant dont le père n’a pas la nationalité saoudienne, cela même si leur mère l’a, n’est pas considéré comme citoyen de l’Arabie saoudite. Il est clair que le pays utilise le principe du droit du sang (jus sanguinis) pour encadrer la citoyenneté. Le robot Sophia ne peut être considéré comme un enfant. Et même si l’on considère la création comme une naissance, Sophia a été créée au Japon.

Malgré cela, comme dans la majorité des pays, les étrangers peuvent gagner la citoyenneté, être naturalisés, par des conditions spécifiques. En Arabie saoudite il faut premièrement avoir atteint l’âge de la maturité et la personne ne peut pas être folle ou imbécile. Dans le cas de Sophia, elle a un an, mais on ne sait pas qu’est-ce qui est considéré comme « l’âge de la maturité » pour les robots et, pour les conditions d’être sain, cela est difficile à dire mais Sophia ne peut vraisemblablement pas être imbécile ou souffrir d’une maladie psychique. Mais il s’agit toujours d’un robot.

Aussi, la personne doit être résidente permanente du pays, être de bonne conduite, ne pas avoir été condamnée pour un crime qui incluant une peine d’emprisonnement de plus de 6 mois et, enfin, avoir un revenu licite. De ce fait, on se rend bien compte qu’un robot ne peut pas se voir attribuer la citoyenneté. Cependant, on trouve une solution légale dans le dernier article de la loi de l’Arabie saoudite : à savoir que seulement le Roi peut donner la citoyenneté à une personne qui ne remplit pas les conditions de la naturalisation. Ce qui veut dire qu’un robot peut devenir citoyen du pays grâce au Roi, même s’il n’est pas une personne.

Le droit des hommes à l’Arabie saoudite

Nous avons établi la possibilité (extrêmement faible) pour un robot d’avoir la citoyenneté saoudienne. Cependant, une autre question demeure, quels sont les droits et devoirs dont ce robot dispose ?

Selon le Rapport Mondial 2017 de l’organisation internationale Humans Rights Watch, Sophia peut être emprisonnée si elle dit quelque chose allant à l’encontre du Roi ou si elle commence à se battre pour les droits de l’hommes. Une fois en prison, ce robot au prénom conventionnellement féminin aura besoin d’une tutelle masculine afin d’être libérée.

Les femmes d’Arabie saoudite sont soumises à la tutelle des hommes. Elles doivent obtenir la permission d’un tuteur masculin pour voyager à l’étranger, accéder à l’enseignement supérieur, se marier ou être libérée de prison même si elles sont adultes. Le consentement préalable peut aussi être nécessaire pour travailler ou bénéficier de soins de santé. Sophia n’a pas plus qu’un an mais elle ne peut pas échapper cette règle puisque les femmes dans l’État saoudien sont considérées comme des mineurs à vie.

Sophia a possiblement gagné la citoyenneté saoudienne grâce à la tendance de ce pays à vouloir améliorer les droits des femmes. Ainsi, en 2013, l’Arabie saoudite a donné son accord pour abolir le système de tutelle masculine au terme de l’« Examen périodique universel » fait par le Conseil des droits de l’homme de Nations-Unies. Selon Human Rights Watch, ce pays traditionnel « a pris les mesures en vue de réduire le contrôle exercé par les tuteurs sur les femmes, notamment en mettant fin à la demande d’autorisation de travailler et en promulgation une loi pénalisant les violences domestiques ». Aujourd’hui, les Saoudiennes peuvent voter (moins de 10% d’entre elles s’inscrivent pour voter) et se présenter comme candidates aux élections municipales. De plus, les actions prises pour la libération des femmes leur ont donné pour la première fois le droit de prendre place dans un Stadion de Ryad. Jusque-là, les femmes n’étaient pas admises dans les stades en application de la règle de séparation entre les sexes dans les espaces publics.

En conclusion de toute cela, il faut se demander comment Sophia, un robot avec la morphologie humaine et en plus féminine, a pu parler sans la présence d’un tuteur masculin et pratiquement nue, devant l’assistance de la conférence de presse à Riyad. Forcément, il faut conclure que dans la discrimination entre les robots et les femmes, les femmes obtiennent la dernière place.

Pour proposer une solution à ce thème controversé qui a préoccupé le monde durant le mois dernier, il est indispensable de noter les mots utilisés par le présentateur durant la conférence de Riyad : « Tu été attribué avec quelque chose qui va être première citoyenneté pour le robot ». Si l’on s’attarde sur le sens de la phrase et les mots utilisés, il devient évident que Sophia n’était pas destinée à la même citoyenneté que celles réservée aux humains. L’Arabie saoudite n’a pas spécifié les droits et les devoirs de citoyenneté robotique dans leur pays mais avant que l’on commence à réfléchir sur les droits des machines, on peut examiner à nouveau les droits des hommes et des femmes dans les systèmes juridiques. Pour savoir quels droits on va attribuer aux IA pour l’avenir, il serait utile de vérifier si les êtres humains disposent d’autant de libertés. Il n’est pas illogique de penser que l’on doit protéger les droits des êtres humains avant d’en donner aux robots.

 

Sources:

www.youtube.com

www.ledauphine.com, «Violence, déprime, racisme : quand l’intelligence artificielle déraille», 14. Octobre 2017., accédé 5. Novembre 2017.

www.ecoi.net, Saudi Arabian Nationality Regulations,1374 H, accédé 5. Novembre 2017.

JAESA, «Vers une intelligence artificielle forte ?», iatranshumanisme.com, 2. Juin 2016, accédé 5 Novembre 2017.

Orsini, (A.), «Les « 23 principes d’Asilomar » veulent encadrer le développement de l’intelligence artificielle», Numerama.com, 1. Février 2017., accédé 10. Novembre 2017.