Une I.A devient PDG d’une entreprise chinoise

Une nouvelle étape dans le développement de l’Intelligence Artificielle

Il existe plusieurs définitions de l’intelligence Artificielle ( ou I.A). Mais cette notion, que l’on doit à Alan Turing dans les années 50, peut se définir d’une manière générale par une pluralité de technologies différentes qui vont fonctionner de concert pour permettre aux machines d’imiter une forme d’intelligence réelle.

Aujourd’hui l’usage et l’innovation de l’I.A s’étendent de plus en plus. Des GAFAM aux entreprises plus modestes, l’Intelligence Artificielle est une technique qui tend à s’appliquer de plus en plus pour automatiser et traiter différentes taches dans des domaines précis. Bien que l’évolution de cette technologie soit aujourd’hui parfois controversée, notamment quant à la disparition de l’intervention humaine, le monde du numérique va toujours plus loin dans le développement de l’I.A.

Pour illustrer ce propos, en août dernier c’est l’entreprise chinoise « NetDragon Websoft Holdings Limited », décrite comme un leader mondial dans la création de communautés sur internet, qui a franchi une étape supplémentaire dans un pays où les « robots » sont omniprésents. L’entreprise a alors nommé un « robot humanoïde virtuel », alimenté par une I.A, comme PDG de sa filiale « Fujian NetDragon Websoft Co., Ltd. ». L’entreprise a même donné un nom à cette I.A, « Tang Yu », ainsi qu’une apparence de femme très soignée mais stricte. Si c’est une première mondiale, en réalité Tang Yu n’est pas si nouvelle, NetDragon avait déjà révélé le personnage en 2017 pour démontrer que si une I.A pouvait être utile dans le développement de jeux, elle pouvait aussi prouver son efficacité dans la vie réelle en aidant l’entreprise. A ce moment là, Tang Yu était alors numéro 2 de l’entreprise.

Mais aujourd’hui, cette I.A voit ses responsabilités renforcées puisqu’elle est bel et bien PDG de l’entreprise selon NetDragon. L’objectif étant bien évidemment de maximiser l’efficacité de la filiale, Tanh Yu est alors en mesure d’approuver, de signer des documents, de gérer des projets, rehausser la qualité des taches de travail, mais aussi d’évaluer le personnel de l’entreprise ainsi que de décider de sanctions. L’entreprise soulève alors les avantages d’une telle « personne » au poste de PDG : la rationalité, la logique, l’absence de sentiment dans la prise de décision mais aussi le fait que Tang Yu travaille 24h/24 et ce sans être payée.

Mais si NetDragon considère son nouveau PDG comme une « femme robot I.A », il ne faut pas se méprendre non plus, il n’y a aucune chance de la croiser physiquement. En effet, si elle a bien une voix et un physique de femme, ceux ci sont présents seulement sur des écrans. C’est alors à travers ces écrans que l’I.A opère et s’exprime au sein de l’entreprise.

Parallèlement, il semble que Tang yu soit également un gros coup de communication de la part du géant Chinois des jeux vidéos en ligne. Bien qu’utile à l’entreprise en réalisant tout de même les taches énoncées plus haut, ses fonctions en tant que PDG, elles, sont plus symboliques qu’autre chose. Premièrement elle ne réalise vraiment que les taches automatisées, et il est précisé dans le communiqué de presse à propos de Tang Yu que celle ci est un hub de données et un outil d’aide à la décision. De plus son nom n’apparaît nulle part dans les documents officiels et dans la liste des dirigeants de NetDragon. Il y a fort à parier, alors, que cette Intelligence Artificielle ne soit qu’une aide pour les dirigeants de la société qui auront tout de même le dernier mot sur les actions de l’I.A.

Mais si Tang Yu n’assure pas vraiment toutes les fonctions d’un PDG, sa « nomination » par l’entreprise elle n’en est pas moins dénuée de sens, car selon NetDragon cela met en évidence la volonté de renforcer le recours à l’I.A au sein du monde du travail, de renforcer leur stratégie « I.A + management », mais surtout de franchir une étape de plus vers le méta-verse.

Les enjeux que présente l’I.A au sein des directions

Il y a un énorme enjeu avec la présence d’une I.A à la tête d’une entreprise : celui de la responsabilité du dirigeant. Si on admet que Tang Yu n’est pas un coup de communication et est réellement PDG de NetDragon avec tout ce que cela implique, qui est responsable en cas de défaillance ? Le robot peut il être sanctionné ? Ou alors faut-il se tourner vers ses concepteurs ou programmeurs ?

Si elle n’est pas PDG mais simple aide de prise de décision, en cas de défaillance, le véritable dirigeant est il apte à prouver qu’il n’a pas influencé le comportement de l’I.A ?

En effet, à l’heure actuelle, il y a bien une intervention humaine derrière l’I.A. Faire donc appel a un robot pour une prise de décision garantit-il une neutralité dans les solutions de l’I.A ? Le robot est en effet codé et entraîné par un humain qui dispose d’idées que l’on peut retrouver dans ses décisions. Peut-on garantir que lors de la mission de sanction d’un salarié confiée à Tang Yu, celle ci soit réellement impartiale et non influencée par les biais cognitifs humains de ses concepteurs qui peuvent être discriminatoires ?

Tout ceci est la plus grosse problématique que présente l’utilisation d’I.A au sein de la direction d’une entreprise. A ce jour, il n’y a pas de réelles réponses à ces questions, du moins pas en droit européen ou français. Cependant, si en droit français il n’y a pas de réglementation spécifique applicable aux dommages causés par des I.A, la Commission Européenne a annoncé en septembre 2022 la proposition d’une directive sur l’adaptation de la responsabilité civile extra contractuelle au domaine de l’I.A. Mais si cette proposition va éclaircir le sujet de la responsabilité des robots, celle du dirigeant les employant n’est malheureusement pas abordée.

En France, pour l’instant, si un dommage est causé par une I.A , on peut se référer à la loi sur la responsabilité du fait des produits. On cherche donc bel et bien la responsabilité de l’humain qui est derrière, le producteur, si la faute ne vient pas de l’utilisateur.

On peut prendre pour exemple le cas de la voiture autonome avec l’article 123-1 du Code de la route qui prévoit selon les circonstances en cas de problème, soit la responsabilité du conducteur soit la responsabilité du constructeur. On est encore loin de l’I.A responsable, et même si ces exemples ne traitent pas de la responsabilité du dirigeant, on peut tout de même les mentionner pour étudier cette question de la responsabilité de l’I.A et de l’humain qui est derrière. Si on fait le parallèle avec le cas de l’aide à la prise de décision, si un problème survient, il faudra alors selon les faits se tourner vers l’utilisateur ou le fabricant du robot.

Il peut y avoir aussi un autre enjeu à cette problématique de l’intelligence artificielle et de son rôle au sein de la direction, cette fois-ci moins juridique, mais qui aborde la question de l’éthique. L’I.A est déjà omniprésente au sein des entreprises, les machines automatisées ont remplacé beaucoup de métiers et les personnes humaines qui les exerçaient. Si, maintenant, on accorde le droit à un robot d’exercer des professions avec plus de responsabilités, des fonctions moins mécaniques et nécessitant normalement le savoir faire de l’Homme, est ce que l’on n’ouvre pas encore plus la voie à une société où l’homme perd sa place ? Sans rentrer dans la dystopie de science fiction, si on accorde les fonctions de PDG à un robot, quelles sont celles qui peuvent/doivent rester propre à l’homme ? La limite peut apparaître comme floue et la question se pose.

Une avancée technologique pour l’instant loin du paysage juridique français

Si on part du principe que la nomination de Tang Yu en tant que PDG de NetDragon n’est pas un coup médiatique mais une révolution dans la place de l’I.A au sein d’une entreprise, on peut se demander si il serait possible de voir un tel robot à la tête d’une entreprise en France.

Pour ce faire il faut alors que l’I.A française ait la personnalité juridique, autrement dit qu’elle soit un sujet de droit. Cette notion de personnalité juridique a beaucoup évolué au fil du temps. Elle était réservée, à la date du Code civil de 1804, seulement aux personnes physiques nées viables. Elle a été ouverte aux personnes morales, par la suite, entités qui n’ont rien d’humain. On peut alors penser que cette personnalité fictive puisse s’appliquer aussi aux I.A qui pourraient alors occuper des postes de dirigeants.

Certaines personnes, comme Maître Alain Bensoussan, avocat des technologies avancées, se sont même intéressées à la création d’une personnalité particulière : la personnalité robotique ou numérique d’une I.A. L’idée est de déconnecter, notamment au niveau de la responsabilité, le robot de toute personne physique, utilisateur ou concepteur. On est très proche alors de Tang Yu et de l’idée que l’I.A puisse diriger une entreprise.

Mais en réalité, détacher cette personnalité fictive de l’Homme n’est pas encore possible sur la scène française. Pour comparer à une personne morale, si celle-ci a aujourd’hui la personnalité juridique et qu’elle est capable de diverses actions, la représentation humaine par la personne physique n’est jamais très loin. Le statut de la personne morale a toujours été pensé au travers de la personne physique qui la représente.

De plus, le Code du commerce par exemple ne prévoit les postes de PDG et autres dirigeants qu’à une personne physique. Il y a même des restrictions concernant des caractères purement humains, comme une limite d’age etc.

Même les dispositions légales française propres aux I.A ne conçoivent pas le robot sans le spectre de la personne humaine qui est derrière comme le prévoit l’article du code de la route vu précédemment.

Aujourd’hui, on voit bien qu’un robot comme Tang Yu ne peut pas assurer les fonctions d’un PDG en France. Il n’a pas la personnalité juridique, on ne peut pas le déconnecter de la personne physique, il peut alors tout au mieux, et comme c’est déjà le cas, être un outil d’aide à la décision au sein de l’entreprise. Même au niveau européen, l’éventualité de créer une personnalité juridique spécifique au robot a été écartée en 2020 par la Commission européenne qui a estimé qu’il n’était pas nécessaire de confier la personnalité juridique aux I.A.

Mais si l’ère du robot dirigeant n’est pas d’actualité, ne va-t-elle pas arriver plus vite qu’on ne le pense ? De nombreux juristes du numérique comme Maître Bensoussan ou encore Anais Avila, qui a déposé un mémoire sur la question en 2020, considèrent qu’il faut impérativement une personnalité juridique au robot pour encadrer l’innovation et la protection de victimes.

Avec les progrès fulgurants de la technologie de l’I.A c’est une question qui va sûrement revenir dans un futur proche, le sujet est donc a surveiller de très près.

SOURCES :

https://www.lesnumeriques.com/vie-du-net/en-chine-l-intelligence-artificielle-tang-yu-est-devenue-pdg-n192725.html

https://hitek.fr/actualite/robot-humanoide-ia-pdg-entreprise_37795

https://consultation.avocat.fr/blog/tanguy-allain/article-45088-un-robot-pdg-en-chine.html

https://www.francetvinfo.fr/monde/chine/chine-une-femme-robot-pilotee-par-une-ia-devient-pdg-d-une-entreprise-de-plusieurs-milliers-de-salaries_5386039.html

https://www.empowerment.foundation/post/quel-statut-juridique-pour-l-intelligence-artificielle-par-xavier-comtesse#:~:text=Non%2C%20il%20n’existe%20%C3%A0,pour%20responsable%20de%20ses%20actes.

https://www.alain-bensoussan.com/avocats/la-personnalite-juridique-des-robots/2021/05/20/

https://www.toupie.org/Dictionnaire/Personnalite_juridique.htm

https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000043371835/

https://info.haas-avocats.com/droit-digital/lorsque-lintelligence-artificielle-devient-pdg-dune-entreprise