Le 11 novembre 2020 l’entreprise Amazon a publié sur son site une note informant ses clients d’une nouveauté dans la prochaine mise à jour de ses assistants vocaux, Alexa. En effet l’entreprise a fait le choix d’insérer dans les fonctionnalités de ses objets connectés un système de deep learning permettant ainsi à ces dernières d’anticiper les requêtes de leurs utilisateurs en fonction de ce qui leur a été demandé. Ainsi, un utilisateur demandant à son assistant vocal le temps de cuisson pour des pâtes se verra répondre, hormis la réponse, la possibilité de lancer un chronomètre. Autrement dit l’assistant vocal prendra l’initiative de proposer des actions à son propriétaire ce qui pourrait révolutionner le fonctionnement des objets connectés.

Le deeplearning, un type d’intelligence artificielle issue du machine learning:

A l’origine, le machine learning ou apprentissage automatique est un type de système permettant à une machine de pouvoir apprendre par elle même sans avoir fait l’objet de programmation spécifique. Ce type d’intelligence artificielle venait déjà apporter une nouveauté par rapport à la programmation classique d’un appareil qui se contentait d’appliquer presque mécaniquement des règles déterminées. Le machine learning est une catégorie d’intelligence artificielle mise en place pour appréhender le Big Data, à savoir des données diverses et en constante évolution.  Le deep learning ou apprentissage profond est donc un dérivé de ce procédé mais adapté à une utilisation plus pratique en ce sens qu’elle met en place un système d’autocorrection permettant une meilleure interaction avec son propriétaire.

Le deep learning a vocation à reproduire l’armature d’un cerveau humain ainsi que son fonctionnement. En effet il s’agit d’un système de neurones artificiels organisé en plusieurs centaines de couches. Lorsque l’assistant vocal reçoit une information chaque couche va venir  traiter l’information qu’elle reçoit de la couche précédente. Lorsqu’une information a mal été traitée la réponse est alors supprimée et celle-ci est renvoyée aux couches supérieures afin d’affiner l’algorithme, ou plutôt le raisonnement. Avec ce nouveau système l’assistant vocal peut reconnaitre la demande et ainsi trouver l’utilisation qui pourrait être faite de l’information qui lui a été demandée.

Le passage d’une récolte des données pures à un traitement spécifique:

Avec ce nouveau système de deep learning les assistants vocaux d’Amazon ne vont pas se contenter de récolter des données et d’y trouver une réponse dans des bases de données. Ici on va voir apparaitre un réel traitement des informations. L’assistant vocal Alexa va venir chercher un sens, une utilité à toutes les informations qu’elle va récolter pour davantage d’efficacité.

Partant il apparait un risque pour les données exploitées dans la mesure où, par souci d’efficacité, les assistants vocaux pourraient opérer une action de perfectionnement sans prendre en compte le caractère sensible de la donnée.

De même, il est à noter que cette mise à jour pourrait entrainer une intrusion de la part d’Alexa dans le domicile de son propriétaire captant toujours davantage et intervenant de manière maladroite à des moments inopportuns. Cela pourrait avoir l’effet inverse que celui recherché par Amazon.

Enfin il faut préciser que cette mise à jour faisant intervenir le deep learning n’est pour l’instant valable que pour le marché anglophone et uniquement pour les Amazons Echos. Amazon se veut toujours plus innovant dans le secteur de l’objet connecté et de la fluidité des interactions entre Alexa et les propriétaires. Preuve en est la déclaration de l’entreprise au mois de septembre affirmant la mise au point d’un système de conversation avec Alexa sans utiliser le mot d’activation « Alexa ». Cette annonce couplée avec la mise à jour introduisant le deep learning  laisse entrevoir une capacité technique importante dans un traitement des données autonomes.

La CNIL s’est d’ailleurs penchée sur le cas des assistants vocaux en publiant le 7 septembre 2020 un livre blanc sur ces derniers mettant en garde des risques d’intrusions dans la sphère privée. Dans son ouvrage l’autorité française est venue rappeler que la voix d’un utilisateur constitue une donnée personnelle à part entière devant être encadrée par le RGPD. A ce titre elle prévoit 4 étapes prévues dans le Règlement Général de la Protection des Données pour éviter tout abus. Tous d’abord il faut définir le dispositif de traitement des données, ensuite définir les données collectées et leur durée de conservation. Enfin il faut informer les personnes de ce traitement et assurer une sécurité suffisante du dispositif d’exploitation et de conservation des données, ces recommandations doivent être mises en place par tous les acteurs de la conception de ces assistants vocaux.

La réaction de la CNIL met en évidence les potentiels risques pour la protection des données personnelles du fait des développements des assistants vocaux et de leur aspect intrusif.

Enfin il convient de se demander quelles dimensions pourraient prendre les traitements de données par ces nouveaux systèmes dans la mesure où, ces dernières années, certaines IA ont eu des réactions inattendues. Il semble donc plausible de voir apparaitre des législations de contrôle au vu de la complexité de ces systèmes de traitements autonomes au sein des foyers. Ainsi il pourrait y avoir des textes de lois allant dans le sens de la CNIL pour une reconnaissance des risques d’ingérences dans la sphère privée par les assistants vocaux obligeant les constructeurs de ces derniers à plus de transparence dans la mise en place de ces systèmes de deep learning.

Sources:

• C.Déluzarche, Futuratech: “Deep Learning: Qu’est ce que c’est ?“.
• A.Kumar, A. Rathi: Alexa gets better at predicting customers’ goals”, 11 novembre 2020.
• V.De Brye, Les Numériques, “Amazon Alexa anticipe les questions posées aux assistants Echo.”, 12 novembre 2020.
• Bastien L, Le BigData, “Machine Learning et Big Data: Définition et explications”, 6 juillet 2018.
• Livre Blanc sur les assistants vocaux publié par la CNIL, 07 septembre 2020.