Afin d’améliorer son expertise sur l’intelligence artificielle, en particulier “dans la connaissance et la prévention des risques pour la vie privée” , la CNIL crée un service spécialement dédié à ce domaine technologique. Ses premières recommandations sur les bases de données utilisées pour l’entraînement des modèles seront publiées “dans les prochaines semaines “.
Plus qu’un rôle d’expertise, le service de l’intelligence artificielle collaborera avec la direction en charge de l’accompagnement juridique dans la production de “droit souple” précise la CNIL, tels des référentiels ou des recommandations.
Un nouveau service de l’intelligence artificielle ?
Le service de l’intelligence artificielle (SIA) créé au sein de la CNIL réunira 5 personnes. Composé de juristes et d’ingénieurs spécialisés, ce service sera rattaché à la direction des technologies et de l’innovation de la CNIL dont le directeur, Bertrand PAILHES, était précédemment coordonnateur national pour la stratégie d’intelligence artificielle au sein de la Direction interministérielle du numérique et du SI de l’Etat (DINSIC).
Le service de l’intelligence artificielle aura pour principales missions de :
– faciliter au sein de la CNIL la compréhension du fonctionnement des systèmes d’IA, mais aussi pour les professionnels et les particuliers ;
– consolider l’expertise de la CNIL dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes ;
– préparer l’entrée en application du règlement européen sur l’IA (en cours de discussion au niveau européen) ;
– développer les relations avec les acteurs de l’écosystème.
Par ailleurs, en raison de sa composition pluridisciplinaire et de sa nature transversale, ce nouveau service a vocation à travailler avec toutes les directions de la CNIL.
Le SIA apportera également un support dans l’instruction de plaintes et l’adoption de mesures correctrices en cas de manquements liés à l’utilisation d’un système d’IA.
Il sera chargé de l’expertise technique de dossiers relatifs à l’intelligence artificielle comportant des aspects spécifiques à cette technologie.
La CNIL, le nouveau régulateur de l’intelligence artificielle ?
Cette évolution de la CNIL est également une réponse à une étude du Conseil d’État publiée le 30 août 2022 sur l’usage de l’intelligence artificielle dans les administrations.
Le Conseil d’État préconisait alors de renforcer les moyens de la CNIL et de faire évoluer son rôle pour qu’elle devienne également une des autorités nationales de contrôle responsables de la régulation des systèmes d’IA.
Il mettait aussi en avant l’importance pour la CNIL de jouer un rôle d’autorité de coordination et de supervision, en fonction des dispositions du futur règlement européen, et ainsi d’assurer le maillage d’un vaste réseau d’institutions publiques allant des autorités de surveillance de marché aux régulateurs sectoriels.
La justification de la création de ce service face aux nouveaux enjeux de l’IA
Dès à présent et sans attendre l’évolution du cadre juridique, la création de ce service vient répondre à un enjeu de société dont l’importance augmente chaque jour. En effet, l’intelligence artificielle connaît des avancées technologiques spectaculaires, permettant d’assister l’humain dans de très nombreuses tâches.
Dans le secteur privé, elle est vue comme un facteur d’optimisation des performances et de la rentabilité, tandis que son utilisation dans les administrations pourrait permettre d’améliorer la qualité du service public rendu à l’usager (sur ce point, voir la note de M. Maxime Cherki-Puech “Les enjeux posés par le rapport du Conseil d’État “Pour une intelligence artificielle maîtrisée, utile et démystifiée”“).
L’usage de cette technologie concerne ainsi tous les acteurs, quels que soient leurs domaines d’activité ou leur taille. Par ricochet, toute personne y est forcément confrontée directement ou indirectement à un moment ou un autre, par exemple, à l’occasion de l’utilisation d’un assistant vocal, d’un processus de sélection des candidatures à un emploi ou en matière de lutte contre la fraude fiscale.
Si les bénéfices liés à l’usage des algorithmes et de l’IA sont incontestables, il faut néanmoins souligner que leur fonctionnement repose sur le traitement d’un grand nombre de données, très souvent personnelles, et que leur mise en œuvre comporte ainsi des risques pour la vie privée.
Par ailleurs, il existe des enjeux d’information pour les utilisateurs ainsi que de compréhension du fonctionnement précis des systèmes mais également pour les responsables de traitements de données ou encore pour les régulateurs dans le cadre de leurs missions d’audit et de contrôle.
« La création du service de l’IA répond à ces enjeux : organiser la transparence et la compréhension d’une technologie bien souvent perçue comme une boîte noire afin d’en assurer une régulation équilibrée et permettre aux organismes, aux personnes concernées, et à la CNIL de maîtriser les risques pour la vie privée. »
La Commission nationale de l’informatique et des libertés (CNIL)
Le prochain lancement par la CNIL de travaux sur les bases de données d’apprentissage
Les systèmes d’IA, en particulier ceux reposant sur l’apprentissage automatique, nécessitent très souvent l’utilisation d’importants volumes de données personnelles pour l’entraînement des algorithmes. La CNIL publie un programme de travail pour accompagner les professionnels et garantir le respect des droits des personnes.
Concrètement, de nombreux organismes publics ou privés souhaitant constituer des bases de données pour l’entrainement et le développement d’IA ont fait part à la CNIL d’interrogations sur la légalité de certains usages.
Les travaux à venir ont donc pour objet de préciser la position de la CNIL sur ce point et de promouvoir des bonnes pratiques, au titre des exigences posées par le RGPD, mais aussi dans la perspective de la proposition de règlement sur l’IA actuellement débattue au niveau européen.
La fourniture d’un cadre d’analyse de la règlementation sur la protection des données personnelles et l’apport de réponses concrètes doivent permettre aux organismes de constituer ou d’utiliser des bases de données dans le respect des droits et libertés fondamentaux des personnes.
Sources :
https://www.cnil.fr/fr/creation-dun-service-de-lintelligence-artificielle-la-cnil-et-lancement-des-travaux-sur-les-bases-de : Création d’un service de l’intelligence artificielle à la CNIL et lancement des travaux sur les bases de données d’apprentissage
https://www.usine-digitale.fr/article/le-conseil-d-etat-propose-de-faire-de-la-cnil-le-regulateur-de-l-intelligence-artificielle.N2038447 : Le Conseil d’Etat propose de faire de la Cnil le régulateur de l’intelligence artificielle
https://www.usine-digitale.fr/article/la-cnil-lance-un-service-dedie-a-l-intelligence-artificielle.N2092341 : La Cnil lance un service dédié à l’intelligence artificielle