La Cnil s’autosaisit de l’intelligence artificielle en France

La Cnil étend son domaine de compétences (siège de la Cnil)

C’est une forme de coup de force administratif. La Cnil espérait que le gouvernement la désigne comme autorité de régulation pour l’intelligence artificielle en France, mais lasse d’attendre, elle s’autosaisit désormais de ce domaine. Consciente qu’elle franchit les lignes, elle argue pour cela du soutien du Conseil d’Etat.

La Cnil annonce qu’elle crée un service sur l’intelligence artificielle et lance des travaux concernant les bases de données d’apprentissage de ces intelligences artificielles. La Cnil n’analyse pas encore les algorithmes d’intelligence artificielle mais indique qu’ils feront l’objet de travaux ultérieurs.

Préparer l’entrée en application du règlement européen sur l’intelligence artificielle

Le nouveau service de l’intelligence artificielle de la Cnil devra apporter les bonnes connaissances sur le sujet et lui permettre de comprendre les risques pour la vie privée. La Cnil rappelle qu’il faut préparer l’entrée en application du règlement européen sur l’intelligence artificielle en cours de discussion actuellement. Par ailleurs, la Cnil proposera ses premières recommandations sur le sujet des bases de données d’apprentissage dans les prochaines semaines.

Le service sur l’intelligence artificielle réunit 5 personnes, juristes et ingénieurs

Le service de l’intelligence artificielle (SIA) créé au sein de la CNIL réunira 5 personnes. Il réunit des juristes et des ingénieurs spécialisés. Le service est rattaché à la direction des technologies et de l’innovation de la Cnil, dirigé par Bertrand Paillhes qui était précédemment coordonnateur national pour la stratégie d’intelligence artificielle au sein de la Direction interministérielle du numérique et du SI de l’Etat (DINSIC).

Le nouveau service répondra à la direction en charge de l’accompagnement juridique, pilotée par Thomas Dautieu, notamment dans l’instruction des demandes d’avis adressées par le gouvernement. Le service interviendra également dans l’instruction de plaintes et l’adoption de mesures correctrices en cas de manquements liés à l’utilisation d’un système d’intelligence artificielle. Il contribuera aux travaux du Comité européen de la protection des données (CEPD).

La Cnil s’appuie sur le Conseil d’Etat pour s’emparer de l’intelligence artificielle

Comme la Cnil sent qu’elle s’avance dans un domaine qui ne lui a pas été officiellement confié, elle s’appuie sur une préconisation du Conseil d’Etat lors d’une étude publiée le 30 août 2022 sur l’usage de l’intelligence artificielle dans les administrations. La Cnil retient que le Conseil d’État préconise de renforcer les moyens de la Cnil et de faire évoluer son rôle pour qu’elle devienne également une des autorités nationales de contrôle responsables de la régulation des systèmes d’intelligence artificielle en France.

La Cnil souhaite devenir le passage obligé des institutions allant des autorités de surveillance de marché aux régulateurs sectoriels

La Cnil se voit également jouer un rôle d’autorité de coordination et de supervision, en fonction des dispositions du futur règlement européen. Elle souhaite devenir le passage obligé des institutions publiques allant des autorités de surveillance de marché aux régulateurs sectoriels. La Cnil justifie son intervention par le fait que l’intelligence artificielle repose sur le traitement d’un grand nombre de données, très souvent personnelles, et que leur mise en œuvre comporte ainsi des risques pour la vie privée.

Par ailleurs, la Cnil lance dès aujourd’hui des travaux sur les bases de données d’apprentissage. Elle relève que de nombreux organismes publics ou privés souhaitant constituer des bases de données pour l’entrainement et le développement d’intelligence artificielle ont fait part à la Cnil d’interrogations sur la légalité de certains usages.

Une régulation de l’intelligence artificielle par le RGPD et le règlement européen

Les travaux à venir ont donc pour objet de préciser la position de la CNIL sur ce point et de promouvoir des bonnes pratiques, au titre des exigences posées par le RGPD, ainsi que dans la perspective de la proposition de règlement sur l’IA actuellement débattue au niveau européen. La Cnil publiera régulièrement des outils d’accompagnement sur le sujet qui viendront compléter ses premières fiches pratiques.

La Cnil va analyser les phases du développement d’un système d’intelligence artificielle

La Cnil va étudier les systèmes d’intelligence artificielle dont le développement ou l’amélioration nécessite la constitution d’une base de données. Elle va suivre la collecte de données auprès de tous types de sources (collecte de données auprès des personnes concernées, collecte de données auprès de data brokers, collecte de données en sources ouvertes, etc.) ; elle va analyser les phases du développement d’un système d’intelligence artificielle nécessaires à sa mise en production ou à son amélioration (conception du système, prétraitement des données, entraînement, entraînement en continu, etc.). La phase de production est exclue de ce projet.

La Cnil va étudier divers usages relatifs au développement ou à l’amélioration d’un système d’intelligence artificielle (recherche scientifique, recherche et développement, amélioration d’un produit commercial, etc.), quel que soit l’objectif du système d’intelligence artificielle en production et le régime juridique applicable au traitement (règlement général sur la protection des données, directive « Police-Justice » et loi Informatique et Libertés).

Les modèles d’intelligence artificielle feront l’objet d’autres travaux

En revanche, les questions ayant trait aux modèles d’intelligence artificielle appris à partir des données ainsi collectées, et en particulier celles concernant leur diffusion et leur réutilisation, sont exclues de ce projet et feront l’objet de travaux séparés.

Il y aura des fiches pratiques pour répondre à la constitution d’un entrepôt, l’usage de données pseudonymisées, etc.

Les travaux de la Cnil aboutiront à plusieurs publications en 2023. Il y aura des publications sur des outils pour accompagner la constitution et l’utilisation de bases de données. Il y a aura des fiches pratiques pour répondre aux situations les plus courantes rencontrées par les utilisateurs de base de données d’apprentissage (constitution d’un entrepôt, usage de données pseudonymisées, etc.).

La Cnil va proposer des recommandations. Ces recommandations seront soumises à une consultation publique afin que le plus grand nombre s’exprime sur les outils ainsi élaborés. Les contributions seront analysées à l’issue de la consultation afin d’ajuster et de préciser les futurs outils que la Cnil publiera sur cnil.fr.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *