Le Conseil d’état veut encadrer l’usage des algorithmes prédictifs

Le Conseil d’Etat s’inquiète des algorithmes prédictifs et des moteurs de recherche. Il propose trois méthodes pour les encadrer dans un volumineux rapport sur le numérique et les droits fondamentaux en 2014 (400 pages), publié le 9 septembre.

Une intervention humaine

Tout d’abord, il s’agit de faire en sorte qu’il y ait une intervention humaine dans toute prise de décision fondée sur l’utilisation d’algorithmes produisant des effets juridiques à l’égard d’un individu.

Deuxième méthode, le Conseil d’Etat veut que l’on mette en place des garanties de procédure et de transparence, lorsque des données personnelles sont utilisées par l’algorithme. Enfin, il faut contrôler les résultats produits par les algorithmes, notamment pour détecter des discriminations illicites, en renforçant les moyens dont dispose la CNIL.

Responsabilisation 

Les méthodes proposées sont fondées sur la responsabilisation des individus et l’accroissement de leurs capacités d’action. Le Conseil d’état veut de la transparence sur les classements proposés par les moteurs de recherche ou les plateformes, et donner le droit de faire valoir ses observations sur l’application d’un algorithme prédictif.

Restez connecté à La Revue du Digital

Recevez le meilleur de la transformation digitale dans votre boîte mail

Email

Email *

Je m'inscris à la newsletter

Pour le Conseil d’état, les algorithmes sont des sources de risques pour l’exercice de nos droits fondamentaux. « Face aux risques qu’ils présentent, il convient de définir un véritable droit des algorithmes prédictifs » affirme l’étude.

Enfermement

Pour le Conseil d’Etat, ces algorithmes présentent le risque d’enfermement de l’internaute dans une « personnalisation » dont il n’est pas maître. De même, il se crée une confiance abusive dans les résultats de ces algorithmes perçus comme objectifs et infaillibles. Enfin, de  nouveaux problèmes d’équité apparaissent du fait de l’exploitation des données personnelles en  matière d’accès à l’emploi, au crédit ou à l’assurance.

Pour autant, le Conseil d’état n’est pas opposé à l’usage statistique des données personnelles. Il souhaite même les mettre au service de l’efficacité des politiques de santé, d’éducation, de sécurité, de lutte contre la fraude ou de promotion de la culture, ainsi qu’à la simplification des démarches administratives. Il préconise dans ce sens d’ouvrir de manière maîtrisée l’utilisation des numéros d’identification.

L’actualité de la transformation

Netflix achète les studios de cinéma et le catalogue de contenus de Warner Bros.

Trois questions auxquelles les retailers doivent répondre face à l’IA agentique

Stellantis adopte les agents IA, arcbouté sur une plateforme d’IA bâtie avec Databricks

Spécialiste des huiles essentielles, le laboratoire Puressentiel opte pour un Cloud privé

+

Dossier

L'IA clé de nos besoins vitaux dans l'eau, l'électricité et le gaz

Dossier exclusif

Marchés de l’eau : l’IA générative arrive dans les réponses aux appels d’offres des collectivités

Saur, spécialiste de la distribution d’eau potable,  fait évoluer son processus de réponse aux appels d’offres des collectivités et des industriels en y injectant de l’IA géné…

je lis l’article

Stockage de l’électricité : l’IA générative outil d’accélération clé chez Engie

Le stockage de l’électricité est un enjeu stratégique. Engie s’y attelle et mobilise pour cela l’IA générative de type RAG, c'est-à-dire basée sur le traçage des documents source. …

je lis l’article

Nouvelle donne dans le gaz naturel : GRDF s’adapte en utilisant l’IA

GRDF, leader de la distribution du gaz naturel en France, affine sa stratégie d’IA. Il s’appuie sur des serveurs internes pour la confidentialité des données de ses clients. GRDF c…

je lis l’article