Le Conseil d’Etat s’inquiète des algorithmes prédictifs et des moteurs de recherche. Il propose trois méthodes pour les encadrer dans un volumineux rapport sur le numérique et les droits fondamentaux en 2014 (400 pages), publié le 9 septembre.
Une intervention humaine
Tout d’abord, il s’agit de faire en sorte qu’il y ait une intervention humaine dans toute prise de décision fondée sur l’utilisation d’algorithmes produisant des effets juridiques à l’égard d’un individu.
Deuxième méthode, le Conseil d’Etat veut que l’on mette en place des garanties de procédure et de transparence, lorsque des données personnelles sont utilisées par l’algorithme. Enfin, il faut contrôler les résultats produits par les algorithmes, notamment pour détecter des discriminations illicites, en renforçant les moyens dont dispose la CNIL.
Responsabilisation
Les méthodes proposées sont fondées sur la responsabilisation des individus et l’accroissement de leurs capacités d’action. Le Conseil d’état veut de la transparence sur les classements proposés par les moteurs de recherche ou les plateformes, et donner le droit de faire valoir ses observations sur l’application d’un algorithme prédictif.
Pour le Conseil d’état, les algorithmes sont des sources de risques pour l’exercice de nos droits fondamentaux. « Face aux risques qu’ils présentent, il convient de définir un véritable droit des algorithmes prédictifs » affirme l’étude.
Enfermement
Pour le Conseil d’Etat, ces algorithmes présentent le risque d’enfermement de l’internaute dans une « personnalisation » dont il n’est pas maître. De même, il se crée une confiance abusive dans les résultats de ces algorithmes perçus comme objectifs et infaillibles. Enfin, de nouveaux problèmes d’équité apparaissent du fait de l’exploitation des données personnelles en matière d’accès à l’emploi, au crédit ou à l’assurance.
Pour autant, le Conseil d’état n’est pas opposé à l’usage statistique des données personnelles. Il souhaite même les mettre au service de l’efficacité des politiques de santé, d’éducation, de sécurité, de lutte contre la fraude ou de promotion de la culture, ainsi qu’à la simplification des démarches administratives. Il préconise dans ce sens d’ouvrir de manière maîtrisée l’utilisation des numéros d’identification.
