Les algorithmes qui veulent nous gouverner doivent être transparents. C’est le sens d’un rapport présenté le 15 décembre dernier par Axelle Lemaire, secrétaire d’état chargée du numérique et de l’innovation
Contrôler les algorithmes
Le rapport concerne les modalités de régulation des algorithmes. Il veut développer la capacité à tester et contrôler les algorithmes eux-mêmes. Il a été rédigé par le Conseil général de l’économie, de l’Industrie, de l’énergie et des technologies (CGE).
L’objectif est que les usagers ne soient pas isolés dans des « bulles de filtres » et qu’ils ne soient pas discriminés pour l’accès à la santé, à l’emploi, au logement, au crédit, à l’éducation sur la base d’algorithmes secrets. Pour cela, il faut un responsable vers lequel se tourner et demander des comptes dans les entreprises : le responsable des algorithmes ou Chief Algorithm Officer.
Plus globalement, cinq pistes d’actions sont proposées. Il s’agit tout d’abord de créer une plateforme collaborative scientifique afin de développer des outils logiciels et des méthodes de test des algorithmes.
Un bureau de contrôle
Autre proposition, créer un « bureau des technologies de contrôle de l’économie numérique » au sein de la DGCCRF (Direction générale de la concurrence, de la consommation et de la répression des fraudes ).
Côté entreprises, le rapport préconise de communiquer sur le fonctionnement des algorithmes visibles pour l’utilisateur et d’identifier l’équipe où la personne responsable, c’est à dire le « chief algorithm officer. »
Dans la foulée, il est proposé de développer, dans les domaines de l’emploi, de la santé, de la finance et de l’assurance, les réflexions sur les bonnes pratiques pour de nouveaux services utilisant des algorithmes de traitement des contenus.
Former les agents des services publics
Dernier point, il faudra former les agents opérant un service public utilisant un algorithme au respect des obligations de transparence inscrites dans la loi République numérique.
Top lectures en ce moment
-
Trois questions auxquelles les retailers doivent répondre face à l’IA agentique
-
Doctolib lance un assistant vocal de gestion des appels des patients
-
La CDP (Customer Data Platform), un projet clé de la transformation Data d’Axa F...
L’actualité de la transformation
L'IA clé de nos besoins vitaux dans l'eau, l'électricité et le gaz
Marchés de l’eau : l’IA générative arrive dans les réponses aux appels d’offres des collectivités
Saur, spécialiste de la distribution d’eau potable, fait évoluer son processus de réponse aux appels d’offres des collectivités et des industriels en y injectant de l’IA géné…
Stockage de l’électricité : l’IA générative outil d’accélération clé chez Engie
Le stockage de l’électricité est un enjeu stratégique. Engie s’y attelle et mobilise pour cela l’IA générative de type RAG, c'est-à-dire basée sur le traçage des documents source. …
Nouvelle donne dans le gaz naturel : GRDF s’adapte en utilisant l’IA
GRDF, leader de la distribution du gaz naturel en France, affine sa stratégie d’IA. Il s’appuie sur des serveurs internes pour la confidentialité des données de ses clients. GRDF c…
Et vous, qu’en pensez-vous ?
Une idée, une réaction, une question ? Laissez-nous un mot ci-dessous.
Je réagis à cet article