L’algorithme de détection de la fraude de la CNAF (Caisse Nationale des Caisses d’Allocation Familiales) est attaqué devant le Conseil d’État par 15 organisations. Ces organisations estiment que l’algorithme est discriminatoire vis-à-vis des personnes les plus défavorisées car elles sont surcontrôlées.
Un score de suspicion de fraude
Chaque allocataire des allocations familiales se voit attribuer un score de suspicion de fraude dont la valeur est utilisée pour sélectionner ceux qui peuvent faire l’objet d’un contrôle. Plus le score est élevé, plus la probabilité d’être contrôlé est grande.
Les organisations indiquent que chaque mois, l’algorithme analyse les données personnelles de 32 millions de personnes vivant dans un foyer recevant une prestation CAF et calcule 13 millions de scores. Les 15 organisations relèvent que parmi les facteurs qui augmentent le score de suspicion, on trouve le fait d’avoir de faibles revenus, d’être au chômage, de recevoir le revenu de solidarité active (RSA) ou l’allocation adulte handicapé (AAH).
Dès lors, ces organisations affirment que ces personnes se retrouvent surcontrôlées par rapport au reste de la population. Le recours auprès du Conseil d’État porte sur l’étendue de la surveillance et sur ce qui est décrit comme une discrimination opérée par cet algorithme envers des allocataires présentés comme déjà fragilisés.
Précarité et soupçon de fraude assimilés
Dès lors, il est considéré que cet algorithme assimile la précarité et le soupçon de fraude et qu’il s’agit d’une politique de stigmatisation et de maltraitance institutionnelle des personnes les plus défavorisées. Les organisations pointent que ces contrôles sont des moments difficiles à vivre et qu’ils créent une forte charge administrative pour les personnes ciblées.
De plus, ces contrôles s’accompagnent de suspensions du versement des prestations. Et cela précède des demandes de remboursements d’indus qui sont non-motivées. Les voies de recours ne sont pas toujours compréhensibles ni accessibles.
« Cet algorithme est la traduction d’une politique d’acharnement contre les plus pauvres » affirme Bastien Le Querrec, juriste à La Quadrature du Net. « Parce que vous êtes précaire, vous serez suspect aux yeux de l’algorithme, et donc contrôlé. C’est une double peine » dit-il.
Nicolas Grivel directeur général de la Cnaf répond que l’algorithme cible « les indus importants et répétés » cité par Le Parisien. Il déclare que la Cnaf se mettrait en conformité si une juridiction devait prendre position pour faire évoluer le dispositif.
Les 15 organisations signataires :
La Quadrature du Net (LQDN)
AADJAM (Association d’Accès aux Droits des Jeunes et d’Accompagnement vers la Majorité)
Aequitaz. Contact presse : contact@aequitaz.org
Amnesty International France
ANAS (Association nationale des assistant·e·s de service social)
APF France handicap
Collectif Changer de Cap
Fondation Abbé Pierre
GISTI
Le Mouton numérique
La LDH (Ligue des droits de l’Homme)
MNCP (Mouvement national des chômeurs et précaires)
MRFB (Mouvement Français pour un Revenu de base).
CNDH Romeurope
Syndicat des avocats de France (SAF).
Et vous, qu’en pensez-vous ?
Une idée, une réaction, une question ? Laissez-nous un mot ci-dessous.
Je réagis à cet articleTop lectures en ce moment
-
Doctolib lance un assistant vocal de gestion des appels des patients
-
Trois questions auxquelles les retailers doivent répondre face à l’IA agentique
-
La CDP (Customer Data Platform), un projet clé de la transformation Data d’Axa F...
L’actualité de la transformation
L'IA clé de nos besoins vitaux dans l'eau, l'électricité et le gaz
Marchés de l’eau : l’IA générative arrive dans les réponses aux appels d’offres des collectivités
Saur, spécialiste de la distribution d’eau potable, fait évoluer son processus de réponse aux appels d’offres des collectivités et des industriels en y injectant de l’IA géné…
Stockage de l’électricité : l’IA générative outil d’accélération clé chez Engie
Le stockage de l’électricité est un enjeu stratégique. Engie s’y attelle et mobilise pour cela l’IA générative de type RAG, c'est-à-dire basée sur le traçage des documents source. …
Nouvelle donne dans le gaz naturel : GRDF s’adapte en utilisant l’IA
GRDF, leader de la distribution du gaz naturel en France, affine sa stratégie d’IA. Il s’appuie sur des serveurs internes pour la confidentialité des données de ses clients. GRDF c…
Je suis reconnue handicapée (50 à 80 %), en arrêt maladie, bientôt en fin de droits, avec une demande d’invalidité en cours. Malgré mes envois en LRAR, mes déplacements en VSL à la CAF et l’aide d’une assistante sociale, mes documents me sont constamment redemandés sous prétexte d’erreurs ou de pièces manquantes cela fait 7 mois que cela dure, en décembre je nai plus aucun revenu, zero, nada, jai un enfant a charge. La CAF ma saisi mon AAH, … Oui, vous avez bien lu. Je vais devoir saisir le Défenseur des droits, je suis sans revenus, 1 enfant a charge, c’est encore de trop pour toucher les AAH.