La Caisse d’allocation familiale (CAF) a développé un algorithme qui lui permet de surveiller les allocataires et suspecter celles et ceux qui seraient potentiellement prêts à frauder. Il s’agit de l’algorithme de la honte qui à l’aide des données personnelles des allocataires donne une note qui permet de suspecter des fraudeurs or la méthodologie utilisée a pour conséquence que ce sont les allocataires les plus pauvres et les plus fragiles qui sont suspectés de fraudes. Cet algorithme est donc discriminatoire, ce que conteste avec mauvaise foi la CAF.
Cet algorithme a été dénoncé par diverses associations. La Quadrature du net mène depuis de longs mois une expertise sur ce logiciel et rappelle que le président de la Seine-Saint-Denis a saisi le défenseur des Droits suite à la publication du code source de l’algorithme que la Quadrature avait obtenu. Son travail pour obtenir le code source de l’algorithme a par ailleurs servi aux équipes du Monde et de Lighthouse Reports à publier une série d’articles ayant eu un grand retentissement médiatique. Une députée EELV a par ailleurs abordé la question de l’algorithme lors des questions au gouvernement. Thomas Piketty a écrit une tribune sur le sujet et ATD Quart Monde un communiqué. Le parti EELV a aussi lancé une pétition sur ce sujet disponible ici.
« Situation familiale, professionnelle, financière, lieu de résidence, type et montants des prestations reçues, fréquence des connexions à l’espace web, délai depuis le dernier déplacement à l’accueil, nombre de mails échangés, délai depuis le dernier contrôle, nombre et types de déclarations : la liste de la quarantaine de paramètres pris en compte par l’algorithme, disponible ici, révèle le degré d’intrusion de la surveillance à l’œuvre.
Elle s’attache à la fois aux données déclarées par un·e allocataire, à celles liées à la gestion de son dossier et celles concernant ses interactions, au sens large, avec la CAF. Chaque paramètre est enfin analysé selon un historique dont la durée est variable. Visant tant les allocataires que leurs proches, elle porte sur les plus de 32 millions de personnes, dont 13 millions d’enfants, vivant dans un foyer bénéficiant d’une prestation de la CAF.
Quant à la question du ciblage des plus précaires, la publication du code source vient donner la preuve définitive du caractère discriminant des critères retenus. Ainsi, parmi les variables augmentant le « score de suspicion », on trouve notamment :
- Le fait de disposer de revenus faibles,
- Le fait d’être au chômage,
- Le fait d’être allocataire du RSA,
- Le fait d’habiter dans un quartier « défavorisé »8,
- Le fait de consacrer une partie importante de ses revenus à son loyer,
- Le fait de ne pas avoir de travail ou de revenus stables.
Comble du cynisme, l’algorithme vise délibérément les personnes en situation de handicap : le fait de bénéficier de l’Allocation Adulte Handicapé (AAH) tout en travaillant est un des paramètres impactant le plus fortement, et à la hausse, le score d’un·e allocataire.
Les profils-types correspondent tous à des foyers comprenant deux enfants à charge et sont censés correspondre à :
- Une famille « aisée » aux revenus stables et élevés,
- Une famille « modeste » dont les deux parents gagnent le SMIC,
- Un parent isolé gagnant aussi le SMIC,
- Une famille dont les deux parents sont bénéficiaires des minima sociaux,
- Une famille dont un des parents est travailleur·se en situation de handicap : pour ce profil, nous simulons le score de la personne bénéficiant de l’AAH trimestrialisée.
Ce que montre notre graphique c’est justement que les variables socio-économiques ont un poids prépondérant dans le calcul du score, désavantageant structurellement les personnes en situation de précarité. Ainsi, le risque d’être contrôlé suite à un événement considéré comme « facteur de risque » par l’algorithme – déménagement, séparation, décès – se révèle inexistant pour un allocataire aisé puisque son score est initialement proche de zéro. A l’inverse, pour un allocataire du RSA dont le score est déjà particulièrement élevé, le moindre de ces évènements risque de faire basculer son score au-delà du seuil à partir duquel un contrôle est déclenché.
À peine quelques heures après la publication de notre article — et alors qu’il était possible pour chacun·e de vérifier que la valeur du score de suspicion alloué par l’algorithme augmente avec le fait d’être en situation de handicap tout en travaillant, d’avoir de faibles revenus, de bénéficier des minima sociaux ou encore d’être privé·e d’emploi — le directeur de la CAF affirmait publiquement que son algorithme n’était « pas discriminatoire ».
