Recent searches
Search options
Aujourd'hui, avec 14 autres organisations, nous attaquons l'algorithme de scoring de la Caisse nationale des allocations familiales (CNAF) pour faire cesser la surveillance de masse et la discrimination envers les plus précaires que cet outil implique.
https://www.laquadrature.net/2024/10/16/lalgorithme-de-notation-de-la-cnaf-attaque-devant-le-conseil-detat-par-15-organisations/
Cet algorithme attribue chaque mois aux 13M d'allocataires un « score de suspicion » qui traduit la probabilité d'avoir obtenu un indu (c'est-à-dire un trop-perçu). Plus le score est élevé, plus la probabilité pour l'allocataire d'être ensuite contrôlé·e est élevé.
Il ne s'agit pas d'un algorithme de lutte contre la fraude, comme aime pourtant l'affirmer la CNAF : sont recherchées des situations d'indus, indépendamment d'une volonté de fraude, dont l'élément intentionnel ne peut pas être établi algorithmiquement.
Cet algorithme cherche donc les erreurs déclaratives. Et en raison de la complexité des allocations sociales en France, il cible donc les personnes les plus précaires bénéficiant de minima sociaux.
Dès 2016, les travaux de Dubois et ses collègues ont mis en évidence les effets discriminatoires de cet algorithme : plus les allocataires sont précaires, plus iels seront ciblé·es par l'algorithme qui leur attribuera un score élevé.
En 2023, nous avons pu obtenir le code source d'une ancienne version de l'algorithme et confirmer que cet algorithme discrimine les plus précaires : si vous bénéficiez de l'AAH, du RSA, si vous avez des faibles revenus, si vous êtes mère célibataires, etc., vous serez ciblé·e.
Cet algorithme est également une surveillance de masse automatisée : chaque mois, la moitié de la population française voit ses données analysées par la CNAF. Parce que l'algorithme prend également en compte la situation du conjoint ou des enfants pour calculer son score.
Il est temps que cela cesse. C'est pourquoi nous saisissons aujourd'hui le Conseil d'État. Mais nous espérons également que l'affaire soit transmise à la Cour de justice de l'UE, pour obtenir une victoire qui s'appliquerait à l'ensemble de l'UE.
Les CAF ont perdu de vue leur mission d'aide sociale. Au lieu d'accompagner les plus précaires, elles les fliquent et les discriminent. Nous espérons que ce contentieux, qui vise à faire interdire ce type d'algo, sera aussi l'occasion de repenser les politiques de contrôle.
Nous continuons à lutter contre ces algorithmes au-delà du cas de la CNAF. Nous lançons aujourd'hui notre page de campagne France Contrôle, pour centraliser nos travaux sur la gestion algorithmique des populations. https://www.laquadrature.net/francecontrole/
Alors pour nous aider à continuer la lutte contre ces abus algorithmiques, vous pouvez nous faire un don ! <3 https://www.laquadrature.net/donner