Follow

", la bombe à retardement" : l'enfer de l'évaluation automatisée expliqué par une mathématicienne

L'ouvrage de l'analyste et mathématicienne Cathy 'Neil, "Algorithmes, la bombe à retardement" explique en détail l'application concrète des algorithmes d'apprentissage automatique (les "") dans la société américaine, avec toutes les conséquences qu'ils engendrent. Bienvenue dans l'enfer des machines évaluant les êtres humains.
information.tv5monde.com/info/

@TV5Monde "[...] C'est ainsi qu'une enseignante très appréciée de sa direction, des parents d'élève et de ses élèves, est licenciée après que le logiciel lui a donné un score très faible. 205 autres enseignants de l'Etat de Washington D.C sont alors congédiés avec elle. L'enseignante s'occupait d'une majorité d'élèves en grande difficulté, la machine, voyant les mauvaises notes de ces derniers, lui a infligé un score très faible, synonyme de licenciement dans le système mis en place…" 😱

@remich Le fait que le programme ne prenait semblait-il en entrée que les notes des élèves est très problématique. Ça montre typiquement comment des managers ont choisis arbitrairement une mesure de l'efficacité et ne regardent plus que par cette dernière. Pas besoin d'IA (d'AAA ☺️) pour rencontrer ce genre de problèmes : une administration incompétente le fait tout « aussi bien » 😢

Sign in to participate in the conversation
La Quadrature du Net - Mastodon - Media Fédéré

The social network of the future: No ads, no corporate surveillance, ethical design, and decentralization! Own your data with Mastodon!