Des algorithmes néfastes à la démocratie?

Terminator fonctionne grâce aux algorithmes, qui donnent «vie» à cet être hollywoodien si néfaste pour l’humain. Aujourd’hui, avec des drones équipés de mitraillettes et de détection faciale, on n’en n’est plus très loin. Cependant, ce n’est pas tant cela qui menace notre démocratie. Cathy O’Neil, mathématicienne, a étudié la question dans son livre "Weapons of Math Destruction", elle en a déduit trois propriétés communes : (1) ces algorithmes fonctionnent comme des boites noires, (2) ils ne sont pas régulés (3) ils font des prédictions au niveau des masses populaires. Un exemple illustre bien cela. Dans son livre, la mathématicienne donne notamment l’exemple des effets néfastes qu’on eut les modèles de classement (ranking) des universités américaines. Déjà en 1983 le magazine "U.S. News" a voulu créer un classement de toutes les universités américaines. Pour y répondre de façon objective, le magazine a décidé de créer un modèle algorithmique pour faire ce classement. Sur quels critères pouvait-il décider si une université est meilleure qu’une autre: la qualité d’enseignement? l’impact qu’ont les « alumni » dans la société? la qualité de vie du campus? La cohésion entre les étudiants ? C’est une question dont la réponse est très subjective et dont les variables sont elles-mêmes difficilement mesurables. Ainsi le magazine a plutôt utilisé des critères tangibles et à disposition, comme le prix des études, le nombre d’étudiants recalés à l’admission, la moyenne des scores au SAT des étudiants, le nombre de prix Nobel, etc. ils ont remarqué que pour avoir un modèle qui classe les grandes écoles comme Harvard dans le top 10, il est nécessaire que le prix des études soit élevé ! Il en va de même pour le nombre d’étudiants recalés à l’admission ! Ce «ranking» a eu un énorme succès. Et donc les universités se sont mises à «étudier» le modèle afin d’améliorer leur propre classement. Bien que la formule de cet algorithme soit tenue secrète, les universités ont découvert les principaux critères et il leur a fallu très peu de temps avant d’augmenter le prix des études et devenir plus sélectives à l’entrée afin de gagner des places dans le classement. Aujourd’hui la dette estudiantine aux U.S.A. se compte en billons de dollars (c'est à dire en milliers de milliards de dollars) et les étudiants doivent déposer au moins une vingtaine de dossiers pour être acceptés dans une seule université. Un autre exemple. Pendant l’élection américaine de 2016, la société Cambridge Analytica, a attiré l’attention de tous sur ses pratiques douteuses sur Facebook pendant les élections américaines. Pour mémoire: en 2014 à l’Université de Cambridge, des chercheurs du Centre psychométrique ont développé des algorithmes pour comprendre le profil psychologique d’une personne grâce à son activité sur Facebook. Sur la base de ces travaux, un professeur de l’université décida de créer une base de données d’utilisateurs qu’il revendra à Cambridge Analytica qui les utilisera en 2016 dans la campagne présidentielle américaine (et aussi pour le Brexit) pour influencer le choix des électeurs. Scandale démocratique ! Mais à l’élection de 2020, la stratégie a été tout autre, même si les réseaux sociaux ont été aussi au cœur du problème. Cela a consisté à attirer par des algorithmes e les internautes vers les groupes « complotistes » comme QAnon afin d’obtenir des voies en faveur de Trump, seul véritable défenseur des « petites » électeurs ! Nouveau Scandale. *   Mathématiciens et membres du Think Tank CODE_IA