L’équité dans la machine ou comment le machine learning devient scientifique en tournant le dos au réalisme métrologique

Résumé

Nous soutenons dans cet article que la prise en compte de la fairness dans le machine learning (FairML) est un bon observatoire de la politique des statistiques et de leur transformation actuelle. Si les statisticiens classiques ont longtemps veillé à ce que leurs outils de mesure ne contiennent aucune trace politique, les data scientists, développeurs de machines prédictives, sont désormais contraints, par les problèmes d’équité qu’ils doivent traiter, de faire converger deux postures souvent distinctes : la recherche exigeante de la fiabilité des procédures de calcul et le souci de transparence du caractère construit et politiquement situé des opérations de quantification. Après avoir localisé socialement la formation du domaine FairML et décrit le cadre épistémologique particulier dans lequel il s’inscrit, nous verrons dans un second temps comment, concrètement, les chercheurs parviennent à penser à la fois construction mathématique et construction sociale des approches, à l’issue de controverses sur les métriques d’équité et leur statut dans l’apprentissage machine. Nous montrerons enfin que les approches du FairML tendent vers une forme d’objectivité spécifique, celle du « jugement exercé », reposant sur une perspective partielle et une justification raisonnablement partiale du concepteur de la machine – cette dernière devenant dès lors elle-même située politiquement.