Les systèmes de reconnaissance des émotions présentent des biais raciaux mesurables
Aux États-Unis, des systèmes de reconnaissance des émotions ont montré des biais importants, évaluant les personnes à la peau noire comme ayant des émotions plus négatives que les personnes à la peau blanche pour la même expression faciale.
Démontre que les biais d'entraînement créent des cercles vicieux, notamment en sécurité où des agents déjà biaisés utilisent une technologie qui confirme leurs préjugés. Particulièrement grave pour les populations historiquement discriminées qui partent avec un stress plus élevé détecté et étiqueté par la technologie.
Alexandra souligne qu'une IA généralisée propage un biais à tout le monde sans exception, contrairement aux humains qui ont des biais variés. De plus, la chaîne de responsabilité est difficile à établir car les modèles de sécurité sont opaques et privés.
« on avait des billets qui justement allaient euh allaient finalement évaluer les personnes à la peau noire comme ayant euh des émotions en général plus négative que les personnes à la peau blanche pour la même expression »
Sources · 5 éditeur(s) indépendant(s)
- Racial Influence on Automated Perceptions of Emotions SSRN (Lauren Rhue, Wake Forest University)
- Emotion-reading tech fails the racial bias test The Conversation
- Racial Influence on Automated Perceptions of Emotions (texte intégral PDF) Racism and Technology Center
- Emotion-reading facial recognition displays racial bias Privacy International
- From Bias to Balance: Detecting Facial Expression Recognition Biases in Large Multimodal Foundation Models arXiv
- Addressing Racial Bias in Facial Emotion Recognition arXiv
Les systèmes ont été entraînés sur des bases de données biaisées à l'origine, utilisant la computer vision où la couleur de peau importait, créant des grands écarts d'accuracy entre types de population.