Les algorithmes sont-ils racistes et sexistes ?
Des femmes automatiquement défavorisées dans l'obtention d'un crédit, des distributeurs de savon qui ne détectent pas les peaux noires… Les algorithmes qui nous entourent sont-ils racistes et sexistes ?
Racistes et sexistes, les algorithmes ?
Les algorithmes restent majoritairement pensés par des hommes blancs. Des informaticiens alertent sur ces biais algorithmiques, qui excluent parfois des pans entiers de la population.
En 2017, Joy Buolamwini, une informaticienne noire, s’est aperçu qu’elle n’arrivait pas à utiliser un logiciel de reconnaissance faciale. Et pour cause : l'algorithme du logiciel n’était pas capable de détecter sa peau. Pourtant, quand elle portait un masque blanc, il fonctionnait.
Les personnes racisées pénalisées
Cette discrimination est le résultat d’un “biais algorithmique”, explique Aurélie Jean, informaticienne et autrice de De l’autre côté de la machine, Voyage d’une scientifique aux pays des algorithmes (éditions de L’Observatoire). “L'un des cas de biais algorithmiques les plus connus est sûrement celui des algorithmes de reconnaissance faciale. Ils ne reconnaissaient pas les peaux noires car les personnes qui les avaient pensés, développés et implémentés étaient principalement blanches, voire uniquement blanches.”
Ici, c’est la base de données (une banque d’images, par exemple) sur laquelle est basé l’algorithme qui pose problème. “Si les données qu’on soumet à l’algorithme excluent une catégorie de la population, l’algorithme l’exclura aussi” résume Aurélie Jean. Qui ajoute : “Les biais peuvent concerner l'ethnicité, le genre, l'orientation sexuelle, la culture, le langage, la langue, mais aussi l'âge.” Les conséquences de ces biais peuvent être dramatiques. Des chercheurs du Georgia Institute of Technology, à Atlanta, ont notamment révélé que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs.
Des algorithmes conçus à 88 % par des hommes
Autre biais pointé du doigt : les discriminations sexistes. Fin 2019, l'algorithme utilisé par la carte de crédit d’Apple aurait défavorisé des femmes qui tentaient d’obtenir un crédit. “L’algorithme a dû apprendre à partir de données bancaires du passé, peut-être sur des décennies” avance Aurélie Jean. Le pouvoir d’achat réel des femmes aurait donc été minimisé. Pourquoi une telle discrimination ? D’après la biologiste Aude Bernheim, autrice de L’Intelligence artificielle, pas sans elles ! les algorithmes sont conçus à 88 % par des hommes. D’où une reproduction du sexisme de notre société.
Aurélie Jean acquiesce : “L'algorithme n'est pas coupable, ni sexiste, ni raciste. Il n'est ni une personne morale, ni une personne physique. Ce sont nous, les humains, qui sommes machos, racistes, sexistes, et qui devons prendre nos responsabilités par rapport à ces algorithmes. Parce que derrière chaque algorithme, il y a au moins une personne, qui a pensé, réfléchi, conçu, testé…” Selon elle, engager plus de femmes dans les équipes de développement, notamment, permettrait de créer de nouvelles dynamiques. Mais le chemin à parcourir semble encore long. Aujourd’hui, seulement 15 % des ingénieurs en informatique sont des femmes, selon la Fondation [email protected]érique.
- 596.1k
- 3.1k
- 538
87 commentaires
Mourad D.
02/02/2020 20:50J'ai envie de dire. Eh ben...
Hervé G.
02/02/2020 17:59Et à part vous rouler dans votre pipi, avez-vous des projets dans la vie ? Vous voyez, moi ça ne me viendrait même pas à l'idée de me plaindre qu'il n'y a que 1% d'hommes chez les sages-femmes, ou qu'on ne voit pas assez de berrichons dans les clips de rap. Si vous avez envie de faire des trucs, vous les faites, et vous arrêtez de nous les briser.
Mano B.
02/02/2020 14:54J'ai bien lu: "des chercheurs ont réalisé que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs"?!? 😱 Comment est-il possible de faire fi de la moitié de l'humanité ...
Véloci R.
02/02/2020 10:52Mais qu'est ce que c'est débile ce genre de truc. Oh, si la reconnaissance faciale avait été inventée par un noir, ça aurait été le contraire non?
Alexandre G.
02/02/2020 08:31Raaah les pauvres femmes... Une vidéo sur les assurances de voitures moins chère pour les femmes et donc plus chère quand tu es un homme ?! Brut, brut, brut. Stop ta feministerie ridicule. Ce n'est pas en étant misandre, raciste envers les blancs, et tres fachiste, que tu vas arrivé à une pseudo égalité.--' Ça aurait été créé par 88% de femmes, ca aurait été exactement pareil. Stop votre racisme et misandrie. Ça ne combat pas le sexisme et le racisme d'agir pareil. Les génies.
Jean-Baptiste R.
02/02/2020 08:17En même temps ça arrive si souvent ces femmes qui contractent des crédits et qui au final crament le capital emprunté dans des chaussures ou chez le coiffeur.
Shaka M.
02/02/2020 07:27Temps mieux pour nous on est indétectable
Osdrum D.
02/02/2020 07:00Ça recommence ces jérémiades négrophiles...
Eric M.
02/02/2020 06:57Mais cette débilité lol. Lorsque l'on sait comment fonctionne le système on ne voit pas de problème de couleur de peau mais un problème technique lié à une limite de la technologie. Exemple, essayez d'utiliser une souris laser sur une surface sombre vous verrez le résultat
Christian T.
02/02/2020 06:22"Des distributeurs de savon qui ne détectent pas les peaux noirs", n'importe quoi !
Mary M.
01/02/2020 21:13si c vraiment le cas , autant de technologie pour en arrivé à reproduire de vieux clichés aussi pourris , c bien la peine .
Fabienne H.
01/02/2020 18:56😡😓
Patrice E.
01/02/2020 16:24QUOI??? un détecteur de visage ne reconnait que des visages clairs? 🤔 c'est du racisme anti-blanc! 🙃 Qu'en pense la député Obono?
Julien M.
01/02/2020 16:10Vos détecteurs de robinet, c'est des détecteurs de mouvement par infrarouges et les couleurs sombres reflètent moins d'infrarouge que les couleurs claires... simple physique de base, aucun racisme là dedans, maintenant dans les meilleurs détecteurs la sensibilité est améliorée pour pallier ce problème, pour les autres c'est du quitte ou double 😂
Wanda P.
01/02/2020 15:51Sérieux entretenez le racisme
Valérie V.
01/02/2020 15:49Qui prouve une certaine involution humaine
Phillou L.
01/02/2020 13:23l'on peut ce poser cette question pour toute les activité humaine régis par la politique (justice , argent , déplacements , banque , ) et même parfois si certain noir sont pas raciste et femmes sexiste ! sans parlé de la lutte des classes qui avec le temps devient du racisme ! ce n'est qu'une idée en passant , certain pourrons certainement mieux développer la chose , voir la dénigrer , et même la trouvé stupide ! de toute façon , il n'y a pas grand chose qui fait avancer le schmilblic ! lol
Stéphane R.
01/02/2020 13:033min03 Même principe pour l'IA, c'est l'homme qui rédige les règles de conception d'une technologie et pas le contraire ^^ (et au pire si technologie créé technologie dis toi qu'à la base y a forcément une création de l'homme au départ)
Séréna C.
01/02/2020 08:35oh
Monique J.
01/02/2020 07:22Oui ne pas être reconnu pouvait aussi avoir du bon. Aujourd'hui plus personne n'échappe à tout ce qui nous traque, nous dévisage et nous écoute....