Les algorithmes sont-ils racistes et sexistes ?
Des femmes automatiquement défavorisées dans l'obtention d'un crédit, des distributeurs de savon qui ne détectent pas les peaux noires… Les algorithmes qui nous entourent sont-ils racistes et sexistes ?
Racistes et sexistes, les algorithmes ?
Les algorithmes restent majoritairement pensés par des hommes blancs. Des informaticiens alertent sur ces biais algorithmiques, qui excluent parfois des pans entiers de la population.
En 2017, Joy Buolamwini, une informaticienne noire, s’est aperçu qu’elle n’arrivait pas à utiliser un logiciel de reconnaissance faciale. Et pour cause : l'algorithme du logiciel n’était pas capable de détecter sa peau. Pourtant, quand elle portait un masque blanc, il fonctionnait.
Les personnes racisées pénalisées
Cette discrimination est le résultat d’un “biais algorithmique”, explique Aurélie Jean, informaticienne et autrice de De l’autre côté de la machine, Voyage d’une scientifique aux pays des algorithmes (éditions de L’Observatoire). “L'un des cas de biais algorithmiques les plus connus est sûrement celui des algorithmes de reconnaissance faciale. Ils ne reconnaissaient pas les peaux noires car les personnes qui les avaient pensés, développés et implémentés étaient principalement blanches, voire uniquement blanches.”
Ici, c’est la base de données (une banque d’images, par exemple) sur laquelle est basé l’algorithme qui pose problème. “Si les données qu’on soumet à l’algorithme excluent une catégorie de la population, l’algorithme l’exclura aussi” résume Aurélie Jean. Qui ajoute : “Les biais peuvent concerner l'ethnicité, le genre, l'orientation sexuelle, la culture, le langage, la langue, mais aussi l'âge.” Les conséquences de ces biais peuvent être dramatiques. Des chercheurs du Georgia Institute of Technology, à Atlanta, ont notamment révélé que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs.
Des algorithmes conçus à 88 % par des hommes
Autre biais pointé du doigt : les discriminations sexistes. Fin 2019, l'algorithme utilisé par la carte de crédit d’Apple aurait défavorisé des femmes qui tentaient d’obtenir un crédit. “L’algorithme a dû apprendre à partir de données bancaires du passé, peut-être sur des décennies” avance Aurélie Jean. Le pouvoir d’achat réel des femmes aurait donc été minimisé. Pourquoi une telle discrimination ? D’après la biologiste Aude Bernheim, autrice de L’Intelligence artificielle, pas sans elles ! les algorithmes sont conçus à 88 % par des hommes. D’où une reproduction du sexisme de notre société.
Aurélie Jean acquiesce : “L'algorithme n'est pas coupable, ni sexiste, ni raciste. Il n'est ni une personne morale, ni une personne physique. Ce sont nous, les humains, qui sommes machos, racistes, sexistes, et qui devons prendre nos responsabilités par rapport à ces algorithmes. Parce que derrière chaque algorithme, il y a au moins une personne, qui a pensé, réfléchi, conçu, testé…” Selon elle, engager plus de femmes dans les équipes de développement, notamment, permettrait de créer de nouvelles dynamiques. Mais le chemin à parcourir semble encore long. Aujourd’hui, seulement 15 % des ingénieurs en informatique sont des femmes, selon la Fondation [email protected]érique.
- 860.3K
- 4.2K
- 666
518 commentaires
Framboise D.
09/11/2020 10:20"les algorithmes, composés à 88 % par des hommes, sont sexistes " 🤣
Philippe S.
07/11/2020 17:40Autrement dit, peu identifiable par les caméras du centre ville? Enfin un avantage d'être noir dans nos pays occidentaux .
Olivier M.
07/11/2020 14:21Brut "Champion" pour créer implicitement des conflits. La seule limite de ces algorithmes est celle venant de la réflexion de ces créateurs.
Mika S.
07/11/2020 08:13des distributeurs qui détectent pas les peaux noires 🤣😭
Grégoire H.
06/11/2020 21:58si on pensait avoir encore une chance
Anna M.
06/11/2020 12:20Καλημέρα Elliot . Μπορείς να μου το μεταφράσεις η να μου εξηγήσεις καλλιτερα ;
Vushi G.
05/11/2020 20:52Qui nous détecte pas jusquaaaaa , non merci laisse ça comme ça
Gen E.
05/11/2020 16:51Faites des algo anti blancs qu on en finisse la logique n'a pas de couleur c quoi ces conneries encore
Gen E.
05/11/2020 16:50Qui voudrais etre un albinos (blanc) pas moi en tout cas
Florent E.
05/11/2020 13:35C'est quoi ce reportage a la con ? Si on y reflechit bien ça voudrait dire que les personnes à la peau noire ne peuvent pas déverrouiller leurs portables en Face ID non ? C'est pas le cas ?
Clara C.
05/11/2020 13:06mdr
Patrick L.
05/11/2020 12:38Vive les biais algorithmiques, surtout quand ils sont racistes et sexistes ! https://www.bfmtv.com/tech/vie-numerique/cette-discrete-entreprise-aide-les-autorites-americaines-a-identifier-des-millions-de-citoyens_AV-202001200040.html Cette base de données illégale fruit du piratage des données de plus de 3 milliards de personnes, a elle même été piratée. https://www.lebigdata.fr/clearview-ai-reconnaissance-faciale Où sont vos données ? Nulle part si un algorithme raciste et sexiste vous a exclu de ce qu'il est capable de reconnaître :-).
Rom F.
05/11/2020 10:28Quels problèmes existentielles
Etienne R.
05/11/2020 09:46Ouh d un biais algorithmique
Maïlys R.
05/11/2020 08:39ca n’a pas changé en 4 ans 😫
Laurena C.
05/11/2020 06:53En gros l'informatique à était faite raciste et sexiste , mais c'est merveilleux la connerie de ces inventeurs !
Matt I.
05/11/2020 06:05Y avait pas tous ces problèmes quand la femme restait sagement à la maison avec les enfants...
Ludovik Z.
05/11/2020 02:45Comment des distributeurs de savon peuvent ne pas détecter les peaux noires alors que les paumes de nos mains sont toutes de la même couleur ?
Abdelkrim A.
05/11/2020 02:03Il y'a du travail !
Mika T.
05/11/2020 00:33Ce serait pas plutôt un problème d'absorption de la lumière et d'ombrage qu un problème de discrimination.......🤦🏼♂️ mon dieu c est quoi ces gens qui crient à la discrimination direct