retour

Les algorithmes sont-ils racistes et sexistes ?

Des femmes automatiquement défavorisées dans l'obtention d'un crédit, des distributeurs de savon qui ne détectent pas les peaux noires… Les algorithmes qui nous entourent sont-ils racistes et sexistes ?

Racistes et sexistes, les algorithmes ?

Les algorithmes restent majoritairement pensés par des hommes blancs. Des informaticiens alertent sur ces biais algorithmiques, qui excluent parfois des pans entiers de la population.

En 2017, Joy Buolamwini, une informaticienne noire, s’est aperçu qu’elle n’arrivait pas à utiliser un logiciel de reconnaissance faciale. Et pour cause : l'algorithme du logiciel n’était pas capable de détecter sa peau. Pourtant, quand elle portait un masque blanc, il fonctionnait.

Les personnes racisées pénalisées

Cette discrimination est le résultat d’un “biais algorithmique”, explique Aurélie Jean, informaticienne et autrice de De l’autre côté de la machine, Voyage d’une scientifique aux pays des algorithmes (éditions de L’Observatoire). “L'un des cas de biais algorithmiques les plus connus est sûrement celui des algorithmes de reconnaissance faciale. Ils ne reconnaissaient pas les peaux noires car les personnes qui les avaient pensés, développés et implémentés étaient principalement blanches, voire uniquement blanches.”

Ici, c’est la base de données (une banque d’images, par exemple) sur laquelle est basé l’algorithme qui pose problème. “Si les données qu’on soumet à l’algorithme excluent une catégorie de la population, l’algorithme l’exclura aussi” résume Aurélie Jean. Qui ajoute : “Les biais peuvent concerner l'ethnicité, le genre, l'orientation sexuelle, la culture, le langage, la langue, mais aussi l'âge.” Les conséquences de ces biais peuvent être dramatiques. Des chercheurs du Georgia Institute of Technology, à Atlanta, ont notamment révélé que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs.

Des algorithmes conçus à 88 % par des hommes

Autre biais pointé du doigt : les discriminations sexistes. Fin 2019, l'algorithme utilisé par la carte de crédit d’Apple aurait défavorisé des femmes qui tentaient d’obtenir un crédit. “L’algorithme a dû apprendre à partir de données bancaires du passé, peut-être sur des décennies” avance Aurélie Jean. Le pouvoir d’achat réel des femmes aurait donc été minimisé. Pourquoi une telle discrimination ? D’après la biologiste Aude Bernheim, autrice de L’Intelligence artificielle, pas sans elles ! les algorithmes sont conçus à 88 % par des hommes. D’où une reproduction du sexisme de notre société.

Aurélie Jean acquiesce : “L'algorithme n'est pas coupable, ni sexiste, ni raciste. Il n'est ni une personne morale, ni une personne physique. Ce sont nous, les humains, qui sommes machos, racistes, sexistes, et qui devons prendre nos responsabilités par rapport à ces algorithmes. Parce que derrière chaque algorithme, il y a au moins une personne, qui a pensé, réfléchi, conçu, testé…” Selon elle, engager plus de femmes dans les équipes de développement, notamment, permettrait de créer de nouvelles dynamiques. Mais le chemin à parcourir semble encore long. Aujourd’hui, seulement 15 % des ingénieurs en informatique sont des femmes, selon la Fondation [email protected]érique.

02/01/2020 07:19
  • 1.1M
  • 812

417 commentaires

  • Framboise D.
    09/11/2020 10:20

    "les algorithmes, composés à 88 % par des hommes, sont sexistes " 🤣

  • Philippe S.
    07/11/2020 17:40

    Autrement dit, peu identifiable par les caméras du centre ville? Enfin un avantage d'être noir dans nos pays occidentaux .

  • Olivier M.
    07/11/2020 14:21

    Brut "Champion" pour créer implicitement des conflits. La seule limite de ces algorithmes est celle venant de la réflexion de ces créateurs.

  • Mika S.
    07/11/2020 08:13

    des distributeurs qui détectent pas les peaux noires 🤣😭

  • Grégoire H.
    06/11/2020 21:58

    si on pensait avoir encore une chance

  • Anna M.
    06/11/2020 12:20

    Καλημέρα Elliot . Μπορείς να μου το μεταφράσεις η να μου εξηγήσεις καλλιτερα ;

  • Vushi G.
    05/11/2020 20:52

    Qui nous détecte pas jusquaaaaa , non merci laisse ça comme ça

  • Florent E.
    05/11/2020 13:35

    C'est quoi ce reportage a la con ? Si on y reflechit bien ça voudrait dire que les personnes à la peau noire ne peuvent pas déverrouiller leurs portables en Face ID non ? C'est pas le cas ?

  • Clara C.
    05/11/2020 13:06

    mdr

  • Patrick L.
    05/11/2020 12:38

    Vive les biais algorithmiques, surtout quand ils sont racistes et sexistes ! https://www.bfmtv.com/tech/vie-numerique/cette-discrete-entreprise-aide-les-autorites-americaines-a-identifier-des-millions-de-citoyens_AV-202001200040.html Cette base de données illégale fruit du piratage des données de plus de 3 milliards de personnes, a elle même été piratée. https://www.lebigdata.fr/clearview-ai-reconnaissance-faciale Où sont vos données ? Nulle part si un algorithme raciste et sexiste vous a exclu de ce qu'il est capable de reconnaître :-).

  • Rom F.
    05/11/2020 10:28

    Quels problèmes existentielles

  • Etienne R.
    05/11/2020 09:46

    Ouh d un biais algorithmique

  • Maïlys R.
    05/11/2020 08:39

    ca n’a pas changé en 4 ans 😫

  • Laurena C.
    05/11/2020 06:53

    En gros l'informatique à était faite raciste et sexiste , mais c'est merveilleux la connerie de ces inventeurs !

  • Matt I.
    05/11/2020 06:05

    Y avait pas tous ces problèmes quand la femme restait sagement à la maison avec les enfants...

  • Ludovik Z.
    05/11/2020 02:45

    Comment des distributeurs de savon peuvent ne pas détecter les peaux noires alors que les paumes de nos mains sont toutes de la même couleur ?

  • Abdelkrim A.
    05/11/2020 02:03

    Il y'a du travail !

  • Mika T.
    05/11/2020 00:33

    Ce serait pas plutôt un problème d'absorption de la lumière et d'ombrage qu un problème de discrimination.......🤦🏼‍♂️ mon dieu c est quoi ces gens qui crient à la discrimination direct

  • Safalas S.
    04/11/2020 23:21

    النساء عبارة عن كائنات قابلة للتربية ما دمن يتلاسنّ بكلمات مركبة دو مفاهيم مبعترة لتشتيت التقافة الانساجية للادمغة المؤهلة لإعادة الادماج من وزارة التربية الوطنية الصبيطرية

  • Toni P.
    04/11/2020 21:06

    il faudrait avoir accès au code source des applications citées pour en être sûr et ce n'est pas facile. S'agit-il d'un problème de conception de matériel/logiciel ou d'un acte volontaire ? Pour les distributeurs de savon, il y a aussi le matériel qui entre en jeu, les cellules photosensibles d'un distributeur de savon peuvent être de si mauvaise qualité pour des raisons de coût qu'elles ne fonctionnent pas sur certaines peaux. Il faudrait voir avec un autre système, Thermosensible, laser ou autres. Il n'y a pas d'algo complexe dans un distributeur de savon, c'est un simple circuit électronique. La machine fonctionne dans la nuit profonde sans lumière ?

Inscrivez-vous gratuitement à myBrut, la newsletter de Brut.

Inscrivez-vous gratuitement à myBrut, la newsletter de Brut.

switch-check
switch-x
En continuant, vous acceptez de recevoir des e-mails de Brut.