retour

Les algorithmes sont-ils racistes et sexistes ?

Des femmes automatiquement défavorisées dans l'obtention d'un crédit, des distributeurs de savon qui ne détectent pas les peaux noires… Les algorithmes qui nous entourent sont-ils racistes et sexistes ?

Racistes et sexistes, les algorithmes ?

Les algorithmes restent majoritairement pensés par des hommes blancs. Des informaticiens alertent sur ces biais algorithmiques, qui excluent parfois des pans entiers de la population.

En 2017, Joy Buolamwini, une informaticienne noire, s’est aperçu qu’elle n’arrivait pas à utiliser un logiciel de reconnaissance faciale. Et pour cause : l'algorithme du logiciel n’était pas capable de détecter sa peau. Pourtant, quand elle portait un masque blanc, il fonctionnait.

Les personnes racisées pénalisées

Cette discrimination est le résultat d’un “biais algorithmique”, explique Aurélie Jean, informaticienne et autrice de De l’autre côté de la machine, Voyage d’une scientifique aux pays des algorithmes (éditions de L’Observatoire). “L'un des cas de biais algorithmiques les plus connus est sûrement celui des algorithmes de reconnaissance faciale. Ils ne reconnaissaient pas les peaux noires car les personnes qui les avaient pensés, développés et implémentés étaient principalement blanches, voire uniquement blanches.”

Ici, c’est la base de données (une banque d’images, par exemple) sur laquelle est basé l’algorithme qui pose problème. “Si les données qu’on soumet à l’algorithme excluent une catégorie de la population, l’algorithme l’exclura aussi” résume Aurélie Jean. Qui ajoute : “Les biais peuvent concerner l'ethnicité, le genre, l'orientation sexuelle, la culture, le langage, la langue, mais aussi l'âge.” Les conséquences de ces biais peuvent être dramatiques. Des chercheurs du Georgia Institute of Technology, à Atlanta, ont notamment révélé que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs.

Des algorithmes conçus à 88 % par des hommes

Autre biais pointé du doigt : les discriminations sexistes. Fin 2019, l'algorithme utilisé par la carte de crédit d’Apple aurait défavorisé des femmes qui tentaient d’obtenir un crédit. “L’algorithme a dû apprendre à partir de données bancaires du passé, peut-être sur des décennies” avance Aurélie Jean. Le pouvoir d’achat réel des femmes aurait donc été minimisé. Pourquoi une telle discrimination ? D’après la biologiste Aude Bernheim, autrice de L’Intelligence artificielle, pas sans elles ! les algorithmes sont conçus à 88 % par des hommes. D’où une reproduction du sexisme de notre société.

Aurélie Jean acquiesce : “L'algorithme n'est pas coupable, ni sexiste, ni raciste. Il n'est ni une personne morale, ni une personne physique. Ce sont nous, les humains, qui sommes machos, racistes, sexistes, et qui devons prendre nos responsabilités par rapport à ces algorithmes. Parce que derrière chaque algorithme, il y a au moins une personne, qui a pensé, réfléchi, conçu, testé…” Selon elle, engager plus de femmes dans les équipes de développement, notamment, permettrait de créer de nouvelles dynamiques. Mais le chemin à parcourir semble encore long. Aujourd’hui, seulement 15 % des ingénieurs en informatique sont des femmes, selon la Fondation [email protected]érique.

02/01/2020 07:19
  • 597.2k
  • 543

89 commentaires

  • Mourad D.
    02/02/2020 20:50

    J'ai envie de dire. Eh ben...

  • Hervé G.
    02/02/2020 17:59

    Et à part vous rouler dans votre pipi, avez-vous des projets dans la vie ? Vous voyez, moi ça ne me viendrait même pas à l'idée de me plaindre qu'il n'y a que 1% d'hommes chez les sages-femmes, ou qu'on ne voit pas assez de berrichons dans les clips de rap. Si vous avez envie de faire des trucs, vous les faites, et vous arrêtez de nous les briser.

  • Mano B.
    02/02/2020 14:54

    J'ai bien lu: "des chercheurs ont réalisé que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs"?!? 😱 Comment est-il possible de faire fi de la moitié de l'humanité ...

  • Véloci R.
    02/02/2020 10:52

    Mais qu'est ce que c'est débile ce genre de truc. Oh, si la reconnaissance faciale avait été inventée par un noir, ça aurait été le contraire non?

  • Alexandre G.
    02/02/2020 08:31

    Raaah les pauvres femmes... Une vidéo sur les assurances de voitures moins chère pour les femmes et donc plus chère quand tu es un homme ?! Brut, brut, brut. Stop ta feministerie ridicule. Ce n'est pas en étant misandre, raciste envers les blancs, et tres fachiste, que tu vas arrivé à une pseudo égalité.--' Ça aurait été créé par 88% de femmes, ca aurait été exactement pareil. Stop votre racisme et misandrie. Ça ne combat pas le sexisme et le racisme d'agir pareil. Les génies.

  • Jean-Baptiste R.
    02/02/2020 08:17

    En même temps ça arrive si souvent ces femmes qui contractent des crédits et qui au final crament le capital emprunté dans des chaussures ou chez le coiffeur.

  • Shaka S.
    02/02/2020 07:27

    Temps mieux pour nous on est indétectable

  • Osdrum D.
    02/02/2020 07:00

    Ça recommence ces jérémiades négrophiles...

  • Eric M.
    02/02/2020 06:57

    Mais cette débilité lol. Lorsque l'on sait comment fonctionne le système on ne voit pas de problème de couleur de peau mais un problème technique lié à une limite de la technologie. Exemple, essayez d'utiliser une souris laser sur une surface sombre vous verrez le résultat

  • Christian T.
    02/02/2020 06:22

    "Des distributeurs de savon qui ne détectent pas les peaux noirs", n'importe quoi !

  • Mary M.
    01/02/2020 21:13

    si c vraiment le cas , autant de technologie pour en arrivé à reproduire de vieux clichés aussi pourris , c bien la peine .

  • Fabienne H.
    01/02/2020 18:56

    😡😓

  • Patrice E.
    01/02/2020 16:24

    QUOI??? un détecteur de visage ne reconnait que des visages clairs? 🤔 c'est du racisme anti-blanc! 🙃 Qu'en pense la député Obono?

  • Julien M.
    01/02/2020 16:10

    Vos détecteurs de robinet, c'est des détecteurs de mouvement par infrarouges et les couleurs sombres reflètent moins d'infrarouge que les couleurs claires... simple physique de base, aucun racisme là dedans, maintenant dans les meilleurs détecteurs la sensibilité est améliorée pour pallier ce problème, pour les autres c'est du quitte ou double 😂

  • Wanda P.
    01/02/2020 15:51

    Sérieux entretenez le racisme

  • Valérie V.
    01/02/2020 15:49

    Qui prouve une certaine involution humaine

  • Phillou L.
    01/02/2020 13:23

    l'on peut ce poser cette question pour toute les activité humaine régis par la politique (justice , argent , déplacements , banque , ) et même parfois si certain noir sont pas raciste et femmes sexiste ! sans parlé de la lutte des classes qui avec le temps devient du racisme ! ce n'est qu'une idée en passant , certain pourrons certainement mieux développer la chose , voir la dénigrer , et même la trouvé stupide ! de toute façon , il n'y a pas grand chose qui fait avancer le schmilblic ! lol

  • Stéphane R.
    01/02/2020 13:03

    3min03 Même principe pour l'IA, c'est l'homme qui rédige les règles de conception d'une technologie et pas le contraire ^^ (et au pire si technologie créé technologie dis toi qu'à la base y a forcément une création de l'homme au départ)

  • Séréna C.
    01/02/2020 08:35

    oh

  • Monique J.
    01/02/2020 07:22

    Oui ne pas être reconnu pouvait aussi avoir du bon. Aujourd'hui plus personne n'échappe à tout ce qui nous traque, nous dévisage et nous écoute....

Abonnez-vous gratuitement à myBrut, le magazine digital de la communauté Brut

Abonnez-vous gratuitement à myBrut, le magazine digital de la communauté Brut

switch-check
switch-x
En continuant, vous acceptez de recevoir des emails de Brut.