retour

Les algorithmes sont-ils racistes et sexistes ?

Des femmes automatiquement défavorisées dans l'obtention d'un crédit, des distributeurs de savon qui ne détectent pas les peaux noires… Les algorithmes qui nous entourent sont-ils racistes et sexistes ?

Racistes et sexistes, les algorithmes ?

Les algorithmes restent majoritairement pensés par des hommes blancs. Des informaticiens alertent sur ces biais algorithmiques, qui excluent parfois des pans entiers de la population.

En 2017, Joy Buolamwini, une informaticienne noire, s’est aperçu qu’elle n’arrivait pas à utiliser un logiciel de reconnaissance faciale. Et pour cause : l'algorithme du logiciel n’était pas capable de détecter sa peau. Pourtant, quand elle portait un masque blanc, il fonctionnait.

Les personnes racisées pénalisées

Cette discrimination est le résultat d’un “biais algorithmique”, explique Aurélie Jean, informaticienne et autrice de De l’autre côté de la machine, Voyage d’une scientifique aux pays des algorithmes (éditions de L’Observatoire). “L'un des cas de biais algorithmiques les plus connus est sûrement celui des algorithmes de reconnaissance faciale. Ils ne reconnaissaient pas les peaux noires car les personnes qui les avaient pensés, développés et implémentés étaient principalement blanches, voire uniquement blanches.”

Ici, c’est la base de données (une banque d’images, par exemple) sur laquelle est basé l’algorithme qui pose problème. “Si les données qu’on soumet à l’algorithme excluent une catégorie de la population, l’algorithme l’exclura aussi” résume Aurélie Jean. Qui ajoute : “Les biais peuvent concerner l'ethnicité, le genre, l'orientation sexuelle, la culture, le langage, la langue, mais aussi l'âge.” Les conséquences de ces biais peuvent être dramatiques. Des chercheurs du Georgia Institute of Technology, à Atlanta, ont notamment révélé que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs.

Des algorithmes conçus à 88 % par des hommes

Autre biais pointé du doigt : les discriminations sexistes. Fin 2019, l'algorithme utilisé par la carte de crédit d’Apple aurait défavorisé des femmes qui tentaient d’obtenir un crédit. “L’algorithme a dû apprendre à partir de données bancaires du passé, peut-être sur des décennies” avance Aurélie Jean. Le pouvoir d’achat réel des femmes aurait donc été minimisé. Pourquoi une telle discrimination ? D’après la biologiste Aude Bernheim, autrice de L’Intelligence artificielle, pas sans elles ! les algorithmes sont conçus à 88 % par des hommes. D’où une reproduction du sexisme de notre société.

Aurélie Jean acquiesce : “L'algorithme n'est pas coupable, ni sexiste, ni raciste. Il n'est ni une personne morale, ni une personne physique. Ce sont nous, les humains, qui sommes machos, racistes, sexistes, et qui devons prendre nos responsabilités par rapport à ces algorithmes. Parce que derrière chaque algorithme, il y a au moins une personne, qui a pensé, réfléchi, conçu, testé…” Selon elle, engager plus de femmes dans les équipes de développement, notamment, permettrait de créer de nouvelles dynamiques. Mais le chemin à parcourir semble encore long. Aujourd’hui, seulement 15 % des ingénieurs en informatique sont des femmes, selon la Fondation [email protected]érique.

02/01/2020 07:19
  • 430.8k
  • 422

330 commentaires

  • Samuel M.
    un jour

    ptdr

  • Cindy G.
    2 jours

    Bah super....😔, Faudrait peut être améliorer ces algorithmes... On est en 2020... Faut pas déconner...!!!!

  • Etienne-charles B.
    2 jours

    Pourvu que cela ne devienne pas un casse tete chinois. Sinon nous n'aurons plus aucun credit social

  • Mire A.
    3 jours

    il faut juste ARRETER ces conneries de IA. c'est illusoire

  • Christian C.
    6 jours

    Si il y avait du racisme dans la reconnaissance faciale il serait dans le fait d’en exclure les blancs et de ne viser que les noirs et les arabes. C'est un peu comme si un flic contrôlait seulement des blancs et que le black ronchonne parce qu'on ne le contrôle pas... C'est n'importe quoi. En réalité, le vrai problème c'est la reconnaissance faciale en elle même.

  • Data K.
    6 jours

    le drama encore et encore. Le concept n'a pas besoin d'égalité il a besoin de fonctionner en tant que proto. Si le mec qui a inventé l'algo était blanc et qu'il a testé sur lui c'est quoi le soucis?

  • Amélie F.
    14/01/2020 05:02

    Je suis fière d'être dans ce 15% de femmes en informatique

  • Gégé B.
    13/01/2020 10:13

    Ce que certain semble ne pas savoir, c'est que les codes réagissent en fonction de ce que les capteurs leurs renvoient comme informations... les lentilles des capteurs ne traitent que les informations réfléchies par la lumière, le problème est que la peau noire réfléchie moins la lumière voir pas du tout chez certain individu, c'est pour cela qu'on conseille aux noirs d'être dans un environnement très éclairé pour utiliser ces systèmes et éviter le contre contre-jour... Ce problème existe aussi avec certaine caméra utiliser dans le milieu du cinéma ce qui fait qu'il est impossible de filmer un noir dans une lumière naturelle surtout pendant les scènes de nuit. Pour les distributeurs de savon, il n'y a pas d'algorithme c'est un capteur à réflexion et la peau noir absorbe le faisceau du capteur au lieu de la renvoyée. Rien de raciste dedans

  • Lheu C.
    12/01/2020 20:17

    Ahahahaah il en parle de ca ton livre ?

  • Eric L.
    11/01/2020 19:13

    C'est cocasse

  • Paul B.
    11/01/2020 14:58

    Il n'y a que les gens qui se font chier dans la vie qui s'inventent des oppression.

  • Laurence T.
    09/01/2020 13:10

    Elsa Koi

  • Dylan L.
    09/01/2020 12:40

    Issssouuuuuuu voitures autonome raciste qui roulent sur les noirs. Quoi que ca change pas des policiers 😎

  • Matthias H.
    09/01/2020 06:25

    Faut-il comprendre que rien ne remplace l’humain ?

  • Inès T.
    08/01/2020 22:41

    J attends juste le jour où ça sera l inverse que se soit pour la couleur de peau ou pour le genre, je répondrai aux victimes les pieds sur la table, comme je n ai pas de couilles ,je me gratterai la chatte avec une main et me servir mon verre de vin avec une main.!!! Tout en rigolant ...! En passant j espère que vous êtes au courant de la discrimination positive en Afrique du Sud, aller demander aux Blanc qui ont déjà subis un truc pareil et ils cous diront ce que ça fait, peut être vous allez mieux vous identifiez à cette personne et vous comprendrez mieux.

  • Roro D.
    08/01/2020 22:04

    Putain mais merde... Comment allons nous faire si même les PC deviennent racistes. Ils pourraient par exemple détourner des textes à des fins toutes autres que celles initialement prévues 🤣

  • Arc-Angel L.
    08/01/2020 19:40

    allez vous pendre sérieusement , allez mourir ...

  • Kumaran R.
    08/01/2020 00:38

    La faute à qui si les femmes se détournent des métiers de l'ingénierie ? Au méchant patriarcat qui les a poussé à étudier les langues ou le droit ? 🙄

  • Shirō S.
    07/01/2020 21:11

    Whoua on aura tout vu les gens sont complètement parano avec le racisme 😂😂😂 si ça ne marche pas c'est que c'est forcément raciste la prochaine fois ce sera quoi

  • Andre M.
    07/01/2020 19:29

    ouin ouin comme d'hab