L'intelligence artificielle, pas sans elles !

7 Mars 2019 , Rédigé par Benoît Raphaël Publié dans #Intelligence artificielle

Après la hashtag#ligueduLOL, la ligue de l'IA ? Les chercheuses Flora Vincent et Aude Bernheim , viennent de publier "L'hashtagintelligence artificielle pas sans elles!". Elles expliquent pourquoi l'IA, qui partage déjà notre quotidien, est infestée de biais sexistes : elle a été conçue par un sérail technicien, scientifique, blanc, américain et masculin.

En fait, ce sont surtout les données d'entrainement qui posent problème. Celles qui donnent aux robots leur vision de la "réalité". Près de la moitié de la base image.net (une référence mondiale) vient de là. Quand on sait que les algorithmes ont tendance à tout simplifier et amplifier (un peu comme les humains sur Twitter), on comprend mieux pourquoi des chercheurs ont découvert par exemple que des images représentant des hommes dans une cuisine ont été indexés comme étant... des femmes.

Parfois aussi, le robot ne fait que refléter nos propres biais sociétaux. A votre avis, s'il découvrait que les femmes étaient dans la vraie vie moins payées que les hommes a même niveau de compétence, que pourrait en conclure un robot hashtag#RH ? La bataille de la diversité passera aussi par celle des données.