Benoît Raphaël

L'intelligence artificielle, pas sans elles !

L'intelligence artificielle, pas sans elles !

Après la hashtagligueduLOL, la ligue de l'IA ? Les chercheuses Flora Vincent et Aude Bernheim , viennent de publier "L'hashtagintelligence artificielle pas sans elles!". Elles expliquent pourquoi l'IA, qui partage déjà notre quotidien, est infestée de biais sexistes : elle a été conçue par un sérail technicien, scientifique, blanc, américain et masculin.

En fait, ce sont surtout les données d'entrainement qui posent problème. Celles qui donnent aux robots leur vision de la "réalité". Près de la moitié de la base image.net (une référence mondiale) vient de là. Quand on sait que les algorithmes ont tendance à tout simplifier et amplifier (un peu comme les humains sur Twitter), on comprend mieux pourquoi des chercheurs ont découvert par exemple que des images représentant des hommes dans une cuisine ont été indexés comme étant... des femmes.

Parfois aussi, le robot ne fait que refléter nos propres biais sociétaux. A votre avis, s'il découvrait que les femmes étaient dans la vraie vie moins payées que les hommes a même niveau de compétence, que pourrait en conclure un robot hashtagRH ? La bataille de la diversité passera aussi par celle des données.

Partager cet article

Repost0
Pour être informé des derniers articles, inscrivez vous :