Sci-Tech

La reconnaissance faciale est-elle sexiste ou raciste ?

La reconnaissance faciale rencontre plus de difficultés à identifier des personnes de couleur noire ou des femmes selon une étude menée par le MIT.

Nous ne sommes pas tous égaux face aux nouvelles technologies. Cette information ne surprendra pas une large partie de la population. Mais, l’étude menée par une chercheuse du Massachussetts Institute of Technology à Boston, Joy Buolamwini, met en valeur de véritables inégalités face à la reconnaissance faciale.

Des chiffres sans contestation possible

Le postulat de départ de cette étude du MIT est relativement simple. La chercheuse souhaitait étudier les limites de plusieurs intelligences artificielles. Elle a donc choisi trois IA différentes : IBM, Microsoft, et Face ++. Chacune d’entre elles a été confrontée à 1.270 portraits de personnalités politiques du monde entier.

Elles se sont révélées plutôt douées si on prend les chiffres dans l’ensemble. Microsoft reconnaît 93,7 % des visages, Face++ 90% et IBM : 87,9%. Mais, si on commence à rentrer dans le détail de cette étude, c’est là que les choses se corsent. Premier critère d’analyse, la couleur de peau. Si vous êtes blanc, vous avez été reconnu dans 95% des cas en moyenne. Si vous êtes noirs ? 77,6% pour IBM qui décroche le bonnet d’âne. Une différence de quasi 20% qui est astronomique. Second aspect : le sexe. C’est la faiblesse de Face++ qui n’a été capable de reconnaître que 78,7% des femmes.

Un problème d’apprentissage technologique

Comment expliquer ces différences de façon logique ? Tout viendrait en fait de l’entraînement que l’on fait vivre aux intelligences artificielles. Pour qu’elles soient capables de reconnaître des visages, on leur fait ingurgiter d’immenses bases de données. Mais, celles-ci sont biaisées selon Joy Buolamwini :  “les hommes à la peau claire y sont surreprésentés, et aussi les personnes à la peau claire de manière générale”. Fort logiquement, une machine peut donc plus facilement reconnaître ce à quoi elle est habituée.

S’il s’agit d’identifier des personnes sur vos photos Facebook ou sur votre smartphone, le biais est regrettable mais les dommages restent limités. Toutefois, les implications de la reconnaissance faciale vont plus loin que cela. On sait par exemple que la police chinoise utilise désormais cette technologie. Il y a quelques années, Google Photos associait de son côté des personnes noires à des gorilles. Selon l’auteur, cela cause aussi des problèmes de discrimination pour accéder à l’emploi ou au logement aux Etats-Unis. Les logiciels de reconnaissance faciale du FBI seraient ainsi de 5 à 10% moins précis au détriment des personnes noires.

L’automatisation alimentée par l’intelligence artificielle aide maintenant à déterminer qui est congédié, embauché, promu, bénéficiaire d’un prêt ou d’une assurance et même combien de temps quelqu’un passe en prison

conclut la chercheuse.

Publié le mardi 20 février 2018 à 13:36, modifications mardi 20 février 2018 à 11:44

Vous aimerez aussi

Participer:

Proposer une correction Ecrire un article sur le sujet

Suivez-nous:

Discuttez !