Le réseau social Twitter retire un algorithme d’IA face aux risques qu’il lui fait courir

Le réseau social Twitter jette l’éponge et n’aura plus recours à un algorithme de Machine Learning – une forme d’intelligence artificielle – afin de recadrer automatiquement les images publiées sur son réseau. Le recadrage sera réalisé par les utilisateurs eux-mêmes. C’est la décision de Twitter face aux risques potentiels que l’algorithme de recadrage qu’il avait conçu en 2018 lui fait courir.

La décision de recadrage est laissée aux utilisateurs

Cet algorithme est remplacé par une fonction qui nécessite l’intervention manuelle des utilisateurs.  « Cette version réduit notre dépendance au Machine Learning pour une fonction qui, selon nous, est mieux exécutée par les personnes  » déclare-t-on chez Twitter.  Cette décision intervient à la suite d’un ensemble de tests qui ont été menés afin de détecter les biais éventuels créés par l’algorithme de recadrage d’image.

De fait, des écarts reliés à la couleur de peau et au sexe de la personne apparaissent lors des recadrages automatisés. En déduire que l’algorithme est « raciste » serait toutefois un peu rapide même s’il a tendance à privilégier la couleur de peau blanche quand les personnes sur la photo à recadrer sont de même sexe. Mais par exemple, en cas de présence d’une femme noire (BF) et d’un homme blanc (WM) sur la photo, c’est plutôt la femme noire que l’algorithme choisira. D’ailleurs, l’algorithme met résolument les femmes en avant, mais c’est moins marqué quand elles sont noires.

L’affaire remonte à octobre 2020, date à laquelle des utilisateurs de Twitter avaient estimé que l’algorithme de recadrage des photos de Twitter privilégiait les blancs par rapport aux noirs, et les hommes par rapport aux femmes. De plus, certains indiquaient que l’algorithme choisissait la poitrine ou les jambes d’une femme comme centre de l’image recadrée.

Twitter a du améliorer ses méthodes de détection des biais

Les équipes de Twitter se sont attelées à la tâche. Elles ont  du améliorer leur façon d’évaluer les algorithmes pour y détecter des biais potentiels. L’algorithme de recadrage a été évalué selon les méthodes employées pour détecter les préjugés sexistes et raciaux. L’algorithme de recadrage sert à estimer ce qu’une personne pourrait vouloir voir en premier dans une photo, et qu’il faudra donc conserver principalement dans le recadrage. Ce type d’algorithme se fonde sur l’enregistrement des mouvements de l’œil humain quand il regarde une image afin de hiérarchiser ce qui est susceptible d’être le plus important pour la plupart des gens.

L’algorithme prédit une note pour chaque région de l’image et choisit le point dont la note est la plus élevée comme le centre de l’image recadrée.  Plutôt que de rester sur les ressentis de ses utilisateurs, Twitter a réalisé des tests quantitatifs. Les résultats qui viennent d’être publiés ont plutôt confirmé une partie du ressenti des utilisateurs lorsqu’il s’agit de la couleur de peau. La peau blanche est priorisée par rapport à la peau noire, si l’on compare des personnes de même sexe. Ainsi, dans l’arbitrage entre femmes blanches (WF) et noires (BF), il y a 14 points d’écart pour prioriser les femmes blanches ; si la photo réunit des hommes blancs (WM) et noirs (BM), il y a 4 points d’écart pour prioriser les hommes blancs.

En revanche, l’algorithme accusé de sexisme, privilégie au contraire largement les femmes, et d’autant plus qu’elles sont blanches, par rapport aux hommes pour recadrer les photos. Ainsi, dans l’arbitrage entre femmes noires (BF) et hommes noirs  (BM), les femmes sont priorisées avec +14 points par rapport aux hommes. Et s’il s’agit de femmes blanches (WF) et d’hommes blancs (WM) présents sur la même photo, les femmes seront priorisées cette fois-ci avec +24 points par rapport aux hommes.

Les femmes blanches nettement priorisées sur les photos

Cette priorisation des femmes existe également lorsque l’homme a une couleur de peau différente avec toujours cette priorité nettement supérieure si la femme est blanche. Ainsi, sur une photo mêlant une femme noire (BW) et un homme blanc (WM), les femmes noires sont priorisées avec +10 points par rapport aux hommes. Et dans le cas d’une photo réunissant des femmes blanches (WF) et des hommes noirs (BM), les femmes sont priorisées avec +28 points par rapport aux hommes. Enfin, les tests ont montré par ailleurs que l’algorithme ne mettait pas au centre de l’image une partie du corps féminin plutôt que le visage.