Le réseau social Twitter jette l’éponge et n’aura plus recours à un algorithme de Machine Learning – une forme d’intelligence artificielle – afin de recadrer automatiquement les images publiées sur son réseau. Le recadrage sera réalisé par les utilisateurs eux-mêmes. C’est la décision de Twitter face aux risques potentiels que l’algorithme de recadrage qu’il avait conçu en 2018 lui fait courir.
La décision de recadrage est laissée aux utilisateurs
Cet algorithme est remplacé par une fonction qui nécessite l’intervention manuelle des utilisateurs. « Cette version réduit notre dépendance au Machine Learning pour une fonction qui, selon nous, est mieux exécutée par les personnes » déclare-t-on chez Twitter. Cette décision intervient à la suite d’un ensemble de tests qui ont été menés afin de détecter les biais éventuels créés par l’algorithme de recadrage d’image.
Des écarts reliés à la couleur de peau et au sexe de la personne apparaissent lors des recadrages automatisés
L’affaire remonte à octobre 2020, date à laquelle des utilisateurs de Twitter avaient estimé que l’algorithme de recadrage des photos de Twitter privilégiait les blancs par rapport aux noirs, et les hommes par rapport aux femmes. De plus, certains indiquaient que l’algorithme choisissait la poitrine ou les jambes d’une femme comme centre de l’image recadrée.
Twitter a du améliorer ses méthodes de détection des biais
Les équipes de Twitter se sont attelées à la tâche. Elles ont du améliorer leur façon d’évaluer les algorithmes pour y détecter des biais potentiels. L’algorithme de recadrage a été évalué selon les méthodes employées pour détecter les préjugés sexistes et raciaux. L’algorithme de recadrage sert à estimer ce qu’une personne pourrait vouloir voir en premier dans une photo, et qu’il faudra donc conserver principalement dans le recadrage. Ce type d’algorithme se fonde sur l’enregistrement des mouvements de l’œil humain quand il regarde une image afin de hiérarchiser ce qui est susceptible d’être le plus important pour la plupart des gens.
La peau blanche est priorisée par rapport à la peau noire, si l’on compare des personnes de même sexe
En revanche, l’algorithme accusé de sexisme, privilégie au contraire largement les femmes, et d’autant plus qu’elles sont blanches, par rapport aux hommes pour recadrer les photos. Ainsi, dans l’arbitrage entre femmes noires (BF) et hommes noirs (BM), les femmes sont priorisées avec +14 points par rapport aux hommes. Et s’il s’agit de femmes blanches (WF) et d’hommes blancs (WM) présents sur la même photo, les femmes seront priorisées cette fois-ci avec +24 points par rapport aux hommes.
Les femmes blanches nettement priorisées sur les photos
Cette priorisation des femmes existe également lorsque l’homme a une couleur de peau différente avec toujours cette priorité nettement supérieure si la femme est blanche. Ainsi, sur une photo mêlant une femme noire (BW) et un homme blanc (WM), les femmes noires sont priorisées avec +10 points par rapport aux hommes. Et dans le cas d’une photo réunissant des femmes blanches (WF) et des hommes noirs (BM), les femmes sont priorisées avec +28 points par rapport aux hommes. Enfin, les tests ont montré par ailleurs que l’algorithme ne mettait pas au centre de l’image une partie du corps féminin plutôt que le visage.
