Twitter apprend de première main les défis de l’élimination des préjugés raciaux dans les algorithmes. Liz Kelley, du réseau social, a déclaré que l’entreprise avait «plus d’analyses» à faire après que l’ingénieur en cryptographie Tony Arcieri ait mené une expérience suggérant que l’algorithme de Twitter était biaisé dans la hiérarchisation des photos. En joignant des photos de Barack Obama et de Mitch McConnell à des tweets, Twitter semblait mettre en évidence exclusivement le visage de McConnell – Obama n’est apparu que lorsque Arcieri a inversé les couleurs, faisant de la couleur de la peau un problème.

D’autres ont essayé d’annuler les commandes de photos et de noms en vain. Un sourire plus contrasté a fonctionné, a constaté Kim Sherrell d’Intertheory. Le scientifique Matt Blaze, quant à lui, a remarqué que la priorité semblait varier en fonction de l’application Twitter officielle utilisée. Tweetdeck était plus neutre, par exemple.

Kelley a déclaré que Twitter avait vérifié les biais avant d’utiliser l’algorithme actuel, mais « n’avait pas trouvé de preuves » à l’époque. Elle a ajouté que Twitter ouvrirait la source de ses études d’algorithmes pour aider les autres à «revoir et répliquer».

Il n’y a aucune garantie que Twitter puisse corriger cela. Cependant, l’expérience montre les dangers très réels du biais algorithmique, quelle que soit l’intention. Cela pourrait éloigner les gens des projecteurs, même s’ils sont au cœur d’une publication sur les réseaux sociaux ou d’un article d’actualité lié. Vous devrez peut-être attendre longtemps avant que des problèmes comme celui-ci ne soient exceptionnellement rares.

merci à tous ceux qui ont soulevé cette question. nous avons testé les préjugés avant d’envoyer le modèle et n’avons pas trouvé de preuve de préjugé racial ou sexiste lors de nos tests, mais il est clair que nous avons plus d’analyses à faire. nous ouvrirons notre travail en source ouverte afin que d’autres puissent l’examiner et le reproduire. https://t.co/E6sZV3xboH

– liz kelley (@lizkelley) 20 septembre 2020

Lire aussi  L'horloge intelligente Google Assistant de Lenovo est à moitié prix chez Best Buy