Twitter déclare que l'un de ses algorithmes est sexiste et raciste

Certains utilisateurs jugent sexiste et raciste l’un des algorithmes de Twitter. Le réseau social leur a donc demandé d’apporter des preuves (avec un système de primes), désormais révélées. 

Sur Twitter, une image n’apparaît pas entièrement dans le flux. Elle est détourée automatiquement grâce à l’apprentissage automatique. Mais l’an dernier, des utilisateurs ont accusé cet algorithme d’être sexiste et raciste, beaucoup plus susceptible de masquer les personnes noires et les femmes. Twitter a alors annoncé la mise en place d’une prime pour quiconque prouvait ces allégations. Et plusieurs semblent l’avoir prouvé d’après le réseau social. Un premier utilisateur, @hiddenmarkov, a montré que l’algorithme se base sur les critères de beauté de notre monde. @halt_ai a mis en avant que les personnes âgées et handicapées étaient encore plus rejetées par le recadrage des photos.

Curious to dive deeper? You can checkout the code for all winning entries in the algorithmic bias bounty via the following @GitHub repos. 1st – https://t.co/bILzKMbNNT2nd – https://t.co/oBbu9GxOME3rd – https://t.co/1W2BBsnboiMost innovative – https://t.co/zU4bhDK3il

Un autre utilisateur, @OxNaN, montre que l’algorithme de Twitter favorise également les Emojis n’étant pas noirs. Le réseau social déclare, dans les tweets ci-dessus, que son système se montre discriminatoire. La société en profite également pour pointer plusieurs liens vers les recherches menées par ces utilisateurs. On ne sait pas, en revanche, si Twitter compte modifier son algorithme devant ces conclusions. Reste qu’en changer le fonctionnement risque d’être bien compliqué. Les accusations de sexisme et racisme envers Twitter avaient suscité la polémique, certains utilisateurs jugeant fausses ces allégations.

Source: Lire L’Article Complet