O que acabou de acontecer? Um estudante graduado do laboratório de segurança e privacidade da EPFL apresentou nesta semana os resultados de um estudo que sugere que quando o Twitter recorta imagens em seu site ou aplicativo oficial, ele se concentra em rostos humanos que são mais magros, mais jovens, mais leves e mais estereotipadamente femininos. O Twitter concedeu ao aluno o grande prêmio de seu desafio de recompensa de polarização algorítmica. Isso ocorre depois que um viés semelhante pelo algoritmo do Twitter foi relatado no ano passado.
O estudo, de Bogan Kulynych (via The Guardian), testou rostos humanos gerados artificialmente no algoritmo de corte de imagem do Twitter. Os rostos artificiais podem ser sutilmente alterados para diferentes características, indicando tom de pele, idade ou peso, enquanto controlam outras características. Ele descobriu que em 37% dos casos o algoritmo preferia cores de pele mais claras. O algoritmo do Twitter preferiu o que o estudo chama de “características estereotipadamente femininas”, cerca de um quarto das vezes, e rostos de aparência mais jovem ou mais magros 18% das vezes. Os leitores podem ver a metodologia completa e os resultados no GitHub.
Sidenote – Por que o Twitter colhe fotos?
A popular rede social permite que os usuários façam upload de fotos, milhões são compartilhados todos os dias de acordo com o Twitter, mas vêm em todos os tipos de formas e tamanhos. Para tornar a experiência de navegação mais consistente, as fotos na linha do tempo do Twitter são cortadas, para que mais tweets possam ser vistos rapidamente. Como o algoritmo corta as fotos, quais partes da imagem são mostradas com maior prioridade e a certeza de algum viés é o motivo deste debate.
Kulynich admite que o estudo tem limitações, no entanto. Ele não conseguiu descobrir todos os fatores que o algoritmo do Twitter pode preferir, ou aqueles que ele pode preferir mais. As fotos que o estudo usou também tinham origens diferentes, então não foi possível determinar se elas também afetavam as preferências do algoritmo. Como a codificação foi feita por um único autor, o estudo admite as próprias noções do autor sobre coisas como feminilidade e idade, fatoradas nas percepções das preferências do algoritmo do Twitter.
O Twitter realizou o desafio de recompensa de polarização algorítmica de 30 de julho a 6 de agosto como parte do desafio 2021 Def Con AI. O grande prêmio que este estudo ganhou foi de $ 3.500.
No ano passado, o Twitter foi atacado quando alguns usuários descoberto seu algoritmo de corte de imagem parecia preferir os rostos de pessoas de pele mais clara sobre os de pessoas de pele mais escura, o que levou o Twitter a examinar o assunto por conta própria. Em maio deste ano publicou os resultados de seu próprio estudo que mostrou uma preferência por mulheres em oito por cento do tempo, brancos em quatro por cento do tempo, mulheres brancas em sete por cento do tempo e homens brancos em dois por cento do tempo.