Um engenheiro de nome Tony Arcieri levou a cabo uma pequena experiência no Twitter para provar que o algoritmo da rede social é capaz discriminar com base na cor de pele em fotografias.

Arcieri fez uma publicação na sua página pessoal com duas imagens com o ex-Presidente dos EUA Barack Obama, e o senador e líder do Partido Republicano no Senado, Mitch McConnell. Como pode comprovar abaixo, apesar de as duas fotografias terem os dois políticos trocados, o algoritmo foca-se exclusivamente em McConnel. Mais ainda, Arcieri mostrou que o algoritmo só se foca em Obama quando as cores são invertidas e a cor de pele deixa de ser uma questão. 

A situação acabou por ser reconhecida por uma colaboradora do Twitter, Liz Kelley. “Obrigado a todos que levantaram esta questão. Antes de lançar este modelo fizemos testes à procura de discriminação e não encontrámos provas de discriminação por raça ou por género mas é claro que temos mais análises para fazer. Vamos abrir o nosso trabalho para que outros possam analisá-lo e replicá-lo”, pode ler-se na resposta de Kelley.

A ideia ao disponibilizar parte do algoritmo do Twitter para uma maior diversidade 'developers' é torná-lo menos parcial a certos tipos de questões, seja cor de pele, género, orientação sexual e até ideologia política.

thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH

— liz kelley (@lizkelley) September 20, 2020

Let's try inverting the colors... (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2

— Tony “Abolish (Pol)ICE” Arcieri (@bascule) September 19, 2020