Podcast
Webstories
Facebook
Twitter
E-mail
Linkedin
Telegram
O Twitter informou nesta quarta-feira (19) que desabilitou um sistema automatizado de recorte de imagens, após identificar um viés contra minorias no algoritmo que controla o recurso.
O sistema recortava as imagens muito grandes e os usuários precisavam tocar sobre as fotos para vê-las por completo.
Segundo a plataforma de mensagens o algoritmo fornecia "tratamento desigual com base em diferenças demográficas", favorecendo usuários brancos e masculinos em vez de negros e mulheres, e um viés descrito como "olhar masculino", que se concentrava no peito ou nas pernas de uma mulher.
Há um mês o Twitter lançou uma iniciativa de equidade algorítmica como parte de um esforço para reduzir os vieses de automação na plataforma.
Segundo Rumman Chowdhury, engenheiro-chefe de software do Twitter e especialista em ética e inteligência artificial, após análise, a empresa determinou que é preferível deixar as decisões de recorte de imagem para os usuários.
"Nós consideramos as compensações entre a velocidade e a consistência do recorte automatizado com os riscos potenciais que vimos nesta pesquisa", declarou em uma postagem de blog.
"Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor", finaliza.
Em setembro de 2020, usuários reclamaram deste algoritmo do Twitter, quando perfis publicaram imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte e o algoritmo do Twitter mostrava a pessoa branca com mais frequência.
Uma rede neural é um modelo computacional que faz o reconhecimento de padrões. No Twitter, é utilizado um sistema que "prevê saliências em imagens para detectar pets, rostos, texto e outros objetos de interesse".
Para realizar as previsões, esses sistemas são alimentados com bases de imagens para ensiná-los o que é um objeto de interesse.
