Na última quinta-feira (26), a deputada estadual Renata Souza (Psol) usou as suas redes sociais para denunciar o racismo algorítmico da inteligência artificial por trás da trend que cria personagens inspirados em personagens da Disney Pixar. 

A parlamentar do Rio de Janeiro, que é nascida e criada no Conjunto de Favelas da Maré, na zona Norte da capital fluminense, contou que ao criar uma arte inspirada nos pôsteres da Disney, a imagem gerada a partir de inteligência artificial a retratou como uma mulher negra com uma arma na mão.

“A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela. E essa foi a imagem gerada. Não pode uma mulher negra, cria da favela, estar num espaço que não da violência? O que leva essa ‘desinteligência artificial’ a associar o meu corpo, a minha identidade, com uma arma?”, questionou Souza nas redes que ainda ressaltou o caráter de criminalização da população preta e favelada:

“Isso é o racismo algorítmico. Quando as tecnologias em um mundo forjado pelo privilégio branco fortalecem essa estrutura racista. O imaginário de violência nas favelas e de criminalização de corpos e territórios negros também está presente em tecnologias descritas como “inteligências”, que em tese seriam neutras ou impessoais.”

A deputada informou que está buscando medidas cabíveis para encaminhar a denúncia e que entrará em contato com a direção da empresa responsável pelo aplicativo Microsoft Bing. 

O que diz a empresa?

A Microsoft, que hospeda o robô inteligente dentro do site bing.com/create, informou ao G1 que investiga o caso e que tomará medidas adequadas para ajustar o serviço.

"Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério", diz a nota enviada à reportagem do portal.

O aplicativo foi criado pela mesma desenvolvedora do ChatGPT, a Open AI, parceira da Microsoft.
 

*Com informações do G1.

Edição: Jaqueline Deister