A deputada estadual Renata Souza (PSOL-RJ), da Assembleia Legislativa do Rio de Janeiro (Alerj), fez uma denúncia inusitada. Ela afirma ter sido vítima de racismo por parte de uma plataforma de inteligência artificial.
O caso começou quando a parlamentar solicitou à IA que gerasse uma imagem com base em sua autodescrição. A deputada Renata Souza foi apresentada a uma ilustração que retratava uma mulher negra segurando uma arma em uma favela. Ela argumenta que essa imagem evidencia o racismo presente em algoritmos de inteligência artificial.
“Em momento algum mencionei armas ou violência. Falei sobre uma mulher negra em uma favela. No entanto, surge uma representação de uma mulher negra com uma arma na mão. Ou seja, o racismo algorítmico está presente. Essa lógica de criminalização das pessoas negras em territórios de favelas e periferias também está incorporada nos algoritmos. Como presidente da CPI do Reconhecimento Fotográfico, testemunhei o quão essas inteligências artificiais e faciais utilizam algoritmos racistas, que identificam pessoas negras, pobres e jovens como possíveis criminosos.”
Entretanto, é importante observar que as inteligências artificiais desenham homens e mulheres de todas as cores usando algoritmos semelhantes, e a presença de uma arma de fogo pode ter sido apenas um detalhe para tornar a animação mais divertida para o usuário.
Além disso, é crucial ressaltar que as inteligências artificiais não possuem sentimentos e não abrigam pensamentos como racismo e preconceito.
