É possível que a inteligência artificial seja racista?
Inteligência artificial, também conhecida somente por IA, é um ramo da ciência em que são desenvolvidos programas computacionais (os algoritmos) com o objetivo de reproduzir o comportamento humano
Um algoritmo é diferente de um programa tradicional. Ele precisa ser "treinado"
Para aprender a reconhecer a foto de um gato, por exemplo, ele precisa ser exposto a um banco de dados com várias imagens de gatos
Conforme foi aprimorada, a IA se tornou um meio de facilitar processos e aumentar a produtividade
Conforme foi aprimorada, se tornou um meio de facilitar processos e aumentar a produtividade
Mas também apresenta desvantagens
Como consequência de uma sociedade que reproduz preconceitos, surge o
racismo algorítmico
Ele está relacionado à maneira discriminatória que pessoas negras são representadas ou reconhecidas pelas IAs
Isso ocorre não porque as IAs sejam racistas por si só, mas porque elas acabam reproduzindo a visão intolerante de humanos que fornecem dados para as bases que são usadas para treinar os algoritmos
Um exemplo prático do racismo algorítmico é o relato de uma pessoa que pediu para que a inteligência artificial
gerasse uma imagem contendo uma mulher com cabelo black em uma favela
O resultado foi uma mulher com as características descritas, porém,
segurando uma arma
Mas o problema não para por aí
Existem também relatos de pessoas que foram presas por conta do reconhecimento facial, que frequentemente associa pessoas negras à criminalidade
Ou de pessoas negras que não tiveram o rosto reconhecido no trabalho,
porque as IAs reconhecem mais facilmente pessoas brancas nesse ambiente
Para estudiosos da área, é necessário maior inclusão de pessoas de diferentes etnias na parte de desenvolvimento dessas tecnologias
Para estudiosos da área, é necessário incluir mais pessoas de diferentes etnias na parte de desenvolvimento dessas tecnologias
Dessa forma, podem ser construídas bases de dados mais abrangentes, para que o racismo algorítmico deixe de existir