IA que transforma foto em anime é acusada de racismo

Como vocês já sabem, ultimamente tem surgido diversas IAs que geram imagens de animes baseadas em textos ou converte fotos em animes, que é o caso da Different Dimension Me. No entando, essa nova IA vem recebendo diversas críticas, inclusive sendo acuada de ser racista.

Apesar de receber diversas atualizações, um problema ainda é bem notável: ela não reconhece pessoas negras. O caso viralizou rapidamente no Twitter, iniciando uma grande discussão entre os usuários. Alguns defendendo a IA, afirmando que não existe banco de dados para que a IA possa usar, e que existem pouquíssimos personagens negros nos animes. Enquanto outros afirmam que a IA é racista.

Nas imagens compartilhadas pelos usuários podemos ver que a IA converte as pessoas negras para macacos, para pessoas brancas ou simplesmente as ignora, veja abaixo:

Então, a IA é racista? Não podemos garantir nada, uma vez que é muito possível que ela tenha modelos pré-definidos para homens e mulheres, e simplesmente se encarrega de modificá-los de acordo com os parâmetros da pessoa em quem se baseia (cor e comprimento do cabelo, acessórios, etc.). 

Em relação às pessoas negras que são ignoradas pela IA, isso é bastante comum devido a problemas na iluminação, e acontece frequentemente em filtros do TikTok.

Agora, sobre o fato de transformar pessoas negras em macacos, devemos lembrar que nenhuma das imagens subsequentes geradas pela IA mostrou esse comportamento, inclusive outros usuários testaram a IA com as mesmas fotos e não receberam como conversão um macaco. Então, existe a possibilidade do usuário ter gerado a foto diversas vezes até que o resultado fosse um macaco.

fonte: yaraon