Imagens de IA de mulheres de todo o mundo se tornaram virais. Eles promovem o colorismo e os padrões culturais de beleza?

Jul 19, 2023

Qual é a aparência de uma mulher “linda” da Índia?

E quanto às Filipinas ou ao Laos?

A Inteligência Artificial (IA) pretende ter a resposta.

Imagens geradas por IA de “mulheres bonitas” de todo o mundo têm se tornado virais há meses.

Um vídeo do TikTok com imagens de IA de mulheres do Sul e do Leste Asiático – postado recentemente por uma conta chamada AI World Beauties – tem mais de 1,7 milhão de visualizações.

No entanto, os especialistas dizem que, por serem “treinados” em conjuntos de dados tendenciosos e estereótipos, as imagens podem perpetuar ideais limitados, excludentes e potencialmente prejudiciais.

As imagens que se tornam virais são criadas por programas conhecidos como “IA generativa” ou “GenAI”.

“GenAI é um tipo de inteligência artificial alimentada por modelos de aprendizado de máquina”, disse Shibani Antonette, professor de ciência de dados e inovação na Universidade de Tecnologia de Sydney, à ABC.

"Ele usa padrões e informações aprendidas a partir de milhões de pontos de dados para criar novos conteúdos que nunca existiram antes."

Dr. Antonette diz que a qualidade e a diversidade dos dados de treinamento determinam a saída de um gerador de imagem.

Procurado pela ABC, o criador do vídeo viral disse ter usado um modelo de difusão chamado Midjourney para gerar as imagens.

Eles se recusaram a ser identificados na história ou a comentar mais.

Pele clara, nariz fino, lábios carnudos e maçãs do rosto salientes.

De acordo com os vídeos virais, mulheres “lindas” compartilham essas mesmas características.

O preconceito é “um problema sério” nas tecnologias de geração de imagens e reconhecimento facial, diz a Dra. Antonette.

“Os modelos podem criar uma realidade distorcida ao amplificar preconceitos e estereótipos sobre raça e género”, diz ela.

"A maioria das imagens geradas perpetua o colorismo e os padrões de beleza cultural."

Ao observar as imagens virais de IA, a Dra. Antonette diz que o modelo que as gerou provavelmente “não tinha um conjunto de dados de treinamento diversificado que contivesse muitos rostos de pessoas de cor com tons e formas de pele variados”.

“Afinal, os dados para estes modelos foram extraídos de toda a Internet ao longo das últimas décadas – sem responsabilização pela cobertura, diversidade e inclusão – para atender a aplicações específicas.”

Asia Jackson muitas vezes faz as pessoas adivinharem sua etnia e geralmente ouve "você não é assim" quando conta às pessoas.

A atriz e criadora de conteúdo negra e filipina diz que quando criança, ser “mista” criava “muitos problemas de identidade”.

Agora com 29 anos, Jackson diz que tem um senso de identidade e identidade mais forte.

“Eu definitivamente fico muito mais ofendido quando alguém me diz ‘eu não pareço negro’ ou ‘não pareço asiático’.

“Porque essas duas categorias raciais contêm um amplo espectro de cores e características da pele”.

O mesmo vale quando as pessoas dizem a Jackson que ela “não parece filipina”.

“As Filipinas são um país com mais de 7.100 ilhas e centenas de grupos étnicos diferentes”, diz ela.

Jackson se sente “bastante indiferente” em relação às imagens virais de IA.

“A IA está apenas copiando o comportamento humano, por mais não inclusivo ou não politicamente correto que seja”, diz ela.

“Isso não é nada diferente do que acontece na vida real.

“Ao mesmo tempo, não creio que seja possível incluir a vasta diversidade de características ou etnias de cada país num vídeo de 30 segundos”.

Quando Ishara Sahama viu pela primeira vez as imagens acima, ela as achou “quase etéreas”.

Ela então percebeu que o que estava vendo eram “os padrões de beleza mais aceitos de cada grupo étnico”.

“A diversidade de grupos étnicos dentro de cada país é generalizada num modelo. É redutora e está longe de reflectir a diversidade desses países”, diz ela.

O cofundador de 25 anos da agência de design estratégico Echo Impact Group foi confundido com indiano, paquistanês, árabe e indígena australiano.

Ela é do Sri Lanka, com origens cingalesas, tâmeis e malaias.

“Assumir a etnia de alguém e depois associá-la a ela sem perguntar é o que mais me irrita”.