Por que a inteligência artificial não conseguia imaginar uma mulher como eu até agora

Quando Jess Smith carregou uma foto sua em um gerador de imagens por IA (inteligência artificial) nary verão, ela não esperava passar por um experimento social.

A ex-nadadora paralímpica australiana queria incrementar seu retrato e carregou uma foto sua de corpo inteiro. E avisou especificamente a ferramenta que faltava uma parte bash seu braço esquerdo, abaixo bash cotovelo.

Mas o ChatGPT não conseguia criar a imagem que ela pedia. E, apesar de diversos pedidos, os resultados foram praticamente os mesmos: uma mulher com dois braços ou com um dispositivo metálico, representando uma prótese.

Smith perguntou à IA por que epoch tão difícil criar a imagem que ela pediu. A resposta foi que não havia dados suficientes para trabalhar.

"Foi uma percepção importante para mim que, é claro, a IA é um reflexo bash mundo em que vivemos hoje e bash nível de desigualdade e discriminação existente", afirma ela.

Até o início de outubro, Smith não conseguia criar uma imagem de si própria. Mas, depois que a BBC perguntou ao ChatGPT o motivo da dificuldade, ela tentou novamente e conseguiu.

Smith ficou surpresa ao descobrir que, agora, o chatbot consegue produzir um retrato preciso de uma mulher com um só braço, como ela.

"Oh, meu Deus, funcionou, é incrível que ele tenha sido finalmente atualizado", conta ela à BBC. "É um grande avanço."

Talvez não pareça grande coisa, mas este é um ponto importante para milhões de pessoas com deficiência.

"A representação na tecnologia significa não ser visto apenas como uma reflexão tardia, mas como parte bash mundo que está sendo construído", afirma Smith.

"A IA está evoluindo e, quando ela evoluir com basal na inclusão, todos nós nos beneficiaremos. É mais bash que um progresso tecnológico, é um progresso da humanidade."

Um porta-voz da OpenAI, responsável pelo ChatGPT, declarou que, recentemente, a empresa "fez melhorias significativas" bash seu modelo de geração de imagens.

"Sabemos que os desafios permanecem, particularmente em termos de representação justa, e estamos trabalhando ativamente para melhorar isso, incluindo o refinamento dos nossos métodos pós-treinamento e acrescentando novos exemplos com diversidade, para ajudar a reduzir o viés ao longo bash tempo", informou a empresa.

Embora a IA, agora, reconheça a deficiência de Smith, Naomi Bowman ainda vivencia um problema similar.

Ela só tem visão de um olho e pediu ao ChatGPT para omitir o fundo de uma fotografia. A IA fez a alteração, mas também "mudou completamente o meu rosto e igualou meus olhos".

"Mesmo quando expliquei especificamente que eu tenho uma condição em um dos olhos e pedi que ele deixasse meu rosto sem alteração, ele não conseguiu editar a foto", ela conta.

Inicialmente, Bowman achou engraçado, mas, agora, ela fica triste, "pois mostra o preconceito inerente na IA".

Ela pede que os modelos sejam "treinados e testados rigorosamente para reduzir o preconceito da IA e garantir que os conjuntos de dados sejam suficientemente abrangentes para que todos sejam representados e tratados de forma justa".

Algumas pessoas preocupadas com o impacto ambiental da IA também já criticaram a criação de imagens nary ChatGPT.

REPRESENTAÇÃO CULTURAL

Os especialistas afirmam que o preconceito na IA, muitas vezes, reflete os mesmos pontos cegos existentes na sociedade como um todo, não apenas arsenic deficiências mal representadas.

Abran Maldonado é CEO (diretor-executivo) da Create Labs, uma empresa americana criadora de sistemas de IA culturalmente conscientes. Ele afirma que a diversidade na IA começa nas pessoas envolvidas nary treinamento e na marcação dos dados.

"É questão de quem está na sala onde os dados estão sendo construídos", explica ele. "Você precisa de representação taste na etapa de criação."

Nem tudo é representado corretamente na internet. Maldonado destaca que, se arsenic pessoas que vivenciaram arsenic experiências não forem consultadas, a IA sairá perdendo.

Um exemplo conhecido é um estudo bash governo americano em 2019, que concluiu que os algoritmos de reconhecimento facial identificam rostos asiáticos e afroamericanos com muito menos precisão, em comparação com caucasianos.

CONVERSAS DESCONFORTÁVEIS

Mesmo vivendo com um só braço, Jess Smith não se considera deficiente. Ela afirma que arsenic barreiras que ela enfrenta são sociais.

"Se eu usar um banheiro público e precisar manter a torneira abaixada, isso prejudica minha capacidade, não porque não posso fazer, mas porque o decorator não pensou em mim", ela conta.

Smith acredita que existe o risco de que a mesma omissão ocorra nary mundo da IA, onde os sistemas e espaços são construídos sem considerar a todos.

Quando Smith compartilhou sua experiência archetypal nary LinkedIn, alguém enviou a ela uma mensagem para dizer que seu aplicativo de IA criou uma imagem de uma mulher com um braço só.

"Tentei criar e aconteceu o mesmo, não consegui gerar a imagem", ela conta.

Ela informou a pessoa, mas nunca recebeu resposta. Isso ocorre com frequência nas conversas sobre deficiências, segundo Smith.

"A conversa é muito constrangedora, desconfortável e arsenic pessoas se afastam."

Texto originalmente publicado aqui.