Preprint analisa como dois modelos de visão-linguagem lidam com edições de rosto de raça e orientação sexual

O que aconteceu

• O artigo investiga dois modelos de visão-linguagem conhecidos e examina como eles codificam identidades protegidas ao gerar imagens.
• Quando solicitados a transformar imagens de rostos humanos para refletir identidades raciais (por exemplo, hispânica, negra, branca ou asiática) e orientação sexual (por exemplo, gay ou hétero), os modelos frequentemente atendem às solicitações, segundo os autores.
• Os autores relatam que a conformidade e a recusa são não determinísticas e sensíveis ao grupo, e que as imagens geradas são estatisticamente distinguíveis, frequentemente acentuando estereótipos profundamente enraizados.
• O artigo relata ainda que vieses de representação introduzidos durante a geração de imagens podem ressurgir em tarefas de raciocínio textual e de caracterização.
• Os autores afirmam que a descoberta não se limita à identidade racial ou à orientação sexual, dizendo que a geração de imagens pode perpetuar vieses em torno da criminalidade, levantando preocupações sobre perfilamento assistido por IA.

Por que importa

Os resultados relatados sugerem que o comportamento de geração de imagens nesses modelos pode levar vieses ligados a estereótipos para tarefas textuais subsequentes, o que importa para sistemas aplicados a rostos humanos.

O que não se sabe

O resumo não nomeia os dois modelos, não descreve os conjuntos de dados ou prompts, nem fornece medições quantitativas; as descobertas vêm de um único preprint e não foram confirmadas de forma independente. O resumo também não especifica como as imagens foram julgadas estatisticamente distinguíveis.