Dhruv Butani / Autoridade Android
Resumo
- Um estudo recente da DXOMARK indicou que o viés do treinamento de IA pode estar afetando negativamente a maneira como as imagens de pessoas com tons de pele mais escuros são processadas.
- As cenas de teste usadas para calibração da câmera foram outro fator que pode estar causando inconsistências no processamento de imagens.
- O DXOMARK destacou a importância de mais diversidade nos conjuntos de dados e estratégias de ajuste aprimoradas para garantir qualidade de imagem consistente.
Já tirou uma fotografia de retrato apenas para ficar decepcionado com os resultados? Um estudo recente da DXOMARK, que foi conduzido como parte da iniciativa DXOMARK Insights, esclarece por que isso pode estar acontecendo, apesar de você usar o melhor telefone Android ou iPhone.
O viés do treinamento de IA pode afetar a maneira como as fotos de retrato são processadas
O estudo da DXOMARK revelou uma disparidade significativa nas classificações de satisfação do usuário para imagens em modo retrato que apresentavam pessoas com tons de pele mais escuros. Isso foi observado independentemente do tom de pele do entrevistado.
O estudo apontou o viés do treinamento de IA como um dos principais fatores que contribuem para essa disparidade. O fato é que a maioria dos modelos de IA são treinados em conjuntos de dados limitados que muitas vezes não incluem uma diversidade de tons de pele. Isso faz com que a tecnologia de IA em smartphones detecte e processe imagens de indivíduos com tons de pele mais escuros de forma imprecisa.
O relatório da DXOMARK incluiu duas fotografias de indivíduos com tons de pele diferentes para enfatizar o quão nitidamente o foco da câmera e as configurações de exposição podem variar entre as duas instâncias. Como visto abaixo, o modelo com um tom de pele mais claro aparece em foco e está adequadamente exposto, enquanto a foto do modelo com tom de pele mais escuro tem baixa exposição e está fora de foco.
O viés de afinação também pode desempenhar um papel
A calibração da câmera é outro fator que pode agravar ainda mais esse problema. Se as cenas de teste usadas para ajuste vierem predominantemente de certas geografias, a calibração da câmera pode não ser uma boa opção para uma base de usuários diversificada. Isso pode causar diferenças na maneira como os dispositivos renderizam tons de pele, e o estudo observou que alguns smartphones parecem favorecer “tons de pele mais claros em vez de mais escuros”.
O caminho a seguir
O estudo da DXOMARK e o relatório resultante mais do que destacaram a necessidade de mais diversidade em conjuntos de dados e estratégias de ajuste aprimoradas para garantir qualidade de imagem consistente, independentemente do tom de pele ou aparência do sujeito. No relatório, a DXOMARK enfatizou a necessidade de incluir mais casos de uso que abrangem uma variedade de configurações, condições e tons de pele, bem como diferentes anotações e vários exemplos da renderização final para garantir que uma experiência fotográfica satisfatória seja entregue a todos os usuários.
A boa notícia é que os fabricantes de smartphones estão começando a reconhecer e abordar esse problema. A tecnologia Real Tone do Google que ele usa em dispositivos Pixel é prova disso. A gigante da tecnologia Mountain View observa que trabalhou em estreita colaboração com pessoas de cor para desenvolver sua tecnologia de câmera, para que pessoas com tons de pele mais escuros não pareçam mais claras ou mais escuras nas fotografias. Essa diversidade em conjuntos de dados é o que ajuda muitos dispositivos Pixel a capturar tons de pele com mais precisão.
Muitos outros fabricantes de smartphones também estão trabalhando em tecnologia semelhante, às vezes sem falar sobre isso. Por exemplo, a campanha #shotoniPhone da Apple fotografou uma gama diversificada de pessoas, muitas das quais são pessoas de cor, há anos. Dado isso, é uma forte possibilidade de que a tecnologia de câmera de smartphone continue a melhorar, proporcionando uma experiência fotográfica mais precisa para todos os usuários.