Racismo em Algoritmos: Viés racial em Deep Fakes

Notas do episódio

Recentemente uma técnica de “aumento de resolução de imagens” foi popularizada através de um tweet. Uma limitação supostamente inesperada rapidamente veio à tona graças à comunidade do Twitter: o método é incapaz de lidar com imagens de pessoas não-brancas, com destaque a asiáticos e pretos. O viés racial em algoritmos baseados em aprendizado de máquina recebeu um grande destaque com a popularização de métodos generativos, capazes de produzir rostos de pessoas que não existem. As famosas #DeepFake se preferir. Apesar de existirem redes generativas capazes de produzir imagens muito diversas, nem todo método tem essa preocupação inerentemente. Por isso chamamos duas mulheres MARAVILHOSAS para discutirmos os impactos desse tipo de trabalho, as possíveis soluções e porquê a academia deve se preocupar com o viés de dados: a Nina da Hora e a Clara Matheus do Mimimidias. Nina da Hora: Twitter e Instagram @ninadhora Ogunhê Podcast https://anchor.fm/ana-carolina-da-hora Clara Matheus: Twitter @claramatheus Instragram @claramatheus_ Mimimidias https://www.youtube.com/channel/UCg0CfiR_iKjBOYgeHps17BA Vídeos citados: Sueli Carneiro: Ciência e racismo https://www.youtube.com/watch?v=gBYk4ePmS6s Sabrina Fernandes: Nem todo homem é machista https://www.youtube.com/watch?v=MdoJnJTEj88 Nossa playlist de Deep Fake https://www.youtube.com/playlist?list=PL3Wx5P4NOzUjqE52_NNz1HOwAcP_FtwFD ######## Referências ######## -- Sobre o Face Depixelizer (Algoritmo PULSE): Tweet original: https://twitter.com/tg_bomze/status/1274098682284163072 Colab: https://colab.research.google.com/github/tg-bomze/Face-Depixelizer/blob/master/Face_Depixelizer_Eng.ipynb GitHub: https://github.com/adamian98/pulse#data Paper: http://openaccess.thecvf.com/content_CVPR_2020/papers/Menon_PULSE_Self-Supervised_Photo_Upsampling_via_Latent_Space_Exploration_of_Generative_CVPR_2020_paper.pdf Página do Projeto: http://pulse.cs.duke.edu/ Twitter da Dr. Timnit Gebru: https://twitter.com/timnitGebru/ Post que apresenta todas as threads de Twitter comentadas no vídeo: https://thegradient.pub/pulse-lessons/ Uma aula sobre viés de dados em Machine Learning, apresentada pela Margaret Mitchell, pesquisadora sênior da Google AI: Slides: https://web.stanford.edu/class/archive/cs/cs224n/cs224n.1194/slides/cs224n-2019-lecture19-bias.pdf Vídeo: http://onlinehub.stanford.edu/youtube-cs224n-natural-language-processing-with-deep-learning-winter-2019/stanford-cs224n-nlp-with-deep-learning-winter-2019-lecture-19-bias-in-ai