Racismo algorítmico: como a IA pode reforçar preconceitos

Notas do episódio

Sistemas de reconhecimento facial que confundem pessoas negras, entregadores bloqueados depois de mudar o cabelo e ferramentas de inteligência artificial que repetem informações racistas sobre saúde. Esses casos mostram que os avanços tecnológicos também podem reforçar desigualdades que já existem na sociedade. Esse problema é conhecido como racismo algorítmico. Ele acontece quando sistemas automatizados reproduzem ou aprofundam a discriminação racial por meio de decisões tomadas com base em dados, modelos e critérios que nem sempre são transparentes. Mas atribuir o problema apenas aos dados usados para treinar uma inteligência artificial pode esconder parte importante da discussão. Afinal, existem escolhas humanas em todas as etapas: desde a coleta das informações até os testes realizados antes de uma ferramenta chegar ao público. Esse é o tema do novo episódio do Podcast Canaltech. O repórter João Mello conversou com Tarcízio Silva, pesquisador, cofundador da Associação Desvelar e autor do livro “Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais”. Durante a entrevista, Tarcízio explica como o racismo pode aparecer em ferramentas de reconhecimento facial, filtros de imagem e modelos de IA generativa. Ele também alerta para os riscos de sistemas que repetem informações falsas e preconceituosas em áreas sensíveis, como a saúde. A conversa ainda discute por que ter equipes mais diversas não é suficiente quando essas pessoas não participam das decisões e quais mecanismos podem reduzir os riscos, como a curadoria dos dados, os testes contínuos e os relatórios de impacto algorítmico. No fim, o pesquisador explica como usuários podem denunciar situações discriminatórias e por que a mobilização coletiva é essencial diante de empresas que concentram tanto poder. Você também vai conferir: Bill Gates propõe acordo global para evitar o caos com a IA, Apple libera Apple TV e Arcade de graça para assinantes do iCloud+ e Google Tradutor agora traduz conversas por voz mesmo sem internet. Este podcast foi roteirizado e apresentado por Fernanda Santos e contou com reportagens de Viviane França e Marcelo Fischer. A trilha sonora é de Guilherme Zomer, a edição de Leandro Gomes e a arte da capa é de Erick Teixeira. See omnystudio.com/listener for privacy information.