Código do Caos #9: IAs e vieses discriminatórios, com Kizzy Terra

Notas do episódio

APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaos CONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4By No final de outubro, rolou uma trend nas redes sociais em que pessoas usavam IA para gerar imagens de suas versões Pixar. Uma das pessoas que entrou na brincadeira foi a deputada do Rio de Janeiro Renata Souza, do PSOL, que pediu para que o Bing, da Microsoft, gerasse uma arte de uma “mulher negra, de cabelos afro, com roupas de estampas africanas num cenário de favela”. Sua personagem, contudo, apareceu segurando uma arma, sem que ela houvesse pedido. A deputada, então, foi às redes denunciar o que ela chamou de “racismo algorítmico”. A Microsoft, dona da ferramenta usada pela, que tem feito uso de tecnologia da OpenIA, respondeu, afirmando que investiga o caso e que tomará medidas adequadas para ajustar o serviço. Mas que medidas são essas? De onde parte a discriminação algorítimica e como as empresas de tecnologia podem resolver esse problema? Para falar sobre o tema, eu convidei a cientista de dados, mestre em Matemática Aplicada pela FGV e pesquisadora de inteligência artificial Kizzy Terra. Um dos projetos da Kizzy é o Aforriah, uma startup com foco em capacitação nas áreas de ciência de dados e IA humanizada. Além disso, a Kizzy também produz conteúdo sobre tecnologia em seu canal Programação Dinâmica, com uma abordagem educativa, técnica e crítica. Canal Programação Dinâmica LinkedIn Twitter Siga o Código do Caos nas redes sociais: Twitter Instagram Tiktok YouTube Siga Henrique Sampaio nas redes sociais: Twitter Instagram Hosted on Acast. See acast.com/privacy for more information.