Regulamentação da inteligência artificial precisa levar preconceitos estruturais em consideração, diz pesquisador

Notas do episódio

Aprovado no Senado nas últimas semanas do ano, após um acordo entre bancadas, o Projeto de Lei (PL) 239/202 da inteligência artificial (IA) deve marcar os debates na Câmara em 2025. O texto regulamenta e define diretrizes para o desenvolvimento e a aplicação da IA no Brasil. Apesar do avanço na tramitação da norma e da aprovação em plenário em regime de urgência, as discussões entre os senadores foram marcadas por polêmicas. O PL recebeu quase 200 emendas. Uma delas diz respeito à inclusão dos algoritmos das redes sociais entre sistemas de alto risco. O texto original previa que as ferramentas das big techs – donas das redes – deveriam ter regras mais rígidas de controle pois são destinadas à disseminação de informação em larga escala. A retirada do tema foi feita a partir de emenda de parlamentares bolsonaristas e preocupa organizações de defesa de consumidores, pois pode facilitar golpes e fraudes. Além disso, o PL não trata diretamente de uma questão estrutural do Brasil e que também está presente nas tecnologias: o racismo. O tema é tratado na obra Inteligência Artificial Generativa: Discriminação e Impactos Sociais, disponível gratuitamente na plataforma Desvelar. De acordo com o livro, o preconceito se manifesta em diversas etapas da IA, da coleta de dados aos resultados. As bases de dados, coletadas indiscriminadamente da internet, podem perpetuar estereótipos e vieses que refletem e reforçam discriminações existentes na sociedade. Em entrevista ao podcast Bem Viver, do Brasil de Fato, o organizador da obra, Tarcízio Silva, afirma que a tramitação do PL falhou em não levar esses fatos em consideração. “Todo o processo de debate sobre regulação de IA no Brasil tem escanteado demandas do movimento negro”, alerta. Na conversa, Silva também pontuou os impactos da IA na propagação de notícias falsas, chamadas popularmente de fake news e no mercado de trabalho. Ele ressaltou que os debates na câmara terão que avançar no comprometimento das empresas para conter os impactos negativos da IA. “Essas tecnologias são de alto risco e as big techs têm tentado fugir dessa responsabilização. Esse é um problema do atual Projeto de Lei, que temos que resolver nas próximas fases de tramitação”. Campanha Aqui, a luta é pauta!_ Há mais de duas décadas, construímos uma visão popular do Brasil e do mundo a partir do conhecimento jornalístico. Nosso trabalho alia rigor na apuração ao interesse público. Não temos medo de dizer: aqui, a luta é pauta. O jornalismo do Brasil de Fato sempre esteve em defesa da classe trabalhadora. Estamos ao lado daqueles e daquelas que sabem que outro mundo é possível. Esse mundo está em plena construção nas experiências de reforma agrária, nos saberes ancestrais dos povos e territórios, na agroecologia,