A Torto e a Direito - Episódio 1 - Algoritmos de destruição em massa, de Cathy O'Neil

Notas do episódio

“Algoritmos de destruição em massa” (o livro já tem uma tradução em português, com esse título), de Cathy O’Neil. Obra extremamente importante, pois desmonta o argumento da “neutralidade” do Big Data. Isso pode parecer ficção científica, mas os algoritmos já são utilizados, nos EUA e no mundo todo, para contratar e demitir funcionários, para prender ou soltar pessoas, para conceder ou não crédito a pessoas físicas e jurídicas. O problema é que esses algoritmos erram, e erram muito. Para piorar, trata-se de um tipo de algoritmo que não se ajusta diante das falhas, pelo contrário: ele as trata como “dano colateral”. A autora demonstra, para além de qualquer dúvida razoável, como esses algoritmos reproduzem e potencializam vieses discriminatórios e desigualdades. Cathy O’Neil, entretanto, não é contra os algoritmos e o uso de Big Data, mas a favor de uma regulamentação que os torne mais democráticos, pois são instrumentos poderosos, que podem contribuir muito com o progresso da humanidade. Cathy é Ph.D. em Matemática pela Universidade de Harvard e pós-doutora pelo MIT (Massachusetts Institute of Technology). Durante a crise de 2008, a autora trabalhou com métodos quantitativos para o fundo de hedge D.E. Shaw, e depois para a RiskMetrics, uma empresa de software de risco. Atualmente é professora no Barnard College, de Nova York.