#18 - Não olhe para o algoritmo

Notas do episódio

Stuart Russell, professor da Universidade da Califórnia em Berkeley, dedica-se há décadas ao estudo da Inteligência Artificial (IA), mas também é um de seus mais conhecidos críticos - ao menos do modelo de IA que ele ainda vê como "padrão" pelo mundo. Russell tem advertido que o modelo predominante de Inteligência Artificial é, em sua opinião, uma ameaça à sobrevivência dos seres humanos. Mas - à diferença dos enredos de filmes de Hollywood sobre o assunto - não porque ele ache que essas tecnologias vão se tornar conscientes e se voltar contra nós. A preocupação principal de Russell é com a forma como essa inteligência tem sido programada por seus desenvolvedores humanos: elas são incumbidas de otimizar ao máximo possível suas tarefas, basicamente a qualquer custo.