Uma inteligência artificial sem ética pode arruinar a sociedade

Notas do episódio

Pílula de cultura digital para começarmos bem a semana 😊 Graças a crescente simbiose com sistemas digitais, nossas decisões cotidianas são influenciadas por eles. O que pouca gente sabe é que, da mesma forma, nós influenciamos as máquinas. Na verdade, graças à inteligência artificial cada vez mais disseminada nesses sistemas, elas efetivamente aprendem conosco. Mas será que estamos sendo bons professores? A pergunta pode parecer sem sentido, mas embasa um dos temas mais quentes hoje para quem trabalha com inteligência artificial: a ética desses sistemas. Plataformas de IA desenvolvidas de maneira displicente podem ser mais suscetíveis a aprender e a perpetuar coisas ruins. A ironia –e possivelmente o grande risco disso– é que, se elas aprenderem isso de gente preconceituosa, passarão adiante o erro para outras pessoas, por sua vez influenciadas por esses sistemas. Em outras palavras, uma inteligência artificial cheia de vieses pode piorar –e muito– a sociedade. Isso obviamente não quer dizer que a inteligência artificial seja ruim ou perigosa. Mas a preocupação com seus vieses é tão grande, que foi um dos assuntos que mais ouvi na semana passada, durante minha visita a Montréal (Canadá) para participar do World Summit AI Americas, um dos maiores eventos do setor no mundo. Para entender como um sistema digital pode desenvolver preconceitos, como isso pode impactar decisivamente nossas vidas e o que devemos fazer para evitar que isso aconteça, convido você a ouvir esse episódio. E depois deixe suas percepções nos comentários.