Não podemos ignorar os riscos da IA

Notas do episódio

Pílula de cultura digital para começarmos bem a semana 😊 Por que os grandes benefícios da IA não podem encobrir seus potenciais riscos? A IA já transformou o mundo, e esse processo está apenas engatinhando. Suas potencialidades beiram o inimaginável e devemos nos apropriar de todos esses recursos. Ainda assim, temos que cuidar para que isso não se torne um ópio que turve nossa compreensão dos riscos que ela também embute. Infelizmente já constato esse problema em pesquisadores, parte da imprensa, grandes empresários e outros líderes da sociedade, que abraçam a IA de maneira inconsequente, como se tudo dela fosse bom. Essas pessoas adotam um discurso deslumbrado e intransigente, criticando aqueles que propõem um debate equilibrado sobre benefícios e riscos da IA. No dia 8, a Academia Real das Ciências da Suécia concedeu o Prêmio Nobel de Física a Geoffrey Hinton, da Universidade de Toronto, e a John Hopfield, da Universidade de Princeton, pelos seus trabalhos pioneiros com redes neurais artificiais e com machine learning, bases da IA. Essa turma correu para incensar a vitória dessa tecnologia, escondendo que, apesar de ser considerado o “padrinho da IA”, Hinton também é um forte crítico ao seu desenvolvimento descuidado. A defesa inabalável da IA é criadora e criatura de um profundo processo de desordem informacional que beneficia as empresas do setor. Não é um fenômeno novo: há muitos anos, as big techs manipulam o público em favor das redes sociais. Com isso, mesmo diante dos seus evidentes problemas, uma parcela significativa da população ainda as apoia irrestritamente por seus inegáveis benefícios, mas ignorando seus óbvios prejuízos. Falhamos ao impedir que essa desinformação favorável às redes sociais criasse raízes tão profundas, que impediram que elas evoluíssem de maneira mais benéfica à humanidade. Não podemos repetir o erro com a inteligência artificial! Mas qual é o caminho a seguir? É sobre isso que falo nesse episódio. E você, acho que há exageros em torno da IA?