Quanto da sua decisão já é da IA

Notas do episódio

Pílula de cultura digital para começarmos bem a semana 😊 Quantas vezes, nesta semana, você pediu a uma plataforma de inteligência artificial generativa para escrever, resumir, escolher, comparar, interpretar ou decidir alguma coisa? Não se sinta mal se a resposta for “muitas vezes”: temos que usar mesmo essa tecnologia. Mas à medida que ela se torna mais assertiva e “eloquente”, as pessoas podem começar a acreditar mais do que deveriam em todo seu poder. O risco que isso traz é passarmos a terceirizar nosso raciocínio, ética e decisão para uma máquina que se prontifica a “pensar por nós”. Se permitirmos que isso aconteça, o resultado pode ser a tomada de decisões desastrosas no nosso cotidiano e sérios danos ao nosso desenvolvimento. Esse foi o tema da palestra que ministrei neste sábado (5) no HackTown, um dos maiores festivais de tecnologia, criatividade e inovação da América Latina. Há uma década, o evento transforma a pacata Santa Rita do Sapucaí (MG) em palco para mais de mil atividades em cinco dias. É importante que fique claro que, de forma alguma, proponho que não se use a IA. Muito pelo contrário! Porém, como tantas coisas na vida, há bons e maus usos de todo esse poder. Nosso desafio é não nos deixarmos levar pela sedução de algoritmos concebidos para acharmos que estamos falando com outra pessoa e que eles são capazes de responder corretamente a qualquer coisa. Essas duas premissas são falsas. Não basta sabermos escrever bons comandos para os chatbots. Nosso papel é manter o protagonismo nessa relação, com uma saudável desconfiança que nos permita analisar as entregas das máquinas, especialmente em um momento em que os agentes de IA começam a trabalhar com pouca ou nenhuma supervisão humana. Fácil falar, mas como fazer isso? É isso que explico nesse episódio. Gostaria de destacar que a minha participação neste ano está recebendo o apoio da SAP. Agradeço à gigante alemã de software pelo incentivo à discussão sobre IA no Brasil.