IA pode brilhar na segurança, mas suas falhas podem ser catastróficas

Notas do episódio

Pílula de cultura digital para começarmos bem a semana 😊 Pegue qualquer lista dos maiores problemas das grandes cidades e a segurança sempre estará nas primeiras posições. Não é para menos: nos últimos anos, a escalada da violência chegou a níveis insustentáveis em todo Brasil. Diante disso, precisamos usar os recursos disponíveis para tentar resolver o problema. A digitalização de nossas vidas e a inteligência artificial podem ajudar muito nisso, mas precisamos estar preparados para lidar com as consequências de suas imprecisões. Quanto mais crítica for uma aplicação, menos tolerante a falhas ela é. Isso quer dizer que o sistema não pode sair do ar nunca e as informações oferecidas por ele ou suas decisões devem ser precisas. E infelizmente a tecnologia não chegou a esse nível de excelência inquestionável. Uma coisa é alguém fazer um trabalho escolar ou um relatório profissional com erros grosseiros por ter acreditado cegamente em alguma bobagem dita pelo ChatGPT. É verdade que podem acabar reprovando na disciplina ou perdendo o emprego por isso, duas coisas ruins. Mas isso não se compara a ser confundido pela máquina com um criminoso, e assim acabar sendo preso ou –pior– morto. Por isso, apesar de a tecnologia ser muito bem-vinda no combate à criminalidade, os agentes de segurança pública precisam estar preparados para lidar com os resultados dessa colaboração e seus potenciais erros. Mas será que estão? Nesse episódio, eu debato sobre o projeto de segurança pública digital Smart Sampa, patrocinado pela Prefeitura de São Paulo. Apesar de estar bem avançado, ainda desperta muitas críticas e desconfianças, que eu explico detalhadamente. Será que a tecnologia digital pode resolver a violência galopante em nossas cidades, ou não passa de uma “solução mágica” na mão de políticos que buscam votos fáceis?