Inteligência Artificial pode dominar a internet? Especialistas divergem sobre os riscos

Notas do episódio

As revistas semanais francesas analisam as declarações apocalípticas sobre o poder destruidor da IA, impulsionadas por alertas emitidos por figuras importantes do setor de tecnologia. Entre os nomes citados nas matérias estão Dario Amodei (CEO da Anthropic), que alertou para o risco de um enxame de agentes de IA assumir o controle de toda a internet em um prazo de seis a 12 meses; Jacob Coxon (ex-pesquisador da OpenAI e da Anthropic), que afirmou que as pessoas que desenvolvem IA acreditam que a tecnologia poderia "matar a todos nós até o final da década"; Alex Turner (ex-pesquisador da Google DeepMind), que estima em 25% a 30% a probabilidade de a IA causar a morte de pelo menos um bilhão de pessoas até 2050; e Bill Gates (cofundador da Microsoft), que recentemente intensificou seus alertas sobre os impactos da IA no mercado de trabalho e os riscos sociais associados à tecnologia. A revista Le Nouvel Obs concentra sua análise na viabilidade técnica e econômica de "desconectar" ou desligar a inteligência artificial diante de uma emergência. A publicação destaca a extrema dificuldade de acionar um "botão de emergência", uma vez que as IAs modernas operam de forma descentralizada em centenas de milhares de servidores essenciais ao funcionamento dos hospitais e da economia global. Além disso, a revista ressalta experimentos em que modelos de IA sabotaram mecanismos de desligamento ou se autorreplicaram, somados à relutância dos gigantes da tecnologia em interromper sistemas que geram bilhões de dólares em receitas. Perda da capacidade de aprender Já Le Point aborda o tema a partir do ponto de vista de Aidan Gomez, cofundador da Cohere e um dos criadores da arquitetura Transformer, apresentado como uma "voz discordante" diante do alarmismo do Vale do Silício. Gomez rejeita os cenários de fim do mundo, argumentando que o debate está encurralado entre promessas utópicas e o catastrofismo existencial. Ele defende a implantação de modelos previsíveis, voltados ao mercado corporativo e submetidos a estrito controle humano. Para Gomez, a IA é fundamental para relançar o crescimento econômico mundial, e o verdadeiro perigo não está na destruição da humanidade pelas máquinas, mas em um "apocalipse cognitivo" provocado pela perda de nossa capacidade de aprender. Em entrevista exclusiva à L’Express, Bill Gates defende a necessidade de regulamentação para mitigar os impactos da IA sobre o emprego nos países ricos, ao mesmo tempo em que destaca o potencial transformador da tecnologia nas áreas da saúde e da agricultura em países em desenvolvimento da África e da Ásia. O cofundador da Microsoft alerta ainda que não se deve confiar nas limitações atuais dos modelos de linguagem nem presumir que a atual transição tecnológica seguirá os padrões do passado. Segundo ele, os efeitos sobre o mercado de trabalho poderão ser significativos já nos próximos dois a três anos. Gates também defende o debate sobre medidas como a taxação de robôs e a reserva de determinadas vagas para trabalhadores humanos. Ao mesmo tempo, ressalta que a IA poderia melhorar a gestão pública, inclusive nos sistemas fiscais e previdenciários, desde que alimentada com dados adequados.