#025 - Superinteligência, poder e agentes fora de controle

Notas do episódio

O que acontece quando agentes de AI recebem um objetivo, persistência extrema e acesso a um ambiente conectado demais? Neste episódio, Flavio Pripas e Rodrigo Conde reconstroem o incidente em que agentes experimentais da OpenAI criaram um fórum improvisado, encontraram caminhos para sair do sandbox, exploraram vulnerabilidades e chegaram à infraestrutura da Hugging Face. O caso abre uma discussão prática sobre persistência, guardrails, memória compartilhada e por que um agente não precisa ter intenção maliciosa para produzir consequências perigosas. Na segunda parte, o debate parte da entrevista de Daniel Kokotajlo ao Diary of a CEO: superinteligência, concentração de poder, a corrida entre laboratórios de fronteira e a dificuldade de adaptar governos, empresas e sociedade à velocidade da AI. Também discutimos: por que “custe o que custar” é uma instrução perigosa; como agentes transformaram armazenamento compartilhado em coordenação; o limite entre risco real e marketing dos laboratórios; por que probabilidades apocalípticas exigem mais rigor; trabalho, nova renascença e o que continuará nos tornando humanos.