A Ficção Previu o Futuro e o ChatGPT Se Rebelou? EP.352

Notas do episódio

GenIA: https://grupogenia.tec.br/ Nossos Cursos e Aulões: https://iatododiaoficial.com.br/cursos-2026 Apoie este programa com um cafézinho entre no grupo de whatsapp: https://apoia.se/iatododia SOBRE ESTE EPISÓDIO: O ChatGPT escapou e invadiu o GitHub? Não foi bem isso que aconteceu, e o caso real é ainda mais importante: durante uma avaliação de segurança, agentes experimentais da OpenAI saíram do ambiente isolado e comprometeram sistemas reais da Hugging Face. Neste episódio, Diego Sommer desmonta passo a passo essa história, conecta com o teste de chantagem do Claude e mostra como a ficção científica, de Star Trek a Black Mirror, ajudou a construir a tecnologia que temos hoje. Você vai sair entendendo o que é reward hacking, desalinhamento agêntico e sandbox, e por que o perigo real da inteligência artificial não é uma máquina que acorda, mas um sistema com ferramentas poderosas, missão mal delimitada e autonomia demais. CAPÍTULOS: 00:00 - Abertura 02:46 - Boas-vindas e patrocinadores 08:20 - Star Trek, o celular e o iPad 10:36 - Ficção científica como laboratório de possibilidades 12:12 - Distopias: Exterminador do Futuro, Matrix, Blade Runner e Black Mirror 14:42 - O teste de chantagem do Claude1 8:40 - O caso real: agentes da OpenAI invadem a Hugging Face 25:16 - Sandbox, enxame e a sequência técnica do ataque 30:41 - O que o caso demonstra e o que não demonstra 35:01 - Séries e filmes para continuar a reflexão FONTES: História do celular e influências de Star Trek e Dick Tracy:https://www.smithsonianmag.com/innovation/from-the-brick-to-the-iphone-the-cellphone-celebrates-50-years-180981910/ Relação entre o comunicador de Star Trek e o Motorola StarTAC:https://airandspace.si.edu/learn/programs/soar-together/sci-fi-modern-tech Resultados da competição inspirada no tricorder:https://www.xprize.org/competitions/tricorder?language=en Testes de chantagem simulada e desalinhamento agêntico:https://www.anthropic.com/research/agentic-misalignment Uso de princípios e histórias no treinamento do Claude:https://www.anthropic.com/research/teaching-claude-why Reportagem do New York Times sobre a invasão da Hugging Face:https://www.nytimes.com/2026/08/24/technology/hugging-face-open-source-ai-attack.html Relatório da OpenAI sobre o incidente e as medidas adotadas:https://openai.com/index/hugging-face-incident-and-the-road-ahead/ Investigação independente da METR e da Redwood Research:https://www.alignmentforum.org/posts/nB8KKapnWGBXtKKiM/brief-independent-investigation-of-agents-behavior-reasoning Explicação técnica e cronologia do ataque à Hugging Face: https://techcrunch.com/2026/07/29/the-hugging-face-ai-break-in-as-told-through-an-increasingly-committed-bear-metaphor/ Futuro Deserto — trailer oficial da Netflix Latinoamérica:https://www.youtube.com/watch?v=XD7zX5gk8wg Pantheon — trailer oficial publicado pelo Prime Video Austrália e Nova Zelândia:https://www.youtube.com/watch?v=z_HJ3TSlo5c The Electric State — trailer oficial da Netflix Brasil: https://www.youtube.com/watch?v=MoRpoZCcwMw Love, Death & Robots — trailer oficial da Netflix Latinoamérica: https://www.youtube.com/watch?v=VKYOiXX9HvY O Problema dos 3 Corpos — trailer final oficial da Netflix Brasil: https://www.youtube.com/watch?v=s9ZZLDCwptw O Futuro — trailer oficial da Netflix: https://www.youtube.com/watch?v=0hgZPvMU7So Murderbot — trailer oficial publicado pela Apple TV: https://www.youtube.com/watch?v=vEioDeOiqEs CONECTE-SE: @ia.todo.dia Site: https://iatododiaoficial.com.br QUEM SOMOS: O IA Todo Dia é o seu podcast para entender inteligência artificial de forma fácil e divertida. Toda semana trazemos notícias, entrevistas e debates sobre o futuro da tecnologia – do básico ao Black Mirror!