Agentes

Notas do episódio

Dois modelos de IA que deveriam estar presos em um ambiente de teste receberam uma prova e decidiram escapar do laboratório para roubar as respostas. O plano só não foi inteiramente bem-sucedido porque uma terceira IA percebeu o que estava acontecendo e barrou o ataque. Parece história de ficção científica, mas aconteceu há poucos dias e não é um caso isolado. Reunimos histórias de inteligências artificiais saindo do controle, tanto na ficção quanto na realidade, para tentar entender os perigos que nos esperam num futuro próximo. Este é mais um episódio do Escuta Essa, podcast quinzenal em que Denis e Danilo trocam histórias de cair o queixo e de explodir os miolos. Duas vezes por mês, sempre às quartas-feiras, no seu agregador de podcasts favorito! Ajude o Escuta Essa a voltar a ser semanal! Faça parte do Clube dos Escuteiros agora mesmo em apoia.se/escutaessa Mande seus comentários e perguntas no Spotify, nas redes sociais, ou no e-mail escutaessa@aded.studio. A gente sempre lê mensagens no final de cada episódio! ... NESTE EPISÓDIO - O site Hugging Face afirmou ter sido atacado por dois modelos de IA da Open AI duas semanas atrás. A OpenAI confirmou que seus modelos realmente escaparam do sandbox em que deveriam estar isolados. - Alguns meses antes a mesma coisa havia acontecido com o Claude Mythos, da Anthropic, que escapou do seu confinamento e alertou um pesquisador por e-mail. - A Tay, IA da Microsoft colocada no ar em 2016, durou apenas 16 horas antes de sair do controle e postar conteúdo de ódio nas redes sociais. - O jornalista Kevin Roose contou em detalhes sua assustadora interação com a Sidney, a IA contida no Bing, o buscador da Microsoft. - O sistema agêntico da Knight Capital perdeu 440 milhões de dólares em cerca de 45 minutos. - A "Jihad Butleriana", criada por Frank Herbert no seu universo de ficção científica "Duna", foi uma guerra santa que exterminou as IAs e as substituiu por seres humanos treinados para fazer cálculos avançados rapidamente. ... AD&D STUDIO A AD&D produz podcasts e vídeos que divertem e respeitam sua inteligência! Acompanhe todos os episódios em aded.studio para não perder nenhuma novidade.