#387 – IA e pensamento crítico

Notas do episódio

Neste episódio, falamos sobre como a inteligência artificial generativa afeta o seu pensamento crítico e você irá descobrir os riscos da dependência excessiva e como usar a IA sem perder sua capacidade de análise.​ Guilherme Goulart e Vinícius Serafim analisam um estudo da Microsoft sobre o impacto da inteligência artificial generativa no pensamento crítico. A discussão aprofunda como a automação pode reduzir o esforço cognitivo e criar uma perigosa dependência, especialmente para os trabalhadores do conhecimento. Abordando a “ironia da automação” e os vieses dos modelos de linguagem, o episódio explora a transição da criação para a curadoria de conteúdo e o risco de estagnação intelectual. Reflita sobre o futuro do trabalho, a importância da agência humana na tomada de decisão e como manter a sua relevância. Assine, siga e avalie o Segurança Legal para não perder nenhuma análise. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Artigo – The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers Foto do episódio – Filósofo em contemplação de Rembrandt 📝 Transcrição do Episódio (00:06) Sejam todos muito bem-vindos. Estamos de volta com o Segurança Legal, o seu podcast de segurança da informação e direito da tecnologia. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? E aí, Guilherme, tudo bem? Olá, aos nossos ouvintes. (00:23) Lembrando que falamos sobre segurança da informação e direito da tecnologia, mas na verdade, nosso tema hoje é tecnologia, sociedade e afins, que gostamos de falar. Não ficamos presos só a isso, Guilherme. Acabamos vendo a tecnologia de uma maneira mais geral, embora com foco maior em proteção de dados, mas sempre discutimos essa amplitude, desde o início. Sempre lembramos que, para nós, é fundamental a participação de todos por meio de perguntas, críticas e sugestões de temas. Para isso, estamos à disposição pelo e-mail… (00:55) …podcast@segurançalegal.com, no YouTube, Mastodon, BlueSky e Instagram. Também temos a nossa campanha. Gostou do Instagram? Gostei. Viu, Guilherme? Segue falando que eu vou passar a chave na porta aqui, senão vamos ser interrompidos. Põe o vídeo só para mim, então. Deixa só botar o do Guilherme aqui. (01:13) Também temos a nossa campanha de financiamento coletivo lá no Apoia-se, em apoia.se/segurançalegal. Sempre pedimos que você considere apoiar um projeto independente de produção de conteúdo. Você consegue fazer isso lá pelo Apoia-se. Recebi um e-mail ontem, Vinícius, de que o Apoia-se fez uma parceria com o Spotify, então seria possível entregar novos conteúdos direto no Spotify. (01:45) Não sei se o Spotify não vai acabar comprando o Apoia-se, como fez com a Anchor FM, que era um sistema de organização de podcast no passado. Tem o blog da Brownpipe, então você acessa lá em brownpipe.com.br, sempre acompanhando as notícias mais importantes e interessantes. Essa semana teve, de novo, o vazamento de chaves Pix. (02:06) O “Muro da Vergonha” que o Banco Central faz. Essas coisas você encontra no blog da Brown Pipe e também consegue se inscrever no e-mail para receber algumas dessas notícias. No YouTube, pessoal, se você está nos vendo, tem aquela coisa: curta, habilite o sininho e interaja. Por quê? Porque isso permite que o conteúdo seja mostrado para mais pessoas. (02:33) Se você ouve no feed, é uma coisa mais orgânica, você vai no conteúdo, mas lá no YouTube é importante fazer essas interações para que o conteúdo seja mais recomendado e, no final das contas, a gente atenda mais pessoas. (03:08) Sim, e tenho percebido… Pelos números que temos no YouTube, comparando com os de downloads de episódios, nossos ouvintes estão mais no feed do que no YouTube. Claro, mas veio a notícia de que o público em geral tem ouvido cada vez mais podcasts no YouTube. Estava havendo uma migração para dentro do YouTube para escutar podcasts, o que é péssimo. Eu não sei. Eu acho péssimo. Eu acho que depende muito. Gosto de ouvir podcast, embora tenha podcasts que eu ouço que também têm vídeo no YouTube, como o nosso. Eu ainda prefiro ouvir. Às vezes, quando não conheço a cara da figura de quem estão falando… (03:49) …gosto de ir no YouTube só para vê-los falando, assisto a um episódio ou outro e depois fico com essa noção da imagem deles falando e tudo mais. Mas o pessoal tem falado que bastante gente acompanha podcasts no YouTube. Não é o caso do Segurança Legal. (04:14) Temos um público bem menor no YouTube do que fazendo download dos nossos feeds. Enfim, se você está lá no YouTube, habilita, faz aquela coisa toda, porque também nos ajuda. (04:33) Bom, hoje vamos falar sobre esse estudo. Você já viu no tema, no título, que ainda não foi feito, pois fazemos o título depois de gravar. Não temos o título do episódio ainda, mas você já está sabendo que vamos falar sobre este estudo feito pela Microsoft, por alguns pesquisadores, não somente da Microsoft. Tem um da Carnegie Mellon, mas os outros são da Microsoft Research. (04:57) Os nomes são Lev Tank, Levit, Richard Banks, também da Microsoft, e o Hing Hank Lee. Esse é o único que não é da Microsoft, da Carnegie Mellon. Estamos falando aqui do “The Impact of Generative AI on Critical Thinking, Self-Reported Effort, and Confidence: Effects from a Survey of Knowledge Workers”. (05:35) Puxa, você me pegou. O impacto da inteligência artificial generativa no pensamento crítico, reduções autorreportadas de esforços cognitivos e efeitos da confiança, em um estudo feito com trabalhadores do conhecimento. (06:13) “Trabalhadores do conhecimento” é um termo que não conheço em português, mas me parece que no inglês é mais consolidado, indicando pessoas que lidam com o conhecimento. Já li um pouco sobre como a IA aprende e vi alguns autores, citando de improviso, que dizem que, na verdade, todo trabalhador tem, em maior ou menor grau, o conhecimento. Era um artigo que falava sobre o treinamento de modelos para dirigir veículos, dizendo: “Ora, o motorista de caminhão, apesar de estar dirigindo, também tem um conhecimento embarcado na sua práxis, porque sabe se pode andar mais ali ou se freia”. Mas, enfim, eles optaram por lidar… (07:11) …com pessoas mais relacionadas a tarefas que envolvem um curso superior ou algo do gênero. Eles pegaram, Vinícius, e vou dar um geral aqui, daí você vai me interrompendo e pedindo a palavra. Eles pegaram 319 “knowledge workers” e buscaram identificar quando e como eles perceberam o aparecimento, a presença do pensamento… (07:43) …crítico quando usaram a IA. Vamos falar “IA” aqui, mas o texto fala sobre “GenAI”, ou seja, IA generativa. Então, quando falarmos “IA” aqui, estamos nos referindo à IA generativa. Os modelos de linguagem de grande escala generativos. Não vamos nos alongar para não irritar os puristas. (08:13) É para facilitar nossa vida. A ideia seria investigar quando e como esses esforços na aplicação do pensamento crítico apareceriam. Eles pegaram 957 exemplos do mundo real sobre o uso da IA nas atividades cotidianas desses profissionais. O artigo é um pouco chato de ler, mas as descobertas são interessantes. Eles trazem alguns exemplos, como a professora que foi criar uma imagem de uma pessoa lavando as mãos e percebeu que não tinha sabonete, precisando reavaliar o prompt. (08:54) Ou seja, seria um exemplo do surgimento do pensamento crítico para avaliar o resultado. Eles usaram uma tal de taxonomia de Bloom e destacam que isso é bem conhecido. Eu, confesso, não conhecia. (09:12) Mas, segundo eles, é bem conhecido. Existem outras formas de avaliar o aprendizado, e essa taxonomia de Bloom acaba sendo uma redução dos objetivos de aprendizagem. Ela envolveria o conhecimento (recordação de ideias), a compreensão (demonstração do entendimento), a aplicação (colocação da ideia em prática), a análise (constatar e relacionar), a síntese (combinação de ideias) e a avaliação (julgamento de ideias através de critérios). (09:47) Eu ainda colocaria outros elementos. Para além de uma questão técnica de conseguir aplicar o conhecimento, me parece que o pensamento crítico, em uma determinada situação com o uso da IA, ainda envolve algumas motivações. Ou seja, por que você se importaria em ter um pensamento crítico… (10:19) …quando você usa IA, ou até mesmo quando vai usar IA? Me parece que isso envolve também o nível de esforço que você tem para fazer uma tarefa. É muito difícil fazer aquilo ou não? Vai exigir muito esforço seu? Mas também acho que há um componente de prazer e interesse sobre o assunto que você está lidando. Uma coisa é usar IA para resumir algo no seu trabalho. Outra coisa é, eventualmente, usar a IA porque você quer aprender… (10:49) …alguma coisa e tem prazer em aprender aquilo. E aí, acho que haveria ainda nessa equação a própria falta de tempo. Você tem tempo para fazer aquilo ou não? Você gosta daquele assunto que está estudando por meio da IA ou é obrigado a fazer aquilo? (11:13) Eu acho que tem esses elementos psicológicos aí. Não sei, Vinícius, se estou viajando, o que você pensa sobre isso? Na real, cara, pegando o que o estudo dividiu em essencialmente duas perguntas. A primeira é: quando e como esses trabalhadores do conhecimento percebem a ativação do pensamento crítico ao utilizar a inteligência artificial? E eles fizeram outra pergunta… (11:46) …que estará disponível nos show notes, que é: quando e por que eles percebem o aumento ou a diminuição do esforço para o pensamento crítico? Eles fizeram esses dois questionamentos. E o que você coloca de entrada, eles acabam tratando na segunda pergunta, que é com relação à motivação para pensar criticamente, a razão pela qual você vai pensar criticamente. (12:20) Eles encontraram uma clara correlação. Nessa questão de quando se percebe o maior ou menor esforço, a pessoa, quando se sente conhecedora, quando domina um dado assunto, ela tem uma tendência a usar mais o pensamento crítico no que está sendo entregue para ela. E quando o contrário acontece, quando a pessoa não tem o domínio da… (12:59) …área, ela se sente incapaz de fazer uma avaliação, a tendência é simplesmente acreditar no que a IA entrega para ela. É aquele uso que a gente faz com desconfiança. Quando começou a aparecer o GPT, fomos testando lá em 22. Começamos a usar para código e já funcionava razoavelmente bem, claro, nem perto de como funciona hoje, mas já fazia coisas boas. (13:30) Ao contrário, na minha área, a experiência era horrorosa. Eu pensava: “Cara, esse negócio só inventa coisa, não dá uma jurisprudência certa, não dá uma doutrina correta, não dá para aproveitar nada.” O que estávamos fazendo aí? Usando com uma certa desconfiança dentro das nossas áreas de conhecimento e, consequentemente, criticando muito mais a informação que ele nos dava, como fazemos até hoje. Agora vou te dar um exemplo bem simples… (14:06) …em que eu simplesmente abro mão do raciocínio crítico e uso o que a IA diz. Apareceu um fungo ali, e foi a IA que me disse que era um fungo. Numa planta que tenho aqui, uma plantinha apareceu com algo estranho na folhagem. (14:25) Fui lá, tirei uma foto e mandei para a IA, perguntando o que era. Ela me disse que era um fungo. Então, fui até a Rafa, minha esposa, e disse: “Rafa, é um fungo que tem na planta.” E eu não fui atrás. Sendo bem honesto aqui, não fui atrás. Ela disse que era um fungo, eu acreditei e pronto, acabou. (14:47) Eu não tenho como avaliar se é um fungo ou não. É justamente esse ponto que eles mostram: quando não temos domínio de uma área, a tendência é confiar mais na IA sem aplicar o pensamento crítico, porque nos sentimos incapazes de fazer essa avaliação. (15:05) E acho que, além do prazer de você lidar com o assunto… Estávamos falando antes sobre estudar a história do Rio Grande do Sul. Você quer saber algumas datas. Para que, eventualmente, você vai usar a IA para estudar algo que gosta? Estou interessado em aprender sobre a história do Brasil, por exemplo. Você quer aprender aquilo, tem um interesse, aquilo tem uma importância para você. Isso vai variar. Sinto prazer em aprender aquilo, diferentemente do que ocorre com a importância da tarefa para… (15:35) …o usuário. Eles tocam nisso quando falam sobre o uso secundário da IA ou sobre tarefas triviais. Me parece que é um pouco isso que você colocou agora. Tem um aplicativo, Vinícius, que se chama PictureThis, que é justamente para avaliar plantas, o que elas precisam, mas é pago. Eu até uso aqui em casa. (15:58) Nem precisa. Tenho um prompt que uso no Perplexity, um prompt bem complexo, grandalhão, que serve só para tirar fotos de coisas, com instruções diferentes de acordo com o tipo de coisa que ele está vendo. Se tiro foto de um livro, ele tem que me dizer o autor, dar um resumo, principais ideias, etc. (16:18) Se tiro foto de uma obra de arte, ele tem que me falar da origem, o período histórico. Se tiro foto de um bicho, ele tem que me dizer se é peçonhento ou não, suas características. E funciona perfeitamente bem. Eu realmente não tenho conhecimento de botânica, mas tendo a acreditar. E é a questão da confiança. Tendo a acreditar que um aplicativo feito para isso, treinado, sei lá… Só estava contando que existe. (16:52) Isso é uma coisa muito interessante que você coloca. Porque uma coisa é pegar um LLM genérico, como um ChatGPT ou Perplexity, e aplicar para analisar uma planta. (17:11) Outra coisa bem diferente é alguém ter feito o treinamento de um modelo todo ou fine-tuning de um modelo para trabalhar especificamente com plantas. Aí é outro esquema. Não precisamos de modelos tão grandes; pelo contrário, modelos bem pequenos podem ter resultados bem melhores do que esses large language models. (17:36) Como são mais especializados, podem ter um resultado muito melhor. Fecha parênteses. Então, você dizia que tem uma certa confiança nesse modelo de IA para fazer a avaliação botânica das suas plantas. Esse é um ponto, e você mesmo confirma o resultado do estudo: como não tem conhecimento, deposita maior confiança na ferramenta. (17:55) E consequentemente, sua avaliação crítica diminui. Você não vai atrás de um livro de botânica para ver se aquilo está certo. Esse é o primeiro ponto. (18:14) E outra, que também tem a ver com a utilidade e a importância da tarefa para você. Você não está fazendo uma avaliação do seu trabalho em que entregará um resultado para o cliente. Você está vendo uma planta. Você não quer que a planta morra, gosta de plantas como nós, então não é que aquilo seja totalmente desimportante, mas é quase como um uso secundário, uma tarefa menos importante. (18:40) Só que daí tem um problema que eles levantaram. O problema de mecanizar a IA pode impedir que as pessoas treinem seu julgamento no que eles chamaram de “musculatura cognitiva”. Você poderia ir perdendo isso aos poucos pela falta de uso. (19:04) Quase como se, ao ficar sentado trabalhando no escritório, você tivesse uma atrofia dos músculos. E por isso vai à academia. E aí tem uma coisa muito interessante, Guilherme, que eles citam, de outro artigo que vale a pena a leitura. (19:20) Eles citam o autor Ben Shneiderman e sua “ironia da automação”. É o que eles mencionam quando falam desse efeito. “Vou usar a IA só para as coisas menos importantes.” E aí acontece o que você falou: eu não raciocino criticamente nessas coisas, então acabo não treinando nas tarefas menores. Quando vêm as coisas importantes, estou destreinado… (19:54) …para fazer o raciocínio crítico. Você diz: “Vou deixar para a automação o que não importa, para eu fazer o que importa.” Daí, quando vai fazer o que importa, está destreinado e não consegue fazer direito. Eles citam isso como a ironia da automação. E a tendência que eles viram é uma clara relação entre o fato da tarefa ter uma importância secundária… (20:31) …para você e o emprego do raciocínio crítico. É o exemplo da planta que acabei de falar. Eu não empreguei pensamento crítico nenhum ao pegar a resposta da IA sobre o fungo. Simplesmente assumi. E é aí que está o perigo. Talvez por uma coisa boba como essa… Não descuidando da minha plantinha, mas é algo que não… (21:07) …tem tanto impacto. Se eu errar no diagnóstico, perco uma planta. Agora, no momento em que você está fazendo uma tarefa no seu trabalho, botando seu nome, que será avaliado por isso, a tendência é usar mais. Mas não muita gente. Vou pegar o número aqui: cento e poucas pessoas de 319. A tendência é se preocupar mais. (21:41) Uma das coisas que faz as pessoas utilizarem o pensamento crítico, segundo as 319 que participaram do estudo, são as potenciais consequências negativas. Por exemplo, você vai gerar um relatório, fazer um e-mail e sai aquela coisa pasteurizada que você olha e vê que foi gerado por IA. Pense em documentos legais. Estamos cheios de exemplos de juízes, advogados, jornalistas que publicaram coisas com… (22:17) …prompt e tudo. Mas olha que interessante: das 319 pessoas, só 116, praticamente 1/3, disseram que tinham essa preocupação, que usavam o pensamento crítico por causa de eventuais consequências negativas. E esse é o maior número. (22:49) Se eu pegar outras motivações, como a qualidade do trabalho, sabe quantos dos 319 citaram a qualidade do trabalho como uma razão para o pensamento crítico? 74 de 319. (23:12) E esses números que você está trazendo… O estudo tem um problema, na minha opinião, o grande problema. Ele aponta o que as próprias pessoas acharam sobre o uso do seu próprio pensamento crítico. É “self-reported”, como está no título. (23:31) Exatamente. Foi a escolha dos caras. Se essa autoavaliação está correta ou não, é outro problema que o estudo não quis investigar, mas tudo bem, para nós serve. Outra coisa que o estudo não trouxe, Vinícius, e se você simplesmente jogar o estudo na IA, não terá este insight que o Segurança Legal vai te trazer: a gente tem que valorizar nossa inteligência. O estudo fala em correlacionar a avaliação de algo com… (24:04) …outras coisas. Qual é o papel do pensamento crítico no mundo? No direito, por exemplo, minha área, o pensamento crítico é fundamental. Seja para avaliar se uma norma é a correta para aplicar em um caso concreto, para avaliar a validade de uma norma, ou, de maneira geral, em filosofia do direito, para avaliar a justiça de uma norma. (24:41) Para evitar uma alienação no direito. Tem um livrinho, “Introdução ao Pensamento Jurídico Crítico”, do Warat. A própria ideia de razão que está no nascimento do Iluminismo: a superação da ignorância, a investigação, o papel do conhecimento, a justificação do conhecimento numa visão mais epistemológica. (25:11) Todo o esforço para justificar um determinado conhecimento. A escolha da taxonomia de Bloom, por exemplo, não aborda essas questões. Eles estão fazendo uma análise muito mais pragmática. E acho que há outro ponto por trás disso: até que ponto o uso dessas ferramentas te permite justificar um conhecimento? (25:38) Eles falam que, às vezes, o usuário pega as fontes que a IA traz e vê se estão adequadas. Dias atrás, eu estava querendo comprar um livro, não achava e pedi ao Perplexity para encontrar. Ele me mandou para um site do Mercado Livre da Argentina. (26:05) Quando cheguei lá, o livro estava indisponível. Se fosse outra coisa e eu não fosse conferir o link, tomaria aquilo como verdade. É, mas aí você usou em um sentido diferente. Você queria que ele agisse quase como um agente para você. Este ano eu diria que é o ano dos agentes de IA. A OpenAI já está liberando alguns, coisas horrorosamente caras. Um agente… (26:43) …desenvolvedor, um agente com a capacidade de um doutor, um PhD, por 10.000 dólares por mês. A ideia é que ele efetivamente faça as coisas. Estava testando um agente na minha máquina que fica navegando. Você diz para ele: “vai na Amazon, cata não sei o quê”, ele abre um navegador e começa a navegar sozinho. (27:18) Funciona meia boca, mas a ideia é muito interessante. A própria OpenAI tem o Operator, que custa 200 dólares por mês e faz algo semelhante. (27:36) Então, o que você fez ao pedir um produto com preço foi quase uma função de agente. E, de fato, ele não faz isso muito bem. É diferente de fazer uma busca por informações, não uma pesquisa de preço. Não era uma pesquisa de preço. (27:55) Ele de fato encontrou o livro, o anúncio estava certo, só que o livro já estava esgotado. Ele cometeu um pequeno equívoco. Mas transporte isso para outro uso em que ele precise conferir uma informação. O pensamento crítico aí vai atuar na dinâmica de você conferir aquele resultado. Essa é uma expressão do pensamento. (28:25) Exato. Entrando no estudo, quando o pensamento crítico vai aparecer? Quando esses usuários vão buscar observar a qualidade do seu trabalho. Ele vai pegar o output e verificar, comparando com outras fontes ou com o próprio conhecimento. (28:56) E quando esse usuário tiver o interesse em aumentar a qualidade do trabalho ou evitar consequências negativas, aí o pensamento crítico aparecerá. Ou quando ele quiser aumentar suas competências, ele vai conferir, usar ou encontrar formas de melhorar as respostas que a IA dá. (29:22) Tem um exemplo aqui: um usuário pediu um texto para o site dele. Vi um post, e há vários assim, do pessoal rindo das descrições de IA que estão colocando no iFood. (29:47) Você pega lá, um pastel de carne, e a descrição é: “pastel com a massa cuidadosamente desenvolvida…”. Você vê que é ridículo. É absolutamente ridículo. Quer dizer, algumas pessoas que já têm um olhar mais treinado percebem. Vinícius, não sei se todo mundo enxergaria. (30:11) Chega a ser engraçado, funciona quase como uma piada para quem tem o olho treinado. Um dos participantes disse que, quando gerou o texto, o resultado foi muito padronizado, cheio de clichês e chato. (30:28) “Tive que editar bastante para tirar algo que eu pudesse entregar para os meus chefes.” Nota que aí apareceu o pensamento crítico do cara, que conseguiu identificar que aquele texto era enlatado, pasteurizado. Gosto de fazer uma comparação da IA com comida ultraprocessada. Às vezes, o resultado vai ser o “Big Mac” do texto, o salgadinho, o “Pringles”. Você está falando de duas coisas que eu gosto de comer, que não deveria, mas gosto. (30:56) Também gosto. Mas aí é a questão do contexto, Vinícius. Eu gosto, eventualmente como um Big Mac. Só que tenho que saber quando. Se eu for me alimentar só de Pringles, na segunda semana eu morro. (31:16) Para mim, isso é consequência de um elemento que eles levantaram aqui. A pergunta um, na seção quatro do artigo, é: (31:34) “Quando e como os trabalhadores percebem o emprego do pensamento crítico usando IA?” Mentira, você nem leu o artigo, só perguntou para a IA. Sim, que está todo marcado aqui. Pedi para a IA marcar para mim. (31:53) No “como”, eles falam do pessoal que usa para refletir sobre seus objetivos, necessidades e intenção para identificar a necessidade de usar a assistência de uma IA. (32:23) Dos 319, seis disseram que usam pensamento crítico para isso. Se você não usa pensamento crítico para pensar no que quer da IA, você só gera lixo. Eu sempre penso no que eu quero, organizo o que quero, a não ser que seja uma coisa boba, como a foto de uma planta. (32:47) Ou “quando morreu fulano de tal”, algo mais factual e rápido. Agora, para qualquer coisa mais complexa, eu penso em como vou pedir. E, cara, das 319 pessoas, seis disseram que usam pensamento crítico para isso. (33:07) E aí, na sequência, para formular a questão, 30 de 319 disseram que usaram pensamento crítico. É claro que você vai ter um monte de gente, como a pessoa que eles citaram, dizendo: “ah, fiz aqui e ficou um texto ruim no iFood”. Claro, o cara que fez o prompt não usou pensamento crítico. (33:42) Ele só largou lá: “me diz um texto para botar aqui”, e o negócio gera “um fabuloso pastel feito com manjar, carne cuidadosamente frita, com uma cebola selecionada”. (34:05) Ele vai inventar um negócio que obviamente foi gerado por IA. E muito aluno faz bobagem. Eles acham que podem chegar lá, pedir o texto, sem definir estilo, sem pensar criticamente no que querem. E aí, o resultado é ruim mesmo. (34:26) O problema do aluno envolve vários elementos. Primeiro, o interesse do cara. Se ele quer só “matar um negócio”, ele vai lá, copia e cola da internet e pronto. Agora, no seu exemplo da planta, seria diferente se você fosse um estudante amador de botânica. (34:56) Aí você não faria isso, porque tem interesse em aprender aquilo. E isso apareceu no estudo. Estamos tentando avançar para um novo Iluminismo, não voltar para o período pré-Iluminismo. (35:21) O pensamento crítico pode aparecer na intenção de querer aprender mais. Um usuário falou: “Eu queria entender mais a lógica por trás do resultado para que eu conseguisse fazer sozinho da próxima vez.” (35:41) Se seu interesse… e esse é um ponto de uma sociedade, Vinícius. Numa sociedade em que o interesse em aprender coisas vai ficando cada vez mais diluído, valorizar o conhecimento, as possibilidades que você, enquanto agente autônomo, tem de se posicionar criticamente no mundo. E esse é um valor que está… (36:14) …em decadência, talvez. As pessoas não querem mais aprender, está tudo muito fácil. Então, há um aspecto que o estudo não abordou: as pessoas querem aprender? Elas têm interesse em saber como fazer as coisas? Uma coisa é gerar uma informação desimportante, como “quando Saint-Hilaire esteve viajando aqui no Rio Grande do Sul”. (36:46) Na verdade, ele chega em 1816, mas no Rio Grande do Sul, em 1820. Ele fica um tempão viajando entre 1816 e 1822. Se você perguntar errado para a IA, ela vai te dar a resposta errada. (37:03) Você tem que saber exatamente como perguntar. Fiz uma consulta esses dias, queria saber o histórico de mulheres que foram presidentes ou primeiras-ministras no mundo. Consultei no Perplexity com a busca Pro. (37:28) Vi que ele esqueceu, por exemplo, da presidente do México, que atualmente é uma mulher. Uma que eu sabia de cabeça. Aí, fiz a pesquisa profunda, o Deeper Research, e ele trouxe muito mais informação, mas a informação anterior veio incompleta. E a da busca profunda veio com muito mais coisas. (38:04) Mesmo assim, não posso confiar naquilo pura e simplesmente. Preciso buscar mais, porque não tenho certeza de que ele trouxe todas as informações. (38:24) Fiquei desconfiado. Como eu só queria ter uma noção, não levei adiante. Se fosse para fazer uma apresentação sobre o papel das mulheres na liderança dos países, eu poderia pegar como ponto de partida, mas não poderia confiar 100% nisso. (38:51) E isso é pensamento crítico. Para isso, cara, é que vejo o grande problema. Eles citam no início do artigo que sempre houve resistência às tecnologias. Citam a resistência de Sócrates à escrita. (39:17) Porque podia substituir a memória. Você não precisa mais guardar as coisas na mente. Johannes Trithemius fez objeção à imprensa. E as calculadoras… nós vivemos isso. Professores faziam objeção ao uso de calculadora. (39:55) Tudo bem, você tem que aprender a matemática básica, mas não vai ficar quebrando pedra em vez de comprar um tijolo. (40:33) A IA é uma baita ferramenta que, como a internet e a Wikipédia, causa uma preguiça mental, sem dúvida nenhuma. (41:04) Você falou sobre a Wikipédia. Eu estava com ela aberta. O Musk agora está implicando com a Wikipédia, que seria um último reduto de informação mais curada e acompanhada. Passamos por um momento em que dizíamos aos alunos: “Não usem a Wikipédia”. (41:31) Porque podia ter qualquer porcaria lá. Chegamos a um momento em que a Wikipédia talvez seja uma das grandes coisas de valor que apareceram na internet. Não é tão simples colocar qualquer bobagem lá. Descobri que dá para gerar livros na Wikipédia. (42:05) Você escolhe os verbetes e diz “criar livro”. Eles montam um livro com os verbetes, imprimem e te mandam. (42:23) É um livro com os verbetes da Wikipédia. Super interessante. E tem coisas maravilhosas sobre a história de Porto Alegre. O artigo tem 135 fontes. É impressionante. (43:04) Chegamos a um turning point em que, de repente, a Wikipédia, que antes era colocada em xeque, você fica feliz se seu aluno usar. Para certos conteúdos, claro. Se for um estudante de história, certamente não poderá usar só a Wikipédia. Eu passei a dizer aos meus alunos: “Como ponto de partida, serve. Não como final de uma pesquisa.” (43:24) Mas talvez seja melhor que a IA em alguns pontos. E você pode usar a própria IA como ponto de partida. Vejo a IA como uma ferramenta, e essa ferramenta depende de quem está na frente dela. (43:49) Se você me der uma marreta, eu vou fazer porcaria. Exige um certo autoconhecimento, ter noção do que você sabe e do que não sabe, e honestidade intelectual. Quando vou gerar algo que não entendi e usar sem me aprofundar? (44:29) Isso é desonesto intelectualmente. E sabe qual é o nome disso? Autorresponsabilidade. Mas perceba que precisa de um preparo. Talvez precise de um preparo intelectual melhor para usar uma ferramenta dessas de maneira precisa, com bons resultados. (45:05) Você falava, Vinícius, sobre ser uma ferramenta. Lembrei-me de um personagem do Mad Max, o Master Blaster. Era um gigante, e em cima dele, um anãozinho que o comandava. (45:31) Você, enquanto pessoa que comanda essa força, pode fazer coisas muito legais ou, como no caso dele, muito ruins. E essa força vai exigir de você autorresponsabilidade, principalmente porque você pode chegar em momentos em que as pessoas não vão perceber que você está usando a IA. (46:07) Você tem um potencial tanto de manipulação quanto de… a nossa sociedade ainda está fundada em um tipo de treinamento que exige que você saiba algumas coisas. Não temos ainda uma pedagogia para a IA. Esse é o problema. (46:37) Não temos nenhuma pedagogia para a internet nas faculdades. Fiquei meio bravo com um curso de inglês que minha filha estava fazendo. (47:03) Ela veio para casa com uma tarefa que era jogar um joguinho no celular. Eu disse: “Não, desculpa, filha, mas você não vai jogar isso no celular.” O pessoal da pedagogia fala em inserir o celular. Pode, mas eu não quero. (47:31) Já li bastante sobre isso. Quando você torna a coisa mais comum, acostuma a criança com aquilo, o pulo para outras coisas que não são legais é muito fácil. Tomei a decisão de que ela não vai usar isso para estudar inglês. (47:51) Isso não estava no programa inicial da escola. Ela tem um livro caro, um material didático bem feito, uma professora em sala de aula. É isso que eu quero para ela estudar inglês agora, com 6 anos de idade. (48:13) Mas há outro aspecto que tenho percebido, que é o raciocínio. Temos que treinar cada vez mais o raciocínio lógico e a capacidade de avaliação. O que esse artigo acaba trazendo é que existe um movimento da elaboração para a curadoria. (48:56) É um dos pontos mais importantes. Estamos passando por um processo em que elaboramos menos e fazemos mais curadoria do que elaboramos. E para fazer essa curadoria, essa avaliação dos resultados da IA, precisa-se de pensamento crítico em todo o caminho. (49:32) Desde pensar para que você vai usar, onde quer chegar, como vai pedir, até avaliar o resultado e integrá-lo. Precisa-se de pensamento crítico. Agora, Guilherme, ao mesmo tempo, a IA já começa a substituir o ser humano em tarefas mais simples. (50:15) Ao longo dos anos, ela vai ficar cada vez menos hiperbólica, e essa régua vai baixar, não aumentar. Teremos mais coisas bem elaboradas, exigindo cada vez menos pensamento crítico. Essa é a minha projeção. E vejo dois efeitos. Um deles, citado no artigo: quando o ser humano começa a entregar demais as coisas para a IA fazer… (50:52) …a IA, que foi treinada com coisas incríveis que seres humanos fizeram, se os humanos pararem de criar, a tendência dela é ficar regurgitando, reaproveitando as mesmas ideias. (51:16) Isso, em uma visão mais ampla, poderia levar a uma estagnação intelectual. Estamos apenas respirando o ar da mesma sala, o oxigênio vai acabando. Essa é uma questão que talvez uma futura inteligência geral artificial resolva. (51:44) Não sei. E tem outro aspecto, que você falava antes, Guilherme. Eu não gostaria de perguntar algo para você e você me responder com uma resposta automática da IA. (52:09) Eu quero saber o que você pensa. Eu quero poder conversar. Ou vou ler uma resenha sobre um produto e percebo que foi feita por IA. Perde-se um pouco. E eu vi o Salman Khan, o cara da Khan Academy… (52:37) …ele falou um negócio que eu esqueci. É o Covid, são 5 anos de Covid. Covid longa. (53:03) Lembrei. O Khan falou que o “premium” vai ser o presencial. E ele cita isso. Estou cercado de coisas geradas por IA, ou que nem sei se foram. (53:26) Por enquanto, as coisas geradas por IA, sem um certo cuidado, você vê claramente que foram. Mas já estamos em um processo em que não sabemos mais se o que estamos lendo foi gerado por IA ou não. (53:46) Aquilo que teve algum cuidado, prompts bem feitos, já complica mais para descobrir. Mas aí entram os elementos, Vinícius. O conhecimento não é só o que está na internet. Você tem o conhecimento de grupos marginalizados que não está na internet. Você tem todas as bibliotecas com livros que não estão na internet. (54:18) Teremos que ler, ver se há coisas já bem consolidadas lá. Mas aí vai do interesse que você tem no assunto, da profundidade que quer levar seu estudo, de partir para um livro. Quando estava estudando sobre criatividade, usei a IA para levantar alguns pontos, mas tenho livros físicos aqui para pegar na mão e ler. (54:51) E aí, Guilherme, isso é um ponto muito importante. Se a IA nos dá mais tempo porque agiliza tarefas, será que vamos fazer o mesmo que fizemos com os computadores, que foi simplesmente passar a trabalhar mais? (55:14) Aí eu vou emburrecer. É o que vai acontecer se todo mundo começar a fazer isso com a IA. É, mas aí tem a questão de quem é o dono da IA. Exato. Agora, se eu pegar essa hora que me sobra, porque fiz meu trabalho em uma hora… (55:32) …e puder ler, estudar algo do meu interesse, mesmo que não seja relacionado ao meu trabalho, isso vai enriquecer minha capacidade de raciocínio, de pensamento crítico. Eu sei que isso não vai acontecer. (55:51) Do contrário, estamos só sendo cozidos ali. E, ao mesmo tempo que usamos a IA, estamos treinando-a para, daqui a pouco, nos substituir. E eu não sei se vai levar 2, 5 ou 10 anos, mas o fato é que teremos várias profissões sendo substituídas por agentes de IA. (56:15) Se a OpenAI está cobrando 10.000 dólares por um agente desenvolvedor, eu fico imaginando o que ele não é capaz de fazer. (56:43) Deixa eu encaminhar para o fim, Vinícius, preciso ir saindo. Marquei aqui o que você colocou, que acho que é a maior contribuição do estudo: “Descobrimos que as ferramentas de IA generativa reduzem o esforço percebido do pensamento crítico, ao mesmo tempo em que incentivam uma dependência excessiva da IA, com a confiança na ferramenta frequentemente diminuindo a resolução independente dos problemas.” (57:01) E aí o foco passa a ser uma mudança entre fazer a tarefa e supervisionar a tarefa. E isso exige um aumento no pensamento crítico, em como você vai montar seus prompts. E de novo, volto ao Master Blaster. Se você for um maluco em cima de uma ferramenta super forte… é delicado, porque não vejo a sociedade caminhando para um aumento do pensamento crítico. (57:46) Tudo em torno da IA… o problema da desinformação, da planificação do conhecimento, da facilitação do entendimento… tudo tem que ser desenhado, senão as pessoas não querem entender. A valorização do pensamento crítico não está acontecendo. Por isso, acho que o cenário é pessimista. (58:11) O cenário é pessimista porque não acredito que o andar da carruagem vai favorecer com que as pessoas se preocupem com o pensamento crítico. Me parece que o que se quer é criar um instrumento em que será muito difícil criticar o resultado. Já é assim hoje. Quando você imaginaria que as pessoas começariam a discutir a eficácia de medicamentos, o retorno de doenças endêmicas? (58:48) Você não imaginaria que pessoas sem nenhum conhecimento em ciência farmacêutica começariam a colocar em xeque medicamentos plenamente consolidados. Então, para finalizar, Vinícius, não acho que o cenário seja muito bom, mas serviu como ponto de partida para reforçar algumas das coisas que já vínhamos investigando. (59:19) É isso. Quer dar uma mensagem final? O final, Guilherme, é que o estudo dá um percentual geral de que 60% dessas 319 pessoas disseram usar o pensamento crítico em algum momento no uso da IA. (59:52) 60% parece muito, mas há 40% que não aplicam pensamento crítico nenhum. Volto a frisar que é uma ferramenta muito potente, como você colocou. Precisamos nos preparar para usá-la, e ela só vai ficar cada vez mais potente. (1:00:15) Para lidar com isso, precisamos ler, nos informar, ter uma estrutura de raciocínio bem estabelecida. Eu me preocupo com isso, leio coisas diferentes, troco ideias com outras pessoas. O “premium” é o presencial. (1:00:45) Poder sentar, conversar, ouvir outras ideias. Isso é muito importante para enriquecer o repertório mental, intelectual, conceitual. (1:01:08) Porque senão… as coisas mais comezinhas, a IA vai patrolar. Não tenho dúvida disso, porque ela está baseada em conhecimento que veio de trabalho humano, de outros humanos melhores do que eu, com mais capacidade. (1:01:45) É óbvio que, como indivíduo, ela vai me superar. E isso só vai ficar pior. Acredito firmemente, não que eu deseje, mas acredito, que neste momento estamos sendo assistidos por IA. (1:02:05) Passaremos por uma fase em que estaremos acompanhando a IA. Ela estará fazendo, e nós, acompanhando. Já fiz algumas experiências com pair coding, e o negócio já funciona muito bem. (1:02:23) E depois, passaremos para uma fase em que seremos substituídos pela IA. É isso que acho que vai acontecer. (1:02:40) Não é o que eu desejo necessariamente, mas esse é o foco do problema. E para terminar: é você perder o próprio protagonismo da sua vida. Qual será o seu papel na sociedade diante dos potenciais usos? Você vai ser a pessoa dominada por aquilo ou a que vai usar para se alavancar? É o problema da agência. (1:03:16) A capacidade de tomar decisões. Já estamos perdendo nossa capacidade de agência com a desinformação e as redes sociais. As pessoas estão deixando de tomar decisões e acreditando nas coisas mais estapafúrdias. (1:03:41) No final das contas, a capacidade crítica, ou a falta dela, é você ter ou perder a agência da sua vida. (1:04:18) Tá bom. Vamos lá, pessoal. Usem IA, mas com pensamento crítico. O filme do Mad Max que mencionei é de 1985, já tem 40 anos. Caramba, não parece. Esperamos que vocês tenham gostado deste episódio e aguardamos todos no próximo episódio do podcast Segurança Legal. Até a próxima. (1:04:43) Até a próxima. É o “Beyond Thunderdome”. Confesso que não me lembro, só do personagem. Teria que ver de novo. Lembro da imagem quando você descreveu. É um filme que assisti há muito, muito tempo. (1:05:21) Esse negócio da IA… estou percebendo uma mudança na minha maneira de fazer as coisas. Estou me sentindo meio biônico. Ainda que eu faça um uso crítico, já me peguei em momentos em que senti falta dela para fazer algo. A gente começa a se acostumar. (1:05:47) Programar, por exemplo. Não consigo mais. Não passa pela minha cabeça abrir o editor sem a integração com IA. O tempo que ganho é tão grande que não tem sentido eu escrever uma linha de código. É como poder me deslocar daqui a Santa Rosa em 20 minutos de carro ou optar por ir a pé. Você acaba ficando dependente. (1:06:30) Eu adoraria continuar essa conversa, mas realmente preciso ir. Fica esse questionamento para quem nos acompanhou até aqui no YouTube. Guilherme vai ter que fazer alguns cortes. Eu discordo de você, mas tudo bem. (1:06:48) Temos que discutir isso. É estranho. Mas é isso. É que você consegue olhar para aquilo e criticar. Esse é o ponto. (1:07:02) Você olha para o resultado e sabe se é bom ou não. Não sei. Beleza. Mas posso dizer uma coisa? Daqui a poco o negócio está gerando um código bom, que funciona, mas talvez eu não saiba mais fazer esse código sozinho. (1:07:19) E aí é o problema da agência. Você fica delegando. Eu sei o que quero fazer, consigo interpretar o que ele está fazendo. E a hora que fizerem uma linguagem de programação otimizada para IA, que não é para ser humano? (01:07:41) Por que a IA tem que escrever com linguagem de programação feita para humanos? Não tem sentido. Eu vou embora agora, Vinícius, pensando em tudo isso que você falou. (01:08:00) Vai pensando. E os nossos ouvintes, quem assistiu pelo YouTube, pensem nisso. É muito difícil dizer o que é certo ou errado agora, mas temos que pensar nisso. É isso aí. Valeu, pessoal. Abração. Abraço. Até mais. Tchau.