Inteligência Artificial: Ainda controlamos isto? Bernardo Caldas

Notas do episódio

A inteligência artificial chegou.Não é preciso ser técnico para perceber que alguma coisa mudou.Hoje, um motor de busca já acerta nos nossos desejos antes de termos tempo de os dizer.Um algoritmo sugere um vídeo, outro mostra um produto, outro escreve um texto inteiro — e tudo parece funcionar com uma espécie de magia silenciosa.Mas será mesmo magia? O nosso convidado sabe que não. E sabe porquê.Bernardo Caldas é uma das pessoas mais lúcidas que conheço sobre o tema.Lidera equipas de dados e IA numa das maiores fintechs europeias, criou o projeto Data Science for Good, e tem pensado a fundo — com inteligência, mas também com alma — sobre os impactos reais da inteligência artificial no mundo onde vivemos. Nesta conversa, começamos com uma pergunta simples, mas provocadora:E se a IA te conhecesse tão bem como o teu melhor amigo?Assustador? Fascinante? Ambos? O Bernardo ajuda-nos a perceber porque é que esta tecnologia — que parece tão intuitiva — é, na verdade, o resultado de padrões.Padrões de linguagem, de comportamento, de atenção.A IA não “sabe”, não “sente”, não “pensa” no sentido humano — mas aprende a imitar tão bem que nós acreditamos. E o problema começa aí. Falamos do que distingue imitação de criatividade.Do que está por trás dos modelos generativos que escrevem, desenham e respondem com uma fluidez que nos desconcerta.E de como estes sistemas — criados para gerar conteúdo “credível” — não têm maneira de saber se estão a dizer a verdade.Podem escrever um disparate com toda a segurança de um professor catedrático. Mais à frente, mergulhamos na questão da responsabilidade.Se a máquina erra — quem responde?Se um algoritmo toma decisões médicas, jurídicas ou políticas — onde está o humano no processo? Discutimos o impacto da IA nas profissões: não só nos trabalhos manuais, mas nos intelectuais.Sim, programadores, consultores, copywriters, jornalistas — ninguém escapa.O Bernardo diz-nos que o trabalho que sobrevive é aquele onde há contexto, empatia e julgamento.Mas até os psicólogos estão em risco — e ele conta um estudo surpreendente que mostra como, em certos casos, as pessoas acham que um chatbot foi mais empático do que um terapeuta humano. Depois passamos para o tema que mais me inquieta:a economia da atenção.Porque é que os nossos feeds estão cheios de raiva, medo e teorias da conspiração?Porque é que a moderação desapareceu do radar? A resposta, segundo o Bernardo, está na forma como os algoritmos são treinados: não para informar, mas para prender.A verdade é irrelevante se a mentira for mais clicável.E isto coloca a democracia em risco real. A certa altura da conversa, ele diz uma coisa que me ficou: “O maior perigo da IA não é o apocalipse das máquinas.É deixarmos de acreditar em tudo.” É esta a verdadeira crise: a erosão da confiança pública.Não sabemos o que é real. Não sabemos em quem acreditar.E se não confiamos em nada — também não conseguimos decidir nada em comum.A democracia desliga-se. Mas nem tudo é distopia.O Bernardo também nos fala do lado esperançoso:De como a IA, se bem pensada, pode ser inclusiva.De como pode ajudar uma avó em Trás-os-Montes a resolver um problema complicado com linguagem natural.De como pode aliviar tarefas mecânicas e devolver-nos o que há de mais humano: a conversa, a atenção, o sentido. No fim, voltamos às emoções.Pode uma IA sentir? Ter consciência? Vontade própria?A resposta dele é clara: não.E, curiosamente, isso até nos pode dar algum descanso. Esta é uma conversa que não pretende fechar nada —mas que abre muitas janelas para pensar o que vem aí.E pensar, neste caso, é mesmo urgente. Se gostares, partilha este episódio com alguém que acha que inteligência artificial é só “coisa de engenheiros”.Ou com alguém que acha que já não há nada a fazer.Porque há.Mas temos de começar por perceber. LER A TRANSCRIÇÃO DO EPISÓDIO 0:12 Ora, vivam bem vindos ao pergunta simples, o vosso podcast sobre comunicação? Hoje vamos falar sobre máquinas que comunicam com pessoas ou pelo menos, que parecem comunicar com pessoas e parecem bastante espertas. Tenho cá pergunta, como é que a inteligência artificial está a mudar a forma como comunicamos? 0:31 Estamos mesmo a ser substituídos por máquinas? E, mais importante, o que é que é ainda nosso, só nosso? No meio disto tudo, neste episódio de perguntas, sempre vamos falar daquilo que parece estar em todo o lado, mas que poucos conseguem explicar bem a inteligência artificial. 0:47 A inteligência artificial chegou. É um facto. Não é preciso ser técnico para perceber que alguma coisa mudou. 1:04 Hoje, um simples motor de busca como o Google já acerta nos nossos desejos, mesmo antes de termos colocado todos os termos que queremos pesquisar. Um algoritmo que sugere um vídeo, outro que mostra um produto, outro escreve um texto inteiro e tudo parece funcionar como uma espécie de magia silenciosa. 1:22 Mas será que é mesmo magia esta coisa de inteligência artificial? O nosso convidado sabe que não e sabe porquê. Além disso, consegue explicar o porquê a quem não percebe nada deste assunto? Bernardo Caldas é uma dessas pessoas, uma das mais lúcidas que conheço a falar sobre o tema. 1:40 Lidera equipas de dados e inteligência artificial numa das maiores fintech europeias. Criou um projeto, data Science for good, e tem pensado no fundo com inteligência, mas também com alma sobre os impactos reais da inteligência artificial no mundo onde vivemos. 1:55 Nesta conversa, começamos com uma pergunta simples. Mas provocadora, e se a inteligência artificial te conhecesse tão bem como o teu melhor amigo? Assustador, fascinante. Ambos. O Bernardo, jura? Dá nos a perceber porque é que esta tecnologia, que parece tão intuitiva, é, na realidade o resultado de padrões de milhões de padrões, padrões de linguagem, de comportamento, de atenção, a inteligência artificial. 2:22 Não sabe, não sente, não pensa. No nosso sentido, no sentido humano. Mas aprende a imitar tão bem que nós acabamos por acreditar. E o problema começa aí. Falamos do que distingue imitação de criatividade, do que está por trás dos modelos generativos que escrevem, desenham e respondem com uma fluidez que nos desconcerta e de como estes sistemas criados para gerar conteúdo credível não tem maneira de saber se estão a dizer a verdade. 2:49 Podem escrever um disparate gigante. Com toda a segurança de um professor catedrático mais à frente, na conversa, mergulhamos na questão de responsabilidade, se a máquina erra, quem responde, se acerta. Já sabemos que a máquina é muito boa, mas e se errar? 3:04 E se errar em processos críticos, se o algoritmo toma decisões médicas, jurídicas ou políticas? Onde está o humano neste processo? Discutimos o impacto da inteligência artificial nas profissões, não só nos trabalhos manuais, mas também nos intelectuais. 3:20 Sim, os programadores, os consultores, os copyrights, os jornalistas, ninguém escapa. O Bernardo diz nos que o trabalho que sobrevive é aquele onde há contexto, empatia e julgamento. Mas provavelmente até os psicólogos estão em risco, o que é uma realidade assustadora. Ele fala de um estudo surpreendente que mostra como em certos casos. 3:39 As pessoas que estão a conversar com uma máquina, sem saber se é uma máquina ou um ser humano, que vão trocando à vez, mas que consideram que o chatbot, a máquina que está do outro lado, foi a final mais empática do que um terapeuta humano. Falamos também de um dos temas que mais me inquieta, a economia da atenção. 3:56 Porque é que os nossos feeds das redes sociais estão cheios de raiva, de medo, de teorias, da conspiração? Porque é que a moderação desapareceu do radar? A resposta, segundo o Bernardo, está na forma como os algoritmos são treinados. Não para informar, mas para prender, para prender a nossa atenção. 4:12 A verdade é irrelevante se a mentira for mais clicável, se ficamos mais tempo nas redes sociais. É isso que coloca a democracia num risco real. A certa altura desta conversa, ele diz uma coisa que me ficou na memória e citou o maior perigo da inteligência artificial não é o apocalipse das máquinas, é deixarmos de acreditar em tudo. 4:32 E esta é a verdadeira. Crise da erosão da confiança pública. Não sabemos o que é real, não sabemos em quem acreditar e se não confiarmos em nada, também não conseguimos decidir nada em comum e a democracia esfuma se mas nem tudo é distopia. O Bernardo fala nos também do lado da Esperança, de como a inteligência artificial, se bem pensada, pode ser inclusiva, de como pode ajudar uma avó em trás os Montes a resolver um problema complicado, com linguagem natural do dia a dia, de como pode. 5:00 Aliviar tarefas mecânicas e devolver nos o que há de mais humano, a conversa, a atenção, o sentido. No fim, voltamos às emoções, pode a inteligência artificial sentir, ter consciência, ter vontade própria? A resposta dele é clara, não, não pode. 5:17 E, curiosamente, e se a termos, pode dar algum Descanso. Esta é uma conversa que não pretende fechar nada, mas que abre muitas janelas para pensar o que vem aí ou que já aí está. E pensar neste caso é mesmo urgente. Se eu gostar, partilho este episódio com alguém que acha que a inteligência artificial é só uma coisa lá dos engenheiros ou com alguém que acha que já não há nada a fazer. 5:37 Porque há, mas temos de começar por compreender. Viva Bernardo. Caldas, aqui à minha frente está alguém que acredita que a Santa inteligência artificial não tem de ser um bicho Papão. 5:54 Pode ser algo que faz coisas boas por todos nós. Lidera as equipas de dados e de inteligência artificial numa das maiores fintech europeias e criaste um projeto que se chama data sens for good. Data sens, inteligência artificial dados para o melhor de de de todos nós. 6:12 Se a inteligência artificial te conhecesse tão bem como o teu melhor amigo,...