Steven Gouveia | A inteligência artificial é boa médica?

Notas do episódio

As máquinas espertas são cada vez mais espertas. E cada vez mais inevitáveis. O limiar da chegada de uma qualquer forma de inteligência artificial parece cada vez mais realista. E as máquinas podem começar a fazer as coisas de forma melhor e mais consistente do que os seres humanos. No fundo, atravessar a fronteira entre serem umas calculadoras rápidas com muita informação para uns bichos eletrónicos capazes de criar sozinhos soluções melhores para os problemas atuais. Contudo, esta evolução não é moralmente inócua. Li num estudo que ouve especialistas em programação avançada de computadores que eles assumem um risco de que os computadores inteligentes possam decidir de forma autónoma destruir os seres humanos era de 5%. Mas pior do que isto é que estes mesmos especialistas consideram que o caminho da evolução é imparável e por isso nem vale a pena pensar no risco. E esta parte parece-me francamente assustadora: os seres humanos mais inteligentes a programar máquinas parecem demitir-se da sua responsabilidade de prevenir o risco, nem que fosse forçando o abrandar do comboio tecnológico ou até criando um botão de pânico “desliga tudo agora” Portanto, demitiram o seu pensamento moral sobre as coisas. Na conversa desta edição falo com o filósofo Steven Gouveia. Ele dedica-se a pensar no impacto da tecnologia dita inteligente em áreas como a medicina. Por exemplo sobre o problema da máquina do futuro que é ao mesmo tempo, mais eficiente que um médico a tratar um doente e a aprender rapidamente a tratar melhor, mas que ninguém compreende como funciona. É uma caixa negra esperta. E quando algum dia errar ninguém entende porquê. Nem sabe corrigir o que aconteceu porque tudo está encerrado dentro da calculadora. E o médico também não conseguiria explicar ao doente o que aconteceu. Tudo isto num ambiente onde a inteligência artificial não está programada escalas de valores moralmente aceitáveis. É fria, neutra, eficiente e desumana, no mais puro dos significados. Fará parte de uma lista futura dos perigos da inteligência artificial? Recorro por isso ao Steven Gouveia, um filósofo. A profissão que se dedica a pensar por todos nós. Para o ouvir sobre a inteligência artificial, as suas vantagens e desvantagens. E bem que precisamos de pensamento crítico. As decisões individuais acabam sempre por influenciar o futuro coletivo. Embora eu saia desta edição menos otimista. Perceber que as máquinas podem ultrapassar o nosso julgamento moral ou que a democracia afinal é um jogo de resultado pré-determinado deixam-me com uma desagradável sensação de asfixia. Será que a liberdade de expressão também pode afinal ser um jogo de fantasia? Vale a pena passarem na página de Steven Gouveia e verem alguns dos seus cursos de filosofia para o público em geral. São boas ferramentas para a aprender a pensar. Se tem interesse no tema da inteligência artificial aproveite para ouvir também este episódio: MÁRIO GASPAR DA SILVA | CHEGOU A ERA DA INTELIGÊNCIA ARTIFICIAL? LER A TRANSCRIÇÃO DO EPISÓDIO Transcrição automática do episódio 00:00:00:02 - 00:00:06:21 Steven Gouveia Professor Stephan Gouveia, filósofo e filósofo, é uma profissão. O que é que faz um filósofo. 00:00:07:20 - 00:00:32:09 Steven Gouveia Um filósofo? Coisas que quase não faz? Não faz porque acha que é uma. É uma capacidade ou uma profissão que se calhar não é relevante e nós podemos resumir muito da atividade de um filósofo. Ou pensa ao pensar ou pensar sobre diversos objetos e realidades do mundo que talvez não interessam ou não interessem a grande parte das pessoas. 00:00:32:09 - 00:00:40:10 Steven Gouveia Mas é talvez também porque não são interessantes para o dia a dia, digamos assim, da vivência de acordar, comer, dormir. 00:00:40:27 - 00:00:43:21 Jorge Correia Então delegamos nos filósofos que pensem por nós. 00:00:44:28 - 00:01:20:03 Steven Gouveia A uma espécie de acordo tácito entre a sociedade e este grupo muito específico de seres humanos, em que a sociedade delega para essas pessoas o tempo e a energia para pensarem sobre assuntos diversos, enquanto que nós, sociedade, continuamos o nosso caminho para sul, para outras culturas, outros afazeres e outras profissões. Mas acho que o importante do papel do filósofo é pensar que o filósofo é um ser que tem uma expertise muito específica e que mais nenhuma profissão ou mais de um ser humano tem. 00:01:20:09 - 00:01:28:13 Jorge Correia Então, quais são as caixas de ferramentas que um filósofo tem para responder exatamente a essas, essas angústias da sociedade e essas perguntas? 00:01:29:08 - 00:01:59:17 Steven Gouveia Mas o filósofo é uma pessoa treinada normalmente na academia, mas isso não precisa de ser. Não é uma condição, digamos assim, suficiente para aproximar o filósofo. É uma condição necessária, pelo menos estudo das necessidades, primeiro. E, curiosamente, como é que grandes gênios da humanidade cometeram erros muito básicos sobre diversos assuntos, desde tentar definir o que é justiça, tentar definir o que é o bem, tentar definir o que é verdade ou, por exemplo, o que é uma obra de arte. 00:02:00:21 - 00:02:24:00 Steven Gouveia O primeiro aspecto da formação filosófica é, então, estudar os gênios da humanidade que cometeram erros muito básicos. E isso ajuda nos porque ajudam os primeiro e de forma mais óbvia, a não cometer esses mesmos erros, certo? Mas depois também dá nos as ferramentas para, pelo menos custo. Conseguimos construir outras teorias sobre o mundo sem cometer esses erros falaciosos. 00:02:24:14 - 00:02:47:17 Steven Gouveia Imagine, por exemplo, que o filósofo é uma espécie de construtor de navios, digamos assim. É a história da filosofia e a história do construtor de navios que começaram a construí la com folhas, por exemplo, e depois perceberam que não havia possibilidade de navegação com folhas e depois pintaram o papel e os criaram e também não resultou. Depois lá foram para a madeira escrava. 00:02:47:17 - 00:02:58:24 Steven Gouveia Voltou melhor, mas mesmo assim tinha bastantes restrições e hoje em dia os pilotos estão mais capacitados para navegar com o ferro e tentar evitar os naufrágios, digamos assim. 00:02:59:25 - 00:03:16:07 Jorge Correia Que possam fazer uma coisa aí para quebrar, para sufocar. Então quer dizer que os filósofos se dedicam a escarafunchar nos nossos erros e isso é essa. É esse o trabalho principal da profissão do filósofo? 00:03:17:29 - 00:03:39:09 Steven Gouveia Eu acho que muitas vezes as pessoas têm uma noção de que a filosofia, que é a arte de fazer perguntas, e eu percebo por que a maioria das ruas pensa essa forma. Mas eu, porque eu acho que é exatamente o oposto, mas que trabalha a filosofia mesmo, dar respostas e não fazer perguntas, embora elas estejam associadas, não é? 00:03:39:26 - 00:04:07:25 Steven Gouveia Mas é o exemplo dos inteligentes, afinal, é um excelente exemplo, porque, por exemplo, nós temos tecnologias neste momento muito específicas e inovadoras e que colocam respostas que colocam perguntas desculpa, por exemplo, perguntas éticas, não é? Será que devemos usar determinadas tecnologias para melhorar, por exemplo, a eficácia da medicina, que é um problema muito importante em termos políticos? Porque. 00:04:08:25 - 00:04:10:21 Jorge Correia Em princípio, sim. 00:04:10:21 - 00:04:35:28 Steven Gouveia Em princípio devemos usar tecnologia para tornar melhor a medicina. Agora depende exatamente aquilo que nós queremos dizer por melhor. É aí que os filósofos ainda por que os filósofos tentam dar uma resposta ou dar várias respostas a esta definição muito específica do melhor? O que significa melhor? Neste caso, será melhor porque forma será melhor eficácia, mas esta eficácia é cega, ou seja, não tem em conta diversos aspectos que se calhar precisam de ser considerados. 00:04:36:19 - 00:04:44:01 Steven Gouveia Ou o melhor. É, por exemplo, que o que é que aquilo que é mais justo, mesmo que isso implique uma menor eficácia, é, por exemplo, para mim. 00:04:44:15 - 00:05:02:23 Jorge Correia Se olhar para a tecnologia e pensar num robô, por exemplo, que consegue operar uma determinada cirurgia de uma forma que pode ser mais precisa, com menos dano para o meu corpo, desde que lá esteja. O cirurgião com a mão no comando e tendo a confiar que a tecnologia vai ser boa para mim, ok. 00:05:03:14 - 00:05:15:12 Steven Gouveia Esse exemplo é interessante para algumas coisas do exemplo que dá, que é o jogo de fazer a salvaguarda de que o cirurgião tem que ter a mão em cima do mecanismo robótico que que estão. 00:05:15:13 - 00:05:16:14 Jorge Correia A minha confiança é a menor. 00:05:17:00 - 00:05:43:27 Steven Gouveia Pois e isso é muito interessante. Mas eu gostava de dar outro exemplo que problematiza melhor aquilo que o que eu estava dizendo que é basicamente, por exemplo, é a utilização de diversos algoritmos de Bachelor para detecção de cancro de pele. Então sabemos que estes algoritmos são muito mais eficazes que um outro grupo que também faz de deteção de cancro de pele, nomeadamente um grupo de seres humanos chamados médicos. 00:05:44:08 - 00:05:49:07 Jorge Correia Treinados, seres humanos treinados, versos, máquina com um com capacidade de aprender também. 00:05:49:20 - 00:06:00:02 Steven Gouveia É, mas quando nós temos que são mais eficazes. A referência implícita que está e a um grupo de seres humanos, ou seja, as máquinas são mais eficazes de detetar o cancro de pele do que os seres humanos. 00:06:00:02 - 00:06:01:21 Jorge Correia Porque detetam micróbios ladrões. 00:06:02:26 - 00:06:10:04 Steven Gouveia Porque até têm uma incorporadas, mas principalmente porque são baseados em milhões de dados que nenhum ser humano ou grupo de seres humanos consegue com alguém que. 00:06:10:13 - 00:06:22:15 Jorge Correia ...