ChatGPT Atlas: uma revolução para o utilizador ou um sorvedouro de dados?

Notas do episódio

A dona do ChatGPT lançou o Atlas, um navegador que promete mudar a forma como nos relacionamos com a internet. Além das novas formas de utilização, a Open AI visa um mercado que é actualmente dominado pelo Chrome, da Google. Cátia Pesquita, Professora em Ciência de Dados e Inteligência Artificial no Departamento de Informática da Faculdade de Ciências da Universidade de Lisboa, respondeu às perguntas da RFI para esclarecer as dúvidas sobre o significado do lançamento do ChatGPT Atlas. A Open AI, proprietária do ChatGPT, lançou um navegador com o famoso agente de inteligência artificial generativa no seu núcleo no dia 21 de Outubro. De momento, o ChatGPT Atlas está apenas disponível nos computadores da Apple. Os sistemas Windows, Android e iOS do iPhone vão ter de aguardar. Para a empresa de Sam Altman, trata-se de uma inovação que vai revolucionar a forma como nos relacionamos com a internet. Vamos ter ao nosso dispor uma ferramenta que vai aprender quem somos e transformar-se num super-assistente que nos ajuda a realizar as nossas tarefas de forma mais rápida e eficaz. Os críticos apontam para a falta de segurança do sistema, nomeadamente no que diz respeito aos dados privados do utilizador. Por outro lado, o Chat GPT Atlas é construído com base no Chromium, uma estrutura de código aberto desenvolvida pela Google e que está na base de navegadores como o Microsoft Edge ou o Duckduckgo. RFI: Estamos perante uma revolução, à semelhança do que viria a ser o iPhone no campo dos telemóveis. Ou trata-se de um ataque comercial à Google que domina o mercado dos navegadores com o Chrome? Cátia Pesquita: Eu acho que o lançamento do Atlas é, sem dúvida, uma ameaça directa à hegemonia do Google Chrome, que é actualmente o browser mais usado a nível mundial. E é interessante ver como a história às vezes se repete. Porque o Chrome ganhou esta preponderância, em parte, porque conseguiu integrar directamente o motor de pesquisa da Google, permitindo aos utilizadores fazerem pesquisas directamente na barra de endereços. Hoje em dia, temos uma estimativa de mais de 14 mil milhões de pesquisas feitas na Google a nível global, muito graças a esta integração. Agora, a Open AI vê neste browser uma oportunidade de capitalizar a sua base de utilizadores. Se estamos perante uma revolução, temos de esperar um pouco para saber. RFI: Quando refiro o iPhone é porque na altura, quando foi lançado, já existiam telemóveis. O que aconteceu com o dispositivo da Apple foi que os utilizadores começaram a ter acesso a outras possibilidades e isso veio revolucionar toda a forma como nos relacionamos com a internet. Há a possibilidade do ChatPT vir a fazer isto? Cátia Pesquita: Eu diria que é a capacidade de automatizar uma série de interacções online que vai ter esse potencial de revolução. A Open AI promete automatizar tarefas mundanas, como marcar uma visita ao restaurante ou uma consulta médica, tudo através desta integração da inteligência artificial directamente num browser. Isto, obviamente tem muitas vantagens, mas também riscos associados. RFI: Os mais jovens, em termos de busca de informação, já estão a alterar os seus comportamentos com o recurso à inteligência artificial generativa. Em que medida é que a aprendizagem que o agente vai fazer dos hábitos de navegação do utilizador, pode provocar um estreitar de vistas ainda maior, semelhante ao que sucede já com os algoritmos das redes sociais? Cátia Pesquita: A Open AI está muito ciente desta alteração dos comportamentos online e, na verdade, há poucos meses, em entrevista, o Sam Altman, o CEO da Open AI, revelou que o plano de expansão está a ser inspirado pela forma como os utilizadores mais jovens interagem com a plataforma. Enquanto as camadas de maior idade usam-no essencialmente como motor de busca para encontrar informação, os mais jovens estão a usar desde já o ChatGPT como um serviço pessoal de inteligência artificial para os ajudar a tomar as suas decisões no dia a dia. E, portanto, eu vejo o Atlas como um primeiro passo nesta estratégia. Só que esta personalização vem com um custo potencialmente muito elevado, porque para a termos, temos de permitir à Open AI registar toda a nossa actividade online. Mas eu acho que um dos maiores riscos não é apenas esta perda de controlo sobre os nossos dados ou a dependência excessiva na IA de que tanto falamos, mas aquilo também a que se refere que é esta perda de pluralidade de vozes e perspectivas. E na verdade, ao longo dos últimos 30 anos, a Internet tem sido um arauto desta pluralidade de vozes e perspectivas. Os motores de busca tradicionais, como a Google, listam diferentes fontes relacionadas com o tema de pesquisa, ainda que coordenadas por relevância, claro, mas o resultado de pesquisa que vai ser processado por IA, tarefas que são automatizadas por IA, têm um grande potencial de se resumirem ao ponto de vista partilhado pela maioria das fontes, estreitando horizontes. E é assim que os modelos são treinados para captar aquilo que é a maioria das opiniões. E, portanto, o grande desafio aqui vai ser garantir que as nossas pesquisas e interacções online reflictam a diversidade de ideias, opiniões, perspectivas da humanidade. Claro, sem esquecer que têm de ser fundamentadas em fontes fidedignas. A mim resta-me saber se os gigantes tecnológicos partilham desta preocupação. RFI: Isso implica também que os mais velhos, os educadores, cumpram esse papel de explicação aos mais jovens, que há mais mundo além daquilo que lhes é dado através do ecrã? Cátia Pesquita: Este é um tema extremamente complexo. Isto não basta apenas as preocupações da sociedade de uma forma alargada numa educação da população geral, mas onde temos que intervir antes, mas mais atrás, e intervir ao nível do desenvolvimento destas tecnologias. E como todas as tecnologias com potencial de disrupção, é uma espada de dois gumes. Por um lado, todos queremos poder usar inteligência artificial para automatizar as tarefas do dia-a-dia, as tarefas mais mundanas, mais aborrecidas ou até ter um browser que antecipa as nossas necessidades. Por outro lado, nós queremos garantir que temos privacidade, transparência, que mantemos a nossa autonomia nas nossas decisões. Só que para navegar este desafio, não só temos de educar a população geral para os riscos e benefícios de uma tecnologia que não vai parar de evoluir. Mas também temos de apostar na formação de profissionais que aliam o conhecimento técnico e científico às preocupações éticas. RFI: Relativamente ao nível da segurança dos dados, como é que é vista esta relação com o ChatGPT e com o ChatGPT Atlas? Cátia Pesquita: O Atlas, para poder funcionar de forma verdadeiramente personalizada, vai ter de registar toda a nossa actividade online. No entanto, os termos de utilização que estão agora públicos indicam que a autorização para que esses dados sejam utilizados para treinar os modelos da Open AI vem desligada por omissão. No entanto, não faltam vozes que nos relembram dos escândalos de privacidade e direitos de autor, etc., em que a OPA se tem visto envolvida nos últimos anos. Por isso, resta aqui saber se vamos confiar ou se vamos desconfiar. RFI: A Open AI e o Chat PT vão ser, como todos os outros agentes de inteligência artificial, vão ser sorvedouros do nosso conhecimento, da nossa existência? Cátia Pesquita: Eu acho que é na capacidade de consumirem enormes quantidades de dados que estes modelos recentes de inteligência artificial têm ganho as suas capacidades surpreendentes e quase sobre-humanas. A questão é que estamos a chegar ao final dos dados disponíveis online e as empresas correm com criatividade a tentar procurar novas fontes de dados que possam ajudar aos próximos passos de evolução destes modelos. Eu penso que o Atlas tem também por detrás essa motivação, uma motivação de conseguir extrair mais dados dos utilizadores que possam alimentar os algoritmos e, de certa forma, melhorar o seu desempenho e aumentar, obviamente, a sua preponderância no mercado. RFI: Pessoalmente, considera que a existência destas máquinas é um perigo ou uma oportunidade? Cátia Pesquita: Ambas as coisas é um perigo e é uma oportunidade. É uma oportunidade porque existem desafios no mundo que são demasiado complexos para que nós, humanos, com as nossas capacidades cognitivas, os consigamos resolver. Por exemplo, desafios na medicina personalizada e em nós conseguirmos compreender as relações entre os genes e doenças, que é uma das minhas áreas de investigação, são demasiado complexos para nós conseguirmos entender o manancial de dados e informação que estão a ser recolhidos a nível de investigação e, portanto, existe aqui uma oportunidade enorme para o bem da inteligência artificial nos ajudar, por exemplo, a atacar problemas tão prementes como o cancro ou as alterações climáticas. Por outro lado, existem riscos claros. E um risco claro é também a perda de capacidades da população ao confiar demasiado nestas ferramentas para se substituir a si mesmo na aprendizagem, no trabalho e na criatividade. E este é um desafio que a mim me toca também como professora, em que o uso responsável destas ferramentas como potenciadores e não como substitutos da inteligência humana. RFI: Para si o ChatGPT é mesmo a melhor IA do mercado ou beneficia de um fenómeno de marca? Cátia Pesquita: Eu acho que a grande vantagem que o ChatGPT tem não é apenas em termos do modelo de inteligência artificial que o alimenta, mas também da experiência de utilizador que a plataforma permite. Outras plataformas podem termodelos que atingem um desempenho igualmente bom em diversos benchmarks e análises, mas é a experiência de utilização do ChatGPT, os modos de interação, o próprio website e plataforma do ChatGPT que eu julgo que estão a contribuir para a grande fatia de mercado que a Open AI tem.