"IA não deve substituir decisões humanas", afirma Paulo Cunha

Notas do episódio

Vamos falar de inteligência artificial e da forma como a Europa pretende regular esta ferramenta. O nosso convidado é o eurodeputado português Paulo Cunha, do Partido Social Democrata e também relator da posição do Parlamento Europeu sobre a Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito. Bem-vindos. Neste espaço de entrevista recebemos todos os meses um especialista em assuntos europeus, um protagonista político ou um representante de uma instituição em Bruxelas para nos ajudar a descodificar a actualidade europeia. Vamos falar de inteligência artificial e da forma como a Europa pretende regular esta ferramenta. O nosso convidado é o eurodeputado português Paulo Cunha, do Partido Social Democrata e também relator da posição do Parlamento Europeu sobre a Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito. Paulo Cunha, bem-vindo. Que convenção é esta e porquê que ela é importante? Antes de mais, obrigado pela oportunidade. A Convenção tem base no Conselho da Europa, portanto tem um âmbito espacial bem mais alargado que a União Europeia e este aspecto ajuda a explicar a resposta à segunda pergunta, que é: ela é importante porque tem um âmbito global e nós estamos numa área, a inteligência artificial, que não é aprisionável num país, nem sequer num continente, portanto é impensável que a União Europeia, por si só, consiga, à escala global, regular um problema que se chama inteligência artificial. E, portanto, o melhor âmbito espacial é aquele que mais se aproxima da escala global e por isso é que se optou por esta solução e a União Europeia fez bem em dar espaço de adesão a esta Convenção, porque não só, por um lado, significa que todos os países da União Europeia, portanto os 27, já estão integrados nesta Convenção, mas também porque se dá um sinal ao mundo de que um conjunto de países, como são os países da União Europeia, deram espaço e nós não poderemos ignorar o relevo que tem, para muitos países, saber que os países que integram a União Europeia deram espaço e foram capazes de integrar esta convenção. Quais são os principais riscos identificados relacionados com a inteligência artificial e que situações é que, no seu entender, é necessário blindar em termos de regulação? Há vários aspectos que importa cuidar. O primeiro é o chamado da desumanização da inteligência artificial, ou seja, a ideia da substituição do cérebro humano, do pensamento humano, da decisão humana, por uma decisão que não é humana, que é por isso artificial. Essa certa desumanização é obviamente preocupante porque o ser humano deve continuar a ser dono do processo de decisão e, portanto, nós devemos ver a inteligência artificial não como uma substituição da decisão humana, mas como um auxiliar à decisão humana. E este é o primeiro aspecto que importa acautelar, talvez o mais importante de todos, porque há passos que estão a ser dados e que, se não forem objecto desta desejada regulação, nós teríamos um risco de o ser humano um dia perder o controlo do processo e isso seria fatal para aquilo que é o nosso processo de vida, o nosso modus operandi, a nossa relação com tudo o que fazemos. Em segundo lugar, eu realçaria o risco de desrespeito ou desprotecção de algumas áreas. Não é por acaso que esta convenção tem um nome complexo, extenso, mas que tem foco em três áreas fundamentais, que são a protecção dos direitos, a protecção das democracias e do Estado de Direito. Ou seja, são três dimensões da actuação da convenção que simbolizam as três áreas onde o tema é merecedor da nossa preocupação. Por um lado, porque há direitos nossos, dos cidadãos, que estão em risco se não houver uma regulação, e eu lembro concretamente a privacidade como direito estruturante da nossa condição de vida e que está em risco pelo uso desregulado da inteligência artificial, mas também a questão das democracias e do Estado de Direito. O que aconteceu na Roménia há não muito tempo atrás - a Roménia é um país que integra a União Europeia, é uma democracia - e cujas eleições presidenciais foram anuladas por suspeita de ingerência externa e, portanto, significa que o recurso à inteligência artificial pode ser uma ferramenta ao serviço da prática de acções que ponham em causa as democracias sólidas que nós temos à escala global e também a relação entre o Estado e o Direito. E, portanto, é fundamental actuarmos para que esse modo de vida que nós temos e que nós queremos continuar a ter possa ser respeitado. Mas não há aqui o risco de esta regulação se tornar um travão ao desenvolvimento tecnológico, à inovação e à investigação? Sim, por isso é que nós temos de ser muito cuidadosos na regulação. Nós queremos que este freio que a regulação representa não seja um freio que impeça o desenvolvimento tecnológico em curso. O grande desafio é exactamente esse, é conseguir o que chamamos o melhor dos dois mundos, que é, ao mesmo tempo, potenciar ao máximo o seu desenvolvimento, porque ela tem um lado fantástico para nós. Nós todos os dias ou todas as semanas, ou permanentemente, conhecemos relatos de profissionais da área da saúde que evidenciam os enormes ganhos que nós estamos a ter e que podemos ter ainda mais com recurso a esta ferramenta que é a inteligência artificial e, portanto, há que dar espaço para que ela possa desenvolver-se. Mas, ao mesmo tempo, há que criar condições para que esse desenvolvimento não ponha em risco tudo o que falámos até agora. É o grande desafio que nós temos. Quem regula tem esse desafio, mas eu tenho dito que, para que sejamos bem-sucedidos nesse mesmo desafio, é importante que contemos com a colaboração dos actores - estou a falar dos engenheiros de algoritmos, estou a falar dos criativos, estou a falar dos inventores, de quem está ao lado da ferramenta a potenciá-la ao máximo - porque, se quem está nessa zona da acção colaborar com o regulador, nós reguladores, seremos mais eficazes, portanto, mais rapidamente atingiremos o objectivo e, por outro lado, esse objectivo não será um objectivo pernicioso. O que nós não queremos é fazer uma escolha entre proteger tudo o que deve ser protegido, desde os direitos fundamentais às democracias e ao Estado de Direito, e, por outro lado, pôr em causa o desenvolvimento da ferramenta. Nós não queremos isso. Nós queremos os dois objectivos em simultâneo, mas, para isso, é fundamental sermos muito cautelosos e contarmos com o apoio de quem está do lado dos criadores. Neste processo de aprovação da sua recomendação aqui no Parlamento Europeu, recebeu pressões de lóbis, indústria ou de outros sectores, num sentido ou noutro? Não, não. E é bom notar o seguinte: o que foi aprovado no último sessão plenária do Parlamento Europeu não vamos pensar que é uma panaceia, não vamos pensar que, a partir de agora, os problemas da inteligência artificial estão resolvidos. O que nós aprovámos é uma espécie de constituição política da inteligência artificial, ou seja, é uma espécie de guarda-chuva normativo, porque tem carácter vinculativo, onde se vão abrigar um conjunto de outras, muitas outras intervenções legislativas, que essas sim vão atacar meticulosamente aspectos mais sensíveis. Portanto, nós não encerrámos o processo de regulação, nós iniciámo-lo. Já há o AI Act [o primeiro quadro jurídico em matéria de IA], como a gente sabe, que é um diploma europeu que tem esse propósito, mas o que nós fizemos agora é um passo com um âmbito territorial muito diferente, como comecei por dizer, mas onde se vão abrigar muitas medidas que vão ser implementadas. Portanto, aí sim é que nós esperamos que possa haver algum potencial conflito, digamos assim, entre quem está do lado da regulação e quem está do lado da acção. O que é desejável, como há pouco lhe disse, é que haja uma sintonia e que não haja dois lados no processo. Eu não gostaria que, ao longo do caminho que vamos desenvolver no futuro próximo, houvesse aqueles que querem desenvolver tecnologia e, do outro lado, aqueles que querem proteger pessoas, democracias e regimes políticos. Eu não desejava que isso acontecesse. Portanto, não houve qualquer tipo de pressão, mas também reconheço que o que fizemos até agora é um arranque de um processo, estamos longe de encerrar do ponto de vista dos objetivos a atingir. Justamente, até porque a Europa está a ficar para trás nesta corrida global ao desenvolvimento da inteligência artificial - os Estados Unidos da América e a China investem dezenas de milhares de milhões de euros -, como é que vê o futuro da União Europeia neste contexto? Este é um aspecto que não está em cima da mesa neste trabalho legislativo, mas é um aspecto tremendamente importante: é preciso investimento. Como há pouco dizia, nós temos que procurar atingir o melhor dos dois mundos. O lado do desenvolvimento da tecnologia não se consegue só com uma regulação inteligente que permita esse desenvolvimento; também é preciso investimento. Investimento que é financeiro, mas que não é só financeiro; é investimento do ponto de vista da colocação de energia no processo, de fazermos opções políticas favoráveis ao desenvolvimento da ferramenta. O que nós temos visto até ao momento é que a Europa está longe de ser líder neste processo. Está longe de ser líder, primeiro, porque perdeu muitos criativos, muitos inventivos, muitos empreendedores nesta matéria, porque alguns deles frequentaram e concluíram os seus processos formativos na Europa, mas saíram da Europa para realizar os seus sonhos. Isto não acontece só aqui, acontece em muitas áreas. Por outro lado, porque, ao nível do investimento - investimento não é só investimento público, é também investimento privado -, o nível de investimento na engenharia, em especial na Europa, está muito aquém do nível de investimento nos Estados Unidos e na China, e não só, porque, na realidade, há 20 anos só comparávamos a Europa com os Estados Unidos, há meia dúzia de anos começámos a comparar com a China, e estamos perto de comparar com a Índia e com muitos outros países que existem à escala global. E, portanto, a Europa tem que dar também esse passo. Ou seja, a questão da inteligência artificial não se reduz à regulação, reduz-se também muito ao investimento, à opção, ao critério, à energia, como há pouco eu dizia, que é preciso colocar no processo, porque quem ficar para trás neste desenvolvimento - é uma nova revolução - perde. É a mesma coisa que há alguns séculos atrás: quem não tivesse dado o passo na revolução industrial, nós vimos o que aconteceu aos países que não deram esse passo. Há de acontecer algo do género a quem não fizer as apostas devidas na inteligência artificial.