Ética e limites na inteligência artificial deve ser debate alargado a todos

Notas do episódio

Com a evolução da inteligência artificial, há cada vez mais questões sobre a ética e a segurança ligadas à utilização desta ferramenta "poderosa". Tal como aconteceu quando foi descoberta a técnica de clonagem, este deve ser agora um debate alargado a toda a sociedade. Em Agosto, a empresa norte-americana OpenAI, que detém o ChatGPT, anunciou suspender por algumas semanas o desenvolvimento de um dos seus modelos que ainda está em fase de testes após o modelo ter conseguido sair do sistema isolado onde estava a ser treinado, ter chegado à internet e se ter infiltrado numa outra empresa para consultar dados confidenciais. Nos últimos anos, as capacidades dos modelos de inteligência artificial têm aumentado, mas esses avanços não têm sido acompanhados por controlos e legislação, um pouco em todo o Mundo, sobre até onde pode chegar esta tecnologia. Para Luís Correia, professor da Faculdade de Ciências da Universidade de Lisboa e investigador do Centro LASIGE, dedicado às Ciências da Computação e Engenharia, considera que se devem estabelecer medidas mais efectivas que obriguem as empresas a uma maior responsabilidade em relação ao que criam. "Estamos precisamente num ponto em que poderíamos estabelecer medidas mais efectivas, porque elas já muitas vezes já existem em termos de legislação, mas não se conseguem efectivar ainda porque as empresas que desenvolvem são empresas privadas sobre as quais há muito pouco escrutínio. E, portanto, nós não temos a capacidade de saber bem o que é que lá está naqueles sistemas. [...] Eu gosto de pensar que a inteligência artificial é uma ferramenta que pode ser muito poderosa e muito positiva. Mas como qualquer ferramenta, também pode ser usada para o mal", indicou o investigador. Para Luís Correia o desenvolvimento da inteligência artificial assemelha-se ao que aconteceu na viragem do século com a clonagem - mas numa escala muito maior - e, por isso, este académico considera que deveria haver mais debate e mais medidas à volta da utilização desta tecnologia, sem restringir o seu desenvolvimento. "Cabe a todos [discutir e decidir sobre a ética na inteligência artificial], isto é um problema da sociedade, portanto, obviamente, cabe também às universidades. Eu cada vez que me convidam para falar, eu falo nisso. E cabe aos governos, mas cabe ao cidadão comum, ou seja, a todos nós. Todos nós nos lembramos de quando surgiram as primeiras experiências de clonagem. Todos os países se preocuparam em estabelecer regras éticas e legais sobre as condições da clonagem. A clonagem foi desenvolvida por investigadores de biologia, bioquímica, medicina, mas era um problema que afectava potencialmente toda a sociedade e toda a sociedade se envolveu em debates, as comissões de ética e assim sucessivamente. E temos de fazer também a mesma coisa", detalhou. Quanto ao alerta lançado na semana passada por um funcionário da Anthropic - que já tinha trabalhado também na OpenAI - sobre a falta de responsabilidade destas empresas e que "a inteligência artificial pode matar-nos até ao fim da década", Luís Correia diz que esta tecnologia não deve ser travada, mas sim deve haver mais cuidado no seu desenvolvimento. "Estamos a desenvolver uma ferramenta poderosíssima de inteligência, Temos de ter alguns cuidados com a maneira como vai evoluir e acho que as pessoas devem pensar num outro aspecto que eu costumo referir várias vezes, que é à medida que os sistemas são mais inteligentes, mais nós temos de os tratar como tratamos organismos inteligentes. Em particular, se eles se aproximam da inteligência humana, nós devemos tratar estes sistemas com confiança, com verificações, com um processo de aprendizagem, do conhecimento. Ninguém é contratado para um emprego sem ter um mínimo de conhecimento sobre os antecedentes e a formação da pessoa. Com os sistemas de inteligência artificialm nós estamos pura e simplesmente a não ligar a esses primeiros passos todos", concluiu.