EP#11: Regulação de Inteligência Artificial

Notas do episódio

A inteligência artificial é um dos motores do desenvolvimento econômico em um mundo cada vez mais automatizado. Ela está em quase todos os lugares, desde o algoritmo da plataforma de rede social que escolhe o conteúdo que aparece no seu feed, passando pela assistente virtual que acompanha suas atividades, até o reconhecimento facial nos aeroportos ou em cirurgias feitas por robôs. Apesar de já estarmos bem familiarizados com as ditas facilidades que a IA traz, não existe no Brasil, ainda, uma lei específica sobre o tema. O Governo Federal ensaiou a construção de um documento que traça os parâmetros da Inteligência Artificial no Brasil, a chamada ESTRATÉGIA BRASILEIRA DE INTELIGÊNCIA ARTIFICIAL, mas especialistas a criticam por ser sucinta, superficial e não ter os componentes essenciais que a transformariam numa estratégia de fato, com planejamento, definição de prioridades, metas, orçamento etc. O Legislativo tem avançado sobre o tema. No Senado Federal, foi criada uma comissão de juristas que auxiliará os senadores na composição de um substitutivo aos Projetos de Lei 5.051/2019, 21/2020 e 872/2021, que visa determinar princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da Inteligência Artificial (IA) no país. O ministro do Superior Tribunal de Justiça (STJ) Villas Bôas Cueva. foi designado para presidir a comissão. O grupo contará com grandes pesquisadores do tema, incluindo a nossa queridíssima professora Ana Frazão, que apresenta este podcast junto comigo. Entre esses, o projeto mais debatido e polêmico é o PL 21/2020, que estabelece a definição do sistema de inteligência artificial e traça os objetivos e fundamentos de sua regulação. Nele estão presentes princípios para o desenvolvimento de inteligência artificial, bem como as diretrizes para a regulamentação complementar pelo poder público e também as competências para a aplicação e supervisão. Um dos trechos mais polêmicos do projeto é a responsabilidade dos agentes que atuam na cadeia de desenvolvimento de inteligência artificial. O PL, na forma aprovada na Câmara dos Deputados até então, propõe a responsabilidade subjetiva para esses agentes. No entanto, pesquisadores e autores sobre o tema apontam que a falta de simetria informacional entre os desenvolvedores e os usuários da tecnologia torna a responsabilização impossível. Por outro lado, os desenvolvedores apontam que a responsabilidade objetiva também traria riscos substanciais a esses agentes e traria prejuízos ao desenvolvimento tecnológico do Brasil. Outro ponto de embate na discussão sobre regulação de inteligência artificial é a transparência. Já conversamos em outros episódios sobre a importância de se garantir, com algum nível de inteligibilidade, a possibilidade de auditoria dos algoritmos de inteligência artificial a fim de se evitar eventuais vieses discriminatórios na programação. Os desenvolvedores recorrem ao argumento de segredo industrial e apontam a transparência como um risco aos negócios. Há debates importantes sobre esse tema ocorrendo em grandes centros de desenvolvimento tecnológico, como a China, Europa e os Estados Unidos e o parâmetro de transparência e controle adotado por esses players pode impactar na forma como as programações são feitas e como os outros países vão usar esses sistemas. Diversos organismos internacionais também estão de olho na regulação de inteligência artificial, em especial nas normas sobre reconhecimento facial, veículos e armas autônomas. Esses e outros aspectos serão debatidos no episódio de hoje.