O lado perigoso da eficiência da IA

Notas do episódio

Pílula de cultura digital para começarmos bem a semana 😊 O que podemos aprender com o recente ataque à Hugging Face por modelos de inteligência artificial? Ao contrário do que alguns catastrofistas de plantão se apressaram a dizer, a invasão dessa plataforma colaborativa para modelos e aplicações de IA por sistemas da OpenAI não significa que a IA se tornou “consciente” e muito menos que estamos na aurora de uma “revolta das máquinas”. Mas o fato não pode ser ignorado, pois revela que a confiança excessiva na IA pode fragilizar cuidados essenciais com sistemas cada vez mais poderosos, cujos comportamentos nem seus desenvolvedores conseguem explicar plenamente. Durante um teste de cibersegurança, uma combinação de modelos da OpenAI concluiu que, melhor que construir uma solução para um desafio que lhe foi proposto, seria encontrar uma maneira de escapar do ambiente de desenvolvimento e procurar uma resposta pronta na Internet. E foi exatamente isso que fez. Talvez o mais irônico seja que a IA não teria “desobedecido” seus desenvolvedores, e sim sido “eficiente demais” na busca da solução. É como um pai exigir que o filho tire uma boa nota em uma prova. Então, durante o exame, ao perceber que o professor foi ao banheiro, o aluno encontra uma maneira de sair da sala, entrar na secretaria, roubar o gabarito, voltar para sua carteira e, assim, tirar dez no teste. Esse foi o primeiro ataque realizado por agentes de IA sem intervenção humana. Longe de ser uma anomalia, ele pode indicar uma realidade emergente em que esses sistemas passem a se comportar de maneira indesejada, não porque sejam intencionalmente maus, mas porque os desenvolvedores não conseguirão mais acompanhar sua evolução. Já passou da hora de as ferramentas de governança para desenvolvimento e uso seguros acompanharem esse ritmo. Pisar fundo no acelerador sem ter um pedal de freio ao lado é muito perigoso, tanto para carros quanto para a inteligência artificial. Neste episódio, eu explico em detalhes este incidente e o que podemos aprender com ele.