Opinião sobre open models (AI)

Notas do episódio

O Shutdown está de volta depois de uma pausa e com um formato um bocadinho diferente. Em vez de passar por várias notícias da semana, a ideia agora é escolher um tema com mais sumo e tentar percebê-lo com algum tempo. Neste episódio falo sobre modelos open weight e sobre a forma como os modelos chineses, em particular o Kimi K3, estão a pôr pressão nos grandes labs americanos. Passo pelos custos de correr estes modelos, distillation, privacidade, soberania, regulação e pelos argumentos a favor e contra limitar o seu uso. Também tento perceber o que acontece ao negócio da OpenAI e da Anthropic se vender tokens deixar de ser tão rentável, porque é que estes modelos podem ser importantes para a academia e para evitar monopólios, e quem pode ganhar com uma parte cada vez maior da AI a correr localmente.