Qual a memória necessária para rodar um grande modelo de linguagem LLM?

Notas do episódio

Você já se perguntou quanta potência é necessária para fazer o ChatGPT funcionar? Neste episódio, Guilherme Favaron e o especialista em IA Adam desvendam os mistérios da memória GPU necessária para rodar grandes modelos de linguagem (LLMs). Descubra os desafios técnicos, as soluções inovadoras e o futuro da IA em uma conversa repleta de insights valiosos para entusiastas de tecnologia, desenvolvedores e empreendedores. Não perca esta aula sobre o coração computacional da IA moderna!