#274 Custo de token: tudo que influencia o preço de uma resposta de IA

Notas do episódio

Quanto custa cada resposta que a sua IA gera em produção? Neste episódio, recebemos Francisco Malaguth, Arquiteto de Soluções na dti digital, para discutir o custo real de usar IA nos produtos e no desenvolvimento. A conversa parte de casos concretos do próprio time, passa pela mudança de precificação do Copilot e vai fundo em tokens de entrada e saída, janela de contexto, prompt cache, model routing e observabilidade. O episódio mostra por que otimizar o prompt é o menor dos problemas quando você não sabe o que está gerando custo em cada requisição. Dê o play e ouça agora! Assuntos abordados: Diferença entre tokens de entrada x saída; Janela de contexto; Model routing; RAG e custo; Observabilidade de IA; Precificação do Copilot; Agentes e sub-agentes; MCPs e custo. Links importantes: Vagas disponíveis Newsletter Dúvidas? Nos mande pelo Linkedin Contato: entrechaves@dtidigital.com.br O Entre Chaves é uma iniciativa da dti digital, uma empresa WPP #inteligenciaartificial