#289 LLMOps na prática: segurança, custo e evolução do MLOps

Notas do episódio

Por que tantas empresas já rodam agentes de IA em produção e ainda tropeçam em segurança, dados e avaliação? Neste episódio, recebemos Francisco Malaguth, Arquiteto e Cientista de Dados, e Guilherme Flora, Cientista de Dados, ambos da dti digital. Eles explicam o que o LLMOps herda do MLOps e o que precisou ser repensado, como o treinamento deu lugar à seleção de modelos e por que o controle de acesso aos dados ficou muito mais fino. A conversa passa pelo trade-off entre liberdade e segurança que os grandes fornecedores enfrentam, pelo custo que leva empresas a economizar em guardrails e pela dificuldade de medir a qualidade de uma resposta aberta. Dê o play e assista agora! Assuntos abordados: MLOps x LLMOps; Seleção de modelos; Fine Grained Access; Incidentes com IA; Guardrails; Custo operacional; Fundação de dados; Evals de LLM; Monitoramento contínuo. Links importantes: Vagas disponíveis Newsletter Dúvidas? Nos mande pelo Linkedin Contato: entrechaves@dtidigital.com.br O Entre Chaves é uma iniciativa da dti digital, uma empresa WPP #inteligenciaartificial