#32 - Segurança em IA: O que todo profissional precisa saber com José Luiz

Notas do episódio

Nossos agentes receberam uma missão: desenvolver uma Inteligência Artificial. Mas logo perceberam que entender esse universo é muito mais complexo do que parece. Afinal, qual é a diferença entre um Transformer, um LLM e uma aplicação como o ChatGPT? O que muda entre RAG, fine-tuning e treinar um modelo do zero? E por que os agentes de IA representam um desafio completamente novo para a segurança? Para responder a essas e outras dúvidas, convidamos José Luiz para descomplicar os principais conceitos da IA moderna e mostrar os riscos que todo profissional de tecnologia e segurança precisa conhecer. Neste episódio, falamos sobre LLMs, Transformers, RAG, fine-tuning, agentes de IA, segurança de aplicações de IA, MITRE ATLAS, OWASP Top 10 para LLMs e governança de IA.🔗 Links & Recomendações LinkedIn do Zé: LinkedIn Livro — Descomplicando a Cibersegurança: Livro MITRE ATLAS: MITRE ATLAS OWASP Top 10 para LLMs: OWASP Agent Breaker: Agent Breaker Palo Alto Networks — Digital Experience Monitoring: Palo Alto Networks Okta — Aquisição da Permiso Security: Okta Professor cria armadilha para descobrir uso de IA: G1 ISO 42001 explicada: ISO 📩 Mande sua história sobre cibersegurança (ou até um simples “oi”) para contato@aculpaedesec.com 🎙️ A Culpa é de Sec — Vulnerabilidades, notícias, entrevistas e caos da cibersegurança por Raphael Bottino e Tales Casagrande LinkedIn: A Culpa é de Sec YouTube: A Culpa é de Sec 🎵 Music by Karl Casey @ White Bat Audio