Explainable AI

Notas do episódio

O tópico do episódio de hoje é o Explainable AI, também conhecido como XAI. Este é o nome da área de estudo dentro da IA que trata a criação de modelos de IA cujos processos de decisão que dão origem às predições e ações conseguem ser entendidas por um humanos. No fundo é o oposto das conhecidas abordagens de Black Box, em que apenas temos acesso aos outputs das predições do modelo sem nenhum insights sobre como é que o modelo chegou a essa conclusão. Este tipo de estudos e evoluções para o mundo de AI torna-se cada vez mais relevante à medida que mais e mais cenários da nossa vida quotidiana se torna dependente de IA também começa a crescer a desconfiança que a sociedade tem destes modelos e com isso o crescimento da necessidade de ter modelos que consigam ser explicados e com isso conquistar pontos de confiança na sociedade que vão desbloquear a adoção de IA numa escala cada vez maior. AI News: ChatbotGPT worries teachers who seek to detect cheating by AI - The Washington Post https://www.washingtonpost.com/education/2022/12/28/chatbot-cheating-ai-chatbotgpt-teachers/ A far-sighted approach to machine learning | MIT News | Massachusetts Institute of Technology https://news.mit.edu/2022/multiagent-machine-learning-ai-1123 Inside MILA: The Need for ‘Humanity’ in AI (analyticsindiamag.com) https://analyticsindiamag.com/inside-mila-the-need-for-humanity-in-ai/ Email us at podcast@buildingthefuture.pt Hosts: Marco António Silva: https://www.linkedin.com/in/marconsilva/ José António Silva: https://www.linkedin.com/in/canoas/ Vitor Santos: https://www.linkedin.com/in/vitor-santos-ab87662/ Produção: Beatriz Herrera González - https://www.linkedin.com/in/beahgonzalez/