📇 Model Cards para Relatórios de Modelos de Aprendizado de Máquina

Notas do episódio

Este artigo científico propõe a criação de model cards, que são documentos padronizados para registrar o desempenho e as características de modelos de aprendizado de máquina. Os autores argumentam que a falta de documentação detalhada esconde vieses algorítmicos que prejudicam grupos marginalizados em áreas críticas como saúde e segurança. A estrutura sugerida exige que os desenvolvedores divulguem o uso pretendido, as métricas de avaliação e análises de performance segmentadas por fatores demográficos, culturais ou fenotípicos. O objetivo central é promover a transparência e a responsabilidade na inteligência artificial, permitindo que usuários compreendam as limitações tecnológicas. Para validar a proposta, o texto apresenta exemplos práticos aplicados à detecção de sorrisos em imagens e à identificação de toxicidade em textos. Essa abordagem busca democratizar o acesso a informações éticas, incentivando práticas mais inclusivas e seguras no desenvolvimento de software.Slides: https://docs.google.com/presentation/d/1Qagdxk7ZTcjB9QYIIqj7qWRguaITCwex/edit?usp=drive_link&ouid=112085487248009471672&rtpof=true&sd=true