Hacking AI

Notas do episódio

No episódio de hoje vamos falar sobre as diferentes vulnerabilidades que existem em AI e as medidas que podem ser tomadas para tornar os nossos modelos mais seguros. A ciber-segurança é um tema muito presente na vida de todos nós mas nem sempre se fala sobre o caso particular dos modelos de AI e ML serem atacados e como isso acontece. O normal é falarmos das violações de perímetro físico ou virtual do sistema onde a AI se encontra, mas a verdade é que existem outras vulnerabilidades que caso não tenhamos cuidado, podem estar disponíveis aos hackers e podem ser bastante destrutivas para o modelo. Links de AI News: Annual MIT Sloan Management Review-Boston Consulting Group Study Finds Significant Financial Benefits With AI Are Noticeably Amplified When Organizations Develop Multiple Effective Ways for Humans and AI to Learn Together: https://sloanreview.mit.edu/offer-download-the-2020-artificial-intelligence-report/?og=report Face-mask recognition has arrived—for better or worse: https://www.nationalgeographic.com/science/2020/09/face-mask-recognition-has-arrived-for-coronavirus-better-or-worse-cvd/ AI ethics groups are repeating one of society’s classic mistakes: https://www.technologyreview.com/2020/09/14/1008323/ai-ethics-representation-artificial-intelligence-opinion/amp/