Tópicos Especiais Em Inteligência Artificial Explicável

Ementa: A disciplina apresenta fundamentos, métodos e aplicações de Inteligência Artificial Explicável (XAI). Discute os fundamentos do conceito de explicabilidade como interpretabilidade e transparência. Apresenta abordagens clássicas (tanto as intrinsicamente interpretáveis quanto as post-hoc), além de abordagens recentes para tornar modelos de aprendizado de máquina mais interpretáveis e confiáveis. São exploradas questões éticas, regulatórias e sociais importantes para tornar o uso da IA mais responsável e permitir aos alunos refletirem sobre as implicações éticas e sociais do uso de IA e da importância de associação dos modelos opacos aos métodos de explicabilidade.

Syllabus: This course presents the fundamentals, methods, and applications of Explainable Artificial Intelligence (XAI). It discusses the fundamentals of the concept of explainability, such as interpretability and transparency. It presents classical approaches (both intrinsically interpretable and post-hoc), as well as recent approaches to making machine learning models more interpretable and reliable. Important ethical, regulatory, and social issues are explored to make the use of AI more responsible and allow students to reflect on the ethical and social implications of AI use and the importance of associating opaque models with explainability methods.

MOLNAR, Christoph. Interpretable Machine Learning: A Guide for Making Black Box. Models Explainable (3rd ed.), 2025. Disponível em christophm.github.io/interpretable-ml-book/

LIPTON, Zachary C. The mythos of model interpretability: In machine learning, the concept of interpretability is both important and slippery. Communications of ACM, v. 61, n. 10, p. 36-44, 2018. Disponível em https://dl.acm.org/doi/10.1145/3233231

SINGH, Tanu et al. (Ed.). Explainable AI for Education: Recent Trends and Challenges. Springer Nature Switzerland, 2024.