1. Lecture Series (no. 19333101) + Exercise (no. 19333102)
Cybersecurity und AI II: Explainable AI (Cybersicherheit und KI II: Erklärbarkeit), 5 LP
Schedule: WS, 2+2 SWS
Instructors: Gerhard Wunder, Hania Elkersh
Inhalte:
Einführung, Motivation, Definitionen, Taxonomie und Annahmen, kurzer Überblick über die unterschiedliche Erklärungsansätze, Darstellung von Ergebnissen, Saliency Maps, Merkmalsextraktion, erste Anwendungen
Blackbox (Modell-agnostische) Erklärungen: Additive Feature Attribution (Methode und Eigenschaften), LIME und andere Varianten, SHAP, Shapley-Werte, von der lokalen Erklärung zum globalen Verständnis, Nachbarschaftskonstruktion (On-Manifold Erklärungen), Risiken von zufälligen Störungen
Informationstheoretische Erklärungsmethoden: Grundbegriffe (Synergie, Exklusivität usw.), Information Decomposition, Graph-Repräsentation, Kausalität, Theorie des repräsentativen Lernens
Anwendung und Implementierung: Debugging, Modelextraktion, Herausforderungen, Tradeoffs (z.B. Erklärbarkeit vs. Datenschutz), Angriffe auf Erklärbarkeit
2. Lecture Series (no. 19324501) + Exercise (no. 19324502)
Foundations of Information-Theoretic Privacy and Identity (Informationstheoretische Grundlagen von Datenschutz und Identität), 10 LP
Schedule: SS, 4+2 SWS
Instructors: Gerhard Wunder
Inhalte:
Introduction: Access control systems and biometrics, information-theoretic tools
Secret sharing with privacy constraints and impostors
Biometric authentication, zero leakage systems, generated and chosen secrets
