194.055 Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen
Diese Lehrveranstaltung ist in allen zugeordneten Curricula Teil der STEOP.
Diese Lehrveranstaltung ist in mindestens einem zugeordneten Curriculum Teil der STEOP.

2023S, VU, 2.0h, 3.0EC
TUWEL

Merkmale

  • Semesterwochenstunden: 2.0
  • ECTS: 3.0
  • Typ: VU Vorlesung mit Übung
  • Format der Abhaltung: Präsenz

Lernergebnisse

Nach positiver Absolvierung der Lehrveranstaltung sind Studierende in der Lage...

- Identify threats to privacy of individuals in machine learning datasets

- Select fitting solutions for privacy-preserving machine learning

- Understand attack vectors on machine learning models, and how attacls can be detected and mitigated

- Select fitting concepts for explainable and interpretable machine learning

Inhalt der Lehrveranstaltung

  • Techniken zur Wahrung der Privatsphäre, um sensible Informationen in den Eingabedaten zu anonymisieren, z.B. um den Datenaustausch zu erleichtern, mit besonderem Schwerpunkt auf den Auswirkungen auf den Nutzen der Daten und der darauf trainierten Modelle. Dazu gehören z.B. die k-Anonymity und verwandte Modelle wie l-Diversity sowie Differential Privacy  etc.
  • Generierung von synthetischen Daten
  • Techniken zur Wahrung der Privatsphäre, wie z.B. Differential Privacy, um Informationslecks an trainierten Modellen zu verhindern.
  • Angriffsvektoren auf Modelle des maschinellen Lernens, z.B. membership attacks  und Model Stealing, Adversary Input Generation, und wie man sie einschränkt.
  • Backdoor-Einbettung, um das Verhalten von scheinbar gutartigen Modellen für böswillige Zwecke zu manipulieren.
  • Vertraulichkeitserhaltende Berechnung von Modellen des maschinellen Lernens, z.B. mit secure multi-party computation, und homomorphen Verschlüsselungsansätzen.
  • Erklärbarkeit von Modellen des maschinellen Lernens, um ein besseres Verständnis und Vertrauen in die Modelle zu ermöglichen, z.B. durch Visualisierung, Regelextraktion, Zero-Shot Learning.

 

Methoden

Der Kurs enthält Vorlesungen und Übungen. Die Vorlesungen werden im Hörsaal abgehalten.  Die Übungen beinhalten die Anwendung von datenschutzkonformen, sicheren und erklärbaren maschinellen Lernverfahren für verschiedene Datensätze und die Implementierung dieser Verfahren. Die Übungen werden zu Hause vorbereitet und in den Übungsstunden vorgestellt/besprochen.


Prüfungsmodus

Prüfungsimmanent

Weitere Informationen

Die SPEML Vorlesung wird im Hörsaal abgehalten.

 

Vorbesprechung & Intro: tba

 

 

Vortragende Personen

Institut

LVA Termine

TagZeitDatumOrtBeschreibung
Do.11:00 - 13:0002.03.2023 - 29.06.2023EI 3A Hörsaal Vorlesung
Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen - Einzeltermine
TagDatumZeitOrtBeschreibung
Do.02.03.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.09.03.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.16.03.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.23.03.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.30.03.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.20.04.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.27.04.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.04.05.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.11.05.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.25.05.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.01.06.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.15.06.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.22.06.202311:00 - 13:00EI 3A Hörsaal Vorlesung
Do.29.06.202311:00 - 13:00EI 3A Hörsaal Vorlesung

Leistungsnachweis

- Lösen von Übungsaufgaben unter Verwendung eines Software-Toolkits nach Wahl (e.g. Python scikit-learn, Matlab, R, WEKA, ...)

- Schriftliche Prüfung (closed book) - mit höchster Wahrscheinlichkeit im Hörsaal, aber via TUWEL. Bei geringen Anmeldezahlen kann die Prüfung auch mündlich durchgeführt werden (ebenfalls, abhängig von der Entwicklung der Pandemie-Situation voraussichtlich on-line)

 

LVA-Anmeldung

Von Bis Abmeldung bis
26.01.2023 00:00 05.04.2023 23:59 05.04.2023 23:59

Curricula

Literatur

Es wird kein Skriptum zur Lehrveranstaltung angeboten.

Vorkenntnisse

184.702 Machine Learning, or a similar Machine Learning lecture

Vorausgehende Lehrveranstaltungen

Sprache

Englisch