Coronavirus - Informationen und Empfehlungen: https://colab.tuwien.ac.at/display/CORONA

194.055 Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen
Diese Lehrveranstaltung ist in allen zugeordneten Curricula Teil der STEOP.
Diese Lehrveranstaltung ist in mindestens einem zugeordneten Curriculum Teil der STEOP.

2020S, VU, 2.0h, 3.0EC

Merkmale

  • Semesterwochenstunden: 2.0
  • ECTS: 3.0
  • Typ: VU Vorlesung mit Übung

Lernergebnisse

Nach positiver Absolvierung der Lehrveranstaltung sind Studierende in der Lage...

- Identify threats to privacy of individuals in machine learning datasets

- Select fitting solutions for privacy-preserving machine learning

- Understand attack vectors on machine learning models, and how attacls can be detected and mitigated

- Select fitting concepts for explainable and interpretable machine learning

Inhalt der Lehrveranstaltung

  • Techniken zur Wahrung der Privatsphäre, um sensible Informationen in den Eingabedaten zu anonymisieren, z.B. um den Datenaustausch zu erleichtern, mit besonderem Schwerpunkt auf den Auswirkungen auf den Nutzen der Daten und der darauf trainierten Modelle. Dazu gehören z.B. die k-Anonymity und verwandte Modelle wie l-Diversity sowie Differential Privacy  etc.
  • Techniken zur Wahrung der Privatsphäre, wie z.B. Differential Privacy, um Informationslecks an trainierten Modellen zu verhindern.
  • Angriffsvektoren auf Modelle des maschinellen Lernens, z.B. membership attacks  und Model Stealing, Adversary Input Generation, und wie man sie einschränkt.
  • Backdoor-Einbettung, um das Verhalten von scheinbar gutartigen Modellen für böswillige Zwecke zu manipulieren.
  • Vertraulichkeitserhaltende Berechnung von Modellen des maschinellen Lernens, z.B. mit secure multi-party computation, und homomorphen Verschlüsselungsansätzen.
  • Erklärbarkeit von Modellen des maschinellen Lernens, um ein besseres Verständnis und Vertrauen in die Modelle zu ermöglichen, z.B. durch Visualisierung, Regelextraktion, Zero-Shot Learning.

 

Methoden

The course contains classroom lectures and exercises. Exercises include the application of privacy-preserving, secure and explainabel machine learning techniques for various data sets and implementation of thses techniques. The exercises are prepared at home and will be presented/discussed during the exercise classes.  

Prüfungsmodus

Prüfungsimmanent

Weitere Informationen

Dates:

5.3. 2020: Preliminary talk (Vorbesprechung) & intro

 

For all other dates, please see TUWEL! Note that the lecture won't take place every week!

 

Vortragende

Institut

LVA Termine

TagZeitDatumOrtBeschreibung
Do.13:00 - 15:0005.03.2020 - 25.06.2020FAV Hörsaal 2 Vorlesung
Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen - Einzeltermine
TagDatumZeitOrtBeschreibung
Do.05.03.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.12.03.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.19.03.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.26.03.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.02.04.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.23.04.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.30.04.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.07.05.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.14.05.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.28.05.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.04.06.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.18.06.202013:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.25.06.202013:00 - 15:00FAV Hörsaal 2 Vorlesung

Leistungsnachweis

- Solving of exercises regarding experiments in secruity, privacy and explainability of machine learning, using a software toolkit of the student's choice (e.g. Python scikit-learn, Matlab, R, WEKA, ...)

- Written exam at the end of the semester

LVA-Anmeldung

Von Bis Abmeldung bis
01.12.2019 00:00 20.04.2020 23:59 21.04.2020 23:59

Curricula

Literatur

Es wird kein Skriptum zur Lehrveranstaltung angeboten.

Vorkenntnisse

184.702 Machine Learning

Vorausgehende Lehrveranstaltungen

Sprache

Englisch