194.055 Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen
Diese Lehrveranstaltung ist in allen zugeordneten Curricula Teil der STEOP.
Diese Lehrveranstaltung ist in mindestens einem zugeordneten Curriculum Teil der STEOP.

2019S, VU, 2.0h, 3.0EC

Merkmale

  • Semesterwochenstunden: 2.0
  • ECTS: 3.0
  • Typ: VU Vorlesung mit Übung

Ziele der Lehrveranstaltung

Machine Learning, als eine Disziplin der Forschung im Bereich der Künstlichen Intelligenz, hat in den letzten Jahren aufgrund großer Fortschritte in der Leistungsfähigkeit und Effektivität von Algorithmen für verschiedene komplexe Aufgaben, wie z.B. in medizinischen Anwendungen, Computer Vision, etc. an Interesse und Akzeptanz gewonnen.

Modelle des maschinellen Lernens werden daher in einer ständig wachsenden Anzahl von Systemen in verschiedenen Bereichen eingesetzt, oft ohne dass die Benutzer, die mit den Systemen interagieren, das wissen. Neben den großen Vorteilen des maschinellen Lernens sind eine Reihe von Aspekten entscheidend, wie z.B. die Auswirkungen auf den Datenschutz bei der Analyse persönlicher oder sensibler Daten, die Sicherheitsaspekte von maschinellen Lernanwendungen und schließlich die Erklärbarkeit und damit Akzeptanz von Modellen des maschinellen Lernens.

Dieser Kurs beschäftigt sich daher mit einigen fortgeschrittenen Themen im Zusammenhang mit Machine Learning (und Statistik im weitesten Sinne).

Inhalt der Lehrveranstaltung

  • Techniken zur Wahrung der Privatsphäre, um sensible Informationen in den Eingabedaten zu anonymisieren, z.B. um den Datenaustausch zu erleichtern, mit besonderem Schwerpunkt auf den Auswirkungen auf den Nutzen der Daten und der darauf trainierten Modelle. Dazu gehören z.B. die k-Anonymity und verwandte Modelle wie l-Diversity sowie Differential Privacy  etc.
  • Techniken zur Wahrung der Privatsphäre, wie z.B. Differential Privacy, um Informationslecks an trainierten Modellen zu verhindern.
  • Angriffsvektoren auf Modelle des maschinellen Lernens, z.B. membership attacks  und Model Stealing, Adversary Input Generation, und wie man sie einschränkt.
  • Backdoor-Einbettung, um das Verhalten von scheinbar gutartigen Modellen für böswillige Zwecke zu manipulieren.
  • Vertraulichkeitserhaltende Berechnung von Modellen des maschinellen Lernens, z.B. mit secure multi-party computation, und homomorphen Verschlüsselungsansätzen.
  • Erklärbarkeit von Modellen des maschinellen Lernens, um ein besseres Verständnis und Vertrauen in die Modelle zu ermöglichen, z.B. durch Visualisierung, Regelextraktion, Zero-Shot Learning.

 

Weitere Informationen

Dates:

7.3. Preliminary talk

 

For all other dates, please see TUWEL! Note that the lecture won't take place every week!

 

Vortragende

Institut

LVA Termine

TagZeitDatumOrtBeschreibung
Do.13:00 - 15:0007.03.2019 - 27.06.2019FAV Hörsaal 2 Vorlesung
Do.13:00 - 15:0023.05.2019FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Vorlesung (Ersatz-Hörsaal)
Mi.16:00 - 18:0029.05.2019Seminarraum FAV EG B (Seminarraum von Neumann) Lecture (Replacement Date)
Do.13:00 - 15:0006.06.2019Seminarraum FAV 01 B (Seminarraum 187/2) Lecture (Replacement Room)
Do.13:00 - 15:0006.06.2019Seminarraum FAV 01 B (Seminarraum 187/2) Vorlesung (Ersatz-Hörsaal)
Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen - Einzeltermine
TagDatumZeitOrtBeschreibung
Do.07.03.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.14.03.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.21.03.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.28.03.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.11.04.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.02.05.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.09.05.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.16.05.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.23.05.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.23.05.201913:00 - 15:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Vorlesung (Ersatz-Hörsaal)
Mi.29.05.201916:00 - 18:00Seminarraum FAV EG B (Seminarraum von Neumann) Lecture (Replacement Date)
Do.06.06.201913:00 - 15:00Seminarraum FAV 01 B (Seminarraum 187/2) Lecture (Replacement Room)
Do.06.06.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.13.06.201913:00 - 15:00FAV Hörsaal 2 Vorlesung
Do.27.06.201913:00 - 15:00FAV Hörsaal 2 Vorlesung

Leistungsnachweis

Übungsbeispiele und schriftliche Prüfung

LVA-Anmeldung

Von Bis Abmeldung bis
24.01.2019 00:00 05.05.2019 23:59 31.03.2019 23:59

Curricula

Literatur

Es wird kein Skriptum zur Lehrveranstaltung angeboten.

Vorkenntnisse

184.702 Machine Learning

Vorausgehende Lehrveranstaltungen

Sprache

Englisch