Nach positiver Absolvierung der Lehrveranstaltung sind Studierende in der Lage...

• thematische Forschungsarbeiten kritisch zu lesen und zu verstehen
• Themen wissenschaftlich zu erarbeiten 
• Ihre Ergebnisse vor Publikum zu präsentieren

In diesem Seminar beschäftigen wir uns mit aktuellen Forschungsthemen an der Schnittstelle von Informatik, maschinellem Lernen und Physik. Gemeinsam diskutieren und analysieren wir aktuelle Forschungsergebnisse, mit dem Ziel, ein tiefergehendes Verständnis einiger derzeit aufkommender Technologien aufzubauen. Für dieses Seminar gibt es keinen strengen Lehrplan; im Folgenden finden Sie eine Liste möglicher interessanter Themen.

Folgende Themenschwerpunkte werden im Übungsteil behandelt:

• Theorie des Deep Learnings:
  Trotz der großen jüngsten Erfolge des Deep Learnings ist das Verhalten von deep neural networks (DNNs) überraschend wenig verstanden, und in vielerlei Hinsicht bleiben DNNs eine Blackbox. Daher bleibt das Design neuer, auf spezifische Anwendungen zugeschnittener Netzwerkarchitekturen ein Ad-hoc-Prozess, und die Interpretation und Analyse von (falschen) Ergebnissen stellt eine schwierige Herausforderung dar. Einige der Ansätze zur Lösung dieses Problems sind: die Beschreibung von DNNs aus der Sicht dynamischer Systeme und der Kontrolltheorie [1] und Analysen auf der Grundlage einer mean-field Beschreibung [2, 3]. Letzteres erlaubt beispielsweise Aussagen über die Aussagekraft und Trainierbarkeit bestimmter Netzwerkarchitekturen und offenbart spannende Zusammenhänge zur statistischen Physik.

• Scientific Machine Learning:
  Obwohl es den Anschein hat, dass DNNs so entworfen und trainiert werden können, dass sie fast jedes System beschreiben, vernachlässigen naive Ansätze mögliches Vorwissen über die Funktionsweise des modellierten Systems. Vorhandenes Domänenwissen (z.B. physikalische Gesetze, die die zeitliche Entwicklung eines dynamischen Systems beschreiben) kann jedoch genutzt werden, um den zulässigen Lösungsraum zu begrenzen, was zu einer Reduktion der erforderlichen Trainingsdaten und zu einer erhöhten Vorhersagegenauigkeit führt [4]. Durch Kombination von DNNs mit klassischen numerischen Algorithmen können Methoden aus dem scientific machine learning z. B. in der Bedarfsplanung, Medikamentenentwicklung und der Pandemiemodellierung [5] eingesetzt werden.

• Quantum Computing und (Post-)Quantenkryptographie:
  Während die ersten voll funktionsfähigen (wenn auch kleinen) Quantenprozessoren erscheinen [6], identifizieren Forscher eine wachsende Zahl von Anwendungen, die durch den Einsatz von Quantenalgorithmen potenziell beschleunigt werden können, darunter auch viele Algorithmen aus dem Bereich des maschinellen Lernens [7]. Ein weiteres aktives Forschungsfeld ist das Auffinden so genannter quantenresistenter kryptographischer Algorithmen, die mit Shors Algorithmus nicht zu knacken sind.

Um das Seminar zugänglicher zu machen, planen wir einführende Einheiten zu den weniger bekannten Themen (z.B. Quantencomputer) zu halten. Allerdings sind einige Kenntnisse in höherer Mathematik (z.B. lineare Algebra, Wahrscheinlichkeitstheorie, Grundlagen der Analysis) erforderlich.

1. Liu, Guan-Horng, and Evangelos A. Theodorou. ArXiv:1908.10920 [Cs, Eess, Stat], September 28, 2019. http://arxiv.org/abs/1908.10920.
2. Raghu, Maithra, Ben Poole, Jon Kleinberg, Surya Ganguli, and Jascha Sohl- Dickstein. arXiv:1606.05336 [Cs, Stat], June 18, 2017. http://arxiv.org/abs/1606.05336.
3. Schoenholz, Samuel S., Justin Gilmer, Surya Ganguli, and Jascha Sohl-Dickstein. arXiv:1611.01232 [Cs, Stat], April 4, 2017. http://arxiv.org/abs/1611.01232.
4. Rackauckas et al.,  arXiv:2001.04385, January 13, 2020. https://arxiv.org/pdf/2001.04385.pdf
5. https://www.youtube.com/watch?v=jMhPZFZ0yvE
6. Arute, Frank, Kunal Arya, Ryan Babbush, et al. Nature 574, no. 7779 (October 2019): 505–10. https://doi.org/10.1038/s41586-019-1666-5.
7. Schuld, M., I. Sinayskiy, and F. Petruccione. arXiv:1409.3097 [quant-ph], September 10, 2014. https://arxiv.org/abs/1409.3097

Folgende Methoden werden in dieser Lehrveranstaltung eingesetzt:

• Das Präsentieren und Diskutieren aktueller Forschungsthemen
• Recherche relevanter Literatur
• Arbeiten in Kleingruppen

Allgemeine Anfragen richten Sie bitte an care4u@inso.tuwien.ac.at.

Die Bewertung ergibt sich aus der aktiven Teilnahme durch eine Präsentation zu einem ausgewählten Thema/zu einer ausgewählten Publikation. 

Kenntnisse in höherer Mathematik (z.B. lineare Algebra, Wahrscheinlichkeitstheorie, Grundlagen der Analysis) sind erforderlich.