ML-Talk am 09.07.2025: Dr. Maja Rudolph (University of Wisconsin–Madison), "Efficient Integrators for Diffusion Generative Models"
- Ort der Veranstaltung: RPTU in Kaiserslautern, Gebäude 48, Raum 208
Datum der Veranstaltung: 09.07.2025
Kontaktperson: Prof. Dr. Marius Kloft
Die Machine Learning Group von Prof. Dr. Marius Kloft
am Fachbereich Informatik der RPTU in Kaiserslautern
lädt Sie herzlich zu einem Vortrag zum Thema„Effiziente Integratoren für diffusionsgenerative Modelle”
von Dr. Maja Rudolph (University of Wisconsin–Madison)am
Mittwoch, 9. Juli 2025, um 14:30 Uhr in Raum 48/208
Zusammenfassung:
Diffusionsmodelle haben bemerkenswerte Ergebnisse in der generativen Modellierung erzielt, haben jedoch einen großen Nachteil:
langsame Stichprobenahme zum Zeitpunkt der Inferenz. In diesem Vortrag stelle ich zwei sich ergänzende Strategien zur Beschleunigung der Stichprobenahme
in vortrainierten Diffusionsmodellen vor – konjugierte Integratoren und Splitting-Integratoren.
Konjugierte Integratoren verallgemeinern DDIM, indem sie die Stichprobenahmedynamik auf einen Raum abbilden,
in dem sie effizienter gelöst werden kann.
Splitting Integrators, inspiriert von Techniken aus der Molekulardynamik, reduzieren numerische Fehler,
indem sie zwischen Daten und Hilfsvariablen abwechselnd aktualisieren.
Nachdem ich die theoretischen Grundlagen und die empirische Leistung beider Methoden untersucht habe,
stelle ich einen hybriden Ansatz vor, der ihre Stärken kombiniert.
Bei der Anwendung auf Phase Space Langevin Diffusion auf CIFAR-10 übertrifft unsere Methode die Baselines
sowohl in Bezug auf die Geschwindigkeit als auch auf die Qualität der Samples und erzielt in weniger Schritten hochwertige Samples.Biografie:
Ab Herbst 2025 wird Maja als Assistenzprofessorin für Statistik an der University of Wisconsin–Madison tätig sein,
wo sie an der Schnittstelle von maschinellem Lernen, probabilistischer Modellierung und KI arbeitet.
Ihre Forschung konzentriert sich auf die Entwicklung zuverlässiger und effizienter Lernalgorithmen
mit Schwerpunkt auf wissenschaftlichen und medizinischen Anwendungen.
Maja hat einen Doktortitel in Informatik und einen Master in Elektrotechnik von der Columbia University
sowie einen Bachelor in Mathematik vom MIT. Bevor sie in die Wissenschaft wechselte, war sie als leitende Forschungswissenschaftlerin
am Bosch Center for AI tätig, wo sie die technische Strategie für Grundlagenmodelle und hybride Modellierung leitete
und zu über 30 Patentanmeldungen für industrielle KI-Anwendungsfälle beitrug.Wir planen, den Vortrag zusätzlich als Live-Stream zu übertragen (noch nicht garantiert),
aber wir würden es vorziehen, wenn Sie persönlich teilnehmen:https://sci-cast.cs.uni-kl.de/talk-stream.html
Dies ist ein wissenschaftlicher Vortrag im Rahmen des Informatik-Kolloquiums, der in englischer Sprache abgehalten wird.
Die KI-Allianz Rheinland-Pfalz unterstützte bei der Veranstaltungsorganisation.
-- Steffen Reithermann
Dr. Maja Rudolph beim Vortrag