ML-Talk am 21.05.2024: Stephan Mandt (University of California, Irvine), "From Entropy to Artistry: on Thermodynamics and Generative AI"
- Ort der Veranstaltung: RPTU in Kaiserslautern, Gebäude 48, Raum 680
Datum der Veranstaltung: 21.05.2024
Kontaktperson: Prof. Dr. Marius Kloft
Die Arbeitsgruppe Maschinelles Lernen von Prof. Dr. Marius Kloft
am Fachbereich Informatik der RPTU Kaiserslautern-Landau
lädt Sie herzlich ein zu einem Vortrag über„Von der Entropie zur Kunstfertigkeit: über Thermodynamik und generative KI“
von Stephan Mandt (University of California, Irvine)am
Dienstag, 21. Mai 2024 um 15:00 Uhr in Raum 48/680
Zusammenfassung:
Das Entrauschen von Diffusionsmodellen hat zu einer Reihe von Durchbrüchen in der Bild- und Videogenerierung geführt.
In diesem Vortrag werde ich die tiefen Verbindungen zwischen Diffusionsmodellen und der Physik untersuchen.
Diese Modelle, die in der Nichtgleichgewichtsthermodynamik verwurzelt sind, ermöglichen eine Vielzahl von Erweiterungen,
indem sie die Diffusion in erweiterte Räume erheben, die Position, den Impuls und möglicherweise zusätzliche Variablen umfassen.
Augmentierte Diffusionen bieten ein „vollständiges Rezept“ für die Konstruktion von invertierbaren Diffusionsprozessen,
sowie neue Sampler, die deren Inferenz-Effizienz erheblich verbessern.
Darüber hinaus bieten thermodynamische Prozesse eine natürliche Spielwiese für generative KI.
Ich werde zeigen, wie Videodiffusionsmodelle Niederschlagsmuster effektiv auf feinere Skalen herunterrechnen können,
und so die Statistik von Extremereignissen und lokale geografische Muster präzise erfassen.Biografie:
Stephan Mandt ist Associate Professor für Informatik und Statistik an der University of California, Irvine.
Seine Forschung konzentriert sich auf tiefe generative Modellierung, Quantifizierung von Unsicherheiten, neuronale Datenkompression und KI für die Wissenschaft.
Zuvor leitete er die Gruppe für maschinelles Lernen bei Disney Research in Pittsburgh und Los Angeles und war als Postdoktorand an der Princeton und Columbia University tätig.
Stephan hat einen Doktortitel in Theoretischer Physik von der Universität zu Köln, wo er mit einem Stipendium der Studienstiftung des deutschen Volkes ausgezeichnet wurde.
Außerdem erhielt er den NSF CAREER Award, den UCI ICS Mid-Career Excellence in Research Award und die Mercator Fellowship der Deutschen Forschungsgemeinschaft (DFG)
und einen Kavli Fellow der U.S. National Academy of Sciences; er ist Mitglied der ELLIS Society und ein ehemaliger Gastwissenschaftler bei Google Brain.
Seine Forschung wird derzeit von NSF, DARPA, IARPA, DOE, Disney, Intel und Qualcomm unterstützt.
Stephan ist Action Editor des Journal of Machine Learning Research und der Transaction on Machine Learning Research und hielt Tutorials bei NeurIPS, AAAI und UAI,
war (Senior) Area Chair für NeurIPS, ICML, AAAI und ICLR und Program Chair für AISTATS 2024. Derzeit ist er General Chair für AISTATS 2025.Dies ist ein wissenschaftlicher Vortrag im Rahmen des Informatik-Kolloquiums, der in englischer Sprache abgehalten wird.
-- Steffen Reithermann