Генеративные модели на основе диффузии — различия между версиями

Версия 17:31, 5 октября 2024

Общая информация

Курс предназначен для студентов 4 курса ФКН ПМИ, но приглашаются все желающие, уверенно знающие математику младших курсов (в особенности теорию вероятностей), базово ориентирующиеся в глубинном обучении и программировании на PyTorch.

Занятия проходят по субботам в 13:00-16:00, аудитория будет сообщаться в чате.

Лектор/семинарист: Денис Ракитин

Чат курса

Программа и описание курса

Старый туториал по ODE/SDE моделям, близкий к программе курса

Оценки

Формула итоговой оценки: О_итог = 0.5 * О_дз + 0.2 * О_проект + 0.3 * О_экз. Округление арифметическое.

Домашние задания

Сдаются в классрум. Код курса mzafi45.

В курсе будут 4 теоретических и 2 практических домашних задания. Вес у всех задач одинаковый, задачи оцениваются из 1 балла. Если в задачах есть пункты, то будет подписано количество баллов за каждый пункт, иначе баллы между пунктами делятся поровну.

Теория

ДЗ-1, TeX исходник, дедлайн 6 октября 23:59.

ДЗ-2, ТеХ исходник, дедлайн 3 ноября 23:59.

Проект

Состоит в реализации и проведении экспериментов с одной из рассмотренных на курсе моделей.

Лекции и семинары

Записи лекций и семинаров

Семинарские задачи

Лекция 1. Генеративное моделирование. Семейства генеративных моделей: вариационные автокодировщики (VAEs), генеративно-состязательные сети (GANs), диффузионные модели. Генеративная трилемма: генеративная модель должна обладать высоким качеством генерации, высоким разнообразием и скоростью генерирования. Повтор теории вероятностей: совместная и условная плотность, формула Байеса, подсчет матожиданий через плотности. Условное матожидание (УМО): определение через интеграл условной плотности. Свойства: линейность, формула полного матожидания, вынос функции от условия за УМО, УМО от независимой величины равна безусловному матожиданию. Условное матожидание как наилучшее предсказание в среднеквадратичном.

Семинар 1. Гауссовские векторы/многомерное нормальное распределение. Три эквивалентных определения, формула плотности. Аффинная замена гауссовских векторов, эквивалентность независимости и некоррелированности их компонент, ортогональное разложение, условное распределение компоненты относительно другой компоненты.

Лекция 2. Процессы зашумления с дискретным временем: процесс с сохраняющейся (variance preserving, VP) и взрывающейся (variance exploding, VE) дисперсией. Определение марковской цепи. Префиксные суммы независимых величин образуют марковскую цепь. Процессы зашумления являются марковскими цепями. Работа с марковскими цепями: обуславливание марковской цепи на начальное состояние эквивалентно построению марковской цепи, стартующей из этого состояния. Переходные плотности VP и VE процессов. Эвристичная схема обращения процесса зашумления по времени. Обучени е нейросети-денойзера для предсказания чистой картинки по шумной.

Семинар 2. Обращенная по времени марковская цепь является марковской цепью. Обыкновенные дифференциальные уравнения (ОДУ), схема Эйлера. Построение непрерывного аналога процесса удаления картинки, заданного через ОДУ. Определение Винеровского процесса. (Псевдо)-определение стохастических дифференциальных уравнений (СДУ) через схему Эйлера. Построение непрерывных по времени аналогов VP и VE процессов: СДУ с сохраняющейся (VP-SDE) и взрывающейся (VE-SDE) дисперсией. Подсчет переходных распределений VE-SDE и VP-SDE с помощью решения линейных ОДУ.

Лекция 3. Эволюция плотности частицы, движущейся под действием ОДУ/СДУ: уравнение непрерывности и уравнение Фоккера-Планка. Неформальное утверждение о единственности решения уравнения Фоккера-Планка с начальным условием при выполнении условий регулярности.

Семинар 3. Вывод общего вида законов сохранения (взято из курса УрЧП). Интерпретация уравнения непрерывности, теплопроводности и Фоккера-Планка через законы сохранения. Решение транспортного уравнения с константным сносом. Дорешивание семинара 2: VP-SDE получается шкалированием VE-SDE.

Материалы прошлых лет

Вики-страница

Видеозаписи лекций