Генеративные модели в машинном обучении (ИИ 2024)
Материал из Wiki - Факультет компьютерных наук
Версия от 18:03, 30 августа 2024; Mhushchyn (обсуждение | вклад)
Содержание
О курсе (ТУДУ)
Занятия проходят по субботам.
У базовой группы с 11:10 по 12:30 по ссылке [ Zoom].
У продвинутой группы с 13:00 по 14:20 по ссылке [ Zoom].
Контакты
Канал и чат курса в TG: channel link
| Преподаватели | Контакты |
|---|---|
| Ершов Глеб | @GLBHLB |
| Гущин Михаил | @mikhail_h91 |
| Ассистенты | Контакты |
|---|---|
| Прохоров Савелий | @Savely_Prokhorov |
| Охотин Даниил | @danokil |
| Никифорова Соня-Аня | @sonya_leaf |
| Кураторы | Контакты |
|---|---|
| Залесинский Роман | @roman_zalesinskii |
| Зуев Гордей | @WhiteShape |
Материалы курса
Ссылка на плейлист курса на VK: VK-playlist
Ссылка на GitHub с материалами курса: [GitHub] (ТУДУ)
Ссылка на GDrive c заполненными семинарскими ноутбуками: [GDrive] (ТУДУ)
Ссылка на stepik: stepik
| Занятие | Тема | Дата | Материалы для самоподготовки к семинарам | Дополнительные материалы |
|---|---|---|---|---|
| 1 | Трансформеры | 09.09.2024 - 15.09.2024 | - | - |
| 2 | Архитектуры трансформеров | 16.09.2024 - 22.09.2024 | - | - |
| 3 | Генеративно-состязательные сети (GANs) | 23.09.2024 - 29.09.2024 | - | - |
| 4 | Вариационные автокодировщики (VAEs) и нормализующие потоки (Normalizing Flows) | 30.09.2024 - 06.10.2024 | - | - |
| 5 | Диффузионные модели | 07.10.2024 - 13.10.2024 | - | - |
| 6 | Мультимодальные модели | 14.10.2024 - 20.10.2024 | - | - |
| 7 | Синтез речи (Text-to-Speech) | 21.10.2024 - 27.10.2024 | - | - |
| 8 | Оптимизация моделей | 28.10.2024 - 03.11.2024 | - | - |
Формула оценивания
Общая оценка: min(0.45*ДЗ + 0.2*СР + 0.35*Экз. + 0.05*Самооценка, 10)
Оценка за экзамен: 0.225 * Письм. + 0.125 * Уст.
Самооценка: 0.005 * 10 (проверить)
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить)
Домашние задания (ТУДУ)
Инвайт в Anytask: UZppWJ0
- Полносвязные нейронные сети
Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
Дедлайн: 08.05.2024 - Свёрточные нейронные сети | [Ноутбук] | Дедлайн: 26.05.2024
- Рекуррентные нейронные сети | Языковые модели (RNN, LSTM) | Дедлайн: 09.06.2024
Тесты и неоцениваемые теоретические ДЗ (ТУДУ)
...
Экзамен (ТУДУ)
...
Литература (ТУДУ)
- Гудфеллоу Я. − Глубокое обучение
- Christopher M. Bishop - Pattern Recognition and Machine Learning
- Стивенс Э. - PyTorch. Освещая глубокое обучение
