Генеративные модели в машинном обучении (ИИ 2024) — различия между версиями
Mhushchyn (обсуждение | вклад) |
Mhushchyn (обсуждение | вклад) |
||
| Строка 42: | Строка 42: | ||
{| class="wikitable" | {| class="wikitable" | ||
|- | |- | ||
| − | ! Занятие !! Тема | + | ! Занятие !! Тема !! Материалы семинаров !! Дополнительные материалы |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''1''' || Трансформеры || | + | | style="background:#eaecf0;" | '''1''' || Трансформеры || [[https://github.com/hushchyn-mikhail/gen_models_ai_hse/blob/main/2024/seminars/Seminar-1.ipynb Тетрадка]] [[https://colab.research.google.com/github/hushchyn-mikhail/gen_models_ai_hse/blob/main/2024/seminars/Seminar-1.ipynb Colab]] || - |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''2''' || Архитектуры трансформеров | + | | style="background:#eaecf0;" | '''2''' || Архитектуры трансформеров || - || - |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''3''' || Генеративно-состязательные сети (GANs) | + | | style="background:#eaecf0;" | '''3''' || Генеративно-состязательные сети (GANs) || - || - |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''4''' || Вариационные автокодировщики (VAEs) и нормализующие потоки (Normalizing Flows) | + | | style="background:#eaecf0;" | '''4''' || Вариационные автокодировщики (VAEs) и нормализующие потоки (Normalizing Flows) || - || - |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''5''' || Диффузионные модели | + | | style="background:#eaecf0;" | '''5''' || Диффузионные модели || - || - |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''6''' || Мультимодальные модели | + | | style="background:#eaecf0;" | '''6''' || Мультимодальные модели || - || - |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''7''' || Синтез речи (Text-to-Speech) | + | | style="background:#eaecf0;" | '''7''' || Синтез речи (Text-to-Speech) || - || - |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''8''' || Оптимизация моделей | + | | style="background:#eaecf0;" | '''8''' || Оптимизация моделей || - || - |
|} | |} | ||
Версия 21:58, 6 сентября 2024
Содержание
О курсе
Курс читается на первом модуле студентам магистерской образовательной программы "Искусственный интеллект".
Канал и чат курса в ТГ: Чат
| Группа | Преподаватели | Zoom | Время |
|---|---|---|---|
| Базовая | Ершов Глеб | суббота 13:00 + вторник 17.09 18:10 | |
| Продвинутая | Гущин Михаил | Zoom | четверг 18:10 + среда 25.09 18:10 |
| Ассистенты |
|---|
| Прохоров Савелий |
| Охотин Даниил |
| https://t.me/sonya_leaf Никифорова Соня-Аня] |
| Кураторы |
|---|
| Залесинский Роман |
| Зуев Гордей |
Материалы курса
Ссылка на плейлист курса на VK: VK-playlist
Ссылка на GitHub с материалами курса: GitHub
Ссылка на stepik: stepik
| Занятие | Тема | Материалы семинаров | Дополнительные материалы |
|---|---|---|---|
| 1 | Трансформеры | [Тетрадка] [Colab] | - |
| 2 | Архитектуры трансформеров | - | - |
| 3 | Генеративно-состязательные сети (GANs) | - | - |
| 4 | Вариационные автокодировщики (VAEs) и нормализующие потоки (Normalizing Flows) | - | - |
| 5 | Диффузионные модели | - | - |
| 6 | Мультимодальные модели | - | - |
| 7 | Синтез речи (Text-to-Speech) | - | - |
| 8 | Оптимизация моделей | - | - |
Формула оценивания
Общая оценка: min(0.45*ДЗ + 0.2*СР + 0.35*Экз. + 0.05*Самооценка, 10)
Оценка за экзамен: 0.225 * Письм. + 0.125 * Уст.
Самооценка: 0.005 * 10 (проверить)
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить)
Домашние задания
Инвайт в Anytask: UZppWJ0 (проверить)
Задание 1. Трансформеры
Вам предстоит дообучить трансформер на своих данных.
Дедлайн: 04 марта 2024 года 23:59
Ссылка: (ссылка)
Задание 2. Генеративные модели
Вам предстоит обучить генеративную модель ее на своих данных.
Дедлайн: 01 апреля 2024 года 23:59
Ссылка: (ссылка)
Задание 3. Мультимодельные модели
Вам предстоит разобраться с мультимодальностью.
Дедлайн: 01 апреля 2024 года 23:59
Ссылка: (ссылка)
Тесты и неоцениваемые теоретические ДЗ (ТУДУ)
...
Экзамен (ТУДУ)
...
Литература
Курсы по машинному обучению и анализу данных
- Основы глубинного обучения, ВШЭ
- Глубинное обучение, ВШЭ
- Глубинное обучение 1, МФТИ
- Глубинное обучение 2, МФТИ
- Онлайн-учебник по машинному обучению от ШАД
- Курс по машинному обучению К.В. Воронцова