Генеративные модели в машинном обучении (ИИ 2024) — различия между версиями
Материал из Wiki - Факультет компьютерных наук
Mhushchyn (обсуждение | вклад) |
Mhushchyn (обсуждение | вклад) |
||
| Строка 80: | Строка 80: | ||
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить) | Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить) | ||
| − | == Домашние задания | + | == Домашние задания == |
| − | Инвайт в Anytask: ''UZppWJ0'' | + | Инвайт в Anytask: ''UZppWJ0'' (проверить) |
| − | + | ===Задание 1. Трансформеры === | |
| − | + | Вам предстоит дообучить трансформер на своих данных. | |
| − | + | ||
| + | '''Дедлайн''': 04 марта 2024 года 23:59 | ||
| + | |||
| + | '''Ссылка''': (ссылка) | ||
| + | |||
| + | ===Задание 2. Генеративные модели === | ||
| + | Вам предстоит обучить генеративную модель ее на своих данных. | ||
| + | |||
| + | '''Дедлайн''': 01 апреля 2024 года 23:59 | ||
| + | |||
| + | '''Ссылка''': (ссылка) | ||
| + | |||
| + | ===Задание 3. Мультимодельные модели === | ||
| + | Вам предстоит разобраться с мультимодальностью. | ||
| + | |||
| + | '''Дедлайн''': 01 апреля 2024 года 23:59 | ||
| + | |||
| + | '''Ссылка''': (ссылка) | ||
== Тесты и неоцениваемые теоретические ДЗ (ТУДУ) == | == Тесты и неоцениваемые теоретические ДЗ (ТУДУ) == | ||
| Строка 94: | Строка 111: | ||
... | ... | ||
| − | == Литература | + | == Литература == |
| − | * | + | |
| − | * | + | ===Курсы по машинному обучению и анализу данных=== |
| − | + | * [http://wiki.cs.hse.ru/Основы_глубинного_обучения/2023 Основы глубинного обучения, ВШЭ] | |
| + | * [https://github.com/mryab/dl-hse-ami Глубинное обучение, ВШЭ ] | ||
| + | * [https://stepik.org/course/124069/promo, Глубинное обучение 1, МФТИ] | ||
| + | * [https://stepik.org/course/111171/promo, Глубинное обучение 2, МФТИ] | ||
| + | * [https://academy.yandex.ru/handbook/ml Онлайн-учебник по машинному обучению от ШАД] | ||
| + | * [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова] | ||
| + | |||
| + | ===Книги=== | ||
| + | * [https://d2l.ai/ Dive into Deep Learning] | ||
| + | * [https://www.deeplearningbook.org/ Goodfellow I., Bengio Y. and Courville A., Deep Learning] | ||
| + | * [https://link.springer.com/book/10.1007/978-0-387-84858-7 Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009] | ||
| + | * [https://www.microsoft.com/en-us/research/uploads/prod/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning-2006.pdf Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006] | ||
Версия 18:23, 30 августа 2024
Содержание
О курсе
Курс читается на первом модуле студентам магистерской образовательной программы "Искусственный интеллект".
Семинары (ТУДУ)
У базовой группы с 11:10 по 12:30 по ссылке [ Zoom].
У продвинутой группы с 13:00 по 14:20 по ссылке [ Zoom].
Контакты
Канал и чат курса в TG: channel link
| Преподаватели | Контакты |
|---|---|
| Ершов Глеб | @GLBHLB |
| Гущин Михаил | @mikhail_h91 |
| Ассистенты | Контакты |
|---|---|
| Прохоров Савелий | @Savely_Prokhorov |
| Охотин Даниил | @danokil |
| Никифорова Соня-Аня | @sonya_leaf |
| Кураторы | Контакты |
|---|---|
| Залесинский Роман | @roman_zalesinskii |
| Зуев Гордей | @WhiteShape |
Материалы курса
Ссылка на плейлист курса на VK: VK-playlist
Ссылка на GitHub с материалами курса: [GitHub] (ТУДУ)
Ссылка на GDrive c заполненными семинарскими ноутбуками: [GDrive] (ТУДУ)
Ссылка на stepik: stepik
| Занятие | Тема | Дата | Материалы для самоподготовки к семинарам | Дополнительные материалы |
|---|---|---|---|---|
| 1 | Трансформеры | 09.09.2024 - 15.09.2024 | - | - |
| 2 | Архитектуры трансформеров | 16.09.2024 - 22.09.2024 | - | - |
| 3 | Генеративно-состязательные сети (GANs) | 23.09.2024 - 29.09.2024 | - | - |
| 4 | Вариационные автокодировщики (VAEs) и нормализующие потоки (Normalizing Flows) | 30.09.2024 - 06.10.2024 | - | - |
| 5 | Диффузионные модели | 07.10.2024 - 13.10.2024 | - | - |
| 6 | Мультимодальные модели | 14.10.2024 - 20.10.2024 | - | - |
| 7 | Синтез речи (Text-to-Speech) | 21.10.2024 - 27.10.2024 | - | - |
| 8 | Оптимизация моделей | 28.10.2024 - 03.11.2024 | - | - |
Формула оценивания
Общая оценка: min(0.45*ДЗ + 0.2*СР + 0.35*Экз. + 0.05*Самооценка, 10)
Оценка за экзамен: 0.225 * Письм. + 0.125 * Уст.
Самооценка: 0.005 * 10 (проверить)
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить)
Домашние задания
Инвайт в Anytask: UZppWJ0 (проверить)
Задание 1. Трансформеры
Вам предстоит дообучить трансформер на своих данных.
Дедлайн: 04 марта 2024 года 23:59
Ссылка: (ссылка)
Задание 2. Генеративные модели
Вам предстоит обучить генеративную модель ее на своих данных.
Дедлайн: 01 апреля 2024 года 23:59
Ссылка: (ссылка)
Задание 3. Мультимодельные модели
Вам предстоит разобраться с мультимодальностью.
Дедлайн: 01 апреля 2024 года 23:59
Ссылка: (ссылка)
Тесты и неоцениваемые теоретические ДЗ (ТУДУ)
...
Экзамен (ТУДУ)
...
Литература
Курсы по машинному обучению и анализу данных
- Основы глубинного обучения, ВШЭ
- Глубинное обучение, ВШЭ
- Глубинное обучение 1, МФТИ
- Глубинное обучение 2, МФТИ
- Онлайн-учебник по машинному обучению от ШАД
- Курс по машинному обучению К.В. Воронцова
