Генеративные модели в машинном обучении (ИИ 2024) — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
Строка 44: Строка 44:
 
  ! Занятие !! Тема !! Материалы семинаров !! Дополнительные материалы
 
  ! Занятие !! Тема !! Материалы семинаров !! Дополнительные материалы
 
|-
 
|-
−
| style="background:#eaecf0;" | '''1''' || Трансформеры || [[https://github.com/hushchyn-mikhail/gen_models_ai_hse/blob/main/2024/seminars/Seminar-1.ipynb Тетрадка]] [[https://colab.research.google.com/github/hushchyn-mikhail/gen_models_ai_hse/blob/main/2024/seminars/Seminar-1.ipynb Colab]] || [[https://arxiv.org/abs/1706.03762 Статья1]] [[http://jalammar.github.io/illustrated-transformer/ Статья2]] [[https://jalammar.github.io/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/ Статья3]]
+
| style="background:#eaecf0;" | '''1''' || Трансформеры || [[https://github.com/hushchyn-mikhail/gen_models_ai_hse/blob/main/2024/seminars/Seminar-1.ipynb Тетрадка]] [[https://colab.research.google.com/github/hushchyn-mikhail/gen_models_ai_hse/blob/main/2024/seminars/Seminar-1.ipynb Colab]] [[https://vk.com/video-227011779_456239029?list=ln-KuJSQ7BZx27m3TtGP2 Запись_продвинутая]] || [[https://arxiv.org/abs/1706.03762 Статья1]] [[http://jalammar.github.io/illustrated-transformer/ Статья2]] [[https://jalammar.github.io/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/ Статья3]]
 
|-
 
|-
 
| style="background:#eaecf0;" | '''2''' || Архитектуры трансформеров || - || -  
 
| style="background:#eaecf0;" | '''2''' || Архитектуры трансформеров || - || -  

Версия 22:07, 6 сентября 2024

О курсе

Курс читается на первом модуле студентам магистерской образовательной программы "Искусственный интеллект".

Канал и чат курса в ТГ: Чат

Группа Преподаватели Zoom Время
Базовая Ершов Глеб суббота 13:00 + вторник 17.09 18:10
Продвинутая Гущин Михаил Zoom четверг 18:10 + среда 25.09 18:10
Ассистенты
Прохоров Савелий
Охотин Даниил
Никифорова Соня-Аня
Кураторы
Залесинский Роман
Зуев Гордей

Материалы курса

Ссылка на плейлист курса на VK: VK-playlist

Ссылка на GitHub с материалами курса: GitHub

Ссылка на stepik: stepik

Занятие Тема Материалы семинаров Дополнительные материалы
1 Трансформеры [Тетрадка] [Colab] [Запись_продвинутая] [Статья1] [Статья2] [Статья3]
2 Архитектуры трансформеров - -
3 Генеративно-состязательные сети (GANs) - -
4 Вариационные автокодировщики (VAEs) и нормализующие потоки (Normalizing Flows) - -
5 Диффузионные модели - -
6 Мультимодальные модели - -
7 Синтез речи (Text-to-Speech) - -
8 Оптимизация моделей - -

Формула оценивания

Общая оценка: min(0.45*ДЗ + 0.2*СР + 0.35*Экз. + 0.05*Самооценка, 10)

Оценка за экзамен: 0.225 * Письм. + 0.125 * Уст.

Самооценка: 0.005 * 10 (проверить)

Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить)

Домашние задания

Инвайт в Anytask: UZppWJ0 (проверить)

Задание 1. Трансформеры

Вам предстоит дообучить трансформер на своих данных.

Дедлайн: 04 марта 2024 года 23:59

Ссылка: (ссылка)

Задание 2. Генеративные модели

Вам предстоит обучить генеративную модель ее на своих данных.

Дедлайн: 01 апреля 2024 года 23:59

Ссылка: (ссылка)

Задание 3. Мультимодельные модели

Вам предстоит разобраться с мультимодальностью.

Дедлайн: 01 апреля 2024 года 23:59

Ссылка: (ссылка)

Тесты и неоцениваемые теоретические ДЗ (ТУДУ)

...

Экзамен (ТУДУ)

...

Литература

Курсы по машинному обучению и анализу данных

Книги

Источник — «http://wiki.cs.hse.ru/index.php?title=Генеративные_модели_в_машинном_обучении_(ИИ_2024)&oldid=85953»