МОВС Глубинное обучение (ММОВС22, 4-5 модули) — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
(create page)
 
(wip)
 
(не показаны 74 промежуточные версии 2 участников)
Строка 1: Строка 1:
 
==О курсе==
 
==О курсе==
 +
Занятия проходят по субботам.
  
−
Занятия проводятся в [https://us06web.zoom.us/j/85330642000?pwd=RldvL2VKdWx1a1oxOHlVWkZhWVVRQT09 Zoom] '''по средам в 19:00'''
+
У базовой группы с 11:10 по 12:30 по ссылке [https://us06web.zoom.us/j/85850070916?pwd=SBsy14mkf2YUCzlPmnaFzrVVzGYu3e.1 Zoom].
  
−
==Контакты==
+
У продвинутой группы с 13:00 по 14:20 по ссылке [https://us06web.zoom.us/j/83441460838?pwd=ZuTW742AyjQaPGEnAw8XJJkpyxRTs6.1 Zoom].
  
−
Канал курса в TG: [https://t.me/+nUzdJU5ZSdFhZWYy channel link]
+
==Контакты==
  
−
Чат курса в TG: [https://t.me/+V2Ujo0QzXWYyZjdi chat link]
+
Канал и чат курса в TG: [https://t.me/+wudNpSb5vmkxMmVi channel link]
  
−
Преподаватель: Садртдинов Ильдус Рустемович
+
Преподаватели: Садртдинов Ильдус Рустемович, Гущин Михаил Иванович
  
 
{| class="wikitable"
 
{| class="wikitable"
Строка 15: Строка 16:
 
! Ассистенты !! Контакты  
 
! Ассистенты !! Контакты  
 
|-
 
|-
−
| style="background:#eaecf0;" | Марк Блуменау || [https://t.me/markblumenau @markblumenau ]
+
| style="background:#eaecf0;" | Акимов Тимур || [https://t.me/takimov @takimov]
 
|-
 
|-
−
| style="background:#eaecf0;" | Илья Никитин || [https://t.me/is_nikitin @is_nikitin]
+
| style="background:#eaecf0;" | Казюлина Марина || [https://t.me/poemgranate @poemgranate]
 
|-
 
|-
−
| style="background:#eaecf0;" | Кирилл Козлов || [https://t.me/dedpe @dedpe]
+
| style="background:#eaecf0;" | Никифоров Михаил || [https://t.me/caesiummm @caesiummm]
 +
|-
 +
| style="background:#eaecf0;" | Жирков Фёдор || [https://t.me/ko4osik @ko4osik]
 +
|-
 +
| style="background:#eaecf0;" | Лазарева Анна || [https://t.me/annalzrv @annalzrv]
 +
|}
 +
 
 +
{| class="wikitable"
 +
|-
 +
! Кураторы !! Контакты
 +
|-
 +
| style="background:#eaecf0;" | Залесинский Роман || [https://t.me/roman_zalesinskii  @roman_zalesinskii ]
 +
|-
 +
| style="background:#eaecf0;" | Герасимова Мария || [https://t.me/mariya_math @mariya_math]
 
|}
 
|}
  
Строка 25: Строка 39:
 
Ссылка на плейлист курса на YouTube: [https://www.youtube.com/playlist?list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI YouTube-playlist]
 
Ссылка на плейлист курса на YouTube: [https://www.youtube.com/playlist?list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI YouTube-playlist]
  
−
Ссылка на GitHub с материалами курса: [[ GitHub repository]]
+
Ссылка на GitHub с материалами курса: [https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023 GitHub (ПМИ)]
 +
 
 +
Ссылка на GDrive c заполненными семинарскими ноутбуками: [https://drive.google.com/drive/u/0/folders/1UaPud4HbH97HREFo2yW6syX63JVMQ33Q GDrive]
  
 
{| class="wikitable"
 
{| class="wikitable"
Строка 31: Строка 47:
 
  ! Занятие !! Тема !! Дата !! Материалы для самоподготовки к семинарам !! Дополнительные материалы
 
  ! Занятие !! Тема !! Дата !! Материалы для самоподготовки к семинарам !! Дополнительные материалы
 
|-
 
|-
−
| style="background:#eaecf0;" | '''1''' [[ Запись]] || [[ Ноутбук]] Полносвязные нейронные сети || 12.04.23 || ||  
+
| style="background:#eaecf0;" | '''1''' [[https://www.youtube.com/watch?v=Dthv3qAb56E Запись (Middle)], [https://www.youtube.com/watch?v=PQMsF3WAot0 Запись (Advanced)]] || [[https://t.me/c/2035805700/6/243 Ноутбук Advanced], [https://t.me/c/2035805700/4/237 Ноутбук Middle]] Полносвязные нейронные сети || 13.04.24 ||  
 +
Лекции Е. Соколова с ИАДа: [https://youtu.be/-VH7bIoxYp8?t=160 1] и [https://www.youtube.com/watch?v=g552oCpg-NE 2] (до свёрток) или/и
 +
 
 +
[https://www.youtube.com/watch?v=DXZK3rpDp4U&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=1&t=1s Лекция] Ильдуса про полносвязные нейросети.
 +
 
 +
Почитать можно [https://academy.yandex.ru/handbook/ml/article/nejronnye-seti раздел 5] "Введение в глубинное обучение" в учебнике ШАДа
 +
||  
 
|-
 
|-
−
| style="background:#eaecf0;" | '''2''' [[ Запись]] || [[ Ноутбук]] Полносвязные нейронные сети (продолжение) || 19.04.23 || ||  
+
| style="background:#eaecf0;" | '''2''' [[https://www.youtube.com/watch?v=v4OowpHvoPo Запись (Middle)]] || [[https://t.me/c/2035805700/6/336 Ноутбук Advanced], [https://t.me/c/2035805700/4/334 Ноутбук Middle]] Полносвязные нейронные сети (продолжение) || 20.04.24 || [https://www.youtube.com/watch?v=_RbndAAVMA4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=3 Лекция] "Оптимизации нейронных сетей" ||  
 
|-
 
|-
−
| style="background:#eaecf0;" | '''3''' [[ Запись]] || [[ Ноутбук]] Свёрточные нейронные сети || 26.04.23 || ||
+
| style="background:#eaecf0;" | '''3''' [Запись] || [Ноутбук] Свёрточные нейронные сети || 26.04.23 ||  
 +
 
 +
Лекции Е. Соколова: [https://youtu.be/2fPB3Je7E98 1] (с 54:30) и [https://youtu.be/F53pfjKK0gc 2] или/и
 +
 
 +
[https://www.youtube.com/watch?v=C__S5v9iObQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=4 Лекция Ильдуса]
 +
||
 
|-
 
|-
−
| style="background:#eaecf0;" | '''4''' [[ Запись]] || [[ Ноутбук]] Свёрточные нейронные сети (продолжение) || 10.05.23 || ||  
+
| style="background:#eaecf0;" | '''4''' [Запись] || [Ноутбук] Свёрточные нейронные сети (продолжение) || 10.05.23 || [https://www.youtube.com/watch?v=NYKiAqT8xXY&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=5 Лекция Ильдуса], Лекции Е. Соколова: [[https://youtu.be/xQRJpFF_NRw 1]] (с 46:00) и [[https://youtu.be/nsqEJwugQfo 2]] (до 53:30) || [https://drive.google.com/file/d/18DGIsTt14k6Lxhs8myTBfvcGJZfyB81e/view?usp=drive_link Данные] к семинару
 
|-
 
|-
−
| style="background:#eaecf0;" | '''5''' [[ Запись]] || [[ Ноутбук]] Регуляризация нейронных сетей: dropout, batch-norm, etc. || 17.05.23 || ||  
+
| style="background:#eaecf0;" | '''5''' [Запись] || [Ноутбук] Сегментация и детекция || 19.05.23 || Лекции Соколова [[https://youtu.be/nsqEJwugQfo 1]] (с 53:50) и [[https://youtu.be/WAusZZxx1bE 2]], [https://www.youtube.com/watch?v=GGFSKLPKeL4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=6 Лекция Ильдуса] ||  
 
|-
 
|-
−
| style="background:#eaecf0;" | '''6''' [[ Запись]] || [[ Ноутбук]] Сегментация и детекция || 24.05.23 || ||  
+
| style="background:#eaecf0;" | '''6''' [Запись] || [Ноутбук] Нейросетевые векторные представления слов || 26.05.23 || [https://youtu.be/GyI5X82NEn8 Лекция c ИАДа] (читает Антон Семенкин), [https://www.youtube.com/watch?v=pLFnqfvM7No&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=7 Лекция Ильдуса]||  
 
|-
 
|-
−
| style="background:#eaecf0;" | '''7''' [[ Запись]] || [[ Ноутбук]] Нейросетевые векторные представления слов || 31.05.23 || ||  
+
| style="background:#eaecf0;" | '''7''' [Запись] || [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 31.05.23 || [https://youtu.be/It4-Hg9QNhw Лекция Е. Соколова], [https://www.youtube.com/watch?v=sXWwrz4v2OQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=8 Лекция Ильдуса] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/elvish-names.pickle Данные] к первой части семинара
 
|-
 
|-
−
| style="background:#eaecf0;" | '''8''' [[ Запись]] || [[ Ноутбук]] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 07.06.23 || ||  
+
| style="background:#eaecf0;" | '''8''' [Запись] || [Ноутбук] Дистилляция, квантизация, прунинг || 07.06.23 || [https://www.youtube.com/watch?v=rW6hQloci7M&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=12 Лекция (Ильдус)] ||  
 
|-
 
|-
−
Конец первой части курса
+
| Конец первой части курса |
 +
|-
 +
| style="background:#eaecf0;" | '''9''' [Запись]  || [Ноутбук] Трансформеры 1 || 06.09.23 || [https://www.youtube.com/watch?v=wLUJVRqzEyM Лекция (Алексей Биршерт)], [https://www.youtube.com/watch?v=x5bIzeIPdvI&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=9 Лекция Ильдуса] || Статьи [http://jalammar.github.io/illustrated-transformer/ "The Illustrated Transformer"] и [https://jalammar.github.io/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/ Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention)], Jay Alammar
 +
|-
 +
| style="background:#eaecf0;" | '''10''' [Запись] || [Ноутбук] Трансформеры 2 (BERT) || 13.09.23 || [https://www.youtube.com/watch?v=XEZBwLRPDBY&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=10 Лекция Ильдуса] || [https://colab.research.google.com/github/phlippe/uvadlc_notebooks/blob/master/docs/tutorial_notebooks/tutorial17/SimCLR.ipynb Ноутбук про SimCLR] для интересующихся
 +
|-
 +
| style="background:#eaecf0;" | '''11''' [Запись] || [Ноутбук], [https://t.me/c/1924418355/68 PDF-ка]] Генеративно-состязательные сети (GANs) || 20.09.23 || [https://www.youtube.com/watch?v=EbuW6AFAfho&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=13 Лекция Ильдуса] || [https://pytorch.org/tutorials/beginner/dcgan_faces_tutorial.html Туториал от торча] по GAN'ам для картинок
 +
|-
 +
| style="background:#eaecf0;" | '''12''' [Запись] || [Ноутбук] (Вариационные) автокодировщики [(V)AEs] || 27.09.23 || [https://www.youtube.com/watch?v=KiwaAQBYbCI&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=14 Лекция Ильдуса] || [https://distill.pub/2016/deconv-checkerboard/ Блог-пост про свёртки]
 +
|-
 +
| style="background:#eaecf0;" | '''13''' [Запись] || [Ноутбук] Нормализационные потоки (NFs), ''Гущин Михаил'' || 04.10.23 || [https://youtu.be/aj1U36E_RZE Лекция] ||
 +
|-
 +
| style="background:#eaecf0;" | '''14''' [Запись] || [Ноутбук] Диффузионные модели (Diffusion), ''Гущин Михаил'' || 11.10.23 || [https://youtu.be/z7QH-WWHmfE Лекция], [https://www.youtube.com/watch?v=H0fczcpFbpg&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=15 Лекция Ильдуса] ||
 +
|-
 +
| style="background:#eaecf0;" | '''15''' [Запись] || [Ноутбук] Style Transfer, Deep Fakes & Supurresolution Tasks, ''Гущин Михаил'' || 18.10.23 || [https://www.youtube.com/watch?v=GRJ84i2z_7A Лекция] ||
 
|-
 
|-
 
|}
 
|}
  
−
На втором курсе вас ждет продолжение: трансформеры и семейство генеративных моделей
+
==Формула оценивания==
 +
Оценка  0.15*Тесты + 0.25*Письменный коллоквиум + 0.6*ДЗ
  
−
=== Записи консультаций ===
+
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75
  
 +
== Домашние задания ==
 +
Инвайт в Anytask: ''UZppWJ0''
  
−
==Формула оценивания==
+
* Домашнее задание 1 - Дедлайн: 08.05.2024
−
Оценка = 0.15*О<sub>тесты</sub> + 0.25*О<sub>письменный коллоквиум</sub> + 0.6*О<sub>ДЗ</sub>
+
Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-01-mlp Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-01-mlp-light.ipynb Ноутбук]] <br/> '''
 +
* Домашнее задание 2 - Дедлайн: 26.05.2024
 +
Свёрточные нейронные сети | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-02-cnn.ipynb Ноутбук]] |
 +
* Домашнее задание 3 - Дедлайн: 09.06.2024
 +
[https://drive.google.com/drive/folders/1cB7C0MlqRU-LdYsASP2Uy_gD-kbwx0Fg?usp=drive_link Языковые модели (RNN, LSTM)] | ''Это задание не оценивается, но по нему ассистенты дадут развернутый комментарий''
  
−
== Домашние задания ==
+
== Тесты и неоцениваемые теоретические ДЗ ==
−
# Полносвязные нейронные сети
+
 
−
# Свёрточные нейронные сети
+
== Коллоквиум ==
−
# Рекуррентные нейронные сети
+
Коллоквиум состоится ''не ранее 14.06'' и ''вероятно'' будет представлять собой 4-5 задач с письменным ответом на понимание теории Глубинного обучения.
 +
 
 +
О дополнениях и уточнениях сообщим позже.
 +
 
 +
== Экзамен ==
 +
Экзамен будет устный, пройдет в сессию 5-го модуля. Будет состоять из вопросов по трансформерам и генеративным моделям, а также материалам первой части курса.
 +
 
 +
''С прочими уточнениями вернемся позднее''
  
 
== Литература ==
 
== Литература ==

Текущая версия на 23:48, 20 апреля 2024

О курсе

Занятия проходят по субботам.

У базовой группы с 11:10 по 12:30 по ссылке Zoom.

У продвинутой группы с 13:00 по 14:20 по ссылке Zoom.

Контакты

Канал и чат курса в TG: channel link

Преподаватели: Садртдинов Ильдус Рустемович, Гущин Михаил Иванович

Ассистенты Контакты
Акимов Тимур @takimov
Казюлина Марина @poemgranate
Никифоров Михаил @caesiummm
Жирков Фёдор @ko4osik
Лазарева Анна @annalzrv
Кураторы Контакты
Залесинский Роман @roman_zalesinskii
Герасимова Мария @mariya_math

Материалы курса

Ссылка на плейлист курса на YouTube: YouTube-playlist

Ссылка на GitHub с материалами курса: GitHub (ПМИ)

Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 [Запись (Middle), Запись (Advanced)] [Ноутбук Advanced, Ноутбук Middle] Полносвязные нейронные сети 13.04.24

Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и

Лекция Ильдуса про полносвязные нейросети.

Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа

2 [Запись (Middle)] [Ноутбук Advanced, Ноутбук Middle] Полносвязные нейронные сети (продолжение) 20.04.24 Лекция "Оптимизации нейронных сетей"
3 [Запись] [Ноутбук] Свёрточные нейронные сети 26.04.23

Лекции Е. Соколова: 1 (с 54:30) и 2 или/и

Лекция Ильдуса

4 [Запись] [Ноутбук] Свёрточные нейронные сети (продолжение) 10.05.23 Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) Данные к семинару
5 [Запись] [Ноутбук] Сегментация и детекция 19.05.23 Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса
6 [Запись] [Ноутбук] Нейросетевые векторные представления слов 26.05.23 Лекция c ИАДа (читает Антон Семенкин), Лекция Ильдуса
7 [Запись] [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder 31.05.23 Лекция Е. Соколова, Лекция Ильдуса Данные к первой части семинара
8 [Запись] [Ноутбук] Дистилляция, квантизация, прунинг 07.06.23 Лекция (Ильдус)
9 [Запись] [Ноутбук] Трансформеры 1 06.09.23 Лекция (Алексей Биршерт), Лекция Ильдуса Статьи "The Illustrated Transformer" и Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention), Jay Alammar
10 [Запись] [Ноутбук] Трансформеры 2 (BERT) 13.09.23 Лекция Ильдуса Ноутбук про SimCLR для интересующихся
11 [Запись] [Ноутбук], PDF-ка] Генеративно-состязательные сети (GANs) 20.09.23 Лекция Ильдуса Туториал от торча по GAN'ам для картинок
12 [Запись] [Ноутбук] (Вариационные) автокодировщики [(V)AEs] 27.09.23 Лекция Ильдуса Блог-пост про свёртки
13 [Запись] [Ноутбук] Нормализационные потоки (NFs), Гущин Михаил 04.10.23 Лекция
14 [Запись] [Ноутбук] Диффузионные модели (Diffusion), Гущин Михаил 11.10.23 Лекция, Лекция Ильдуса
15 [Запись] [Ноутбук] Style Transfer, Deep Fakes & Supurresolution Tasks, Гущин Михаил 18.10.23 Лекция

Формула оценивания

Оценка 0.15*Тесты + 0.25*Письменный коллоквиум + 0.6*ДЗ

Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75

Домашние задания

Инвайт в Anytask: UZppWJ0

  • Домашнее задание 1 - Дедлайн: 08.05.2024

Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]

  • Домашнее задание 2 - Дедлайн: 26.05.2024

Свёрточные нейронные сети | [Ноутбук] |

  • Домашнее задание 3 - Дедлайн: 09.06.2024

Языковые модели (RNN, LSTM) | Это задание не оценивается, но по нему ассистенты дадут развернутый комментарий

Тесты и неоцениваемые теоретические ДЗ

Коллоквиум

Коллоквиум состоится не ранее 14.06 и вероятно будет представлять собой 4-5 задач с письменным ответом на понимание теории Глубинного обучения.

О дополнениях и уточнениях сообщим позже.

Экзамен

Экзамен будет устный, пройдет в сессию 5-го модуля. Будет состоять из вопросов по трансформерам и генеративным моделям, а также материалам первой части курса.

С прочими уточнениями вернемся позднее

Литература

  • Гудфеллоу Я. − Глубокое обучение
  • Christopher M. Bishop - Pattern Recognition and Machine Learning
  • Стивенс Э. - PyTorch. Освещая глубокое обучение
Источник — «http://wiki.cs.hse.ru/index.php?title=МОВС_Глубинное_обучение_(ММОВС22,_4-5_модули)&oldid=84775»