Глубинное обучение 1 — различия между версиями
Материал из Wiki - Факультет компьютерных наук
(Новая страница: «Глубинное обучение») |
|||
| Строка 1: | Строка 1: | ||
| − | + | ==О курсе== | |
| + | Занятия проводятся в [... Zoom] '''по ...'' | ||
| + | |||
| + | ==Контакты== | ||
| + | |||
| + | Чат курса в TG: [... channel link] | ||
| + | |||
| + | Преподаватель: Садртдинов Ильдус Рустемович | ||
| + | |||
| + | {| class="wikitable" | ||
| + | |- | ||
| + | ! Ассистенты !! Контакты | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | Имя Фамилия || [телеграм] | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | Имя Фамилия || [телеграм] | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | Имя Фамилия || [телеграм] | ||
| + | |} | ||
| + | |||
| + | ==Материалы курса== | ||
| + | Ссылка на плейлист курса на YouTube: [...] | ||
| + | |||
| + | Ссылка на GitHub с материалами курса: [https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023 GitHub (ПМИ)] | ||
| + | |||
| + | Ссылка на GDrive c заполненными семинарскими ноутбуками: [https://drive.google.com/drive/u/0/folders/1UaPud4HbH97HREFo2yW6syX63JVMQ33Q GDrive] | ||
| + | |||
| + | {| class="wikitable" | ||
| + | |- | ||
| + | ! Занятие !! Тема !! Дата !! Материалы для самоподготовки к семинарам !! Дополнительные материалы | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''1''' [[https://www.youtube.com/watch?v=MLzJEXD33hw&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/drive/11ZUgWVc8tOt3VsGNBWxfbGLLxYQ4O4hv Ноутбук]] Полносвязные нейронные сети || 12.04.23 || | ||
| + | Лекции Е. Соколова с ИАДа: [https://youtu.be/-VH7bIoxYp8?t=160 1] и [https://www.youtube.com/watch?v=g552oCpg-NE 2] (до свёрток) или/и | ||
| + | |||
| + | [https://www.youtube.com/watch?v=g552oCpg-NE Лекция] Ильдуса про полносвязные нейросети. | ||
| + | |||
| + | Почитать можно [https://academy.yandex.ru/handbook/ml/article/nejronnye-seti раздел 5] "Введение в глубинное обучение" в учебнике ШАДа | ||
| + | || | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''2''' [[https://www.youtube.com/watch?v=XCL-MnZ96aQ&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/drive/11ZUgWVc8tOt3VsGNBWxfbGLLxYQ4O4hv Ноутбук]] Полносвязные нейронные сети (продолжение) || 19.04.23 || [https://youtu.be/O9JV_Kgd31E Лекция] "Оптимизации нейронных сетей" || | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''3''' [[https://www.youtube.com/watch?v=6JfHclOcYH8&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/drive/1nkuq29334tLTI5Zk2odCuuBdbPpuNjN2 Ноутбук]] Свёрточные нейронные сети || 26.04.23 || | ||
| + | |||
| + | Лекции Е. Соколова: [https://youtu.be/2fPB3Je7E98 1] (с 54:30) и [https://youtu.be/F53pfjKK0gc 2] или/и | ||
| + | |||
| + | [https://youtu.be/xa69n0yCid8 Лекция Ильдуса] (с 40:50) | ||
| + | || | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''4''' [[https://www.youtube.com/watch?v=4o2s9XGrkMk&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://drive.google.com/file/d/1jbH8VCPhlv3isy-3Jij8_YvYRG4dHz_H/view?usp=drive_link Ноутбук]] Свёрточные нейронные сети (продолжение) || 10.05.23 || [https://youtu.be/5S5HpbDm7eA Лекция Ильдуса], Лекции Е. Соколова: [[https://youtu.be/xQRJpFF_NRw 1]] (с 46:00) и [[https://youtu.be/nsqEJwugQfo 2]] (до 53:30) || [https://drive.google.com/file/d/18DGIsTt14k6Lxhs8myTBfvcGJZfyB81e/view?usp=drive_link Данные] к семинару | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''5''' [[https://www.youtube.com/watch?v=K6xfrhgNG7o&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[ Ноутбук]] Сегментация и детекция || 19.05.23 || Лекции Соколова [[https://youtu.be/nsqEJwugQfo 1]] (с 53:50) и [[https://youtu.be/WAusZZxx1bE 2]], [https://youtu.be/gJfDJoLEZIY Лекция Ильдуса] || | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''6''' [[https://www.youtube.com/watch?v=6hPOQyGBotY&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://drive.google.com/file/d/1JieJVHmj9greN9XGGuziOK8Y_zVVvycx/view?usp=drive_link Ноутбук]] Нейросетевые векторные представления слов || 26.05.23 || [https://youtu.be/GyI5X82NEn8 Лекция c ИАДа] (читает Антон Семенкин), [https://youtu.be/WihC2R5lNmg Лекция Ильдуса]|| | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''7''' [[https://www.youtube.com/watch?v=ck-oEfRpabo&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://drive.google.com/file/d/1MvMfS69FFSrNyIjQhghYYTjLl_nVjJr4/view?usp=drive_link Ноутбук]] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 31.05.23 || [https://youtu.be/It4-Hg9QNhw Лекция Е. Соколова], [https://youtu.be/Ysj4i2S0D6c Лекция Ильдуса] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/elvish-names.pickle Данные] к первой части семинара | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''8''' [[https://www.youtube.com/watch?v=YNmafNf1-aM&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://drive.google.com/drive/folders/12WxBHcAAvkqsXeNTZxEvREUliFosE7N9?usp=drive_link Папка с ноутбуком, скриптами и данными]] Дистилляция, квантизация, прунинг || 07.06.23 || [https://youtu.be/Jc-wbLCHtns Лекция (Ильдус)] || | ||
| + | |- | ||
| + | | Конец первой части курса | | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''9''' [[https://www.youtube.com/watch?v=HJ0eksYQxrc&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/drive/1x08lOROtbePfECOos5jj5tdJdX3WMRuq?usp=sharing Ноутбук]] Трансформеры 1 || 06.09.23 || [https://www.youtube.com/watch?v=wLUJVRqzEyM Лекция (Алексей Биршерт)] || Статьи [http://jalammar.github.io/illustrated-transformer/ "The Illustrated Transformer"] и [https://jalammar.github.io/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/ Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention)], Jay Alammar | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''10''' [[https://www.youtube.com/watch?v=kqYh4jrPoiw&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/drive/1N59flbXHCuRWi9Q_2s6QL2YiThMd-2e8?usp=sharing Ноутбук]] Трансформеры 2 (BERT) || 13.09.23 || [https://youtu.be/VpfqcP8HRmQ Лекция Ильдуса] || [https://colab.research.google.com/github/phlippe/uvadlc_notebooks/blob/master/docs/tutorial_notebooks/tutorial17/SimCLR.ipynb Ноутбук про SimCLR] для интересующихся | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''11''' [[https://www.youtube.com/watch?v=QvixMy_t5ew&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/202/seminar-12-adversarial.ipynb Ноутбук], [https://t.me/c/1924418355/68 PDF-ка]] Генеративно-состязательные сети (GANs) || 20.09.23 || [https://youtu.be/banZhpreS2Y Лекция Ильдуса] || [https://pytorch.org/tutorials/beginner/dcgan_faces_tutorial.html Туториал от торча] по GAN'ам для картинок | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''12''' [[https://www.youtube.com/watch?v=mznZ7VtIaPA&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://t.me/c/1924418355/73 Ноутбук]] (Вариационные) автокодировщики [(V)AEs] || 27.09.23 || [https://www.youtube.com/watch?v=sscXFM9jcHA Лекция Ильдуса] || [https://distill.pub/2016/deconv-checkerboard/ Блог-пост про свёртки] | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''13''' [[https://www.youtube.com/watch?v=LTda9ySxoxI&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/github/hse-ds/iad-applied-ds/blob/master/2023/seminars/sem02_flow/sem02_1_flow.ipynb Ноутбук]] Нормализационные потоки (NFs), ''Гущин Михаил'' || 04.10.23 || [https://youtu.be/aj1U36E_RZE Лекция] || | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''14''' [[https://www.youtube.com/watch?v=LJOjv0CeCWA&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/github/hse-ds/iad-applied-ds/blob/master/2023/seminars/sem03_diffusion/sem03_diffusions.ipynb Ноутбук]] Диффузионные модели (Diffusion), ''Гущин Михаил'' || 11.10.23 || [https://youtu.be/z7QH-WWHmfE Лекция] || | ||
| + | |- | ||
| + | | style="background:#eaecf0;" | '''15''' [[https://www.youtube.com/watch?v=J_o_mZm9BLg&list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI Запись]] || [[https://colab.research.google.com/github/hse-ds/iad-applied-ds/blob/master/2022/seminars/sem01/sem01-neural-style.ipynb Ноутбук]] Style Transfer, Deep Fakes & Supurresolution Tasks, ''Гущин Михаил'' || 18.10.23 || [https://www.youtube.com/watch?v=GRJ84i2z_7A Лекция] || | ||
| + | |- | ||
| + | |} | ||
| + | |||
| + | ==Формула оценивания== | ||
| + | Оценка за 4-й модуль = 0.15*О<sub>тесты</sub> + 0.25*О<sub>письменный коллоквиум</sub> + 0.6*О<sub>ДЗ</sub> | ||
| + | |||
| + | Оценка за 5-й модуль = 0.15*О<sub>тесты</sub> + 0.25*О<sub>экзамен</sub> + 0.6*О<sub>ДЗ</sub> | ||
| + | |||
| + | == Домашние задания == | ||
| + | <strike>Инвайт в Anytask: ''DiXQURj''</strike> | ||
| + | |||
| + | # Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-01-mlp Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-01-mlp-light.ipynb Ноутбук]] <br/> '''Дедлайн: 06.05.23 (Сб) 23:59 GMT+3''' | ||
| + | # Свёрточные нейронные сети | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-02-cnn.ipynb Ноутбук]] | '''Дедлайн: 27.05.23 23:59 GMT+3''' | ||
| + | |||
| + | * (''extra'') [https://drive.google.com/drive/folders/1cB7C0MlqRU-LdYsASP2Uy_gD-kbwx0Fg?usp=drive_link Языковые модели (RNN, LSTM)] | '''Дедлайн: 20.06.23 23:59 GMT+3''' | ''это задание не оценивается, но по нему ассистенты дадут развернутый комментарий'' | ||
| + | |||
| + | Инвайт в [https://anytask.org/course/1038 Anytask] второй части курса: <code>osqfLbw</code> | ||
| + | |||
| + | 3.1) Языковое моделирование | [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-03-rnn Ноутбук]] ИЛИ <br/> 3.2) Предсказание оценки отеля по тексту отзыва | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2021-2022/homeworks/homework-03-text.ipynb Ноутбук]] <br/> '''Дедлайн: 01.10.23 (Вс), 23:59 (МСК)''' <br/> <br/> | ||
| + | 4. Генеративные модели | [[https://github.com/hse-mlds/deep-learning/blob/main/HWs/HW2_GenModels/HW2_GenModels.ipynb Ноутбук]] | '''ЖЁСТКИЙ Дедлайн: 23.10.23 (Пн), 23:59 (МСК)''' | ||
| + | <br /> | ||
| + | <br/> | ||
| + | |||
| + | == Тесты и неоцениваемые теоретические ДЗ == | ||
| + | ''Возможны изменения в числе тестов в б'''о'''льшую сторону'' | ||
| + | |||
| + | # [https://addonforge.com/timer/1FAIpQLSfv0YfUZ6zcI1CY05QjoZQDoNqKwzTGDAOlNuV0t4uN2JalIg "Полносвязные нейронные сети. Введение в pytorch"], выдан 27.04.23, '''дедлайн - '''<strike>30.04.23 (Вс)</strike> '''02.05.23 (Вт) 20:59 GMT+3''' | ||
| + | # [https://docs.google.com/forms/d/e/1FAIpQLSeTMDj-gPfAgKFtG-2zXKvPB6RRuYYu7kgQNEnVwhMXOEoGrw/viewform?usp=sf_link "Сверточные нейронные сети"], выдан 26.06.23, '''дедлайн - 29.05.23(Пн) 23:59 GMT+3''', ''досдать можно со штрафом в 2 балла до 20.06'' | ||
| + | # [https://docs.google.com/forms/d/e/1FAIpQLSciENvCmNFJOusYOQzrP86gNDjOsEF4S-WaE72YLQWV4FiU-w/viewform?usp=sf_link Векторные представления текстов. RNN, LSTM], выдан 09.06.23, '''дедлайн - 13.06.23 (Вт) 23:59 GMT+3''', ''досдать можно со штрафом в 2 балла до 20.06'' | ||
| + | # [https://forms.gle/HrU5gZhfox1pGMi5A Трансформеры и BERT], '''дедлайн: 30.09.23 (Сб), 23:59 (МСК)'''<br/> | ||
| + | # [https://docs.google.com/forms/d/e/1FAIpQLSfkhxlMrO-5N3UKx-YOIu6QKyjjCha_1SVhHjW7ylmmJrVlpw/viewform?usp=sf_link GANs + VAEs], '''дедлайн: 10.10.23 (Вт), 23:59 (МСК)''' <br/> | ||
| + | # Normalizing Flows + Diffusion | ||
| + | |||
| + | <small>''Возможно будет ещё 1-2 квиза на прочие топики.''</small> | ||
| + | |||
| + | * <small>[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-theory/thw-01-mlp.pdf Теоретическое ДЗ-1] "Полносвязные НС" (не оценивается)</small> | ||
| + | |||
| + | <strike><small>''За решение теоретических ДЗ возможно будут предусмотрены бонусы''</small></strike> | ||
| + | |||
| + | |||
| + | == Экзамен == | ||
| + | ... | ||
| + | |||
| + | == Литература == | ||
| + | * Гудфеллоу Я. − Глубокое обучение | ||
| + | * Christopher M. Bishop - Pattern Recognition and Machine Learning | ||
| + | * Стивенс Э. - PyTorch. Освещая глубокое обучение | ||
Версия 20:02, 2 апреля 2024
Содержание
О курсе
Занятия проводятся в [... Zoom] 'по ...
Контакты
Чат курса в TG: [... channel link]
Преподаватель: Садртдинов Ильдус Рустемович
| Ассистенты | Контакты |
|---|---|
| Имя Фамилия | [телеграм] |
| Имя Фамилия | [телеграм] |
| Имя Фамилия | [телеграм] |
Материалы курса
Ссылка на плейлист курса на YouTube: [...]
Ссылка на GitHub с материалами курса: GitHub (ПМИ)
Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive
| Занятие | Тема | Дата | Материалы для самоподготовки к семинарам | Дополнительные материалы |
|---|---|---|---|---|
| 1 [Запись] | [Ноутбук] Полносвязные нейронные сети | 12.04.23 |
Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и Лекция Ильдуса про полносвязные нейросети. Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа |
|
| 2 [Запись] | [Ноутбук] Полносвязные нейронные сети (продолжение) | 19.04.23 | Лекция "Оптимизации нейронных сетей" | |
| 3 [Запись] | [Ноутбук] Свёрточные нейронные сети | 26.04.23 |
Лекции Е. Соколова: 1 (с 54:30) и 2 или/и Лекция Ильдуса (с 40:50) |
|
| 4 [Запись] | [Ноутбук] Свёрточные нейронные сети (продолжение) | 10.05.23 | Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) | Данные к семинару |
| 5 [Запись] | Ноутбук Сегментация и детекция | 19.05.23 | Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса | |
| 6 [Запись] | [Ноутбук] Нейросетевые векторные представления слов | 26.05.23 | Лекция c ИАДа (читает Антон Семенкин), Лекция Ильдуса | |
| 7 [Запись] | [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder | 31.05.23 | Лекция Е. Соколова, Лекция Ильдуса | Данные к первой части семинара |
| 8 [Запись] | [Папка с ноутбуком, скриптами и данными] Дистилляция, квантизация, прунинг | 07.06.23 | Лекция (Ильдус) | |
| 9 [Запись] | [Ноутбук] Трансформеры 1 | 06.09.23 | Лекция (Алексей Биршерт) | Статьи "The Illustrated Transformer" и Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention), Jay Alammar |
| 10 [Запись] | [Ноутбук] Трансформеры 2 (BERT) | 13.09.23 | Лекция Ильдуса | Ноутбук про SimCLR для интересующихся |
| 11 [Запись] | [Ноутбук, PDF-ка] Генеративно-состязательные сети (GANs) | 20.09.23 | Лекция Ильдуса | Туториал от торча по GAN'ам для картинок |
| 12 [Запись] | [Ноутбук] (Вариационные) автокодировщики [(V)AEs] | 27.09.23 | Лекция Ильдуса | Блог-пост про свёртки |
| 13 [Запись] | [Ноутбук] Нормализационные потоки (NFs), Гущин Михаил | 04.10.23 | Лекция | |
| 14 [Запись] | [Ноутбук] Диффузионные модели (Diffusion), Гущин Михаил | 11.10.23 | Лекция | |
| 15 [Запись] | [Ноутбук] Style Transfer, Deep Fakes & Supurresolution Tasks, Гущин Михаил | 18.10.23 | Лекция |
Формула оценивания
Оценка за 4-й модуль = 0.15*Отесты + 0.25*Описьменный коллоквиум + 0.6*ОДЗ
Оценка за 5-й модуль = 0.15*Отесты + 0.25*Оэкзамен + 0.6*ОДЗ
Домашние задания
Инвайт в Anytask: DiXQURj
- Полносвязные нейронные сети
Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
Дедлайн: 06.05.23 (Сб) 23:59 GMT+3 - Свёрточные нейронные сети | [Ноутбук] | Дедлайн: 27.05.23 23:59 GMT+3
- (extra) Языковые модели (RNN, LSTM) | Дедлайн: 20.06.23 23:59 GMT+3 | это задание не оценивается, но по нему ассистенты дадут развернутый комментарий
Инвайт в Anytask второй части курса: osqfLbw
3.1) Языковое моделирование | [Ноутбук] ИЛИ
3.2) Предсказание оценки отеля по тексту отзыва | [Ноутбук]
Дедлайн: 01.10.23 (Вс), 23:59 (МСК)
4. Генеративные модели | [Ноутбук] | ЖЁСТКИЙ Дедлайн: 23.10.23 (Пн), 23:59 (МСК)
Тесты и неоцениваемые теоретические ДЗ
Возможны изменения в числе тестов в большую сторону
- "Полносвязные нейронные сети. Введение в pytorch", выдан 27.04.23, дедлайн -
30.04.23 (Вс)02.05.23 (Вт) 20:59 GMT+3 - "Сверточные нейронные сети", выдан 26.06.23, дедлайн - 29.05.23(Пн) 23:59 GMT+3, досдать можно со штрафом в 2 балла до 20.06
- Векторные представления текстов. RNN, LSTM, выдан 09.06.23, дедлайн - 13.06.23 (Вт) 23:59 GMT+3, досдать можно со штрафом в 2 балла до 20.06
- Трансформеры и BERT, дедлайн: 30.09.23 (Сб), 23:59 (МСК)
- GANs + VAEs, дедлайн: 10.10.23 (Вт), 23:59 (МСК)
- Normalizing Flows + Diffusion
Возможно будет ещё 1-2 квиза на прочие топики.
- Теоретическое ДЗ-1 "Полносвязные НС" (не оценивается)
За решение теоретических ДЗ возможно будут предусмотрены бонусы
Экзамен
...
Литература
- Гудфеллоу Я. − Глубокое обучение
- Christopher M. Bishop - Pattern Recognition and Machine Learning
- Стивенс Э. - PyTorch. Освещая глубокое обучение
