МОВС Глубинное обучение (ММОВС22, 4-5 модули) — различия между версиями
м (before sem5) |
м (add hw2) |
||
Строка 75: | Строка 75: | ||
# Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-01-mlp Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-01-mlp-light.ipynb Ноутбук]] <br/> '''Дедлайн: 06.05.23 (Сб) 23:59 GMT+3''' | # Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-01-mlp Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-01-mlp-light.ipynb Ноутбук]] <br/> '''Дедлайн: 06.05.23 (Сб) 23:59 GMT+3''' | ||
− | # Свёрточные нейронные сети | + | # Свёрточные нейронные сети | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-02-cnn.ipynb Ноутбук]] | '''Дедлайн: 27.05.23 23:59 GMT+3''' |
# Рекуррентные нейронные сети | # Рекуррентные нейронные сети | ||
Версия 14:38, 18 мая 2023
Содержание
О курсе
Занятия проводятся в Zoom по средам в 19:00
Контакты
Канал курса в TG: channel link
Чат курса в TG: chat link
Преподаватель: Садртдинов Ильдус Рустемович
Ассистенты | Контакты |
---|---|
Марк Блуменау | @markblumenau |
Илья Никитин | @is_nikitin |
Кирилл Козлов | @dedpe |
Материалы курса
Ссылка на плейлист курса на YouTube: YouTube-playlist
Ссылка на GitHub с материалами курса: GitHub (ПМИ)
Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive
Занятие | Тема | Дата | Материалы для самоподготовки к семинарам | Дополнительные материалы |
---|---|---|---|---|
1 [Запись] | [Ноутбук] Полносвязные нейронные сети | 12.04.23 |
Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и Лекция Ильдуса про полносвязные нейросети. Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа |
|
2 [Запись] | [Ноутбук] Полносвязные нейронные сети (продолжение) | 19.04.23 | Лекция "Оптимизации нейронных сетей" | |
3 [Запись] | [Ноутбук] Свёрточные нейронные сети | 26.04.23 |
Лекции Е. Соколова: 1 (с 54:30) и 2 или/и Лекция Ильдуса (с 40:50) |
|
4 [Запись] | Ноутбук Свёрточные нейронные сети (продолжение) | 10.05.23 | Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) | |
5 Запись | Ноутбук Регуляризация нейронных сетей: dropout, batch-norm, etc. | 19.05.23 | Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса | |
6 Запись | Ноутбук Сегментация и детекция | 24.05.23 | ||
7 Запись | Ноутбук Нейросетевые векторные представления слов | 31.05.23 | ||
8 Запись | Ноутбук Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder | 07.06.23 | ||
На втором курсе вас ждет продолжение: трансформеры и семейство генеративных моделей
Записи консультаций
Формула оценивания
Оценка = 0.15*Отесты + 0.25*Описьменный коллоквиум + 0.6*ОДЗ
Домашние задания
Инвайт в Anytask: DiXQURj
- Полносвязные нейронные сети
Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
Дедлайн: 06.05.23 (Сб) 23:59 GMT+3 - Свёрточные нейронные сети | [Ноутбук] | Дедлайн: 27.05.23 23:59 GMT+3
- Рекуррентные нейронные сети
Тесты и неоцениваемые теоретические ДЗ
- "Полносвязные нейронные сети. Введение в pytorch", выдан 27.04.23, дедлайн -
30.04.23 (Вс)02.05.23 (Вт) 20:59 GMT+3 - Свертки
- Векторные представления текстов. RNN
Возможно будет ещё 1-2 квиза на прочие топики.
- Теоретическое ДЗ-1 "Полносвязные НС" (не оценивается)
За решение теоретических ДЗ возможно будут предусмотрены бонусы
Коллоквиум
Коллоквиум состоится не ранее 14.06 и вероятно будет представлять собой 4-5 задач с письменным ответом на понимание теории Глубинного обучения.
О дополнениях и уточнениях сообщим позже.
Литература
- Гудфеллоу Я. − Глубокое обучение
- Christopher M. Bishop - Pattern Recognition and Machine Learning
- Стивенс Э. - PyTorch. Освещая глубокое обучение