МОВС Глубинное обучение (ММОВС23, 4 модуль) — различия между версиями
Материал из Wiki - Факультет компьютерных наук
(wip) |
(wip) |
||
| (не показано 12 промежуточных версии этого же участника) | |||
| Строка 59: | Строка 59: | ||
| style="background:#eaecf0;" | '''2''' [https://www.youtube.com/watch?v=v4OowpHvoPo Запись (Middle)] || [https://t.me/c/2035805700/6/336 Ноутбук Advanced], [https://t.me/c/2035805700/4/334 Ноутбук Middle] Полносвязные нейронные сети (продолжение) || 20.04.24 || [https://www.youtube.com/watch?v=_RbndAAVMA4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=3 Лекция] "Оптимизации нейронных сетей" || | | style="background:#eaecf0;" | '''2''' [https://www.youtube.com/watch?v=v4OowpHvoPo Запись (Middle)] || [https://t.me/c/2035805700/6/336 Ноутбук Advanced], [https://t.me/c/2035805700/4/334 Ноутбук Middle] Полносвязные нейронные сети (продолжение) || 20.04.24 || [https://www.youtube.com/watch?v=_RbndAAVMA4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=3 Лекция] "Оптимизации нейронных сетей" || | ||
|- | |- | ||
| − | | style="background:#eaecf0;" | '''3''' [https://www.youtube.com/watch?v=43oCfzqoEdQ Запись (Middle)], [https://www.youtube.com/watch?v=3eV5djlSQMs Запись (Advance)] || [Ноутбук] Свёрточные нейронные сети || 27.04.24 || | + | | style="background:#eaecf0;" | '''3''' [https://www.youtube.com/watch?v=43oCfzqoEdQ Запись (Middle)], [https://www.youtube.com/watch?v=3eV5djlSQMs Запись (Advance)] || [https://t.me/c/2035805700/10/403 Ноутбук Advance] Свёрточные нейронные сети || 27.04.24 || |
Лекции Е. Соколова: [https://youtu.be/2fPB3Je7E98 1] (с 54:30) и [https://youtu.be/F53pfjKK0gc 2] или/и | Лекции Е. Соколова: [https://youtu.be/2fPB3Je7E98 1] (с 54:30) и [https://youtu.be/F53pfjKK0gc 2] или/и | ||
| Строка 66: | Строка 66: | ||
|| | || | ||
|- | |- | ||
| − | | style="background:#eaecf0;" | '''4''' [https://www.youtube.com/watch?v=-JXaEGcDKtc Запись (Middle)], [https://www.youtube.com/watch?v=kOJvP8o0_ew Запись (Advance)] || [Ноутбук] Свёрточные нейронные сети (продолжение) || 11.05.24 || [https://www.youtube.com/watch?v=NYKiAqT8xXY&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=5 Лекция Ильдуса], Лекции Е. Соколова: [[https://youtu.be/xQRJpFF_NRw 1]] (с 46:00) и [[https://youtu.be/nsqEJwugQfo 2]] (до 53:30) || [https://drive.google.com/file/d/18DGIsTt14k6Lxhs8myTBfvcGJZfyB81e/view?usp=drive_link Данные] к семинару | + | | style="background:#eaecf0;" | '''4''' [https://www.youtube.com/watch?v=-JXaEGcDKtc Запись (Middle)], [https://www.youtube.com/watch?v=kOJvP8o0_ew Запись (Advance)] || [https://t.me/c/2035805700/10/602 Ноутбук Advance], [https://t.me/c/2035805700/12/600 Ноутбук Middle] Свёрточные нейронные сети (продолжение) || 11.05.24 || [https://www.youtube.com/watch?v=NYKiAqT8xXY&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=5 Лекция Ильдуса], Лекции Е. Соколова: [[https://youtu.be/xQRJpFF_NRw 1]] (с 46:00) и [[https://youtu.be/nsqEJwugQfo 2]] (до 53:30) || [https://drive.google.com/file/d/18DGIsTt14k6Lxhs8myTBfvcGJZfyB81e/view?usp=drive_link Данные] к семинару |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''5''' [Запись] || [Ноутбук] Сегментация и детекция || 20.05.24 || Лекции Соколова [[https://youtu.be/nsqEJwugQfo 1]] (с 53:50) и [[https://youtu.be/WAusZZxx1bE 2]], [https://www.youtube.com/watch?v=GGFSKLPKeL4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=6 Лекция Ильдуса] || | + | | style="background:#eaecf0;" | '''5''' [https://www.youtube.com/watch?v=CN1mZ_DoBRg&feature=youtu.be Запись (Общая)] || [https://t.me/c/2035805700/12/755 Ноутбук] Сегментация и детекция || 20.05.24 || Лекции Соколова [[https://youtu.be/nsqEJwugQfo 1]] (с 53:50) и [[https://youtu.be/WAusZZxx1bE 2]], [https://www.youtube.com/watch?v=GGFSKLPKeL4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=6 Лекция Ильдуса] | [https://www.youtube.com/watch?v=cFmtCUzNF8w Разбор ДЗ1]| |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''6''' [Запись] || [Ноутбук] Нейросетевые векторные представления слов || 27.05.24 || [https://youtu.be/GyI5X82NEn8 Лекция c ИАДа] (читает Антон Семенкин), [https://www.youtube.com/watch?v=pLFnqfvM7No&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=7 Лекция Ильдуса]|| | + | | style="background:#eaecf0;" | '''6''' [https://www.youtube.com/watch?v=iI1k2SQ_dZM Запись] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/seminars/basic/seminar-06-w2v.ipynb Ноутбук] Нейросетевые векторные представления слов || 27.05.24 || [https://youtu.be/GyI5X82NEn8 Лекция c ИАДа] (читает Антон Семенкин), [https://www.youtube.com/watch?v=pLFnqfvM7No&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=7 Лекция Ильдуса]|| |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''7''' [Запись] || [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 01.06.24 || [https://youtu.be/It4-Hg9QNhw Лекция Е. Соколова], [https://www.youtube.com/watch?v=sXWwrz4v2OQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=8 Лекция Ильдуса] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/elvish-names.pickle Данные] к первой части семинара | + | | style="background:#eaecf0;" | '''7''' [https://www.youtube.com/watch?v=AyuhIVohjrA Запись] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/seminars/basic/seminar-07-rnn.ipynb Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 01.06.24 || [https://youtu.be/It4-Hg9QNhw Лекция Е. Соколова], [https://www.youtube.com/watch?v=sXWwrz4v2OQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=8 Лекция Ильдуса] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/elvish-names.pickle Данные] к первой части семинара |
|- | |- | ||
| − | | style="background:#eaecf0;" | '''8''' [Запись] || [Ноутбук] | + | | style="background:#eaecf0;" | '''8''' [https://www.youtube.com/watch?v=DLfAqxWF2aA Запись] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/seminars/basic/seminar-08-transformer.ipynb Ноутбук] Трансформеры || 08.06.24 || [https://www.youtube.com/watch?v=rW6hQloci7M&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=12 Лекция (Ильдус)] || |
|} | |} | ||
| Строка 89: | Строка 89: | ||
# Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-01-mlp/shw-01-mlp-part1.ipynb Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-01-mlp/shw-01-mlp-part2.ipynb Ноутбук]] <br/> '''Дедлайн: 08.05.2024''' | # Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-01-mlp/shw-01-mlp-part1.ipynb Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-01-mlp/shw-01-mlp-part2.ipynb Ноутбук]] <br/> '''Дедлайн: 08.05.2024''' | ||
# Свёрточные нейронные сети | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-02-cnn.ipynb Ноутбук]] | '''Дедлайн: 26.05.2024''' | # Свёрточные нейронные сети | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-02-cnn.ipynb Ноутбук]] | '''Дедлайн: 26.05.2024''' | ||
| − | # Рекуррентные нейронные сети | [https://github.com/isadrtdinov/intro-to-dl-hse/tree/master-2024/homeworks-small/shw-03-rnn Языковые модели (RNN, LSTM)] | '''Дедлайн: | + | # Рекуррентные нейронные сети | [https://github.com/isadrtdinov/intro-to-dl-hse/tree/master-2024/homeworks-small/shw-03-rnn Языковые модели (RNN, LSTM)] | '''Дедлайн: 16.06.2024''' |
== Экзамен == | == Экзамен == | ||
| − | + | ||
| + | [https://www.youtube.com/watch?v=0pmZna9atQc Разбор вопросов к экзамену] | ||
| + | |||
| + | 27.06.2024 - дата экзамена. | ||
== Литература == | == Литература == | ||
Текущая версия на 16:20, 15 июня 2024
Содержание
О курсе
Занятия проходят по субботам.
У базовой группы с 11:10 по 12:30 по ссылке Zoom.
У продвинутой группы с 13:00 по 14:20 по ссылке Zoom.
Контакты
Канал и чат курса в TG: channel link
Преподаватели: Садртдинов Ильдус Рустемович, Гущин Михаил Иванович
| Ассистенты | Контакты |
|---|---|
| Акимов Тимур | @takimov |
| Казюлина Марина | @poemgranate |
| Никифоров Михаил | @caesiummm |
| Жирков Фёдор | @ko4osik |
| Лазарева Анна | @annalzrv |
| Кураторы | Контакты |
|---|---|
| Залесинский Роман | @roman_zalesinskii |
| Герасимова Мария | @mariya_math |
Материалы курса
Ссылка на плейлист курса на YouTube: YouTube-playlist
Ссылка на GitHub с материалами курса: GitHub (ПМИ)
Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive
Ссылка на stepik c : stepik
| Занятие | Тема | Дата | Материалы для самоподготовки к семинарам | Дополнительные материалы |
|---|---|---|---|---|
| 1 Запись (Middle), Запись (Advanced) | Ноутбук Advanced, Ноутбук Middle Полносвязные нейронные сети | 13.04.24 |
Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и Лекция Ильдуса про полносвязные нейросети. Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа |
|
| 2 Запись (Middle) | Ноутбук Advanced, Ноутбук Middle Полносвязные нейронные сети (продолжение) | 20.04.24 | Лекция "Оптимизации нейронных сетей" | |
| 3 Запись (Middle), Запись (Advance) | Ноутбук Advance Свёрточные нейронные сети | 27.04.24 | ||
| 4 Запись (Middle), Запись (Advance) | Ноутбук Advance, Ноутбук Middle Свёрточные нейронные сети (продолжение) | 11.05.24 | Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) | Данные к семинару |
| 5 Запись (Общая) | Ноутбук Сегментация и детекция | 20.05.24 | Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса | Разбор ДЗ1| | |
| 6 Запись | Ноутбук Нейросетевые векторные представления слов | 27.05.24 | Лекция c ИАДа (читает Антон Семенкин), Лекция Ильдуса | |
| 7 Запись | Ноутбук Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder | 01.06.24 | Лекция Е. Соколова, Лекция Ильдуса | Данные к первой части семинара |
| 8 Запись | Ноутбук Трансформеры | 08.06.24 | Лекция (Ильдус) |
Формула оценивания
Оценка 0.15*Stepik + 0.25*Экзамен + 0.6*ДЗ
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75
Дедлайн по Степику: 15.06.2024
Домашние задания
Инвайт в Anytask: UZppWJ0
- Полносвязные нейронные сети
Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
Дедлайн: 08.05.2024 - Свёрточные нейронные сети | [Ноутбук] | Дедлайн: 26.05.2024
- Рекуррентные нейронные сети | Языковые модели (RNN, LSTM) | Дедлайн: 16.06.2024
Экзамен
27.06.2024 - дата экзамена.
Литература
- Гудфеллоу Я. − Глубокое обучение
- Christopher M. Bishop - Pattern Recognition and Machine Learning
- Стивенс Э. - PyTorch. Освещая глубокое обучение
