Просмотр исходного текста страницы МОВС Глубинное обучение (ММОВС23, 4 модуль)

==О курсе==
Занятия проходят по субботам.

У базовой группы с 11:10 по 12:30 по ссылке [https://us06web.zoom.us/j/85850070916?pwd=SBsy14mkf2YUCzlPmnaFzrVVzGYu3e.1 Zoom].

У продвинутой группы с 13:00 по 14:20 по ссылке [https://us06web.zoom.us/j/83441460838?pwd=ZuTW742AyjQaPGEnAw8XJJkpyxRTs6.1 Zoom].

==Контакты==

Канал и чат курса в TG: [https://t.me/+wudNpSb5vmkxMmVi channel link]

Преподаватели: Садртдинов Ильдус Рустемович, Гущин Михаил Иванович

{| class="wikitable"
|-
! Ассистенты !! Контакты 
|-
| style="background:#eaecf0;" | Акимов Тимур || [https://t.me/takimov @takimov]
|-
| style="background:#eaecf0;" | Казюлина Марина || [https://t.me/poemgranate @poemgranate]
|-
| style="background:#eaecf0;" | Никифоров Михаил || [https://t.me/caesiummm @caesiummm]
|-
| style="background:#eaecf0;" | Жирков Фёдор || [https://t.me/ko4osik @ko4osik]
|-
| style="background:#eaecf0;" | Лазарева Анна || [https://t.me/annalzrv @annalzrv]
|}

{| class="wikitable"
|-
! Кураторы !! Контакты 
|-
| style="background:#eaecf0;" | Залесинский Роман || [https://t.me/roman_zalesinskii  @roman_zalesinskii ]
|-
| style="background:#eaecf0;" | Герасимова Мария || [https://t.me/mariya_math @mariya_math]
|}

==Материалы курса==
Ссылка на плейлист курса на YouTube: [https://www.youtube.com/playlist?list=PLmA-1xX7IuzB9_Ftp0pLFIVsqBOr0XrUI YouTube-playlist]

Ссылка на GitHub с материалами курса: [https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023 GitHub (ПМИ)]

Ссылка на GDrive c заполненными семинарскими ноутбуками: [https://drive.google.com/drive/u/0/folders/1UaPud4HbH97HREFo2yW6syX63JVMQ33Q GDrive]

Ссылка на stepik c : [https://stepik.org/course/179805/promo#toc stepik]

{| class="wikitable"
|-
 ! Занятие !! Тема !! Дата !! Материалы для самоподготовки к семинарам !! Дополнительные материалы
|-
| style="background:#eaecf0;" | '''1''' [https://www.youtube.com/watch?v=Dthv3qAb56E Запись (Middle)], [https://www.youtube.com/watch?v=PQMsF3WAot0 Запись (Advanced)] || [https://t.me/c/2035805700/6/243 Ноутбук Advanced], [https://t.me/c/2035805700/4/237 Ноутбук Middle] Полносвязные нейронные сети || 13.04.24 || 
Лекции Е. Соколова с ИАДа: [https://youtu.be/-VH7bIoxYp8?t=160 1] и [https://www.youtube.com/watch?v=g552oCpg-NE 2] (до свёрток) или/и 

[https://www.youtube.com/watch?v=DXZK3rpDp4U&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=1&t=1s Лекция] Ильдуса про полносвязные нейросети.

Почитать можно [https://academy.yandex.ru/handbook/ml/article/nejronnye-seti раздел 5] "Введение в глубинное обучение" в учебнике ШАДа
|| 
|-
| style="background:#eaecf0;" | '''2''' [https://www.youtube.com/watch?v=v4OowpHvoPo Запись (Middle)] || [https://t.me/c/2035805700/6/336 Ноутбук Advanced], [https://t.me/c/2035805700/4/334 Ноутбук Middle] Полносвязные нейронные сети (продолжение) || 20.04.24 || [https://www.youtube.com/watch?v=_RbndAAVMA4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=3 Лекция] "Оптимизации нейронных сетей" || 
|-
| style="background:#eaecf0;" | '''3''' [https://www.youtube.com/watch?v=43oCfzqoEdQ Запись (Middle)], [https://www.youtube.com/watch?v=3eV5djlSQMs Запись (Advance)] || [https://t.me/c/2035805700/10/403 Ноутбук Advance] Свёрточные нейронные сети || 27.04.24 || 

Лекции Е. Соколова: [https://youtu.be/2fPB3Je7E98 1] (с 54:30) и [https://youtu.be/F53pfjKK0gc 2] или/и

[https://www.youtube.com/watch?v=C__S5v9iObQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=4 Лекция Ильдуса]
||
|-
| style="background:#eaecf0;" | '''4''' [https://www.youtube.com/watch?v=-JXaEGcDKtc Запись (Middle)], [https://www.youtube.com/watch?v=kOJvP8o0_ew Запись (Advance)] || [https://t.me/c/2035805700/10/602 Ноутбук Advance], [https://t.me/c/2035805700/12/600 Ноутбук Middle] Свёрточные нейронные сети (продолжение) || 11.05.24 || [https://www.youtube.com/watch?v=NYKiAqT8xXY&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=5 Лекция Ильдуса], Лекции Е. Соколова: [[https://youtu.be/xQRJpFF_NRw 1]] (с 46:00) и [[https://youtu.be/nsqEJwugQfo 2]] (до 53:30) || [https://drive.google.com/file/d/18DGIsTt14k6Lxhs8myTBfvcGJZfyB81e/view?usp=drive_link Данные] к семинару
|-
| style="background:#eaecf0;" | '''5''' [https://www.youtube.com/watch?v=CN1mZ_DoBRg&feature=youtu.be Запись (Общая)] || [https://t.me/c/2035805700/12/755 Ноутбук] Сегментация и детекция || 20.05.24 || Лекции Соколова [[https://youtu.be/nsqEJwugQfo 1]] (с 53:50) и [[https://youtu.be/WAusZZxx1bE 2]], [https://www.youtube.com/watch?v=GGFSKLPKeL4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=6 Лекция Ильдуса] | [https://www.youtube.com/watch?v=cFmtCUzNF8w Разбор ДЗ1]| 
|-
| style="background:#eaecf0;" | '''6''' [https://www.youtube.com/watch?v=iI1k2SQ_dZM Запись] || [Ноутбук] Нейросетевые векторные представления слов || 27.05.24 || [https://youtu.be/GyI5X82NEn8 Лекция c ИАДа] (читает Антон Семенкин), [https://www.youtube.com/watch?v=pLFnqfvM7No&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=7 Лекция Ильдуса]|| 
|-
| style="background:#eaecf0;" | '''7''' [https://www.youtube.com/watch?v=AyuhIVohjrA Запись] || [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 01.06.24 || [https://youtu.be/It4-Hg9QNhw Лекция Е. Соколова], [https://www.youtube.com/watch?v=sXWwrz4v2OQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=8 Лекция Ильдуса] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/elvish-names.pickle Данные] к первой части семинара
|-
| style="background:#eaecf0;" | '''8''' [ Запись] || [Ноутбук] Дистилляция, квантизация, прунинг || 08.06.24 || [https://www.youtube.com/watch?v=rW6hQloci7M&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=12 Лекция (Ильдус)] || 
|}

==Формула оценивания==
Оценка  0.15*Stepik + 0.25*Экзамен + 0.6*ДЗ

Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75

'''Дедлайн по Степику: 15.06.2024'''

== Домашние задания ==
Инвайт в Anytask: ''UZppWJ0''

# Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-01-mlp/shw-01-mlp-part1.ipynb Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-01-mlp/shw-01-mlp-part2.ipynb Ноутбук]] <br/> '''Дедлайн: 08.05.2024'''
# Свёрточные нейронные сети | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/homeworks-small/shw-02-cnn.ipynb Ноутбук]] | '''Дедлайн: 26.05.2024'''
# Рекуррентные нейронные сети | [https://github.com/isadrtdinov/intro-to-dl-hse/tree/master-2024/homeworks-small/shw-03-rnn Языковые модели (RNN, LSTM)] | '''Дедлайн: 16.06.2024'''

== Экзамен ==
Информация об экзамене появится ближе к концу курса.

== Литература ==
* Гудфеллоу Я. − Глубокое обучение 
* Christopher M. Bishop - Pattern Recognition and Machine Learning
* Стивенс Э. - PyTorch. Освещая глубокое обучение