МОВС Глубинное обучение (ММОВС23, 4 модуль) — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
(Материалы курса)
(wip)
 
(не показаны 2 промежуточные версии этого же участника)
Строка 70: Строка 70:
 
| style="background:#eaecf0;" | '''5''' [https://www.youtube.com/watch?v=CN1mZ_DoBRg&feature=youtu.be Запись (Общая)] || [https://t.me/c/2035805700/12/755 Ноутбук] Сегментация и детекция || 20.05.24 || Лекции Соколова [[https://youtu.be/nsqEJwugQfo 1]] (с 53:50) и [[https://youtu.be/WAusZZxx1bE 2]], [https://www.youtube.com/watch?v=GGFSKLPKeL4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=6 Лекция Ильдуса] | [https://www.youtube.com/watch?v=cFmtCUzNF8w Разбор ДЗ1]|  
 
| style="background:#eaecf0;" | '''5''' [https://www.youtube.com/watch?v=CN1mZ_DoBRg&feature=youtu.be Запись (Общая)] || [https://t.me/c/2035805700/12/755 Ноутбук] Сегментация и детекция || 20.05.24 || Лекции Соколова [[https://youtu.be/nsqEJwugQfo 1]] (с 53:50) и [[https://youtu.be/WAusZZxx1bE 2]], [https://www.youtube.com/watch?v=GGFSKLPKeL4&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=6 Лекция Ильдуса] | [https://www.youtube.com/watch?v=cFmtCUzNF8w Разбор ДЗ1]|  
 
|-
 
|-
| style="background:#eaecf0;" | '''6''' [https://www.youtube.com/watch?v=iI1k2SQ_dZM Запись] || [Ноутбук] Нейросетевые векторные представления слов || 27.05.24 || [https://youtu.be/GyI5X82NEn8 Лекция c ИАДа] (читает Антон Семенкин), [https://www.youtube.com/watch?v=pLFnqfvM7No&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=7 Лекция Ильдуса]||  
+
| style="background:#eaecf0;" | '''6''' [https://www.youtube.com/watch?v=iI1k2SQ_dZM Запись] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/seminars/basic/seminar-06-w2v.ipynb Ноутбук] Нейросетевые векторные представления слов || 27.05.24 || [https://youtu.be/GyI5X82NEn8 Лекция c ИАДа] (читает Антон Семенкин), [https://www.youtube.com/watch?v=pLFnqfvM7No&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=7 Лекция Ильдуса]||  
 
|-
 
|-
| style="background:#eaecf0;" | '''7''' [https://www.youtube.com/watch?v=AyuhIVohjrA Запись] || [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 01.06.24 || [https://youtu.be/It4-Hg9QNhw Лекция Е. Соколова], [https://www.youtube.com/watch?v=sXWwrz4v2OQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=8 Лекция Ильдуса] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/elvish-names.pickle Данные] к первой части семинара
+
| style="background:#eaecf0;" | '''7''' [https://www.youtube.com/watch?v=AyuhIVohjrA Запись] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/seminars/basic/seminar-07-rnn.ipynb Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder || 01.06.24 || [https://youtu.be/It4-Hg9QNhw Лекция Е. Соколова], [https://www.youtube.com/watch?v=sXWwrz4v2OQ&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=8 Лекция Ильдуса] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/seminars/elvish-names.pickle Данные] к первой части семинара
 
|-
 
|-
| style="background:#eaecf0;" | '''8''' [ Запись] || [Ноутбук] Дистилляция, квантизация, прунинг || 08.06.24 || [https://www.youtube.com/watch?v=rW6hQloci7M&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=12 Лекция (Ильдус)] ||  
+
| style="background:#eaecf0;" | '''8''' [https://www.youtube.com/watch?v=DLfAqxWF2aA Запись] || [https://github.com/isadrtdinov/intro-to-dl-hse/blob/master-2024/seminars/basic/seminar-08-transformer.ipynb Ноутбук] Трансформеры || 08.06.24 || [https://www.youtube.com/watch?v=rW6hQloci7M&list=PLEwK9wdS5g0q1A2aQI83jeaRPwhBZhprY&index=12 Лекция (Ильдус)] ||  
 
|}
 
|}
  
Строка 92: Строка 92:
  
 
== Экзамен ==
 
== Экзамен ==
Информация об экзамене появится ближе к концу курса.
+
 
 +
[https://www.youtube.com/watch?v=0pmZna9atQc Разбор вопросов к экзамену]
 +
 
 +
27.06.2024 - дата экзамена.
  
 
== Литература ==
 
== Литература ==

Текущая версия на 16:20, 15 июня 2024

О курсе

Занятия проходят по субботам.

У базовой группы с 11:10 по 12:30 по ссылке Zoom.

У продвинутой группы с 13:00 по 14:20 по ссылке Zoom.

Контакты

Канал и чат курса в TG: channel link

Преподаватели: Садртдинов Ильдус Рустемович, Гущин Михаил Иванович

Ассистенты Контакты
Акимов Тимур @takimov
Казюлина Марина @poemgranate
Никифоров Михаил @caesiummm
Жирков Фёдор @ko4osik
Лазарева Анна @annalzrv
Кураторы Контакты
Залесинский Роман @roman_zalesinskii
Герасимова Мария @mariya_math

Материалы курса

Ссылка на плейлист курса на YouTube: YouTube-playlist

Ссылка на GitHub с материалами курса: GitHub (ПМИ)

Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive

Ссылка на stepik c : stepik

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 Запись (Middle), Запись (Advanced) Ноутбук Advanced, Ноутбук Middle Полносвязные нейронные сети 13.04.24

Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и

Лекция Ильдуса про полносвязные нейросети.

Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа

2 Запись (Middle) Ноутбук Advanced, Ноутбук Middle Полносвязные нейронные сети (продолжение) 20.04.24 Лекция "Оптимизации нейронных сетей"
3 Запись (Middle), Запись (Advance) Ноутбук Advance Свёрточные нейронные сети 27.04.24

Лекции Е. Соколова: 1 (с 54:30) и 2 или/и

Лекция Ильдуса

4 Запись (Middle), Запись (Advance) Ноутбук Advance, Ноутбук Middle Свёрточные нейронные сети (продолжение) 11.05.24 Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) Данные к семинару
5 Запись (Общая) Ноутбук Сегментация и детекция 20.05.24 Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса | Разбор ДЗ1|
6 Запись Ноутбук Нейросетевые векторные представления слов 27.05.24 Лекция c ИАДа (читает Антон Семенкин), Лекция Ильдуса
7 Запись Ноутбук Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder 01.06.24 Лекция Е. Соколова, Лекция Ильдуса Данные к первой части семинара
8 Запись Ноутбук Трансформеры 08.06.24 Лекция (Ильдус)

Формула оценивания

Оценка 0.15*Stepik + 0.25*Экзамен + 0.6*ДЗ

Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75

Дедлайн по Степику: 15.06.2024

Домашние задания

Инвайт в Anytask: UZppWJ0

  1. Полносвязные нейронные сети
    Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
    Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
    Дедлайн: 08.05.2024
  2. Свёрточные нейронные сети | [Ноутбук] | Дедлайн: 26.05.2024
  3. Рекуррентные нейронные сети | Языковые модели (RNN, LSTM) | Дедлайн: 16.06.2024

Экзамен

Разбор вопросов к экзамену

27.06.2024 - дата экзамена.

Литература

  • Гудфеллоу Я. − Глубокое обучение
  • Christopher M. Bishop - Pattern Recognition and Machine Learning
  • Стивенс Э. - PyTorch. Освещая глубокое обучение