МОВС Глубинное обучение (ММОВС22, 4-5 модули) — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
м (add sem3 video link)
м (add tests and colloquium blocks)
Строка 77: Строка 77:
 
# Свёрточные нейронные сети
 
# Свёрточные нейронные сети
 
# Рекуррентные нейронные сети
 
# Рекуррентные нейронные сети
 +
 +
== Тесты и неоцениваемые теоретические ДЗ ==
 +
# [https://addonforge.com/timer/1FAIpQLSfv0YfUZ6zcI1CY05QjoZQDoNqKwzTGDAOlNuV0t4uN2JalIg "Полносвязные нейронные сети. Введение в pytorch"], выдан 27.04.23, '''дедлайн - '''<strike>30.04.23 (Вс)</strike> '''02.05.23 (Вт) 20:59 GMT+3'''
 +
# Свертки
 +
# Векторные представления текстов. RNN
 +
 +
''Возможно будет ещё 1-2 квиза на прочие топики.''
 +
 +
* [https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-theory/thw-01-mlp.pdf Теоретическое ДЗ-1] "Полносвязные НС" (не оценивается)
 +
*
 +
 +
''За решение теоретических ДЗ возможно будут предусмотрены бонусы''
 +
 +
== Коллоквиум ==
 +
Коллоквиум состоится ''не ранее 14.06'' и ''вероятно'' будет представлять собой 4-5 задач с письменным ответом на понимание теории Глубинного обучения.
 +
 +
О дополнениях и уточнениях сообщим позже.
  
 
== Литература ==
 
== Литература ==

Версия 12:45, 30 апреля 2023

О курсе

Занятия проводятся в Zoom по средам в 19:00

Контакты

Канал курса в TG: channel link

Чат курса в TG: chat link

Преподаватель: Садртдинов Ильдус Рустемович

Ассистенты Контакты
Марк Блуменау @markblumenau
Илья Никитин @is_nikitin
Кирилл Козлов @dedpe

Материалы курса

Ссылка на плейлист курса на YouTube: YouTube-playlist

Ссылка на GitHub с материалами курса: GitHub (ПМИ)

Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 [Запись] [Ноутбук] Полносвязные нейронные сети 12.04.23

Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и

Лекция Ильдуса про полносвязные нейросети.

Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа

2 [Запись] [Ноутбук] Полносвязные нейронные сети (продолжение) 19.04.23 Лекция "Оптимизации нейронных сетей"
3 [Запись] [Ноутбук] Свёрточные нейронные сети 26.04.23

Лекции Е. Соколова: 1 (с 54:30) и 2 или/и

Лекция Ильдуса (с 40:50)

4 Запись Ноутбук Свёрточные нейронные сети (продолжение) 10.05.23
5 Запись Ноутбук Регуляризация нейронных сетей: dropout, batch-norm, etc. 17.05.23
6 Запись Ноутбук Сегментация и детекция 24.05.23
7 Запись Ноутбук Нейросетевые векторные представления слов 31.05.23
8 Запись Ноутбук Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder 07.06.23

На втором курсе вас ждет продолжение: трансформеры и семейство генеративных моделей

Записи консультаций

Формула оценивания

Оценка = 0.15*Отесты + 0.25*Описьменный коллоквиум + 0.6*ОДЗ

Домашние задания

Инвайт в Anytask: DiXQURj

  1. Полносвязные нейронные сети
    Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
    Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
    Дедлайн: 06.05.23 (Сб) 23:59 GMT+3
  2. Свёрточные нейронные сети
  3. Рекуррентные нейронные сети

Тесты и неоцениваемые теоретические ДЗ

  1. "Полносвязные нейронные сети. Введение в pytorch", выдан 27.04.23, дедлайн - 30.04.23 (Вс) 02.05.23 (Вт) 20:59 GMT+3
  2. Свертки
  3. Векторные представления текстов. RNN

Возможно будет ещё 1-2 квиза на прочие топики.

За решение теоретических ДЗ возможно будут предусмотрены бонусы

Коллоквиум

Коллоквиум состоится не ранее 14.06 и вероятно будет представлять собой 4-5 задач с письменным ответом на понимание теории Глубинного обучения.

О дополнениях и уточнениях сообщим позже.

Литература

  • Гудфеллоу Я. − Глубокое обучение
  • Christopher M. Bishop - Pattern Recognition and Machine Learning
  • Стивенс Э. - PyTorch. Освещая глубокое обучение
Источник — «http://wiki.cs.hse.ru/index.php?title=МОВС_Глубинное_обучение_(ММОВС22,_4-5_модули)&oldid=77904»