Глубинное обучение 1 — различия между версиями
Материал из Wiki - Факультет компьютерных наук
| Строка 65: | Строка 65: | ||
== Домашние задания == | == Домашние задания == | ||
| − | + | Инвайт в Anytask: ''...'' | |
# Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-01-mlp Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-01-mlp-light.ipynb Ноутбук]] <br/> '''Дедлайн: ...''' | # Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-01-mlp Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-01-mlp-light.ipynb Ноутбук]] <br/> '''Дедлайн: ...''' | ||
| Строка 74: | Строка 74: | ||
''Возможны изменения в числе тестов в б'''о'''льшую сторону'' | ''Возможны изменения в числе тестов в б'''о'''льшую сторону'' | ||
| − | # [https://addonforge.com/timer/1FAIpQLSfv0YfUZ6zcI1CY05QjoZQDoNqKwzTGDAOlNuV0t4uN2JalIg "Полносвязные нейронные сети. Введение в pytorch"], выдан 27.04.23, '''дедлайн - '''<strike>30.04.23 (Вс) | + | # [https://addonforge.com/timer/1FAIpQLSfv0YfUZ6zcI1CY05QjoZQDoNqKwzTGDAOlNuV0t4uN2JalIg "Полносвязные нейронные сети. Введение в pytorch"], выдан 27.04.23, '''дедлайн - '''<strike>30.04.23 (Вс) '''02.05.23 (Вт) 20:59 GMT+3''' |
# [https://docs.google.com/forms/d/e/1FAIpQLSeTMDj-gPfAgKFtG-2zXKvPB6RRuYYu7kgQNEnVwhMXOEoGrw/viewform?usp=sf_link "Сверточные нейронные сети"], выдан 26.06.23, '''дедлайн - 29.05.23(Пн) 23:59 GMT+3''', ''досдать можно со штрафом в 2 балла до 20.06'' | # [https://docs.google.com/forms/d/e/1FAIpQLSeTMDj-gPfAgKFtG-2zXKvPB6RRuYYu7kgQNEnVwhMXOEoGrw/viewform?usp=sf_link "Сверточные нейронные сети"], выдан 26.06.23, '''дедлайн - 29.05.23(Пн) 23:59 GMT+3''', ''досдать можно со штрафом в 2 балла до 20.06'' | ||
# [https://docs.google.com/forms/d/e/1FAIpQLSciENvCmNFJOusYOQzrP86gNDjOsEF4S-WaE72YLQWV4FiU-w/viewform?usp=sf_link Векторные представления текстов. RNN, LSTM], выдан 09.06.23, '''дедлайн - 13.06.23 (Вт) 23:59 GMT+3''', ''досдать можно со штрафом в 2 балла до 20.06'' | # [https://docs.google.com/forms/d/e/1FAIpQLSciENvCmNFJOusYOQzrP86gNDjOsEF4S-WaE72YLQWV4FiU-w/viewform?usp=sf_link Векторные представления текстов. RNN, LSTM], выдан 09.06.23, '''дедлайн - 13.06.23 (Вт) 23:59 GMT+3''', ''досдать можно со штрафом в 2 балла до 20.06'' | ||
Версия 20:08, 2 апреля 2024
Содержание
О курсе
Занятия проводятся в [... Zoom] 'по ...
Контакты
Чат курса в TG: [... channel link]
Преподаватель: Садртдинов Ильдус Рустемович
| Ассистенты | Контакты |
|---|---|
| Имя Фамилия | [телеграм] |
| Имя Фамилия | [телеграм] |
| Имя Фамилия | [телеграм] |
Материалы курса
Ссылка на плейлист курса на YouTube: [...]
Ссылка на GitHub с материалами курса: GitHub (ПМИ)
Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive
| Занятие | Тема | Дата | Материалы для самоподготовки к семинарам | Дополнительные материалы |
|---|---|---|---|---|
| 1 [Запись] | [Ноутбук] Полносвязные нейронные сети | 12.04.23 |
Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и Лекция Ильдуса про полносвязные нейросети. Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа |
|
| 2 [Запись] | [Ноутбук] Полносвязные нейронные сети (продолжение) | дата | Лекция "Оптимизации нейронных сетей" | |
| 3 [Запись] | [Ноутбук] Свёрточные нейронные сети | ... |
Лекции Е. Соколова: 1 (с 54:30) и 2 или/и Лекция Ильдуса (с 40:50) |
|
| 4 [Запись] | [Ноутбук] Свёрточные нейронные сети (продолжение) | ... | Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) | Данные к семинару |
| 5 [Запись] | Ноутбук Сегментация и детекция | ... | Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса | |
| 6 [Запись] | [Ноутбук] Нейросетевые векторные представления слов | ... | Лекция c ИАДа (читает Антон Семенкин), Лекция Ильдуса | |
| 7 [Запись] | [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder | ... | Лекция Е. Соколова, Лекция Ильдуса | Данные к первой части семинара |
| 8 [Запись] | [Папка с ноутбуком, скриптами и данными] Дистилляция, квантизация, прунинг | ... | Лекция (Ильдус) | |
| 9 [Запись] | [Ноутбук] Трансформеры 1 | ... | Лекция (Алексей Биршерт) | Статьи "The Illustrated Transformer" и Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention), Jay Alammar |
Формула оценивания
Оценка = 0.15*Отесты + 0.25*Оэкзамен + 0.6*ОДЗ
Домашние задания
Инвайт в Anytask: ...
- Полносвязные нейронные сети
Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
Дедлайн: ... - Свёрточные нейронные сети | [Ноутбук] | Дедлайн: ...
- Рекуррентные нейронные сети | Языковые модели (RNN, LSTM) | Дедлайн: ...
Тесты и неоцениваемые теоретические ДЗ
Возможны изменения в числе тестов в большую сторону
- "Полносвязные нейронные сети. Введение в pytorch", выдан 27.04.23, дедлайн -
30.04.23 (Вс) 02.05.23 (Вт) 20:59 GMT+3 - "Сверточные нейронные сети", выдан 26.06.23, дедлайн - 29.05.23(Пн) 23:59 GMT+3, досдать можно со штрафом в 2 балла до 20.06
- Векторные представления текстов. RNN, LSTM, выдан 09.06.23, дедлайн - 13.06.23 (Вт) 23:59 GMT+3, досдать можно со штрафом в 2 балла до 20.06
- Трансформеры и BERT, дедлайн: 30.09.23 (Сб), 23:59 (МСК)
- Теоретическое ДЗ-1 "Полносвязные НС" (не оценивается)
Экзамен
...
Литература
- Гудфеллоу Я. − Глубокое обучение
- Christopher M. Bishop - Pattern Recognition and Machine Learning
- Стивенс Э. - PyTorch. Освещая глубокое обучение
