Глубинное обучение 1
Содержание
О курсе
Занятия проходят по субботам.
У базовой группы с 11:10 по 12:30 по ссылке Zoom.
У продвинутой группы с 13:00 по 14:20 по ссылке Zoom.
Контакты
Канал и чат курса в TG: channel link
Преподаватели: Садртдинов Ильдус Рустемович, Гущин Михаил Иванович
| Ассистенты | Контакты |
|---|---|
| Акимов Тимур | @takimov |
| Казюлина Марина | @poemgranate |
| Никифоров Михаил | @caesiummm |
| Жирков Фёдор | @ko4osik |
| Лазарева Анна | @annalzrv |
| Кураторы | Контакты |
|---|---|
| Залесинский Роман | @roman_zalesinskii |
| Герасимова Мария | @mariya_math |
Материалы курса
Ссылка на плейлист курса на YouTube: YouTube-playlist
Ссылка на GitHub с материалами курса: GitHub (ПМИ)
Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive
Ссылка на stepik c : stepik
| Занятие | Тема | Дата | Материалы для самоподготовки к семинарам | Дополнительные материалы |
|---|---|---|---|---|
| 1 [Запись (Middle), Запись (Advanced)] | [Ноутбук Advanced, Ноутбук Middle] Полносвязные нейронные сети | 13.04.24 |
Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и Лекция Ильдуса про полносвязные нейросети. Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа |
|
| 2 [Запись (Middle)] | [Ноутбук Advanced, Ноутбук Middle] Полносвязные нейронные сети (продолжение) | 20.04.24 | Лекция "Оптимизации нейронных сетей" | |
| 3 [Запись] | [Ноутбук] Свёрточные нейронные сети | 26.04.23 | ||
| 4 [Запись] | [Ноутбук] Свёрточные нейронные сети (продолжение) | 10.05.23 | Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) | Данные к семинару |
| 5 [Запись] | [Ноутбук] Сегментация и детекция | 19.05.23 | Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса | |
| 6 [Запись] | [Ноутбук] Нейросетевые векторные представления слов | 26.05.23 | Лекция c ИАДа (читает Антон Семенкин), Лекция Ильдуса | |
| 7 [Запись] | [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder | 31.05.23 | Лекция Е. Соколова, Лекция Ильдуса | Данные к первой части семинара |
| 8 [Запись] | [Ноутбук] Дистилляция, квантизация, прунинг | 07.06.23 | Лекция (Ильдус) |
Формула оценивания
Оценка 0.15*Тесты + 0.25*Письменный коллоквиум + 0.6*ДЗ
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75
Дедлайн по Степику: 15.06.2024
Домашние задания
Инвайт в Anytask: UZppWJ0
- Полносвязные нейронные сети
Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
Дедлайн: 08.05.2024 - Свёрточные нейронные сети | [Ноутбук] | Дедлайн: 26.05.2024
- Рекуррентные нейронные сети | Языковые модели (RNN, LSTM) | Дедлайн: 09.06.2024
Тесты и неоцениваемые теоретические ДЗ
...
Экзамен
...
Литература
- Гудфеллоу Я. − Глубокое обучение
- Christopher M. Bishop - Pattern Recognition and Machine Learning
- Стивенс Э. - PyTorch. Освещая глубокое обучение
