Глубинное обучение (АДД 2025)

О курсе

Курс читается для студентов 1 курса магистерской программы "Анализ данных в девелопменте" в 3-4 модулях.

Карточка курса и программа.

Репозиторий с материалами курса на GitHub.

Чат в телеграме

[Анонимная форма обратной связи]

[Таблица с оценками]

Лекции

Лектор: Михаил Гущин (mhushchyn@hse.ru, @mhushchyn)

Лекции проходят по вторникам в 18:10 (G115).

Семинары

Семинарист: Азиз Темирханов (atemirkhanov@hse.ru, @MrDredD)

Семинары проходят по вторникам в 19:40 (G115).

Правила выставления оценок

В курсе предусмотрено несколько форм контроля знаний:

• Практические домашние работы на Python или с теоретическими задачами
• Контрольная работа в середине курса
• Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

O_{итоговая} = Округление(0.5 * ДЗ + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

Правила сдачи заданий

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

Лекции

Лекция 1. Введение в глубинное обучение. [Слайды]

Лекция 2. Полносвязные нейронные сети. [Слайды]

Лекция 3. Обучение нейронных сетей. [Слайды]

Лекция 4. Регуляризация. Dropout. Batch Normalization. Автокодировщики. [Слайды]

Лекция 5. Изображения. Операция свёртки. [Слайды]

Лекция 6. Свёрточные нейронные сети. Интерпретация моделей. [Слайды]

Лекция 7. Архитектуры свёрточных нейронных сетей. [Слайды]

Лекция 8. Перенос обучения. Распознавание лиц. [Слайды]

Лекция 9. Детектирование объектов. [Слайды]

Лекция 10. Сегментация изображений. [Слайды]

Лекция 11. Векторное представление текста, word2vec. [Слайды]

Лекция 12. Рекуррентные нейронные сети. LSTM. GRU. [Слайды]

Семинары

Семинар 1. Введение в глубинное обучение.

Практические задания

После дедлайна работы не принимаются.

Задание 1. Обучение полносвязных сетей

Вам предстоит обучить несколько полносвязных сетей на нескольких датасетах.

Дедлайн: 24 февраля 2025 года 23:59

Ссылка: https://github.com/hushchyn-mikhail/deep_learning_dad/blob/main/2025/homeworks/HomeWork-1.ipynb

Промежуточная контрольная работа

Промежуточная контрольная работа состоится 15 апреля во время лекции (18:10 - 19:30).

Вопросы для подготовки

Нулевой вариант 1

Нулевой вариант 2

В варианте будет 4 вопроса. Обратите внимание на примеры типовых задач в списке вопросов.

Материалы прошлых лет

Глубинное обучение 2024

Дополнительные материалы

Курсы по машинному обучению и анализу данных

• Основы глубинного обучения, ВШЭ
• Глубинное обучение, ВШЭ
• Глубинное обучение 1, МФТИ
• Глубинное обучение 2, МФТИ
• Онлайн-учебник по машинному обучению от ШАД
• Курс по машинному обучению К.В. Воронцова

Книги

• Dive into Deep Learning
• Goodfellow I., Bengio Y. and Courville A., Deep Learning
• Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009
• Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006