Современные методы машинного обучения — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
м (Информация иад2)
(Экзамен)
 
(не показано 8 промежуточных версии 3 участников)
Строка 37: Строка 37:
 
| ИАД-3 || Руслан Хайдуров || Соня Дымченко, Анатолий Пащенко || ev2HwBx  || https://t.me/joinchat/C232lhy4wn6Pp7epNt-qYQ
 
| ИАД-3 || Руслан Хайдуров || Соня Дымченко, Анатолий Пащенко || ev2HwBx  || https://t.me/joinchat/C232lhy4wn6Pp7epNt-qYQ
 
|-
 
|-
| ИАД-4 || Кузнецов Максим ||  || Xn6pJSM ||  
+
| ИАД-4 || Кузнецов Максим || Нарек Алвандян, Алина Арсланова || Xn6pJSM || https://t.me/joinchat/B9DQQFDIT_vZjPIMs_oX0Q
 
|-
 
|-
| ИАД-5 ||  Багиян Нерсес || Алексей Милоградский  || 6OfvD88 || https://t.me/joinchat/Atx7Lkvi60FI1RJhJd8XwQ
+
| ИАД-5 ||  Багиян Нерсес || Александр Милоградский  || 6OfvD88 || https://t.me/joinchat/Atx7Lkvi60FI1RJhJd8XwQ
 
|-
 
|-
 
| ИАД-6 ||  Чесаков Даниил || Ольга Быстрова || qbB0bf0 || https://t.me/joinchat/ES5w2w4fersnpdf0UWoMNw  
 
| ИАД-6 ||  Чесаков Даниил || Ольга Быстрова || qbB0bf0 || https://t.me/joinchat/ES5w2w4fersnpdf0UWoMNw  
Строка 80: Строка 80:
  
 
Лекция 6 (15.10.2020). Интерпретация нейронных сетей. Задача семантической сегментации. Метрики качества сегментации, categorical cross-entropy. Fully Convolutional Networks. U-Net. Dilated convolutions. [[https://github.com/hse-ds/iad-deep-learning/blob/master/lectures/lecture06-vision.pdf Слайды]] [[https://www.youtube.com/watch?v=gnwG5agGsJ4 Запись лекции]]
 
Лекция 6 (15.10.2020). Интерпретация нейронных сетей. Задача семантической сегментации. Метрики качества сегментации, categorical cross-entropy. Fully Convolutional Networks. U-Net. Dilated convolutions. [[https://github.com/hse-ds/iad-deep-learning/blob/master/lectures/lecture06-vision.pdf Слайды]] [[https://www.youtube.com/watch?v=gnwG5agGsJ4 Запись лекции]]
 +
 +
Лекция 7 (29.10.2020). Детекция объектов. Двухшаговые (R-CNN, Fast R-CNN, Faster R-CNN) и одношаговые (YOLO) методы. [[https://github.com/hse-ds/iad-deep-learning/blob/master/lectures/lecture07-vision.pdf Слайды]] [[https://www.youtube.com/watch?v=H2USdVCoZt0 Запись лекции]]
 +
 +
Лекция 8 (05.11.2020). Идентификация объектов. Триплетная функция потерь и обучение расстояний. Обучение без учителя и автокодировщики. Denoising autoencoders. [[https://github.com/hse-ds/iad-deep-learning/blob/master/lectures/lecture08-unsupervised.pdf Слайды]] [[https://www.youtube.com/watch?v=yqkja2262Fc Запись лекции]]
 +
 +
Лекция 9 (12.11.2020). Представления слов. word2vec и fasttext. Свёрточные архитектуры для последовательностей. Основы рекуррентных нейронных сетей. [[https://github.com/hse-ds/iad-deep-learning/blob/master/lectures/lecture09-sequences.pdf Слайды]] [[https://www.youtube.com/watch?v=AXb2BfdfPfo Запись лекции]]
 +
 +
Лекция 10 (26.11.2020). Обучение рекуррентных сетей, BPTT. Проблема затухания градиентов в рекуррентных сетях, LSTM. Seq2seq-модели. Механизм внимания. [[https://github.com/hse-ds/iad-deep-learning/blob/master/lectures/lecture10-sequences.pdf Слайды]] [[https://www.youtube.com/watch?v=vG1gXhx0tRc Запись лекции]]
  
 
==Семинары==
 
==Семинары==
Строка 89: Строка 97:
  
 
== Контрольная работа ==
 
== Контрольная работа ==
 +
 +
Контрольная работа состоится 3 декабря во время лекции (11:10 - 12:30).
 +
 +
[https://docs.google.com/document/d/14B_qoj_tt4tgNCgbWCA5hI9FP7FNuHDbdoeoa8Qknw8/edit?usp=sharing Вопросы для подготовки]
 +
 +
В варианте будет 4 вопроса.
 +
Обратите внимание на примеры типовых задач в списке вопросов.
  
 
== Экзамен ==
 
== Экзамен ==
 +
 +
[[https://docs.google.com/document/d/1yf3wH-2LArk6Ck4KYiAarTXbNS90IFwX7nUOt_Ec_wE/edit?usp=sharing Вопросы для подготовки]]
  
 
[[Category:Майнор "Интеллектуальный анализ данных"]]
 
[[Category:Майнор "Интеллектуальный анализ данных"]]

Текущая версия на 18:35, 20 декабря 2020

О курсе

Курс читается для студентов 3-го курса майнора ИАД в 1-2 модулях.

Проводится с 2015 года.

Лектор — Соколов Евгений Андреевич

Занятия проходят онлайн по четвергам на второй паре (11:10 - 12:30).

Полезные ссылки

Карточка курса и программа

Репозиторий с материалами: https://github.com/hse-ds/iad-deep-learning

Домашние задание сдаются в Anytask:

Канал в telegram для объявлений: https://t.me/hse_minor_intro_dm_2020

Чат в telegram (осторожно, риск флуда и отсутствия ответов на содержательные вопросы): https://t.me/iad_flood

Таблица с оценками

Вопросы по курсу можно задавать в телеграм лектору (@esokolov), семинаристу, в чатах групп или в issues на гитхабе.

Семинары

Группа Преподаватель Учебный ассистент Инвайт в anytask Чатик в телеграм
ИАД-1 Алексей Ковалёв Алёна Вертеева tVc06Tf https://t.me/joinchat/GJZR7hjEVqoQWjj_iB0k6Q
ИАД-2 Трофимова Юлия Юра Саночкин, Ирина Трояновская Xw1bmE5 https://t.me/joinchat/EB0BRhO_FZvAzD6ryUnxMQ
ИАД-3 Руслан Хайдуров Соня Дымченко, Анатолий Пащенко ev2HwBx https://t.me/joinchat/C232lhy4wn6Pp7epNt-qYQ
ИАД-4 Кузнецов Максим Нарек Алвандян, Алина Арсланова Xn6pJSM https://t.me/joinchat/B9DQQFDIT_vZjPIMs_oX0Q
ИАД-5 Багиян Нерсес Александр Милоградский 6OfvD88 https://t.me/joinchat/Atx7Lkvi60FI1RJhJd8XwQ
ИАД-6 Чесаков Даниил Ольга Быстрова qbB0bf0 https://t.me/joinchat/ES5w2w4fersnpdf0UWoMNw

Правила выставления оценок

В курсе предусмотрено несколько форм контроля знания:

  • Практические домашние работы на Python
  • Контрольная где-то в середине курса
  • Письменный экзамен

Итоговая оценка вычисляется по формуле:

Округление(0.5 * ДЗ + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

КР — оценка за контрольную работу

Э — оценка за экзамен

Правила сдачи заданий

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

Лекции

Лекция 1 (10.09.2020). Введение в глубинное обучение. Полносвязные слои. [Слайды] [Запись лекции]

Лекция 2 (17.09.2020). Метод обратного распространения ошибки. Свёртки и свёрточные слои. [Слайды] [Запись лекции]

Лекция 3 (24.09.2020). Поле восприятия. Преобразования в свёрточных сетях. Типичная архитектура свёрточной нейронной сети. Выходы последних слоёв свёрточных сетей как дескрипторы изображений. [Слайды] [Запись лекции]

Лекция 4 (01.10.2020). Стохастический градиентный спуск. Mini-batch. Momentum, AdaGrad, RMSProp, Adam. Регуляризация нейронных сетей и Dropout. Batch normalization. [Слайды] [Запись лекции]

Лекция 5 (08.10.2020). Инициализация весов и аугментация. Архитектуры свёрточных сетей: LeNet, AlexNet, VGG, Inception, ResNet. Tranfer learning. [Слайды] [Запись лекции]

Лекция 6 (15.10.2020). Интерпретация нейронных сетей. Задача семантической сегментации. Метрики качества сегментации, categorical cross-entropy. Fully Convolutional Networks. U-Net. Dilated convolutions. [Слайды] [Запись лекции]

Лекция 7 (29.10.2020). Детекция объектов. Двухшаговые (R-CNN, Fast R-CNN, Faster R-CNN) и одношаговые (YOLO) методы. [Слайды] [Запись лекции]

Лекция 8 (05.11.2020). Идентификация объектов. Триплетная функция потерь и обучение расстояний. Обучение без учителя и автокодировщики. Denoising autoencoders. [Слайды] [Запись лекции]

Лекция 9 (12.11.2020). Представления слов. word2vec и fasttext. Свёрточные архитектуры для последовательностей. Основы рекуррентных нейронных сетей. [Слайды] [Запись лекции]

Лекция 10 (26.11.2020). Обучение рекуррентных сетей, BPTT. Проблема затухания градиентов в рекуррентных сетях, LSTM. Seq2seq-модели. Механизм внимания. [Слайды] [Запись лекции]

Семинары

Семинар 1 (17.09.2020). Знакомство с pytorch. Тензоры, градиенты, датасеты, даталоадеры. Моя первая нейросеть. [Запись (Руслан Хайдуров)]

Практические задания

Домашние задания выкладываются в репозиторий курса. За каждый день просрочки мягкого дедлайна снимается два балла. После жёсткого дедлайна задания не принимаются.

Контрольная работа

Контрольная работа состоится 3 декабря во время лекции (11:10 - 12:30).

Вопросы для подготовки

В варианте будет 4 вопроса. Обратите внимание на примеры типовых задач в списке вопросов.

Экзамен

[Вопросы для подготовки]