Генеративные модели в машинном обучении (ИИ 2024)

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск

О курсе (ТУДУ)

Занятия проходят по субботам.

У базовой группы с 11:10 по 12:30 по ссылке [ Zoom].

У продвинутой группы с 13:00 по 14:20 по ссылке [ Zoom].

Контакты

Канал и чат курса в TG: channel link

Преподаватели Контакты
Ершов Глеб @GLBHLB
Гущин Михаил @mikhail_h91
Ассистенты Контакты
Прохоров Савелий @Savely_Prokhorov
Охотин Даниил @danokil
Никифорова Соня-Аня @sonya_leaf
Кураторы Контакты
Залесинский Роман @roman_zalesinskii
Зуев Гордей @WhiteShape

Материалы курса (ТУДУ)

Ссылка на плейлист курса на YouTube: YouTube-playlist

Ссылка на GitHub с материалами курса: GitHub (ПМИ)

Ссылка на GDrive c заполненными семинарскими ноутбуками: GDrive

Ссылка на stepik c : stepik

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 Запись (Middle), Запись (Advanced) Ноутбук Advanced, Ноутбук Middle Полносвязные нейронные сети 13.04.24

Лекции Е. Соколова с ИАДа: 1 и 2 (до свёрток) или/и

Лекция Ильдуса про полносвязные нейросети.

Почитать можно раздел 5 "Введение в глубинное обучение" в учебнике ШАДа

2 Запись (Middle) Ноутбук Advanced, Ноутбук Middle Полносвязные нейронные сети (продолжение) 20.04.24 Лекция "Оптимизации нейронных сетей"
3 Запись (Advance) , Запись (Middle) Ноутбук Advance Свёрточные нейронные сети 26.04.23

Лекции Е. Соколова: 1 (с 54:30) и 2 или/и

Лекция Ильдуса

4 [Запись] [Ноутбук] Свёрточные нейронные сети (продолжение) 10.05.23 Лекция Ильдуса, Лекции Е. Соколова: [1] (с 46:00) и [2] (до 53:30) Данные к семинару
5 [Запись] [Ноутбук] Сегментация и детекция 19.05.23 Лекции Соколова [1] (с 53:50) и [2], Лекция Ильдуса
6 [Запись] [Ноутбук] Нейросетевые векторные представления слов 26.05.23 Лекция c ИАДа (читает Антон Семенкин), Лекция Ильдуса
7 [Запись] [Ноутбук] Рекуррентные нейронные сети, LSTM, архитектура Decoder-Encoder 31.05.23 Лекция Е. Соколова, Лекция Ильдуса Данные к первой части семинара
8 [Запись] [Ноутбук] Дистилляция, квантизация, прунинг 07.06.23 Лекция (Ильдус)

Формула оценивания (ТУДУ)

Оценка 0.15*Тесты + 0.25*Письменный коллоквиум + 0.6*ДЗ

Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75

Дедлайн по Степику: 15.06.2024

Домашние задания (ТУДУ)

Инвайт в Anytask: UZppWJ0

  1. Полносвязные нейронные сети
    Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [Материалы]
    Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [Ноутбук]
    Дедлайн: 08.05.2024
  2. Свёрточные нейронные сети | [Ноутбук] | Дедлайн: 26.05.2024
  3. Рекуррентные нейронные сети | Языковые модели (RNN, LSTM) | Дедлайн: 09.06.2024

Тесты и неоцениваемые теоретические ДЗ (ТУДУ)

...

Экзамен (ТУДУ)

...

Литература (ТУДУ)

  • Гудфеллоу Я. − Глубокое обучение
  • Christopher M. Bishop - Pattern Recognition and Machine Learning
  • Стивенс Э. - PyTorch. Освещая глубокое обучение
Источник — «http://wiki.cs.hse.ru/index.php?title=Генеративные_модели_в_машинном_обучении_(ИИ_2024)&oldid=85534»