МОВС Математика для анализа данных (ММОВС23, 1-2 модули)

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск

О курсе

Это курс по математике для анализа данных. Мы поговорим о подноготной ML и попытаемся не заблудиться в теоремах и доказательствах. Будет два трека: классный (базовый) и продвинутый.

  • В курсе не будет АБ-тестов и матстата. Они будут в следующем семестре.
  • Везде будем пытаться искать примеры из практики и нормально обосновывать, зачем мы об этом говорим.
  • Забыть про слово "очевидно" и везде проговаривать, почему это именно так работает, но не упарываться доказательствами.
  • Больше смысла и концепций, меньше доказательств.

Автор курса попытался замиксовать в программе курса несколько подходов. В логах лекций он будет вставлять ссылки на первоисточники. План ниже примерный. Он будет меняться в процессе лекций.

В программе для классной группы преподаватель ориентировался на адаптационный курс математики в ШАД. Программу для продвинутой группы он пытался собирать, как справочник по математике для DS. Каждая лекция должна покрыть какую-то тему, которая всплывает где-нибудь в DS, но человек может потенциально в ней плавать. Темы из тервера подготавливают базу для матстата и АБ-тестов. О них речь пойдёт в следующем семестре.


Занятия проводятся в Zoom по средам в 19:40 на базовом треке и в другом Zoom по четвергам в 19:40 на продвинутом.

Онлайн-курсы в дополнение к парам

Контакты

Чат курса в TG: https://t.me/+bQaHCRYH2tBlZjdi

Преподаватель: Ульянкин Филипп Валерьевич

Ассистент Телеграмм Группа
Кирилл Долматов @kirill_dolmatov продвинутая
Макарова Мария @mariagolddd
Лука Логинов @l_loginov базовая
Артём Чубов @aachubov
Богдан Старощук @werlord112

Материалы курса

Ссылка на плейлист курса на YouTube: YouTube-playlist

Ссылка на GitHub с материалами курса: GitHub repository

Классный трек

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 [Запись] [Конспект] Множества. Бесконечности бывают разными 11.09.23

Конспект лекции

Листок с необязательными задачами. И решения к нему

"Начала теории множеств" Шеня и Верещагина

Лекция Шапошникова по Матану-1. В ней выводятся основные определения теории множеств из аксиоматики Цермелло-Френкеля. Во второй же лекции в том же плейлисте есть про теорему Кантора-Берштейна

Про трёхзначную логику: на Wiki, примеры с SQL на Хабре

Конспект по характеристическим функциям для проверки тождеств (по Шеню, гл.1)

Книга про множества от Виленкина

2 [Ч.1], [Ч.2] [Конспект] Матрицы. Их свойства и теоремы 20.09.23

Лекции Димы Трушина: разделы 1 и 2, а также (для себя) третий

Первая неделя из курса Б. Демешева про векторы, нормы и линейные операторы.

Вторая неделя про линейные оболочки, независимость и умножение матриц

Неделя про определитель

Запись курса MIT

3 [Ч.1], [Ч.2] [Конспект] Определители и обратные матрицы 02.10.23 Разделы 3 и 4 из лекции Дмитрия Трушина, метод Крамера из видео Бориса Демешева
4 [Ч.1, Ч.2] [Конспект] Линейное пространство, базис. Смена базиса, ранг матрицы 04.10.23 Раздел 6 в лекциях Димы Трушина
5 [Ч.1, Ч.2] Конспект Линейное отображение. Проекторы, kNN 11.10.23
6 Запись Ноутбук SVD 18.10.23
7 Запись Ноутбук Ликбез по пределам, рядам и производным
8 Запись Ноутбук Ликбез по оптимизации: лагранжиан, матричные производные
9 Запись Ноутбук Базовый тервер, сигма-алгебра, классическая и условная вероятности, формула Байеса
10 Запись Ноутбук Комбинаторика и дискретные случайные величины
11 Запись Ноутбук Функция распределения, непрерывные случайные величины
12 Запись Ноутбук Многомерные распределения, зависимости между случайными величинами
13 Запись Ноутбук Условные распределения и математические ожидания

Продвинутый трек

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 [Запись] [Конспект] Матричные производные и оптимизация 14.09.23

Раздел про матричные производные на странице Филиппа про DL

Конспект о матричных производных от физтеха

"The Matrix Cookbook"

Матричный калькулятор для взятия любых производных

2 [Ч.1], [Ч.2] [Конспекты: matdiff (пр-е), LU] Матричные производные (продолжение). LU-разложение 21.09.23

Видео про решение систем и LU-разложения от Ивана Оседелец

Видео про вывод LU-разложения от MIT

3 [Ч.1], [Ч.2] [Конспект] Матричные разложения: SVD, QR и LU-разложения 28.09.23
4 [Ч.1, Ч.2] Конспект SVD, PCA. Тематическое моделирование 05.10.23
5 [Ч.1, Ч.2] Конспект Стабильность вычислений, числа обусловленности. Как компьютер делает SVD 12.10.23
6 Запись Ноутбук Комбинаторика, специальные числа 19.10.23
7 Запись Ноутбук Асимптотика: формула Эйлера, оценка сложности алгоритмов, классы сложностей: P, NP, DTIME с N(D)SPACE
8 Запись Ноутбук Тервер
9 Запись Ноутбук Разлагай и властвуй
10 Запись Ноутбук Цепи Маркова и метод первого шага
11 Запись Ноутбук Непрерывные случайные величины
12 Запись Ноутбук Многомерные и условные распределения
13 Запись Ноутбук Большая сила о-малых, Пуассоновский поток

Записи консультаций

Формула оценивания

Оценка = 0.3*ОТесты + 0.7*ОДЗ

Домашние задания

Сдаются в Anytask

Инвайты:

  • sygz66L (базовая)
  • 6qnvYqA (продвинутая)
  1. Базовая гр.: ручная часть, кодовая часть | Мягкий дедлайн: 29.10.23, Жёсткий: 05.11.23
    Продвинутая гр.: "Матричные производные" | Мягкий дедлайн: 15.10.23, Жёсткий: 22.10.23 (со штрафом в 20%, после работы не принимаются)

Тесты

  1. Базовая гр.: "Множества" дедлайн - 24.09.23 23:59
    Продвинутая гр.: "Оптимизация"

Литература

  • Курс алгебры, Винберг, Э. Б., 2013
  • Математический анализ задач естествознания, Зорич, В. А., 2008
  • Комбинаторика, Виленкин, Н. Я., 2013
  • Чернова Н. И. "Теория вероятностей." Новосибирск: НГУ (2007)

- Грэхем, Р., Д. Кнут, and О. Поташник. "Конкретная математика, М., Мир, Бином." (2006)
- Нестеров. Методы выпуклой оптимизации (2010)
- Boyd, Vandenberghe. Convex Optimization (2004)
- Dekking, Kraaikamp, Lopuhaa, Meester. A Modern Introduction to Probability and Statistics, Understanding Why and How (2005)

Источник — «http://wiki.cs.hse.ru/index.php?title=МОВС_Математика_для_анализа_данных_(ММОВС23,_1-2_модули)&oldid=81042»