МОВС Математика для анализа данных (ММОВС23, 1-2 модули) — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
м (add test on sets, basic group)
м (UPD after sem2, advanced group)
Строка 115: Строка 115:
 
[https://www.matrixcalculus.org/ Матричный калькулятор] для взятия любых производных
 
[https://www.matrixcalculus.org/ Матричный калькулятор] для взятия любых производных
 
|-
 
|-
| style="background:#eaecf0;" | '''2''' [[ Запись]] || [[ Ноутбук]] Численные методы линейной алгебры. Разреженные матрицы || 21.09.23 || ||  
+
| style="background:#eaecf0;" | '''2''' [[https://www.youtube.com/watch?v=cybdNfzKp_4&list=PLNKXA-74YGLh9YbfTm2x_VUYtPXVQ5Zsw Ч.1]], [[https://www.youtube.com/watch?v=NzJWQRya9OA&list=PLNKXA-74YGLh9YbfTm2x_VUYtPXVQ5Zsw&index=6&pp=iAQB Ч.2]] || [[ Ноутбук]] Матричные производные (продолжение). LU-разложение || 21.09.23 || ||  
 +
[https://www.youtube.com/watch?v=zReIMeZseys&list=PLcsjsqLLSfNAp7iztz2H8iSP2vu79dIbW Видео] про решение систем и LU-разложения от Ивана Оседелец
 +
 
 +
[https://www.youtube.com/watch?v=MsIvs_6vC38&list=PLE7DDD91010BC51F8 Видео] про вывод LU-разложения от MIT
 
|-
 
|-
 
| style="background:#eaecf0;" | '''3''' [[ Запись]] || [[ Ноутбук]] Матричные разложения: SVD, QR и LU-разложения|| 28.09.23 || ||
 
| style="background:#eaecf0;" | '''3''' [[ Запись]] || [[ Ноутбук]] Матричные разложения: SVD, QR и LU-разложения|| 28.09.23 || ||

Версия 14:26, 22 сентября 2023

О курсе

Это курс по математике для анализа данных. Мы поговорим о подноготной ML и попытаемся не заблудиться в теоремах и доказательствах. Будет два трека: классный (базовый) и продвинутый.

  • В курсе не будет АБ-тестов и матстата. Они будут в следующем семестре.
  • Везде будем пытаться искать примеры из практики и нормально обосновывать, зачем мы об этом говорим.
  • Забыть про слово "очевидно" и везде проговаривать, почему это именно так работает, но не упарываться доказательствами.
  • Больше смысла и концепций, меньше доказательств.

Автор курса попытался замиксовать в программе курса несколько подходов. В логах лекций он будет вставлять ссылки на первоисточники. План ниже примерный. Он будет меняться в процессе лекций.

В программе для классной группы преподаватель ориентировался на адаптационный курс математики в ШАД. Программу для продвинутой группы он пытался собирать, как справочник по математике для DS. Каждая лекция должна покрыть какую-то тему, которая всплывает где-нибудь в DS, но человек может потенциально в ней плавать. Темы из тервера подготавливают базу для матстата и АБ-тестов. О них речь пойдёт в следующем семестре.


Занятия проводятся в Zoom по средам в 19:40 на базовом треке и в другом Zoom по четвергам в 19:40 на продвинутом.

Онлайн-курсы в дополнение к парам: online-course link

Контакты

Чат курса в TG: https://t.me/+bQaHCRYH2tBlZjdi

Преподаватель: Ульянкин Филипп Валерьевич

Ассистент Телеграмм
Кирилл Долматов @kirill_dolmatov
Макарова Мария @mariagolddd
Лука Логинов @l_loginov
Артём Чубов @aachubov
Богдан Старощук @werlord112

Материалы курса

Ссылка на плейлист курса на YouTube: YouTube-playlist

Ссылка на GitHub с материалами курса: GitHub repository

Классный трек

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 [Запись] [Конспект] Множества. Бесконечности бывают разными 11.09.23

Конспект лекции

Листок с необязательными задачами. И решения к нему

"Начала теории множеств" Шеня и Верещагина

Лекция Шапошникова по Матану-1. В ней выводятся основные определения теории множеств из аксиоматики Цермелло-Френкеля. Во второй же лекции в том же плейлисте есть про теорему Кантора-Берштейна

Про трёхзначную логику: на Wiki, примеры с SQL на Хабре

Конспект по характеристическим функциям для проверки тождеств (по Шеню, гл.1)

Книга про множества от Виленкина

2 [Ч.1], [Ч.2] [Конспект] Матрицы. Их свойства и теоремы 20.09.23

Лекции Димы Трушина: разделы 1 и 2, а также (для себя) третий

Первая неделя из курса Б. Демешева про векторы, нормы и линейные операторы.

Вторая неделя про линейные оболочки, независимость и умножение матриц

Неделя про определитель

Запись курса MIT

3 Запись Ноутбук Определители и обратные матрицы 27.09.23
4 Запись Ноутбук Векторные пространства, координаты, ранги, линейные отображения и операторы. 04.10.23
5 Запись Ноутбук Билинейные формы, скалярное произведение и квадратичные формы 11.10.23
6 Запись Ноутбук SVD 18.10.23
7 Запись Ноутбук Ликбез по пределам, рядам и производным
8 Запись Ноутбук Ликбез по оптимизации: лагранжиан, матричные производные
9 Запись Ноутбук Базовый тервер, сигма-алгебра, классическая и условная вероятности, формула Байеса
10 Запись Ноутбук Комбинаторика и дискретные случайные величины
11 Запись Ноутбук Функция распределения, непрерывные случайные величины
12 Запись Ноутбук Многомерные распределения, зависимости между случайными величинами
13 Запись Ноутбук Условные распределения и математические ожидания

Продвинутый трек

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 [Запись] [Конспект] Матричные производные и оптимизация 14.09.23

Раздел про матричные производные на странице Филиппа про DL

Конспект о матричных производных от физтеха

"The Matrix Cookbook"

Матричный калькулятор для взятия любых производных

2 [Ч.1], [Ч.2] Ноутбук Матричные производные (продолжение). LU-разложение 21.09.23

Видео про решение систем и LU-разложения от Ивана Оседелец

Видео про вывод LU-разложения от MIT

3 Запись Ноутбук Матричные разложения: SVD, QR и LU-разложения 28.09.23
4 Запись Ноутбук Выпуклая оптимизация: лагранжиан, двойственная задача, теорема Куна-Такера 05.10.23
5 Запись Ноутбук Рекуррентные уравнения и суммы 12.10.23
6 Запись Ноутбук Комбинаторика, специальные числа 19.10.23
7 Запись Ноутбук Асимптотика: формула Эйлера, оценка сложности алгоритмов, классы сложностей: P, NP, DTIME с N(D)SPACE
8 Запись Ноутбук Тервер
9 Запись Ноутбук Разлагай и властвуй
10 Запись Ноутбук Цепи Маркова и метод первого шага
11 Запись Ноутбук Непрерывные случайные величины
12 Запись Ноутбук Многомерные и условные распределения
13 Запись Ноутбук Большая сила о-малых, Пуассоновский поток

Записи консультаций

Формула оценивания

Оценка = 0.3*ОТесты + 0.7*ОДЗ

Домашние задания

Сдаются в Anytask

Инвайты:

  • sygz66L
  • 6qnvYqA
  1. Базовая гр., Продв. гр. "Матричные производные" | Мягкий дедлайн: 15.10.23, Жёсткий: 22.10.23 (со штрафом в 20%, после работы не принимаются)

Тесты

  1. Базовая гр. "Множества" дедлайн - 24.09.23 23:59

Литература

  • Курс алгебры, Винберг, Э. Б., 2013
  • Математический анализ задач естествознания, Зорич, В. А., 2008
  • Комбинаторика, Виленкин, Н. Я., 2013
  • Чернова Н. И. "Теория вероятностей." Новосибирск: НГУ (2007)

- Грэхем, Р., Д. Кнут, and О. Поташник. "Конкретная математика, М., Мир, Бином." (2006)
- Нестеров. Методы выпуклой оптимизации (2010)
- Boyd, Vandenberghe. Convex Optimization (2004)
- Dekking, Kraaikamp, Lopuhaa, Meester. A Modern Introduction to Probability and Statistics, Understanding Why and How (2005)