ИИ Математика для анализа данных (ИИ24, 1-2 модули)

О курсе

Это курс по математике для анализа данных. Мы поговорим о поднаготной ML и попытаемся не заблудиться в теоремах и доказательствах. Будет два трека: продвинутый и классный. Программа продвинутой группы выглядит как справочник по продвинутой математике в ML. Мы посвятим основное время матричным производным, матричным разложениям, оптимизации и теории вероятностей. Программа классной группы будет более базовой. Мы вспомним в ней основные вещи из линейной алгебры, оптимизации и теории вероятностей.

• В курсе не будет АБ-тестов и матстата. Они будут в следующем семестре.
• Везде будем пытаться искать примеры из практики.
• Забыть про слово "очевидно" и везде проговаривать, почему это именно так работает, но не закапываться доказательствами.
• Больше смысла и концепций, меньше доказательств.

Контакты

Чат курса: https://t.me/+68qSE6ixiYU1Mzcy

Преподаватели:

• Филипп @ppilif
• Руслан @dr7lan

Ассистент	Группа	Телеграмм
Артем Бугров		@temofeychenko
Роман Тишин		@RomaDone
Мария Харченко		@mister_autocrat
Виталий Тихомиров		@onthebox
Роман Залесинский		@roman_zalesinskii
Анна Ибрагимова		@annaseeghosts
Никита Чуйкин		@darcy_tremor
Роберт Сулоев		@smechnoyprikol

Материалы курса

• Плейлист с записями лекций Фила на youtube
• Плейлист с записями лекций Руслана на youtube
• GitHub с материалами курса

Классный трек Руслана

Занятие	Тема	Дата	Дополнительные материалы
1 youtube vk	Множества	10.09.24
2 youtube vk	Матрицы. Их свойства и теоремы	17.09.24
3 youtube vk	Определители	24.09.24
4 youtube vk	Линейное пространство	01.10.24
5 youtube vk	Линейные операторы	08.10.24
6 [ youtube] [ vk]

Классный трек Филиппа

Записи всех лекций на yadisk

Занятие	Тема	Дополнительные материалы
1 10.09.24 youtube vk Конспект лекции PDF Конспект лекции	Множества	Ну и вот вам ещё списочек чего почитать/посмотреть: Нестареющая классика: начала теории множеств Шеня и Верещагина [1] Лекция Шапошникова по матану-1, где он выводит все основные определения теории множеств из аксиоматики Цермелло-Френкеля. Во второй лекции в этом же плейлисте есть про теорему Кантора-Берштейна. Дальше он аккуратно строит действительные числа. Про трёхзначную логику можно почитать на вики, [2] на хабре есть примеры с SQL [3] И помните, правильная математика та, которая вас качает.
2 24.09.24 youtube vk Конспект лекции	Матрицы и СЛАУ	При составлении первой лекции по линалу, я ориентировался на конспет Димы Трушина с ФКН. [4] Можно его читать, там очень качественный контент. Также можно посмотреть курс Бориса Демешева. [5] На канале лежит 5 недель его видосов. Иногда я буду что-то воровать для лекций из него. Ещё есть прикольный, но довольно старый курс от MIT. [6] Там довольно приятный английский. И помните, дельта альфа альфа штрих. От Стренга из MIT (его плейлист последний выше) есть две хорошие книги по линалу: https://math.mit.edu/~gs/learningfromdata/ На сайте урезанная версия, но все мы знаем, где искать полную. (https://annas-archive.org/) P.S. книги Кострыкина/Винберга и тп тоже хорошие, если вы готовы закапываться в математику и абстрактные структуры с головой. Всё таки в списке выше с этим будет попроще.
3 01.10.24 youtube vk Конспект лекции	Обратная матрица и определитель	Лекция про матрицы/СЛАУ это первые две главы из конспекта Дмитрия Трушина. Лекция про определитель — четвёртая глава.
4 08.10.24 youtube vk Конспект лекции	Линейное пространство
5 [youtube] [ vk] [ Конспект лекции]
6 [youtube] [ vk] [ Конспект лекции]

Продвинутый трек Филиппа

Запись всех лекций на ydisk

Занятие	Тема	Дополнительные материалы
1 11.09.24 youtube vk Конспект лекции	Матричные производные	Где можно подробнее узнать про матричные производные? Наш конспект про матричные производные с ФКН [7] Моя страничка про DL, там в разделе про матричные производные [8] то же самое что в конспекте ФКН, но есть несколько дополнительных разобранных задач Коспект о матричных производных от физтеха [9] The Matrix Cookbook [10], в этой книжке в целом много интересных формул Матричный калькулятор [11] для взятия любых производных И помните, производная это просто, скорость роста, это скорость роста
2 25.09.24 youtube vk Конспект лекции	Матричные производные vol.2
3 27.09.24 youtube vk Конспект лекции	LU и QR разложения
4 02.10.24 youtube vk Конспект лекции	SVD	- Конспект Филиппа про PCA [12] для семинара на ФКН, питоновская тетрадка [13] для него же - Милый видос про матрицы для самых маленьких [14] - Конспект лекции про спектральную кластеризацию [15] с ФКН, конспект семинара про неё. [16] Структура такая: на лекции были основные идеи, на семинаре доказательство эквивалентности графового подхода и подхода через собственные вектора. Видео с лекции Жени, [17] видео моего семинара [18] - ALS - Вот тут можно поугарать [19] над тематическим моделированием и посмотреть код для него. [20] Не уверн что это полезно, но пусть будет.
5 09.10.24 youtube vk Конспект лекции	Низкоранговые приближения, PCA

Формула оценивания

После каждой лекции будет выдаваться домашка. Всего их будет 12 штук. Итоговая оценка за курс ставится как среднее за 8 лучше всего сделанных домашек.

Домашние задания

Сдача домашних заданий предусмотрена в Anytask

Инвайты для Anytask

• Базовая группа Руслана - FoDsdVW
• Базовая группа Филиппа - oTWs5CL
• Продвинутая группа Филиппа - 0uaUBZV

Задания базовой группы

Тема	Задание	Жесткий дедлайн
1 Множества	Тест [21]	23:59 29 сентября 2024 года
2 СЛАУ и матрицы	[22]	23:59 13 октября
3 Обратная матрица и определитель	[23]	23:59 20 октября
4 Определитель, линейная независимость	[24]	27 октября 23:59
5
6

Задания продвинутой группы

Тема	Задание	Жесткий дедлайн
1 Матричное дифФфФфФференцирование (часть 1)	[25]	23:59 29 сентября 2024 года
2 Матричное дифФфФфФференцирование (часть 2)	[26]	23:59 13 октября 2024 года
3 Матричное разложения	[27]	23:59 20 октября 2024 года
4 SVD	[28]	23:59 27 октября 2024
5 SVD vol.2	[29]	23:59 01 ноября 2024
6