Основы машинного обучения/2023

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск

О курсе

Курс читается для студентов 2-го курса майнора ИАД в 3-4 модулях.

Проводится с 2015 года.

Лектор: Соколов Евгений Андреевич

Лекции проходят онлайн по средам в 13:00 в zoom.

Полезные ссылки

Карточка курса и программа

Репозиторий с материалами на GitHub

Записи занятий

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_2023

Чат в telegram (флудилка): https://t.me/+rnVX7uhGa71kZTBi (но рекомендуем в начале задавать вопросы в чате вашей группы)

Ссылка на курс в Anytask: https://anytask.org/course/1004

Таблица с оценками: https://docs.google.com/spreadsheets/d/1s8f-IpiWjsIhdPotECDLfyd20kCE7IkL-5mGRLpqFFg/edit?usp=sharing

Семинары

Группа Преподаватель Учебные ассистенты Zoom Время Чат Папка с видео Инвайт в anytask
ИАД-1 Масликов Егор Казюлина Марина,Лапшина Ксения,Масленникова Света Zoom 14:40-16:00 Чат Папка KHsSxag
ИАД-2 Кантонистова Елена Червяков Артем,Сухоруков Георгий Zoom 11:10-12:30 Чат Папка wECwKet
ИАД-3 Косарев Илья Шерман Ксения, Смоленчук Иван Zoom 11:10-12:30 Чат Папка aBaXcyU
ИАД-4 Семенкин Антон Малышева Дарья,Аксенов Антон Zoom 11:10-12:30 Чат Папка HR0n7Jc
ИАД-5 Коган Александра Исмаилов Исмаил,Трофименко Илья Zoom 11:10-12:30 Чат Папка kudM9FO
ИАД-6 Никифоров Михаил Захаров СергейХамрин Роман Zoom 09:30-10:50 Чат Папка JWLBqQ2
ИАД-7 Нарцев Андрей Дядюнов Андрей,Хамрин Роман Zoom 10:00-11:20 Чат Папка X5gYB8v
ИАД-8 Егоров Андрей Горевой Никита, Полтавец Роман Zoom 19:30-21:00 Чат Папка 776AgmZ
ИАД-9 Шмонов Михаил Устименко Николай,Моисеева Анастасия, Климов Данила Zoom 14:40-16:00 Чат Папка dY3CvHn
ИАД-10 Шмонов Михаил Устименко Николай,Моисеева Анастасия, Климов Данила Zoom 16:20-17:40 Чат Папка 5MoBk7M

Правила выставления оценок

В курсе предусмотрено несколько форм контроля знания:

  • Проверочные работы на лекциях, проверяющие знание основных фактов с лекций и семинаров
  • Практические домашние работы на Python
  • Контрольная где-то в середине курса
  • Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

Округление арифметическое.

Автоматы

Если у вас накопленная оценка >= 5.5 баллов и за контрольную >= 5.5 баллов, то вы можете перенести эту накопленную в итоговую. Или, если хотите, можете отказаться и пойти на экзамен. Но по умолчанию всем, кто может получить автомат, мы ставим автомат.

Накопленная оценка считается по формуле: (0.4 * ДЗ + 0.1 * ПР + 0.2 * КР) / 0.7.

В критериях на автомат все оценки считаются без округления.

Правила сдачи заданий

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

Лекции

Лекция 1 (18.01.2023). Введение в машинное обучение и анализ данных. [Слайды] [Запись лекции]

Лекция 2 (25.01.2023). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [Слайды] [Запись лекции]

Лекция 3 (01.02.2023). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей. [Слайды] [Запись лекции]

Лекция 4 (08.02.2023). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [Слайды] [Запись лекции]

Лекция 5 (15.02.2023). Модель линейной регрессии. Подготовка данных для линейной регрессии. Переобучение и регуляризация линейных моделей. [Слайды] [Запись лекции]

Лекция 6 (22.02.2023). Линейная регрессия и градиентный спуск.[Слайды] [Запись лекции]

Лекция 7 (01.03.2023). Функции потерь в регрессии. Линейная классификация. [Слайды] [Запись лекции]

Лекция 8 (15.03.2023). Линейная классификация. [Слайды] [Запись лекции]

Лекция 9 (22.03.2023). Метрики качества классификации. [Слайды] [Запись лекции]

Лекция 10 (05.04.2023). Логистическая регрессия и метод опорных векторов [Слайды] [Запись лекции]

Лекция 11 (12.04.2023). Метод опорных векторов, многоклассовая классификация [Слайды] [Запись лекции]

Лекция 12 (19.04.2023). Решающие деревья [Слайды] [Запись лекции]

Лекция 13 (26.04.2023). Решающие деревья. Композиции моделей. [Слайды] [Запись лекции]

Лекция 14 (10.05.2023). Градиентный бустинг. [Слайды] [Запись лекции]

Лекция 15 (17.05.2023). Градиентный бустинг. (продолжение). Отбор признаков.[Слайды] [Запись лекции]

Лекция 16 (31.05.2023). Кластеризация. [Слайды] [Запись лекции]

Лекция 17 (07.06.2023). Отбор признаков [Слайды] [Запись лекции]

Лекция 18 (14.06.2023). Ранжирование [Слайды] [Запись лекции]

Семинары

Семинар 1 (25.01.2023). Немного про Jupyter notebook и numpy [Ноутбук]

Семинар 2 (01.02.2023). Объектно-ориентированное программирование [Ноутбук]

Семинар 3 (08.02.2023). pandas [Ноутбук]

Семинар 4 (15.02.2023). Визуализация данных [Ноутбук]

Семинар 5 (22.02.2023). Введение в sklearn KNN [Ноутбук]

Семинар 6 (01.03.2023). Линейная регрессия [Ноутбук]

Семинар 7 (15.03.2023). Градиентный спуск [Ноутбук]

Семинар 8 (22.03.2023). Бинарная линейная классификация [Ноутбук]

Семинар 9 (05.04.2023). Логистическая регрессия. SVM. ROC-кривая [Ноутбук]

Семинар 10 (12.04.2023). Калибровка вероятностей [Ноутбук]

Семинар 11 (19.04.2023). Обработка текстов: токенизация, лемматизация, стемминг. Bag-of-words и TF-IDF. Регулярные выражения. [Ноутбук]

Семинар 12 (26.04.2023). Решающие деревья [Ноутбук]

Семинар 13 (10.06.2023). Bias-Variance decomposition, бэггинг и случайные леса [Ноутбук]

Семинар 14 (17.06.2023). Бустинг. Часть 1 (Идея подхода, функции потерь, особенности GB) [Ноутбук]

Семинар 15 (31.06.2023). Бустинг. Часть 2 (Различные реализации бустинга) [Ноутбук]

Семинар 16 (07.06.2023). Кластеризация [Ноутбук]

Семинар 17 (14.06.2023). Отбор признаков [Ноутбук]

Консультации

20 июня в 18:00 Консультация к экзамену [Запись]

Практические задания

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.


Практическое задание 1 - numpy Мягкий дедлайн: 01.02.2023 23:59 МСК, Жесткий дедлайн: 06.02.2023 23:59 МСК. [Ноутбук]

Практическое задание 2 - pandas Мягкий дедлайн: 16.02.2023 23:59 МСК, Жесткий дедлайн: 19.02.2023 23:59 МСК. [Ноутбук]

Практическое задание 3 - EDA Мягкий дедлайн: 02.03.2023 23:59 МСК, Жесткий дедлайн: 07.03.2023 23:59 МСК. [Ноутбук]

Практическое задание 4 - kNN, linreg Мягкий дедлайн: 23.03.2023 23:59 МСК, Жесткий дедлайн: 29.03.2023 23:59 МСК. [Ноутбук]

Практическое задание 5 - Градиентный спуск Мягкий дедлайн: 20.04.2023 23:59 МСК, Жесткий дедлайн: 27.04.2023 23:59 МСК. [Ноутбук]

Практическое задание 6 - Классификация текстов Мягкий дедлайн: 13.05.2023 23:59 МСК, Жесткий дедлайн: 19.05.2023 23:59 МСК. [Ноутбук]

Практическое задание 7 - Деревья. Случайный лес Мягкий дедлайн: 01.06.2023 23:59 МСК, Жесткий дедлайн: 07.06.2023 23:59 МСК. [Ноутбук]

Практическое задание 8 (Бонус) - Градиентный бустинг Жесткий дедлайн: 25.06.2023 23:59 МСК. [Ноутбук]

Контрольная работа

Контрольная работа состоится 24 мая.

Вопросы для подготовки: https://docs.google.com/document/d/1ZSg_fwKwtXC0DroaaRoiCiT1kkhC0RhdirnKCZKtpcM/edit

Демо-вариант

Экзамен

Вопросы для подготовки к экзамену

21 июня (среда) в 11:00 мы пишем экзамен. Он будет длиться 2 часа (120 минут), все будет в Зуме, правила действуют такие же, как и на контрольной.

Полезные материалы

Курсы по машинному обучению и анализу данных

Максимально близко к материалам курса: Курс "Основы машинного обучения"

Для тех, кто хочет подтянуть математику: Специализация "Математика для анализа данных" (сейчас в процессе переноса на online.hse.ru)

Более сложная версия этого курса с ПМИ: Машинное обучение 1

Ещё материалы:

Статьи

Книги

  • Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
  • James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

Страницы прошлых лет

2021/22 учебный год

2020/21 учебный год

2019/20 учебный год

2018/19 учебный год

2017/18 учебный год

2016/17 учебный год

2015/16 учебный год