Основы машинного обучения/2023 — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
(Обновлены семинаристы и ссылки в зум)
(Добавлены критерии автомата)
 
(не показана одна промежуточная версия 13 участников)
Строка 7: Строка 7:
 
'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]
 
'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]
  
−
Лекции проходят онлайн по средам в 11:10.
+
Лекции проходят онлайн по средам в 13:00 в [https://us06web.zoom.us/j/84560090473?pwd=VysrcmE1clZyU0I1RlZ6T3kxck9GUT09 zoom].
  
 
=== Полезные ссылки ===
 
=== Полезные ссылки ===
  
−
[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]
+
[https://www.hse.ru/edu/courses/570846500 Карточка курса и программа]
  
 
[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]
 
[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]
  
−
[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]
+
[https://www.youtube.com/playlist?list=PLEwK9wdS5g0oCRxBzxsq9lkJkzMgzWiyg Записи занятий]
  
 
Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)
 
Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)
  
−
Канал в telegram для объявлений: https://t.me/hse_iad_22
+
Канал в telegram для объявлений: https://t.me/hse_iad_2023
  
−
Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy
+
Чат в telegram (флудилка): https://t.me/+rnVX7uhGa71kZTBi (но рекомендуем в начале задавать вопросы в чате вашей группы)
  
−
Ссылка на курс в Anytask: https://anytask.org/course/??
+
Ссылка на курс в Anytask: https://anytask.org/course/1004
  
−
Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing
+
Таблица с оценками: https://docs.google.com/spreadsheets/d/1s8f-IpiWjsIhdPotECDLfyd20kCE7IkL-5mGRLpqFFg/edit?usp=sharing
  
 
=== Семинары ===
 
=== Семинары ===
Строка 31: Строка 31:
 
{| class="wikitable"
 
{| class="wikitable"
 
|-
 
|-
−
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask  
+
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom!! Время!! Чат !! Папка с видео !!Инвайт в anytask  
 
|-
 
|-
−
| ИАД-1 || Алвандян Нарек || Плахин Александр, Макаров Антон || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || -
+
| ИАД-1 || Масликов Егор  || [https://t.me/poemgranate Казюлина Марина],[https://t.me/onehspal Лапшина Ксения],[https://t.me/wellhereagain Масленникова Света]  || [https://us06web.zoom.us/j/81065629678?pwd=Y2Yrc1JIQlJFU0NyTTJKdUdldDdOQT09 Zoom] || 14:40-16:00 || [https://t.me/+AN2E-TWA4aIyY2My Чат] || [https://disk.yandex.ru/d/fLlvgvc_GDmrkA Папка] || KHsSxag
 
|-
 
|-
−
| ИАД-2 || Косарев Илья || Екатерина Кострыкина, Александра Штарёва  || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || чат || - || -
+
| ИАД-2 || Кантонистова Елена || [https://t.me/arorlov Червяков Артем],[https://t.me/georgiysukhorukov Сухоруков Георгий] || [https://us06web.zoom.us/j/84008892675?pwd=MVM3V1BVZFRVZHAyaGhUQ0t2TFRNdz09 Zoom] || 11:10-12:30||[https://t.me/+IaxbQB4VrMIzMTMy Чат] || [https://disk.yandex.ru/d/C85g-vHIeNsWRQ Папка] || wECwKet
 
|-
 
|-
−
| ИАД-3 || Кантонистова Елена || [https://t.me/mikezz_1 Михаил Олейник], [https://t.me/NikPatov Никита Патов ] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom]   || чат || - || -
+
| ИАД-3 || Косарев Илья || [https://t.me/dobroye_ytro Шерман Ксения], [https://t.me/ongalek Смоленчук Иван] || [https://us06web.zoom.us/j/81457575121?pwd=MGhRMlZ3ZVk1d2NTU2JSNDVzYkhTZz09 Zoom] ||11:10-12:30 ||[https://t.me/+_taMq61_Avk5ZDli Чат] || [https://disk.yandex.ru/d/3BzRfnOTTv5-yg Папка] || aBaXcyU
 
|-
 
|-
−
| ИАД-4 || Омелюсик Владимир || Валерий Айхенвальд, Анастасия Бир || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || чат || - || -
+
| ИАД-4 || Семенкин Антон || [https://t.me/malyshdar Малышева Дарья],[https://t.me/Dangerio7 Аксенов Антон] || [https://us06web.zoom.us/j/85487671026?pwd=R3FYaVNmaWwrVmpENGk4STN0WWZ4UT09 Zoom] || 11:10-12:30||[https://t.me/+Qz87905zKJcwY2Ji Чат] || [https://disk.yandex.ru/d/8xiwClfeiZiOLQ Папка]  || HR0n7Jc
 
  |-
 
  |-
−
| ИАД-5 || Альпервоич Вадим || [https://t.me/aksenysh Аня Аксенова], Александр Габиташвили || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || чат  || - || -
+
| ИАД-5 || Коган Александра || [https://t.me/kitsuyame Исмаилов Исмаил],[https://t.me/lneyronl Трофименко Илья] || [https://us06web.zoom.us/j/83968974127?pwd=Z1ZhMXpoNm51NkgzdzF3ZFFzbXFOZz09 Zoom] ||11:10-12:30 ||[https://t.me/+eAPoNiU9hrwzNjYy Чат] || [https://disk.yandex.ru/d/RZPf8vUnWuw0RQ Папка]  || kudM9FO
 
|-
 
|-
−
| ИАД-6 || Серякова Василиса || Елена Гринкевич, Егор Масликов || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || чат || || -
+
| ИАД-6 || Никифоров Михаил || [https://t.me/f3ss1 Захаров Сергей][https://t.me/roman_khamrin Хамрин Роман] || [https://us06web.zoom.us/j/86207566997?pwd=aUJSWlRZcHR5cmcvbWtKaUppMTlCdz09 Zoom] ||09:30-10:50 ||[https://t.me/+E1LUzazuYvsxMTY6 Чат] || [https://disk.yandex.ru/d/xf7v5VyOpWfMxA Папка] || JWLBqQ2
 
|-
 
|-
−
| ИАД-7 || Чиркова Надежда || [https://t.me/Debasering Николай Аверьянов], [https://t.me/greyworgen Сергей Тихонов], [https://t.me/userwaskicked Никита Крайко] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || чат || - || -
+
| ИАД-7 || Нарцев Андрей || [https://t.me/mr_dyadyunov Дядюнов Андрей],[https://t.me/roman_khamrin Хамрин Роман] || [https://us06web.zoom.us/j/88414424106?pwd=VHNueUJEY2liUlBXTXV0azdhWXlmUT09 Zoom] || 10:00-11:20||[https://t.me/+B9pTS4wQG6IxMjgy Чат] || [https://disk.yandex.ru/d/xAJBoDCGcNxwBA Папка] || X5gYB8v
 
|-
 
|-
−
| ИАД-8 || Семенов Дмитрий || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || чат || - || -
+
| ИАД-8 || Егоров Андрей || [https://t.me/NikitaGorevoy Горевой Никита], [https://t.me/ropolts Полтавец Роман]|| [https://us06web.zoom.us/j/84650218966?pwd=QlZyTUkycHVFenJrNVdvbmtiaXpOQT09 Zoom] || 19:30-21:00 ||[https://t.me/+_erWwvJcCQtiYzBi Чат] || [https://disk.yandex.ru/d/7nNnGGwVtpAiYw Папка] || 776AgmZ
 
|-
 
|-
−
| ИАД-9 ||Карпова Ася || Гусева Полина, Такташева Екатерина || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || чат || -|| -
+
| ИАД-9 || Шмонов Михаил || [https://t.me/Nikonomist Устименко Николай],[https://t.me/moi_e_va Моисеева Анастасия], Климов Данила || [https://us06web.zoom.us/j/86437364703?pwd=bzVoNVBmY0xUVlR2M2VmeENSK2tVQT09 Zoom] ||14:40-16:00 || [https://t.me/+lBNz_BIYJaQ4Y2Zi Чат] || [https://disk.yandex.ru/d/mvThiNVgJ2p3Cg Папка] || dY3CvHn
 
|-
 
|-
 +
| ИАД-10 || Шмонов Михаил || [https://t.me/Nikonomist Устименко Николай],[https://t.me/moi_e_va Моисеева Анастасия], Климов Данила || [https://us06web.zoom.us/j/85423292683?pwd=dFA2MkJ4RitpemJ0MzdPNlp0TWhoQT09 Zoom] || 16:20-17:40 ||[https://t.me/+CW5cgga9Zio5MDli Чат] || [https://disk.yandex.ru/d/cQLnKd2Kn3XkwA Папка]  || 5MoBk7M
 
|}
 
|}
  
Строка 56: Строка 57:
  
 
В курсе предусмотрено несколько форм контроля знания:
 
В курсе предусмотрено несколько форм контроля знания:
−
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
+
* Проверочные работы на лекциях, проверяющие знание основных фактов с лекций и семинаров
 
* Практические домашние работы на Python
 
* Практические домашние работы на Python
 
* Контрольная где-то в середине курса
 
* Контрольная где-то в середине курса
Строка 65: Строка 66:
 
O<sub>итоговая</sub> = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)
 
O<sub>итоговая</sub> = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)
  
−
ДЗ — средняя оценка за практические домашние задания
+
Округление арифметическое.
  
−
ПР — средняя оценка за письменные проверочные работы на семинарах
+
==== Автоматы ====
 +
Если у вас '''накопленная''' оценка '''>= 5.5 баллов''' и '''за контрольную >= 5.5 баллов''', то вы можете перенести эту накопленную в итоговую. Или, если хотите, можете отказаться и пойти на экзамен. Но по умолчанию всем, кто может получить автомат, мы ставим автомат.
  
−
КР — оценка за контрольную работу
+
''Накопленная оценка считается по формуле'': (0.4 * ДЗ + 0.1 * ПР + 0.2 * КР) / 0.7.
  
−
Э — оценка за экзамен
+
В критериях '''на автомат все оценки считаются без округления'''.
−
 
+
−
Округление арифметическое.
+
  
 
=== Правила сдачи заданий ===
 
=== Правила сдачи заданий ===
Строка 79: Строка 79:
 
За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.
 
За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.
  
−
Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.
+
Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.
  
 
При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.
 
При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.
Строка 86: Строка 86:
  
 
== Лекции ==
 
== Лекции ==
 +
'''Лекция 1''' (18.01.2023). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture01-intro.pdf Слайды]] [[https://youtu.be/gekKgnP-fRY Запись лекции]]
  
 +
'''Лекция 2''' (25.01.2023). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/X081VuXB1og Запись лекции]]
 +
 +
'''Лекция 3''' (01.02.2023). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture03-knn.pdf Слайды]] [[https://www.youtube.com/watch?v=ZcDSama450c Запись лекции]]
 +
 +
'''Лекция 4''' (08.02.2023). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/8RAXDT_5_js Запись лекции]]
 +
 +
'''Лекция 5''' (15.02.2023). Модель линейной регрессии. Подготовка данных для линейной регрессии. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/QyJWSupeRBc Запись лекции]]
 +
 +
'''Лекция 6''' (22.02.2023). Линейная регрессия и градиентный спуск.[[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture06-linregr.pdf Слайды]] [[https://youtu.be/x0evHCFZjFc Запись лекции]]
 +
 +
'''Лекция 7''' (01.03.2023). Функции потерь в регрессии. Линейная классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture07-linregr.pdf Слайды]] [[https://youtu.be/6bf-hIuB_E8 Запись лекции]]
 +
 +
'''Лекция 8''' (15.03.2023). Линейная классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture08-linclass.pdf Слайды]] [[https://youtu.be/WcAoLATW0sI Запись лекции]]
 +
 +
'''Лекция 9''' (22.03.2023). Метрики качества классификации. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture09-linclass.pdf Слайды]] [[https://youtu.be/k2vNaBX4jUo Запись лекции]]
 +
 +
'''Лекция 10''' (05.04.2023). Логистическая регрессия и метод опорных векторов [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture10-linclass.pdf Слайды]] [[https://youtu.be/z0kUpNHA1KM Запись лекции]]
 +
 +
'''Лекция 11''' (12.04.2023). Метод опорных векторов, многоклассовая классификация [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture11-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=-NexUoXpnPw Запись лекции]]
 +
 +
'''Лекция 12''' (19.04.2023). Решающие деревья [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture12-trees.pdf Слайды]] [[https://youtu.be/d0ObFbNY8bA Запись лекции]]
 +
 +
'''Лекция 13''' (26.04.2023). Решающие деревья. Композиции моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture13-ensembles.pdf Слайды]] [[https://youtu.be/lasGpJHXVLY Запись лекции]]
 +
 +
'''Лекция 14''' (10.05.2023). Градиентный бустинг. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture14-ensembles.pdf Слайды]] [[https://www.youtube.com/watch?v=GhCappo9U0w Запись лекции]]
 +
 +
'''Лекция 15''' (17.05.2023). Градиентный бустинг. (продолжение). Отбор признаков.[[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture15-ensembles.pdf Слайды]] [[https://www.youtube.com/watch?v=tx-K3zu6rqw Запись лекции]]
 +
 +
'''Лекция 16''' (31.05.2023). Кластеризация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture16-clustering.pdf Слайды]] [[https://youtu.be/dcdg-mEK37s Запись лекции]]
 +
 +
'''Лекция 17''' (07.06.2023). Отбор признаков [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture17-reduction.pdf Слайды]] [[https://youtu.be/a2U4F7cxFHc Запись лекции]]
 +
 +
'''Лекция 18''' (14.06.2023). Ранжирование [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/lectures/lecture18-ranking.pdf Слайды]] [[https://youtu.be/7yppYYw0msU Запись лекции]]
  
 
== Семинары ==
 
== Семинары ==
  
 +
'''Семинар 1''' (25.01.2023). Немного про Jupyter notebook и numpy [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem01_numpy/sem01_numpy.ipynb Ноутбук]]
 +
 +
'''Семинар 2''' (01.02.2023). Объектно-ориентированное программирование [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem02_OOP/sem02_OOP.ipynb Ноутбук]]
 +
 +
'''Семинар 3''' (08.02.2023). pandas [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem03_pandas/sem03_pandas.ipynb Ноутбук]]
 +
 +
'''Семинар 4''' (15.02.2023). Визуализация данных [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem04_plots/sem04_visualization_task.ipynb Ноутбук]]
 +
 +
'''Семинар 5''' (22.02.2023). Введение в sklearn KNN [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem05_sklearn_knn/sem05-sklearn-knn.ipynb Ноутбук]]
 +
 +
'''Семинар 6''' (01.03.2023). Линейная регрессия [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem06_linreg/sem06_linreg_task.ipynb Ноутбук]]
 +
 +
'''Семинар 7''' (15.03.2023). Градиентный спуск [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem07_gd/sem07_gd.ipynb Ноутбук]]
 +
 +
'''Семинар 8''' (22.03.2023). Бинарная линейная классификация [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem_08_linclass/sem08_linclass.ipynb Ноутбук]]
 +
 +
'''Семинар 9''' (05.04.2023). Логистическая регрессия. SVM. ROC-кривая  [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem09_logit_svm/sem09_logit_svm.ipynb Ноутбук]]
 +
 +
'''Семинар 10''' (12.04.2023). Калибровка вероятностей [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem10_calibration/sem10_calibration.ipynb Ноутбук]]
 +
 +
'''Семинар 11''' (19.04.2023). Обработка текстов: токенизация, лемматизация, стемминг. Bag-of-words и TF-IDF. Регулярные выражения. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem11_texts/sem11_texts.ipynb Ноутбук]]
 +
 +
'''Семинар 12''' (26.04.2023). Решающие деревья [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem12_trees/sem12_trees.ipynb Ноутбук]]
 +
 +
'''Семинар 13''' (10.06.2023). Bias-Variance decomposition, бэггинг и случайные леса [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem13_rf/sem13_rf_task.ipynb Ноутбук]]
 +
 +
'''Семинар 14''' (17.06.2023). Бустинг. Часть 1 (Идея подхода, функции потерь, особенности GB) [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem14_boosting_part1/sem14_boosting_part1.ipynb Ноутбук]]
 +
 +
'''Семинар 15''' (31.06.2023). Бустинг. Часть 2 (Различные реализации бустинга) [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem15_boosting_part2/sem15_boostings_part2.ipynb Ноутбук]]
 +
 +
'''Семинар 16''' (07.06.2023). Кластеризация [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem16_clustering/sem16_clustering.ipynb Ноутбук]]
 +
 +
'''Семинар 17''' (14.06.2023). Отбор признаков [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/seminars/sem17_feature_selection/sem_17_feature_selection.ipynb Ноутбук]]
 +
 +
== Консультации ==
 +
 +
 +
'''20 июня  в 18:00''' Консультация к экзамену [[https://youtu.be/LIDajmp9egw Запись]]
  
 
== Практические задания ==
 
== Практические задания ==
Строка 95: Строка 167:
 
За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.
 
За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.
  
−
В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.
 
  
−
== Соревнования ==
+
'''Практическое задание 1 - numpy''' Мягкий дедлайн: 01.02.2023 23:59 МСК, Жесткий дедлайн: 06.02.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/homeworks/hw01-numpy.ipynb Ноутбук]]
  
−
===Правила участия и оценивания===
+
'''Практическое задание 2 - pandas''' Мягкий дедлайн: 16.02.2023 23:59 МСК, Жесткий дедлайн: 19.02.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/homeworks/hw02_pandas.ipynb Ноутбук]]
−
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.
+
  
−
Студент, занявший в соревновании место i, получает оценку
+
'''Практическое задание 3 - EDA''' Мягкий дедлайн: 02.03.2023 23:59 МСК, Жесткий дедлайн: 07.03.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2023/homeworks/hw03-plots Ноутбук]]
  
−
10 - 10 * (i - 1)  / M,
+
'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн: 23.03.2023 23:59 МСК, Жесткий дедлайн: 29.03.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2023/homeworks/hw04-knn-linreg Ноутбук]]
  
−
где M — количество студентов, принявших участие в соревновании;
+
'''Практическое задание 5 - Градиентный спуск''' Мягкий дедлайн: 20.04.2023 23:59 МСК, Жесткий дедлайн: 27.04.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/homeworks/hw05-grad/hw05_gd.ipynb Ноутбук]]
  
−
i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.
+
'''Практическое задание 6 - Классификация текстов''' Мягкий дедлайн: 13.05.2023 23:59 МСК, Жесткий дедлайн: 19.05.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/homeworks/hw06_texts.ipynb Ноутбук]]
  
−
Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):  
+
'''Практическое задание 7 - Деревья. Случайный лес''' Мягкий дедлайн: 01.06.2023 23:59 МСК, Жесткий дедлайн: 07.06.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/homeworks/hw07-trees/hw07-trees-rf.ipynb Ноутбук]]
  
−
«Имя Фамилия номер_группы»
+
'''Практическое задание 8 (Бонус) - Градиентный бустинг''' Жесткий дедлайн: 25.06.2023 23:59 МСК. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2023/homeworks/hw-08-boosting/homework.ipynb Ноутбук]]
−
 
+
−
В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.
+
  
 
== Контрольная работа ==
 
== Контрольная работа ==
 +
 +
Контрольная работа состоится 24 мая.
 +
 +
Вопросы для подготовки: https://docs.google.com/document/d/1ZSg_fwKwtXC0DroaaRoiCiT1kkhC0RhdirnKCZKtpcM/edit
 +
 +
[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/kr/kr2021-var0.pdf Демо-вариант]
  
 
== Экзамен ==
 
== Экзамен ==
 +
 +
[https://docs.google.com/document/d/1dLmF2PTlr7JMmdFq6mdtQz8g46-_1r9xQjJ3R9_7wtk/edit?usp=sharing Вопросы для подготовки к экзамену]
 +
 +
'''21 июня (среда) в 11:00''' мы пишем экзамен. Он будет длиться ''2 часа (120 минут)'', все будет в Зуме, правила действуют такие же, как и на контрольной.
  
 
==Полезные материалы==
 
==Полезные материалы==
 
===Курсы по машинному обучению и анализу данных===
 
===Курсы по машинному обучению и анализу данных===
−
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")
+
Максимально близко к материалам курса: [https://openedu.ru/course/hse/INTRML/ Курс "Основы машинного обучения"]
  
−
Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]
+
Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"] (сейчас в процессе переноса на online.hse.ru)
  
 
Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]
 
Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]
Строка 131: Строка 209:
 
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
 
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
 
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
 
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
−
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
 
−
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
 
 
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]
 
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]
  
Строка 141: Строка 217:
 
===Книги===
 
===Книги===
 
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
 
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
−
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
 
 
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.
 
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.
  
 
== Страницы прошлых лет ==
 
== Страницы прошлых лет ==
 +
 +
[[Основы_машинного_обучения/2022 | 2021/22 учебный год]]
  
 
[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]
 
[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

Текущая версия на 14:33, 22 июня 2023

О курсе

Курс читается для студентов 2-го курса майнора ИАД в 3-4 модулях.

Проводится с 2015 года.

Лектор: Соколов Евгений Андреевич

Лекции проходят онлайн по средам в 13:00 в zoom.

Полезные ссылки

Карточка курса и программа

Репозиторий с материалами на GitHub

Записи занятий

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_2023

Чат в telegram (флудилка): https://t.me/+rnVX7uhGa71kZTBi (но рекомендуем в начале задавать вопросы в чате вашей группы)

Ссылка на курс в Anytask: https://anytask.org/course/1004

Таблица с оценками: https://docs.google.com/spreadsheets/d/1s8f-IpiWjsIhdPotECDLfyd20kCE7IkL-5mGRLpqFFg/edit?usp=sharing

Семинары

Группа Преподаватель Учебные ассистенты Zoom Время Чат Папка с видео Инвайт в anytask
ИАД-1 Масликов Егор Казюлина Марина,Лапшина Ксения,Масленникова Света Zoom 14:40-16:00 Чат Папка KHsSxag
ИАД-2 Кантонистова Елена Червяков Артем,Сухоруков Георгий Zoom 11:10-12:30 Чат Папка wECwKet
ИАД-3 Косарев Илья Шерман Ксения, Смоленчук Иван Zoom 11:10-12:30 Чат Папка aBaXcyU
ИАД-4 Семенкин Антон Малышева Дарья,Аксенов Антон Zoom 11:10-12:30 Чат Папка HR0n7Jc
ИАД-5 Коган Александра Исмаилов Исмаил,Трофименко Илья Zoom 11:10-12:30 Чат Папка kudM9FO
ИАД-6 Никифоров Михаил Захаров СергейХамрин Роман Zoom 09:30-10:50 Чат Папка JWLBqQ2
ИАД-7 Нарцев Андрей Дядюнов Андрей,Хамрин Роман Zoom 10:00-11:20 Чат Папка X5gYB8v
ИАД-8 Егоров Андрей Горевой Никита, Полтавец Роман Zoom 19:30-21:00 Чат Папка 776AgmZ
ИАД-9 Шмонов Михаил Устименко Николай,Моисеева Анастасия, Климов Данила Zoom 14:40-16:00 Чат Папка dY3CvHn
ИАД-10 Шмонов Михаил Устименко Николай,Моисеева Анастасия, Климов Данила Zoom 16:20-17:40 Чат Папка 5MoBk7M

Правила выставления оценок

В курсе предусмотрено несколько форм контроля знания:

  • Проверочные работы на лекциях, проверяющие знание основных фактов с лекций и семинаров
  • Практические домашние работы на Python
  • Контрольная где-то в середине курса
  • Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

Округление арифметическое.

Автоматы

Если у вас накопленная оценка >= 5.5 баллов и за контрольную >= 5.5 баллов, то вы можете перенести эту накопленную в итоговую. Или, если хотите, можете отказаться и пойти на экзамен. Но по умолчанию всем, кто может получить автомат, мы ставим автомат.

Накопленная оценка считается по формуле: (0.4 * ДЗ + 0.1 * ПР + 0.2 * КР) / 0.7.

В критериях на автомат все оценки считаются без округления.

Правила сдачи заданий

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

Лекции

Лекция 1 (18.01.2023). Введение в машинное обучение и анализ данных. [Слайды] [Запись лекции]

Лекция 2 (25.01.2023). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [Слайды] [Запись лекции]

Лекция 3 (01.02.2023). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей. [Слайды] [Запись лекции]

Лекция 4 (08.02.2023). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [Слайды] [Запись лекции]

Лекция 5 (15.02.2023). Модель линейной регрессии. Подготовка данных для линейной регрессии. Переобучение и регуляризация линейных моделей. [Слайды] [Запись лекции]

Лекция 6 (22.02.2023). Линейная регрессия и градиентный спуск.[Слайды] [Запись лекции]

Лекция 7 (01.03.2023). Функции потерь в регрессии. Линейная классификация. [Слайды] [Запись лекции]

Лекция 8 (15.03.2023). Линейная классификация. [Слайды] [Запись лекции]

Лекция 9 (22.03.2023). Метрики качества классификации. [Слайды] [Запись лекции]

Лекция 10 (05.04.2023). Логистическая регрессия и метод опорных векторов [Слайды] [Запись лекции]

Лекция 11 (12.04.2023). Метод опорных векторов, многоклассовая классификация [Слайды] [Запись лекции]

Лекция 12 (19.04.2023). Решающие деревья [Слайды] [Запись лекции]

Лекция 13 (26.04.2023). Решающие деревья. Композиции моделей. [Слайды] [Запись лекции]

Лекция 14 (10.05.2023). Градиентный бустинг. [Слайды] [Запись лекции]

Лекция 15 (17.05.2023). Градиентный бустинг. (продолжение). Отбор признаков.[Слайды] [Запись лекции]

Лекция 16 (31.05.2023). Кластеризация. [Слайды] [Запись лекции]

Лекция 17 (07.06.2023). Отбор признаков [Слайды] [Запись лекции]

Лекция 18 (14.06.2023). Ранжирование [Слайды] [Запись лекции]

Семинары

Семинар 1 (25.01.2023). Немного про Jupyter notebook и numpy [Ноутбук]

Семинар 2 (01.02.2023). Объектно-ориентированное программирование [Ноутбук]

Семинар 3 (08.02.2023). pandas [Ноутбук]

Семинар 4 (15.02.2023). Визуализация данных [Ноутбук]

Семинар 5 (22.02.2023). Введение в sklearn KNN [Ноутбук]

Семинар 6 (01.03.2023). Линейная регрессия [Ноутбук]

Семинар 7 (15.03.2023). Градиентный спуск [Ноутбук]

Семинар 8 (22.03.2023). Бинарная линейная классификация [Ноутбук]

Семинар 9 (05.04.2023). Логистическая регрессия. SVM. ROC-кривая [Ноутбук]

Семинар 10 (12.04.2023). Калибровка вероятностей [Ноутбук]

Семинар 11 (19.04.2023). Обработка текстов: токенизация, лемматизация, стемминг. Bag-of-words и TF-IDF. Регулярные выражения. [Ноутбук]

Семинар 12 (26.04.2023). Решающие деревья [Ноутбук]

Семинар 13 (10.06.2023). Bias-Variance decomposition, бэггинг и случайные леса [Ноутбук]

Семинар 14 (17.06.2023). Бустинг. Часть 1 (Идея подхода, функции потерь, особенности GB) [Ноутбук]

Семинар 15 (31.06.2023). Бустинг. Часть 2 (Различные реализации бустинга) [Ноутбук]

Семинар 16 (07.06.2023). Кластеризация [Ноутбук]

Семинар 17 (14.06.2023). Отбор признаков [Ноутбук]

Консультации

20 июня в 18:00 Консультация к экзамену [Запись]

Практические задания

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.


Практическое задание 1 - numpy Мягкий дедлайн: 01.02.2023 23:59 МСК, Жесткий дедлайн: 06.02.2023 23:59 МСК. [Ноутбук]

Практическое задание 2 - pandas Мягкий дедлайн: 16.02.2023 23:59 МСК, Жесткий дедлайн: 19.02.2023 23:59 МСК. [Ноутбук]

Практическое задание 3 - EDA Мягкий дедлайн: 02.03.2023 23:59 МСК, Жесткий дедлайн: 07.03.2023 23:59 МСК. [Ноутбук]

Практическое задание 4 - kNN, linreg Мягкий дедлайн: 23.03.2023 23:59 МСК, Жесткий дедлайн: 29.03.2023 23:59 МСК. [Ноутбук]

Практическое задание 5 - Градиентный спуск Мягкий дедлайн: 20.04.2023 23:59 МСК, Жесткий дедлайн: 27.04.2023 23:59 МСК. [Ноутбук]

Практическое задание 6 - Классификация текстов Мягкий дедлайн: 13.05.2023 23:59 МСК, Жесткий дедлайн: 19.05.2023 23:59 МСК. [Ноутбук]

Практическое задание 7 - Деревья. Случайный лес Мягкий дедлайн: 01.06.2023 23:59 МСК, Жесткий дедлайн: 07.06.2023 23:59 МСК. [Ноутбук]

Практическое задание 8 (Бонус) - Градиентный бустинг Жесткий дедлайн: 25.06.2023 23:59 МСК. [Ноутбук]

Контрольная работа

Контрольная работа состоится 24 мая.

Вопросы для подготовки: https://docs.google.com/document/d/1ZSg_fwKwtXC0DroaaRoiCiT1kkhC0RhdirnKCZKtpcM/edit

Демо-вариант

Экзамен

Вопросы для подготовки к экзамену

21 июня (среда) в 11:00 мы пишем экзамен. Он будет длиться 2 часа (120 минут), все будет в Зуме, правила действуют такие же, как и на контрольной.

Полезные материалы

Курсы по машинному обучению и анализу данных

Максимально близко к материалам курса: Курс "Основы машинного обучения"

Для тех, кто хочет подтянуть математику: Специализация "Математика для анализа данных" (сейчас в процессе переноса на online.hse.ru)

Более сложная версия этого курса с ПМИ: Машинное обучение 1

Ещё материалы:

Статьи

Книги

  • Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
  • James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

Страницы прошлых лет

2021/22 учебный год

2020/21 учебный год

2019/20 учебный год

2018/19 учебный год

2017/18 учебный год

2016/17 учебный год

2015/16 учебный год

Источник — «http://wiki.cs.hse.ru/index.php?title=Основы_машинного_обучения/2023&oldid=78552»