http://wiki.cs.hse.ru/api.php?action=feedcontributions&user=Lizasvit&feedformat=atomWiki - Факультет компьютерных наук - Вклад участника [ru]2024-03-28T20:03:36ZВклад участникаMediaWiki 1.23.2http://wiki.cs.hse.ru/%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_1Машинное обучение 12018-09-07T14:56:31Z<p>Lizasvit: Внесение своего имени в табличку ассистентов.</p>
<hr />
<div>== О курсе ==<br />
<br />
[[Файл:ML_surfaces.png|280px|borderless|left]]<br />
<br />
Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.<br />
<br />
Проводится с 2016 года.<br />
<br />
'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]<br />
<br />
Лекции проходят по пятницам, 12:10 - 13:30, ауд. 317.<br />
<br />
<br />
<br />
<br />
<br />
<br />
=== Полезные ссылки ===<br />
<br />
[https://www.hse.ru/ba/ami/courses/219888994.html Карточка курса и программа]<br />
<br />
[https://github.com/esokolov/ml-course-hse Репозиторий с материалами на GitHub]<br />
<br />
Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.cs.ml+<номер группы>@gmail.com (например, hse.cs.ml+161@gmail.com)<br />
<br />
Канал в telegram для объявлений: https://t.me/joinchat/AAAAAEprV-8gsyFBkYbvkg<br />
<br />
Чат в telegram для обсуждений: https://t.me/joinchat/A5rlQE2eFY0LN0AWcGH3qA<br />
<br />
[https://docs.google.com/spreadsheets/d/1u832G7b9aRyayoncaKXr7XPD6WisDr85AYRBKSVCMq0/edit?usp=sharing Таблица с оценками]<br />
<br />
Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]<br />
<br />
'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.<br />
Вопросы по материалам лекций/семинаров и по заданиям лучше всего оформлять в виде [https://github.com/esokolov/ml-course-hse/issues Issue] в [https://github.com/esokolov/ml-course-hse github-репозитории курса].<br />
<br />
=== Семинары ===<br />
<br />
{| class="wikitable"<br />
|-<br />
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание<br />
|-<br />
| 161 (МОП) || [https://www.hse.ru/org/persons/165212870 Зиннурова Эльвира Альбертовна] || [https://t.me/mryab Рябинин Максим] || || <br />
|-<br />
| 162 (МОП) || [https://www.hse.ru/org/persons/191263008 Неклюдов Кирилл Олегович] || [http://t.me/bazpasha Хрушков Павел] || || <br />
|-<br />
| 163 (АДИС) || [https://t.me/despairazure Кохтев Вадим Михайлович] || [http://t.me/marka_17 Маркович Александр] || || <br />
|-<br />
| 164 (АДИС) || [https://www.hse.ru/org/persons/137283751 Атанов Андрей Игоревич] || [http://t.me/liza_s Свитанько Лиза] || || <br />
|-<br />
| 165 (РС) || [https://www.hse.ru/org/persons/209813459 Каюмов Эмиль Марселевич] || [http://t.me/akiiino Попов Никита] || || <br />
|-<br />
| 166 (РС) || [https://www.hse.ru/org/persons/192085968 Яшков Даниил Дмитриевич] || [http://t.me/Saigetsu Хайдуров Руслан] || || <br />
|-<br />
| Магистратура ФТиАД || [https://www.hse.ru/org/persons/191576735 Чиркова Надежда Александровна] || [https://t.me/nbagiyan Багиян Нерсес] || || <br />
|-<br />
|}<br />
<br />
=== Консультации ===<br />
<br />
=== Правила выставления оценок ===<br />
<br />
В курсе предусмотрено несколько форм контроля знания:<br />
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций<br />
* Практические домашние работы на Python<br />
* Контрольная работа<br />
* Письменный экзамен<br />
<br />
Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:<br />
<br />
O<sub>итоговая</sub> = 0.7 * O<sub>накопленная</sub> + 0.3 * О<sub>экз</sub><br />
<br />
Оценка за работу в семестре вычисляется по формуле<br />
<br />
O<sub>накопленная</sub> = 0.2 * O<sub>самостоятельные</sub> + 0.6 * О<sub>практические дз</sub> + 0.2 * О<sub>контрольная</sub><br />
<br />
Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям и соревнованиям.<br />
<br />
Накопленная, экзаменационная и итоговая оценки округляются арифметически.<br />
<br />
=== Правила сдачи заданий ===<br />
<br />
За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются.<br />
<br />
При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.<br />
<br />
При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок). Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.<br />
<br />
== Лекции ==<br />
<br />
'''Лекция 1''' (3 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture01-intro.pdf Конспект]]<br />
<br />
'''Лекция 2''' (14 сентября). Линейная регрессия. Метрики качества регрессии. Градиентный спуск и способы оценивания градиента. Продвинутые градиентные методы.<br />
<br />
'''Лекция 3''' (21 сентября). Переобучение и регуляризация. Разреженные линейные модели. Квантильная регрессия. Подготовка признаков.<br />
<br />
'''Лекция 4''' (28 сентября). Линейная классификация. Отступ и верхние оценки на пороговую функцию потерь. Метрики качества классификации.<br />
<br />
'''Лекция 5''' (1 октября). Линейная классификация. Логистическая регрессия и оценки вероятности классов. Метод опорных векторов.<br />
<br />
'''Лекция 6''' (12 октября). Многоклассовая классификация, сведение к бинарным задачам. Многоклассовая логистическая регрессия. Классификация с пересекающимися классами. Метрики качества многоклассовой классификации. Категориальные признаки: хэширование и счётчики.<br />
<br />
'''Лекция 7''' (19 октября). Решающие деревья. Жадный алгоритм построения. Выбор лучшего разбиения с помощью критерия информативности. Критерии информативности для регрессии и классификации. Учёт пропусков в деревьях. Решающие деревья и категориальные признаки.<br />
<br />
'''Лекция 8''' (2 ноября). Бутстрап и бэггинг. Разложение ошибки на смещение и разброс (bias-variance decomposition). Случайный лес. Вычисление расстояний с помощью лесов.<br />
<br />
'''Лекция 9''' (9 ноября). Градиентный бустинг. Регуляризация. Особенности бустинга над деревьями. Взвешивание объектов в градиентном бустинге.<br />
<br />
'''Лекция 10''' (16 ноября). Оптимизация второго порядка в градиентном бустинге. Регуляризация деревьев. XGBoost. Стекинг.<br />
<br />
'''Лекция 11''' (23 ноября). Графы вычислений, их обучение и метод обратного распространения ошибки. Полносвязные, свёрточные и рекуррентные слои. Возможности аппроксимации.<br />
<br />
'''Лекция 12''' (30 ноября). Обучение без учителя. Кластеризация: метрики качества, K-Means, иерархический и графовый подходы. Визуализация, t-SNE. Обучение представлений. word2vec.<br />
<br />
'''Лекция 13''' (7 декабря). Метод главных компонент, его связь с матричными разложениями. Рекомендательные системы: постановка задачи, коллаборативные методы, матричные разложения, контентные методы.<br />
<br />
== Семинары ==<br />
<br />
== Практические задания ==<br />
<br />
За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. В течение семестра каждый студент может не более 2 раз сдать задание после жёсткого дедлайна. <br />
<br />
'''Задание 1.''' Работа с Pandas и Matplotlib. [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-01.ipynb Github]. Срок: 07:59 15.09.2018.<br />
<br />
==Теоретические домашние задания==<br />
<br />
== Бонусы за соревнования ==<br />
<br />
За успешное участие в соревнованиях по анализу данных могут быть выставлены бонусные баллы, которые можно прибавить к оценке за любое практическое или теоретическое домашнее задание, а также за самостоятельную работу. Под успешным участием понимается попадание в топ-10% мест; если соревнование особо сложное и крупное, может рассматриваться и попадание в топ-20% мест. Конкретное число баллов определяется преподавателями и зависит от сложности соревнования и занятого места. За одно соревнование можно получить не более 5 баллов. Для получения оценки необходимо предоставить краткий отчёт о решении задачи.<br />
<br />
== Контрольная работа ==<br />
<br />
== Экзамен ==<br />
<br />
<br />
== Полезные материалы ==<br />
===Книги===<br />
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.<br />
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.<br />
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.<br />
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.<br />
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.<br />
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.<br />
<br />
===Курсы по машинному обучению и анализу данных===<br />
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]<br />
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]<br />
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]<br />
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]<br />
<br />
== Страницы предыдущих лет ==<br />
<br />
[[Машинное_обучение_1/2017_2018 | 2017/2018 учебный год]]<br />
<br />
[[Машинное_обучение_1/2016_2017 | 2016/2017 учебный год]]</div>Lizasvit