Майнор Интеллектуальный анализ данных/Введение в анализ данных — различия между версиями
м |
Esokolov (обсуждение | вклад) (→Лекции) |
||
(не показана одна промежуточная версия 19 участников) | |||
Строка 1: | Строка 1: | ||
== О курсе == | == О курсе == | ||
− | |||
− | + | Курс читается для студентов 2-го курса [https://electives.hse.ru/2015/minor_intel/ майнора ИАД] в 3-4 модулях. | |
− | + | ||
− | + | ||
− | + | Проводится с 2015 года. | |
− | + | ||
− | + | ||
− | + | ||
− | + | ||
− | + | '''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич] | |
− | + | ||
− | + | ||
− | + | ||
− | + | ||
− | + | Лекции проходят по средам, 10:30 - 11:50, ауд. 5306 (Шаболовка, 26). | |
− | |||
− | |||
− | + | === Полезные ссылки === | |
− | + | [https://www.hse.ru/edu/courses/219890194 Карточка курса и программа] | |
− | + | [https://github.com/esokolov/ml-minor-hse Репозиторий с материалами на GitHub] | |
− | + | Почта для сдачи домашних заданий: hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com) | |
− | + | Канал в telegram для объявлений: https://telegram.me/hse_minor_intro_dm_2019 | |
− | = | + | [https://docs.google.com/spreadsheets/d/1B1cwdaCJ2uPhqJs4fQJDcGKUgjBKl7DcNLOwsvSbxHY/edit?usp=sharing Таблица с оценками] |
− | + | Оставить отзыв на курс: [http://goo.gl/forms/RwdMxnChST форма] | |
− | + | '''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу. | |
− | + | Вопросы по материалам лекций лучше всего оформлять в виде [https://github.com/esokolov/ml-minor-hse/issues Issue] в [https://github.com/esokolov/ml-minor-hse github-репозитории курса]. | |
− | + | ||
− | + | ||
− | + | ||
− | + | ||
− | + | ||
− | + | ||
− | === | + | === Семинары === |
− | + | ||
− | + | ||
{| class="wikitable" | {| class="wikitable" | ||
|- | |- | ||
− | + | ! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание | |
|- | |- | ||
− | + | | ИАД-1 || [https://www.hse.ru/org/persons/137309442 Кохтев Вадим] || Богданов Илья|| [https://t.me/joinchat/AeUUShP8cnx1aUDw8NLxiw Чат в Telegram], [https://github.com/Kokhtev/HSE-teaching/tree/master/IntroDS-minor-2019 Github]|| среда, 9:00-10:20, ауд. 3203 | |
|- | |- | ||
− | + | | ИАД-2 || Ковалев Евгений || Мухортов Максим || [http://wiki.cs.hse.ru/%D0%9C%D0%B0%D0%B9%D0%BD%D0%BE%D1%80_%D0%98%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82%D1%83%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B9_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85/%D0%92%D0%B2%D0%B5%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5_%D0%B2_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85/%D0%98%D0%90%D0%94-2 Wiki] || среда, 12:10-13:30, ауд. 4336 | |
|- | |- | ||
− | + | | ИАД-3 || || || || | |
|- | |- | ||
− | + | | ИАД-4 || Филатов Артем || Рогачевская Анастасия || [https://t.me/joinchat/BsAFQhb8lJtUp0grsuAXnw Чат в Telegram] || среда, 9:00-10:20, ауд. 4335 | |
|- | |- | ||
− | + | | ИАД-5 || || || || | |
|- | |- | ||
− | |||
|} | |} | ||
− | === | + | === Правила выставления оценок === |
− | + | В курсе предусмотрено несколько форм контроля знания: | |
+ | * Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров | ||
+ | * Практические домашние работы на Python | ||
+ | * Контрольная где-то в середине курса | ||
+ | * Письменный экзамен | ||
− | + | Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен: | |
− | + | O<sub>итоговая</sub> = 0.7 * O<sub>накопленная</sub> + 0.3 * О<sub>экз</sub> | |
− | + | Оценка за работу в семестре вычисляется по формуле | |
− | + | O<sub>накопленная</sub> = 0.2 * O<sub>самостоятельные</sub> + 0.6 * О<sub>дз</sub> + 0.2 * О<sub>контрольная</sub> | |
− | + | Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям. | |
− | + | === Правила сдачи заданий === | |
− | + | При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента. | |
− | + | При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис. | |
− | + | ==Лекции== | |
+ | [[Файл:how-to-download.png|thumb|right|200px|Файлы со слайдами очень легко скачать с GitHub с помощью кнопки Raw!]] | ||
− | Лекция | + | Лекция 1 (16.01.2018). Введение в машинное обучение и анализ данных. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture01-intro.pdf Слайды]] |
− | Лекция | + | Лекция 2 (23.01.2018). Типы задач машинного обучения. Типы признаков. Обобщающая способность и переобучение. Примеры задач анализа данных. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture02-intro.pdf Слайды]] |
− | Лекция | + | Лекция 3 (30.01.2018). Векторы и матрицы. Норма, метрика и скалярное произведение. Качество классификации, доля верных ответов. Оценивание обобщающей способности, кросс-валидация. Гипотеза компактности. Метод k ближайших соседей. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture03-knn.pdf Слайды]] |
− | Лекция | + | Лекция 4 (06.02.2018). Метод k ближайших соседей в регрессии. Среднеквадратичная ошибка. Матричное умножение. Производные и градиенты. Экстремумы функций. Обучение линейной регрессии. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture04-regression.pdf Слайды]] |
− | Лекция | + | Лекция 5 (13.02.2018). Градиентный спуск. Линейные зависимости и мультиколлинеарность. Регуляризация линейных моделей. Масштабирование признаков. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture05-regression.pdf Слайды]] |
− | Лекция | + | Лекция 6 (20.02.2018). Линейная классификация. Логистическая регрессия. Оценивание вероятностей. Метрики качества классификации: accuracy, precision, recall. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture06-linclass.pdf Слайды]] |
− | Лекция | + | Лекция 7 (27.02.2018). Работа с категориальными признаками. Метрики качества регрессии: MSE, MAE, коэффициент детерминации. Устойчивые оценки. Качество классификации, AUC-PR, AUC-ROC. Параметры и гиперпараметры. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture07-quality.pdf Слайды]] |
− | + | Лекция 8 (06.03.2018). Многоклассовая классификация, подход one-vs-all. Решающие деревья. Критерии информативности. Энтропия и энтропийный критерий для классификации. Гиперпараметры деревьев, борьба с переобучением. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture08-trees.pdf Слайды]] | |
− | + | ||
− | + | Лекция 9 (13.03.2018). Композиции алгоритмов. Случайные леса [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture09-ensembles.pdf Слайды]] | |
− | + | ||
− | + | Лекция 10 (20.03.2018). Композиции алгоритмов. Разложение ошибки на смещение и разброс. Градиентный бустинг. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture10-ensembles.pdf Слайды]] | |
− | + | ||
− | + | Лекция 11 (10.04.2018). Понижение размерности данных. Отбор признаков: одномерные методы, отбор с помощью моделей. Визуализация данных, t-SNE. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture11-reduction.pdf Слайды]] | |
− | + | ||
− | + | Лекция 12 (24.04.2018). Обучение без учителя. Примеры задач. Кластеризация: K-Means, DBSCAN, графовые методы. Представления слов. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture12-clustering.pdf Слайды]] | |
− | + | ||
− | + | Лекция 13 (15.05.2018). Рекомендательные системы. Коллаборативная фильтрация, модели со скрытыми переменными. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture13-recommender.pdf Слайды]] | |
− | + | ||
− | + | Лекция 14 (29.05.2018). Ранжирование. Метрики качества ранжирования. Точечные и попарные методы. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture14-ranking.pdf Слайды]] | |
− | + | ||
− | + | Лекция 15 (05.06.2018). Метод опорных векторов. Задача максимизации отступа. Hinge loss. Ядровой переход. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture15-svm.pdf Слайды]] | |
− | + | ||
− | + | Лекция 16 (05.06.2018). Обучение с переносом знаний. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2019/lecture16-transfer.pdf Слайды]] | |
− | * [[ | + | |
− | * [[ | + | ==Семинары== |
− | * [[ | + | |
− | + | == Практические задания == | |
+ | За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. | ||
+ | |||
+ | == Контрольная работа == | ||
+ | |||
+ | Вопросы: https://docs.google.com/document/d/1kdeA730ItEqgC-4V_-U2gq_EbpX413XmmE9wMj7Wdh8/edit?usp=sharing | ||
+ | |||
+ | Примеры задач: | ||
+ | * Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]] | ||
+ | * Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]] | ||
+ | * Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]] | ||
+ | * Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]] | ||
+ | |||
+ | == Экзамен == | ||
+ | |||
+ | Вопросы: https://docs.google.com/document/d/1IrRO4kbzKieTWDgJ5UhfPECyU2tvq9CZi2mXgQPzf30/edit?usp=sharing | ||
+ | |||
+ | [https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума) | ||
==Полезные материалы== | ==Полезные материалы== | ||
Строка 141: | Строка 141: | ||
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010. | * Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010. | ||
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013. | * James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013. | ||
+ | |||
+ | == Страницы прошлых лет == | ||
+ | |||
+ | [[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]] | ||
+ | |||
+ | [[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]] | ||
+ | |||
+ | [[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]] | ||
[[Category:Майнор "Интеллектуальный анализ данных"]] | [[Category:Майнор "Интеллектуальный анализ данных"]] |
Текущая версия на 21:57, 13 августа 2019
Содержание
О курсе
Курс читается для студентов 2-го курса майнора ИАД в 3-4 модулях.
Проводится с 2015 года.
Лектор: Соколов Евгений Андреевич
Лекции проходят по средам, 10:30 - 11:50, ауд. 5306 (Шаболовка, 26).
Полезные ссылки
Репозиторий с материалами на GitHub
Почта для сдачи домашних заданий: hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)
Канал в telegram для объявлений: https://telegram.me/hse_minor_intro_dm_2019
Оставить отзыв на курс: форма
Вопросы по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу. Вопросы по материалам лекций лучше всего оформлять в виде Issue в github-репозитории курса.
Семинары
Группа | Преподаватель | Учебный ассистент | Страница | Расписание |
---|---|---|---|---|
ИАД-1 | Кохтев Вадим | Богданов Илья | Чат в Telegram, Github | среда, 9:00-10:20, ауд. 3203 |
ИАД-2 | Ковалев Евгений | Мухортов Максим | Wiki | среда, 12:10-13:30, ауд. 4336 |
ИАД-3 | ||||
ИАД-4 | Филатов Артем | Рогачевская Анастасия | Чат в Telegram | среда, 9:00-10:20, ауд. 4335 |
ИАД-5 |
Правила выставления оценок
В курсе предусмотрено несколько форм контроля знания:
- Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
- Практические домашние работы на Python
- Контрольная где-то в середине курса
- Письменный экзамен
Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:
Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз
Оценка за работу в семестре вычисляется по формуле
Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Оконтрольная
Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям.
Правила сдачи заданий
При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.
При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.
Лекции
Лекция 1 (16.01.2018). Введение в машинное обучение и анализ данных. [Слайды]
Лекция 2 (23.01.2018). Типы задач машинного обучения. Типы признаков. Обобщающая способность и переобучение. Примеры задач анализа данных. [Слайды]
Лекция 3 (30.01.2018). Векторы и матрицы. Норма, метрика и скалярное произведение. Качество классификации, доля верных ответов. Оценивание обобщающей способности, кросс-валидация. Гипотеза компактности. Метод k ближайших соседей. [Слайды]
Лекция 4 (06.02.2018). Метод k ближайших соседей в регрессии. Среднеквадратичная ошибка. Матричное умножение. Производные и градиенты. Экстремумы функций. Обучение линейной регрессии. [Слайды]
Лекция 5 (13.02.2018). Градиентный спуск. Линейные зависимости и мультиколлинеарность. Регуляризация линейных моделей. Масштабирование признаков. [Слайды]
Лекция 6 (20.02.2018). Линейная классификация. Логистическая регрессия. Оценивание вероятностей. Метрики качества классификации: accuracy, precision, recall. [Слайды]
Лекция 7 (27.02.2018). Работа с категориальными признаками. Метрики качества регрессии: MSE, MAE, коэффициент детерминации. Устойчивые оценки. Качество классификации, AUC-PR, AUC-ROC. Параметры и гиперпараметры. [Слайды]
Лекция 8 (06.03.2018). Многоклассовая классификация, подход one-vs-all. Решающие деревья. Критерии информативности. Энтропия и энтропийный критерий для классификации. Гиперпараметры деревьев, борьба с переобучением. [Слайды]
Лекция 9 (13.03.2018). Композиции алгоритмов. Случайные леса [Слайды]
Лекция 10 (20.03.2018). Композиции алгоритмов. Разложение ошибки на смещение и разброс. Градиентный бустинг. [Слайды]
Лекция 11 (10.04.2018). Понижение размерности данных. Отбор признаков: одномерные методы, отбор с помощью моделей. Визуализация данных, t-SNE. [Слайды]
Лекция 12 (24.04.2018). Обучение без учителя. Примеры задач. Кластеризация: K-Means, DBSCAN, графовые методы. Представления слов. [Слайды]
Лекция 13 (15.05.2018). Рекомендательные системы. Коллаборативная фильтрация, модели со скрытыми переменными. [Слайды]
Лекция 14 (29.05.2018). Ранжирование. Метрики качества ранжирования. Точечные и попарные методы. [Слайды]
Лекция 15 (05.06.2018). Метод опорных векторов. Задача максимизации отступа. Hinge loss. Ядровой переход. [Слайды]
Лекция 16 (05.06.2018). Обучение с переносом знаний. [Слайды]
Семинары
Практические задания
За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются.
Контрольная работа
Вопросы: https://docs.google.com/document/d/1kdeA730ItEqgC-4V_-U2gq_EbpX413XmmE9wMj7Wdh8/edit?usp=sharing
Примеры задач:
- Метрические методы, kNN [Примеры задач]
- Линейные методы [Примеры задач]
- Решающие деревья [Примеры задач]
- Метрики качества [Примеры задач]
Экзамен
Вопросы: https://docs.google.com/document/d/1IrRO4kbzKieTWDgJ5UhfPECyU2tvq9CZi2mXgQPzf30/edit?usp=sharing
Примеры задач прошлого года (также могут войти задачи из коллоквиума)
Полезные материалы
Курсы по машинному обучению и анализу данных
- Курс по машинному обучению К.В. Воронцова
- Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов
- Coursera: Машинное обучение и анализ данных (специализация)
- Coursera: Введение в машинное обучение, К.В. Воронцов
- Coursera: Machine Learning, Andrew Ng
Статьи
- An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples
- A Visual Introduction to Machine Learning
Книги
- Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
- Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
- James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.