Psmo 21 22
Содержание
[убрать]О курсе
Курс читается для студентов 3-го курса в 1-2 модулях.
Лектор: Демешев Борис Борисович
Лекции проходят по пятницам (09:30 - 10:50) онлайн.
Семинаристы: Владимир Омелюсик и Ксения Касьянова
Учебные ассистенты: Анастасия Алтунина и Александр Плахин
Семинары
| Группа | Семинарист | Учебный ассистент | Время занятий | Аудитория/ссылка |
|---|---|---|---|---|
| БПМИ191 МОП | Владимир Омелюсик | Анастасия Алтунина | Пт, 13:00–14:20 | D509 |
| БПМИ192 МОП | Владимир Омелюсик | Анастасия Алтунина | Вт, 13:00–14:20 | R206 |
| БПМИ193 МОП | Владимир Омелюсик | Александр Плахин | Вт, 14:40 - 16:00 | R304 |
| по выбору | Ксения Касьянова | Александр Плахин | Вт, 18:10–19:30 | D502 |
Полезные ссылки
Боевой листок
Лекции
[3 сентября] Лекция 1: Энтропия и дивергенция Кульбака-Лейблера. AIC.
[10 сентября] Лекция 2: Метод максимального правдоподобия
[17 сентября] Лекция 3: maximum likelihood
[24 сентября] Лекция 4: LR, LM, W
[1 октября] Лекция 5: EM
[8 октября] Лекция 6: EM + bootstrap
[15 октября] Лекция 7: Boot + regression
[29 октября] Лекция 8: CI regression
Семинары
Семинар 1: Гипотезы и доверительные интервалы.
Семинар 2: Энтропия и KL-дивергенция. Метод максимального правдоподобия.
- Группы 191, 192, 193: [Конспект], [Видео], [Ответы на вопросы], [Бесконечная энтропия]
Семинар 3: Метод максимального правдоподобия. Информация Фишера.
Семинар 4: Тесты LR, LM, W
Семинар 5: EM-алгоритм
- Группы 191, 192, 193: [Конспект], [Видео (теория)], [Видео (код)]
Семинар 6: EM-алгоритм. Бутстрэп
- Группы 191, 192, 193: [Конспект (с прошлого года)], [Видео (с прошлого года)], [Кодспект (с прошлого года)]
Семинар 7: Линейная регрессия. МНК. ТГМ
Семинар 8: Тестирование гипотез в линейной регрессии
Семинар 9: Прогнозирование. Геометрия распределений в линейной регрессии
Семинар 10: Гетероскедастичность
Семинар 11: Эндогенность
Семинар 12: Мультиколлинеарность. Логистическая регрессия
Домашние задания
Домашние задания загружаются в личный репозиторий в GitHub Classroom.
Правила оформления решений находятся на первой странице каждого домашнего задания.
Домашнее задание 1.
Темы:
- Метод максимального правдоподобия. Тесты LR, LM, W.
- Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
- Бутстрэп.
- МНК. Тестирование гипотез в линейной регресии.
Дата выдачи: 8 сентября
Дедлайн: 19 ноября 23:59
[Условие]
[Ссылка на задание в Classroom]
Домашнее задание 2.
Темы:
- Линейная регрессия.
- Мультиколлинеарность. Отбор регрессоров.
- Гетероскедастичность. Эндогенность.
Дата выдачи: 2 декабря
Дедлайн: 14 декабря 23:59
Квизы
Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.
В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, после которой на соответствующих семинарах пройдут квизы.
| На семинаре № | После лекции | Тема | Задачи |
|---|---|---|---|
| 3 | 17 сентября | Энтропия и дивергенция Кульбака-Лейблера | Ссылка |
| 5 | 1 октября | Тесты LR, LM, W | Ссылка |
| 6 | 8 октября | EM-алгоритм | Ссылка |
| 7 | 15 октября | ТГМ и МНК | отменён |
| 8 | 29 октября | Тестирование гипотез в линейной регрессии | отменён |
| 9 | 5 ноября | Корректировка гетероскедастичности | отменён |
| 11 | 19 ноября | Логистическая регрессия | отменён |
Все квизы, начиная с четвёртого включительно, отменяются. Оценка за квизы формируется следующим образом:
Квиз = 0.5 * (Средняя за Квизы 1, 2 и 3) + 0.5 * Весёлая активность.
Информация о проведении Весёлой активности выложена в канале в Телеграме.
Контрольная работа
Контрольная работа является письменной формой контроля и состоится 19 октября в 13:00. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля:
- Метод максимального правдоподобия
- Тесты LR, LM, W
- Энтропия и KL-дивергенция
- EM-алгоритм
- Бутстрэп
[Задачи для подготовки прошлого года]
[Задания контрольной прошлого года]
Экзамен
Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.
Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.
Отчётность по курсу и критерии оценки
Итоговая оценка за курс
Итоговая оценка за курс рассчитывается по следующей формуле:
Итог = 0.6 * Накоп + 0.4 * Экз.
В этой формуле
Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,
где
- Квиз – средняя оценка за все квизы.
- ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
- КР – оценка за контрольную работу.
Экз =
- Накопленная оценка, если она меньше или равна 7.
- 7, если Накопленная оценка больше 7.
- Оценка за устный экзамен, если прийти и сдать его.
Округление арифметическое, округляется только итоговая оценка.
Литература
- Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.
- Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.
- David Williams. Weighing the Odds. A Course in Probability and Statistics – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.
