Математическая статистика 2022/2023 (основной поток)

Преподаватели и учебные ассистенты

Группа	БПМИ213	БПМИ215	БПМИ216	БПМИ217	БПМИ218	БПМИ219	БПМИ2110
Лектор	Дарина Двинских
Семинарист	Павел Захаров	Денис Ракитин	Денис Богуцкий	Артур Гольдман	Дарина Двинских	Илья Левин	Евгений Лагутин
Ассистент(ы)	Василевская Юлия	Ульяна Виноградова Бойков Алексей	Ершов Иван Гринев Тимофей	Кирилл Тамогашев Кирилл Королев	Иевлева Александра Анастасия Безрукова	Тимофей Грицаев Максимов Ян	Антон Бельский Варвара Руденко
Группа в телеграмме	Группа 213	Группа 215	[ Группа 216]	Группа 217	Группа 218	[ Группа 219]	[ Группа 2110]

Организационные моменты

Правила игры

Оценка за курс складывается из нескольких факторов:

• Одна контрольная работа (письменная, ориентировочно после 3-го модуля);
• Два коллоквиума;
• Домашние задания. В среднем, на каждом семинаре будут выдавать по 2-3 задачи для самостоятельного решения, которые будет нужно письменно сдавать ассистентам;
• Письменный экзамен;

Округляется только итоговый балл.

• Оценка высчитывается по следующей формуле:

О_итог = 0.2 * О_КР + 0.15 * О_{коллоквиум 1} + 0.15 * О_{коллоквиум 2} + 0.2 * О_ДЗ + 0.3 * О_{экзамен}.

Ведомость с оценками

213	215	216	217	218	219

Контрольные работы

Правила игры

На контрольную отвидится 2 часа. С собой разрешается принести лист А4 с (рукописными!) записями (можно с обеих сторон).

Коллоквиумы

Как проходят

В билетах будут два теоретических вопроса из программы курса (списка вопросов к коллоквиуму). При подготовке не разрешено ничем пользоваться. За коллоквиум можно набрать 10 баллов: билет - 6 балла, общение с экзаменатором - 4 балла. Экзаменатор может задавать как теоретические вопросы, так и давать задачи.

Порядок захода

Время захода	Группы	Аудитория
11:00	217, 218, 2110	R404
14:40	213, 219	R205
16:40	216	R503
18:00	215	R503

Материалы

Лекции

1. Вводная лекция, мотивация
2. Метрика качества точечных оценок. Сравнение оценок: Байесовский, минимаксный и равномерные подходы. Bias-variance decomposition. Несмещенные и состоятельные оценки. (Лагутин)
3. Сравнение оценок в равномерном подходе. Оптимальные оценки. Регулярные семейства (Ивченко-Медведев)
4. Неравенство Рао-Крамера, информация Фишера, эффективная оценка (Ивченко-Медведев)
5. Доказательство неравенство Рао-Крамера и сверхэффективные оценки (Ивченко-Медведев)
6. Метод максимального правдоподобия
7. Асимптотические свойства оценки максимального правдоподобия, экспоненциальные семейства, вогнутость функции правдоподобия для экспоненциального семейства https://davidrosenberg.github.io/ttml2021fall/background/conditional-expectation-notes.pdf
8. Условное матожидание
9. Достаточные статистики. Теорема Рао-Блекуэлла-Колмогорова.
10. Полные достаточные статистики. Теорема об оптимальности оценок, являющихся функциями полных достаточных статистик.
11. Байесовский риск и байесовская оценка. Байесовская оценка при квадратичной функции потерь. Минимаксные оценки через байесовские оценки и наихудшее априорное распределение.
12. [ https://web.stanford.edu/class/archive/stats/stats200/stats200.1172/Lecture18.pdf Точные доверительные интервалы.] Метод центральной статистики (Ивченко-Медведев, стр. 276)

Конспект лекций с пилотного потока:

(обновляемый конспект);

Семинары

1. конспекты 213 группы от Бандита

Вопросы к коллоквиуму

1. Несмещенные, асимптотически несмещенные, состоятельные и сильно состоятельные оценки. Разложение среднеквадратичной ошибки оценивания в сумму дисперсии и квадрата смещения. Достаточное условие состоятельности асимптотически несмещенной оценки. (конспект, глава 3)
2. Оптимальные оценки. Единственность оптимальной оценки в классе несмещенных оценок. (конспект, глава 3 или Ивченко-Медведев, стр. 168-170)
3. Функция правдоподобия, вклад выборки и информация Фишера. Регулярные семейства. Неравенство Рао–Крамера в случае скалярного параметра. Эффективная оценка. Критерий эффективности. ] (конспект, глава 4)
4. Экспоненциальные семейства. Вклад выборки для экспоненциальных семейств. Эффективные оценки в экспоненциальных семействах. (конспект, глава 5.3 или Ивченко-Медведев, стр. 179-181)
5. Метод максимального правдоподобия (см. 2 Maximum Likelihood). Асимптотические свойства оценки максимального правдоподобия: состоятельность и асимптотическая нормальность ( см. 7 MLE Asymptotics)
6. Свойства экспоненциальных семейств: сохранение структуры экспоненциального семейства для выборки и выпуклость нормировочной функции A(θ). Вогнутость логарифма функции правдоподобия в экспоненциальных семействах.
7. Условное математическое ожидание, его свойства и связь с проекцией. Теорема о наилучшем среднеквадратичном приближении.
8. Достаточные статистики. Теорема Рао-Блекуэлла-Колмогорова. Полные достаточные статистики. Теорема об оптимальности оценок, являющихся функциями полных достаточных статистик. Уравнение несмещенности. (конспект, глава 8 или Ивченко-Медведев, стр. 186-193, примеры в сам билет не входят)
9. Байесовский риск, байесовская оценка. Байесовская оценка при квадратичной функции потерь. Минимаксные оценки через байесовские оценки и наихудшее априорное распределение. (начиная с 1.3 Bayes estimators)
10. Точные доверительные интервалы. Метод центральной статистики. (конспект, глава 9 или Ивченко-Медведев, начиная со стр 276-277)

Домашние задания

Дедлайн сдачи домашнего задания строгий. Разрешено сдать одно домашнее задание после дедлайна, но об этом нужно предварительно сообщить ассистенту.

Список ДЗ

• Домашнее задание №0, дедлайн - 31.02, 23:59

Список рекомендуемой литературы

• Ивченко Г. И., Медведев Ю. И., Введение в математическую статистику (ссылка);
• М. Б. Лагутин Наглядная математическая статистика (ссылка);
• Бородин А. Н., Элементарный курс теории вероятностей и математической статистики(ссылка);
• Боровков А. А., Математическая статистика (ссылка);
• Larry A. Wasserman All of Statistics: A Concise Course in Statistical Inference (ссылка);
• Натан А. А., Горбачев О. Г., Гуз С. А., Математическая статистика (ссылка);
• Ушаков В. Г., конспекты лекций по математической статистике (ВМК МГУ, ссылка);
• Пучкин Н., конспекты лекций по статистической теории обучения (отсюда можно взять неравенства концентрации, ссылка).

Курсы

• Zhou Fan (Stanford University) ссылка;
• Philippe Rigollet (MIT) ссылка;
• Larry Wasserman (Carnegie Mellon University) ссылка;

Страницы прошлых лет

Предупреждение: программа курса значительно изменилась по сравнению с прошлыми годами.

2020/2021 учебный год

2019/2020 учебный год