Математическая статистика КНАД 24/25
Содержание
[убрать]О курсе
Цели и задачи курса
侍には目標がなく道しかない [Samurai niwa mokuhyō ga naku michi shikanai]
У самурая нет цели и ничего кроме пути.
Оценивание
Итоговая оценка за курс = 0.2 Домашние задания + 0.25 Контрольная-1 + 0.25 Контрольная-2 + 0.3 Экзамен
Каждая оценка (суммарный итог за домашние задания, контрольные, экзамен) — целое число от 0 до 100. Для перевода в 10-балльную шкалу итоговой оценки используется деление на 10 с арифметическим округлением.
Домашние задания для самураев
Домашние задания одним файлом и папочкой. Домашние задания имеют равный вес. В конце каждой лекции (за исключением ближайших к экзамену лекций) выдается домашнее задание сроком на две недели. Дедлайн жёсткий, однако студент имеет право просрочить два домашних задания на неделю каждое без штрафа.
Формат сдачи ДЗ: один pdf-файл (решение текстовых задач) и один ipynb-файл (решение компьютерных задач). В pdf-файл можно поместить аккуратно написанное отсканированное решение, а можно скомпилировать pdf из теха или маркдауна. Ещё можно вместо pdf-файла написать всё в ipynb. Бонусов за сдачу домашки в техе нет. Пример шаблона.
Обратите внимание: время каждого дедлайна — 23:59.
Контрольные работы и экзамен
Вес каждой задачи будет написан в тексте работы. Задачи с ненаписанным по случайности весом имеют равный вес. При пропуске первой контрольной работы по уважительной причине будет предложен день для переписывания. При пропуске второй контрольной работы по уважительной причине её вес переносится на экзамен. При пропуске дня переписывания, в том числе по уважительным причинам, ещё одного шанса не предоставляется. Если написаны обе контрольные, то будет предложена оценка-автомат [0-8], при согласии на автомат на экзамен можно не приходить.
Контрольная-1: 2025-04-01, 18:10
Контрольная-2: 2025-05-12 (предварительно), 18:10
Экзамен
Учебные материалы
SP: Листки с задачами к курсу.
PDNA: Вероятностная ДНК = вкусные задачи по теории вероятностей.
Рукописи лекций и семинаров
Дневник самурая
2025-01-14, лекция 1: метод моментов, метод максимального правдоподобия: идея и примеры задач
Почитать: LWAS, 9.1, 9.2, 9.3
2025-01-21, лекция 2: байесовский подход, априорное и апостериорное распределение
2025-01-28, лекция 3: свойства оценок, несмещённость оценки, эффективность оценки в классе по MSE, разложение MSE в сумму, состоятельность последовательности оценок
2025-02-04, лекция 4: Байесовский подход. Интервал наивысшей плотности. Симметричный по вероятности интервал. Классический подход. Точный доверительный интервал. Асимптотический доверительный интервал. Дельта-метод. Лемма Слуцкого.
2025-02-11, лекция 5: Построение асимптотического доверительного интервала с помощью дельта-метода и ЦПТ. Лог-функция правдоподобия. Ожидание производной лог-правдоподобия равно нулю. Теоретическая информация Фишера. Три формулы для информации Фишера. Оценка информации Фишера с помощью матрицы Гессе. Асимптотический доверительный интервал с помощью оценки информации Фишера.
2025-02-18, лекция 6: Ковариации любой оценки и производной лог-правдоподобия. Граница Крамера-Рао. Граница достигается, если и только если оценка линейно зависит от производной лог-правдоподобия. Определение достаточной статистики. Теорема Неймана-Фишера о факторизации.
2025-02-25, лекция 7: Распределения связанные с проекцией нормального вектора. Аксиоматика Гершеля-Максвелла для нормального распределения. Хи-квадрат распределение как квадрат длины проекции на d-мерное подпространство. Распределение Стьюдента. Распределение Фишера.
2025-03-04, лекция 8: Классические доверительные интервалы. Для вероятности: классический интервал Вальда и интервал Вильсона (с решением квадратного неравенства). Для математического ожидания: случай большого числа наблюдений и случай нормально-распределенных наблюдений. Интервал для дисперсии для нормально-распределённых наблюдений.
2025-03-11, лекция 9: Доверительный интервал для отношения дисперсий при нормальном распределении наблюдений. Доверительный интервал для разницы ожиданий: при большом размере выборок, при нормальных выборках с равной дисперсией.
Семинары
2025-01-14, семинар 1: метод моментов, метод максимального правдоподобия, угловой случай в методе максимального правдоподобия
2025-01-21, семинар 2: вывод апостериорного распределения, нахождение апостериорного ожидания и апостериорной моды
2025-01-28, семинар 3: проверка несмещённости, напоминание о неравенстве Йенсена, проверка состоятельности, пример доказательства эффективности в классе линейных несмещённых оценок
2025-02-04, семинар 4: Построение доверительного интервала для оценки метода моментов с помощью дельта-метода и ЦПТ.
2025-02-11, семинар 5: Использование свойств лог-правдоподобия для нахождения ожидания и дисперсии. Асимптотический доверительный интервал для метода максимального правдоподобия через оценку информации Фишера. Пример нерегулярной функции правдоподобия.
2025-02-18, семинар 6: Проверка несмещённости, состоятельности, достижения оценкой границы Крамера-Рао. Нахождение достаточной статистики.
2025-02-25, семинар 7: Примеры величин, имеющих хи-квадрат распределение, распределение Стьюдента и Фишера. Нахождение функции плотности хи-квадрат распределение с одной степенью свободы. Примеры связи между хи-квадрат, t-распрелением и F-распределением.
2025-03-04, семинар 8: Пример построения доверительных интервалов Вильсона и Вальда для вероятности. Построение доверительного интервала для разности долей независимых выборок. Построение доверительного интервала для разницы долей довольных и недовольных клиентов.
2025-03-11, семинар 9: Доверительный интервал Уэлча. Примеры нахождения доверительного интервала для разности ожиданий.
Источники
Источники мудрости, которые я постарался не замутить :)
LWAS, Larry Wasserman, All of Statistics
WTSK: Tim Hesterberg, What Teachers Should Know About the Bootstrap: вкусное и доступное изложение бутстрэпа и перестановочных тестов.
BItP: Blitzstein, Hwang, Introduction to Probability: учебник, записи лекций, гарвардский курс.
