Теория вероятностей и математическая статистика, фэн, 2020-2021
Содержание
[убрать]- 1 Общая информация
- 2 Основная литература
- 3 Дополнительная литература
- 4 Материалы к курсу
- 5 Первый семестр
- 5.1 1 сентября. Основные понятия теории вероятностей. Дискретное вероятностное пространство.
- 5.2 8 сентября. Условная вероятность. Независимость событий. Формула полной вероятности.
- 5.3 15 сентября. Формула Байеса, испытания Бернулли, теорема Пуассона
- 5.4 22 сентября. Биномиальное и связанные с ним распределения: геометрическое, Пуассона. Теорема Пуассона
- 5.5 29 сентября. Аксиоматика теории вероятностей: Сигма-алгебра событий. Вероятностная мера. Случайные величины как измеримые функции.
- 5.6 6 октября. Аксиоматика Колмогорова. Непрерывные вероятностные пространства. Случайные величины, функции распределения. Дискретные распределения. Непрерывные распределения, функция плотности
- 5.7 13 октября. Непрерывные распределения случайных величин. Математическое ожидание
- 5.8 23 октября. Контрольная работа №1
- 5.9 27 октября. Случайные векторы. Совместное распределение
- 5.10 3 ноября. Условные распределения и условные математические ожидания. Дисперсия. Ковариация
- 5.11 10 ноября. Одномерные&Двумерные распределения и их характеристики
- 5.12 17 ноября. Корреляция и её свойства. Альтернативные способы измерения риска - VaR
- 5.13 24 ноября. Неравенства Чебышёва и Маркова. Сходимость по вероятности
- 5.14 1 декабря. Закон Больших Чисел. Центральная Предельная Теорема
- 5.15 8 декабря. Интегральная и локальная теоремы Муавра-Лапласа. Задача о страховом резерве. Неравенство Берри-Ессеена
- 5.16 15 декабря. Метод Монте-Карло
- 6 Второй семестр
- 6.1 12 января. Многомерное нормальное распределение
- 6.2 19 января. Многомерное нормальное: условное распределение. Распределения, связанные с нормальным: хи-квадрат, Стьюдента, Фишера
- 6.3 26 января. Основные понятия математической статистики
- 6.4 2 февраля. Свойства выборочных характеристик
- 6.5 9 февраля. Точечные оценки и их свойства
- 6.6 16 февраля. Методы статистического оценивания параметров
- 6.7 24 февраля. Информация Фишера. Неравенство Рао-Крамера
- 6.8 2 марта. Критерий эффективности. Асимптотические свойства оценок. Дельта-метод
- 6.9 9 марта. Стратифицированное среднее
- 6.10 16 марта. Доверительный интервал для математического ожидания и дисперсии
- 6.11 23 марта. Доверительные интервалы для разности математических ожиданий
- 6.12 6 апреля. Асимптотические доверительные интервалы.
- 6.13 13 апреля. Проверка гипотез. Общие понятия, мощность теста
- 6.14 20 апреля. Проверка гипотез об ожидании, дисперсии, доле
- 6.15 27 апреля. Сравнение ожиданий
- 6.16 11 мая. Критерии согласия распределений
- 6.17 18 мая. Критерий отношения правдоподобия. Ядерное оценивание функции плотности
- 6.18 25 мая. Независимость признаков
- 6.19 1 июня. Байесовский подход. Первая серия
Общая информация
Объявления
9 июня состоится вебинар новой программы магистратуры "Экономика и экономическая политика", трека "Количественные методы в экономике и финансах". Регистрация
Запись вебинара "Математические модели экономических процессов"
Запись вебинара "Стохастический анализ в действии: от финансовой математики до охраны окружающей среды" https://youtu.be/TQeNFcEC9tA
Таблица с оценками
Что делать студентам, не имеющим возможности посещать занятия?
Каждый понедельник в 13.00 проходит он-лайн семинар. Ссылка на конференцию: https://zoom.us/j/96178802506, Идентификатор конференции 96178802506, Код доступа 1810. Вопросы по материалу лекций можно задать на консультации, проходящей в смешанном формате каждый вторник с 11.00 до 12.30. Если вопросы не поступают в течение 5 минут, консультация завершается. Подключиться к конференции Zoom: https://us04web.zoom.us/j/79049742688?pwd=ZWtkQWlFWWFCMHZoUnFuWFF6UUxRZz09 Идентификатор конференции: 790 4974 2688 Код доступа: PrdNE3
График лекций и консультаций
Таблица с фамилиями и почтами ассистентов по группам
| Группа | Семинарист | Телеграм семинариста | Ассистент | Телеграм ассистента | [развернуть] Используемые ассистентом ресурсы |
|---|
Элементы контроля
Нажми "развернуть", чтобы просмотреть содержимое - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - 🡣
Минимум N3 пройдет в годовой юбилей объявления пандемии (2021-03-11). Тест состоит из 12 вопросов и длится 36 минут от момента начала.
Тест откроется на вход в 20:00 (мск).
Возвращаться к предыдущим вопросам невозможно. Часть вопросов с выбором одного ответа из множества. Часть вопросом с вводом ответа числом.
В числовых ответах: в качестве разделителя дробной и целой части используйте точку. Дробные ответы вводите с точностью до двух знаков после точки.
Если картинка с условием вдруг не видна, то можно обновить страничку или кликнуть правой кнопкой мыши по непрогрузившейся картинке и принудительно её подгрузить.
Основная литература
- Алексей Шведов, Теория вероятностей и математическая статистика: пособие для вузов
- Алексей Шведов, Теория вероятностей и математическая статистика - 2 (промежуточный уровень) : учеб. пособие
- Борзых Д. А., Теория вероятностей и математическая статистика в задачах: Более 360 задач и упражнений
- Борзых Д. А., Теория вероятностей в задачах
- Борзых Д. А., Математическая статистика в задачах
- Blitzstein, Hwang, курс Statistics 110: книга, видеолекции, листки с упражнениями, теория вероятностей до статистики, но с MCMC и упражнениями в R.
Дополнительная литература
- Dekking, Modern introduction to probability and statistics. Учебник, упражнения в конце каждой главы.
- Kelbert, Suhov, Probability and statistics by example: задачи Кембриджских тривиумов с подробными решениями. Кельберт, Сухов, Вероятность и статистика в примерах и задачах.
- Наталья Чернова, Теория вероятностей.
У Черновой менее популярное определение функции распределения, $F(t)=P(X<t)$, в нашем курсе мы используем $F(t)=P(X\leq t)$, будьте аккуратны.
- Наталья Чернова, Математическая статистика
- Williams, Weighing the odds, Учебник с кучей красивых примеров, для начинающих изучать вероятности с нуля, но довольно требовательный к читателю.
- Grimmett and Stirzaker, Probability and Random Processes
- Grimmett, One thousand exercises in probability
Материалы к курсу
Подборка контрольных прошлых лет
Листки к семинарам ип
Таблицы: распределения, связанные с нормальным, тест Колмогорова (рус), тесты Колмогорова и Смирнова (eng)
Если есть подозрение на опечатку-ошибку в материалах кр-видео, то поднимите запрос. Укажите, где конкретно ошибка и в чём её суть.
Первый семестр
Нажми "развернуть", чтобы просмотреть содержимое - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - 🡣
Второй семестр
12 января. Многомерное нормальное распределение
Разберите материал лекции:
Внимание, опечатка: на 20-ой минуте в определении 2 корень из двух пи должен быть в степени n
Посмотрите материалы семинаров:
- БП: Двумерное нормальное распределение: основные формулы
- БП: Двумерное нормальное распределение: пример задачи
- БП: Условное двумерное нормальное распределение
- ИП: Аксиоматика Хершела-Максвелла
Решите задачи:
- Задачи из прошлых контрольных: №3 и №4 (15–16), №4 (14–15) [все из третьей КР].
Используйте Python:
19 января. Многомерное нормальное: условное распределение. Распределения, связанные с нормальным: хи-квадрат, Стьюдента, Фишера
Разберите материал лекции:
И всё-таки в задаче про вес и рост условная дисперсия веса равна 20, а не 16,3. Посчитано было верно, но при записи перепутаны цифры: должно быть Var (m|h=182)=36*(1-28*28/(49*36))=20.
- определение распределений хи-квадрат, Стьюдента, Фишера смотрите в материалах семинаров
Посмотрите материалы семинаров:
- БП (дополнение лекции): Хи-квадрат распределение: определение и свойства
- БП (дополнение лекции): Распределение Стьюдента: определение и свойства
- БП (дополнение лекции): Распределение Фишера: определение и свойства
- БП: Табличные распределения: примеры задач
- ИП: Геометрический подход к хи-квадрат распределению
Решите задачи:
- Теоретический минимум к третьей КР: №1-4
- Задачный минимум к третьей КР: №1-2
- Задачи из прошлых контрольных: миникр 1(19-20г.), №1,4(18-19г.), №3(17-18г.), №3-4(15-16г.), №4-5(14-15г.), №2(10-11г.), часть I.№1-2 и часть II.№3(8-9г.), часть I.№1,3 и часть II.№3(6-7г.), часть I.№1,3,5,9,12 и часть II.№9(5-6г.) [все из третьей КР]
Используйте Python:
26 января. Основные понятия математической статистики
Разберите материал лекции:
- Генеральная совокупность и выборка. Способы организации выборки
- Выборочные характеристики: вариационный ряд, выборочные функции распределения и плотности, гистограмма, выборочные моменты
Посмотрите материалы семинаров:
Решите задачи:
- Задачи из прошлых контрольных: №1 и №2(16–17), №1 и №2 (15–16), №1 (14–15), №1 (09–10) [все из третьей КР].
Команда room113 подготовила для вас красивую визуализацию гистограмм в R. Обязательно стройте гистограммы, когда работаете с выборкой и данными!
- О гистограммах. Файл с кодом и данные тут: https://drive.google.com/drive/u/1/folders/1uP7n3YKpJWvvN-uw5U_DjahZIjdy51m5?ths=true. Не бойтесь их, они не кусаются :)
Используйте Python:
- Выборочная функция распределения и гистограмма
- Выборочные характеристики
- Генерация выборок из распределений (повышенная сложность)
2 февраля. Свойства выборочных характеристик
Разберите материал лекции:
Поправка в случае конечной генеральной совокупности
Посмотрите материалы семинаров:
- БП: Введение в математическую статистику: использование Excel (продолжение)
- БП: Оценки и их свойства: несмещенность
- БП: Оценки и их свойства: состоятельность
- БП: Оценки и их свойства: эффективность
- ИП: ИП: выборка из конечной генеральной совокупности
Решите задачи:
- Теоретический минимум к третьей КР: №5-8
- Задачный минимум к третьей КР: №3-4
- Задачи из прошлых контрольных: №5(18-19 г.), №7(17-18 г.), №1(16-17 г.), №2(15-16 г.), №1(9-10 г.), ч.I №9, ч.II-А №5(8-9 г.), ч.I №7,13,14; ч.II №1(а-б)(5-6 г.)
Используйте Python:
9 февраля. Точечные оценки и их свойства
Разберите материал лекции: Состоятельность, несмещённость и эффективность оценок неизвестных параметров распределений
Посмотрите материалы семинаров:
- БП: Задача об эффективности выборочного среднего
- БП: Задача об асимптотической несмещенности максимума
- БП: Задачи из минимума: несмещенность
- БП: Задачи из минимума: состоятельность и эффективность
- ИП: Семинар ИП
Решите задачи:
- Теоретический минимум к третьей КР: №9-11
- Задачный минимум к третьей КР: №5-9
- Задачи из прошлых контрольных: Миникр 3 № 1,2,4 (19-20 г.), №8 (18-19 г.)
Используйте Python:
16 февраля. Методы статистического оценивания параметров
Разберите материал лекции
- Метод моментов
- Метод максимального правдоподобия
- Пример применения ММП: оценивание параметров нормального распределения
Ставьте лайки:
Посмотрите материалы семинаров:
- БП: Введение в метод моментов и метод максимального правдоподобия
- БП: Задачи на MM и ML с дискретными распределениями
- БП: Задачи на MM и ML с непрерывными распределениями
- ИП: Байесовская статистика
- ИП: ноутбук по Байесовской статистике
Решите задачи:
- Теоретический минимум к третьей КР: №15-16
- Задачный минимум к третьей КР: №11-13
- Задачи из прошлых контрольных: Миникр 2 (19-20 г.), №7, 9, 10 (18-19 г.), №7 (15-16 г.), №7 (а, б) (14-15 г.), № 1 (а, б) (11-12 г.)
Используйте Python:
24 февраля. Информация Фишера. Неравенство Рао-Крамера
Разберите материал лекции
- Неравенство Коши Буняковского
- Неравенство Рао Крамера. Часть 1
- Неравенство Рао Крамера. Часть 2. Формулировка и доказательство
- Неравенство Рао Крамера. Часть 3. Следствия
- Другая формула для информации Фишера
- Неравенство Рао Крамера. Пример
- Фишер, Рао, Гаральд Крамер, Габриэль Крамер
Посмотрите материалы семинаров:
- БП: Задачи на MM и ML попроще
- БП: Задачи на MM и ML посложнее
- БП: Информация Фишера
- ИП: Кросс-энтропия и метод максимального правдоподобия
Используйте Python:
2 марта. Критерий эффективности. Асимптотические свойства оценок. Дельта-метод
Разберите теоретический материал лекции:
- Слайды к лекции
- Критерий эффективности
- Асимптотические свойства оценок и дельта метод
- Доказательство дельта метода
- Пример: продолжительность безработицы
Опечатки в видео: в критерии эффективности (неравенстве Рао-Крамера) слева должна стоять не среднеквадратическая ошибка, а дисперсия оценки (смотрите слайды к лекции); при доказательстве дельта метода опечатка на доске - по условию производная функции отлична от нуля в любой точке.
Посмотрите материалы семинаров:
- БП: Задача на эффективность оценок
- БП: Еще задача на эффективность оценок
- БП: Продолжение задачи про дельта-метод
- ИП: Неравенство Рао-Крамера
Решите задачи:
- Теоретический минимум к третьей КР: №12
- Задачи из прошлых контрольных: №№3-6 (Миникр 2, 19-20 гг.) ; №8-д (18-19 гг.); №5-з,ж (17-18 гг.); №6-е,ж (16-17 гг.); №№6-д,е (15-16 гг.)
Взбодритесь и отдохните:
9 марта. Стратифицированное среднее
Разберите теоретический материал лекции:
- Слайды к лекции
- Эпизод 1. Понятие стратифицированного среднего
- Эпизод 2. Дисперсия стратифицированного среднего
- Эпизод 3. Оптимизационная задача стратифицированного среднего
- Эпизод 4. Теорема о разности дисперсии среднего и дисперсии стратифицированного среднего
- Эпизод 5. Доказательство теоремы
- Эпизод 6. Пример о разбиении общества на страты
Посмотрите материалы семинаров:
- БП: Продолжение задачи про дельта-метод
- БП: Выборка из конечной генеральной совокупности
- БП: Стратифицированное среднее
- ИП: Метод максимального правдоподобия
Решите задачи:
- Задачи из прошлых контрольных: Минимум КР 3 №15; КР 3: 2018-2019 №2, 2017-2018 №4, 2016-2017 №3, 2014-2015 №2, 2009-2010 №3; КР 2 2008-2009 №8
16 марта. Доверительный интервал для математического ожидания и дисперсии
Разберите теоретический материал лекции:
- Слайды к лекции
- Общие понятия. Следствие леммы Фишера
- ДИ для математического ожидания. Выборки из нормального распределения.
- ДИ для математического ожидания: свойства и примеры
- Ещё пример
- ДИ для дисперсии
Посмотрите материалы семинаров:
- БП: ДИ для математического ожидания: теория
- БП: ДИ для математического ожидания: задачи
- БП: ДИ для дисперсии: теория
- БП: ДИ для дисперсии: задачи
- ИП: Дельта-метод + задачи по Advanced Statistics
Используйте Python:
23 марта. Доверительные интервалы для разности математических ожиданий
Разберите теоретический материал лекции:
- Слайды к лекции
- ДИ для разницы ожиданий. Связанные пары.
- ДИ для разницы ожиданий. Независимые выборки. Известные дисперсии.
- ДИ для разницы ожиданий. Независимые выборки. Известные дисперсии - пример.
- ДИ для разницы ожиданий. Независимые выборки. Неизвестные равные дисперсии.
- ДИ для разницы ожиданий. Независимые выборки. Неизвестные равные дисперсии. Пример.
- Пример. Что насчитали инопланетяне? и его анимированная версия
Посмотрите материалы семинаров:
- БП: ДИ для разницы математических ожиданий: случай связанных пар
- БП: ДИ для разницы математических ожиданий: случай известных дисперсий
- БП: ДИ для разницы математических ожиданий: случай неизвестных, но равных дисперсий
- ИП: ДИ для оценок
Решите задачи:
- Задачи из прошлых контрольных: Минимум КР4: №4, 5; КР3 16-17 №5, КР3 17-18 №8
6 апреля. Асимптотические доверительные интервалы.
Асимптотические доверительные интервалы. Дельта-метод.
Разберите теоретический материал лекций:
- Слайды к лекции
- Асимптотический ДИ для математического ожидания
- Пример: ДИ для вероятности
- Построение асимптотического ДИ с помощью дельта метода
- Пример: безработица
- Асимптотический ДИ для разности долей
Посмотрите материалы семинаров:
- БП: Асимптотический ДИ для доли
- БП: Еще раз о таблицах
- БП: Асимптотический ДИ для разности долей
- БП: Асимптотический ДИ и дельта метод
- ИП: ДИ для разницы ожиданий, Тест Уэлча
13 апреля. Проверка гипотез. Общие понятия, мощность теста
Разберите теоретический материал лекции:
- Понятие о гипотезе. Виды гипотез. Основная (нулевая) и альтернативные гипотезы. Простые и сложные гипотезы.
- Статистический критерий. Ошибки первого и второго рода.
- Равномерно наиболее мощный критерий
- Гипотеза о математическом ожидании. Выборки из нормальной совокупности, известная дисперсия.
Посмотрите материалы семинаров:
- БП: Проверка гипотез. Ошибки 1 и 2 рода
- БП: Первая задача на ошибки 1 и 2 рода
- БП: Вторая задача на ошибки 1 и 2 рода
- ИП: Бутстрэп
20 апреля. Проверка гипотез об ожидании, дисперсии, доле
Вы ещё не знаете, какое направление выбрать в магистратуре? Посмотрите запись вебинара "Математические модели экономических процессов". Не теряйте времени, Николай Петрович не сможет записать всех желающих на свой проектный семинар!
Разберите теоретический материал лекции:
- Задача о фильтрах: ошибки первого и второго рода, построение критерия.
- Гипотеза о математическом ожидании. Выборки из нормальной совокупности, неизвестная дисперсия.
- Гипотеза о дисперсии. Выборки из нормальной совокупности.
- Гипотеза о вероятности (доле). Большие выборки.
- Гипотеза о вероятности. Пример. P-value.
Посмотрите материалы семинаров:
- БП: Здесь будет видео про ДЗ2
- БП: Разбор КР3 - часть 1
- БП: Разбор КР3 - часть 2
- БП: Разбор КР3 - часть 3
- ИП: Проверка гипотез, P-value
Решите задачи:
- Теоретический минимум к четвертой КР: №№2-4
- Задачный минимум к четвертой КР: №№12, 13, 17
- Задачи из прошлых контрольных: №2б (18-19 гг.); №5 (17-18 гг.); №№1, 2(16-17 гг.)
27 апреля. Сравнение ожиданий
Разберите теоретический материал лекции:
- Гипотезы о разнице математических ожиданий нормальных ген. совокупностей
- Гипотезы о равенстве дисперсий двух независимых нормальных ген. сов.
- Гипотезы о разнице математических ожиданий. Пример: Visa|AE?
- Пример: доверительный интервал для разности долей.
- Гипотеза о равенстве долей на примере опроса студентов 2-го курса.
Посмотрите материалы семинаров:
- БП: Проверка гипотез, p-value - общие сведения
- БП: Проверка гипотез, p-value - решение задач
- БП: Проверка гипотез, p-value - решение задач (окончание)
11 мая. Критерии согласия распределений
Разберите теоретический материал лекций:
- Критерии согласия. Критерий Пирсона-Фишера.
- Критерий Пирсона-Фишера. Пример: эксперимент Бюффона.
- Критерий согласия Колмогорова.
- Пример: А.Н.Колмогоров "О новом подтверждении законов Менделя".
- Лемма Неймана-Пирсона.
- Пример построения оптимального критерия с помощью леммы Неймана-Пирсона.
Посмотрите материалы семинаров:
- БП: Гипотеза о равенстве дисперсия - теория
- БП: Задачи на проверку гипотез по двум выборкам
- БП: Критерий Пирсона-Фишера
- БП: Критерий согласия Колмогорова
- ИП: Бутстрэп и пакет arch
Решите задачи:
- Теоретический материал из прошлых контрольных к финальному экзамену: №16-19
- Задачный минимум к кр №4: №19-20
- Задачи из прошлых контрольных к кр №4: №1,2(г) (18-19 гг.), №4 (17-18 гг.), №4 (II.задачи.16-17 гг.), №4 (15-16 гг.); кр №4(ИП): №2 (18-19 гг.); к финальному экзамену: вопросы 5, 14, 19 (18-19 гг.), вопросы 20,29 (17-18 гг.)
18 мая. Критерий отношения правдоподобия. Ядерное оценивание функции плотности
Разберите теоретический материал лекций:
- Критерий отношения правдоподобия
- Ещё раз коротко о LR критерии и немного о ядерном оценивании функции плотности
Посмотрите материалы семинаров:
- БП: Критерий независимости признаков
- БП: LR-тест (теория + простая задача)
- БП: LR-тест (задача посложнее)
- ИП: LR-тест, мощность критерия
25 мая. Независимость признаков
Разберите теоретический материал лекций:
Посмотрите материалы семинаров:
1 июня. Байесовский подход. Первая серия
Разберите теоретический материал лекций:
- Концепция байесовского подхода: априорное и апостериорное распределение, пример с дискретным тета, алгоритм Метрополиса-Гастингса до шага одобрения.
