Непрерывная оптимизация (МОП)/2020 — различия между версиями

Версия 21:22, 20 июня 2020

Методы оптимизации лежат в основе решения многих задач компьютерных наук. Например, в машинном обучении задачу оптимизации необходимо решать каждый раз при настройке какой-то модели алгоритмов по данным, причём от эффективности решения соответствующей задачи оптимизации зависит практическая применимость самого метода машинного обучения. Данный курс посвящен изучению классических и современных методов решения задач непрерывной оптимизации (в том числе невыпуклых), а также особенностям применения этих методов в задачах оптимизации, возникающих в машинном обучении. Основной акцент в изложении делается на практические аспекты реализации и использования методов. Целью курса является выработка у слушателей навыков по подбору подходящего метода для своей задачи, наиболее полно учитывающего её особенности.

Преподаватели: Кропотов Дмитрий Александрович, Гадецкий Артём, Шаповалов Никита, Таскынов Ануар, Гринберг Вадим, Бобров Евгений.

Группа в Telegram для вопросов по курсу: ссылка

Таблица с оценками по курсу: ссылка

Записи занятий в zoom: ссылка

Экзамен

Процедура экзамена, а также список билетов/вопросов находится здесь.

Примеры заданий что могут быть выданы на экзамене: link.

Система выставления оценок по курсу

В рамках курса предполагается некоторое количество теоретических и практических домашних заданий, а также устный экзамен в конце курса. Каждое задание и экзамен оцениваются исходя из 10-ти баллов. За задания можно получить дополнительные баллы за выполнение бонусных пунктов. Общая оценка за курс вычисляется по правилу Округление_вверх(0.7*<Оценка_за_семестр> + 0.3*<Оценка_за_экзамен>). <Оценка_за_семестр> = min(10, <Суммарная_оценка_за_задания>*10 / <Максимальная_суммарная_оценка_за_задания_без_бонусов>). Итоговая оценка за курс совпадает с общей оценкой при соблюдении следующих дополнительных условий:

Правила сдачи заданий

Теоретические и практические задания сдаются в систему anytask (инвайт см. выше). Эти задания могут быть присланы после срока сдачи, но с задержкой не более одной недели. При этом начисляется штраф из расчёта 0.5 балла в день. Все задания выполняются самостоятельно. Если задание выполнялось сообща или использовались какие-либо сторонние коды и материалы, то об этом должно быть написано в отчёте. В противном случае «похожие» решения считаются плагиатом и все задействованные студенты (в том числе те, у кого списали) будут сурово наказаны.

Теоретические задания сдаются в anytask в виде сканов или набранных в TeX pdf-файлов. ВАЖНО! Присылаемые сканы должны быть высокого качества, присылаться одним файлом, в котором все листы идут в правильном порядке. В случае плохого качества сканов или же сдачи в формате, отличном от pdf, проверяющий имеет право поставить за работу 0, не проверяя.

Теоретические ДЗ

Задание 1. Выпуклые множества и функции. Срок сдачи - 14 марта (суббота), 23:59.

Задание 2. Условия Каруша--Куна--Таккера. Двойственность. Срок сдачи - 20 мая (среда), 23.59.

Дополнительное задание. Сопряжённые функции, субдифференциалы, проксимальные операторы. Срок сдачи (мягкий=жёсткий) 23 июня (вторник), 23:59

Практические ДЗ

Задание 1. Методы градиентного спуска и Ньютона. Срок сдачи - 3 марта (вторник), 23:59.

Задание 2. Продвинутые методы безусловной оптимизации. Срок сдачи - 27 марта (пятница), 23:59.

Задание 3. Метод барьеров. Срок сдачи - 23 мая (суббота), 23:59.

Задание 4. Композитная оптимизация. Срок сдачи - 9 июня (вторник) 23:59.

Лекции

Семинары

Дополнительный материал

• Конспект по матрично-векторным скалярным произведениям и нормам.

Литература

1. J. Nocedal, S. Wright. Numerical Optimization, Springer, 2006.
2. A. Ben-Tal, A. Nemirovski. Optimization III. Lecture Notes, 2013.
3. Y. Nesterov. Introductory Lectures on Convex Optimization: A Basic Course, Springer, 2003.
4. Ю.Е. Нестеров. Методы выпуклой оптимизации, МЦНМО, 2010
5. S. Boyd, L. Vandenberghe. Convex Optimization, Cambridge University Press, 2004.
6. D. Bertsekas. Convex Analysis and Optimization, Athena Scientific, 2003.
7. Б.Т. Поляк. Введение в оптимизацию, Наука, 1983.
8. J. Duchi. Introductory Lectures on Stochastic Optimization, Graduate Summer School Lectures, 2016.
9. S. Sra et al.. Optimization for Machine Learning, MIT Press, 2011.
10. Y. Nesterov. Lectures on convex optimization, Springer, 2018.