Основы матричных вычислений 2021/2022 — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
Строка 55: Строка 55:
 
# '''FFT и структурированные матрицы''' (11.03.2022). Быстрое преобразование Фурье (FFT). Циркулянты. Тёплицевы матрицы. [https://disk.yandex.ru/i/mowg4aJpB2H4Bw Конспект] [https://youtu.be/906JLb3aAkQ Видео (youtube)]
 
# '''FFT и структурированные матрицы''' (11.03.2022). Быстрое преобразование Фурье (FFT). Циркулянты. Тёплицевы матрицы. [https://disk.yandex.ru/i/mowg4aJpB2H4Bw Конспект] [https://youtu.be/906JLb3aAkQ Видео (youtube)]
 
# '''FFT и структурированные матрицы – 2''' (18.03.2022). FFT для произвольных n. Дискретная свёртка. FFT, тёплицевы матрицы, циркулянты в 2D. Дискретное косинус-преобразование (DCT). [https://disk.yandex.ru/i/mmX6VFAqFcOGAA Конспект] [https://zoom.us/rec/share/Hv4RBdR46AeWmZi2WsDCWsnykosEWeTzttI9jFF8-a1YEVx8_YMODSiCqZMuMxE.pZ2W9hph7dIIs2Xp?startTime=1647596739000 Видео (zoom.us)] [https://youtu.be/b2JFHqCbm74 Видео (youtube)]
 
# '''FFT и структурированные матрицы – 2''' (18.03.2022). FFT для произвольных n. Дискретная свёртка. FFT, тёплицевы матрицы, циркулянты в 2D. Дискретное косинус-преобразование (DCT). [https://disk.yandex.ru/i/mmX6VFAqFcOGAA Конспект] [https://zoom.us/rec/share/Hv4RBdR46AeWmZi2WsDCWsnykosEWeTzttI9jFF8-a1YEVx8_YMODSiCqZMuMxE.pZ2W9hph7dIIs2Xp?startTime=1647596739000 Видео (zoom.us)] [https://youtu.be/b2JFHqCbm74 Видео (youtube)]
# '''Умножение матриц и вычислительная устойчивость''' (06.04.2022). Метод Штрассена. BLAS. Машинные числа. Вычислительная устойчивость. Обусловленность. [https://disk.yandex.ru/i/e3OE5EEhi7gbyw Конспект] [https://us06web.zoom.us/rec/share/LiIqMsR0llK1Eg_l9G6J2wJ4-va-IzOClY8G-Jz-_UrDd5HYnsLuW9UX5rAqno1z.PkknvV_pR3eLOQq0 Видео (zoom.us)] [https://youtu.be/4BnDSccgc8U Видео (youtube)]
+
# '''Умножение матриц и вычислительная устойчивость''' (06.04.2022). Метод Штрассена. BLAS. Машинные числа. Вычислительная устойчивость. Обусловленность. [https://disk.yandex.ru/i/e3OE5EEhi7gbyw Презентация] [https://us06web.zoom.us/rec/share/LiIqMsR0llK1Eg_l9G6J2wJ4-va-IzOClY8G-Jz-_UrDd5HYnsLuW9UX5rAqno1z.PkknvV_pR3eLOQq0 Видео (zoom.us)] [https://youtu.be/4BnDSccgc8U Видео (youtube)]
 
# '''Матричные ряды''' (08.04.2022). Определение, критерий Коши. Ряд Неймана. Теория возмущений для линейных систем. Матричная экспонента. Матричные функции. [https://disk.yandex.ru/i/6T_-bxlyGRU7Vg Конспект] [https://us06web.zoom.us/rec/share/i-3aGrTq1ZlJI86Qov1yc7uhtx29pLs2mhdW37IfKPCvTZ-TPeNMElZblHrIJ7Z3.7lotWfgDT3axI4zi?startTime=1649411827000 Видео (zoom.us)] [https://youtu.be/8zPPowwCRuw Видео (youtube)]
 
# '''Матричные ряды''' (08.04.2022). Определение, критерий Коши. Ряд Неймана. Теория возмущений для линейных систем. Матричная экспонента. Матричные функции. [https://disk.yandex.ru/i/6T_-bxlyGRU7Vg Конспект] [https://us06web.zoom.us/rec/share/i-3aGrTq1ZlJI86Qov1yc7uhtx29pLs2mhdW37IfKPCvTZ-TPeNMElZblHrIJ7Z3.7lotWfgDT3axI4zi?startTime=1649411827000 Видео (zoom.us)] [https://youtu.be/8zPPowwCRuw Видео (youtube)]
 
# '''Прямые методы решения линейных систем с плотными матрицами''' (15.04.2022). LU-разложение, LDL-разложение. Связь с методом Гаусса. Выбор ведущего элемента (pivoting). Разложение Холецкого. [https://disk.yandex.ru/i/cURgrFOjTndTNA Конспект] [https://us06web.zoom.us/rec/share/YNY0UQw-AFYLJ6wVJ1cRU7HpL83QmMS6R56jT-9kdXMzIublTngoHm8HOMYmst9X.MUMLDmpyumpcyhBp?startTime=1650016192000 Видео (zoom.us)] [https://youtu.be/FMtci0ypU60 Видео (youtube)]
 
# '''Прямые методы решения линейных систем с плотными матрицами''' (15.04.2022). LU-разложение, LDL-разложение. Связь с методом Гаусса. Выбор ведущего элемента (pivoting). Разложение Холецкого. [https://disk.yandex.ru/i/cURgrFOjTndTNA Конспект] [https://us06web.zoom.us/rec/share/YNY0UQw-AFYLJ6wVJ1cRU7HpL83QmMS6R56jT-9kdXMzIublTngoHm8HOMYmst9X.MUMLDmpyumpcyhBp?startTime=1650016192000 Видео (zoom.us)] [https://youtu.be/FMtci0ypU60 Видео (youtube)]
 
# '''Прямые методы решения линейных систем с разреженными матрицами''' (22.04.2022). Формула Шермана-Моррисона, тождество Вудберри. Разреженные матрицы: заполнения в L и U. Алгоритмы поиска P (матрицы перестановки). [https://disk.yandex.ru/i/c1OqWHy6bA18yw Конспект] [https://us06web.zoom.us/rec/play/1iUsmRSIo5pPTzrxDB4iB9lFOJ01YShamrJdKnDFFL0BdXApechwwcGbjfCPx-outLjhXX3OFpSfNhSn.u3fDzyujeCrSdqiz?startTime=1650620725000 Видео (zoom.us)] [https://youtu.be/Y0Cwm4Vgdi4 Видео (youtube)]
 
# '''Прямые методы решения линейных систем с разреженными матрицами''' (22.04.2022). Формула Шермана-Моррисона, тождество Вудберри. Разреженные матрицы: заполнения в L и U. Алгоритмы поиска P (матрицы перестановки). [https://disk.yandex.ru/i/c1OqWHy6bA18yw Конспект] [https://us06web.zoom.us/rec/play/1iUsmRSIo5pPTzrxDB4iB9lFOJ01YShamrJdKnDFFL0BdXApechwwcGbjfCPx-outLjhXX3OFpSfNhSn.u3fDzyujeCrSdqiz?startTime=1650620725000 Видео (zoom.us)] [https://youtu.be/Y0Cwm4Vgdi4 Видео (youtube)]
# '''Итерационные методы решения линейных систем''' (29.04.2022). Одношаговые методы: метод простой итерации, градиентный спуск, метод Чебышёва. [https://disk.yandex.ru/i/EGC5Fj5H8WYucg Конспект] [https://us06web.zoom.us/rec/play/iDEj9La4JYiz0vdyom11cn3rcdGixY3CnlVSdKT2bJR6fROwqPZXo-_oQmDMTJln3lUuk1wuJFOWf3zp.rsJLYIL1mb52wIDE?startTime=1651226019000 Видео (zoom.us)] [https://youtu.be/Okssj7JBXlI Видео (youtube)]
+
# '''Итерационные методы решения линейных систем''' (29.04.2022). Одношаговые методы: метод простой итерации, градиентный спуск, метод Чебышёва. [https://disk.yandex.ru/i/EGC5Fj5H8WYucg Презентация] [https://us06web.zoom.us/rec/play/iDEj9La4JYiz0vdyom11cn3rcdGixY3CnlVSdKT2bJR6fROwqPZXo-_oQmDMTJln3lUuk1wuJFOWf3zp.rsJLYIL1mb52wIDE?startTime=1651226019000 Видео (zoom.us)] [https://youtu.be/Okssj7JBXlI Видео (youtube)]
# '''Итерационные методы решения линейных систем – 2''' (13.05.2022). Оптимизация на подпространствах Крылова. Метод сопряжённых градиентов. [https://disk.yandex.ru/i/Pz1HtTqA8L3SMg Конспект] [https://us06web.zoom.us/rec/share/bpi0bue_WXpSB25dGGqRKJ6Q4vdedPHiz3RcyB9yGAqup_1Brz__GyTIbL-6JyIJ.TpJAYyxf543IYaq3?startTime=1652435713000 Видео (zoom.us, часть 1)] [https://us06web.zoom.us/rec/share/bpi0bue_WXpSB25dGGqRKJ6Q4vdedPHiz3RcyB9yGAqup_1Brz__GyTIbL-6JyIJ.TpJAYyxf543IYaq3?startTime=1652441204000 Видео (zoom.us, часть 2)]
+
# '''Итерационные методы решения линейных систем – 2''' (13.05.2022). Оптимизация на подпространствах Крылова. Метод сопряжённых градиентов. [https://disk.yandex.ru/i/Pz1HtTqA8L3SMg Конспект] [https://us06web.zoom.us/rec/share/bpi0bue_WXpSB25dGGqRKJ6Q4vdedPHiz3RcyB9yGAqup_1Brz__GyTIbL-6JyIJ.TpJAYyxf543IYaq3?startTime=1652435713000 Видео (zoom.us, часть 1)] [https://us06web.zoom.us/rec/share/bpi0bue_WXpSB25dGGqRKJ6Q4vdedPHiz3RcyB9yGAqup_1Brz__GyTIbL-6JyIJ.TpJAYyxf543IYaq3?startTime=1652441204000 Видео (zoom.us, часть 2)] [https://youtu.be/-Wok-D7rtUU Видео (youtube)]
 +
# '''Итерационные методы решения линейных систем – 3''' (20.05.2022). Сходимость CG. GMRES. Предобуславливание. [https://disk.yandex.ru/i/ik0sVFqiLAYtyQ Презентация] [https://us06web.zoom.us/rec/share/xMb0jzGdAHPSPYEfsoTtSK9D5z39M4sC-9g-CYdkXKggLj_4jQMDZwYiicQhZA2B.DOo-SWkw3c0kqHQW?startTime=1653040598000 Видео (zoom.us)]
  
 
=== Проверочные работы на семинарах ===  
 
=== Проверочные работы на семинарах ===  
Строка 89: Строка 90:
  
 
* '''Практическое ДЗ-4'''. Дедлайн: 18.05.22 в 23:59. [https://disk.yandex.ru/d/1v-Rzg7MQn8mWQ Условие] [https://disk.yandex.ru/d/gpCqVZeZh5q_lg Папка с данными]
 
* '''Практическое ДЗ-4'''. Дедлайн: 18.05.22 в 23:59. [https://disk.yandex.ru/d/1v-Rzg7MQn8mWQ Условие] [https://disk.yandex.ru/d/gpCqVZeZh5q_lg Папка с данными]
 +
 +
* '''Теоретическое ДЗ-5'''. Дедлайн: 25.05.22 в 23:59. [https://disk.yandex.ru/i/4preghNbmnWaPQ Условие] [https://disk.yandex.ru/d/n-aRnL4uViN_Gw TeX]
  
 
=== Контрольная работа ===
 
=== Контрольная работа ===
  
 +
Контрольная работа пройдет очно 25 апреля, начало: 18:10, время написания: 120 минут. О разбиении по аудиториям мы сообщим отдельно. Для студентов на дистанте мы предусмотрим написание в онлайн формате.
  
 
=== Экзамен ===
 
=== Экзамен ===

Версия 17:40, 20 мая 2022

О курсе

Курс для студентов 2 курса в 3-4 модулях.

Лектор: Рахуба Максим Владимирович


Семинаристы:

Группа Преподаватель Учебный ассистент Время начала семинара Инвайт в anytask Чат в телеграм Консультации
1 Высоцкий Лев Игоревич Иоанн Довгополый Пт, 11:10 ecpmalC tg
2 Рахуба Максим Владимирович Михаил Петров Пт, 09:30 WaheRR2 tg
3 Сушникова Дарья Алексеевна Александр Демин Пт, 11:10 ZIeqosn tg
4 Сушникова Дарья Алексеевна Влад Княжевский Пт, 09:30 yYBADOt tg
5 Медведь Никита Юрьевич Дмитрий Лишуди Вт, 11:10 6T48c6J tg  ?
6 Зароднюк Алёна Владимировна Ира Голобородько Вт, 11:10 BjKRP6u tg

Полезные ссылки

Телеграм-канал курса: t.me

Телеграм-чат курса: t.me

Таблица с оценками: docs.google.com

Материалы курса: disk.yandex.ru

Плейлист с лекциями: youtube.com

Плейлист с семинарами 2-й группы: youtube.com

Неофициальный конспект лекций от Артёма: nextcloud.codereptile.ru

План курса

Лекции

  1. Основы матричного анализа (14.01.2022). Векторные и матричные нормы. Скалярное произведение и ортогональность. Разложение Шура. Конспект Видео (youtube) Конспект (TeX)
  2. Малоранговое приближение матриц – 1 (21.01.2022). Нормальные матрицы. Знакоопределённые матрицы. Сингулярное разложение (SVD): доказательство существования, наивный алгоритм, связь с матричными нормами. Теорема Эккарта-Янга-Мирского. Конспект Видео (youtube) Конспект (TeX)
  3. Малоранговое приближение матриц – 2 (28.01.2022). Скелетное разложение: разделение переменных и ранг, CUR-разложение и интерполяционная формула. Малоранговая арифметика: QR-разложение, преобразование скелетного разложения в SVD. Конспект Видео (zoom.us) Видео (youtube)
  4. Малоранговое приближение матриц – 3 (04.02.2022). Ортопроекторы. Приближение образа матрицы. Простейший рандомизированный алгоритм поиска усечённого SVD. Конспект Видео (zoom.us) Видео (youtube)
  5. Малоранговое приближение матриц – 4 (11.02.2022). Alternating least squares (ALS). Матрично-векторное дифференцирование. Кронекерово произведение. Конспект Видео (zoom.us) Видео (youtube)
  6. Малоранговое приближение многомерных массивов (18.02.2022). Каноническое тензорное разложение. Разложение Таккера. Higher-order SVD. Конспект Видео (zoom.us) Видео (youtube)
  7. Вычисление QR-разложения (25.02.2022). Отражения Хаусхолдера. Вращения Гивенса. Rank-revealing QR (RRQR). Конспект Видео (zoom.us) Видео (youtube)
  8. Метод наименьших квадратов и псевдообратные матрицы (04.03.2022). Полноранговый случай. Общий случай. Регуляризация. Конспект Видео (zoom.us) Видео (youtube)
  9. FFT и структурированные матрицы (11.03.2022). Быстрое преобразование Фурье (FFT). Циркулянты. Тёплицевы матрицы. Конспект Видео (youtube)
  10. FFT и структурированные матрицы – 2 (18.03.2022). FFT для произвольных n. Дискретная свёртка. FFT, тёплицевы матрицы, циркулянты в 2D. Дискретное косинус-преобразование (DCT). Конспект Видео (zoom.us) Видео (youtube)
  11. Умножение матриц и вычислительная устойчивость (06.04.2022). Метод Штрассена. BLAS. Машинные числа. Вычислительная устойчивость. Обусловленность. Презентация Видео (zoom.us) Видео (youtube)
  12. Матричные ряды (08.04.2022). Определение, критерий Коши. Ряд Неймана. Теория возмущений для линейных систем. Матричная экспонента. Матричные функции. Конспект Видео (zoom.us) Видео (youtube)
  13. Прямые методы решения линейных систем с плотными матрицами (15.04.2022). LU-разложение, LDL-разложение. Связь с методом Гаусса. Выбор ведущего элемента (pivoting). Разложение Холецкого. Конспект Видео (zoom.us) Видео (youtube)
  14. Прямые методы решения линейных систем с разреженными матрицами (22.04.2022). Формула Шермана-Моррисона, тождество Вудберри. Разреженные матрицы: заполнения в L и U. Алгоритмы поиска P (матрицы перестановки). Конспект Видео (zoom.us) Видео (youtube)
  15. Итерационные методы решения линейных систем (29.04.2022). Одношаговые методы: метод простой итерации, градиентный спуск, метод Чебышёва. Презентация Видео (zoom.us) Видео (youtube)
  16. Итерационные методы решения линейных систем – 2 (13.05.2022). Оптимизация на подпространствах Крылова. Метод сопряжённых градиентов. Конспект Видео (zoom.us, часть 1) Видео (zoom.us, часть 2) Видео (youtube)
  17. Итерационные методы решения линейных систем – 3 (20.05.2022). Сходимость CG. GMRES. Предобуславливание. Презентация Видео (zoom.us)

Проверочные работы на семинарах

Каждые 1-2 недели на семинарах будут проходить короткие тесты по теме лекции и семинара с предыдущей недели. На первом семинаре пройдет пробный тест, за который не будет выставляться баллов. Подробнее о правилах проведения будет рассказано на первом семинаре.

Домашние задания

На курсе предусмотрены теоретические домашние задания и практические домашние задания на языке Python. Выдаются каждые 2-3 недели.

У каждого студента есть трое суток суммарно, на которые можно продлить срок сдачи любых заданий. Чтобы использовать эту возможность, достаточно просто загрузить работу в anytask после дедлайна.

  • Теоретическое ДЗ-1. Дедлайн: 06.02.22 в 23:59. Условие TeX
  • Практическое ДЗ-1. Дедлайн: 17.02.22 в 23:59. Условие
  • Теоретическое ДЗ-2. Дедлайн: 28.02.22 в 23:59. Условие TeX
  • Практическое ДЗ-2. Дедлайн: 13.03.22 в 23:59. Условие
  • Теоретическое ДЗ-3. Дедлайн: 21.03.22 в 23:59. Условие TeX
  • Теоретическое ДЗ-4. Дедлайн: 30.04.22 в 23:59. Условие TeX
  • Теоретическое ДЗ-5. Дедлайн: 25.05.22 в 23:59. Условие TeX

Контрольная работа

Контрольная работа пройдет очно 25 апреля, начало: 18:10, время написания: 120 минут. О разбиении по аудиториям мы сообщим отдельно. Для студентов на дистанте мы предусмотрим написание в онлайн формате.

Экзамен

По завершении 4-го модуля предусмотрен письменный экзамен.

Итоговая оценка за курс

3 модуль: Итог = Округление(min(10, 0.4 * ТДЗ + 0.3 * ПДЗ + 0.2 * ПР + 0.1 * ФПР + 0.1 * БДЗ))

4 модуль: Итог = Округление(min(10, 0.2 * ТДЗ + 0.15 * ПДЗ + 0.1 * ПР + 0.05 * ФПР + 0.2 * КР + 0.3 * Э + 0.1 * БДЗ))

Обратите внимание, что в 4-м модуле ТДЗ, ПДЗ, ПР являются средними оценками за оба модуля.

  • ТДЗ – средняя оценка за теоретические домашние задания
  • ПДЗ – средняя оценка за практические домашние задания в Python
  • БДЗ – средняя оценка за бонусные задачи
  • ПР – средняя оценка за проверочные работы (до 10 минут), проводимые каждые 1-2 недели на семинарах
  • ФПР – оценка за финальную проверочную работу, которая проводится в конце 3-го модуля
  • КР – оценка за письменную контрольную работу, включающую теоретические вопросы и задачи
  • Э – оценка за письменный экзамен, проводимый в конце 4-го модуля

Округление арифметическое.

Автоматов не предусмотрено.

Литература

1) Golub, G. H., & Van Loan, C. F. (2013). Matrix Computations 4th Edition. The Johns Hopkins University Press. Baltimore.

2) Тыртышников, Е. Е. (2007). Методы численного анализа. Академия, Москва.

3) Trefethen, L. N., & Bau III, D. (1997). Numerical linear algebra. (Vol. 50). Siam. Philadelphia.

4) Demmel, James W. Applied numerical linear algebra. Society for Industrial and Applied Mathematics, 1997.