Основы тензорных вычислений (2022/2023) — различия между версиями
Материал из Wiki - Факультет компьютерных наук
Esquerte (обсуждение | вклад) |
Esquerte (обсуждение | вклад) |
||
Строка 14: | Строка 14: | ||
'''[https://docs.google.com/spreadsheets/d/1gxUoP-Hq3qrOIGg4qqSdzjSRpw2TYsMq2We97bJo0bo/edit#gid=0 Ведомость]''' | '''[https://docs.google.com/spreadsheets/d/1gxUoP-Hq3qrOIGg4qqSdzjSRpw2TYsMq2We97bJo0bo/edit#gid=0 Ведомость]''' | ||
− | [https://disk.yandex.ru/d/ond3qqk1qIiYeg Материалы курса | + | [https://disk.yandex.ru/d/ond3qqk1qIiYeg Материалы курса] |
− | + | ||
− | [https://disk.yandex.ru/d/dV7cFhCHyoUiwA Записи занятий] | + | [https://disk.yandex.ru/d/dV7cFhCHyoUiwA Записи занятий (часть 1)] |
+ | [https://disk.yandex.ru/d/nOQ_Pird226w5A (часть 2)] | ||
[https://us06web.zoom.us/j/89850233432?pwd=ZzNZaVJYVkdwZzRCL1FYbkdob0tzQT09 Ссылка для семинаров (zoom)] | [https://us06web.zoom.us/j/89850233432?pwd=ZzNZaVJYVkdwZzRCL1FYbkdob0tzQT09 Ссылка для семинаров (zoom)] |
Версия 19:01, 16 октября 2022
Содержание
О курсе
Курс читается для студентов 3-го и 4-го курса ПМИ.
Лектор: Рахуба Максим Владимирович
Семинарист: Высоцкий Лев Игоревич
Учебные ассистенты: Ира Голобородько, Миша Петров
Полезные ссылки
Записи занятий (часть 1) (часть 2)
Лекции и семинары
- Лекция 1. Введение. [Конспект Zoom-запись] Тензоры и тензорные произведения. Свёртки тензоров. Тензоры как мультилинейные отображения: нормы, сингулярные числа и векторы.
- Семинар 1. [Конспект Zoom-запись] Абстрактные тензоры. Универсальное свойство тензорного произведения. Тензорные диаграммы. Сингулярные числа и векторы (продолжение).
- Лекция 2. Каноническое разложение тензоров (CP). [Конспект Zoom-запись] Определение. Канонический ранг тензоров. Произведение Хатри-Рао. Оценки на ранг. Единственность разложения.
- Семинар 2. [Конспект Zoom-запись] Тензорные диаграммы (продолжение). Каноническое разложение: пример вычисления, комплексный вариант. Приближение тензорами меньшего ранга.
- Лекция 3. Алгоритмы вычисления CP-разложения. [Конспект Zoom-запись] Единственность разложения (продолжение). Алгоритм Дженриха. ALS. Гаусс-Ньютон.
- Семинар 3. [Конспект Zoom-запись] Построение канонического разложения: метод Ньютона, метод Гаусса-Ньютона.
- Лекция 4. Обобщение SVD на многомерный случай. [Конспект Zoom-запись] Разложение Таккера. Higher-order SVD (HOSVD). Приближение тензора тензором меньшего ранга, T-HOSVD (truncated HOSVD).
- Семинар 4. [Конспект Zoom-запись] T-HOSVD (продолжение). Переход к новому базису в тензорном произведении пространств. Связь между тензорами и ЭЭГ. Эффективное вычисление тензорных операций.
- Лекция 5. Обобщение SVD на многомерный случай — 2. [Конспект Zoom-запись] Квазиоптимальность T-HOSVD. Алгоритмы поиска разложения Таккера: HOSVD, HOOI. "Арифметика" малоранговых тензоров.
- Семинар 5. [Конспект Zoom-запись] (Не)Единственность разложения Таккера. Приведение разложения Таккера к HOSVD. T-HOSVD (продолжение).
- Лекция 6. Приложения тензорных вычислений. [Конспект Zoom-запись] "Арифметика" малоранговых тензоров (продолжение). Некоторый приложения: мультилинейный PCA, задача коллаборативной фильтрации, графы знаний, сжатие слоёв нейросетей. Проклятье размерности.
- Семинар 6. [Конспект Zoom-запись] ST-HOSVD. HOOI vs ALS. Сложность алгоритмов. Поэлементное умножение тензоров. Поэлементное обращение тензора.
Домашние задания
Теоретические ДЗ выдаются каждые 2 или 3 недели.
Также планируется 3-4 практических ДЗ.
- Теоретическое ДЗ-1. [PDF TEX] Дедлайн: 03.10.22 в 23:59.
- Практическое ДЗ-1. [Папка с файлами] Дедлайн: 24.10.22 в 23:59.
- Теоретическое ДЗ-2. [PDF TEX] Дедлайн: 18.10.22 в 23:59.
Итоговая оценка за курс
Итог = Округление(min(10, 0.2 * ДЗ_Теор + 0.15 * ДЗ_Практ + 0.1 * Б + 0.15 * ПР + 0.2 * К + 0.3 * Э))
ДЗ_Теор –– средняя оценка за теоретические домашние задания
ДЗ_Практ –– средняя оценка за практические домашние задания
Б –– средняя оценка за бонусные задачи в ДЗ
ПР — средняя оценка за самостоятельные работы на семинарах
К –– оценка за устный коллоквиум (проводится в начале 2-го модуля)
Э –– письменный экзамен.
Округление арифметическое.