МОВС Трансформеры (ММОВС23, 5 модуль)

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск

О курсе

Курс читается для студентов 2 курса магистратуры "Машинное обучение и высоконагруженные системы" в 1 модуле 2024/2025 учебного года (5 модуль).

Разберём основные вехи развития трансформеров и механизмы их функционирования, рассмотрим разные концепции задач, решаемых с помощью трансформерных моделей, отдельно остановимся на предлагаемых в разное время модификациях «ванильной» архитектуры, сфокусируемся на decoder-only вариации вообще и современных LLM в частности.

Время занятий: TBD

Контакты

Чат курса в TG: TBD

Преподаватель: Валерий Терновский

Ассистент Telegram
Карагодин Никита @Einstein_30
Александр Вишняков @BedTed
Максим Думенков @maxodum
Михаил Дуженко @gogoggogog
Александра Ковалева @ak0va
Марат Мельгизин @v_oxel
Стас Ивашков @ps1va

Материалы курса (базовая группа)

Ссылка на плейлист курса на YouTube: TBD

Ссылка на GitHub с материалами курса: TBD


Занятие Тема Дата Ссылки
1 ...  ?.09.24
2 ...  ?.09.24

Материалы курса

Ссылка на плейлист курса на YouTube: TBD

Ссылка на GitHub с материалами курса: TBD


Занятие Тема Дата Ссылки
1 ...  ?.09.24
2 ...  ?.09.24

Записи консультаций

Формула оценивания

Оценка = 0.3*ОДЗ1 +0.3*ОДЗ2 + 0.3*ОДЗ3 +0.1*ОДЗ4

Распределительный тест

Домашние задания

Литература