МОВС Дополнительные главы ML и DL (ММОВС23, 5 модуль)
Содержание
О курсе
Курс читается на первом модуле студентам магистерской образовательной программы "Искусственный интеллект".
Курс идет в смешанном формате: студенты проходят в свободном режиме курс на Stepik, а также посещают три дополнительных вебинара с преподавателем.
Канал и чат курса в ТГ: Чат
Преподаватель: Елена Кантонистова
| Ассистенты |
|---|
| @salamashenkovadasha Дарья Саламашенкова |
| @growa Григорий Кузнецов |
| @LeonOpsDOSA Леонид Уваровский |
Материалы курса
Ссылка на плейлист курса на VK: [VK-playlist]
Ссылка на stepik: stepik
| N | Тема | Дата | Материалы |
|---|---|---|---|
| 1 | О курсе. Введение в DL для звука. Задача ASR (вебинар) | 11 сентября | Ноутбук, Презентация |
| 2 | Современные генеративные модели CV | - | Stepik |
| 3 | Сложные задачи CV | - | Stepik |
| 4 | Введение в 3D Computer Vision | - | Stepik |
| 5 | Рекомендательные системы: ML и DL подходы | - | Stepik |
| 6 | Методы интерпретации ML-моделей (вебинар) | 28 сентября | Презентация Практика Полезная статья |
| 6 | Методы интерпретации DL-моделей (вебинар) | 5 октября | Презентация Практика |
| 7 | Большие языковые модели (LLM). PEFT | - | Stepik |
| 8 | Введение в DL на графах | - | Stepik |
| 9 | Контрольная работа | На последней неделе октября | - |
Формула оценивания
Общая оценка: 0.45*Stepik + 0.4*Домашки + 0.15*КР
КР - письменная контрольная работа
Домашние задания
Инвайт в Anytask: j6gWUCc
Задание 1. Рекомендательная система
Вам предстоит обучить рекомендательную систему, используя как ML, так и DL подходы.
Дедлайн (мягкий): 7 октября 2024 года 23:59
Ссылка: https://colab.research.google.com/drive/14mFxC7ARbOrSgJ90cv08FIMiF1jgVT2v?usp=sharing
Задание 2. PEFT
Вам предстоит попрактиковаться в применении различных методов эффективного (до)обучения больших языковых моделей.
Дедлайн (мягкий): 14 октября 2024 года 23:59
Ссылка: https://colab.research.google.com/drive/1keDy1GxR8PsmHQzG7vr6RHWQA_K_v8mF?usp=sharing
Разбалловка следующая:
- Максимум за домашнее задание 10 баллов
- Если в каком-то задании (для какой-то модели) ваш код отрабатывает некорректно или приводит к неверным результатам - минус 2 балла от максимума. За выполнение всех заданий, кроме задания-эксперимента, ставится 8 баллов
- в задании-эксперименте, если удается подобрать prompt, повышающий качество модели по accuracy по сравнению с accuracy с заданным в ноутбуке промптом -> +1 балл. Если с помощью prompt-tuning удастся превзойти какой-либо из других методов в этом ноутбуке по accuracy -> +2 балла.
Правила по дедлайнам
- За каждую неделю просрочки - минус 1 балл
- Жесткий дедлайн по обоим домашним заданиям: 23 октября 23:59.
Контрольная работа
На сессионной неделе (21-27 октября) пройдет письменная контрольная работа по основным темам курса.
