МОВС Дополнительные главы ML и DL (ИИ24, 5 модуль)
Содержание
О курсе
Курс читается на первом модуле студентам магистерской образовательной программы "Искусственный интеллект".
Курс идет в смешанном формате: студенты проходят в свободном режиме курс на Stepik, а также посещают три дополнительных вебинара с преподавателем.
Преподаватель: Елена Кантонистова
| Ассистенты |
|---|
| @ak0va Александра Ковалева |
| @janinaal Яна Журович |
Материалы курса
Ссылка на плейлист курса на VK: [VK-playlist]
Ссылка на stepik: stepik
| N | Тема | Материалы |
|---|---|---|
| 1 | О курсе. Обзор приложений ML/DL. Intro в DL для звука | презентация |
| 2 | Рекомендательные системы: обзор ML-подходов | презентация-1 презентация-2 |
| 3 | Рекомендательные системы: обзор DL-подходов | презентация практика |
| 4 | Алгоритмы в нейросетях | презентация |
| 5 | 3D CV: Optical Flow и Depth Estimation | [Материалы] |
| 6 | Методы интерпретации ML-моделей | [Материалы] |
| 7 | Методы интерпретации DL-моделей | [Материалы] |
| 8 | Контрольная работа | - |
Формула оценивания
Общая оценка: 0.45*Stepik + 0.4*Домашки + 0.15*КР
КР - письменная контрольная работа
Домашние задания
Задание 1. Рекомендательная система
Вам предстоит обучить рекомендательную систему, используя как ML, так и DL подходы.
Дедлайн (мягкий): 7 октября 2024 года 23:59
Ссылка: https://colab.research.google.com/drive/14mFxC7ARbOrSgJ90cv08FIMiF1jgVT2v?usp=sharing
Задание 2. PEFT
Вам предстоит попрактиковаться в применении различных методов эффективного (до)обучения больших языковых моделей.
Дедлайн (мягкий): 17 октября 2024 года 23:59
Ссылка: https://colab.research.google.com/drive/1keDy1GxR8PsmHQzG7vr6RHWQA_K_v8mF?usp=sharing
Разбалловка следующая:
- Максимум за домашнее задание 10 баллов
- Если в каком-то задании (для какой-то модели) ваш код отрабатывает некорректно или приводит к неверным результатам - минус 2 балла от максимума. За выполнение всех заданий, кроме задания-эксперимента, ставится 8 баллов
- в задании-эксперименте, если удается подобрать prompt, повышающий качество модели по accuracy по сравнению с accuracy с заданным в ноутбуке промптом -> +1 балл. Если с помощью prompt-tuning удастся превзойти какой-либо из других методов в этом ноутбуке по accuracy -> +2 балла.
Правила по дедлайнам
- За каждую неделю просрочки - минус 1 балл
- Жесткий дедлайн по обоим домашним заданиям: 26 октября 23:59.
Контрольная работа
На сессионной неделе пройдет письменная контрольная работа по основным темам курса.
