Развёртывание ML-моделей в высоконагруженных системах 25
Содержание
[убрать]О курсе
Курс читается для студентов 4-го курса в 3-м модуле.
Полезные ссылки
Видеозаписи лекций этого года (с дублями)
Чат в telegram для обсуждений: https://t.me/+JA2WBKb58yIwZWJi
Правила выставления оценок
Итоговая оценка вычисляется на основе оценки за домашние задания в модуле и оценки за финальный проект:
Итог = Округление(0.2 * ДЗ_1 + 0.25 * ДЗ_2 + 0.25 * ДЗ_3 + 0.3 * ПР)
ДЗ_* — оценки за домашние работы
ПР — оценка за финальный проект
Округление арифметическое.
Правила сдачи заданий
За каждый день просрочки после мягкого дедлайна снимается 2 балла. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.
При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.
Мы оставляем за собой право пригласить студента для защиты своего ДЗ, если заподозрим плагиат.
При наличии уважительной причины дедлайн по заданию может быть перенесён на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.
Материалы
| Дата | Тема | Презентация | Запись |
|---|---|---|---|
| 30.01.2025 | Вводное занятие. Общая информация. | Ссылка | |
| 06.02.2025 | Знакомство с Triton Inference Server. | Ссылка | |
| 13.02.2025 | Backends: python, dali, tensorrt, onnx, llm. | Ссылка | |
| 20.02.2025 | Конвертация моделей. | TBD | |
| 27.02.2025 | Ансамбли. | TBD | Ссылка |
| 06.03.2025 | Perf-analyzer. | TBD | TBD |
| 13.03.2025 | Сравнение подходов к развертыванию на практике. | TBD | TBD |
| 20.03.2025 | Итоговый проект, ответы на вопросы. | TBD | TBD |
Домашние задания
| Дата | Тема | Дедлайн |
|---|---|---|
| 06.02.2025 | Домашнее задание #1. Построить одношаговый пайплайн на базе Python Backend для классификационной модели с HuggingFace. | 15.02.2025 23:30 |
| 13.02.2025 | Домашнее задание #2. Конвертация моделей в onnx и работа с onnx backend. | 27.02.2025 23:30 |
