НИС Машинное обучение и приложения 4 курс 2022/2023 — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
Строка 40: Строка 40:
 
Команда из 3 студентов совместно читает и разбирает статью, после чего готовит ее представление для одногруппников, при этом каждый из участников выполняет одну из следующих ролей:
 
Команда из 3 студентов совместно читает и разбирает статью, после чего готовит ее представление для одногруппников, при этом каждый из участников выполняет одну из следующих ролей:
  
# '''Автор-докладчик.''' Готовит презентацию с представлением методов и результатов статьи. Роль совпадает с ролью докладчика на семинарах прошлых лет. Время на выступление примерно 20-25 минут.
+
# '''Автор-докладчик.''' Готовит презентацию с представлением методов и результатов статьи. Роль совпадает с ролью докладчика на семинарах прошлых лет. Время на выступление примерно 20 минут.
# '''Рецензент + Практик-исследователь.''' TBA
+
# '''Рецензент-исследователь.''' Рецензирует саму работу и изучает ее контекст, анализирует как данная работа встраивается в существующую научную реальность. Пишет обзор-рецензию, в которой описывает контекст работы (статьи до/после, конкурентов), рецензирует саму работу и предлагает возможные улучшения/продолжения работы. По основным и самым интересным результатам своего исследования готовит выступление на 5-10 минут. Обзор-рецензию стоит писать в [https://docs.google.com/document/d/1DKuQ1BfmZVzeAPDTUFHOOKSkDaZcHrNfyQfWa4DSJe4/edit?usp=sharing таком формате] (в нем прописаны необходимые пункты).
# '''Хакер.''' Строит минимальный пример, который иллюстрирует идеи и результаты из статьи. На занятии показывает этот пример за 5-10 минут. Если, скажем, статья предлагает какой-то новый слой, трудно ли его реализовать? Можно ли воспроизвести эксперименты на синтетических данных? Или на небольших моделях? Результат работы, в идеале, должен быть оформлен как ноутбук с реализацией маленького примера метода/модели из статьи, который каждый слушатель сможет сам открыть в колабе и поиграться.
+
# '''Хакер.''' Работает со статьей на практике, проводит небольшое исследование, по результатам своей работы готовит ноутбук (с комментариями и выводами). На занятии за 5-10 минут рассказывает о результатах, показывает сам ноутбук или 2-3 слайда с графиками/выводами. В зависимости от формата статьи работой хакера может быть:
 +
#* иллюстрация основной идеи статьи на адекватных для имеющихся ресурсов данных/моделях: [https://github.com/bayesgroup/HSE_ML_research_seminar/blob/master/2021-2022/181/22%20-%20Imagenet-trained%20CNNs%20are%20biased%20towards%20texture/code.ipynb пример] -- проиллюстрировали описанный в статье эффект на игрушечном сгенерированном наборе данных и воспроизвели основной график из статьи для других архитектур,  
 +
#* мини-исследование: [https://github.com/bayesgroup/HSE_ML_research_seminar/blob/master/2021-2022/181/19%20-%20mixup/code.ipynb пример 1] -- поиграли с предложенным в статье методом, сравнили его с аналогами на практике, визуализировали поведение сети, обученной этим методом; [https://github.com/bayesgroup/HSE_ML_research_seminar/blob/master/2021-2022/181/04%20-%20Vocabulary%20Learning%20via%20Optimal%20Transport%20for%20Neural%20Machine%20Translation/code.ipynb пример 2] -- проверили работают ли идеи статьи для другой постановки задачи;
 +
#* в случае статей про очень большие модели можно разобраться в коде авторов и сделать иллюстрационный ноутбук с практическим обсуждением архитектуры (покопаться в ней внутри) и примерам работы.
  
В течение года каждый студент принимает участие в TBA выступлениях. В ходе первых трех выступлений каждый студент поучаствует по одному разу в каждой роли. Роль на последующие выступления будет определяться преподавателями (случайно или в соответствии с оценками за первые 3 выступления). При нехватке занятий за последние выступления части студентов может быть выставлен автомат. Оценки за выступления во всех ролях берутся в финальную оценку с одинаковыми весами.
+
В течение года каждый студент принимает участие в 3 выступлениях -- по одному разу в каждой роли. Оценки за выступления во всех ролях берутся в финальную оценку с одинаковыми весами.
  
'''До выступления.''' Минимум '''за неделю''' до даты выступления группа докладчиков должна связаться с преподавателем и прислать ему или обсудить с ним краткий план своего выступления (план презентации, основные пункты рецензии, основные пункты исследования контекста, план того, что будет реализовываться хакером). Основная суть данного требования -- понять, что все участники прочли статью, понимают что они будут рассказывать на занятии и не испытывают затруднений с темой.  
+
'''До выступления.''' Минимум '''за неделю''' до даты выступления группа докладчиков должна связаться с преподавателем и прислать ему или обсудить с ним краткий план своего выступления (план презентации, основные пункты обзора-рецензии, и план того, что будет реализовываться хакером). Основная суть данного требования -- понять, что все участники прочли статью, понимают что они будут рассказывать на занятии и не испытывают затруднений с темой.  
  
'''Во время выступления.''' На свой доклад группа должна прийти с одной общей презентацией (с представлением статьи, рецензии и исследованием контекста работы) и одним ноутбуком с запрограммированным примером.  
+
'''Во время выступления.''' На свой доклад группа должна прийти с одной общей презентацией (с представлением статьи, обзора-рецензии и, возможно, результатов хакера) и одним ноутбуком с результатами хакера, если он необходим для рассказа.  
  
'''После выступление.''' После доклада нужно прислать: презентацию и ноутбук с выступления, полный текст рецензии в формате pdf, полный текст исследования контекста в формате pdf, а также список из 3-4 вопросов по докладу для проверочной по выступлению. Вопросы должны соответствовать целям доклада и покрывать важные идеи, которые слушатель из доклада должен вынести. Вопросы должны быть достаточно конкретными (не надо ударяться в философию), в адекватной степени математичными (спросить про формулу функции потерь модели - отличная идея, но спросить выписать все градиенты для обучения модели - плохая) и больше проверять понимание материала, а не запоминание.  
+
'''После выступление.''' После доклада нужно прислать: презентацию и ноутбук с выступления, полный текст обзора-рецензии в формате pdf, а также список из 3-4 вопросов по докладу для проверочной по выступлению. Вопросы должны соответствовать целям доклада и покрывать важные идеи, которые слушатель из доклада должен вынести. Вопросы должны быть достаточно конкретными (не надо ударяться в философию), в адекватной степени математичными (спросить про формулу функции потерь модели - отличная идея, но спросить выписать все градиенты для обучения модели - плохая) и больше проверять понимание материала, а не запоминание. Большая просьба присылать все это централизовано (один студент от группы присылает все преподавателю).
  
 
При невыполнении перечисленных условий в поставленные сроки преподаватель имеет право снизить оценку за соответствующий доклад. Штраф за задержку с планом выступления -- до 2 баллов, за задержку с материалами -- до 1 балла.
 
При невыполнении перечисленных условий в поставленные сроки преподаватель имеет право снизить оценку за соответствующий доклад. Штраф за задержку с планом выступления -- до 2 баллов, за задержку с материалами -- до 1 балла.

Версия 15:39, 17 сентября 2022

Страница в разработке

Расписание

Группа Новости Руководители НИСа Контакты Расписание
Офлайн чат Иван Рубачев irubachev@gmail.com среда 14:40
Онлайн 1 чат Екатерина Лобачева lobacheva.tjulja@gmail.com среда 14:40
Онлайн 2 чат Михаил Дискин yhn1124@gmail.com среда 14:40

Таблица с оценками и расписанием
[TBA Репозиторий с материалами]
[TBA Записи онлайн занятий]

Рецензии на доклады писать здесь: [TBA форма]
Оставить отзыв на курс: форма

Все объявления по курсу будут в чате в телеграме, поэтому нужно обязательно добавиться в чат своей группы. Вопросы и комментарии по курсу можно отправлять в чат или своему преподавателю на почту. В название письма обязательно добавлять тег [НИС ФКН], а также указывать свою фамилию и имя.

Краткое описание

Данный семинар направлен на расширение кругозора студентов в области современного машинного обучения, а также на знакомство с основными принципами научно-исследовательской деятельности. На нём в течение года под руководством преподавателей студентам предлагается делать доклады по современным научным статьям в области машинного обучения. Семинар призван способствовать развитию навыков ведения научной дискуссии и презентации исследовательских результатов.

В ходе занятий подразумеваются следующие виды деятельности студентов:

  • Выступление студентов с докладами, освещающими современные научных статьи с различных точек зрения.
  • Посещение занятий, прослушивание и обсуждение докладов, написание рецензий на доклады одногруппников.
  • Написание проверочных работ по материалам докладов.

Доклады

Основной деятельностью в рамках НИСа является подготовка и выступление студентов с докладами. На 4 курсе формат значительно отличается от формата 3 курса.

Формат предполагает групповые выступления с разбором современных научных статей. Список статей формируется преподавателями, однако студенты могут предлагать свои темы и это приветствуется. В рамках группы участникам будут отведены уникальные роли, отвечающие разным ситуациям из жизни исследователя. На одном занятии планируется по два выступления, то есть одной команде выступающих выделяется 40 минут на всестороннее представление статьи (с учетом вопросов и обсуждений). Команда из 3 студентов совместно читает и разбирает статью, после чего готовит ее представление для одногруппников, при этом каждый из участников выполняет одну из следующих ролей:

  1. Автор-докладчик. Готовит презентацию с представлением методов и результатов статьи. Роль совпадает с ролью докладчика на семинарах прошлых лет. Время на выступление примерно 20 минут.
  2. Рецензент-исследователь. Рецензирует саму работу и изучает ее контекст, анализирует как данная работа встраивается в существующую научную реальность. Пишет обзор-рецензию, в которой описывает контекст работы (статьи до/после, конкурентов), рецензирует саму работу и предлагает возможные улучшения/продолжения работы. По основным и самым интересным результатам своего исследования готовит выступление на 5-10 минут. Обзор-рецензию стоит писать в таком формате (в нем прописаны необходимые пункты).
  3. Хакер. Работает со статьей на практике, проводит небольшое исследование, по результатам своей работы готовит ноутбук (с комментариями и выводами). На занятии за 5-10 минут рассказывает о результатах, показывает сам ноутбук или 2-3 слайда с графиками/выводами. В зависимости от формата статьи работой хакера может быть:
    • иллюстрация основной идеи статьи на адекватных для имеющихся ресурсов данных/моделях: пример -- проиллюстрировали описанный в статье эффект на игрушечном сгенерированном наборе данных и воспроизвели основной график из статьи для других архитектур,
    • мини-исследование: пример 1 -- поиграли с предложенным в статье методом, сравнили его с аналогами на практике, визуализировали поведение сети, обученной этим методом; пример 2 -- проверили работают ли идеи статьи для другой постановки задачи;
    • в случае статей про очень большие модели можно разобраться в коде авторов и сделать иллюстрационный ноутбук с практическим обсуждением архитектуры (покопаться в ней внутри) и примерам работы.

В течение года каждый студент принимает участие в 3 выступлениях -- по одному разу в каждой роли. Оценки за выступления во всех ролях берутся в финальную оценку с одинаковыми весами.

До выступления. Минимум за неделю до даты выступления группа докладчиков должна связаться с преподавателем и прислать ему или обсудить с ним краткий план своего выступления (план презентации, основные пункты обзора-рецензии, и план того, что будет реализовываться хакером). Основная суть данного требования -- понять, что все участники прочли статью, понимают что они будут рассказывать на занятии и не испытывают затруднений с темой.

Во время выступления. На свой доклад группа должна прийти с одной общей презентацией (с представлением статьи, обзора-рецензии и, возможно, результатов хакера) и одним ноутбуком с результатами хакера, если он необходим для рассказа.

После выступление. После доклада нужно прислать: презентацию и ноутбук с выступления, полный текст обзора-рецензии в формате pdf, а также список из 3-4 вопросов по докладу для проверочной по выступлению. Вопросы должны соответствовать целям доклада и покрывать важные идеи, которые слушатель из доклада должен вынести. Вопросы должны быть достаточно конкретными (не надо ударяться в философию), в адекватной степени математичными (спросить про формулу функции потерь модели - отличная идея, но спросить выписать все градиенты для обучения модели - плохая) и больше проверять понимание материала, а не запоминание. Большая просьба присылать все это централизовано (один студент от группы присылает все преподавателю).

При невыполнении перечисленных условий в поставленные сроки преподаватель имеет право снизить оценку за соответствующий доклад. Штраф за задержку с планом выступления -- до 2 баллов, за задержку с материалами -- до 1 балла.

Отзывы на доклады

На каждый доклад трое одногруппников докладчиков, присутствовавшие на занятии, пишут короткий отзыв на выступление, отдельно комментируя и оценивая его составляющие части (части разных выступающих), в форме, ссылка на которую находится в верхней части страницы. Рецензенты назначаются преподавателем на занятии. Оценки из отзывов будут учитываться при выставлении оценок за выступление на усмотрение преподавателя.

Отзыв должен обосновывать выставленную оценку, содержать описание положительных и отрицательных сторон, а также предложения по улучшению доклада. Главная цель отзыва - помочь докладчику улучшить свои навыки. Отзыв можно написать до 23:59 следующего после выступления дня (в нашем случае до 23:59 среды). Некачественные отзывы или "отписки", к примеру, "Мне все понравилось, оценка 10", не будут засчитываться как в количество написанных студентом отзывов, так и в оценку выступающего.

Проверочные работы

Доклады в течение года будут разбиты на блоки. В конце каждого блока (примерно раз в 3-4 недели) будет проводиться проверочная работа на 30 минут. Список вопросов будет составляться из вопросов по докладам, которые подготовили выступающие, с последующей корректировкой преподавателем. В случае офлайн занятий полный список вопросов будет известен студентам заранее, на проверочной им нужно будет ответить на несколько случайных вопросов из этого списка. В случае онлайн занятий список вопросов заранее не публикуется. При написании проверочной нельзя пользоваться никакими материалами.

Система выставления оценок

Итоговая формула выставления оценки выглядит следующим образом:

О_результ = 0.6 * О_доклады + 0.3 * О_проверочные + 0.1 * О_отзывы

  • О_доклады - суммарная оценка по всем выступлениям,
  • О_проверочные - суммарная оценка за проверочные работы на семинарах,
  • О_отзывы - суммарная оценка за написание отзывов на доклады.

Все промежуточные оценки не округляются. Итоговая оценка округляется математически.

Экзамена по курсу не будет!