Большие Языковые Модели 2025 — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
(Новая страница: «:)»)
 
(Базовая информация о курсе и первая лекция)
Строка 1: Строка 1:
:)
+
== О курсе ==
 +
 
 +
Курс посвящен Большим Языковым Моделям a.k.a. LLM и затрагивает темы от базовой теории до практических применений.
 +
 
 +
Проводится экспертами из VK, с вопросами можно приходить к [http://vk.com/boss boss @ VK].
 +
 
 +
=== Полезные ссылки ===
 +
 
 +
* Чат в Telegram для обсуждений: https://t.me/+IBNeDR0xOec1NWJi
 +
* AnyTask для сдачи домашних работ: https://anytask.org/course/1164
 +
* TODO: таблица с оценками
 +
* TODO: видеозаписи лекций
 +
 
 +
=== Организационное ===
 +
 
 +
В курсе планируется 10 лекций, по 9 из них (кроме последней) будет летучка в начале следующего занятия.
 +
Летучка - это 5 вопросов на 10 минут по мотивам лекций.
 +
 
 +
Иногда мы будем проводить практические занятия, это могут быть
 +
* Вспомогательные лекции, например, вспомнить PyTorch
 +
* Дополнительный полезный материал, например, как масштабировать модели на кластерах
 +
* Семинары или reading club - возможность выступить с разбором статьи на полезную тему
 +
* QA сессии и философские разговоры - по необходимости
 +
 
 +
В качестве практики, будет 4 домашних работы, на них будет действовать стандартная система с дедлайнами - мягкий через 2 недели и жесткий через месяц.
 +
После мягкого дедлайна оценка за ДЗ уменьшается в 2 раза.
 +
 
 +
'''Выставление оценок'''
 +
 
 +
Активности за баллы:
 +
* Домашняя работа - каждая оценивается от 0 до 10 баллов
 +
* Летучка - каждая летучка из 5 вопросов, полностью решенная приносит 1 балл (по 0.2 за вопрос)
 +
* Выступление на семинаре - 5.5 баллов
 +
 
 +
Оценка = Округление(0.8 * AVG(ДЗ) + 0.9 * AVG(Л) + 0.2 * C)
 +
 
 +
=== Лекции ===
 +
 
 +
1. [https://drive.google.com/file/d/1E-Hyjxzfui6P4hMg7bgYVBbrTfQUKKGQ/view?usp=sharing Введение в Языковое Моделирование]
 +
 
 +
=== Семинары ===
 +
 
 +
1. [https://drive.google.com/file/d/1d7XxSY4Cnb4vjt8XOQBZikbF9j-rNWes/view?usp=sharing Learning Torch]
 +
 
 +
Практика [https://drive.google.com/drive/folders/1WL_yptqP6yROLgutMu5YnqaHoBf0GZ90?usp=sharing совсем простая] и [https://drive.google.com/drive/folders/1wFIFwlY56qPQbzTHry68WxHhXALTSKwg?usp=sharing чуть посложнее].

Версия 17:07, 18 января 2025

О курсе

Курс посвящен Большим Языковым Моделям a.k.a. LLM и затрагивает темы от базовой теории до практических применений.

Проводится экспертами из VK, с вопросами можно приходить к boss @ VK.

Полезные ссылки

Организационное

В курсе планируется 10 лекций, по 9 из них (кроме последней) будет летучка в начале следующего занятия. Летучка - это 5 вопросов на 10 минут по мотивам лекций.

Иногда мы будем проводить практические занятия, это могут быть

  • Вспомогательные лекции, например, вспомнить PyTorch
  • Дополнительный полезный материал, например, как масштабировать модели на кластерах
  • Семинары или reading club - возможность выступить с разбором статьи на полезную тему
  • QA сессии и философские разговоры - по необходимости

В качестве практики, будет 4 домашних работы, на них будет действовать стандартная система с дедлайнами - мягкий через 2 недели и жесткий через месяц. После мягкого дедлайна оценка за ДЗ уменьшается в 2 раза.

Выставление оценок

Активности за баллы:

  • Домашняя работа - каждая оценивается от 0 до 10 баллов
  • Летучка - каждая летучка из 5 вопросов, полностью решенная приносит 1 балл (по 0.2 за вопрос)
  • Выступление на семинаре - 5.5 баллов

Оценка = Округление(0.8 * AVG(ДЗ) + 0.9 * AVG(Л) + 0.2 * C)

Лекции

1. Введение в Языковое Моделирование

Семинары

1. Learning Torch

Практика совсем простая и чуть посложнее.