Большие Языковые Модели 2025 — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
(Базовая информация о курсе и первая лекция)
м (Немного форматирования)
Строка 35: Строка 35:
 
Оценка = Округление(0.8 * AVG(ДЗ) + 0.9 * AVG(Л) + 0.2 * C)
 
Оценка = Округление(0.8 * AVG(ДЗ) + 0.9 * AVG(Л) + 0.2 * C)
  
=== Лекции ===
+
== Лекции ==
  
 
1. [https://drive.google.com/file/d/1E-Hyjxzfui6P4hMg7bgYVBbrTfQUKKGQ/view?usp=sharing Введение в Языковое Моделирование]
 
1. [https://drive.google.com/file/d/1E-Hyjxzfui6P4hMg7bgYVBbrTfQUKKGQ/view?usp=sharing Введение в Языковое Моделирование]
  
=== Семинары ===
+
== Семинары ==
  
 
1. [https://drive.google.com/file/d/1d7XxSY4Cnb4vjt8XOQBZikbF9j-rNWes/view?usp=sharing Learning Torch]
 
1. [https://drive.google.com/file/d/1d7XxSY4Cnb4vjt8XOQBZikbF9j-rNWes/view?usp=sharing Learning Torch]
  
 
Практика [https://drive.google.com/drive/folders/1WL_yptqP6yROLgutMu5YnqaHoBf0GZ90?usp=sharing совсем простая] и [https://drive.google.com/drive/folders/1wFIFwlY56qPQbzTHry68WxHhXALTSKwg?usp=sharing чуть посложнее].
 
Практика [https://drive.google.com/drive/folders/1WL_yptqP6yROLgutMu5YnqaHoBf0GZ90?usp=sharing совсем простая] и [https://drive.google.com/drive/folders/1wFIFwlY56qPQbzTHry68WxHhXALTSKwg?usp=sharing чуть посложнее].

Версия 17:08, 18 января 2025

О курсе

Курс посвящен Большим Языковым Моделям a.k.a. LLM и затрагивает темы от базовой теории до практических применений.

Проводится экспертами из VK, с вопросами можно приходить к boss @ VK.

Полезные ссылки

Организационное

В курсе планируется 10 лекций, по 9 из них (кроме последней) будет летучка в начале следующего занятия. Летучка - это 5 вопросов на 10 минут по мотивам лекций.

Иногда мы будем проводить практические занятия, это могут быть

  • Вспомогательные лекции, например, вспомнить PyTorch
  • Дополнительный полезный материал, например, как масштабировать модели на кластерах
  • Семинары или reading club - возможность выступить с разбором статьи на полезную тему
  • QA сессии и философские разговоры - по необходимости

В качестве практики, будет 4 домашних работы, на них будет действовать стандартная система с дедлайнами - мягкий через 2 недели и жесткий через месяц. После мягкого дедлайна оценка за ДЗ уменьшается в 2 раза.

Выставление оценок

Активности за баллы:

  • Домашняя работа - каждая оценивается от 0 до 10 баллов
  • Летучка - каждая летучка из 5 вопросов, полностью решенная приносит 1 балл (по 0.2 за вопрос)
  • Выступление на семинаре - 5.5 баллов

Оценка = Округление(0.8 * AVG(ДЗ) + 0.9 * AVG(Л) + 0.2 * C)

Лекции

1. Введение в Языковое Моделирование

Семинары

1. Learning Torch

Практика совсем простая и чуть посложнее.