Ask me (проект) — различия между версиями

Версия 19:11, 21 сентября 2016

Что это за проект?

Существует интересная статья, описывающая модель, которая на вход принимает:

1. Некоторый контекст, а именно несколько предложений.
2. Простой и короткий вопрос.

А на выходе выдает некоторый осмысленный ответ в виде текста. Примечательно то, что в самой системе используется только обученные нейронные сети. В частности, помощью LSTM-сети модель запоминает контекст, оценивает вопрос и выдает ответ.

Проект заключает в:

1. Воспроизведении результата статьи, на сколько это позволят нам наши вычислительные мощности.
2. Изучении схожих статей.
3. Проведении экспериментов.

Проект будет устроен следующим образом:

1. Будут еженедельные семинары, на которых мы разберем всю необходимую теорию.
2. На одном из семинаров вы проведете разбор статьи, которую изучили самостоятельно.
3. Будет набор небольших упражнений для закрепления материала.
4. Мы будем двигаться к конечной цели - обучить собственную модель.

Предупреждаю! Проект предполагает большие затраты по времени, а также погружение в исследовательский процесс.

Чему вы научитесь?

1. Чтение самых свежих английских статей.
2. Машинное обучение.
3. Нейронные сети, рекуррентные нейронные сети и LSTM сети.
4. Почувствуете себя исследователем.

Какие начальные требования?

1. Наличие машины с UNIX-подобной ОС, владение командной оболочкой
2. Вы должны писать на Python 3
3. Необходимы знания Git, однако я всегда помогу в сложной ситуации
4. Желательны базовые знания о машинном обучении

Какие будут использоваться технологии?

1. В качестве основного языка будет Python 3.
2. Нейронные сети мы будем обучать скорее всего с помощью Theano.
3. Так же вы можете проводить вычисления на ресурсах aws или воспользоваться google cloud.

Темы вводных занятий

Будем планомерно погружаться в тему, весь 2 и 3 модули. Также каждый участник проекта сделает доклад статьи на схожую тему.

Направления развития

1. Это абсолютно свежая тема для исследований. Изучать статьи и проводить свои эксперименты можно просто до бесконечности.
2. Для демонстрации своих достижений вы можете сделать какой-нибудь телеграм-бот.

Критерии оценки

В рамках проектах вы будете выполнять небольшие обучающие задания и проводить эксперименты. Их выполнение в срок и будет оцениваться. А дальше мы просто проагрегируем ваши результаты. Для получения оценки от 8 и выше необходимо воспроизвести результат авторов статьи хотя бы в урезанном виде. Необходимым, но не достаточным критерием получения удовлетворительно и выше является доклад на семинаре.

Ориентировочное расписание занятий

Семинары будут проходить в стенах Яндекса каждую неделю в фиксированный день (вторник, среда или четверг). Если будет желание, то можно несколько раз в выходные провести своеобразные хакатоны: собираемся вместе на целый день, работаем, общаемся и трескаем пиццу.