Рекомендательные системы и поиск закономерностей в данных — различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к: навигация, поиск
(Занятие от 12.12.2018)
(Занятие от 12.12.2018)
Строка 92: Строка 92:
 
===Занятие от 12.12.2018===
 
===Занятие от 12.12.2018===
  
Бикластеризация. Фолксономии. Трикластеризация и мультимодальная кластеризация n-арных отношений и тензоров.
+
Бикластеризация. Фолксономии. Трикластеризация и мультимодальная кластеризация n-арных отношений и тензоров. [https://www.dropbox.com/s/yszu83mxcn354nl/Biclustering.pdf?dl=0 Слайды]
[https://www.dropbox.com/s/yszu83mxcn354nl/Biclustering.pdf?dl=0 Слайды]
+
  
*  Dmitry I. Ignatov, Dmitry V. Gnatyshak, Sergei O. Kuznetsov, Boris G. Mirkin: Triadic Formal Concept Analysis and triclustering: searching for optimal patterns. Machine Learning 101(1-3): 271-302 (2015)
+
*  Dmitry I. Ignatov, Dmitry V. Gnatyshak, Sergei O. Kuznetsov, Boris G. Mirkin: Triadic Formal Concept Analysis and triclustering: searching for optimal patterns. Machine Learning 101(1-3): 271-302 (2015) [https://link.springer.com/article/10.1007%2Fs10994-015-5487-y статья]
[https://link.springer.com/article/10.1007%2Fs10994-015-5487-y статья]
+
  
* Symeonidis, P., Nanopoulos, A., Papadopoulos, A. N., & Manolopoulos, Y. (2008). Nearest-biclusters collaborative filtering based on constant and coherent values. Information Retrieval, 11(1), 51–75.  
+
* Symeonidis, P., Nanopoulos, A., Papadopoulos, A. N., & Manolopoulos, Y. (2008). Nearest-biclusters collaborative filtering based on constant and coherent values. Information Retrieval, 11(1), 51–75. [https://ieeexplore.ieee.org/document/5280358/ статья]
[https://ieeexplore.ieee.org/document/5280358/ статья]
+
  
*Nanopoulos, A., Rafailidis, D., Symeonidis, P., & Manolopoulos, Y. (2010). Musicbox: Personalized music recommendation based on cubic analysis of social tags. IEEE Transactions on Audio, Speech & Language Processing, 18(2), 407–412.  
+
*Nanopoulos, A., Rafailidis, D., Symeonidis, P., & Manolopoulos, Y. (2010). Musicbox: Personalized music recommendation based on cubic analysis of social tags. IEEE Transactions on Audio, Speech & Language Processing, 18(2), 407–412. [https://link.springer.com/article/10.1007%2Fs10791-007-9038-4 статья]
[https://link.springer.com/article/10.1007%2Fs10791-007-9038-4 статья]
+
  
*Ignatov, D. I., Kuznetsov, S. O., Poelmans, J., & Zhukov, L. E. (2013). Can triconcepts become triclusters? International Journal of General Systems, 42(6), 572–593.
+
*Ignatov, D. I., Kuznetsov, S. O., Poelmans, J., & Zhukov, L. E. (2013). Can triconcepts become triclusters? International Journal of General Systems, 42(6), 572–593. [https://www.tandfonline.com/doi/abs/10.1080/03081079.2013.798899 статья]
[https://www.tandfonline.com/doi/abs/10.1080/03081079.2013.798899 статья]
+
  
*du Boucher-Ryan, P., & Bridge, D. G. (2006). Collaborative recommending using formal concept analysis. Knowledge-Based Systems, 19(5), 309–315.
+
*du Boucher-Ryan, P., & Bridge, D. G. (2006). Collaborative recommending using formal concept analysis. Knowledge-Based Systems, 19(5), 309–315. [https://www.sciencedirect.com/science/article/abs/pii/S0950705106000074?via%3Dihub статья]
[https://www.sciencedirect.com/science/article/abs/pii/S0950705106000074?via%3Dihub статья]
+
  
*Cerf, L., Besson, J., Robardet, C., & Boulicaut, J. F. (2009). Closed patterns meet n-ary relations. ACM Transactions on Knowledge Discovery from Data, 3, 3:1–3:36.
+
*Cerf, L., Besson, J., Robardet, C., & Boulicaut, J. F. (2009). Closed patterns meet n-ary relations. ACM Transactions on Knowledge Discovery from Data, 3, 3:1–3:36. [https://dl.acm.org/citation.cfm?doid=1497577.1497580 статья]
[https://dl.acm.org/citation.cfm?doid=1497577.1497580 статья]
+
  
*Ignatov, D. I., Kuznetsov, S. O., & Poelmans, J. (2012). Concept-based biclustering for internet advertisement. In: IEEE computer society ICDM workshops, pp. 123–130.
+
*Ignatov, D. I., Kuznetsov, S. O., & Poelmans, J. (2012). Concept-based biclustering for internet advertisement. In: IEEE computer society ICDM workshops, pp. 123–130. [https://ieeexplore.ieee.org/abstract/document/6406432 статья]
[https://ieeexplore.ieee.org/abstract/document/6406432 статья]
+

Версия 19:26, 16 декабря 2018

Темы

  • Введение в рекомендательные системы (РС). Обзор курса.
  • Коллаборативная фильтрация на основе сходства по пользователям и предметам (user-based  и item-based подходы).
  • Case-study 1. Оценка качества РС на основе бимодальной кроссвалидации.
  • Частые множества и ассоциативные правила. Элементы Анализа формальных понятий. Импликации. Основные алгоритмы  (Apriori, FP-growth). Меры интересности (support, confidence, lift, stability). Компактное представление частых множеств и ассоциатвных правил (замкнутые множества, понятие базиса).
  • Case-study 2. Анализ посещаемости сайтов. Рекомендация контекстной рекламы.
  • Case-study 3. Булева матричная факторизация, неотрицательная матричная факторизация (NMF) и разложение по сингулярным числам (SVD).
  • Методы на основе матричной факторизации для рекомендательных систем. PureSVD, SVD++, timeSVD. Схемы решения: стохастический градиентный спуск (SGD) и чередующиеся наименьшие квадраты (ALS). Случай неявного отклика. Факторизационные машины.
  • Спектральная кластеризация. Поиск минимального разреза. Контекстная реклама. Рекомендация музыкальных композиций.
  • Поиск частых последовательностей. Case-study 4. Анализ демографических последовательностей.
  • Гибридные рекомендательные системы. Case-study 5. Рекомендация радиостанций.
  • Бикластеризация. Фолксономии. Трикластеризация и мультимодальная кластеризация n-арных отношений и тензоров.
  • Стандартные (Precision, Recall, F_1-мера, MAE, RMSE) и дополнительные меры оценки качества рекомендательных систем (HitRate, Mean Reciprocal Rank, nDCG, diversity, serendipity). А/B тестирование.
  • Контекстные рекомендательные системы. Встраивание дополнительной информации в модели.
  • Ансамбли рекомендальных алгоритмов.
  • Глубинное обучение для рекомендательных систем.

Формула итоговой оценки

Упрощенная формула: 0.4 * h/w + 0.4 * project + 0.2 * defense

Результирующая оценка по дисциплине рассчитывается по формуле: O_итог=0.8 * O_ накопл + 0.2 * O_экз/защита

Накопленная и итоговая оценки, участвующие в этой формуле, округляются арифметически.

Накопленная оценка рассчитывается по формуле: O_накопл=0.5 * O_дз + 0.5 * O_проект

Оценка за домашние задания рассчитывается как среднее значение оценок за все выданные домашние задания.

Домашняя работа

Домашнее задание 1

Коллаборативная фильтрация на основе сходства по пользователям (user-based) и продуктам (item-based)

Домашнее задание 2

  1. Частые множества и ассоциативные правила
  2. Спектральная кластеризация
  3. Матричная факторизация
  4. Анализ последовательностей

Проект

Требования к оформлению

В этом файле содержатся требования к отчету, они на английском, но писать текст можно и на русском. Даны источники данных, указаны типы задач для решения, приведен релевантный софт. Указаны сроки выбора задачи и сдачи отчета. Предполагается экзамен в виде защиты проекта.


Журнал занятий

Занятие от 21.11.2018

19:30 Доклад Евгения Фролова (PhD, Skoltech & Sbebank AI) по мотивам диссертационного исследования (https://www.skoltech.ru/obrazovanie/zashhity-phd/2018-2/evgenij-frolov/)

Название: Малоранговые модели для рекомендательных систем с ограниченными данными о предпочтениях (Low-rank models for recommender systems with limited preference information)

Аннотация доклада. В силу ряда вычислительных преимуществ, одним из наиболее популярных методов, часто использующихся на практике, является PureSVD. Метод основан на сингулярном разложении и в определенных сценариях позволяет добиться наиболее релевантных рекомендаций. Однако, качество моделей на основе данного метода заметно снижается при сильном уменьшении количества известной информации о пользовательских предпочтениях. Главной целью данной работы является устранение этого недостатка, позволяющее сохранить основные преимущества PureSVD. Для этого предложены несколько новых подходов на основе матричных и тензорных методов аппроксимации. Подходы строятся на принципах многомерного представления пользовательского отклика, а также с использованием специальной схемы «гибридизации», позволяющей учесть дополнительную признаковую информацию о пользователях и предметах.

Слайды

Занятие от 28.11.2018

Гибридные рекомендательные системы. Case-study 5. Рекомендация радиостанций.

  • Dmitry I. Ignatov, Andrey V. Konstantinov, Sergey I. Nikolenko, Jonas Poelmans, Vasily Zaharchuk: Online Recommender System for Radio Station Hosting. BIR 2012: 1-12
  • Dmitry I. Ignatov, Sergey I. Nikolenko, Taimuraz Abaev, Jonas Poelmans: Online recommender system for radio station hosting based on information fusion and adaptive tag-aware profiling. Expert Syst. Appl. 55: 546-558 (2016) статья
  • Dmitry I. Ignatov, Sergey I. Nikolenko, Taimuraz Abaev, Natalia Konstantinova: Online Recommender System for Radio Station Hosting: Experimental Results Revisited. WI-IAT (2) 2014: 229-236 слайды


Занятие от 05.12.2018

Стандартные (Precision, Recall, F_1-мера, MAE, RMSE) и дополнительные меры оценки качества рекомендательных систем (HitRate, Mean Reciprocal Rank, nDCG, diversity, serendipity). А/B тестирование.

  • Слайды (подготовлены ассистентом прошлых лет, Е. Неновой)
  • Case-study. Метрика рекомендательной системы imhonet.ru Слайды
  • Vladimir Bobrikov, Elena Nenova, Dmitry I. Ignatov: What is a Fair Value of Your Recommendation List? EEML@CLA 2016: 1-12 Статья


Занятие от 12.12.2018

Бикластеризация. Фолксономии. Трикластеризация и мультимодальная кластеризация n-арных отношений и тензоров. Слайды

  • Dmitry I. Ignatov, Dmitry V. Gnatyshak, Sergei O. Kuznetsov, Boris G. Mirkin: Triadic Formal Concept Analysis and triclustering: searching for optimal patterns. Machine Learning 101(1-3): 271-302 (2015) статья
  • Symeonidis, P., Nanopoulos, A., Papadopoulos, A. N., & Manolopoulos, Y. (2008). Nearest-biclusters collaborative filtering based on constant and coherent values. Information Retrieval, 11(1), 51–75. статья
  • Nanopoulos, A., Rafailidis, D., Symeonidis, P., & Manolopoulos, Y. (2010). Musicbox: Personalized music recommendation based on cubic analysis of social tags. IEEE Transactions on Audio, Speech & Language Processing, 18(2), 407–412. статья
  • Ignatov, D. I., Kuznetsov, S. O., Poelmans, J., & Zhukov, L. E. (2013). Can triconcepts become triclusters? International Journal of General Systems, 42(6), 572–593. статья
  • du Boucher-Ryan, P., & Bridge, D. G. (2006). Collaborative recommending using formal concept analysis. Knowledge-Based Systems, 19(5), 309–315. статья
  • Cerf, L., Besson, J., Robardet, C., & Boulicaut, J. F. (2009). Closed patterns meet n-ary relations. ACM Transactions on Knowledge Discovery from Data, 3, 3:1–3:36. статья
  • Ignatov, D. I., Kuznetsov, S. O., & Poelmans, J. (2012). Concept-based biclustering for internet advertisement. In: IEEE computer society ICDM workshops, pp. 123–130. статья