Restricted Boltzmann Machine — физика для рекомендательных систем

Моя цель - предложение широкого ассортимента товаров и услуг на постоянно высоком качестве обслуживания по самым выгодным ценам.

Привет, Хабр, сегодня хочу предложить рассмотреть RBM модель для системы рекомендаций. Я думаю многие слышали о данном подходе для нейронных сетей, но именно в контексте рекомендательных систем информации на русском языке мало, хотя подход очень популярен. Здесь я сконцентрируюсь на математике, в свою очередь подсмотреть реализацию вы можете в репозитории recommenders Microsoft (https://github.com/microsoft/recommenders).

RBM — это модель генеративной нейронной сети, которая обычно используется для обучения без учителя. Основная задача RBM – изучить совместное распределение вероятностей P(\upsilon,\ h), где \upsilon – видимые единицы, а h – скрытые. Скрытые единицы представляют собой скрытые переменные, в то время как видимые единицы ограничены входными данными. Как только совместное распределение изучено, путем выборки из него создаются новые примеры.

Модель генерирует рейтинги для пары пользователь-объект, используя подход, основанный на совместной фильтрации. В то время как методы матричной факторизации изучают, как воспроизвести экземпляр матрицы сходства пользователей-объектов, RBM изучает лежащее в основе распределение вероятностей. Это дает несколько преимуществ:

  • Обобщаемость: модель хорошо обобщается на новые примеры, если они не сильно различаются по вероятности;

  • Стабильность во времени: если задача рекомендаций стационарна во времени, модель не нужно часто обучать, чтобы приспособиться к новым рейтингам / пользователям.

Стоит отметить, что данная модель ­– это неориентированная графическая модель, первоначально разработанная для изучения статистической механики (или физики) магнитных систем. Статистическая механика обеспечивает вероятностное описание сложных систем, состоящих из огромного числа компонентов (обычно ∼1023). Вместо того, чтобы смотреть на конкретный экземпляр системы, цель статической механики описать их типичное поведение. Этот подход оказался успешным для описания газов, жидкостей, сложных материалов (например, полупроводников) и даже знаменитого бозона Хиггса! Разработанный для обработки и организации больших объемов данных, алгоритм идеально подходит в современных алгоритмах обучения. В контексте рекомендательных систем идея состоит в том, чтобы изучить типичное поведение пользователя, а не конкретные примеры.

Основной величиной каждой модели статической механики является распределение Больцмана – это можно рассматривать как наименее смещенное распределение вероятностей на данном вероятностном пространстве \Sigmaи может быть получено с использованием принципа максимальной энтропии на пространстве распределений над \Sigma. Его типичная форма:

P=1/Ze^{\left(-\beta H\right)}

где,Z– нормировочная константа, известная как статистическая сумма,\beta– параметр шума с единицами обратной энергии; H– гамильтониан или функция энергии системы.

По этой причине этот класс моделей в информатике также известен как энергетический. В физике\beta— это обратная температура системы в единицах постоянной Больцмана, но здесь мы фактически изменим масштаб внутри H, так что теперь это натуральное число. Hописывает поведение двух наборов стохастических векторов, обычно называемых v_iи h_jПервые составляют вход и выход алгоритма, а скрытые единицы — это скрытые факторы, которые мы хотим изучить. Эта структура приводит к следующей топологии нейронной сети:

Топология нейронной сети RBM
Топология нейронной сети RBM

Теперь ближе к алгоритму. Входные данные выборки, которая используется разработчиком, состоят из оценок от 1 до 5. Таким образом, мы будем рассматривать дискретное конфигурационное пространство mвидимых переменных, каждая из которых принимает значения в конечном множестве \chi_v= {\ \{1,2,3,4,5} \}. Глобальная конфигурация системы определяется следующим образом: v = {\ \{v_1,\ v_2,\ \ldots,\ v_m} \} \in\chi_v^mи назначается 0 для объекта без рейтинга. В добавок также указываются скрытые блоки, которые мы принимаем в качестве случайных двоичных величин \chi_h={\{0,1}\}, обозначающих, активен конкретный блок или нет, и h\ =\left\{h_1,\ h_2,\ \ldots,\ h_n\right\}\ \in\chi_h^n. Скрытые блоки могут описывать скрытые атрибуты объекта, (для фильмов - жанр, для статей - область исследования и т.д.). Минимальная модель такой системы определяется следующим гамильтонианом:

H=\ -\sum_{i,j\ \in\ G}{v_iw_{ij}h_j-\sum_{i=1}^{m}{v_ia_i-\sum_{j=1}^{n}{h_ib_i}}}

Первый член — это «термин взаимодействия», фиксирующий корреляции между видимыми и скрытыми единицами, в то время как два других члена являются «потенциальными терминами», принимая во внимание предвзятость единиц. Корреляционная матрица w_{ij} и два смещения a_i и b_iявляются параметрами обучения, которые должны быть зафиксированы путем минимизации правильно определенной функции стоимости. При этом нельзя напрямую минимизировать функцию ошибок между прогнозируемыми и оригинальными данными. Как и в любой задаче статической механики, правильной величиной, которую нужно минимизировать, является свободная энергия (при этом в нашем случае \beta=1).

F=\ -\log{Z}=-log\sum_{v_i,\ \ h_i}{P(v,h)}

На языке теории вероятностей указанная выше величинаFявляется кумулянтной производящей функцией. Одним из способов оценки свободной энергии является использование алгоритма выборки Монте-Карло с цепью Маркова, но здесь мы будем использовать вместо этого приближенный метод, называемый контрастной дивергенцией, основанный на выборке Гиббса. Его преимущество, в том, что он быстрее Монте-Карло. Как только кандидатFбыл найден, мы фиксируем параметры обучения, минимизируя F.

Рассмотрим модель более подробно. Вместо выборки непосредственно из совместного распределения вероятностей можно оценить условные распределения:

P\left(v,h\right)=P\left(v\middle| h\right)P\left(h\right)=P(h|v)P(v)

где второе равенство следует из того, что модель неориентирована или физически находится в равновесии. Выборка Гиббса по существу состоит из двух этапов, называемых положительной и отрицательной фазами.

Позитивная фаза начинается с фиксации видимых блоков в данных и определении P\left(h_j=1\ |\ v\right), то есть определение вероятности того, что j-й скрытый блок активен для всего входного вектора. На практике производящую функцию удобно оценивать как:

Z\left[v,\ b\right]=\prod_{j}\sum_{h_j=0,1}{e^{h_j(\sum_{i}{w_{ij}v_i\ +\ b_j})}=\prod_{j}{(1\ +\ e^{\sum_{i}{w_{ij}v_i\ +\ b_j}})}}

Взяв градиенты по смещению, получим:

\frac{\partial}{\partial b_j}\log{Z\left[v,\ b\right]}=\frac{1}{1\ +\ e^{-(\sum_{i}{w_{ij}v_i\ +\ b_j})}}=\sigma(\phi_j(v,\ b))

где \phi_j\left(v,\ b\right)=\sum_{i}{w_{ij}v_i}+b_j, и логистическая функция идентифицируется как \sigma\left(\bullet\right)\equiv P\left(h_j=1\ |\ v,b\right). Собственно \sigma используется, чтобы выбрать значение h_j.

В свою очередь негативная фаза включает использование выборочного значения скрытых единиц, чтобы определить P\left(v_i=q\ |\ h\right), , где q = 1, ..., 5. Это дается полиномиальным выражением:

P\left(v_i=q\ |\ h,a\right)=\prod_{v_i=1}^{q}e^{v_i(\sum_{i}{w_{ij}h_j\ +\ a_i})/Z_q}

где Z_q– статистическая сумма, вычисленная по результатам q. Далее, выбираются значения v_iиз приведенного выше распределения. Разумеется, что эти новые  v_iне обязательно являются теми, которые мы использовали в качестве входных данных, по крайней мере, не в начале обучения. Вышеупомянутые шаги повторяются ???? раз, причем ???? обычно увеличивается во время тренировки в соответствии с заданным значением.

В конце каждой k-шаговой выборки Гиббса расчитывается разница между начальной свободной энергией при ???? = 1 и заданном v и энергией после k-шагов и обновляются параметры обучения w_{ij}, b_i, a_i, путем дифференцирования ∆F.

∆F=F_0-F_k

Этот процесс повторяется для каждой обучающей эпохи, до тех пор, пока ∆F=0, то есть изученное распределение точно воспроизводит эмпирическое. В этом смысле v_i служит как входом, так и выходом модели. Поскольку w_{ij}содержит информацию о том, как соотносятся оценки пользователей, мы можем использовать эту информацию для создания рейтингов для неоцененных объектов путем выборки из изученного предельного распределения:

v_i=\sum_{v_i}{P(v)}

На этом вообщем-то и все! Как упоминалось выше, реализацию можно посмотреть у Microsoft. Она достаточно хорошо задокументирована и предоставляет простые примеры с использованием RBM.

Исследуйте и развивайтесь! ​

Источник: https://habr.com/ru/post/570646/

Интересные статьи

Интересные статьи

В свежем выпуске подкаста «Сушите вёсла» обсудили методологии проектирования сложных систем. Много говорили о Domain Driven Design, Event Sourcing и CQRS. Тема непростая,...
И снова привет, мир!В прошлой статье про IoT-елочку в голосовании многие отметили, что интересна тема управления устройствами в зависимости от количества человек в помеще...
Написать подобный пост меня сподвигло потраченное время на решение проблемы. Суть проблемы — запускаете виртуальную машину в VirtualBox, а она грузится как черепаха, бывает просто ...
Мы уже писали о ключевых темах, которые планируем осветить на ближайшей пятой тусовке тимлидов в Москве — TeamLead Conf 2020. В этот раз, выбирая их, мы с программным комитетом конференции в боль...
Оказывается, в апреле 2019 года, помимо взрыва при наземном испытании системы аварийного спасения корабля Crew Dragon, была еще как минимум одна аварийная ситуация, которая возникла при тести...