Ограниченная машина Больцмана

Ограниченная машина Больцмана базируется на бинарных элементах с распределением Бернулли, составляющие видимый ${\displaystyle v_{i}}$ и скрытый ${\displaystyle h_{j}}$ слои сети. Связи между слоями задаются с помощью матрицы весов ${\displaystyle W=(w_{i,j})}$ (размера m × n), а также смещений ${\displaystyle a_{i}}$ для видимого слоя и ${\displaystyle b_{j}}$ для скрытого слоя.

Вводится понятие энергии сети (v, h) как

${\displaystyle E(v,h)=-\sum _{i}a_{i}v_{i}-\sum _{j}b_{j}h_{j}-\sum _{i}\sum _{j}v_{i}w_{i,j}h_{j},}$

или в матричной форме

${\displaystyle E(v,h)=-a^{\mathrm {T} }v-b^{\mathrm {T} }h-v^{\mathrm {T} }Wh.}$

Подобной функцией энергии обладает также Сеть Хопфилда. Как и для обычной машины Больцмана, через энергию определяется вероятность распределения на векторах видимого и скрытого слоя[9]:

${\displaystyle P(v,h)={\frac {1}{Z}}e^{-E(v,h)},}$

где ${\displaystyle Z}$ — статсумма, определяемая как ${\displaystyle \sum e^{-E(v,h)}}$ для всех возможных сетей (иными словами, ${\displaystyle Z}$ — константа нормализации, которая гарантирует, что сумма всех вероятностей равна единице). Определение вероятности для отдельного входного вектора (маргинальное распределение) проводится аналогично через сумму конфигураций всевозможных скрытых слоёв[9]:

${\displaystyle P(v)={\frac {1}{Z}}\sum _{h}e^{-E(v,h)}.}$

По причине структуры сети как двудольного графа, отдельные элементы скрытого слоя независимы друг от друга и активируют видимый слой, и наоборот отдельные элементы видимого слоя независимы друг от друга и активируют скрытый слой[8]. Для ${\displaystyle m}$ видимых элементов и для ${\displaystyle n}$ скрытых элементов условные вероятности v определяются через произведения вероятностей h:

${\displaystyle P(v|h)=\prod _{i=1}^{m}P(v_{i}|h),}$

и наоборот условные вероятности h определяются через произведение вероятностей v:

${\displaystyle P(h|v)=\prod _{j=1}^{n}P(h_{j}|v).}$

Конкретные вероятности активации для одного элемента определяются как

${\displaystyle P(h_{j}=1|v)=\sigma \left(b_{j}+\sum _{i=1}^{m}w_{i,j}v_{i}\right)}$ и ${\displaystyle P(v_{i}=1|h)=\sigma \left(a_{i}+\sum _{j=1}^{n}w_{i,j}h_{j}\right),}$

где ${\displaystyle \sigma }$ — логистическая функция для активации слоя.

Видимые слои могут иметь также мультиномиальное распределение, в то время как скрытые слои распределены по Бернулли. В случае мультиномиальности вместо логистической функции используется softmax:

${\displaystyle P(v_{i}^{k}=1|h)={\frac {\exp(a_{i}^{k}+\Sigma _{j}W_{ij}^{k}h_{j})}{\Sigma _{k'=1}^{K}\exp(a_{i}^{k'}+\Sigma _{j}W_{ij}^{k'}h_{j})}},}$

где K — количество дискретных значений видимых элементов. Такое представление используется в задачах тематического моделирования[7] и в рекомендательных системах[5].

Целью обучения является максимизация вероятности системы с заданным набором образцов ${\displaystyle V}$ (матрицы, в которой каждая строка соответствует одному образцу видимого вектора ${\displaystyle v}$), определяемой как произведение вероятностей

${\displaystyle \arg \max _{W}\prod _{v\in V}P(v),}$

или же, что одно и то же, максимизации логарифма произведения:[10][11]

${\displaystyle \arg \max _{W}\mathbb {E} [\log P(v)].}$

Для тренировки нейронной сети используется алгоритм контрастивной дивергенции (CD) с целью нахождения оптимальных весов матрицы ${\displaystyle W}$, его предложил Джеффри Хинтон, первоначально для обучения моделей PoE («произведение экспертных оценок»)[13][14]. Алгоритм использует семплирование по Гиббсу для организации процедуры градиентного спуска, аналогично методу обратного распространения ошибок для нейронных сетей.

В целом один шаг контрастивной дивергенции (CD-1) выглядит следующим образом:

1. Для одного образца данных v вычисляются вероятности скрытых элементов и применяется активация для скрытого слоя h для данного распределения вероятностей.
2. Вычисляется внешнее произведение (семплирование) для v и h, которое называют позитивным градиентом.
3. Через образец h проводится реконструкция образца видимого слоя v', а потом выполняется снова семплирование с активацией скрытого слоя h'. (Этот шаг называется Семплирование по Гиббсу.)
4. Далее вычисляется внешнее произведение, но уже векторов v' и h', которое называют негативным градиентом.
5. Матрица весов ${\displaystyle W}$ поправляется на разность позитивного и негативного градиента, помноженного на множитель, задающий скорость обучения: ${\displaystyle \Delta W=\varepsilon (vh^{\mathsf {T}}-v'h'^{\mathsf {T}})}$.
6. Вносятся поправки в биасы a и b похожим способом: ${\displaystyle \Delta a=\varepsilon (v-v')}$, ${\displaystyle \Delta b=\varepsilon (h-h')}$.

Практические указания по реализации процесса обучения можно найти на личной странице Джеффри Хинтона[9].

• Автокодировщик
• Глубокое обучение
• Машина Гельмгольца
• Сеть Хопфилда

• Introduction to Restricted Boltzmann Machines. Edwin Chen’s blog, July 18, 2011.
• A Beginner’s Guide to Restricted Boltzmann Machines. Deeplearning4j Documentation
• Understanding RBMs. Deeplearning4j Documentation, August 4, 2015.
• Python implementation of Bernoulli RBM and tutorial
• SimpleRBM is a very small RBM code (24kB) useful for you to learn about how RBMs learn.