Машина Больцмана

Как и сеть Хопфилда, машина Больцмана является сетью нейронов с определенной для неё понятием "энергии". Расчет глобальной энергии производится идентичным по форме с сетью Хопфилда образом:[2]

${\displaystyle E=-\sum _{i<j}w_{ij}\,s_{i}\,s_{j}-\sum _{i}\theta _{i}\,s_{i}}$

Где:

• ${\displaystyle w_{ij}}$ сила связи между нейронами ${\displaystyle j}$ и ${\displaystyle i}$.
• ${\displaystyle s_{i}}$ состояние , ${\displaystyle s_{i}\in \{0,1\}}$, нейрона ${\displaystyle i}$.
• ${\displaystyle \theta _{i}}$ порог для нейрона ${\displaystyle i}$.

Связи имеют следующие ограничения:

• ${\displaystyle w_{ii}=0\qquad \forall i}$. (нейрон не может иметь связь с самим собой);
• ${\displaystyle w_{ij}=w_{ji}\qquad \forall i,j}$ (все связи являются симметричными).

Одним из основных недостатков сети Хопфилда является тенденция «стабилизации» состояния сети в локальном, а не в глобальном минимуме. Практически желательно, чтобы сеть переходила в глубокие минимумы энергии чаще, чем неглубокие, и чтобы относительная вероятность перехода сети в один из двух минимумов с разной энергией зависела только от соотношения их глубин. Это позволило бы управлять вероятностями получения конкретных выходных векторов состояния путём изменения профиля энергетической поверхности системы за счет модификации весов связей. На основе этих соображений и построена машина Больцмана.

Идея использования «теплового шума» для выхода из локальных минимумов и повышения вероятности попадания в более глубокие минимумы принадлежит С. Кирпатрику. На основе этой идеи разработан алгоритм имитации отжига.

Введем некоторый параметр ${\displaystyle t}$ — аналог уровня теплового шума. Тогда вероятность активности некоторого нейрона ${\displaystyle k}$ определяется на основе вероятностной функции Больцмана:

${\displaystyle Pk=1/(1+e^{-E_{k}/t}),}$

где ${\displaystyle t}$ — уровень теплового шума в сети; ${\displaystyle E_{k}}$ — сумма весов связей ${\displaystyle k}$-го нейрона со всеми активными в данный момент нейронами.

Ограниченная машина Больцмана

Хотя возможности обучения машины Больцмана ограничены на практике, эти проблемы могут быть решены применением архитектуры ограниченной машины Больцмана (restricted Boltzmann machine; RBM). В этой архитектуре связи существуют только между скрытыми и видимыми нейронами, но при этом отсутствуют между нейронами одного класса. Такая архитектура изначально использовалась Полом Смоленски в 1986 году под названием Harmonium[3], но приобрела популярность только после изобретения Хинтоном быстрых алгоритмов обучения в середине 2000-х годов.

Ограниченные машины Больцмана используются в сетях глубинного обучения. В частности, глубокие сети доверия могут быть получены путём «наложения» RBM и последующего дообучения при помощи алгоритма обратного распространения ошибки.

• Talk at Google by Geoffrey Hinton