Расстояние Итакуры-Сайто

Расстояние Итакуры-Сайто (известное также как дивергенция Итакуры-Сайто) является мерой разности между оригинальным спектром ${\displaystyle P(\omega )}$ и его приближением ${\displaystyle {\hat {P}}(\omega )}$. Была предложена 1960-х годах Фимитака Итокарой и Сюдзо Сайто, во время их работы в NTT[1].

Определяется как[2]

${\displaystyle D_{IS}(P(\omega ),{\hat {P}}(\omega ))={\frac {1}{2\pi }}\int _{-\pi }^{\pi }\left[{\frac {P(\omega )}{{\hat {P}}(\omega )}}-\log {\frac {P(\omega )}{{\hat {P}}(\omega )}}-1\right]\,d\omega }$

Эта метрика не является истинной, т.к является несимметричной[3], и в ней не выполняется неравенство треугольника.

Иногда применяется [4] как функционал качества в машинном обучении[5][6] и неотрицательном матричном разложении т.е при необходимости представление матрицы ${\displaystyle X}$, как:

${\displaystyle \underbrace {X} _{l\times d}=\underbrace {W} _{l\times r}\cdot \underbrace {H} _{r\times d}}$

В этом случае метрику можно записать в виде:

${\displaystyle \sum _{i=1}^{l}{\sum _{j=1}^{d}{\left({\frac {X_{ij}}{[WH]_{ij}}}-log{\frac {X_{ij}}{[WH]_{ij}}}-1\right)}}}$