Нормальное распределение

Наиболее простой случай нормального распределения — стандартное нормальное распределение — частный случай, когда ${\displaystyle \mu =0}$ и ${\displaystyle \sigma =1.}$ Его плотность вероятности равна:

${\displaystyle \varphi (x)={\frac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}}x^{2}}.}$

Множитель ${\displaystyle {\frac {1}{\sqrt {2\pi }}}}$ в выражении обеспечивает условие нормировки интеграла ${\displaystyle \int \limits _{-\infty }^{+\infty }\varphi (x)\,dx=1}$[5]. Поскольку множитель ${\displaystyle {\frac {1}{2}}}$ в экспоненте обеспечивает дисперсию равную единице, то и стандартное отклонение равно 1. Функция симметрична в точке ${\displaystyle x=0,}$ её значение в ней максимально и равно ${\displaystyle {\frac {1}{\sqrt {2\pi }}}.}$ Точки перегиба функции: ${\displaystyle x=+1}$ и ${\displaystyle x=-1.}$

Гаусс называл стандартным нормальным распределение с ${\displaystyle \sigma ^{2}=1/2,}$ то есть:

${\displaystyle \varphi (x)={\frac {e^{-x^{2}}}{\sqrt {\pi }}}.}$

Каждое нормальное распределение — это вариант стандартного нормального распределения, область значений которого растягивается множителем ${\displaystyle \sigma }$ (стандартное отклонение) и переносится на ${\displaystyle \mu }$ (математическое ожидание):

${\displaystyle f(x\mid \mu ,\sigma ^{2})={\frac {1}{\sigma }}\varphi \left({\frac {x-\mu }{\sigma }}\right).}$

${\displaystyle \mu ,\sigma }$ являются параметрами нормального распределения. Плотность вероятности должна нормироваться ${\displaystyle {\frac {1}{\sigma }},}$ так что интеграл равен 1.

Если ${\displaystyle Z}$ — стандартная нормальная случайная величина, то величина ${\displaystyle X=\sigma Z+\mu }$ будет иметь нормальное распределение с математическим ожиданием ${\displaystyle \mu }$ и стандартным отклонением ${\displaystyle \sigma .}$ Наоборот, если ${\displaystyle X}$ — нормальная величина с параметрами ${\displaystyle \mu }$ и ${\displaystyle \sigma ^{2},}$ то ${\displaystyle Z={\frac {X-\mu }{\sigma }}}$ будет иметь стандартное нормальное распределение.

Если в экспоненте плотности вероятности раскрыть скобки и учитывать, что ${\displaystyle 1=\ln e}$, то:

${\displaystyle f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}e^{-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}}=e^{-{\frac {1}{2}}\left(2\ln \sigma +\ln 2\pi +({\frac {x-\mu }{\sigma }}\right)^{2})}=e^{-{\frac {1}{2}}\left({\frac {x^{2}}{\sigma ^{2}}}-2{\frac {\mu x}{\sigma ^{2}}}+2\ln \sigma +\ln 2\pi +{\frac {\mu ^{2}}{\sigma ^{2}}}\right)}.}$

Таким образом, плотность вероятности каждого нормального распределения представляет собой экспоненту квадратичной функции:

${\displaystyle f(x)=e^{ax^{2}+bx+c},}$

где ${\displaystyle a=-{\frac {1}{2\sigma ^{2}}},\ b={\frac {\mu }{\sigma ^{2}}},\ c=-\left(\ln \sigma +{\frac {1}{2}}\ln 2\pi +{\frac {1}{2}}{\frac {\mu ^{2}}{\sigma ^{2}}}\right).}$

Отсюда можно выразить среднее значение как ${\displaystyle \mu =-{\frac {b}{2a}},}$ а дисперсию как ${\displaystyle \sigma ^{2}=-{\frac {1}{2a}}.}$ Для стандартного нормального распределения ${\displaystyle a=-1/2,}$ ${\displaystyle b=0}$ и ${\displaystyle c=-{\frac {1}{2}}\ln 2\pi .}$

Плотность вероятности стандартного нормального распределения (с нулевым средним и единичной дисперсией) часто обозначается греческой буквой ${\displaystyle \phi }$ (фи)[6]. Также достаточно часто используется альтернативная формы греческой буквы фи ${\displaystyle \varphi }$.

Нормальное распределение часто обозначается ${\displaystyle N(\mu ,\sigma ^{2}),}$ или ${\displaystyle {\mathcal {N}}(\mu ,\sigma ^{2})}$[7]. Если случайная величина ${\displaystyle X}$ распределена по нормальному закону со средним ${\displaystyle \mu }$ и вариацией ${\displaystyle \sigma ^{2},}$ то пишут:

${\displaystyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2}).}$

Функция распределения стандартного нормального распределения обычно обозначается заглавной греческой буквой ${\displaystyle \Phi }$ (фи) и представляет собой интеграл:

${\displaystyle \Phi (x)={\frac {1}{\sqrt {2\pi }}}\int \limits _{-\infty }^{x}e^{-t^{2}/2}\,dt.}$

С ней связана функция ошибок (интеграл вероятности) ${\displaystyle \operatorname {erf} (x),}$ дающий вероятность того, что нормальная случайная величина со средним 0 и вариацией 1/2 попадёт в отрезок ${\displaystyle [-x,x]}$:

${\displaystyle \operatorname {erf} (x)={\frac {2}{\sqrt {\pi }}}\int \limits _{0}^{x}e^{-t^{2}}\,dt.}$

Эти интегралы не выражаются в элементарных функциях и называются специальными функциями. Многие их численные приближения известны. См. ниже.

Функции связаны, в частности, соотношением:

${\displaystyle \Phi (x)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x}{\sqrt {2}}}\right)\right]}$.

Нормальное распределение с плотностью ${\displaystyle f,}$ средним ${\displaystyle \mu }$ и отклонением ${\displaystyle \sigma }$ имеет следующую функцию распределения:

${\displaystyle F(x)=\Phi \left({\frac {x-\mu }{\sigma }}\right)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x-\mu }{\sigma {\sqrt {2}}}}\right)\right].}$

Можно использовать функцию ${\displaystyle Q(x)=1-\Phi (x)}$ — она даст вероятность того, что значение стандартной нормальной случайной величины ${\displaystyle X}$ превысит ${\displaystyle x}$:

${\displaystyle P(X>x)}$.

График стандартной нормальной функции распределения ${\displaystyle \Phi }$ имеет 2-кратную вращательную симметрию относительно точки (0;1/2), то есть ${\displaystyle \Phi (-x)=1-\Phi (x).}$ Её неопределенный интеграл равен:

${\displaystyle \int \Phi (x)\,dx=x\Phi (x)+\varphi (x)+C.}$

Функция распределения стандартной нормальной случайной величины может быть разложена с помощью метода интегрирования по частям в ряд:

${\displaystyle \Phi (x)={\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}\cdot e^{-x^{2}/2}\left[x+{\frac {x^{3}}{3}}+{\frac {x^{5}}{3\cdot 5}}+\cdots +{\frac {x^{2n+1}}{(2n+1)!!}}+\cdots \right],}$

где знак ${\displaystyle$ !!} означает двойной факториал.

Асимптотическое разложение функции распределения для больших ${\displaystyle x}$ может быть также произведено интегрированием по частям.

Правило 68-95-99,7.
Для нормального распределения количество значений, отличающиеся от среднего на число, меньшее чем одно стандартное отклонение, составляют 68,27 % выборок. В то же время количество значений, отличающиеся от среднего на два стандартных отклонения, составляют 95,45 %, а на три стандартных отклонения — 99,73 %.

Около 68 % значений из нормального распределения находятся на расстоянии не более одного стандартного отклонения σ от среднего; около 95 % значений лежат расстоянии не более двух стандартных отклонений; и 99,7 % не более трёх. Этот факт является частным случаем правила 3 сигм для нормальной выборки.

Более точно, вероятность получить нормальное число в интервале между ${\displaystyle \mu -n\sigma }$ и ${\displaystyle \mu +n\sigma }$ равна:

${\displaystyle F(\mu +n\sigma )-F(\mu -n\sigma )=}$

${\displaystyle \Phi (n)-\Phi (-n)=\operatorname {erf} \left({\frac {n}{\sqrt {2}}}\right).}$

С точностью до 12 значащих цифр значения для ${\displaystyle n=1,2,\ldots ,6}$ приведены в таблице[8]:

${\displaystyle n}$	${\displaystyle p=F(\mu +n\sigma )-F(\mu -n\sigma )}$	${\displaystyle 1-p}$	${\displaystyle {\frac {1}{1-p}}}$	OEIS
1	0,682689492137	0,317310507863	3,15148718753	A178647
2	0,954499736104	0,045500263896	21,9778945080	A110894
3	0,997300203937	0,002699796063	370,398347345	A270712
4	0,999936657516	0,000063342484	15787.1927673
5	0,999999426697	0,000000573303	1744277,89362
6	0,999999998027	0,000000001973	506797345,897

Моментами и абсолютными моментами случайной величины ${\displaystyle X}$ называются математические ожидания случайных величин ${\displaystyle X^{p}}$ и ${\displaystyle \left|X\right|^{p},}$ соответственно. Если математическое ожидание случайной величины ${\displaystyle \mu =0,}$ то эти параметры называются центральными моментами. В большинстве случаев представляют интерес моменты для целых ${\displaystyle p.}$

Если ${\displaystyle X}$ имеет нормальное распределение, то для неё существуют (конечные) моменты при всех ${\displaystyle p}$ с действительной частью больше −1. Для неотрицательных целых ${\displaystyle p,}$ центральные моменты таковы:

${\displaystyle \mathbb {E} \left[X^{p}\right]={\begin{cases}0&p=2n+1,\\\sigma ^{p}\,\left(p-1\right)!!&p=2n.\end{cases}}}$

Здесь ${\displaystyle n}$ — натуральное число, а запись ${\displaystyle (p-1)!!}$ означает двойной факториал числа ${\displaystyle p-1,}$ то есть (поскольку ${\displaystyle p-1}$ в данном случае нечётно) произведение всех нечётных чисел от 1 до ${\displaystyle p-1.}$

Центральные абсолютные моменты для неотрицательных целых ${\displaystyle p}$ таковы:

${\displaystyle \mathbb {E} \left[\left|X\right|^{p}\right]=\sigma ^{p}\,\left(p-1\right)!!\cdot \left.{\begin{cases}{\sqrt {\frac {2}{\pi }}}&p=2n+1,\\1&p=2n.\end{cases}}\right\}=\sigma ^{p}\cdot {\frac {2^{\frac {p}{2}}\Gamma \left({\frac {p+1}{2}}\right)}{\sqrt {\pi }}}.}$

Последняя формула справедлива также для произвольных ${\displaystyle p>-1}$.

Преобразование Фурье нормальной плотности вероятности ${\displaystyle f}$ с математическим ожиданием ${\displaystyle \mu }$ стандартным отклонением ${\displaystyle \sigma }$ равно[9]:

${\displaystyle {\hat {f}}(t)=\int \limits _{-\infty }^{\infty }f(x)e^{-itx}\,dx=e^{-i\mu t}e^{-{\frac {1}{2}}(\sigma t)^{2}},}$

где ${\displaystyle i}$ есть мнимая единица.

Если математическое ожидание ${\displaystyle \mu =0,}$ то первый множитель равен 1, и преобразование Фурье, с точностью до константы есть нормальная плотность вероятности на частотных интервалах, с математическим ожиданием равным 0 и стандартным отклонением ${\displaystyle 1/\sigma .}$ В частности, стандартное нормальное распределение ${\displaystyle \varphi }$ есть собственная функция от преобразования Фурье.

В теории вероятности, преобразование Фурье плотности распределения действительной случайной величины ${\displaystyle X}$ близко связано с характеристической функцией ${\displaystyle \varphi _{X}(t)}$ этой величины, которая определена как математическое ожидание от ${\displaystyle e^{itX}}$ и является функцией вещественной переменной ${\displaystyle t}$ (частотный параметр преобразования Фурье). Определение может быть распространено и на комплексную переменную ${\displaystyle t}$[10]. Соотношение записывается так:

${\displaystyle \varphi _{X}(t)={\hat {f}}(-t).}$

Нормальное распределение является бесконечно делимым.

Если случайные величины ${\displaystyle X_{1}}$ и ${\displaystyle X_{2}}$ независимы и имеют нормальное распределение с математическими ожиданиями ${\displaystyle \mu _{1}}$ и ${\displaystyle \mu _{2}}$ и дисперсиями ${\displaystyle \sigma _{1}^{2}}$ и ${\displaystyle \sigma _{2}^{2}}$ соответственно, то ${\displaystyle X_{1}+X_{2}}$ также имеет нормальное распределение с математическим ожиданием ${\displaystyle \mu _{1}+\mu _{2}}$ и дисперсией ${\displaystyle \sigma _{1}^{2}+\sigma _{2}^{2}.}$

Отсюда вытекает, что нормальная случайная величина представима как сумма произвольного числа независимых нормальных случайных величин.

Нормальное распределение имеет максимальную дифференциальную энтропию среди всех непрерывных распределений, дисперсия которых не превышает заданную величину[11][12].

График плотности вероятности нормального распределения и процент попадания случайной величины на отрезки, равные среднеквадратическому отклонению.

Правило трёх сигм (${\displaystyle 3\sigma }$) — практически все значения нормально распределённой случайной величины лежат в интервале:

${\displaystyle \left(\mu -3\sigma$ ;\mu +3\sigma \right),}

где ${\displaystyle \mu =\mathbb {E} \xi }$ — математическое ожидание и параметр нормальной случайной величины.

Более точно — приблизительно с вероятностью 0,9973 значение нормально распределённой случайной величины лежит в указанном интервале.