Плотность вероятности
Пло́тность вероя́тности — один из способов задания распределения случайной величины. Во многих практических приложениях понятия «плотность вероятности» и «плотность (распределения) случайной величины» или «функция распределения вероятностей» фактически синонимизируются и под ними подразумевается вещественная функция, характеризующая сравнительную вероятность реализации тех или иных значений случайной переменной (переменных).
Прикладное описание понятия
Плотность распределения одномерной непрерывной случайной величины — это числовая функция , отношение значений которой в точках и задаёт отношение вероятностей попаданий величины в узкие интервалы равной ширины и вблизи данных точек.
Плотность распределения неотрицательна при любом и нормирована, то есть
При стремлении к функция стремится к нулю. Размерность плотности распределения всегда обратная к размерности случайной величины — если исчисляется в метрах, то размерностью будет м-1.
Если в конкретной ситуации известно выражение для , с его помощью можно вычислить вероятность попадания величины в интервал как
- .
Зная плотность вероятности, можно также определить наиболее вероятное значение (моду) случайной величины как максимум . Также с помощью плотности вероятности находится среднее значение случайной величины:
и среднее значение измеримой функции случайной величины:
- .
Чтобы перейти к плотности распределения другой случайной величины , нужно взять
- ,
где — обратная функция по отношению к (предполагается, что z — взаимно однозначное отображение).
Значение плотности распределения не является вероятностью принять случайной величиной значение . Так, вероятность принятия непрерывной случайной величиной значения равна нулю. При непрерывном распределении случайной величины вопрос может ставиться о вероятности её попадания в некий диапазон, а не о вероятности реализации её конкретного значения.
Интеграл
называют функцией распределения (соответственно, плотность распределения вероятности — это производная функции распределения). Функция является неубывающей и изменяется от 0 при до 1 при .
Самым простым распределением является равномерное распределение на отрезке . Для него плотность вероятности равна:
Широко известным распределением является «нормальное», оно же гауссово, плотность которого записывается как
- ,
где и — параметры: математическое ожидание и среднеквадратичное отклонение. Другие примеры плотностей распределения — одностороннее лапласовское ():
- и ,
и максвелловское ():
- и .
В двух последних примерах множитель подбирается в зависимости от параметра или так, чтобы обеспечить нормировку интеграла от плотности вероятности. В случае распределения Лапласа оказывается, что .
Как названные, так и другие распределения широко применяются в физике. Например, в случае распределения Максвелла роль случайной величины обычно играет абсолютная величина скорости молекулы в идеальном газе. При этом для аргумента функции нередко используют тот же символ, что и для рассматриваемой в физической задаче случайной величины (как если бы выше на месте всюду стояло ). Так, в выражении максвелловской плотности распределения пишут не формальную переменную , а символ скорости . В простейших ситуациях такая вольность с обозначениями не приводит к недоразумениям.
Спадающий при стремлении аргумента к или участок графика плотности вероятности в областях, где , называется хвостом. Из упомянутых распределений, нормальное и лапласовское имеют по два хвоста (слева и справа), а максвелловское в выписанном виде — один (справа).
Выше была изложена суть понятия «плотность вероятности». Однако, такое изложение не является строгим — плотность нередко является функцией нескольких величин, в рассуждениях неявно предполагались не всегда гарантируемые непрерывность и дифференцируемость функций и так далее.
Определение плотности вероятности в теории меры
Плотность вероятности можно рассматривать как один из способов задания вероятностной меры на евклидовом пространстве . Пусть является вероятностной мерой на , то есть определено вероятностное пространство , где обозначает борелевскую σ-алгебру на . Пусть обозначает меру Лебега на . Вероятность называется абсолютно непрерывной (относительно меры Лебега) (), если любое борелевское множество нулевой меры Лебега также имеет вероятность ноль:
Если вероятность абсолютно непрерывна, то согласно теореме Радона-Никодима существует неотрицательная борелевская функция такая, что
- ,
где использовано общепринятое сокращение , и интеграл понимается в смысле Лебега.
В более общем виде, пусть — произвольное измеримое пространство, а и — две меры на этом пространстве. Если найдется неотрицательная , позволяющая выразить меру через меру в виде
то такую функцию называют плотностью меры по мере , или производной Радона-Никодима меры относительно меры , и обозначают
- .
Плотность случайной величины
Пусть определено произвольное вероятностное пространство , и случайная величина (или случайный вектор). индуцирует вероятностную меру на , называемую распределением случайной величины .
Если распределение абсолютно непрерывно относительно меры Лебега, то его плотность называется плотностью случайной величины . Сама случайная величина называется абсолютно непрерывной.
Таким образом для абсолютно непрерывной случайной величины имеем:
- .
Замечания
- Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности.
- Функция распределения абсолютно непрерывной случайной величины непрерывна и может быть выражена через плотность следующим образом:
- .
В одномерном случае:
- .
Если , то , и
- .
В одномерном случае:
- .
- Математическое ожидание функции от абсолютно непрерывной случайной величины может быть записано в виде:
- ,
где — борелевская функция, так что определено и конечно.
Плотность преобразования случайной величины
Пусть — абсолютно непрерывная случайная величина, и — инъективная непрерывно дифференцируемая функция такая, что , где — якобиан функции в точке . Тогда случайная величина также абсолютно непрерывна, и её плотность имеет вид:
- .
В одномерном случае:
- .
Свойства плотности вероятности
- Плотность вероятности определена почти всюду. Если является плотностью вероятности и почти всюду относительно меры Лебега, то и функция также является плотностью вероятности .
- Интеграл от плотности по всему пространству равен единице:
- .
Обратно, если — неотрицательная почти всюду функция, такая что , то существует абсолютно непрерывная вероятностная мера на такая, что является её плотностью.
- Замена меры в интеграле Лебега:
- ,
где любая борелевская функция, интегрируемая относительно вероятностной меры .
Примеры абсолютно непрерывных распределений
- Бета-распределение
- Гамма-распределение
- Гиперэкспоненциальное распределение
- Двумерное нормальное распределение
- Логнормальное распределение
- Многомерное нормальное распределение
- Непрерывное равномерное распределение
- Нормальное распределение
- Обобщённое гиперболическое распределение
- Полукруговой закон Вигнера
- Распределение variance-gamma
- Распределение Вейбулла
- Распределение Гомпертца
- Распределение Колмогорова
- Распределение копулы
- Распределение Коши
- Распределение Лапласа
- Распределение Накагами
- Распределение Парето
- Распределение Пирсона
- Распределение Райса
- Распределение Рэлея
- Распределение Стьюдента
- Распределение Трейси — Видома
- Распределение Фишера
- Распределение хи-квадрат
- Частотное распределение
- Экспоненциальное распределение
Литература
- Плотность вероятности // Большая российская энциклопедия : [в 35 т.] / гл. ред. Ю. С. Осипов. — М. : Большая российская энциклопедия, 2004—2017.