Условное математическое ожидание

Будем считать, что дано вероятностное пространство ${\displaystyle (\Omega ,{\mathcal {F}},\mathbb {P} )}$. Пусть ${\displaystyle X:\Omega \to \mathbb {R} }$ — интегрируемая случайная величина, то есть ${\displaystyle \mathbb {E} \vert X\vert <\infty }$. Пусть также ${\displaystyle {\mathcal {G}}\subset {\mathcal {F}}}$ — σ-подалгебра σ-алгебры ${\displaystyle {\mathcal {F}}}$.

• Условное математическое ожидание — это случайная величина, а не число.
• Условное математическое ожидание определено с точностью до событий вероятности нуль. Таким образом, если ${\displaystyle {\hat {X}}_{1}=\mathbb {E} [X\mid {\mathcal {G}}]}$ и ${\displaystyle {\hat {X}}_{1}={\hat {X}}_{2}}$ ${\displaystyle \mathbb {P} }$-почти всюду, то ${\displaystyle {\hat {X}}_{2}=\mathbb {E} [X\mid {\mathcal {G}}]}$. Отождествив случайные величины, различающиеся лишь на событиях вероятности нуль, получаем единственность условного математического ожидания.
• Взяв ${\displaystyle A=\Omega }$, получаем по определению:

${\displaystyle \mathbb {E} [X]=\mathbb {E} [\mathbb {E} [X\mid {\mathcal {G}}]]}$,

и в частности справедлива формула полной вероятности:

${\displaystyle \mathbb {P} (B)=\mathbb {E} [\mathbb {P} (B\mid {\mathcal {G}})]}$.

• Пусть σ-алгебра ${\displaystyle {\mathcal {G}}=\sigma (C_{1},\ldots ,C_{n})}$ порождена разбиением ${\displaystyle \{C_{i}\}_{i=1}^{\infty }}$. Тогда

${\displaystyle \mathbb {E} [X\mid {\mathcal {G}}]=\sum _{i=1}^{\infty }\mathbb {E} [X\mid C_{i}]\mathbf {1} _{C_{i}}}$.

В частности формула полной вероятности принимает классический вид:

${\displaystyle \mathbb {P} (A\mid {\mathcal {G}})=\sum \limits _{i=1}^{\infty }\mathbb {P} (A\mid C_{i})\mathbf {1} _{C_{i}}}$,

а следовательно

${\displaystyle \mathbb {E} [\mathbb {P} (A\mid {\mathcal {G}})]=\sum \limits _{i=1}^{\infty }\mathbb {P} (A\mid C_{i})\mathbb {E} [\mathbf {1} _{C_{i}}]=\sum \limits _{i=1}^{\infty }\mathbb {P} (A\mid C_{i})\,\mathbb {P} (C_{i})=\mathbb {P} (A)}$.

• Если ${\displaystyle {\hat {X}}=\mathbb {E} [X\mid Y]}$, то существует борелевская функция ${\displaystyle h:\mathbb {R} \to \mathbb {R} }$, такая что

${\displaystyle {\hat {X}}=h(Y)}$.

Условное математическое ожидание ${\displaystyle X}$ относительно события ${\displaystyle \{Y=y\}}$ по определению равно

${\displaystyle \mathbb {E} [X\mid Y=y]\equiv h(y)}$.

• Если ${\displaystyle X\geq 0}$ п.н., то ${\displaystyle \mathbb {E} [X\mid {\mathcal {G}}]\geq 0}$ п.н.
• Если ${\displaystyle X}$ независима от ${\displaystyle {\mathcal {G}}}$, то

${\displaystyle \mathbb {E} [X\mid {\mathcal {G}}]=\mathbb {E} [X]}$ п.н.

В частности, если ${\displaystyle X,Y}$ независимые случайные величины, то

${\displaystyle \mathbb {E} [X\mid Y]=\mathbb {E} [X]}$ п.н.

• Если ${\displaystyle {\mathcal {G}}_{1},{\mathcal {G}}_{2}}$ — две σ-алгебры, такие что ${\displaystyle {\mathcal {G}}_{1}\subset {\mathcal {G}}_{2}\subset {\mathcal {F}}}$, то

${\displaystyle \mathbb {E} [\mathbb {E} [X\mid {\mathcal {G}}_{2}]\mid {\mathcal {G}}_{1}]=\mathbb {E} [X\mid {\mathcal {G}}_{1}]}$.

• Если ${\displaystyle X}$ — ${\displaystyle {\mathcal {G}}}$-измерима, и ${\displaystyle Y}$ — случайная величина, такая что ${\displaystyle Y,XY\in L^{1}}$, то

${\displaystyle \mathbb {E} [XY\mid {\mathcal {G}}]=X\,\mathbb {E} [Y\mid {\mathcal {G}}]}$.

• «Математическое ожидание убирает условие». Это правило верно для УМО относительно случайной величины (УМО в таком случае будет случайной величиной) и для условной вероятности относительно случайной величины

${\displaystyle \mathbb {E} [\mathbb {E} (X\mid Y)]=\mathbb {E} (X)}$.

• Теорема Леви о монотонной сходимости;
• Теорема Лебега о мажорируемой сходимости;
• Лемма Фату;
• Неравенство Йенсена.

Пусть ${\displaystyle Y}$ — дискретная случайная величина, чьё распределение задаётся функцией вероятности ${\displaystyle \mathbb {P} (Y=y_{j})\equiv p_{Y}(y_{j})=p_{j}>0,\;j=1,2,\ldots }$. Тогда система событий ${\displaystyle \{Y=y_{j}\}}$ является разбиением ${\displaystyle \Omega }$, и

${\displaystyle \mathbb {E} [X\mid Y]=\sum \limits _{j=1}^{\infty }\mathbb {E} [X\mid Y=y_{j}]\mathbf {1} _{\{Y=y_{j}\}}}$,

а

${\displaystyle \mathbb {E} [X\mid Y=y_{j}]=\mathbb {E} _{j}[X]}$,

где ${\displaystyle \mathbb {E} _{j}}$ означает математическое ожидание, взятое относительно условной вероятности ${\displaystyle \mathbb {P} _{j}(\cdot )=\mathbb {P} (\cdot \mid Y=y_{j})}$.

Если случайная величина ${\displaystyle X}$ также дискретна, то

${\displaystyle \mathbb {E} [X\mid Y=y_{j}]=\sum \limits _{i=1}^{\infty }x_{i}\,\mathbb {P} (X=x_{i}\mid Y=y_{j})=\sum \limits _{i=1}^{\infty }x_{i}\,p_{X\mid Y}(x_{i}\mid y_{j})}$,

где ${\displaystyle p_{X\mid Y}}$ — условная функция вероятности случайной величины ${\displaystyle X}$ относительно ${\displaystyle Y}$.

Пусть ${\displaystyle X,Y}$ — случайные величины, такие что вектор ${\displaystyle (X,Y)^{\top }}$ абсолютно непрерывен, и его распределение задаётся плотностью вероятности ${\displaystyle f_{X,Y}(x,y)}$. Введём условную плотность ${\displaystyle f_{X\mid Y}}$, положив по определению

${\displaystyle f_{X\mid Y}(x\mid y)={\frac {f_{X,Y}(x,y)}{f_{Y}(y)}}}$,

где ${\displaystyle f_{Y}}$ — плотность вероятности случайной величины ${\displaystyle Y}$. Тогда

${\displaystyle \mathbb {E} [X\mid Y]=h(Y)}$,

где функция ${\displaystyle h}$ имеет вид

${\displaystyle h(y)=\int \limits _{-\infty }^{\infty }x\,f_{X\mid Y}(x\mid y)\,dx}$.

В частности,

${\displaystyle \mathbb {E} [X\mid Y=y_{j}]=\int \limits _{-\infty }^{\infty }x\,f_{X\mid Y}(x\mid y_{j})\,dx}$.

Рассмотрим пространство случайных величин с конечным вторым моментом ${\displaystyle L^{2}}$. В нём определены скалярное произведение

${\displaystyle \langle X,Y\rangle \equiv \mathbb {E} [XY],\;\forall X,Y\in L^{2}}$,

и порождённая им норма

${\displaystyle \|X\|={\sqrt {\mathbb {E} \left[X^{2}\right]}},\;\forall X\in L^{2}}$.

Множество всех случайных величин ${\displaystyle L_{\mathcal {G}}^{2}}$ с конечным вторым моментом и измеримых относительно ${\displaystyle {\mathcal {G}}}$, где ${\displaystyle {\mathcal {G}}\subset {\mathcal {F}}}$, является подпространством ${\displaystyle L^{2}}$. Тогда оператор ${\displaystyle \Pi _{L_{\mathcal {G}}^{2}}:L^{2}\to L^{2}}$, задаваемый равенством

${\displaystyle \Pi _{L_{\mathcal {G}}^{2}}(X)=\mathbb {E} [X\mid {\mathcal {G}}]}$,

является оператором ортогонального проектирования на ${\displaystyle L_{\mathcal {G}}^{2}}$. В частности:

• Условное математическое ожидание ${\displaystyle \mathbb {E} [X\mid {\mathcal {G}}]}$ — это наилучшее средне-квадратичное приближение ${\displaystyle X}$ ${\displaystyle {\mathcal {G}}}$-измеримыми случайными величинами:

${\displaystyle \|X-\mathbb {E} [X\mid {\mathcal {G}}]\|=\inf \limits _{Z\in L_{\mathcal {G}}^{2}}\|X-Z\|}$.

• Условное математическое ожидание сохраняет скалярное произведение:

${\displaystyle \langle X,Z\rangle =\langle \mathbb {E} [X\mid {\mathcal {G}}],Z\rangle ,\;\forall Z\in L_{\mathcal {G}}^{2}}$.

• Условное математическое ожидание идемпотентно:

${\displaystyle \Pi _{L_{\mathcal {G}}^{2}}^{2}=\Pi _{L_{\mathcal {G}}^{2}}}$.

• Условное распределение