Неравенство Йенсена

Нера́венство Йе́нсена — неравенство для выпуклой функции среднего случайной величины.

Формулировка

Пусть $(\Omega ,{\mathcal {F}},\mathbb {P} )$ - вероятностное пространство, и $X:\Omega \to \mathbb {R}$ - определённая на нём случайная величина. Пусть также $\phi :\mathbb {R} \to \mathbb {R}$ - выпуклая (вниз) борелевская функция. Тогда если $X,\phi (X)\in L^{1}(\Omega ,{\mathcal {F}},\mathbb {P} )$, то

$\phi (\mathbb {E} [X])\leq \mathbb {E} [\phi (X)]$,

где $\mathbb {E} [\cdot ]$ означает математическое ожидание.

Замечание

• Если функция $\phi$ вогнута (выпукла вверх), то знак в неравенстве меняется на противоположный.

Конечномерный вариант

Предположим, что $X$ имеет дискретное распределение, задаваемое функцией вероятности

$\mathbb {P} (X=x_{i})=\alpha _{i}\geq 0,\;i=1,\ldots ,n;\;\sum \limits _{i=1}^{n}\alpha _{i}=1.$

Тогда неравенство Йенсена принимает вид:

$\phi \left(\sum _{i=1}^{n}\alpha _{i}x_{i}\right)\leq \sum _{i=1}^{n}\alpha _{i}\phi (x_{i})$.

Следствия

• Неравенство Гиббса в теории информации;
• Теорема Рао — Блекуэлла — Колмогорова в математической статистике.

Неравенство Йенсена для условного математического ожидания

Пусть в дополнение к предположениям, перечисленным выше, ${\mathcal {G}}\subset {\mathcal {F}}$ - под-σ-алгебра событий. Тогда

$\phi (\mathbb {E} [X\mid {\mathcal {G}}])\leq \mathbb {E} [\phi (X)\mid {\mathcal {G}}]$,

где $\mathbb {E} [\cdot \mid {\mathcal {G}}]$ обозначает условное математическое ожидание относительно σ-алгебры ${\mathcal {G}}$.

Эта статья содержит материал из статьи Неравенство Йенсена русской Википедии.