Плотность вероятности: различия между версиями
[отпатрулированная версия] | [непроверенная версия] |
→Простое «прикладное» описание понятия: равномерное распределение |
DimaBot (обсуждение | вклад) м Бот: оформление Ш:БРЭ |
||
(не показаны 22 промежуточные версии 9 участников) | |||
Строка 1: | Строка 1: | ||
'''Пло́тность вероя́тности''' — один из способов задания |
'''Пло́тность вероя́тности''' — один из способов задания [[Распределение вероятностей|распределения случайной величины]]. Во многих практических приложениях понятия «плотность вероятности» и «плотность (распределения) [[Случайная величина|случайной величины]]» или «[[функция распределения|функция распределения вероятностей]]» фактически синонимизируются{{Нет АИ|22|06|2020}} и под ними подразумевается [[Числовая функция|вещественная функция]], характеризующая сравнительную вероятность реализации тех или иных значений случайной переменной (переменных). |
||
== |
== Прикладное описание понятия == |
||
Плотность распределения |
Плотность распределения одномерной непрерывной случайной величины <math>\xi</math> — это числовая функция <math>f(x)</math>, отношение <math>f(x_1)/f(x_2) </math> значений которой в точках <math>x_1</math> и <math>x_2</math> задаёт отношение [[вероятность|вероятностей]] попаданий величины <math>\xi</math> в узкие интервалы равной ширины <math>[x_1, x_1+\Delta x]</math> и <math>[x_2, x_2+\Delta x]</math> вблизи данных точек. |
||
Плотность распределения неотрицательна при любом <math>x</math> и нормирована |
Плотность распределения неотрицательна при любом <math>x</math> и нормирована, то есть |
||
::<math>\int_{-\infty}^{+\infty}f(x)\,\mbox{d}x = 1</math> |
::<math>\int_{-\infty}^{+\infty}f(x)\,\mbox{d}x = 1</math> |
||
При стремлении <math>x</math> к <math>\,\pm\infty</math> функция <math>f(x) |
При стремлении <math>x</math> к <math>\,\pm\infty</math> функция <math>f(x)</math> стремится к нулю. Размерность плотности распределения всегда обратная к [[Размерность физической величины|размерности]] случайной величины — если <math>\xi</math> исчисляется в метрах, то размерностью <math>f</math> будет м<sup>-1</sup>. |
||
[[File:Integral as region under curve.svg|hochkant=1.2|thumb| Вероятность <math>P</math> попадания величины |
[[File:Integral as region under curve.svg|hochkant=1.2|thumb| Вероятность <math>P</math> попадания случайной величины в интервал между <math>a</math> и <math>b</math> равна площади <math>S</math> под графиком функции плотности вероятности <math>f(x)</math>.]] |
||
Если в конкретной ситуации известно выражение для <math>f(x) |
Если в конкретной ситуации известно выражение для <math>f(x)</math>, с его помощью можно вычислить вероятность попадания величины <math>\xi</math> в интервал <math>[a, b]</math> как |
||
::<math>P( |
::<math>P(\xi \in [a,b]) = \int_{a}^{b}f(x)\,\mbox{d}x</math>. |
||
Зная плотность вероятности можно также определить наиболее вероятное значение ([[Мода (статистика)|моду]]) случайной величины как максимум <math>f(x)</math>. |
Зная плотность вероятности, можно также определить наиболее вероятное значение ([[Мода (статистика)|моду]]) случайной величины как максимум <math>f(x)</math>. |
||
Также с помощью плотности вероятности находится [[среднее значение]] |
Также с помощью плотности вероятности находится [[среднее значение]] случайной величины: |
||
::<math>E\xi = \int_{-\infty}^{+\infty}xf(x)\,\mbox{d}x</math> |
|||
и среднее значение измеримой функции <math>g(\xi) </math> случайной величины: |
|||
::<math>\langle g( |
::<math>\langle g(\xi)\rangle = \int_{-\infty}^{+\infty} g(x)f(x)\,\mbox{d}x</math>. |
||
Чтобы перейти к плотности распределения <math> |
Чтобы перейти к плотности распределения <math>{f}_\chi(y)</math> другой случайной величины <math>\chi=z(\xi)</math>, нужно взять |
||
::<math> |
::<math>{f}_\chi(y) = f(z^{-1}(y))\cdot \left|\frac{\mbox{d}z^{-1}(y)}{\mbox{d}y}\right|</math>, |
||
где <math> |
где <math>z^{-1}(y)</math> — [[обратная функция]] по отношению к <math>y=z(x)</math> (предполагается, что z — [[Биекция|взаимно однозначное отображение]]). |
||
Значение плотности распределения <math>f(x_1)</math> не является вероятностью принять случайной величиной значение <math>x_1</math>. Так, вероятность принятия [[Непрерывная случайная величина|непрерывной случайной величиной]] <math> |
Значение плотности распределения <math>f(x_1)</math> не является вероятностью принять случайной величиной значение <math>x_1</math>. Так, вероятность принятия [[Непрерывная случайная величина|непрерывной случайной величиной]] <math>\xi</math> значения <math>x_1</math> равна нулю. При непрерывном распределении случайной величины <math>\xi</math> вопрос может ставиться о вероятности её попадания в некий диапазон, а не о вероятности реализации её конкретного значения. |
||
Интеграл |
Интеграл |
||
Строка 32: | Строка 34: | ||
:: <math>\int_{-\infty}^xf(t)\,\mbox{d}t = F(x) </math> |
:: <math>\int_{-\infty}^xf(t)\,\mbox{d}t = F(x) </math> |
||
называют [[Функция распределения|функцией распределения]] (соответственно, |
называют [[Функция распределения|функцией распределения]] (соответственно, плотность распределения вероятности — это [[производная функции]] распределения). Функция <math>F</math> является неубывающей и изменяется от 0 при <math>x\to -\infty</math> до 1 при <math>x\to +\infty</math>. |
||
[[File:Uniform_distribution_PDF.png|thumb|Функции плотности вероятности для [[Непрерывное равномерное распределение|равномерного |
[[File:Uniform_distribution_PDF.png|thumb|Функции плотности вероятности для [[Непрерывное равномерное распределение|равномерного распределения]]]] |
||
Самым простым распределением является [[Непрерывное равномерное распределение|равномерное распределение]] на отрезке <math>[a,b]</math>. Для него плотность вероятности равна: |
Самым простым распределением является [[Непрерывное равномерное распределение|равномерное распределение]] на отрезке <math>[a,b]</math>. Для него плотность вероятности равна: |
||
:: <math> |
:: <math> |
||
f(x) = \left\{ |
|||
\begin{matrix} |
\begin{matrix} |
||
{1 \over b-a}, & x\in [a,b] \\ |
{1 \over b-a}, & x\in [a,b] \\ |
||
Строка 57: | Строка 59: | ||
::<math>f(x) = Ax^2\exp\left[-\alpha x^2\right]\,\, (x\ge 0) </math> и <math>f(x) = 0\,\, (x < 0) </math>. |
::<math>f(x) = Ax^2\exp\left[-\alpha x^2\right]\,\, (x\ge 0) </math> и <math>f(x) = 0\,\, (x < 0) </math>. |
||
В двух последних примерах множитель <math>A</math> подбирается в зависимости от параметра <math>\lambda</math> или <math>\alpha</math> так, чтобы обеспечить |
В двух последних примерах множитель <math>A</math> подбирается в зависимости от параметра <math>\lambda</math> или <math>\alpha</math> так, чтобы обеспечить нормировку интеграла от плотности вероятности. В случае распределения Лапласа оказывается, что <math>A = \lambda</math>. |
||
Как названные, так и другие распределения широко применяются в физике. Например, в случае [[Распределение Максвелла|распределения Максвелла]] роль случайной величины обычно играет [[абсолютная величина]] скорости молекулы в [[Идеальный газ|идеальном газе]]. При этом для аргумента функции <math>f</math> нередко используют тот же символ, что и для рассматриваемой в физической задаче случайной величины (как если бы выше на месте <math>\xi</math> всюду стояло <math>x</math>). Так, в выражении максвелловской плотности распределения пишут не формальную переменную <math>x</math>, а символ скорости <math>v</math>. В простейших ситуациях такая вольность с обозначениями не приводит к недоразумениям. |
|||
⚫ | Выше была изложена суть понятия «плотность вероятности». Однако, такое изложение не является строгим — |
||
Спадающий при стремлении аргумента к <math>+\infty</math> или <math>-\infty</math> участок графика плотности вероятности <math>f(x)</math> в областях, где <math>f \ll f_{max}</math>, называется [[Хвост распределения|хвостом]]. Из упомянутых распределений, нормальное и лапласовское имеют по два хвоста (слева и справа), а максвелловское в выписанном виде — один (справа). |
|||
⚫ | |||
Идея плотности вероятности заключается в том, чтобы отразить изменение вероятности на конкретном элементе множества (аналогично ускорению для скорости). |
|||
⚫ | |||
Если <math>f(x)</math> — это функция плотности вероятности, а <math>\mathbb{P}(x)</math> — функция вероятности для некоторого <math>x</math> и <math>\mathbb{N} = \{x_1..x_N\}</math>, тогда |
|||
== Определение плотности вероятности в теории меры == |
|||
<math>\sum_{i=1}^Nf(x_i)\, \Delta x = \sum_{i=1}^N\mathbb{P}(x_i)= 1</math> |
|||
Плотность вероятности можно рассматривать как один из способов задания [[Вероятность|вероятностной меры]] на [[Евклидово пространство|евклидовом пространстве]] <math>\mathbb{R}^n</math>. |
|||
⚫ | Пусть <math>\mathbb{P}</math> является вероятностной [[Мера множества|мерой]] на <math>\mathbb{R}^n</math>, то есть определено [[вероятностное пространство]] <math>\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n),\mathbb{P}\right)</math>, где <math>\mathcal{B}(\mathbb{R}^n)</math> обозначает [[Борелевская сигма-алгебра|борелевскую σ-алгебру]] на <math>\mathbb{R}^n</math>. Пусть <math>m</math> обозначает [[Мера Лебега|меру Лебега]] на <math>\mathbb{R}^n</math>. |
||
Для непрерывных случаев плотность распределения вероятности — это просто производная функции распределения. |
|||
⚫ | |||
⚫ | Пусть <math>\mathbb{P}</math> является вероятностной мерой на <math>\mathbb{R}^n</math>, то есть определено [[вероятностное пространство]] <math>\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n),\mathbb{P}\right)</math>, где <math>\mathcal{B}(\mathbb{R}^n)</math> обозначает [[Борелевская сигма-алгебра|борелевскую σ-алгебру]] на <math>\mathbb{R}^n</math>. Пусть <math>m</math> обозначает [[Мера Лебега|меру Лебега]] на <math>\mathbb{R}^n</math>. |
||
⚫ | |||
: <math>\forall B \in \mathcal{B}(\mathbb{R}^n),\; ( m(B) = 0 ) \Rightarrow ( \mathbb{P}(B) = 0 ) .</math> |
: <math>\forall B \in \mathcal{B}(\mathbb{R}^n),\; ( m(B) = 0 ) \Rightarrow ( \mathbb{P}(B) = 0 ) .</math> |
||
Если вероятность <math>\mathbb{P}</math> абсолютно непрерывна, то согласно [[Теорема Радона — Никодима|теореме Радона-Никодима]] существует неотрицательная [[Борелевы функции|борелевская функция]] <math>f\colon\mathbb{R}^n \to [0,\infty)</math> такая, что |
Если вероятность <math>\mathbb{P}</math> абсолютно непрерывна, то согласно [[Теорема Радона — Никодима|теореме Радона-Никодима]] существует неотрицательная [[Борелевы функции|борелевская функция]] <math>f\colon\mathbb{R}^n \to [0,\infty)</math> такая, что |
||
: <math>\mathbb{P}(B) = \int\limits_{B} f(x)\, dx</math>, |
: <math>\mathbb{P}(B) = \int\limits_{B} f(x)\, dx</math>, |
||
где использовано общепринятое сокращение <math>m(dx) \equiv dx</math>, и интеграл понимается [[Интеграл Лебега|в смысле Лебега]]. |
где использовано общепринятое сокращение <math>m(dx) \equiv dx</math>, и [[интеграл]] понимается [[Интеграл Лебега|в смысле Лебега]]. |
||
В более общем виде, пусть <math>(X, \mathcal F)</math> — произвольное [[Сигма-алгебра|измеримое пространство]], а <math>\mu</math> и <math>\nu</math> — две [[Вероятность|меры]] на этом пространстве. Если найдется неотрицательная <math>f</math>, позволяющая выразить меру <math>\nu</math> через меру <math>\mu</math> в виде |
|||
: <math>\nu(A) = \int_A f d\mu,</math> |
: <math>\nu(A) = \int_A f d\mu,</math> |
||
то такую функцию называют ''плотностью меры <math>\nu</math> по мере <math>\mu</math>'', или ''производной Радона-Никодима |
то такую функцию называют '''плотностью меры <math>\nu</math> по мере <math>\mu</math>''', или '''производной Радона-Никодима меры <math>\nu</math> относительно меры <math>\mu</math>''', и обозначают |
||
: <math>f=\frac{d\nu}{d\mu}</math>. |
: <math>f=\frac{d\nu}{d\mu}</math>. |
||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
Пусть определено произвольное вероятностное пространство <math>(\Omega,\mathcal{F},\mathbb{P})</math>, и <math>X\colon\Omega \to \mathbb{R}^n</math> [[случайная величина]] (или случайный вектор). <math>X</math> индуцирует вероятностную меру <math>\mathbb{P}^X</math> на <math>\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n)\right)</math>, называемую распределением случайной величины <math>X</math>. |
Пусть определено произвольное вероятностное пространство <math>(\Omega,\mathcal{F},\mathbb{P})</math>, и <math>X\colon\Omega \to \mathbb{R}^n</math> [[случайная величина]] (или случайный вектор). <math>X</math> индуцирует вероятностную меру <math>\mathbb{P}^X</math> на <math>\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n)\right)</math>, называемую распределением случайной величины <math>X</math>. |
||
Если распределение <math>\mathbb{P}^X</math> абсолютно непрерывно относительно меры Лебега, то его плотность <math>f_X = \frac{d\mathbb{P}^X}{dx}</math> называется '''плотностью случайной величины''' <math>X</math>. Сама случайная величина <math>X</math> называется абсолютно непрерывной. |
|||
Таким образом для абсолютно непрерывной случайной величины имеем: |
Таким образом для абсолютно непрерывной случайной величины имеем: |
||
Строка 108: | Строка 92: | ||
: <math>\mathbb{P}(X \in B) = \int\limits_{B} f_X(x)\, dx</math>. |
: <math>\mathbb{P}(X \in B) = \int\limits_{B} f_X(x)\, dx</math>. |
||
=== Замечания === |
==== Замечания ==== |
||
* Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности. |
* Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности. |
||
Строка 140: | Строка 124: | ||
: <math>f_Y(y) = f_X\left(g^{-1}(y)\right) \left\vert \frac{dg^{-1}}{dy}(y)\right\vert</math>. |
: <math>f_Y(y) = f_X\left(g^{-1}(y)\right) \left\vert \frac{dg^{-1}}{dy}(y)\right\vert</math>. |
||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
⚫ | |||
== Примеры абсолютно непрерывных распределений == |
== Примеры абсолютно непрерывных распределений == |
||
Строка 179: | Строка 176: | ||
== Литература == |
== Литература == |
||
* {{БРЭ|Плотность вероятности| |
* {{БРЭ|статья=Плотность вероятности|ссылка=https://old.bigenc.ru/mathematics/text/3146355|архив=https://web.archive.org/web/20230221173900/https://old.bigenc.ru/mathematics/text/3146355|архив дата=2023-02-21}} |
||
[[Категория:Теория вероятностей]] |
[[Категория:Теория вероятностей]] |
Текущая версия от 22:54, 12 июля 2024
Пло́тность вероя́тности — один из способов задания распределения случайной величины. Во многих практических приложениях понятия «плотность вероятности» и «плотность (распределения) случайной величины» или «функция распределения вероятностей» фактически синонимизируются[источник не указан 1540 дней] и под ними подразумевается вещественная функция, характеризующая сравнительную вероятность реализации тех или иных значений случайной переменной (переменных).
Прикладное описание понятия
[править | править код]Плотность распределения одномерной непрерывной случайной величины — это числовая функция , отношение значений которой в точках и задаёт отношение вероятностей попаданий величины в узкие интервалы равной ширины и вблизи данных точек.
Плотность распределения неотрицательна при любом и нормирована, то есть
При стремлении к функция стремится к нулю. Размерность плотности распределения всегда обратная к размерности случайной величины — если исчисляется в метрах, то размерностью будет м-1.
Если в конкретной ситуации известно выражение для , с его помощью можно вычислить вероятность попадания величины в интервал как
- .
Зная плотность вероятности, можно также определить наиболее вероятное значение (моду) случайной величины как максимум . Также с помощью плотности вероятности находится среднее значение случайной величины:
и среднее значение измеримой функции случайной величины:
- .
Чтобы перейти к плотности распределения другой случайной величины , нужно взять
- ,
где — обратная функция по отношению к (предполагается, что z — взаимно однозначное отображение).
Значение плотности распределения не является вероятностью принять случайной величиной значение . Так, вероятность принятия непрерывной случайной величиной значения равна нулю. При непрерывном распределении случайной величины вопрос может ставиться о вероятности её попадания в некий диапазон, а не о вероятности реализации её конкретного значения.
Интеграл
называют функцией распределения (соответственно, плотность распределения вероятности — это производная функции распределения). Функция является неубывающей и изменяется от 0 при до 1 при .
Самым простым распределением является равномерное распределение на отрезке . Для него плотность вероятности равна:
Широко известным распределением является «нормальное», оно же гауссово, плотность которого записывается как
- ,
где и — параметры: математическое ожидание и среднеквадратичное отклонение. Другие примеры плотностей распределения — одностороннее лапласовское ():
- и ,
и максвелловское ():
- и .
В двух последних примерах множитель подбирается в зависимости от параметра или так, чтобы обеспечить нормировку интеграла от плотности вероятности. В случае распределения Лапласа оказывается, что .
Как названные, так и другие распределения широко применяются в физике. Например, в случае распределения Максвелла роль случайной величины обычно играет абсолютная величина скорости молекулы в идеальном газе. При этом для аргумента функции нередко используют тот же символ, что и для рассматриваемой в физической задаче случайной величины (как если бы выше на месте всюду стояло ). Так, в выражении максвелловской плотности распределения пишут не формальную переменную , а символ скорости . В простейших ситуациях такая вольность с обозначениями не приводит к недоразумениям.
Спадающий при стремлении аргумента к или участок графика плотности вероятности в областях, где , называется хвостом. Из упомянутых распределений, нормальное и лапласовское имеют по два хвоста (слева и справа), а максвелловское в выписанном виде — один (справа).
Выше была изложена суть понятия «плотность вероятности». Однако, такое изложение не является строгим — плотность нередко является функцией нескольких величин, в рассуждениях неявно предполагались не всегда гарантируемые непрерывность и дифференцируемость функций и так далее.
Определение плотности вероятности в теории меры
[править | править код]Плотность вероятности можно рассматривать как один из способов задания вероятностной меры на евклидовом пространстве . Пусть является вероятностной мерой на , то есть определено вероятностное пространство , где обозначает борелевскую σ-алгебру на . Пусть обозначает меру Лебега на . Вероятность называется абсолютно непрерывной (относительно меры Лебега) (), если любое борелевское множество нулевой меры Лебега также имеет вероятность ноль:
Если вероятность абсолютно непрерывна, то согласно теореме Радона-Никодима существует неотрицательная борелевская функция такая, что
- ,
где использовано общепринятое сокращение , и интеграл понимается в смысле Лебега.
В более общем виде, пусть — произвольное измеримое пространство, а и — две меры на этом пространстве. Если найдется неотрицательная , позволяющая выразить меру через меру в виде
то такую функцию называют плотностью меры по мере , или производной Радона-Никодима меры относительно меры , и обозначают
- .
Плотность случайной величины
[править | править код]Пусть определено произвольное вероятностное пространство , и случайная величина (или случайный вектор). индуцирует вероятностную меру на , называемую распределением случайной величины .
Если распределение абсолютно непрерывно относительно меры Лебега, то его плотность называется плотностью случайной величины . Сама случайная величина называется абсолютно непрерывной.
Таким образом для абсолютно непрерывной случайной величины имеем:
- .
Замечания
[править | править код]- Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности.
- Функция распределения абсолютно непрерывной случайной величины непрерывна и может быть выражена через плотность следующим образом:
- .
В одномерном случае:
- .
Если , то , и
- .
В одномерном случае:
- .
- Математическое ожидание функции от абсолютно непрерывной случайной величины может быть записано в виде:
- ,
где — борелевская функция, так что определено и конечно.
Плотность преобразования случайной величины
[править | править код]Пусть — абсолютно непрерывная случайная величина, и — инъективная непрерывно дифференцируемая функция такая, что , где — якобиан функции в точке . Тогда случайная величина также абсолютно непрерывна, и её плотность имеет вид:
- .
В одномерном случае:
- .
Свойства плотности вероятности
[править | править код]- Плотность вероятности определена почти всюду. Если является плотностью вероятности и почти всюду относительно меры Лебега, то и функция также является плотностью вероятности ./
- Интеграл от плотности по всему пространству равен единице:
- .
Обратно, если — неотрицательная почти всюду функция, такая что , то существует абсолютно непрерывная вероятностная мера на такая, что является её плотностью.
- Замена меры в интеграле Лебега:
- ,
где любая борелевская функция, интегрируемая относительно вероятностной меры .
Примеры абсолютно непрерывных распределений
[править | править код]- Бета-распределение
- Гамма-распределение
- Гиперэкспоненциальное распределение
- Двумерное нормальное распределение
- Логнормальное распределение
- Многомерное нормальное распределение
- Непрерывное равномерное распределение
- Нормальное распределение
- Обобщённое гиперболическое распределение
- Полукруговой закон Вигнера
- Распределение variance-gamma
- Распределение Вейбулла
- Распределение Гомпертца
- Распределение Колмогорова
- Распределение копулы
- Распределение Коши
- Распределение Лапласа
- Распределение Накагами
- Распределение Парето
- Распределение Пирсона
- Распределение Райса
- Распределение Рэлея
- Распределение Стьюдента
- Распределение Трейси — Видома
- Распределение Фишера
- Распределение хи-квадрат
- Частотное распределение
- Экспоненциальное распределение
См. также
[править | править код]Литература
[править | править код]- Плотность вероятности : [арх. 21 февраля 2023] // Большая российская энциклопедия : [в 35 т.] / гл. ред. Ю. С. Осипов. — М. : Большая российская энциклопедия, 2004—2017.