Случайный вектор

Распределение случайного вектора

Во многих реальных задачах мы имеем не одну, а несколько случайных величин в одном и том же эксперименте. Иногда их удобно рассматривать как единый объект. Это приводит нас к следующему определению.

Определение 1. Статья 351 - Картинка 1-мерным случайным вектором называется набор Статья 351 - Картинка 2случайных величин, заданных на одном и том же вероятностном пространстве Статья 351 - Картинка 3

Фактически случайный векторСтатья 351 - Картинка 4есть отображениеСтатья 351 - Картинка 5 Нетрудно показать (задача 1), что это отображение является борелевским, т.е. для любого борелевского подмножества Статья 351 - Картинка 6 (Статья 351 - Картинка 7-алгебру всех борелевских подмножеств в Статья 351 - Картинка 8мы будем обозначать Статья 351 - Картинка 9) мы имеем Статья 351 - Картинка 10. Как и для случайных величин, можно дать следующее

Определение 2 . Распределением случайного вектора Статья 351 - Картинка 11 называется функция Статья 351 - Картинка 12, заданная на Статья 351 - Картинка 13-алгебре Статья 351 - Картинка 14по правилу Статья 351 - Картинка 15

Распределение является объективной характеристикой случайного вектора, которую можно однозначно восстановить из эксперимента. Но распределение, будучи удобной характеристикой в теоретических исследованиях, является довольно сложным для реальных задач. Как и в одномерном случае, используют понятие функции распределения.

Определение 3. Функцией распределения случайного вектора Статья 351 - Картинка 16называется функция Статья 351 - Картинка 17, такая, что Статья 351 - Картинка 18 Статья 351 - Картинка 19

Основные свойства функции распределения случайного вектора собраны в следующем предложении.

Предложение 1 . Функция распределения Статья 351 - Картинка 20 случайного вектора Статья 351 - Картинка 21 обладает следующими свойствами:

1.Статья 351 - Картинка 22.

2. Статья 351 - Картинка 23не убывает по каждому аргументу Статья 351 - Картинка 24,Статья 351 - Картинка 25.

3. Статья 351 - Картинка 26- непрерывна слева по каждому аргументу х,-И i = 1,п.

4. Статья 351 - Картинка 27, если некоторое Статья 351 - Картинка 28. Статья 351 - Картинка 29, если все Статья 351 - Картинка 30.

5-Статья 351 - Картинка 31

Статья 351 - Картинка 32

Где Статья 351 - Картинка 33

6. Статья 351 - Картинка 34 есть функция распределения случайного вектораСтатья 351 - Картинка 35

Задача 1 . Доказать предложение 1.

Замечание. В силу свойства 5 по функции распределения Статья 351 - Картинка 36 можно найти вероятности попадания в множества Статья 351 - Картинка 37Статья 351 - Картинка 38. Далее, так же как и в одномерном случае, можно восстановить распределение Статья 351 - Картинка 39 для любых борелевских множеств В, аппроксимируя их параллелограммами.

Классификация распределений

Как и в одномерном случае, мы выделим два важных частных случая распределений, которые наиболее часто используются на практике. Конечно, бывают и более общие примеры, но мы не будем их подробно рассматривать в нашем курсе.

Определение 4 . Случайный вектор Статья 351 - Картинка 40имеет дискретное распределение, если существует конечное или счетное множество Статья 351 - Картинка 41, такое, что Статья 351 - Картинка 42

Если Статья 351 - Картинка 43- одно из возможных значений случайного вектора Статья 351 - Картинка 44, то Статья 351 - Картинка 45 называется вероятностью

появления значения Статья 351 - Картинка 46.

Обычно используют следующую стандартную форму описания распределения дискретного случайного вектора. Ясно, что каждая координата Статья 351 - Картинка 47 случайного вектора Статья 351 - Картинка 48 имеет дискретное распределение. Пусть Статья 351 - Картинка 49есть множество значений случайной величины Статья 351 - Картинка 50. Образуем множество Статья 351 - Картинка 51 В Статья 351 - Картинка 52

Задача. Доказать, что Статья 351 - Картинка 53, т.е. Статья 351 - Картинка 54можно взять в качестве множества значений случайного вектора Статья 351 - Картинка 55.

Для произвольного вектора Статья 351 - Картинка 56, где Статья 351 - Картинка 57, обозначим через Статья 351 - Картинка 58

вероятность появления значения Статья 351 - Картинка 59 случайного вектора Статья 351 - Картинка 60. При таком выборе множества Статья 351 - Картинка 61 некоторые его элементы будут появляться с вероятностью 0.

Пример. Случайный вектор Статья 351 - Картинка 62 имеет два значения (1,1) и (2, 2), которые появляются с вероятностями Статья 351 - Картинка 63. Точка Статья 351 - Картинка 64= (1, 2) входит в построенное выше множествоСтатья 351 - Картинка 65, но Статья 351 - Картинка 66

Пару Статья 351 - Картинка 67 будем называть распределением дискретного случайного вектора Статья 351 - Картинка 68, хотя, строго говоря, это не совсем точно. Для Статья 351 - Картинка 69 распределение дискретного случайного вектора

обычно задают в виде следующей таблицы, называемой таблицей распределения:

Статья 351 - Картинка 70

Здесь Статья 351 - Картинка 71- множество значений для Статья 351 - Картинка 72Статья 351 - Картинка 73- множество значений для Статья 351 - Картинка 74, а Статья 351 - Картинка 75

Предложение 2. Распределение Статья 351 - Картинка 76 дискретного случайного вектораСтатья 351 - Картинка 77 обладает следующими свойствами:

1)Статья 351 - Картинка 78

2)Статья 351 - Картинка 79

3)Статья 351 - Картинка 80

Статья 351 - Картинка 81,

4) Статья 351 - Картинка 82

Все эти свойства легко следуют из приведенных выше определений и свойств вероятностей. Поэтому доказательство этого предложения предлагается в виде задачи.

Пример. Пусть мы приводим Статья 351 - Картинка 83 независимых испытаний, каждое из которых может закончиться одним из Статья 351 - Картинка 84 исходов Статья 351 - Картинка 85 и вероятности появления этих исходов одни и те же в каждом испытании и равны Статья 351 - Картинка 86. Пусть Статья 351 - Картинка 87 есть число появлений Статья 351 - Картинка 88-го исхода в этих Статья 351 - Картинка 89-испытаниях. Тогда Статья 351 - Картинка 90 есть дискретный случайный вектор. Его значениями являются векторыСтатья 351 - Картинка 91, такие, что Статья 351 - Картинка 92- целые неотрицательные числа и Статья 351 - Картинка 93 Как было показано выше, при изучении последовательностей независимых испытаний

Статья 351 - Картинка 94

Такое распределение называется полиномиальным распределением с параметрами Статья 351 - Картинка 95

Определение 5 . Случайный вектор Статья 351 - Картинка 96 имеет абсолютно непрерывное распределение, если существует вещественная функция Статья 351 - Картинка 97,Статья 351 - Картинка 98, такая, чтоСтатья 351 - Картинка 99

Статья 351 - Картинка 100

Функция Статья 351 - Картинка 101 называется плотностью распределения случайного вектора Статья 351 - Картинка 102.

Нетрудно доказать следующее утверждение, доказательство которого предлагается в качестве задачи.

Предложение 3 . Случайный вектор Статья 351 - Картинка 103 имеет абсолютно непрерывное распределение с плотностью Статья 351 - Картинка 104,Статья 351 - Картинка 105

Тогда справедливы следующие свойства:

1)Статья 351 - Картинка 106

2)Статья 351 - Картинка 107

3)Статья 351 - Картинка 108

4)Статья 351 - Картинка 109

Статья 351 - Картинка 110,

5)Если Статья 351 - Картинка 111- точка непрерывности плотности Статья 351 - Картинка 112,

То Статья 351 - Картинка 113,

6) плотность случайного вектора можно вычислить по формуле Статья 351 - Картинка 114

Статья 351 - Картинка 115

Замечание. Если мы имеем некоторый случайный вектор Статья 351 - Картинка 116Статья 351 - Картинка 117, то, выбирая некоторые из его координат, например первые Статья 351 - Картинка 118, мы получаем новый случайный векторСтатья 351 - Картинка 119, который называютподвектором вектора Статья 351 - Картинка 120. Выше было показано, как найти распределение подвектора, когда убирают одну из координат. Применяя эту процедуру несколько раз, мы сможем найти распределение произвольногоподвектора. Распределение отдельно взятой координаты Статья 351 - Картинка 121 вектора Статья 351 - Картинка 122 называется одномерным или маргинальным распределением.

Как и в одномерном случае, можно ввести понятие смеси распределений, но мы не будем его рассматривать подробно так как здесь не возникает ничего нового.

Примеры. 1. Случайный вектор Статья 351 - Картинка 123 имеет равномерное распределение в области D, если он обладает плотностью распределения следующего вида: Статья 351 - Картинка 124

где Статья 351 - Картинка 125 - мера Лебега области D. Фактически мы имеем дело с геометрическим определением вероятности.

2. Случайный вектор Статья 351 - Картинка 126 имеет двумерное нормальное распределение, если он обладает плотностью распределения следующего вида:

Статья 351 - Картинка 127

Числа Статья 351 - Картинка 128 называются параметрами двумерного нормального распределения. Их вероятностный смысл будет выяснен позднее.

Независимые случайные величины

При изучении свойств вероятностей случайных событий мы видели, что понятие независимости событий играет важную роль при вычислении вероятностей сложных событий. Аналогично понятие независимости является центральным понятием в теории случайных величин, их функциональных преобразований и других вопросах.

Определение 6 . Случайные величины Статья 351 - Картинка 129 называются не зависимыми, если для любых борелевских Статья 351 - Картинка 130

Статья 351 - Картинка 131

Дадим эквивалентные формулировки понятия независимости случайных величин в терминах функций распределения, а также для случаев дискретных и непрерывных распределений.

Предложение 4 . Пусть мы имеем случайный вектор Статья 351 - Картинка 132Статья 351 - Картинка 133. Его компонентыСтатья 351 - Картинка 134 независимы тогда и только тогда, когда

Статья 351 - Картинка 135

В случае дискретных распределений условие независимости эквивалентно условию

Статья 351 - Картинка 136,

а в случае непрерывных – условию Статья 351 - Картинка 137

Доказательство. Рассмотрим множества

Статья 351 - Картинка 138

Для них из (3) следует (4). Обратно, из (4) легко получить (3) для параллелепипедов, а затем аппроксимировать произвольные 1ѕ с помощью сумм отрезков. Свойство (6) получается из (4) дифференцированием. Свойство(5) следует непосредственно из определения независимости.

Пример 1. Пусть мы имеем схему Бернулли с параметрами Статья 351 - Картинка 139 и Статья 351 - Картинка 140. Пусть Статья 351 - Картинка 141= 1, если вСтатья 351 - Картинка 142-м испытании был ’’успех”, и равно 0 в противном случае. Тогда случайные величины Статья 351 - Картинка 143-независимы.

Кстати, число успехов Статья 351 - Картинка 144 в этих Статья 351 - Картинка 145 испытаниях представимо в виде

Статья 351 - Картинка 146

Пример 2. Пусть Статья 351 - Картинка 147 имеет двумерное нормальное распределение. Статья 351 - Картинка 148будут независимы тогда и только тогда, когда Статья 351 - Картинка 149(задача!).

Нетрудно доказать следующий полезный результат (задача!).

Предложение 5 . Пусть случайные величины Статья 351 - Картинка 150, Статья 351 - Картинка 151- независимы, а Статья 351 - Картинка 152и Статья 351 - Картинка 153 - борелевские функции. Тогда случайные величины Статья 351 - Картинка 154и Статья 351 - Картинка 155 также являются независимыми.

Пример 3. Пусть мы имеем схему Бернулли с Статья 351 - Картинка 156 испытаниями. Тогда число успехов Статья 351 - Картинка 157 в первых Статья 351 - Картинка 158 испытаниях и число успехов Статья 351 - Картинка 159 в последующих Статья 351 - Картинка 160испытаниях - независимые случайные величины.

Функциональные преобразования случайных векторов

Как и в одномерном случае, важной с практической точки зрения является задача о вычислении распределения функционального преобразования случайного вектора.

Определение 7 . ОтображениеСтатья 351 - Картинка 161: Статья 351 - Картинка 162называется борелевским, если Статья 351 - Картинка 163мы имеем Статья 351 - Картинка 164

Если Статья 351 - Картинка 165- борелевское отображение, Статья 351 - Картинка 166 - случайный вектор, тоСтатья 351 - Картинка 167 вновь является случайным вектором. Действительно, если Статья 351 - Картинка 168, то Статья 351 - Картинка 169, а Статья 351 - Картинка 170. Отсюда нетрудно получить выражение для распределения вектораСтатья 351 - Картинка 171, если мы знаем распределение вектора Статья 351 - Картинка 172

Статья 351 - Картинка 173

Рассмотрим теперь отдельно случаи дискретного и непрерывного распределений.

Если Статья 351 - Картинка 174 имеет дискретное распределение с множеством значений Статья 351 - Картинка 175 и вероятностями Статья 351 - Картинка 176 появления этим значений, то ясно, что случайный вектор Статья 351 - Картинка 177 также имеет дискретное распределение с множеством значений Статья 351 - Картинка 178, где каждоеСтатья 351 - Картинка 179 для некоторого Статья 351 - Картинка 180, а вероятности Статья 351 - Картинка 181 появления значения можно вычислить по формуле

Статья 351 - Картинка 182

Пример. Пусть Статья 351 - Картинка 183 - двумерный случайный вектор с дискретным распределением, Статья 351 - Картинка 184 - вероятность появления некоторого значения Статья 351 - Картинка 185. Рассмотрим функцию

Статья 351 - Картинка 186. Тогда Статья 351 - Картинка 187 есть дискретная случайная величина и вероятность того, что Статья 351 - Картинка 188, где Статья 351 - Картинка 189- одно из возможных значений суммы Статья 351 - Картинка 190, можно рассчитать по формуле

Статья 351 - Картинка 191

Если Статья 351 - Картинка 192 и Статья 351 - Картинка 193 независимы, то

Статья 351 - Картинка 194 В этом случае мы получаем Статья 351 - Картинка 195

Это формула свертки для дискретных распределений.

Пусть теперь Статья 351 - Картинка 196- случайный вектор, который имеет плотность распределения Статья 351 - Картинка 197. Как и в одномерном случае, распределение случайного вектора Статья 351 - Картинка 198может не иметь плотности и даже быть дискретным. Необходимы некоторые дополнительные ограничения на функцию Статья 351 - Картинка 199. Рассмотрим один частный, но практически важный случай.

Предложение 6 . Пусть Статья 351 - Картинка 200- случайный вектор, который имеет плотность распределения Статья 351 - Картинка 201- взаимно однозначное и непрерывно дифференцируемое отображение. Тогда распределение случайного вектора Статья 351 - Картинка 202является абсолютно непрерывным и его плотность Статья 351 - Картинка 203можно вычислить по формуле

Статья 351 - Картинка 204 где Статья 351 - Картинка 205- якобиан отображения Статья 351 - Картинка 206

Доказательство этого предложения дословно повторяет доказательство в одномерном случае, но теперь мы должны сделать замену переменных в Статья 351 - Картинка 207

Пример. Пусть Статья 351 - Картинка 208, где Статья 351 - Картинка 209- невырожденная квадратная матрица размера Статья 351 - Картинка 210, т.е. мы имеем линейное отображение в Статья 351 - Картинка 211. В этом случае Статья 351 - Картинка 212 и Статья 351 - Картинка 213

В тех случаях, когда Статья 351 - Картинка 214, последнее предложение не применимо. Но часто можно дополнить отображение Статья 351 - Картинка 215 еще одним отображениемСтатья 351 - Картинка 216так, чтобы отображение Статья 351 - Картинка 217 уже обладало нужными свойствами.

Пример. Пусть случайный вектор Статья 351 - Картинка 218 имеет плотность распределения Статья 351 - Картинка 219. Найдем плотность распределения случайной величины Статья 351 - Картинка 220. Здесь Статья 351 - Картинка 221. Рассмотрим еще одну случайную величину Статья 351 - Картинка 222. Тогда в целом мы имеем следующее линейное отображение Статья 351 - Картинка 223. Матрица Статья 351 - Картинка 224 этого отображения имеет вид Статья 351 - Картинка 225 Статья 351 - Картинка 226, а обратная матрица Статья 351 - Картинка 227 равна Статья 351 - Картинка 228

В предыдущем примере мы получили, что

Статья 351 - Картинка 229

Статья 351 - Картинка 230

Чтобы найти плотность распределения для Статья 351 - Картинка 231, достаточно проинтегрировать по координатеСтатья 351 - Картинка 232, т.е.

Если Статья 351 - Картинка 233 и Статья 351 - Картинка 234- независимы, то Статья 351 - Картинка 235. Заменяя Статья 351 - Картинка 236 наСтатья 351 - Картинка 237, получаем Статья 351 - Картинка 238

Это формула свертки для непрерывных распределений.

В более сложных ситуациях, когда не удается свести задачу к предложению б, необходимо провести прямые расчеты, вычисляя распределение Статья 351 - Картинка 239(например, функцию распределения), а затем находя плотность. Технически это сводится к нахождению множества Статья 351 - Картинка 240 и вычислению интеграла от Статья 351 - Картинка 241 по этому множеству.

Чтобы продемонстрировать, как работает этот метод, рассмотрим тот же самый пример: Статья 351 - Картинка 242. Вычислим для Статья 351 - Картинка 243 функцию распределения:

Статья 351 - Картинка 244

Фактически нам нужно найти вероятность попадания случайного вектораСтатья 351 - Картинка 245 в множество Статья 351 - Картинка 246

Тогда мы имеем

Статья 351 - Картинка 247

Таким образом, мы имеем тот же результат, что и ранее.

Статья 351 - Картинка 248

Статья 351 - Картинка 249

Дифференцируя по Статья 351 - Картинка 250, окончательно получаем

Далее, расписывая двойной интеграл в виде повторного, получаем