Нотация «O» большого используется в теории вероятности и математической статистике для обозначения порядка также как «O» большое и «o» малое в обычном анализе. В то время как «O» большое используется в контексте сходимости последовательностей или множеств обычных чисел, порядок в нотации теории вероятности используется для сходимости случайных величин, где сходимость рассматривается как сходимость по вероятности.
Определения
Малое «о»: сходимость по вероятности
Для последовательности случайных величин и соответствующего набора констант (оба индексируются параметром , который не обязательно дискретен), обозначение
означает, что набор значений сходится к нулю по вероятности по мере того как стремится к подходящему пределу. Эквивалентно, может быть записано как , т.е.
для любого положительного .
«О» большое: стохастическая ограниченность
Обозначение
означает, что множество значений стохастически ограничено, т.е. для любого существует конечная и конечная , такие что: .
Сравнение двух определений
Разница между двумя определениями тонкая. Если использовать определения пределов, получим: Большое: , Малое: .
Вся разница заключается в : для стохастической ограниченности говорится, что существует одна (произвольно большая) , удовлетворяющая неравенство, и может зависеть от (отсюда ). С другой стороны, для сходимости высказывание верно не для одной, а для любой (произвольно малой) . В этом смысле, это означает, что последовательность должна быть ограничена, с уменьшающимися границами по мере возрастания наблюдений в выборке.
Отсюда следует, что если последовательность , то она и , т.е. из сходимости по вероятности следует стохастическая ограниченность, но обратное неверно.
Лемма Чебышёва о стохастическом порядке
Если для некоторой последовательности действительных чисел последовательность сходится к нулю, то сходится к нулю по вероятности по неравенству Чебышёва, так что: .
Примечания