O gran en notació de provabilitat

El orde en la notació de provabilitat s'utilisa en la teoria de provabilitat i en estadística en analogia directa a la notació de l'O gran que és estàndar en matemàtiques . Mentres que la notació de l'O gran referix a la convergència de successions, l'orde en la notació de provabilitat tracta de la convergència de successions de variables aleatòries, a on convergència s'entén en el sentit de convergència en provabilitat.

Definicions

O menuda: convergència en provabilitat

Per a una successió de variables aleatòries X _n i una successió de constants a _n (abdós indisades per n, no necessàriament discretes), la notació

$X_n=o_p(a_n)$

significa que el conjunt de valors X _n / a _n convergix en provabilitat a 0 quan n tendix a cert llímit. De manera equivalent, X _n = o _p ( a _n ) es pot escriure com a X _n / a _n = o _p (1), és dir

$\underset{n\to \mathrm{\infty }}{\lim }P[\left|\frac{X_n}{a_n}\right|\ge \epsilon ]=0,$

per a cada ε > 0.

O gran: cota estocàstica

La notació

$X_n=O_p(a_n)\text{ cuando }n\to \mathrm{\infty }$

significa que el conjunt de valors X _n / a _n està acotat estocásticament. És dir, per a qualsevol ε > 0, existix un M > 0 finit i un N > 0 finit tals que

$P(|\frac{X_n}{a_n}|>M)<\epsilon ,\mathrm{\forall }n>N.$

Comparació de les dos definicions

La diferència entre les definicions és sotil. Si s'utilisa la definició de llímit s'obté que:

• $O_p(1)$ : $\mathrm{\forall }\epsilon \mathrm{\exists }{N}_{\epsilon },{\delta }_{\epsilon }\text{ tal que }P(|X_n|\ge {\delta }_{\epsilon })\le \epsilon \mathrm{\forall }n>N_{\epsilon }$
• $o_p(1)$ : $\mathrm{\forall }\epsilon ,\delta \mathrm{\exists }{N}_{\epsilon ,\delta }\text{ tal que }P(|X_n|\ge \delta )\le \epsilon \mathrm{\forall }n>N_{\epsilon ,\delta }$

La diferència radica en la $\delta$: per a la cota estocàstica, n'hi ha prou en que existixca una $\delta$ (arbitrariamente gran) per a satisfer la desigualtat, i $\delta$ pot dependre de $\epsilon$ (d'ahí la ${\delta }_{\epsilon }$ ). Per una atra part, per a que hi haja convergència, l'afirmació té que ser vàlida no només per a una, sino per a qualsevol $\delta$ (arbitrariamente menuda). En cert sentit, açò significa que la successió deu estar acotada, en una cota que es fa més chicoteta a mida que aumenta el tamany de la mostra.

Açò sugerix que si una successió és $o_p(1)$, llavors és $O_p(1)$. És dir, la convergència en provabilitat implica que està acotada estocásticament. Pero la tornada no és vàlit.

Eixemple

Si $(X_n)$ és una successió de variables aleatòries tal que cada element té varianza finita, llavors

$X_n-E(X_n)=O_p\left(\sqrt{\mathrm{var}(X_n)}\right)$

(vore la Teorema 14.4-1 en Bishop et al.)

Si, ademés, $a_n^{-2}\mathrm{var}(X_n)=\mathrm{var}(a_n^{-1}{X}_n)$ és una successió nula per a una successió $(a_n)$ de número real, llavors $a_n^{-1}(X_n-E(X_n))$ convergix en provabilitat a 0 per la desigualtat de Chebyshev i per lo tant

$X_n-E(X_n)=o_p(a_n).$