8. Convergenza in distribuzione


Definizione

Supponi che Xn, n = 1, 2, ... e X siano variabili casuali a valori reali con funzioni di ripartizione, rispettivamente, Fn, n = 1, 2, ... e F. Si dice che la distribuzione di Xn converge alla distribuzione di X per n converge a se

Fn(x) converge a F(x) as n converge a per ogni x in cui F è continua.

Il primo fatto, abbastanza ovvio, che vale la pena notare è che la convergenza in distribuzione coinvolge esclusivamente le distribuzioni di variabili casuali. Pertanto, esse possono anche essere definite su spazi campionari diversi (ovvero non riguardare lo stesso esperimento). Questo contrasta con gli altri concetti di convergenza che abbiamo studiato:

Mostreremo difatti che la convergenza in distribuzione è la più debole di tutte queste modalità di convergenza, pur essendo comunque molto importante. Il teorema limite centrale, uno dei risultati più importanti della probabilità, ha a che vedere con la convergenza in distribuzione.

Il primo esempio che presentiamo mostra perché la definizione è data in termini di funzioni di ripartizione, piuttosto che di funzioni di densità, e perché la convergenza è richiesta unicamente nei punti di continuità della funzione di ripartizione limite.

Esercizio teorico 1. Sia Xn = 1 / n, per n = 1, 2, ... e sia X = 0. Siano fn e f le corrispondenti funzioni di densità e Fn e F le corrispondenti funzioni di ripartizione. Mostra che

  1. fn(x) converge a 0 per n converge a per ogni x.
  2. Fn(x) converge a 0 per n converge a se x <= 0 e Fn(x) converge a 1 per n converge a se x > 0
  3. Fn(x) converge a F(x) as n converge a per ogni x <> 0.

Il prossimo esempio mostra che anche quando le variabili sono definite sullo stesso spazio di probabilità, una successione può convergere in distribuzione, ma non in ogni altra maniera.

Esercizio teorico 2. Sia I una variabile indicatore con P(I = 1) = 1/2 e sia In = I per n = 1, 2, .... Prova che

  1. 1 - I è distribuita come I.
  2. La distribuzione di In converge alla distribuzione di 1 - I per n converge a .
  3. |In - (1 - I)| = 1 per ogni n.
  4. P(In non converge a 1 - I per n converge a ) = 1.
  5. P(|In - (1 - I)| > 1 / 2) = 1 per ogni n, per cui In non converge a 1 - I in probabilità.
  6. E(|In - (1 - I)|) = 1, per ogni n, per cui In non converge a 1 - I in media.

Esercizio teorico 3. Supponi che fn, n = 1, 2, ... e f siano funzioni di densità di probabilità discrete definite su un insieme numerabile S e che fn(x) converge a f(x) per n converge a per ogni x appartenente a S. Prova che la distribuzione corrispondente a fn converge alla distribuzione corrispondente a f per n converge a .

Esercizio teorico 4. Supponi che X sia una variabile casuale a valori reali. Prova che la distribuzione condizionata di X dato X <= t converge alla distribuzione di X per t converge a .

Esistono molti importanti casi in cui una distribuzione notevole converge a un'altra distribuzione quando un parametro si avvicina a un certo valore limite. In realtà, tali risultati di convergenza sono parte della ragione per cui tali distribuzioni sono notevoli.

Esercizio teorico 5. Supponi che P(Y = k) = p(1 - p)k - 1 per k = 1, 2, ..., dove p appartenente a (0, 1] è un parametro. Y ha pertanto distribuzione geometrica con parametro p.

  1. Trova la funzione di densità condizionata di Y dato Y <= n.
  2. Prova che la distribuzione in (a) converge alla distribuzione uniforme su {1, 2, ..., n} as p converge a 0+.

Ricorda che la distribuzione binomiale con parametri n appartenente a {1, 2, ...} e p appartenente a (0, 1) è la distribuzione del numero dei successi in n prove Bernoulliane, dove p è la probabilità del successo in una prova. Tale distribuzione ha funzione di densità di probabilità discreta

f(k) = C(n, k) pk (1 - p)n - k per k = 0, 1, ..., n.

Ricorda inoltre che la distribuzione di Poisson con parametro t > 0 ha funzione di densità di probabilità discreta:

g(k) = exp(-t) tk / k! per k = 0, 1, 2, ... 

Esercizio teorico 6. Prova che per dato t > 0, la distribuzione binomiale con parametri n e pn = t / n converge alla distribuzione di Poisson con parametro t per n converge a .

Per ulteriori informazioni su questo importante risultato, puoi vedere il paragrafo sulle analogie tra prove Bernoulliane e processi di Poisson.

Ricorda che la distribuzione ipergeometrica con parametri N, R e n è il numero di oggetti di un dato tipo in un campione di dimensione n estratto senza reinserimento da una popolazione di N oggetti, di cui R del tipo dato. Ha funzione di densità di probabilità discreta 

f(k) = C(n, k) (R)k (N - R)n - k / (N)n per k = 0, 1, ..., n.

 Esercizio teorico 7. Supponi che R dipenda da N e che R / N converge a p per N converge a . Prova che, per dato n, la distribuzione ipergeometrica con parametri   N, R, n converge alla distribuzione binomiale con parametri n e p as N converge a .

Relazione con la convergenza in probabilità

Supponi che Xn, n = 1, 2, ... e X siano variabili casuali (definite sullo stesso spazio campionario) con funzioni di ripartizione rispettivamente Fn, n = 1, 2, ... e F. Gli esercizi seguenti mostreranno che, se Xn converge a X per n converge a in probabilità, allora la distribuzione di Xn converge alla distribuzione di X per n converge a .

Esercizio teorico 8. Mostra che per r > 0,

  1. P(Xn <= x) = P(Xn <= x, X <= x + r) + P(Xn <= x, X > x + r).
  2. Fn(x) <= F(x + r) + P(|Xn - X| > r).

Esercizio teorico 9. Mostra che per r > 0,

  1. P(X <= x - r) = P(X <= x - r, Xn <= x) + P(X <= x - r, Xn > x).
  2. F(x - r) <= Fn(x) + P(|Xn - X| > r).

Esercizio teorico 10. Sulla base dei risultati degli esercizi 8 e 9, mostra che per ogni r > 0,

F(x - r) + P(|Xn - X| > r) <= Fn(x) <= F(x + r) + P(|Xn - X| > r).

Esercizio teorico 11. Supponi ora che Xn converge a X per n converge a in probabilità. Poni n converge a nell'esercizio 10 per dimostrare che per r > 0,

F(x - r) <= lim infn Fn(x) <= lim supn Fn(x) <= F(x + r)

Esercizio teorico 12. Poni r converge a 0 per mostrare che, se F è continua in x allora

limn Fn(x) converge a F(x) per n converge a .

Per concludere, le implicazioni vanno da sinistra a destra nella seguente tabella (dove j < k); nessuna altra implicazione vale in generale.

convergenza quasi certa convergenza in probabilità convergenza in distribuzione
convergenza in media k-esima convergenza in media j-esima

In ogni caso, l'esercizio seguente riporta un'importante eccezione quando la variabile limite è costante:

Esercizio teorico 13. Supponi che X1, X2, ... siano variabili casuali (definite sullo stesso spazio campionario) e che la distribuzione di Xn converga alla distribuzione della costante c per n converge a . Dimostra che Xn converge in probabilità a c.

  1. P(Xn <= x) converge a 0 per n converge a se x < c and P(Xn <= x) converge a 1 per n converge a se x > c.
  2. P(|Xn - c| <= r) converge a 1 per ogni r > 0.

La rappresentazione di Skorohod

Supponiamo che Fn, n = 1, 2, ... e F siano funzioni di ripartizione e che Fn converge a F per n converge a nel senso della convergenza in distribuzione. Vedremo ora che esistono variabili casuali Xn, n = 1, 2, ... e X (definite sullo stesso spazio di probabilità) tali che

  1. Xn ha funzione di ripartizione Fn per ogni n,
  2. X ha distribuzione F,
  3. Xn converge a X per n converge a con probabilità 1.

Questo interessante risultato è noto come teorema di rappresentazione di Skorohod. In primo luogo, sia U distribuita uniformemete sull'intervallo (0, 1). Definiamo le variabili casuali Xn, n = 1, 2, ... e X come

Xn = Fn-1(U), X = F-1(U),

dove Fn-1 e F-1 sono le funzioni quantile rispettivamente di Fn e F.

Esercizio teorico 14. Ricorda dalle transformazioni della variabile uniforme che Xn ha funzione di ripartizione Fn e X ha funzione di ripartizione F.

Il nucleo della dimostrazione, presentata nella prossima serie di esercizi, è di provare che se u appartiene a (0, 1) e F-1 è continua in u allora

Fn-1(u) converge a F-1(u) per n converge a .

Sia quindi r > 0 e sia u appartenente a (0, 1). Scegli un punto x di continuità di F tale che

F-1(u) - r < x < F-1(u).

Esercizio teorico 15. Mostra che

  1. F(x) < u.
  2. Fn(x) < u per n sufficientemente grande.

Esercizio teorico 16. Concludi dall'esercizio 15 che, per n sufficientemente grande

F-1(u) - r < x < Fn-1(u).

Esercizio teorico 17. Poni n converge a e r converge a 0+ nell'esercizio 16 per concludere che per ogni u appartenente a (0, 1).

F-1(u) <= lim infn Fn-1(u).

Ora, scegliamo un v che soddisfi u < v < 1 e sia r > 0. Scegli un punto di continuità di F tale che

F-1(v) < x < F-1(v) + r.

Esercizio teorico 18. Mostra che

  1. u < v < F(x).
  2. u < Fn(x) per n sufficientemente grande.

Esercizio teorico 19. Dall'esercizio 18, concludi che per n sufficientemente grande,

Fn-1(u) <= x < F-1(v) + r.

Esercizio teorico 20. Poni n converge a e r converge a 0+ nell'esercizio 19 per concludere che per ogni u, v in (0, 1) con u < v,

lim supn Fn-1(u) <= F-1(v).

Esercizio teorico 21. Poni v converge a u- nell'esercizio 20 per mostrare che u è un punto di continuità di F,

lim supn Fn-1(u) <= F-1(u).

Esercizio teorico 22. Dagli esercizi 16 e 20 concludi che se u è un punto di continuità di F, allora

Fn-1(u) converge a F-1(u) per n converge a .

Per completare la dimostrazione, abbiamo bisogno di un risultato dell'analisi: poiché F-1 è crescente, l'insieme D di punti di discontinuità di F-1 in (0, 1) è numerabile.

Esercizio teorico 23. Nota che

  1. P(U in D) = 0.
  2. P(Xn converge a X per n converge a ) = 1.

Il seguente risultato illustra il valore della rappresentazione di Skorohod.

Esercizio teorico 24. Supponi che Xn, n = 1, 2, ... e X siano variabili casuali tali che le distribuzioni di Xn convergano alla distribuzione di X per n converge a . Se g: R converge a R è continuo, allora la distribuzione di g(Xn) converge alla distribuzione di g(X) per n converge a .

  1. Siano Yn, n = 1, 2, ... e Y variabili casuali, definite sul medesimo spazio campionario, tali che Yn abbia la stessa distribuzione di Xn per ogni n, Y abbia la stessa distribuzione di X e Yn converge a Y per n converge a con probabilità 1.
  2. Spiega perché g(Yn) converge a g(Y) as n converge a con probabilità 1.
  3. Spiega perché la distribuzione di g(Yn) converge alla distribuzione di g(Y) per n converge a .
  4. Spiega perché g(Yn) ha la stessa distribuzione di g(Xn) e perché g(Y) ha la stessa distribuzione di g(X).