white noise

Processi Stocastici
Definizione intuitiva: un processo stocastico è un insieme ordinato di variabili
casuali, indicizzate dal parametro t, spesso detto tempo.
Definizione rigorosa: dati uno spazio di probabilità (Ω, F, P ) e uno spazio
parametrico T , un processo stocastico è una funzione X(t, ω) finita a valori reali
che, per ogni t ∈ T , è una funzione misurabile di ω ∈ Ω (cioè una variabile
casuale).
1
Tipi di Processi Stocastici
1. Processi discreti a parametro discreto (es.: numero di giorni di pioggia per
mese a Milano)
2. Processi discreti a parametro continuo (es.: numero di particelle emesse da una
sostanza radioattiva e registrate su modulo continuo da un contatore Geiger)
3. Processi continui a parametro discreto (es.: temperatura corporea ad intervalli
prefissati)
4. Processi continui a parametro continuo (es.: tracciato di un sismografo)
2
Famiglia delle ripartizioni finite
Un processo stocastico (a parametro discreto) è caratterizzato dalla sua
famiglia delle ripartizioni finite, cioè dalla conoscenza di tutte le possibili funzioni
di ripartizione
F (x1, . . . , xn) = Pr(Xt1 ≤ x1, . . . , Xtk ≤ xk )
per ogni valore di k e insieme di indici {t1, . . . , tk }.
3
Serie storiche e processi stocastici
D’ora in poi considereremo ogni serie storica una parte finita di una
realizzazione di un processo stocastico.
Avremo a disposizione uno solo tra i possibili infiniti tracciati che il processo
può generare.
Siamo abituati a lavorare con campioni di diverse estrazioni di una medesima
variabile casuale, ora abbiamo a disposizione, per ogni t ∈ T una sola realizzazione.
Si potrà fare inferenza sulle future realizzazioni del processo solo stabilendo
alcune propietà del processo ed ipotizzando una forma particolare di dipendenza
temporale, per mezzo della quale dare forma ad un modello statistico per il
processo.
4
Stazionarietà
Forte: un p.s. {Xt} si dice stazionario in senso forte se
F (Xt1 < x1, . . . , Xtk < xk ) = F (Xt1+h < x1, . . . , Xtk +h < xk )
∀{t1, . . . , tk } ∈ T k , ∀k, h ∈ Z.
Debole: un p.s. {Xt} si dice stazionario in senso debole o in covarianza se
1. E(Xt) = µ
∀t ∈ T ,
2. E(Xt − µ)2 = σ 2 < ∞
∀t ∈ T ,
3. E[(Xt − µ)(Xt−h − µ)] = γ(h)
∀t ∈ T ∀h ∈ N
γ(h) è detta funzione di autocovarianza.
5
Il Processo White Noise
Il processo {at} si dice white noise, e si indica con at ∼ WN(0, σ 2) se
1. E(Xt) = 0
∀t ∈ T ,
2. E(Xt − µ)2 = σ 2 < ∞
∀t ∈ T ,
3. E[(Xt − µ)(Xt−h − µ)] = γ(h) = 0
∀t ∈ T ∀h ∈ N
6
WNN
2
1
0
−1
−2
0
5.0
10
20
30
40
50
60
70
80
90
100
20
30
40
50
60
70
80
90
100
WNt
2.5
0.0
−2.5
−5.0
0
10
7
L’invertibilità
Un p.s. si dice invertibile se può essere scritto in funzione dei suoi valori passati
sommati ad un WN:
Xt = f (Xt−1, Xt−2, . . .) + at.
Le realizzazioni di at possono essere quindi ottenute per mezzo di
at = Xt − f (Xt−1, Xt−2, . . .).
8
L’ergodicità
Un p.s. è ergodico rispetto ad una funzione momento E(ν(Xt)) se la media
temporale di tale funzione ν(Xt) converge in probabilità alla funzione momento
E(ν(Xt)):
n
X
plim n−1
ν(Xt) = E(ν(Xt)).
n→∞
t=0
Una condizione sufficiente per l’ergodicità in media è che
plim n−1
n→∞
n
X
|γ(k)| = 0.
k=0
Una condizione sufficiente per l’ergodicità in covarianza è che
plim n−1
n→∞
n
X
k=0
γ(k)2 = 0.
9
Operatore ritardo B & co.
• BXt = Xt−1,
BBXt = BXt−1 = Xt−2,
in generale Bk Xt = Xt−k .
• Operatore anticipo F = B −1: F k Xt = B−k Xt = Xt+k .
• Operatore differenza ∆ = (1 − B): ∆Xt = Xt − Xt−1.
• Operatore differenza stagionale ∆s = (1 − B s): ∆sXt = (Xt − Xt−s).
• Operatori ritardo polinomiali αm(B) = 1 + α1B + α2B 2 + . . . + αmB m.
L’algebra degli operatori polinomiali C(B) è isomorfa all’algebra delle funzioni
polinomiali C(x), entrambe definite sul campo R dei numeri reali.
Per esempio valgono: (1 − B)−1 = 1 + B + B 2 + B 3 + . . .,
10
1 3
exp(B) = 1 + B + 21 B 2 + 3!
B + . . ..
Teorema di Wold
Ogni processo (debolmente) stazionario Xt a valor medio µ può univocamente
decomporsi come:
Xt = Zt + Vt
Cov(Zt, Vt) = 0
essendo
Vt = µ +
∞
X
[αj sin(ωj t) + βj cos(ωj t)]
0 ≤ ωj ≤ π
j=1
Zt =
∞
X
j=1
ψj at−j ,
ψ0 = 1,
∞
X
ψj2 < ∞,
at ∼ W N (0, σ 2)
j=1
11
Ancora sul teorema di Wold
• Vt è una componente deterministica, nel senso che note αj , βj , µ e ωj è
prevedibile senza errore.
• Zt è una componente stocastica, nel senso che noti i parametri ψj , è possibile
solo fare affermazioni probabilitstiche sul suo futuro.
• Zt si dice processo media mobile di ordine infinito, benché i pesi ψj non
sommino a 1.
• È possibile scrivere Zt come polinomio di ordine infinito in B: Zt = ψ∞(B)at.
• Non è possibile fare inferenza sugli infiniti parametri ψj di Zt (ci vorrebbero
12
serie di lunghezza infinita), è qunidi necessario approssimare Zt con una para-
metrizzazione più parsimoniosa. Una buona approssimazione di un polinomio
di ordine molto grande può essere ottenuta utilizzando il rapporto di due
polinomi di ordine inferiore:
θq (B)
ψ∞(B) ≈
.
φp(B)
• Il processo che deriva dalla riparametrizzazione mostrata si dice autoregressivomedia mobile (ARMA):
θq (B)
Yt =
at.
φp(B)
Lo studio dei processi ARMA occuperà buona parte del corso.
13