Anteprima Estratta dall` Appunto di Probabilità

Anteprima Estratta dall' Appunto di
Probabilità
Università : Università degli studi Federico II
Facoltà : Ingegneria
Indice di questo documento
L' Appunto
Le Domande d'esame
ABCtribe.com e' un sito di knowledge sharing per facilitare lo scambio di materiali ed informazioni per lo studio e la
formazione.Centinaia di migliaia di studenti usano ABCtribe quotidianamente per scambiare materiali, consigli e
opportunità Più gli utenti ne diffondono l'utilizzo maggiore e' il vantaggio che ne si può trarre :
1. Migliora i tuoi voti ed il tempo di studio gestendo tutti i materiali e le risorse condivise
2. Costruisci un network che ti aiuti nei tuoi studi e nella tua professione
3. Ottimizza con il tuo libretto elettronico il percorso di studi facendo in anticipo le scelte migliori per ogni esame
4. Possibilità di guadagno vendendo appunti, tesine, lezioni private, tesi, svolgendo lavori stagionali o part time.
www.ABCtribe.com
ABCtribe.com - [Pagina 1]
L' Appunto
A partire dalla pagina successiva potete trovare l' Anteprima Estratta dall' Appunto.
Se desideri l'appunto completo clicca questo link.
Il numero di pagina tra le parentesi tonde si riferisce a tutto il documento contenente l'appunto.
Sull'appunto stesso in alcuni casi potrete trovare una altra numerazione delle pagine che si riferisce al solo
appunto.
ABCtribe.com - [Pagina 2]
Giacinto Gelli
om
Probabilità e informazione
abcefg
AB
Ct
rib
e.c
Manuale per il corso di Teoria dei Fenomeni Aleatori
N APOLI 2002
ABCtribe.com - [Pagina 3]
c Giacinto Gelli [email protected]
L’autore consente la riproduzione anche parziale del testo agli studenti del corso. Non è consentito modificare il testo, diffonderlo, pubblicarlo anche con mezzi telematici senza il consenso
scritto dell’autore.
AB
Ct
rib
e.c
om
Prima versione (1.0): settembre 2001.
Seconda versione (2.0): febbraio 2002.
Terza versione (3.0): ottobre 2002.
Quarta versione (3.1): marzo 2003.
Quinta versione (3.2): settembre 2003.
ABCtribe.com - [Pagina 4]
AB
Ct
rib
e.c
om
Dedicato ad Annalisa, Andrea, ed Alice.
ABCtribe.com - [Pagina 5]
om
e.c
rib
Ct
AB
ABCtribe.com - [Pagina 6]
Prefazione
e.c
om
Poiché non è dal lavoro che nasce la civiltà:
essa nasce dal tempo libero e dal giuoco.
Alexandre Koyré, “I filosofi e la macchina”
rib
Questo libro costituisce un tentativo di fornire un’introduzione snella, ma rigorosa, ai concetti fondamentali di probabilità ed informazione per gli allievi dei corsi di laurea dell’Ingegneria
dell’Informazione.
AB
Ct
Il libro è organizzato in 10 capitoli ed alcune appendici; nei capitoli 1 e 2 si espongono le basi della
teoria della probabilità; i capitoli 3, 4 e 5 sono dedicati allo studio della teoria di una variabile
aleatoria; i capitoli 6 e 7 si occupano della teoria di due variabili aleatorie; il capitolo 8 generalizza
molti dei concetti esposti nei capitoli precedenti al caso di n > 2 variabili aleatorie e discute
brevemente i teoremi limite (legge dei grandi numeri e teorema limite fondamentale); nel capitolo
9 sono introdotte le distribuzioni condizionali; infine, il capitolo 10 è dedicato all’introduzione
dei concetti fondamentali della teoria dell’informazione (entropia, codifica di sorgente, primo
teorema di Shannon, codici di Huffmann). Gli argomenti marcati con il simbolo possono essere
saltati ad una prima lettura, senza pregiudicare la comprensione del resto. Il libro è corredato
da numerosi esempi svolti e da oltre 200 esercizi proposti, suddivisi per capitolo; gli esercizi
contrassegnati con il simbolo sono di maggiore difficoltà.
Per la comprensione del testo, sono richieste conoscenze di base di calcolo combinatorio, di analisi reale (teoria delle funzioni di una e più variabili, integrazione delle funzioni di una e più
variabili, derivazione delle funzioni di una e più variabili, successioni e serie) e di algebra lineare e geometria (vettori, matrici, determinanti). È necessaria anche una conoscenza operativa
dell’impulso di Dirac (le proprietà fondamentali sono richiamate nell’appendice D).
Il libro è disponibile su Internet in formato pdf alla seguente URL:
http://www.die.unina.it/GruppoTLC/gelli/didattica/CorsoFAlaurea/materiale
ed è stato composto dall’autore utilizzando LATEX2e. Commenti, segnalazioni di errori e suggerimenti possono essere indirizzati a [email protected].
ABCtribe.com - [Pagina 7]
ii
Si ringraziano gli studenti della Facoltà di Ingegneria dell’Università di Napoli per il loro incoraggiamento, la loro inesauribile curiosità, e particolarmente per le osservazioni che hanno
consentito di correggere molti degli errori presenti nelle precedenti versioni.
AB
Ct
rib
e.c
om
Giacinto Gelli, ottobre 2002
ABCtribe.com - [Pagina 8]
iii
Principali notazioni
Ct
rib
e.c
om
insiemi
classi (collezioni di insiemi)
insieme vuoto
ω appartiene ad A
ω non appartiene ad A
A è un sottoinsieme di B
A è un sottoinsieme proprio di B
unione di A e B
intersezione di A e B
differenza tra A e B
complemento di A
prodotto cartesiano di A e B
uguale per definizione
insieme dei numeri naturali {1, 2, . . . , }
insieme dei numeri naturali, zero incluso {0, 1, 2, . . .}
insieme dei numeri interi relativi {. . . , −2, −1, 0, 1, 2, . . .}
insieme dei numeri reali
insieme ampliato dei numeri reali
intervallo a ≤ x ≤ b
intervallo a ≤ x < b
intervallo a < x ≤ b
intervallo a < x < b
intervallo x < b
intervallo x ≤ b
intervallo x > a
intervallo x ≥ a
indica indifferentemente un qualunque intervallo di estremi a e b
spazio campione
σ-campo costruito su uno spazio campione Ω
collezione delle parti di Ω
probabilità dell’evento A
probabilità condizionata dell’evento A dato l’evento B
variabili aleatorie
vettori
matrici
determinante della matrice A
inversa della matrice A
trasposta della matrice A
AB
A, B, C
A, B, C
∅
ω∈A
ω ∈ A
A⊆B
A⊂B
A ∪ B, A + B
A ∩ B, AB
A−B
A
A×B
N
N0 = N ∪ {0}
Z
R
R = R ∪ {−∞, ∞}
[a, b]
[a, b[
]a, b]
]a, b[
] − ∞, b[
] − ∞, b]
]a, ∞[
[a, ∞[
(a, b)
Ω
S
P(Ω)
P(A)
P(A|B)
X, Y, Z
x, y, z
A, B, C
det(A)
A−1
AT
ABCtribe.com - [Pagina 9]
AB
Ct
rib
e.c
om
iv
ABCtribe.com - [Pagina 10]
om
Indice
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
1
1
3
6
8
8
9
10
12
12
13
14
14
15
16
16
18
24
2 Probabilità condizionale e indipendenza
2.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.2 Probabilità condizionale . . . . . . . . . . . . . . . . . . . . . . . . .
2.2.1 Interpretazioni della probabilità condizionale . . . . . . . .
2.2.2 Legge della probabilità composta . . . . . . . . . . . . . . . .
2.2.3 Regola della catena . . . . . . . . . . . . . . . . . . . . . . . .
2.2.4 Teorema della probabilità totale e teorema di Bayes . . . . .
2.3 Indipendenza tra eventi . . . . . . . . . . . . . . . . . . . . . . . . .
2.3.1 Indipendenza di tre o più eventi . . . . . . . . . . . . . . . .
2.3.2 Indipendenza condizionale tra eventi . . . . . . . . . . . . .
2.4 Esperimenti combinati . . . . . . . . . . . . . . . . . . . . . . . . . .
2.4.1 Esperimenti indipendenti . . . . . . . . . . . . . . . . . . . .
2.5 Elementi di un sistema di comunicazione . . . . . . . . . . . . . . .
2.5.1 Sorgente di informazione . . . . . . . . . . . . . . . . . . . .
2.5.2 Canale di comunicazione e canale binario simmetrico (BSC)
2.5.3 Sorgenti e canali senza memoria . . . . . . . . . . . . . . .
2.6 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
27
27
28
29
30
31
32
35
36
37
37
39
41
42
42
46
48
AB
Ct
rib
e.c
1 Probabilità elementare
1.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . .
1.2 Richiami di teoria degli insiemi . . . . . . . . . . . . . . .
1.3 Probabilità: definizioni preliminari . . . . . . . . . . . . .
1.4 Probabilità assiomatica . . . . . . . . . . . . . . . . . . . .
1.4.1 Campi e σ-campi . . . . . . . . . . . . . . . . . . .
1.4.2 Assiomi di Kolmogorov . . . . . . . . . . . . . . .
1.4.3 Proprietà elementari della probabilità . . . . . . .
1.4.4 Spazi di probabilità . . . . . . . . . . . . . . . . . .
1.4.5 Proprietà di continuità della probabilità . . . . .
1.5 Altri approcci alla teoria della probabilità . . . . . . . . .
1.5.1 Approccio frequentista . . . . . . . . . . . . . . . .
1.5.2 Approccio classico . . . . . . . . . . . . . . . . . .
1.5.3 Vantaggi (e svantaggi) dell’approccio assiomatico
1.6 Esempi di costruzione di spazi di probabilità . . . . . . .
1.6.1 Spazi di probabilità discreti . . . . . . . . . . . . .
1.6.2 Spazi di probabilità continui . . . . . . . . . . .
1.7 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . .
ABCtribe.com - [Pagina 11]
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
vi
INDICE
rib
e.c
om
3 Variabili aleatorie
3.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.1.1 Definizione formale di variabile aleatoria . . . . . . . . . . . . . . . . . . . . . . . . . .
3.2 Funzione di distribuzione cumulativa (CDF) . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.2.1 Proprietà della CDF . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.2.2 Variabili aleatorie discrete, continue, miste . . . . . . . . . . . . . . . . . . . . . . . . .
3.2.3 Percentile e mediana . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.3 Funzione densità di probabilità (pdf) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.3.1 Proprietà della pdf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.4 Funzione distribuzione di probabilità (DF) . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.4.1 Proprietà della DF . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5 Variabili aleatorie notevoli . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.1 Variabile aleatoria di Bernoulli . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.2 Variabile aleatoria binomiale e problema delle prove ripetute . . . . . . . . . . . . . .
3.5.3 Variabile aleatoria binomiale negativa . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.4 Variabile aleatoria geometrica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.5 Variabile aleatoria di Poisson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.6 Variabile aleatoria uniforme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.7 Variabile aleatoria gaussiana o normale . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.8 Variabile aleatoria esponenziale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.9 Variabile aleatoria di Laplace (esponenziale bilatera) . . . . . . . . . . . . . . . . . . .
3.5.10 Variabile aleatoria di Rayleigh . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.11 Variabile aleatoria di tipo “mixture” . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.12 Relazioni tra variabile aleatoria binomiale e gaussiana: i teoremi di de Moivre-Laplace
3.6 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
51
51
54
54
56
58
59
61
62
64
65
66
67
67
70
71
72
72
73
75
76
76
77
78
81
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
85
85
86
87
87
92
93
96
98
102
102
103
105
107
5 Caratterizzazione sintetica di una variabile aleatoria
5.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5.2 Media di una variabile aleatoria . . . . . . . . . . . . . . . . .
5.2.1 Teorema fondamentale della media . . . . . . . . . .
5.2.2 Proprietà della media . . . . . . . . . . . . . . . . . .
5.3 Varianza e valor quadratico medio di una variabile aleatoria
5.3.1 Proprietà della varianza . . . . . . . . . . . . . . . . .
5.4 Momenti di una variabile aleatoria . . . . . . . . . . . . . . .
5.4.1 Relazione tra momenti e momenti centrali . . . . . .
5.5 Disuguaglianze notevoli . . . . . . . . . . . . . . . . . . . . .
5.6 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
109
109
110
113
113
114
116
118
119
121
124
AB
Ct
4 Trasformazioni di una variabile aleatoria
4.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.1.1 Condizioni da imporre alla funzione g(x) . . . . . . . .
4.2 Caratterizzazione statistica di Y = g(X) . . . . . . . . . . . . . . .
4.2.1 Calcolo della CDF di Y = g(X) . . . . . . . . . . . . . . . .
4.2.2 Calcolo della DF di Y = g(X) . . . . . . . . . . . . . . . . .
4.2.3 Calcolo della pdf di Y = g(X) . . . . . . . . . . . . . . . . .
4.3 Problema inverso: determinazione di g(x) . . . . . . . . . . . . . .
4.3.1 Generazione di una variabile aleatoria con CDF assegnata
4.3.2 Generazione automatica di numeri casuali . . . . . . . . .
4.3.3 Algoritmo “middle-square” (Von Neumann) . . . . . . . .
4.3.4 Algoritmo lineare congruente . . . . . . . . . . . . . . . . .
4.3.5 Test statistici sui generatori . . . . . . . . . . . . . . . . .
4.4 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
ABCtribe.com - [Pagina 12]
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
INDICE
vii
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
127
127
128
129
130
131
133
134
137
138
139
139
141
144
145
148
7 Caratterizzazione sintetica di una coppia di variabili aleatorie
7.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.2 Teorema fondamentale della media per una coppia di variabili aleatorie
7.3 Momenti congiunti di una coppia di variabili aleatorie . . . . . . . . . .
7.4 Misure di correlazione di una coppia di variabili aleatorie . . . . . . . . .
7.4.1 Correlazione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.4.2 Spazio vettoriale di variabili aleatorie . . . . . . . . . . . . . . . .
7.4.3 Covarianza . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.4.4 Coefficiente di correlazione . . . . . . . . . . . . . . . . . . . . . .
7.4.5 Incorrelazione tra due variabili aleatorie . . . . . . . . . . . . . . .
7.5 Stima lineare a minimo errore quadratico medio . . . . . . . . . . . . .
7.5.1 Principio di ortogonalità . . . . . . . . . . . . . . . . . . . . . . . .
7.6 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
151
151
152
153
154
154
154
156
157
158
159
161
163
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Ct
rib
e.c
om
6 Coppie di variabili aleatorie
6.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . .
6.2 Funzione di distribuzione cumulativa (CDF) congiunta
6.2.1 Proprietà della CDF congiunta . . . . . . . . . .
6.3 Funzione densità di probabilità (pdf) congiunta . . . .
6.3.1 Proprietà della pdf congiunta . . . . . . . . . . .
6.4 Funzione di distribuzione di probabilità (DF) congiunta
6.5 Statistiche congiunte e marginali . . . . . . . . . . . . .
6.6 Coppie di variabili aleatorie indipendenti . . . . . . . .
6.6.1 Proprietà delle variabili aleatorie indipendenti .
6.7 Trasformazioni di coppie di variabili aleatorie . . . . .
6.7.1 Trasformazione 2→1 . . . . . . . . . . . . . . . .
6.7.2 Trasformazione 2→2 . . . . . . . . . . . . . . . .
6.7.3 Metodo della variabile ausiliaria . . . . . . . . .
6.8 Variabili aleatorie complesse . . . . . . . . . . . . . . .
6.9 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
165
165
166
166
166
167
167
168
170
172
173
173
175
176
179
180
183
186
9 Distribuzioni e medie condizionali
9.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.2 Distribuzioni condizionali per una variabile aleatoria . . . . . . .
9.2.1 Funzione di distribuzione cumulativa (CDF) condizionale
9.2.2 Funzione densità di probabilità (pdf) condizionale . . . . .
9.2.3 Funzione distribuzione di probabilità (DF) condizionale .
9.2.4 Teorema della probabilità totale per CDF, pdf, DF . . . . .
9.2.5 Probabilità a posteriori di un evento . . . . . . . . . . . .
9.2.6 Probabilità a posteriori dato X = x . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
189
189
189
190
191
191
193
195
195
AB
8 Vettori di variabili aleatorie
8.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.2 Caratterizzazione statistica di n variabili aleatorie . . . . . . . . . . .
8.2.1 Funzione di distribuzione cumulativa (CDF) . . . . . . . . . .
8.2.2 Funzione densità di probabilità (pdf) . . . . . . . . . . . . . .
8.2.3 Funzione di distribuzione di probabilità (DF) . . . . . . . . . .
8.2.4 Proprietà delle distribuzioni congiunte di n variabili aleatorie
8.3 Trasformazioni di n variabili aleatorie . . . . . . . . . . . . . . . . . .
8.4 Variabili aleatorie indipendenti . . . . . . . . . . . . . . . . . . . . . .
8.5 Momenti di n variabili aleatorie . . . . . . . . . . . . . . . . . . . . . .
8.5.1 Vettore delle medie . . . . . . . . . . . . . . . . . . . . . . . . .
8.5.2 Matrice di correlazione . . . . . . . . . . . . . . . . . . . . . . .
8.5.3 Matrice di covarianza . . . . . . . . . . . . . . . . . . . . . . .
8.5.4 Incorrelazione . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.6 Teoremi limite e convergenza di una sequenza di variabili aleatorie
8.6.1 Legge dei grandi numeri . . . . . . . . . . . . . . . . . . . . . .
8.6.2 Teorema limite fondamentale . . . . . . . . . . . . . . . . . . .
8.7 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
ABCtribe.com - [Pagina 13]
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
viii
INDICE
9.3
9.4
9.5
9.6
9.2.7 Teorema della probabilità totale (versione continua) . . .
9.2.8 Teorema di Bayes per le pdf . . . . . . . . . . . . . . . . .
Distribuzioni condizionali per coppie di variabili aleatorie . . . .
9.3.1 Distribuzioni condizionali dato X = x ed Y = y . . . . . .
Distribuzioni condizionali per vettori di variabili aleatorie . . . .
9.4.1 Indipendenza condizionale e regola della catena per le pdf
Media condizionale e momenti condizionali . . . . . . . . . . . . .
9.5.1 Teorema della media condizionale . . . . . . . . . . . . . .
9.5.2 Generalizzazione al caso di coppie di variabili aleatorie .
Esercizi proposti . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
AB
Ct
rib
e.c
om
10 Elementi di teoria dell’informazione
10.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . .
10.2 Misura dell’informazione ed entropia . . . . . . . . .
10.2.1 Autoinformazione . . . . . . . . . . . . . . . .
10.2.2 Entropia . . . . . . . . . . . . . . . . . . . . . .
10.2.3 Proprietà dell’entropia . . . . . . . . . . . . . .
10.2.4 Entropia congiunta . . . . . . . . . . . . . . . .
10.3 Sorgenti di informazione . . . . . . . . . . . . . . . . .
10.3.1 Entropia di sorgente . . . . . . . . . . . . . . .
10.3.2 Tasso d’informazione di una sorgente . . . . .
10.3.3 Sorgenti discrete senza memoria (DMS) . . . .
10.3.4 Codifica di sorgente . . . . . . . . . . . . . . .
10.4 Codici per la compattazione dati . . . . . . . . . . . .
10.4.1 Codici a lunghezza fissa . . . . . . . . . . . . .
10.4.2 Codici a lunghezza variabile . . . . . . . . . .
10.4.3 Codici univocamente decifrabili . . . . . . . .
10.4.4 Codici a prefisso . . . . . . . . . . . . . . . . .
10.4.5 Condizioni per l’univoca decifrabilità . . . . .
10.5 Efficienza dei codici per la compattazione dati . . . .
10.5.1 Codici di Shannon . . . . . . . . . . . . . . . .
10.5.2 Codifica a blocchi e primo teorema di Shannon
10.5.3 Efficienza dei codici a lunghezza fissa . . . . .
10.5.4 Codici di Huffmann . . . . . . . . . . . . . . .
10.6 Esercizi proposti . . . . . . . . . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
198
199
199
201
203
204
205
206
207
212
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
215
215
217
218
219
220
221
222
223
224
225
226
227
227
227
228
228
230
231
232
234
236
236
240
A Fattoriale e coefficiente binomiale
243
A.1 Fattoriale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
A.2 Coefficiente binomiale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
A.3 Espansioni binomiali . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
B Elementi di calcolo combinatorio
245
B.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245
B.2 Schema fondamentale del conteggio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246
B.3 Applicazione al calcolo delle probabilità nel gioco del poker . . . . . . . . . . . . . . . . . . . 249
C La funzione G(x)
255
C.1 La funzione G(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
D L’impulso di Dirac
259
D.1 Impulso di Dirac . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259
E Richiami di algebra lineare
E.1 Definizioni ed operazioni fondamentali . . . . . . . . . .
E.1.1 Matrici e vettori . . . . . . . . . . . . . . . . . . . .
E.1.2 Somma di due matrici e prodotto per uno scalare
E.1.3 Prodotto di due matrici (righe per colonne) . . . .
E.1.4 Trasposizione . . . . . . . . . . . . . . . . . . . . .
E.2 Operazioni e proprietà delle matrici quadrate . . . . . . .
ABCtribe.com - [Pagina 14]
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
263
263
263
264
264
264
265
INDICE
E.2.1
E.2.2
E.2.3
E.2.4
ix
Determinante . . . . . . . . . . . . . . . .
Inversa . . . . . . . . . . . . . . . . . . . .
Matrici diagonali . . . . . . . . . . . . . .
Matrici simmetriche e forme quadratiche
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
265
265
266
266
F Identità matematiche notevoli
F.1 Sommatorie e serie . . . . . . . . . . . . . . . . . . . . . . .
F.1.1 Sommatorie di potenze di interi . . . . . . . . . . .
F.1.2 Somma dei primi n termini di una serie geometrica
F.1.3 Serie geometrica . . . . . . . . . . . . . . . . . . . .
F.2 Formula di Leibnitz . . . . . . . . . . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
269
269
269
269
270
270
271
AB
Ct
rib
e.c
om
Bibliografia
ABCtribe.com - [Pagina 15]
INDICE
AB
Ct
rib
e.c
om
x
ABCtribe.com - [Pagina 16]
Questo documento e' un frammento dell'intero appunto utile come
anteprima. Se desideri l'appunto completo clicca questo link.
ABCtribe.com - [Pagina 17]
Preparati con le domande di ABCtribe su Probabilità.
* Carica Appunti,Domande,Suggerimenti su : Probabilità e guadagna punti >>
* Lezioni Private per Probabilità >>
Avvertenze:
La maggior parte del materiale di ABCtribe.com è offerto/prodotto direttamente dagli studenti (appunti, riassunti,
dispense, esercitazioni, domande ecc.) ed è quindi da intendersi ad integrazione dei tradizionali metodi di studio e
non vuole sostituire o prevaricare le indicazioni istituzionali fornite dai docenti. Il presente file può essere utilizzato in
base alle tue necessità ma non deve essere modificato in alcuna sua parte, conservando in particolare tutti i
riferimenti all’autore ed a ABCtribe.com; non potrà essere in alcun modo pubblicato tramite alcun mezzo, senza
diverso accordo scritto con l’autore ed i responsabili del progetto ABCtribe.com. Per eventuali informazioni, dubbi o
controversie contattate la redazione all’indirizzo [email protected].
ABCtribe.com - [Pagina 18]