Alcune domande teoriche - Teoria dei Codici a.a. 2010/2011. Nota

Alcune domande teoriche - Teoria dei Codici a.a. 2010/2011.
Nota: una risposta ad una delle domande seguenti è considerata completa se
include anche una dimostrazione, se questa è stata fornita a lezione.
1. Definizione generale di codice (non necessariamente lineare).
2. Lo schema generale encoder-trasmissione-decoder.
3. Il canale binario simmetrico.
4. Il canale binario simmetrico privo di memoria.
5. L’entropia del canale BSC.
6. Esempio del codice per ripetizione R3 .
7. Richiami e definizioni principali di teoria della probabilità.
8. Variabili aleatorie discrete
9. Probabilità condizionale e formula di Bayes.
10. Il decoder per massima verosimiglianza in generale.
11. La distanza di Hamming.
12. Il vettore errore nel caso di BSC.
13. Il decoder per massima verosimiglianza nel caso del BSC privo di memoria
e la decodifica per minima distanza.
14. La distanza minima di un codice.
15. Relazione fra la distanza minima di un codice e la sua capacità di correzione di errori.
16. Il campo binario.
17. La decodifica ottimale del codice R3 e stima delle sue probabilità di errore.
18. Definizione generale di campo.
19. Esempi di campi finiti.
20. I campi con 4 oppure 8 elementi.
21. Definizione di spazio vettoriale su un campo.
22. La nozione di combinazione lineare di un numero finito di elementi di uno
spazio vettoriale.
23. Combinazioni lineari nel caso del campo binario.
1
24. Definizione di sottospazio di uno spazio vettoriale.
25. Il sottospazio generato da un insieme di elementi di uno spazio vettoriale.
26. Definizione di indipendenza lineare (e dipendenza lineare) di un insieme
finito di elementi.
27. Definizione di insieme di generatori di un sottospazio.
28. Definizione di base di uno spazio vettoriale.
29. Dimostrazione che tutte le basi hanno lo stesso numero di elementi nel
caso di spazio vettoriale su campo finito
30. Dimensione di uno spazio vettoriale e cardinalità dello spazio vettoriale.
31. Criterio per l’indipendenza lineare di un insieme finito. Algoritmo.
32. Algoritmo per estrarre una base da un-insieme di generatori.
33. Basi di spazi vettoriali ed encoder lineari.
34. Definizione di codice lineare.
35. Dimensione e rate di un codice lineare.
36. Distanza minima di un codice lineare e peso minimo.
37. Matrice generatrice di un codice lineare.
38. Come trovare le equazioni di un codice lineare.
39. Il codice duale e la sua dimensione.
40. Matrice di controllo di un codice lineare.
41. Le matrici di controllo di un fissato codice ed operazioni di riga.
42. Relazione fra la dimensione del codice ed il rango della matrice di controllo.
43. Matrici in forma standard.
44. Definizione di equivalenza di codici.
45. Costruzione di un codice equivalente che ha matrice di controllo (o generatrice) in forma standard partendo da una matrice di controllo (o generatrice) arbitraria.
46. Passaggio da matrice generatrice a matrice di controllo e viceversa.
47. Formule di passaggio da generatrice a controllo e viceversa nel caso di
matrici in forma standard.
2
48. calcolo della distanza minima di un codice lineare tramite una matrice di
controllo.
49. Il codice di Hamming [7, 4].
50. Distanza minima del codice di Hamming, e sua capacità di correzione.
51. Un esempio di codice lineare binario con distanza minima > 3 e dimensione
almeno 3 (non ricordo se l’ ho fatto a lezione, ma provate lo stesso).
52. La sindrome di una parola ricevuta, e del vettore errore.
53. La decomposizione dello spazio in laterali del codice, e database dei vettori
di peso minimo in ogni laterale.
54. La decodifica per sindromi, con e senza clausola di fallimento.
55. la decodifica per sindromi come istanziazione della decodifica a distanza
minima.
56. Vantaggio computazionale della decodifica per sindromi rispetto alla decodifica a distanza minima con ricerca brute-force.
57. Equazioni ortogonali rispetto ad un dato bit.
58. Decodifica a logica di maggioranza di un dato bit.
59. Codici ciclici.
60. Riconoscimento di un codice lineare ciclico da una data forma di matrice
di controllo.
61. Qualche esempio di codice lineare ciclico.
62. Costruzione di sistemi ortogonali per ogni bit a partire da un sistema
relativo ad un dato bit ,in un codice ciclico.
63. Decodifica a logica di maggioranza con verifica di compatibilità.
64. Matrici di controllo in forma ridotta per righe.
65. Metodo per trasformare una matrice di controllo arbitraria in una ridotta
per righe.
66. Tralicci.
67. Codice associato ad un traliccio.
68. La troncatura di un codice al tempo t e le sue equazioni.
69. Gli spazi degli stati di un traliccio di un codice lineare e loro dimensioni.
70. Procedura iterativa per la costruzione di un traliccio associato ad un codice
lineare.
3
71. Algoritmo di decodifica di Viterbi.
72. Media e varianza di variabili aleatorie.
73. media e varianza di somme e prodotti di variabili aleatorie, effetto dell’
ipotesi di indipendenza.
74. Definizione generale di entropia di una variabile aleatoria discreta.
75. Proprietà dell’ entropia.
76. Variabile aleatoria ripetuta, media varianza ed entropia.
77. Definizione di insieme tipico.
78. Stime della probabilità di un elemento dell’insieme tipico.
79. La legge dei grandi numeri.
80. Probabilità della condizione di appartenenza all’ insieme tipico.
81. Stime sulla cardinalità dell’insieme tipico.
82. La nozione di codice lineare random.
83. Probabilità di una data sindrome per un codice random.
84. L-algoritmo di decodifica basato sull-insiem tipico.
85. Il teorema di Shannon per codici lineari binari su BSC privo di memoria.
86. Matrici sparse e molto sparse a rate costante.
87. Grafi bipartiti associati a matrici.
88. Varie condizioni di sparsità su matrici random.
89. Il girth di un grafo.
90. Algoritmo di message-passing per contare il numero di vertici di un albero.
91. Funzioni prodotto su grafi bipartiti.
92. Definizione delle funzioni marginali.
93. Algoritmo di somma-prodotto per il calcolo dei marginali di una funzione
prodotto su grafo bipartito.
94. Grafi bipartiti associati a codici lineari.
95. Nodi bit di errore e nodi bit di sindrome.
96. Il grafo bipartito associato al codice ”con appendici”.
4
97. La probabilità a posteriori su un bit errore, tramite la funzione prodotto
associata al grafo bipartito con appendici.
98. Algoritmo di ”bitwise decoding”.
99. Algoritmo di somma-prodotto per il calcolo delle probabilità a posteriori
dei bit errore.
5