Programma Statistica matematica (parziale), Corsi di Laurea
Magistrali in Matematica A.A. 2026/27.
- Entropia di Shannon, motivazione, esempi e prime proprietà.
[Cover-Thomas cap. 2]
- Entropia condizionata. Disuguaglianza di Jensen, entropia relativa
e suo legame con l'entropia. Mutua informazione. [Cover-Thomas cap. 2]
- Proprietà della mutua informazione e dell'entropia condizionata.
Convessità dell'entropia relativa e concavità dell'entropia di Shannon.
[Cover-Thomas cap. 2]
- Norma variazione totale e sue proprietà.
Disuguaglianza di Csiszár-Pinsker.
Entropia e entropia condizionata di una funzione di una variabile aleatoria.
[Testo di base di probabilità, ad esempio Levin-Peres]
- Data processing inequality per l'entropia relativa, la mutua informazione
e l'entropia condizionata. Disuguaglianza di Fano e suo uso statistico.
[Cover-Thomas cap. 2]
- Teorema di equipartizione asintotica per v.a. i.i.d. e suo uso
per la compressione dati. [Cover-Thomas cap. 3]
- Trasformazioni che preservano la misura e trasformazioni
ergodiche. Teorema ergodico massimale.
Teorema ergodico di Birkhoff. [Shields I.1, I.2, I.3; Testo di base
probabilità, ad esempio Shiryaev]
- Distribuzioni empiriche e decomposizione ergodica. [Shields I.4]