Calcolo delle Probabilità — Macroargomento 2: Misure di probabilità

Lezione 14. Teorema di Bayes

0 · Domande flash — prova a rispondere prima di leggere

Come si enuncia il teorema di Bayes?

Con {Hᵢ} partizione di Ω: Pr(Hᵢ|E) = Pr(Hᵢ)·Pr(E|Hᵢ) / Σⱼ Pr(Hⱼ)·Pr(E|Hⱼ).

Come si chiamano le tre componenti?

Pr(Hᵢ|E) a posteriori; Pr(Hᵢ) a priori; Pr(E|Hᵢ) verosimiglianza. Il denominatore Pr(E) è la costante di normalizzazione.

Qual è il «problema inverso» che il teorema risolve?

Osservato un effetto E, risalire alla causa Hᵢ più probabile tra quelle possibili.

1 · In 30 secondi

Il teorema di Bayes nasce dalla legge delle probabilità totali e risolve il problema inverso: dato un effetto osservato E con m possibili cause Hᵢ, calcola la probabilità che abbia agito ciascuna causa. Schema: a posteriori ∝ a priori × verosimiglianza. È la pietra fondante della statistica bayesiana, che aggiorna le convinzioni al crescere dei dati.

2 · Collocazione

RichiedeLez. 10 (condizionata), lez. 11 (legge delle probabilità totali, partizioni)
Serve perLez. 15 (esercizi svolti su Bayes), lez. 4 ripresa: frequentista vs soggettivista

3 · Concetti chiave

In Ripasso le definizioni sono coperte: richiama a mente, poi clicca «mostra».
TermineDefinizione breveEsempio (diagnosi)Non-esempio
Probabilità a priori Pr(Hᵢ) Probabilità note delle possibili cause, prima di osservare l'effetto Quanto è diffusa ogni malattiaLa probabilità della malattia dato il sintomo
Verosimiglianza Pr(E|Hᵢ) Probabilità condizionata di osservare l'effetto data una causa Quanto spesso la malattia Hᵢ produce il sintomo EPr(Hᵢ|E): quello è il risultato, non l'input
Probabilità a posteriori Pr(Hᵢ|E) Probabilità che, osservato E, esso sia stato generato dalla causa Hᵢ La diagnosi: malattia più plausibile dato il sintomoUna probabilità fissata prima dei dati
Costante di normalizzazione Pr(E) Il denominatore Σⱼ Pr(Hⱼ)Pr(E|Hⱼ): uguale per ogni i, fa sommare a 1 le a posteriori La probabilità totale del sintomoUna verosimiglianza

4 · Formule essenziali

NomeFormulaPagina
Teorema di BayesPr(Hᵢ|E) = Pr(Hᵢ)·Pr(E|Hᵢ) / Σⱼ Pr(Hⱼ)·Pr(E|Hⱼ)4
Forma semplificataPr(Hᵢ|E) = Pr(Hᵢ)·Pr(E|Hᵢ) / Pr(E)4
ProporzionalitàPr(Hᵢ|E) ∝ Pr(Hᵢ)·Pr(E|Hᵢ)7
ChiusuraΣᵢ Pr(Hᵢ|E) = 15

5 · Cuore della lezione

La dimostrazione in due mosse (pagg. 4–5): 1) definizione di condizionata: Pr(Hᵢ|E) = Pr(Hᵢ∩E)/Pr(E) = Pr(Hᵢ)Pr(E|Hᵢ)/Pr(E); 2) legge delle probabilità totali sul denominatore: Pr(E) = Σⱼ Pr(Hⱼ)Pr(E|Hⱼ). Fine. La forza del teorema è tutta nell'interpretazione causa–effetto.

Frequentista vs bayesiano (pagg. 8–11):

CriterioFrequentistaBayesiano
La probabilità èFrequenza su molte prove ripetuteConvinzione quantificata, aggiornabile
Moneta truccata1500 lanci e si guarda la proporzioneSi parte da «onesta», 8 teste di fila spostano la convinzione
Evento irripetibile (elezione)Prove «virtuali» simulatePrior personale + aggiornamento con i nuovi dati
LimitiServe poter replicarePrior soggettive; costo computazionale (rinato con MCMC)

Il paradosso dei due bambini (pagg. 13–15): «Mr. Smith ha due figli, almeno uno è maschio»: Pr(entrambi maschi) non è 1/2 ma 1/3, perché Ω ristretto = {MM, MF, FM}. Con Bayes: Pr(M|F) = (2/4)/(3/4) = 2/3 per «l'altro è femmina». L'informazione «almeno uno» ristruttura lo spazio.

Campi di applicazione (pag. 12): diagnosi mediche, scienze giuridiche, process tracing, filtri antispam.

6 · Trappole

7 · Quiz della lezione (10 domande)

Domande originali della dispensa (pagg. 18–20). Scegli una risposta: ricevi subito esito e spiegazione.

Fonte. Lucio Palazzo, 14. Teorema di Bayes, dispensa pdf/14.pdf, 20 pagine fisiche. Storia: pagg. 2–3; teorema e dimostrazione: pagg. 4–5; interpretazione: pagg. 6–7; frequentista vs bayesiano: pagg. 8–11; applicazioni: pag. 12; paradosso: pagg. 13–15; quiz: pagg. 18–20. Riferimento: D. Piccolo, Statistica per le decisioni, il Mulino, 2020, pagg. 221–228.