Teorema di Bayes

               

Il teorema di Bayes è un principio fondamentale della statistica e della teoria della probabilità che permette di aggiornare le probabilità di un evento sulla base di nuove evidenze o informazioni; esso è basato sul concetto di probabilità condizionata .

Viene impiegato per calcolare la probabilità della causa che, a priori, ha generato un dato evento verificato a posteriori.
Una prima formulazione del teorema di Bayes ( o teorema della probabilità delle cause) si ricava dal principio della probabilità composta.

Consideriamo uno spazio dei campioni costituito da n eventi mutuamente (reciprocamente) esclusivi: A₁, A₂,...A_n.

Ipotizziamo che questi eventi A₁, A₂,...A_n costituiscano una partizione dello spazio dei campioni; questo significa che l'intersezione di due eventi qualsiasi è sempre nulla e l'unione di tutti gli eventi A_i costituisce lo spazio dei campioni (universo degli eventi).

Consideriamo ora un altro evento B dello stesso spazio dei campioni e supponiamo che siano note le probabilità P(A_i) e le probabilità condizionate P(B|A_i); in queste condizioni è possibile calcolare la probabilità

dove quando B ∩ A_i=∅ si ha P(B∩A_i)=0; per il teorema del prodotto risulta

sostituendo si ha

ossia        teorema della probabilità totale

Ad esempio : si hanno tre cassetti uguali contenenti
● il primo 3 anelli di argento e 1 d'oro
● il secondo 1 anello di argento e 3 d'oro
● il terzo 2 anelli di argento

si apre un cassetto a caso e si prende un anello a caso, qual'è la probabilità di prendere un anello d'oro?

Indichiamo con B l'evento di aver trovato un anello d'oro e con A₁ A₂ e A₃ l'eventualità di aver aperto il primo, il secondo o il terzo cassetto.
Dato che i cassetti sono uguali possiamo assumere come probabilità :

   il primo cassetto contiene 1 anello d'oro su 4

   il secondo cassetto contiene 2 anelli d'oro su 3

   il terzo cassetto contiene 0 anelli d'oro su 2

Per il teorema della probabilità totale si ha

aprendo un cassetto a caso, la probabilità di prendere un anello d'oro è di 11/36.

supponendo, ora, di sapere che l'evento B si è verificato calcoliamo la probabilità che si verifichi l'evento A_i. Dal teorema del prodotto si ha

da cui si ottiene

sostituendo il valore di P(B) con quello trovato nel teorema della probabilità totale si ottiene la formula di Bayes:

Ad esempio : Si hanno tre urne A₁ A₂ e A₃ che contengono delle palline
A₁: 12 rosse e 8 verdi
A₂: 10 rosse e 15 verdi
A₃: 9 rosse e 6 verdi
Si lancia un dado e se il punto non è superiore a 3 si estrae una pallina dall' urna A₁, se viene un numero superiore a 4 si estrae una pallina dall'urna A₂ se esce il numero 4 si estrae la pallina dall'urna A₃.
Esce una pallina rossa: quale è la probabilità che essa sia stata estratta dall'urna A₁?

indichiamo con
R: pallina rossa
V: pallina verde

indichiamo con A₁ , A₂ e A₃ gli eventi
A₁: viene estratta una pallina dall'urna A₁
A₂: viene estratta una pallina dall'urna A₂
A₃: viene estratta una pallina dall'urna A₃
dunque avremo

   probabilità che venga estratta una pallina dall'urna A₁.

   probabilità che venga estratta una pallina dall'urna A₂.

   probabilità che venga estratta una pallina dall'urna A₃.

per l'urna A₁ avremo

   probabilità di estrarre una pallina rossa dall'urna A₁.

   probabilità di estrarre una pallina verde dall'urna A₁.

per l'urna A₂ avremo

   probabilità di estrarre una pallina rossa dall'urna A₂.

   probabilità di estrarre una pallina verde dall'urna A₂.

per l'urna A₃ avremo

   probabilità di estrarre una pallina rossa dall'urna A₃.

   probabilità di estrarre una pallina verde dall'urna A₃.

secondo questo schema

per la pallina rossa (R) avremo

applicando il teorema di Bayes otteniamo la probabilità che la pallina rossa sia stata estratta all'urna A₁: