Teoria transmisiunii informației

1 DESPRE PROBABILITATE

1.1 Motivație

Doi prieteni, Andrei și Barbu, se distrează cu un joc de societate cunoscut pe plan internațio- nal și care la noi se numește „spânzuratoare”: A se gândește la un cuvânt de n litere, scrie pe o hârtie în clar litera inițială și pe cea finală, dar în locul celor n-2 litere intermediare scrie o liniuță _. B trebuie să ghicească acest cuvânt propunând rând pe rând o literă. Dacă el ghicește corect, A va trece litera la locul ei. Dacă nu, A va desena un element de spânzurătoare. B câștigă dacă reușește să ghicească acel cuvânt în cel mult n-2 încercări. În caz contrar, A îl spânzură fără milă!

Acest joc de societate ilustrează perfect ideea de probabilitate: vrem să anticipăm rezultatul unui experiment înainte ca acesta să se producă, bazați pe faptul că diversele rezultate posibile nu sunt la fel de „probabile”. Dar ce este un experiment?

DEFINIȚIA 1.1. Procedeu de cercetare în știință ce constă în provocarea intenționată a unor fenomene în condițiile cele mai propice pentru studierea lor și a legilor care le guvernează, observație provocată, verificare a cunoștințelor pe cale practică, prin cercetarea fenomenelor în realitatea înconjurătoare (DEX p. 358).

În Teoria Transmisiunii Informației (TTI), rolul lui Andrei îl joacă emițătorul, care transmite succesiv simboluri dintr-un alfabet dat pe un canal de comunicație, iar sarcina lui Barbu de a ghici aceste simboluri îi revine receptorului. Este clar că nu ne putem aventura în studiul TTI fără ceva cunoștințe de Teoria Probabilității. La treabă deci!

1.2 Definiția clasică a probabilității

Cu un bobârnac, să aruncăm în aer o monedă nefalsificată și în bună stare de 50 de bani. Mai înainte ca ea să aterizeze cu o față în sus, știm cu sigurantă că aceasta va fi sau „stema”, sau „banul”. După ce moneda va fi aterizat, vedem că, să spunem, este „banul”. Să însemne aceasta că, dacă aruncăm din nou moneda în aer, ea va ateriza tot cu „banul” în sus? Știm bine din experiență că nu. Dacă avem răbdare să repetăm experimentul, să spunem, de o sută de ori, vom constata că, în aproximativ 50 de încercări va rezulta una dintre fețe, iar în restul, cealaltă.

Dar având în vedere că moneda este corectă, nici una dintre cele două fețe nu este favorizată astfel încât, în loc să aruncăm moneda de un mare număr de ori, preferăm să facem un „experiment mental”: numărul de rezultate „stema” nu are de ce să nu fie egal cu numărul de rezultate „banul”.

Ne putem distra acum aruncând un zar de un număr mare de ori, să spunem de șase sute de ori. Dar nu putem recurge și acum la un experiment mental? Fiindcă zarul este nemăsluit, este clar că rezultatul „6” va ieși în circa o sută de aruncări.

Pentru un astfel de experiment, în care toate rezultatele posibile sunt egal probabile, avem definiția clasică a probabilității.

DEFINIȚIA 1.2. Dacă toate rezultatele posibile sunt la fel de probabile, atunci probabilitatea Pr(X) a unui eveniment X se determină a priori fără a efectua vreun experiment cu ajutorul formulei Pr(????)=????????????

unde N este numărul rezultatelor posibile iar ???????? este numărul rezultatelor care sunt favorabile evenimentului X.

În experimentul cu zarul, sunt șase rezultate posibile, astfel încât probabilitatea oricăruia dintre ele este egală cu 1/6. Rezultatele favorabile evenimentului compus par (adică, oricare din fațetele ????2,????4,????6) sunt în număr de trei astfel încât Pr(par) = 3/6 = ½.

Semnificația numerelor N și ???????? nu este însă întotdeauna clară. Spre exemplu, care este probabilitatea p ca, aruncând două zaruri, suma numerelor marcate pe fațetele vizibile după aterizare să fie 7? Pentru a rezolva această problemă utilizând definiția clasică trebuie să determinăm numerele N și ????????.

a) Am putea considera drept rezultate posibile cele 11 sume 2, 3, ..., 12. Dintre acestea, numai una dintre ele, și anume 7, este favorabilă, astfel încât p = 1/11. Acest rezultat este greșit.

b) Am putea număra drept rezultate posibile toate perechile de numere fără a face deosebire între primul și al doilea zar. Avem acum 21 de rezultate dintre care favorabile sunt perechile (3, 4), (5, 2) și (6, 1). Deci ????????=3 și N = 21, de unde p = 3/21. Și acest rezultat este greșit.

c) Soluțiile precedente sunt greșite fiindcă rezultatele nu sunt egal probabile. Trebuie să socotim toate perechile de numere făcând deosebire între primul și al doilea zar. Numărul de rezultate posibile este acum 36, iar rezultatele favorabile sunt cele șase perechi (3, 4), (4, 3), (5, 2), (2, 5), (6, 1) și (1, 6). Prin urmare, p = 6/36 = 1/6.