Detectia statistica a semnalelor

Constantin VERTAN

Sa consideram urmatoarea problema: o sursa de informatie genereaza douasimboluri, S0 si S1, cu probabilitatile P(0) si P(1) = 1− P(0). Pentru trans-misie, celor doua simboluri ale sursei li se asociaza semnalele s0(t) si respectivs1(t), care sunt transmise efectiv pe un canal zgomotos. La receptie un ob-servator primeste semnalul r(t), ce provine din degradarea unuia dintre sem-nalele emise si(t). Prin inspectarea semnalului receptionat r(t) trebuie luatao decizie cu privire la semnalul si(t) ce a fost emis si, implicit, cu privire lamesajul Si emis de sursa de informatie. Deciziile de la receptie sunt

• D0: semnalul receptionat r(t) provine din semnalul s0(t), si deci a fostemis simbolul S0;

• D1: semnalul receptionat r(t) provine din semnalul s1(t), si deci a fostemis simbolul S1.

Exista doua cazuri ın care deciziile sunt corecte (D0|S0 si D1|S1) si douacazuri ın care deciziile sunt eronate (D0|S1, deci se ia decizia D0 ın conditiileın care a fost transmis semnalul s1(t), si respectiv D1|S0, deci se ia decizia D1

ın conditiile ın care a fost transmis semnalul s0(t)). Generaliznd denumirilesituatiilor ıntlnite la semnalul radar (prezenta / absenta semnal reflectat deo tinta), cele doua situatii ın care apar erorile sunt numite “alarma falsa(D1|S0) si “pierderea semnalului (D0|S1). Eroarea de decizie (probabilitateade eroare) este:

Pe = P(0)P(D1|S0) + P(1)P(D0|S1). (1)

Evident, un prim criteriu de realizare a unei decizii ct mai bune este mini-mizarea probabilitatii de eroare.

Cum nu toate cazurile de decizie (corecte sau gresite) au acelasi im-pact asupra functionarii sistemului (unele erori sunt mai grave dect altele),fiecarei situatii de decizie i se poate asocia un “cost c (scalar pozitiv directproportional cu gravitatea situatiei create). La nivelul ıntregului sistem dedecizie, costul mediu al deciziilor (corecte sau gresite) se numete risc si este

exprimat de:

R =1∑i=0

1∑j=0

cijP(Sj)P(D0|Sj). (2)

Criteriul de decizie Bayes stabileste regula de decizie prin minimizarea riscu-lui.

Calculele efective de minimizare a riscului sau a probabilitatii de eroareconduc la evaluarea unei marimi dependente de observatiile de la recptie sicaracteristicile statistice ale sistemului, numita raport de plauzibilitate, Λ:

Λ = Λ(r) =w(r|S1)w(r|S0)

. (3)

Regula efectiva de decizie revine la a compara raportul de plauzibiliate cu oconstanta K numita prag al testului:

ΛD0

≶D1

K (4)

Pentru cazul deciziei de tip Bayes, pragul testului este:

K =P(S0)P(S1)

c10 − c00

c01 − c11.

Ex. 1. Sa se deduca forma particulara a criteriului de decizie Bayes pentrucazul observarii discrete a unor semnale transmise pe un canal cu zgomot alb,aditiv, gaussian, de medie nula.

Semnalul receptionat provine din degradarea aditiva cu un semnal de zgo-mot n(t) a oricarui dintre cele doua semnale corecte transmise pe canal:

r(t) = sj(t) + n(t), cu j ∈ {0, 1}. (5)

Observarea discreta a semnalului receptionat ınseamna ca semnalul r(t) esteesantionat la anumite momente tk fixate; ecuatia observatiilor discrete este

r(tk) = sj(tk) + n(tk), cu j ∈ {0, 1} si k = 1, 2, . . . , N. (6)

1

Pentru simplificarea notatiilor ın ecuatia anterioara (6) se va eliminadependenta explicita de timp, urmnd a scrie relatia ca:

rk = sjk + nk, cu j ∈ {0, 1} si k = 1, 2, . . . , N. (7)

Observatiile discrete ale semnalului receptionat sunt grupate ıntr-un vectorobservatie notat r = −→r = (r1, r2, . . . , rN ) 1. Esantioanele de zgomot nk suntvariabile aleatoare (provin din observarea unui proces aleator la un momentde timp fixat) distribuite gaussian, de medie nula si varianta σ2

n, caracterizatede functia de densitate de probabilitate wnk(x) = (

√2πσ2

n)−1 exp(−x2/2σ2

n

).

Deci fiecare esantion observat provine dintr-un esantion al unuia dintre sem-nalele posibile de transmis pe canal, degradat de o realizare particulara aprocesului de zgomot.

Deducerea criteriului de decizie Bayes implica calcularea raportului deplauzibilitate Λ si compararea acestuia cu pragul testului. Raportul deplauzubilitate este, conform definitiei (3):

Λ = Λ(r) =w(r|S1)w(r|S0)

. (8)

Este evident ca pentru calcularea raportului de plauzibilitate trebuie calcu-late cele doua functii de densitate de probabilitate a vectorului observatieconditionat apriori de transmiterea pe canal a fiecarui dintre cele doua sem-nale. Oricare dintre functiile de densitate de probabilitate conditionataw(r|Sj) este ınsa o functie de densitate de probabilitate a unui ansamblude variabile aleatoare:

w(r|Sj) = w(r1|Sj , r2|Sj , . . . , rN |Sj), cu j ∈ {0, 1}. (9)

Variabilele aleatore conditionate rk|Sj sunt de fapt esantioanele de ordin kobservate, ın conditiile transmiterii semnalului sj(t), si, conform (7) sunt rk =sjk+nk. Cum sjk sunt constante (fiind esantioane din semnalele deterministeposibil de transmis), caracterul lui rk|Sj este acelasi cu al esantioanelor dezgomot nk, si deci variabilele aleatoare rk|Sj vor fi independente, ceea ceconduce la:

w(r|Sj) =N∏k=1

w(rk|Sj), cu j ∈ {0, 1}. (10)

1Notarea uzuala a unui vector se face cu litera mica cu corp de text ıngrosat, de exemplur. O matrice este notata uzual cu litera majuscula si cu corp de text ıngrosat. Notareaunui vector prin −→r va fi folosita ın general acolo unde notarea cu corp de text ıngrosat arputea sa nu fie perceputa cu usurinta (ca de exemplu la tabla).

Din ecuatia observatiilor discrete (7) putem exprima si nk = rk− sjk, ceea ceconduce la w(rk|Sj) = wn(nk) = wnk(rk − sjk). Atunci:

w(r|Sj) =N∏k=1

wnk(rk − sjk) =N∏k=1

1√2πσ2

n

exp(−rk − sjk

2σ2n

)=

=

(1√

2πσ2n

)Nexp

(−

N∑k=1

(rk − sjk)2

2σ2n

), cu j ∈ {0, 1}. (11)

Asadar, dupa cum se poate observa ın (11), fiecare dintre functiile de densi-tate de probabilitate conditionata apriori ce intra ın compunerea raportului deplauzibilitate (3) depind de observatiile particulare realizate, de esantioanelesemnalelor transmise (si deci implicit depind de forma semnalelor transmise)si de caracteristicile zgomotului de pe canal. Raportul de plauzibilitatedevine:

Λ =w(r|S1)w(r|S0)

=

(1√

2πσ2n

)Nexp

(−∑Nk=1

(rk−s1k)2

2σ2n

)(

1√2πσ2

n

)Nexp

(−∑Nk=1

(rk−s0k)2

2σ2n

) =

= exp

(−

N∑k=1

((rk − s1k)2

2σ2n

− (rk − s0k)2

2σ2n

))

= exp

(1σ2n

N∑k=1

(rk(s1k − s0k)− (s2

1k − s20k)

2

)). (12)

Decizia se ia dupa regula:

ΛD0

≶D1

K ⇔ log ΛD0

≶D1

log K. (13)

Cum

log Λ =1σ2n

N∑k=1

rk(s1k − s0k)− 1σ2n

N∑k=1

s21k − s2

0k

2

regula de decizie devine :

N∑k=1

rk(s1k − s0k)D0

≶D1

σ2n logK +

12

N∑k=1

(s21k − s2

0k). (14)

2

Regula generala de decizie exprimta de relatia (14) va compara deci ocombinatie liniara a observatiilor discrete ale semnalului receptionat cu untermen constant determinat de diferenta energiilor semnalelor transmise, put-erea de zgomot de pe canal si caracteristicile particulare ale mediului de de-cizie (determinate de pargul testului K).

Un prim caz particular de interes este acela ın care se considera ca semnaleleinitiale sunt transmise cu probabilitati egale P(s0) = P(s1)) si costurile aso-ciate deciziilor corecte si respectiv eronate sunt egale (c00 = c11 si c01 = c10).Aceasta conduce la determinarea valorii particulare a pragului testului ca

K =P(s0)P(s1)

c10 − c00

c01 − c11= 1.

Atunci regula generala de decizie din (14) devine:

N∑k=1

rk(s1k − s0k)D0

≶D1

12

N∑k=1

(s21k − s2

0k), (15)

adica decizia nu mai este dependenta de nivelul (puterea) zgomotului de pecanal.

Un alt caz particular de interes est acela al transmisiunii OOK (On-OffKeying), caracterizata de s0(t) = 0 (si deci s0k = 0). In acest caz regulagenerala de decizie din (14) devine:

N∑k=1

rks1k

D0

≶D1

σ2n logK +

12

N∑k=1

s21k. (16)

In cele ce urmeaza vom considera un exemplu concret de determinare aregulii de decizie pentru transmisiunea unor semnale oarecare.

Ex. 2. Se da un sistem de transmisiune ın care semnalele asoci-ate mesajelor S0 si S1 sunt s0(t) = cos t si respectiv s1(t) = sin t, cus0(t), s1(t) : [0, π] → [−1, 1]. Semnalele sunt transmise pe un canal per-turbat de zgomot alb, aditiv, gaussian, de putere 10. Decizia de la recpetiese ia conform criteriului Bayes, cu costuri egale pentru deciziile corecte sirespectiv eronate. Sa se gaseasca forma cea mai simpla a regulii de deciziepentru N = 5 observatii discrete ale semnalului receptionat. Ce decizie se valua ın cazul ın care vectorul observatie este (1/2, 1/2, 0,−1/2,−1/2) si respec-tiv (−2, 1/

√(2), 0,−1/

√(2),−1) ? Sa se calculeze probabilitatea de alarma

falsa.

Evident suntem ın conditiile de aplicare a formei generale (14) a criteri-ului de decizie Bayes. Cum nu s-a precizat alfel, putem presupune pentrusimplitate ca probabilitatile de transmitere a celor doua semnale sunt egale(P(s0) = P(s1))) si atunci pargul testului are valoarea 1 (K = 1). Atuncidecizia se va lua dupa:

N∑k=1

rk(s1k − s0k)D0

≶D1

12

N∑k=1

(s21k − s2

0k), (17)

Cum N = 5 ıs semnalele sunt definite pe un interval de timp de durataT = π, vom alege momentele de observare pentru esantionarea semnaluluireceptionat ca tk = {0, π/4, π/2, 3π/4, π}. Atunci:

s1k = sin tk ⇒ s1k = {0, 1/√

2, 1, 1/√

2, 0}

sis0k = sin tk ⇒ s1k = {1, 1/

√2, 0,−1/

√2,−1}

Rezulta apoi (prin calcule aritmetice simple) ca∑Nk=1(s2

1k − s20k) = −1 si

s1k − s0k = {−1, 0, 1,√

2, 1}. Atunci, decizia se va lua conform relatiei

N∑k=1

rk(s1k − s0k)D0

≶D1

− 12,

adica, ın forma cea mai simpla,

−r1 + r3 +√

2r4 + r5

D0

≶D1

− 12. (18)

Se remarca faptul ca din combinatia liniara a observatiilor discrete dupa carese ia decizia lipseste observatia r2, deoarece la momentul de timp t2 = π/4ambele semnale ce se pot transmite au aceeasi valoare si deci nu se poate faceo diferenta ıntre ele pe baza acestui santion observat.

Combinatia liniara a observatiilor∑Nk=1 rk(s1k−s0k) = −r1+r3+

√2r4+r5

dupa care se ia decizia se noteaza cu l si poarta numele de statistica suficienta(unica coordonata din spatiul observatiilor dupa care se ia decizia):

lD0

≶D1

− 12.

3

Daca dispunem de valori particulare ale vectorului observatie, deciziaparticulara ce se va lua rezulta din calcularea statisticii suficiente core-spunzatoare si compararea ei cu pragul constant de test. Astfel, dacar = (1/2, 1/2, 0,−1/2,−1/2), statistica suficienta devine l = −1/2 +0 +

√2(−1/2) − 1/2 = −1 − 1/

√2 < −1/2 si atunci se va lua de-

cizia D0, ca vectorul observat provine din semnalul s0(t) = cos t. Dacar = (−2, 1/

√(2), 0,−1/

√(2),−1), statistica suficienta devine l = 2 + 0 +√

2(−1/√

2) − 1 = 0 > −1/2 si atunci se va lua decizia D1, ca vectorulobservat provine din semnalul s1(t) = sin t.

Probabilitatea de alarma falsa este P = P(S0)P(D1|S0), unde P(D1|S0)este probabilitatea de a lua decizia D1 ın conditiile ın care semnalul transmisa corespuns mesajului S0 (deci s-a transmis semnalul s0(t)). Decizia D1 se iadaca valoarea statisticii suficiente este mai mare dect −1/2, si atunci

P(D1|S0) = P{l > −12|S0}.

Conditionarea prin S0 ınseamna ca se stie ca semnalul transmis pe canal afost s0(t); atunci orice esantion observat este dat de rk = s0k + nk, undes0k (esantioane ale semnalului original transmis) sunt constante si nk suntrealizari particulare ale variabilei aleatoare obtinute prin observarea procesu-lui de zgomot alb n(t) la momentul de timp fixat tk. Valorile rk sunt atuncisimilare cu valorile nk, fiind deci realizari particulare ale unor variabile ale-toare independente, distribuite gaussian cu media s0k si varianta procesuluide zgomot, adica σ2

n = 10. Putem determina atunci distributia variabileialeatoare “statistica suficienta, ce rezulta prin combinarea liniaraa a vari-abilelor aleatoare rk: l va avea o distributie gaussianaa. Media variabileialeatoare l este:

l = −r1 + r3 +√

2r4 + r5 = −r1 + r3 +√

2r4 + r5

l = −n1 + s01 + n3 + s03 +√

2n4 + s04 + n5 + s05

l = −s01 + s03 +√

2s04 + s05 = −3.

Varianta variabilei aleatoare “statistica suficienta l (ın conditiile emisteriimesajului S0 si deci a transmiterii semnalului s0(t)) este:

σ2l = σ2

r1 + σ2r3 + 2σ2

r4 + σ2r5 = 5σ2

n.

Atunci functia de densitate deprobabilitate a variabilei aleatoare “statisticasuficienta conditionata apriori de transmiterea semnalului s0(t) este:

wl|S0(x) =(√

10πσ2n

)−1

exp(− (x+ 3)2

10σ2n

).

Este evident atunci ca probabilitatea cautata este:

P{l|S0 > −

12

}=∫ +∞

−1/2

wl|S0(x)dx. (19)

Ex. 3. Semnalele binare s0(t) = 0 si s1(t) = A sunt transmise cu aceeasiprobabilitate pe un canal de transmisiune afectat de zgomot aditiv, a caruivalori sunt caracterizate de functia de densitate de probabilitate:

wn(x) =1πρ

1

1 +(xρ

)2 , cu ρ > 0.

Sa se gaseasca regula de decizie de la receptie, folosind o singura observatie,pentru minimizarea probabilitatii de eroare.

Unica observatie (esantion din semnalul receptionat, N = 1) este:

r = n+ sj , cu j ∈ {0, 1}.

In acest caz raportul de plauzibilitate va depinde doar de unica observatierealizata, r, si deci regula de decizie de la receptie va putea fi pusa sub forma:

rD0

≶D1

T, (20)

unde T este pragul de decizie ce urmeaza a fi determinat. Probabilitatea deeroare pentru decizia luata conform (20) este:

Pe = P(S0)P(D1|S0) + P(S1)P(D0|S1) =P(D1|S0) + P(D0|S1)

2. (21)

Probabilitatile deciziilor gresite sunt:

P(D1|S0) = P {r|S0 > T} (22)P(D0|S1) = P {r|S1 < T} . (23)

Ce ınseamna r|S0 si r|S1 ? In primul rnd, r|S0 este observatia realizata ınconditiile ın care se stie cu siguranta (conditionarea apriori) ca este transmissemnalul s0(t); cum s0(t) = 0, aceasta ınseamna ca observatia realizata ınacest caz este chiar un esantion de zgomot de pe canal, si r|S0 = n. In al doileacaz, r|S1 este observatia realizata ın conditiile ın care se stie cu sigurantacaeste transmis semnalul s1(t) (conditionarea apriori); cum s1(t) = A, aceasta

4

0 A A/2 x

w(x | S0) = w

n(x)

w(x | S1) = w

n(x − A)

Prob (D0 | S

1)

Prob (D1 | S

0)

Figura 1: Determinare grafica a pragului de decizie.

ınseamna ca observatia realizata ın acest caz este chiar un esantion de zgo-mot de pe canal decalat cu cantitatea constanta A, si r|S1 = n + A (saun = r|S1 − A). Caracterul statistic al observatiilor conditionate apriori esteimpus de carcaterul statistic al zgomotului de pe canal. In ambele cazuri,observatiile conditionate apriori vor avea aceeasi distributie (functie de den-sitate de probabilitate) cu a zgomotului; doar ın cazul observatiei conditionater|S1, media se modifica la n + A. Putem atunci exprima probabilitatile dedecizie eronata din (23) si (22) ca:

P {r|S0 > T} =∫ +∞

T

wn(x)dx

P {r|S1 < T} =∫ T

−∞wn(x−A)dx.

Probabilitatea de eroare ce se doreste minimizata este atunci:

Pe = Pe(T ) =12

∫ +∞

T

wn(x)dx+12

∫ T

−∞wn(x−A)dx. (24)

Minimizarea acestei functii dependente de parametrul T se face prin anulareaderivatei ei ın functie de T :

dPe(T )dT

= −12wn(T ) +

12wn(T − a) = 0

12πρ

1

1 +(T−Aρ

)2 =1

2πρ1

1 +(Tρ

)2

(T −Aρ

)2

=(T

ρ

)2

T =A

2. (25)

Ex. 4. O variabila aleatoare r este observata ca putnd proveni din unadintre distributiile (conditionate) descrise de:

w(r|S) ={

r50 , r ∈ [0, 10]0, rest si w(r|0) =

{0, 2− r

50 , r ∈ [0, 10]0, rest .

Daca S corespunde evenimentului “studentul ınvata iar 0 corespunde eveni-mentului “studentul nu ınvata si observatia r este nota acordata studentuluila examen, sa se determine raportul de plauzibilitate si regula de decizie, con-form criteriului Bayes. Sa se determine pragul de decizie necesar pentruminimizarea probabilitatii de evaluare gresita a studentului.

Decizia conform criteriului Bayes Determinarea raportului de plauzi-bilitate este imediata:

Λ(r) =w(r|S)w(r|0)

=r/50

0, 2− r/50=

r

10− r.

Deciziile corecte nu costa (c00 = c11 = 0) si pragul testului devine:

K =P(0)P(S)

c10 − c00

c01 − c11=

P(0)P(S)

c10

c01.

Regula de decizie determinata conform criteriului Bayes (Λ(r)D0

≶D1

K) va fi

atunci:r

10− r

D0

≶D1

K ⇔ rD0

≶D1

10KK + 1

. (26)

5

In cazul ideal ın care ponderile ce se dau evaluarilor gresite sunt egale (c01 =c10) si probabilitatile apriori ale evenimentelor de “a ınvata si respectiv “anu ınvata sunt egale, K = 1si atunci rezulta evident un prag de decizie lavaloarea 5 (lucru bine cunoscut):

rD0

≶D1

5.

Decizia conform criteriului erorii minime Probabilitatea de evaluaregresita este:

Pe = P(0)P(D1|0) + P(S)P(D0|S).

Probabilitatile de decizie gresita, corespunzatoare unui prag de decizie T oare-care, sunt:

P(D1|0) =∫ ∞T

w(r|0)dr =∫ 10

T

(0, 2− r

50dr)

=T 2 − 20T

100

P(D0|S) =∫ T

−∞w(r|S)dr =

∫ 10

T

r

50dr =

T 2

100

Probabilitatea de eroare este atunci:

Pe = P(0)T 2 − 20T

100+ (1− P(0))

T 2

100=T 2 − 20TP

100

Pentru minimizarea erorii de decizie trebuie gasit pragul T care anuleazaderivata erorii de decizie:

∂Pe∂T

= 0⇔ T = 10P(0).

Regula de decizie devine ın acest caz:

rD0

≶D1

10P(0). (27)

In cazul ideal ın care probabilitatile apriori ale evenimentelor de “a ınvata sirespectiv “a nu ınvata sunt egale, P(0) = 0, 5 si rezulta evident un prag dedecizie la valoarea 5.

Concluzia interesanta ce rezulta din (26) si (27) este ca exigenta va cresteatunci cnd, apriori, se presupune ca studentii nu ınvata: daca consideram caP(0) = 0, 3 (K = 3/7), pragurile de decizie devin 7,5 si respectiv 7.

Bibliografie

[1] Dictionarul Explicativ al Limbii Romne, Ed. Univers Enciclopedic, Bu-curesti, 1996.

[2] Al. Spataru: Teoria Transmisiunii Informatiei, Ed. Didactica si Peda-gogica, Bucuresti, 1983.

[3] A. T. Murgan, I. Spanu, I. Gavat, I. Sztojanov, V. E. Neagoe, A.Vlad: Teoria Transmisiunii Informatiei - probleme, Ed. Didactica si Ped-agogica, Bucuresti, 1983.

6