5. DFG Estimatori statistici şi momente

Transcript

1 lemente de sttistică 5. DFG 5.5. stimtori sttistici şi momente În ce mi mre prte czurilor este dificil să se lucreze cu funcţi densitte de probbilitte pentru un vector letor multidimensionl. De fpt, într-un număr mre de plicţii prctice funcţi densitte de probbilitte (su funcţi msă de probbilitte) nici nu pote fi cunoscută. În stfel de situţii este posibil însă să se lucreze cu momentele distribuţiei (în mod uzul cu cele de ordin I şi II, ceste fiind cntităţi definite în strânsă legătură cu funcţi densitte de probbilitte, le cărei trăsături şi proprietăţi le reflectă. După cum vom vede, cu tote că ceste momente sunt definite, teoretic, în strânsă legătură cu funcţi densitte de probbilitte, în prctică nu numi că nu este necesr să se cunoscă cestă funcţie pentru estimre lor dr, în plus, o estimţie funcţiei densitte de probbilitte pote fi obţinută folosindu-ne de estimţiile cestor momente precum şi de presupunere iniţilă privind form prmetrică densităţii. Acestă legătură dintre momentele unei v.. şi funcţi densitte de probbilitte lui ne permite c, prin intermediul momentelor de ordin I şi II să relizăm diferite nlize şi să trgem concluzii privind crcteristicile vectorului letor fără cunoşte efectiv funcţi de distribuţie ce-l crcterizeză. O trtre cestor specte şi semnificţiei pe cre o u ceste momente o vom fce tunci când vom discut estimre prmetrică punctulă (vezi în cdrul Subcpitolul prgrful stimre prmetrică punctulă clsică ). Pentru înţelege ce implică, în generl, un proces de estimre sttistică (văzut c formă trdiţionlă de inferenţă sttistică 36 ), precum şi, cre sunt metodele ferente, de implementre, de cre se dispune l or ctulă, fcem în cele ce urmeză o prezentre de nsmblu problemei, urmând c, ulterior, să bordăm dor prte dintre metodele mintite. 36 Remintim ici că, prin inferenţă sttistică se înţelege obţinere de concluzii bzte pe o evidenţă sttistică (informţii derivte dintr-un eşntion). Concluziile cre se trg sunt supr crcteristicilor populţiei din cre provine eşntionul su, mi generl, supr procesului letor l cărui comportment fost observt într-o periodă finită de timp. Ce de dou formă trdiţionlă de inferenţă sttistică este testre ipotezelor (numită şi testre sttistică de semnificţie) şi e, spre deosebire de estimre sttistică, oferă un răspuns de tipul d / nu unor întrebări sttistice. 3

2 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I Procesul estimării sttistice Probbilitte sttistică este ce cre furnizeză soluţii optimle 37 în czul dtelor măsurte ce sunt fectte de zgomot, crcterizte de incertitudine su sunt incomplete, e etrăgând din dte ce mi multă informţie. În prezent eistă numerose domenii în cre teori estimării îşi găseşte plicbilitte. Astfel, procesre de semnl, controlul clităţii, telecomunicţiile, interpretre ştiinţifică eperimentelor, teori controlului, etc. sunt dor câtev dintre eemplele pe cre le întâlnim frecvent în prctică. stimre, c rmură sttisticii şi procesării de semnl, se ocupă cu estimre (proimre), pe bz dtelor empirice, vlorilor unor prmetri i modelelor sttistice su chir structurii modelelor sttistice ce descriu pttern-urile dintr-o populţie fltă în studiu. Cunoştere şi specificre, su nu, priori structurii modelelor sttistice în procesul de estimre împrte ceste modele sttistice (respectiv, metodele de estimre) în: prmetrice; neprmetrice; semiprmetrice. Pentru înţelege mi bine distincţi dintre ceste (precum şi terminologi dopttă prmetric-neprmetric) plecăm de l definiţ unui model sttistic. Un model sttistic constă într-un set de ecuţii mtemtice ce descriu comportmentul unui obiect de studiu în termenii vribilelor letore şi i distribuţiilor de probbilitte (respectiv, densităţilor de probbilitte) socite cestor. În consecinţă, cunoştere su nu structurii modelului se reduce, prctic, l cunoştere su nu formei funcţionle densităţii de probbilitte ce crcterizeză v.. su vectorul letor ce descrie populţi. O determinre completă cestei distribuţii de probbilitte implică estimre prmetrilor cestei pe bz eşntionului de dte empirice. Mi generl, un model sttistic include însă, pe lângă crcterizre sttistică dtelor numerice (definiţi de mi sus), specte cum r fi estimre comportmentului probbilistic viitor l unui sistem pe bz comportmentului cestui din trecut, etrpolre su interpolre dtelor pe bz unei ş-zise celei mi bune proimări su estimţilor erorii clculte 37 Un estimtor optiml este estimtorul cre etrge din dtele măsurte totă informţi disponibilă în ceste; în czul în cre în dtele empirice mi eistă informţie neutiliztă tunci spunem că estimtorul nu este unul optiml. 4

3 lemente de sttistică pentru dtele empirice precum şi nliz spectrlă dtelor unui eşntion sttistic.. stimre prmetrică stimre prmetrică densităţii de probbilitte În sttistică eistă definite câtev fmilii de reprtiţii teoretice remrcbile (împreună cu funcţiile densitte de probbilitte derivte; pentru eemplificre vezi Ane: Reprtiţii remrcbile şi Subcpitolul 5.6) ir diferenţiere în cdrul unei fmilii se fce printr-un număr finit de prmetri (unul su mi mulţi) ce crcterizeză respectiv fmilie de distribuţii. m f ().6.4. m = =. m = =.5 m = = m = = m m m 3 Figur 5.5. emple de funcţii densitte de probbilitte Guss-iene din fmili distribuţiei normle monodimensionle Prmetrii în sttistică, l fel c şi în mtemtică, sunt cntităţi referite prin simboluri ce fc prte din definiţi funcţiilor şi ei definesc numite crcteristici le cestor (de eemplu: poziţionre su lur funcţiilor). Astfel, spre eemplu, în czul distribuţiei normle unei v.., cei doi prmetri i reprtiţiei, m şi σ (relţi (5.5)), u semnificţi poziţionării distribuţiei pe bsciselor (dtă de prmetrul m), respectiv, semnificţi crcterizării zonelor de concentrre le punctelor (dtă de prmetrul σ ) (vezi Figur 5.5, pentru eemplificre cu diverse vlori prticulre le celor doi prmetri): 5 () 4 6 m 68.3% din elemente m 94.95% din elemente m % din elemente

4 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I f ( m ) ( ) f ( ; m, ) e (5.5) În relţi de mi sus este vribil generică funcţiei densitte de probbilitte, f(), ir m şi σ sunt prmetrii cestei funcţii. Aceşti prmetri i modelului sttistic cu structură (fdp) predefinită nu sunt orecre ci ei u o semnificţie prticulră, fiind chir prmetri i populţiei studite şi vând vlori tipice (fiind, de eemplu, momente le distribuţiei vribilei letore ce crcterizeză crcteristic studită populţiei). În czul nostru prticulr, m şi σ corespund următorilor doi prmetri i populţiei studite (su, momente de ordin unu, respectiv, doi le distribuţiei): () medi (vlore spertă ) v.., cre prin definiţie este: m def } f ( ) (b) şi, vrinţ v.., dtă de: { d (5.6) def ) {( m ) } ( m ) f ( d (5.7) Populţi şi cele k eşntione Seturi de dte empirice ferente eşntionelor stimţii punctule le prmetrului S S 3 S STIMATOR g(x) S k Figur 5.6. Procesul de estimre punctulă prmetrului l unui model sttistic prmetric 6

5 lemente de sttistică În cest contet, funcţi densitte de probbilitte din relţi (5.5) mi este referită c reprtiţie normlă cu medi m şi dispersi σ, vlorile celor doi prmetri determinând complet reprtiţi (poziţionre şi lur cestei). Fptul că v.. este reprtiztă norml cu prmetrii, m şi σ, se mi noteză şi: ~ N(m, σ ) (5.8) stimre (punctulă su de tip intervl) prmetrilor populţiei se fce pe câte un eşntion 38 (vezi Figur 5.6) les din populţi investigtă stfel încât cest să fie reprezenttiv. Pentru problemtic trttă în cestă crte de interes prticulr este estimre punctulă, despre cre vom vorbi în cele ce urmeză. stimre prmetrică punctulă clsică Procesul estimării punctule prmetrilor unei populţiei su i unui proces se implementeză cu jutorul unui estimtor 39 ; cest foloseşte l intrre dtele măsurte le eşntionului şi furnizeză l ieşire vlore estimtă (proimtă) prmetrilor necunoscuţi i populţiei. primt mtemtic, cest s-r trduce stfel: Presupunem că dorim să estimăm prmetrul (sclr su vectoril) l unei fdp cunoscute, f(; ), v.. (discuţi se pote generliz l vectori letori). Pentru cest etrgem dintr-o populţie k eşntione de volum n, respectiv, eşntionele S,..., Sk. (similr c în Figur 5.6). Fiecre eşntion, Si, genereză un vector l dtelor observbile, Xi=[i,, i n ]. stimtorul θˆ l prmetrului l populţiei este tunci definit c o funcţie g() ce se plică vectorului letor de dte empirice X=[,, n ] 4 ; dcă în loc de v.. m fi vut vectorul letor, tunci m fi vorbit de o mtrice letore de dte empirice. Pentru înţelege mi bine cele ce urmeză, dăm şi următorele definiţii pentru o v.. h() lui, pentru medi cestei şi pentru noţiune de sttistică: Fie o v.. şi h() o funcţie v... presi: 38 Submulţime populţiei sttistice considerte. 39 Formulă su procedură de estimre. 4 Notţiile dicente folosite în cest subcpitol u fost ij,, ˆ i, X i = vlori prticulre le vribilelor letore/ vectorilor letori/ mtricelor letore j,, θˆ, respectiv, X. 7

6 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I = h() (5.9) este o nouă v.. definită stfel: pentru un dt, () este un număr ir h[()] vlore funcţei h() clcultă pentru cest număr este vlore lui () = h[()] pentru cre mulţime domeniului este mulţime S relizărilor eperimentle. (definiţi de mi sus este vlbilă şi pentru vector letor, cu menţiune că de cestă dtă pote fi v.., vector letor su chir o mtrice letore). Orice funcţie cre se plică vectorului eşntion X se mi numeşte şi sttistică. Astfel, sttisticile sunt crcteristici mtemtice le eşntionelor, şi ele pot fi utilizte c vlori estimte le prmetrilor (ce sunt, l rândul lor, crcteristici mtemtice le populţiilor din cre u fost lute eşntionele). Din relţi (5.6) rezută că medi v. este şi e dtă de: } bf ( b) db { (5.) Conform unei teoreme de bză (lăsăm c eerciţiu demonstrre cestei), {} pote fi eprimt nu nepărt în termenii fdp socite lui, f(b), ci direct în termenii funcţiei f() lui, c în relţi de mi jos: h( )} h( ) f ( ) d { (5.) Din cele de mi sus reiese că şi estimtorul punctul θˆ = g(x) este tot o v.. (su, funcţie de situţie, un vector letor/o mtrice letore), ir din modul cum fost definit, el se mi numeşte şi sttistică. stimtul punctul este rezulttul (vlore) funcţiei g() plictă unui ^ singur eşntion, i g( X i ). În eşntione diferite, sttisticile clculte u vlori diferite. Prin urmre, se pote vorbi despre o distribuţie vlorilor sttisticii θˆ în mulţime eşntionelor de celşi volum, n, numită şi distribuţie de sondj 4 sttisticii respective. 4 Operţiune de formre unui eşntion (selecţie) se numeşte sondj. 8

7 lemente de sttistică Din cele prezentte până cum reiese că, tunci când fcem inferenţe privind o crcteristică studită din populţie operăm, în fpt, cu trei distribuţii socite cestei: distribuţi populţiei este ce distribuţie (în generl, necunoscută) pe cre o re crcteristic studită (su v.. socită ei) în populţie şi pe cre dorim să o determinăm; distribuţi eşntionului este distribuţi pe cre o re v.. în dtele empirice (eşntionul) de cre dispunem şi e pote fi determintă complet din ceste dte;. distribuţi de sondj este distribuţi pe cre o re sttistic clcultă în mulţime tuturor eşntionelor de volum, n, dt. Aprent complict, lucrurile se simplifică însă forte mult tunci când, dtorită unor teoreme de limită centrlă, se demonstreză că form distribuţiei de sondj este un cunoscută tunci când volumul eşntionului, n, creşte (vezi Ane: Teorem limită centrlă). Mi mult, din considerente teoretice, relţi reprtiţiei de sondj sttisticii cu vlore tipică (prmetrul) din populţie este, de semene, un bine preciztă. Fără detli pre mult din sttistic mtemtică ce stă l bz cestor specte teoretice, vom enunţ în continure numi cele rezultte le teoriei sttistice de cre ne vom folosi în mod deosebit în cestă crte, c prte sttisticii plicte. Astfel: I. Pentru orice prmetru l populţiei,, dt pot fi implementţi unul su mi mulţi estimtori, θˆ = g(x). Obiectivul estimării este cel de select o funcţie g(x) cre să minimizeze într-un numit sens erore de estimre g(x). Atunci când minimizre se fce în sensul erorii pătrtice medii, respectiv: e {[ g(x) ] } [ g( X ) ] f ( X, ) dx (5.) tunci estimtorul θˆ = g(x) se numeşte cel mi bun estimtor. II. În Subcpitolul rror! Not vlid link. s- făcut menţiune că mediile clculte pe un număr de observţii se propie de o vlore constntă pe măsură ce numărul observţiilor creşte. Acest reprezintă, în fpt, interpretre frecvenţilă probbilităţii, conform cărei, medi 9

8 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I ritmetică vlorilor observte i le v.. tinde către integrl din (5.6), ce reprezintă medi v.., tunci când n : n { } m n (5.3) III. În contetul notţiilor de mi sus, v.. = θˆ = g(x), reprezentând sttistic medi ritmetică eşntionului v.. : n (5.4) n este o v.. cu medi m şi vrinţ σ /n (mi ect, se cceptă conform unor teoreme de limită centrlă (vezi Ane: Teorem limită centrlă) că distribuţi de sondj mediei este crcteriztă de o distribuţie N(m, σ /n)); cestă firmţie este vlbilă, în generl, pentru vlori le lui n >, tunci când distribuţi lui este prope simetrică, şi pentru n > 3, tunci când distribuţi lui re simetrie pronunţtă su necunoscută. Folosindu-ne de tote informţiile prezentte mi sus se pote răt că sttistic medi ritmetică eşntionului,, v.. este, din punct de vedere teoretic, un: estimtor nedeplst ({ θˆ }=) l prmetrului medi, m, l populţiei, dică { }= m, şi un estimtor consistent (erore de estimre [ θˆ ] tinde căre în probbilitte tunci când n ); mi ect, vrinţ lui, σ /n tunci când n de unde rezultă că m în sensul mediei pătrtice, şi, deci, de semene, în probbilitte. Observţi 5.5: Un estimtor m spus că este definit c o funcţie eşntionului (setului de dte empirice) însă, pentru c el să fie un estimtor de încredere este necesr să posede următorele proprietăţi: să fie nedeplst, să fie consistent şi să ibă vrinţă minimă. Întrucât decizi de estimtor consistent se pote lu dor tunci când n, cee ce nu este czul în prctică întrucât n pote lu cel mult vlori finite, rezultă că cel mult putem căut şi, în cel mi bun cz, select empiric, cel mi bun estimtor. În cele ce urmeză, legere empirică estimtorului o vom fce ţinând cont de două lucruri:. sttistic medi ritmetică eşntionului lui, din relţi (5.4),

9 lemente de sttistică n i θˆ (5.5) n i este, ş după cum m văzut din punct de vedere teoretic, un estimtor consistent l prmetrului = m = {}, ce reprezintă medi populţiei pentru crcteristic studită populţiei;. din definiţi dtă în relţi (5.9) vem că pentru o v.., o funcţie h() = este tot o v.. Combinând cele două informţii jungem l construire empirică următorului estimtor pentru prmetrul medi ={h()} (= m= {}) funcţiei h() lui, respectiv: θˆ n n i h( i ) (5.6) Acest estimtor reprezintă medi ritmetică eşntionului pentru v.., deci pentru funcţi h(), şi el este: din punct de vedere teoretic, un estimtor consistent ir din punct de vedere prctic, de cele mi multe ori, cel mi bun estimtor (st cel puţin pentru n de vlori mri). Funcţie de form pe cre o îmbrcă funcţi h() identificăm, de eemplu, următorele czuri prticulre: ) h()= : = {}= m şi θˆ n i n i b) h()=(-m) : = {(-m) }= σ c) etc. θˆ n n i şi ( i m ) medi ritmetică eşntionului este estimtor pentru medi populţiei; vrinţ eşntionului este estimtor pentru vrinţ populţiei; unde, prmetrul l populţiei re, ş cu cum se pote remrc, vlori tipice, respectiv, vlori socite diverselor momente sttistice le v... Observţi 5.6: Aş după cum m prezentt şi în Subcpitolul 5., elemente fundmentle de sttistică spre deosebire de vribilele sttistice ce desemneză o numită crcteristică populţiei, prin prmetru l

10 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I celeişi populţiei m spus că se înţelege dor o propriette numerică cestei. În cest moment, cu informţiile prezentte până cum, suntem în măsură să dăm următorul eemplu simplu cre să ne jute să înţelegem (în cz că nu m reuşit să o fcem dej) distincţi dintre cele două noţiuni. Astfel, dcă luăm în considerre prmetrul medi (vlore spertă) unei v.. (fie cest de tip continuu) ce descrie o crcteristică populţiei, vem că e este teoretic dtă de relţi (5.6): m def } f ( ) { d (5.7) ir empiric, e este estimtă prin medi ritmetică eşntionului (relţi (5.3)): n (5.8) n cre, l limită, pentru n, tinde spre vlore relă prmetrului m. Cu lte cuvinte, tunci când e eistă, medi lui este, prope sigur, limit mediei eşntionului obţinută pentru o mărime eşntionului ce creşte l infinit. În cest contet, termenul echivlent de vlore spertă dt prmetrului medi este unul cre ne pote induce în erore, el putând fi, în mod eront, socit cu vlore ce mi probbilă respectivei vribile sttistice. L fel c şi pentru medi eşntionului, şi pentru medi populţiei putem obţine însă o vlore imposibilă în sensul că e nu reprezintă o vlore tipică dintre vlorile posibile pe cre le pote lu efectiv v... Astfel, dcă, de eemplu, considerăm eşntionul reprezentt de totlitte pcientelor dintr-un spitl de obstretică-ginecologie, pentru cre observăm sttistic vribil sttistică ce desemneză numărul de nşteri relizte de către fiecre pcientă (unitte sttistică), tunci un estimt l mediei cestei vribile sttistice, dt de medi ritmetică eşntionului, s-r pute să ne conducă l un rezultt de tipul 3.7 nşteri/pcientă; cest rezultt sttistic, cre nu pote reprezent nicicum o vlore posibilă în mod rel, ne dă dor o informţie orienttivă şi nume cee că, în medie, fiecre pcientă vut circ 3.7 nşteri până l dt relizării studiului. Observţi 5.7: O bordre similră problemei de estimre prmetrică punctulă o întâlnim şi în czul în cre vem de- fce cu sttistici

11 lemente de sttistică comune pentru două vribile letore, şi, ce crcterizeză două trăsături distincte le populţiei. Acest implică următorele: dte două vribile letore, şi, şi o funcţie h(,b), formăm v.. z = h(,); prmetrul medi = {h(,)}= {z} funcţiei h(,) vribilelor letore şi pote fi eprimt şi el direct în termenii funcţiei h(,) şi i funcţiei densitte comună, f(,b), stfel: { h(, )} h(, b) f (, b) ddb (5.9) se pote, de semene, demonstr că un estimtor empiric, θˆ, l prmetrului de mi sus este sttistic medi ritmetică eşntionului pentru v.. z, deci pentru funcţi h(,), lui şi, respectiv: n i i θˆ h(, b ) (5.3) n i Funcţie de form prticulră pe cre o îmbrcă funcţi h(,) identificăm, de eemplu, următorele czuri, deosebit de utile în plicţiile prctice, pentru prmetrul şi estimtorul său, θˆ : ) h(,) = : = {} 3 θˆ n n i b) h(,) = (-m)(-m): = {(-m)(-m)} = cov(,) c) etc. θˆ n n i ( i i b i i m )(b m ) în czul prticulr când vribilele letore şi u o distribuţie comună normlă funcţi densitte comună, f(,b) este determintă în mod unic de următorele momente de ordinul întâi şi doi: m, m, σ, σ şi cov(,) (vezi şi Subcpitolul 5.6). Până în cest punct l prezentării nostre prmetrii populţiei u fost trtţi c fiind nişte constnte necunoscute cest reprezintă, de fpt, ipotez de lucru de bză estimării clsice. În estimre prmetrică mi eistă însă şi o bordre în cre prmetrii populţiei sunt ei însăşi văzuţi nu c nişte cntităţi necunoscute şi fie ci c nişte vribile letore, vând

12 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I propriile lor distribuţii de probbilitte. Acestă nouă bordre portă numele de estimre besină prmetrilor populţiei. stimre prmetrică punctulă Bes-ină În estimre Bes-ină prmetrilor unei populţii se plecă de l următorele două premize: () prmetrul l populţiei nu este în totlitte unul necunoscut (ltfel spus, dispunem de numite informţii priori fie dintr-o cunoştere prţilă procesului studit, fie din lte relizări nteriore le celuişi eperiment etc.), şi () întrucât vlore prmetrului este necunoscută tunci re sens să specificăm o distribuţie de probbilitte cre să descrie vlorile posibile pentru cest prmetru, l fel c şi probbilităţile socite cestor vlori. Informţiile priori despre prmetrul sunt vlorificte în momentul în cre construim şi precizăm funcţi de densitte priori, f (), vectorului letor. În cestă bordre, prmetrul necunoscut l populţiei este dor o vlore vectorului letor ir funcţi de distribuţie vectorului letor, ce descrie crcteristic populţiei, este interprettă c fiind funcţi de distribuţie condiţiontă, F( ), lui pentru =. În ceste ipoteze de lucru, metod besină de estimre sttistică pre c o lterntivă l metod clsică de estimre sttistică de cre se diferenţiză, însă, în principl, prin următorele două elemente cheie: i) prmetrul populţiei este el însuşi văzut c un vector letor,, vlore s necunoscută, fiind o vlore cestui vector letor; ii) informţi furniztă de setul de dte empirice, de cre dispunem l un moment dt, este combintă, în plus, cu informţi priori pe cre o vem despre prmetrul l populţiei. Remintim că, în estimre prmetrică clsică, informţi folosită în ghidre procesului de inferenţă sttistică er dor ce furniztă de setul de dte empirice. O concluzie imedită ce pote fi trsă din cele de mi sus este cee că în bordre Bes-ină, problem estimării prmetrului necunoscut l populţiei revine l estim vlore lui în termenii: eşntionului X (constând în vlorile observte i le lui ) şi, respectiv, funcţiei de densitte de probbilitte lui. 4

13 lemente de sttistică Observţi 5.8: Atenţie! Prin trnsformre problemei dintr-o estimre prmetrului necunoscut (întâlnită în estimre clsică) într-o problemă de estimre vlorii vectorului letor (în czul bordării bes-iene), estimre devine în cestă ultimă bordre, prctic, o predicţie (vezi diferenţ dintre ceste în Ane: Predicţie versus estimre). Ţinând cont de fptul că problem de estimre s- trnsformt într-o problemă de predicţie (vezi Observţi 5.8, respectiv, relţi (A.7)), tunci putem firm că soluţi pe cre o căutăm fie cest constnt ˆ : er, îninte de obţine orice evidenţă sttistică (dte observbile), dtă de, ˆ { } f ( ) d θ θ (5.3) ir după obţinere de noi probe (respectiv, obţinere unui set de dte empirice pentru vectorul letor, X=[,..., n ]), e este dtă de (vezi relţi (5.87)), ^ { X} f ( X ) d θ X θ (5.3) În formul de mi sus f X ( X) este tot funcţi densitte de probbilitte lui însă revizuită în sensul că funcţi de densitte priorică, f () cunoscută în totlitte şi construită în bz tuturor informţiilor de cre dispunem îninte de obţine noi rezultte eperimentle este modifictă corespunzător, în contetul şi conform noilor dovezi sttistice obţinute eperimentl. Derivre noii funcţii de densitte pentru vectorul letor re c regulă de clcul regul lui Bes (vezi relţi (5.93)), P( B ) f ( ) P( B ) f ( ) f ( B) P( B) P( B ) f d ( ) (5.33) prticulriztă pentru = şi, respectiv, pentru evenimentul B = X, ce constă în obţinere unui eşntion de dimensiune n pentru vectorul letor. Astfel: f X θ ( X ) f θ ( ) f θ X ( X ) (5.34) f ( X ) X 5

14 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I În relţi de mi sus notţiile folosite sunt celeşi cu cele folosite în estimre prmetrică clsică (vezi Subcpitolul 5.5..), respectiv: θ este vectorul letor ce desemneză prmetrul populţiei, este o relizre prticulră cestui vector letor, X desemneză vectorul letor su mtrice letore (după cum este un sclr, respectiv, un vector) eşntionului vectorului letor (vezi Figur 5.7) ir X reprezintă o relizre prticulră lui X, respectiv, setul de dte empirice pe bz cărui se relizeză inferenţ sttistică. Densitte posterioră Densitte priorică Funcţi de verosimilitte f X( X) f() fx (X ) = Figur 5.7. emplu de estimre besină punctulă prmetrică în ipotez unor distribuţii normle le lui şi, respectiv,. Acestă formulă de clcul, ilustrtă grfic în Figur 5.7, ne rtă cum, pornind de l informţi disponibilă specifictă prin funcţi de densitte priori, f (), pe cre o presupunem cunoscută, în lumin unei noi evidenţe sttistice respectiv, dtele observbile le eşntionului, căror informţie furniztă este reflecttă în funcţi de verosimilitte, f X (X ) derivăm o funcţie de densitte de probbilitte ctuliztă pentru vectorul letor, f X ( X), funcţie denumită, în mod sugestiv, funcţie densitte de probbilitte posterioră su funcţie de densitte de probbilitte condiţiontă lui dtă de evidenţ X. Observţi 5.9.: Fcem observţi ici că pentru funcţi f X (X ) ce reprezintă densitte condiţiontă comună n vectori letori, i, tunci 6

15 lemente de sttistică când ˆ, este devărtă următore relţie de clcul pentru czul când ceşti vectori letori sunt independenţi: f ( X θ θ θ n X ) f ( ) f n ( ) (5.35) Aici, funcţi generică f ( ) reprezintă funcţi densitte condiţiontă vectorului letor tunci când =. În situţi prticulră când funcţi f X (X ) este considertă c o funcţie de, e portă numele de funcţie de verosimilitte; cest este şi czul funcţiei f X (X ) din relţi (5.98), unde pentru o vlore prticulră lui X (un eşntion Xk orecre, vezi Figur 5.6) vem: f X θ ( X k θ k θ n ) f ( ) f n ( ) (5.36) Problem 5.: Să se estimeze punctul, prin metod bes-ină, prmetrul sclr medi, = m, l unei populţii cărei crcteristică studită este descrisă de vectorul letor unidimensionl,, despre cre se ştie că este distribuit conform unei legi de distribuţie normle, ~ N(, σ ) (5.37) şi pentru cre se cunoşte dor vrinţ, σ. De semene, mi dispunem: de o serie de informţii priori despre prmetrul cre ne fc să credem că vlorile posibile pentru cest respectă, de semene, o distribuţie normlă, de medie şi vrinţă, cunoscute, respectiv, ~ N(, σ ) (5.38) şi de un eşntion, de dimensiune n, de dte empirice. Să se comenteze rezulttul obţinut. ^ Notă Se rtă că estimtul pentru prmetrul necunoscut l populţiei este unul dt de formul: n k (5.39) unde reprezintă sttistic medi ritmetică eşntionului pentru v.. ir, 7

16 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I (5.4) n Observţi 5.3: În problem de mi sus se pote remrc fptul că, tât distribuţi prmetrului, cât şi distribuţi crcteristicii populţiei (reprezenttă prin v.. ), sunt distribuţii normle ir distribuţi posterioră obţinută pentru în urm plicării regulei lui Bes este, de semene, o distribuţie normlă. Rezulttul nu este, ş după cum s r pute crede, unul totl întâmplător. Mi ect, dcă în generl în estimre prmetrică besină fmili de distribuţii cărei îi prţine funcţi de verosimilitte, f X (X ), se consideră fi un binedetermintă (fită), în cee ce priveşte distribuţi priorică prmetrului populţiei, f (), vem dor presupunere crucilă că cest este o distribuţie cunoscută, rămânând c legere unei su ltei dintre fmiliile de distribuţii teoretice eistente să se fcă, în prte pe bz informţiilor priori disponibile, ir în prte, pe bz intuiţiei nostre. ste însă evident fptul că legeri diferite pentru densitte priori f () pote fce c produsul f X (X ) f () să i o formă lgebrică rbitrră su lt (de cele mi multe ori, destul de greu de descris), formă cre îngreuiză forte mult, dcă nu chir, fce imposibil clculul distribuţiei posteriore, f X ( X). Soluţi în stfel de situţii o reprezintă folosire ş numitelor densităţi priori conjugte. O clsă de distribuţii de probbilitte priori, f (), se numeşte conjugt unei clse de funcţii de verosimilitte, f X (X ), dor tunci când distribuţiile posteriore rezultnte, f X ( X), fc prte din ceeşi fmilie c şi f (). Prctic, o probbilitte priori conjugtă este o convenienţă lgebrică cre simplifică forte mult scriere mtemtică, oferind, în cest mod o formulă simplă de clcul ce legă vlorile hperprmetrilor 4 densităţii posteriore de vlorile hper-prmetrilor densităţii priori [Gelmn, 3], [Fink, 995]. În cest fel, şi clculul densităţii posteriore devine unul forte uşor, densitte posterioră fiind, în finl, o densitte din ceeşi fmilie de distribuţie c şi densitte priori însă cu hiperprmetri diferiţi ce reflectă efectul, suplimentr, l informţiei furnizte de dtele empirice. 4 Un hper-prmetru reprezintă un prmetru l distribuţiei priori ir termenul este utilizt pentru distinge cest prmetru de prmetrii modelului propus pentru distribuţi ce descrie crcteristic populţiei. 8

17 lemente de sttistică Revenind l Problem 5. putem cum bănui că presupunere conform cărei distribuţi priori pentru este o distribuţie normlă fost un de ntură să simplifice scriere mtemtică. Uitându-ne în tbelul cu funcţii densitte priori conjugte, prezentt în Ane: Distribuţii de verosimilitte, observăm că, într-devăr, fmili de distribuţii guss-iene este conjugtă cu e însăşi (uto-conjugtă). Mi mult, corespunzător celor prezentte mi sus şi ţinând cont de soluţi dtă problemei identificăm: Funcţi de verosimilitte Prmetrii necunoscuţi i modelului Distribuţi priori conjugtă Hper-prmetrii priori Hper-prmetrii posteriori Normlă cu vrinţă, σ, cunoscută = m (medi) Normlă, σ n n n. n Probbilitte priori Deşi subiectivă în esenţă ( se vede şi Ane: Interpretre noţiunii de probbilitte), probbilitte Bes-ină este interprettă uneori c fiind obiectivă. Cele două puncte de vedere diferite vrint subiectivă şi, respectiv, vrint obiectivă le probbilităţii besiene diferă, în principl, prin modul cum este interprettă şi construită probbilitte priori din relţi lui Bes. Astfel: conform punctului de vedere subiectiv, probbilitte este interprettă c fiind grdul de încredere pe cre un individ îl re în devărul unui enunţ/eveniment; de ici rezultă şi crcterul personl su subiectiv; cu lte cuvinte, nivelul de cunoştere corespunde unei convingeri personle ; conform punctului de vedere obiectiv, nivelul priori l cunoşterii defineşte pentru problemele bine puse o distribuţie de probbilitte priori unică. În generl, problemele de inferenţă sttistică, ş cum se întâlnesc ele în investigre ştiinţifică, sunt rezolvte, în mod uzul, plecând de l presupunere că un nume model sttistic este un descriptor decvt l mecnismului probbilistic ce genert dtele; însăşi legere 9

18 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I celui model implică, însă, în continure, un nume grd de subiectivitte. Cu tote ceste, devenit o prctică stndrd c orice nliză sttistică ce depinde dor de modelul propus şi de dtele observte să fie descrisă c fiind obiectivă. În cest sens (şi dor în cest sens) inferenţ besină pote fi privită c fiind obiectivă. În construire obiectivă distribuţiilor priori, u fost propuse utilizre mi multor principii dintre cre mintim dor: entropi mimă (dwin T. Jne), nliz de referinţă (Jose M. Bernrdo) şi nliz frecvenţilă (în cestă ultimă situţie distribuţi de frecvenţă re prmetri ce reflectă o nliză şi o sinteză unor dte eistente). În cee ce priveşte densităţile priori de referinţă, ceste nu sunt, ş cum s-r pute crede, descriptori i grdelor subiective de încredere; ele sunt propuse c funcţii priori formle, unnim cceptte spre fi utilizte c stndrde în comunicările ştiinţifice. Cee ce trebuie să reţinem în finl, de ici, este fptul că multe dintre metodele moderne de învăţre mşină şi de clsificre se bzeză, în generl, pe principiile besiene obiective. stimre prmetrică funcţiei de regresie Cele două metode de estimre prmetrică discutte până cum reprezintă, ş după cum ştim metode de estimre funcţiilor densitte de probbilitte ferente diferitelor vribile letore (mi generl, vectori letori). Reluând puţin, vom spune că, în cdrul cestor metode se plecă de l un eşntion, X, de dte observte le vribilei letore, se presupune o numită formă pentru densitte de probbilitte lui, f() (suplimentr, în czul estimării Bes-iene, se precizeză şi densitte priorică prmetrului l modelului, f ()) şi, pe bz cestor, se estimeză prmetrul ; ce implicit determină complet estimtul funcţiei densitte, f(), lui. Un lt tip de plicţii sttistice cu cre ne întâlnim destul de frecvent în prctică şi cre implică, de semene, o estimre prmetrică de cestă dtă, însă, unei funcţii numită de regresie este şi următorul, în cre: se cunoşte un eşntion, X, de perechi de dte ( i, b i ), le unei perechi de vribile letore (, ), între cre ştim că eistă o relţie funcţionlă, se cunoşte form cestei relţii funcţionle şi, pe bz cestor, se estimeză vectorul prmetru,, ce descrie complet relţi funcţionlă de mi sus. În cest cz prticulr, vorbim de o estimre prmetrică unei funcţii de regresie. Funcţi de regresie re, după cum vom vede, o utilitte forte lrgă, e putând fi utiliztă în plicţii diverse, începând cu plicţiile de predicţie, 3

19 lemente de sttistică inferenţă sttistică, testre de ipoteze şi terminând, nu în cele din urmă, cu plicţiile de modelre relţiilor cuzle. stimre unei funcţii de regresie constă în găsire celui model cre proimeză cel mi bine relţi funcţionlă cre eistă între o vribilă letore dependentă,, (numită şi vribilă de răspuns) şi, respectiv, un su mi multe vribile letore independente (numite şi predictori). Forml, ecuţi de regresie pentru czul unei singure v.. independente, (generlizre l mi mulţi predictori este un imedită), se scrie stfel: b = ( ; ) + e (5.4) În cestă relţie v.. dependentă este modeltă c o funcţie de predictorul, de vectorul prmetru corespunzător (ce reprezintă un vector de componente constnte ) l cre se dugă un termen de erore ce reprezintă ce vriţie din ce nu putut fi eplictă (modeltă). Termenul de erore este ici trtt c o vribilă letore. Remintim că vribilele şi b desemneză vribilele generice ferente vribilelor letore şi, respectiv,. Îninte de merge mi deprte cu prezentre cestui tip de estimre, vom introduce în cele ce urmeză câtev noţiuni noi. Scopul este cel de uşur înţelegere modului cum vom obţine un estimtor pentru funcţi de mi sus funcţie numită şi funcţie su linie de regresie. Medi condiţiontă unei vribile letore. Funcţi mediei condiţionte Prin definiţie, medi condiţiontă unei vribile letore, presupunând evenimentul A, este dtă de integrl: def { A} bf ( b A) db (5.4) În contetul problemei de estimre de mi sus vom consider pentru evenimentul A din relţi (5.4), următorul eveniment { = }. Ţinând cont şi de relţi (5.78) obţinem: f (, b) { } bf ( b ) db b db m( ) f ( ) (5.43) unde f (b ) este funcţi densitte de probbilitte condiţiontă lui dtă de =, f (b) este fdp mrginlă lui ir m() este o notţie pe cre o folosim pentru desemn funcţi rezultntă ce depinde dor de vribil. Dcă în relţi de mi sus bleiem totă mulţime vlorilor posibile,, pentru v.. tunci obţinem o funcţie de l l b = m(), numită funcţi mediei condiţionte su funcţi de regresie; cestă funcţie, desemntă dese prin { }, ne spune cum sunt legte între ele în medie vribilele letore şi (vezi Figur 5.8). Pentru înţelege reprezentre din Figur 5.8.() vezi problem de predicţie trttă în Ane: Predicţie versus estimre, şi rezumtă prin formul (A.7). O înţelegere completă (şi nu dor intuitivă) reprezentării din Figur 5.8.(b) o vom obţine bi după 3

20 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I prezentre teoriei estimării nelinire, în sensul erorii medii pătrtice minime (men squre - MS), pe cre o redăm în cest subcpitol. S ζ (ζ) = b c = {} S A b=(ζ) m() = { } () Figur 5.8. Reprezentre grfică estimării vribilei letore : () printr-o constntă c şi, respectiv, (b) printr-o funcţie m() unei v... Funcţi mediei condiţionte pote fi o funcţie neliniră chir şi pentru densităţi comune, f (,b), şi densităţi mrginle prent simple l prim vedere. Problem 5.3: Fie următore funcţie densitte de probbilitte comună pentru vribilele letore şi : b, pentru [,] şi b [,] f (,b) = (5.44), în rest. Să se deducă funcţi mediei condiţionte pentru v.., funcţie de v... Rezolvre: Din definiţi lui f (,b) obţinem, conform relţiei (5.43), funcţi densitte de probbilitte mrginlă lui stfel: f () = f (, b) db b b, pentru [,], în rest. (5.45) Pe bz relţiei (5.7) deducem mi deprte funcţi mediei condiţionte lui funcţie de : f ( b) b b db b db f ( ) bdb b db { =} (b) 3 b b 4 / = = (ζ) (5.46) 3

21 lemente de sttistică Aş cum rtă şi rezulttul de mi sus, funcţi obţinută în cest cz este, evident, o funcţie neliniră (vezi figur Figur 5.9); cest lucru vine şi confirmă firmţi că, chir şi pentru forme simple le densităţilor comune şi mrginle, funcţi m() pote fi o funcţie neliniră. Revenind cum l problem estimării relţiei funcţionle, (), ce legă între ele cele două vribile letore, şi, prezentăm în continure estimtorul pe cre-l obţinem în estimre neliniră în sensul MS cestei funcţii. Figur 5.9. Funcţi mediei condiţionte, m(). stimre neliniră în sensul erorii medii pătrtice minime Acestă problemă de estimre revine l găsi ce funcţie () pentru cre erore medie pătrtică: e {[ ( )] } [ b ( )] f (, b) ddb (5.47) este minimă. Pentru obţine estimtorul corespunzător pornim de l relţi de mi sus în cre rescriem densitte comună (vezi şi relţi (5.69)) stfel: e f b [ b ( )] ( ) f [ b ( )] ( b ) f ( ) ddb 33 f ( b ) dbd (5.48) În relţi (5.) toţi termenii cre se integreză sunt pozitivi cee ce însemnă că, erore e stfel clcultă v fi minimă dor dcă integrl, m() [ b ( )] f ( b ) db (5.49) este minimă pentru fiecre. Soluţi cre se obţine în cest cz este ( se vede Ane: Predicţie versus estimre, relţi (A.68), în cre c este

22 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I înlocuit cu () ir f() este înlocuit cu f (b,)): ( ) bf ( b ) db { } m( ) (5.5) Din relţi de mi sus reiese că, estimtul obţinut pentru funcţi ce legă între ele cele două vribile letore este chir funcţi mediei condiţionte vribilei dependente dtă de vribil independentă. Cu lte cuvinte, rescriind relţi rror! Not vlid link. în lumin noilor rezultte obţinute, deducem: b = m(;) + e (5.5) Numele cestei metode de estimre, respectiv, cel de estimre prmetrică neliniră regresiei se dtoreză fptului că form funcţiei de regresie este un ce se presupune fi cunoscută, e este dtă de o combinţie neliniră prmetrilor modelului şi, în plus, prmetrii modelului u o semnificţie prticulră (uneori chir fizică) pentru procesul studit. Metod estimeză ceşti prmetri în sensul găsirii celor vlori pentru cre se obţine ce mi bună proimre dtelor observte în condiţiile îndeplinirii unui criteriu de erore nterior stbilit. stimre prmetrilor se fce printr-o metodă proimărilor successive şi, din cest motiv, regresi neliniră este cunoscută c fiind un intens computţionlă. Observţi 5.3: Funcţi de regresie din Problem 5.3, m ( ) (5.5) este o funcţie neliniră întrucât e nu pote fi eprimtă c o combinţie liniră prmetrilor αi. emple de funcţii nelinire mi uzul folosite sunt: funcţiile gussiene, funcţiile putere, funcţiile eponenţile, funcţiile trigonometrice etc. O lterntivă mi simplă dr, în generl, mi puţin eficientă decât metod prmetrică neliniră de estimre regresiei este şi metod estimării prmetrice linire, în sens MS, cestei. stimre liniră în sensul erorii medii pătrtice minime În czul linir univrit, problem estimării prmetrice funcţiei de regresie dintre vribilele letore şi se reduce l estimre, în sensul erorii medii pătrtice, v.. în termenii unei funcţii linire lui, funcţie de tipul A+B. Aş după cum vom vede mi jos, prmetrii cei mi buni de proimre u, în estimre liniră regresiei, epresii bine determinte; în

23 lemente de sttistică czul nostru vom răt că prmetrii estimţi se clculeză pe bz momentelor de ordin unu şi doi le distribuţiilor lui şi, respectiv,. Pentru cest, scriem, mi întâi formul pentru erore medie pătrtică, ce trebuie minimiztă: e {[ ( A B)] } (5.53) Pentru un A fit erore e de mi sus este minimă numi dcă: de { ( A B) [( A) AB B ]} db db (5.54) { A B} de unde rezultă mi deprte că, { A} { B} B { A} m Am (5.55) Înlocuind în relţi rror! Not vlid link. pe B cu vlore s dedusă în relţi (5.9) obţinem: e {[ ( A m Am )] } {[( m ) A( m )] } e {( m ) } A{( m )( m )} A {( m ) }} e A A (5.56) unde: σ, σ sunt vrinţele celor două vribile letore, şi, ir este coeficientul de corelţie Person (vezi Subcpitolul 5.5.4, relţi (5.45)). Mi deprte relţi (5.56), ce reprezintă erore e c o funcţie de A, este minimiztă în rport cu A dcă: de da A A (5.57) În concluzie, prmetrii A şi B pentru cre se obţine cel mi bun estimt linir, în sensul erorii medii pătrtice, l funcţiei de regresie două vribile letore şi sunt dţi de relţiile: A şi B m Am (5.58) Observţi 5.3: În generl, funcţi de regresie neliniră nu este o linie dreptă ir erore medie pătrtică este mi mică decât erore în sens mediu pătrtic din estimre liniră regresiei. 35

24 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I Problem 5.4: Să se demonstreze că dcă vribilele letore şi u o densitte comună de tip Guss-ină tunci, estimţiile, în sensul erorii medii pătrtice minime, determinte prin cele două metode (liniră, respectiv, neliniră) pentru funcţi de regresie sunt identice. În czul în cre eistă mi mulţi predictori, i, în funcţie de cre se doreşte eprimre unei v.. dependente, tunci vem de- fce cu o regresie liniră multiplă ir modelul în cest cz este dt de: = α + α α k k + e (5.59) unde: i, cu i, k sunt predictorii (regresorii) ir α i sunt coeficienţii de regresie. Formul de determinre coeficienţilor de regresie este un cre diferă funcţie de criteriul de erore folosit. Cele mi multe însă din plicţiile de estimre prmetrică regresiei linire folosesc metod celor mi mici pătrte. În mod echivlent, c în czul estimării nelinire, şi în czul estimării linire regresiei numele metodei, respectiv, cel de estimre prmetrică liniră se dtoreză fptului că form funcţiei de regresie este un cunoscută, e este dtă de o combinţie liniră prmetrilor modelului şi, în plus, prmetrii modelului u, ş cum m văzut, o semnificţie prticulră pentru procesul studit. Observţi 5.33: În czul prticulr discutt nterior m vut de- fce cu o regresie liniră simplă (o singură v.. independentă) ir funcţi de regresie estimtă fost o linie dreptă. Nu trebuie să fcem însă confuzie între numele metodei (estimre liniră) şi cestă linie dreptă cre nu este decât un cz prticulr l funcţiei de regresie linire. Mi mult chir, inclusiv o funcţie de form: = α + α α k k + e (5.6) cre este evident o funcţie neliniră în vribilele independente i, este o funcţie de regresie liniră întrucât, să ne remintim crcterul linir l metodei este dt de liniritte eprimtă în termenii prmetrilor modelului cee ce se verifică şi pentru relţi nostră. stimre prmetrică unui semnl Pe lângă plicţiile de modelre densităţilor de probbilitte su funcţiilor de regresie, estimre prmetrică îşi mi găseşte plicbilitte şi în domenii cum r fi modelre unui semnl (pentru definiţi unui semnl vezi Ane: Noţiune de semnl. Semnl stţionr). 36

25 lemente de sttistică stimre unui semnl presupune găsire unui model mtemtic cre să fie, pe de o prte, cât mi propit de relitte fizică cre genert semnlul observt ir pe de ltă prte, celşi model trebuie să prezinte şi un grd mre de generlitte. Considerăm în continure problem stndrd unui semnl S peste cre s- suprpus un zgomot Z: i = si + zi, i M (5.6) În ecuţi de mi sus zi sunt vribile letore i.i.d., distribuite norml, după o distribuţie N(, σ ) ir i sunt dtele observte le semnlului. stimre, în cest cz, presupune că se cunoşte modelul cre r descrie procesul ce genert dtele semnlului şi se doreşte, pe bz dtelor observte să se estimeze prmetrii modelului, cre descriu modelul, vând totodtă o numită semnificţie pentru cest. Observţi 5.34: Un eemplu ilustrtiv de estimre prmetrică unui semnl este şi plicţi în cre se urmăreşte modelre unui semnl discret despre cre se ştie că este sinusoidl şi pentru cre se dispune de dte observte. Precizăm ici că, o sinusoidă este orice funcţie de form Asin(t + ), unde t este vribil independentă ir A, şi sunt prmetrii ficşi i sinusoidei, numiţi mplitudine, frecvenţ şi, respectiv, fz semnlului. În cest cz, cel mi simplu model propus pentru semnlul s sinusoidl este dt de o singură componentă sinusoidlă compleă, Aep(jn). Rescriind relţi (B36) pentru cestă plicţie prticulră obţinem: [n] = Ae j n + z[n] (5.6) cu n M, ir [n] sunt dtele observte le semnlului, ir = [A,, ] T este vectorul prmetru l modelului propus, vector ce trebuie estimt. stimre prmetrilor modelului mtemtic (prmetri cre, ş cum m văzut, crcterizeză procesul nlizt, vând o semnificţie prticulră) presupune folosire nlizei sttistice, respectiv, definire unui criteriu de erore. L or ctulă eistă propuse mi multe criterii de erore însă dintre ceste, de deprte ce mi folosită este metod celor mi mici pătrte, în cre se urmăreşte minimizre sumei pătrtelor erorii dintre dtele observte şi dtele generte de model: n M ( ) J [ n] ˆ[ n] (5.63) 37

26 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I Minimizre lui J() se fce în rport cu vectorul prmetru. În estimre prmetrilor modelului unui semnl se pot folosi tât metode clsice de estimre sttistică (de eemplu, metod celor mi mici pătrte, metod momentului, etc.), cât şi metode Bes-iene (de eemplu, metod probbilităţii posteriore mime), filtrul Klmn ş..m.d.. stimre neprmetrică şi semiprmetrică Aş după cum m mintit dej, este posibil să se fcă inferenţe sttistice şi fără să se presupună priori o numită fmilie prmetrică distribuţiilor de probbilitte su un numit model pentru funcţi de regresie su semnlul nlizt. În cest cz vorbim de modele neprmetrice (respectiv, de sttistici neprmetrice 43 ) şi de modele semiprmetrice. Modelele neprmetrice Modelele neprmetrice diferă de cele prmetrice prin cee că structur modelului este un mult mi fleibilă, e nefiind specifictă priori ci e este determintă direct din dte. Din cest motiv, modelele neprmetrice mi sunt numite şi modele ce nu depind de distribuţie. Anticipând puţin, multe dintre metodele neprmetrice folosesc în cursul procesului de estimre, ş după cum vom vede, funcţii de form: f ( ) ii ( ) (5.64) i unde αi sunt considerţi prmetrii estimtorului neprmetric ir i() reprezintă nişte funcţii bză (vezi Ane: Vectori bză şi funcţii bză). După cum se pote vede termenul neprmetric, socit orecum impropriu cestor modele sttistice, nu semnifică fptul că stfel de modele sunt lipsite complet de prmetri ci, fptul că: pe de o prte, numărul şi ntur prmetrilor sunt feibile şi nu fite dininte (cu lte cuvinte, dcă cntitte dtelor creşte este posibil să vem o funcţie mi compleă şi, deci, mi fleibilă), ir pe de ltă prte, prmetrii cestor modele nu u socită o numită semnificţie, respectiv, cee de prmetri i populţiei; în consecinţă, metodele neprmetrice de estimre nu estimeză prmetrii populţiei. 43 Funcţii plicte unui eşntion, căror interpretre nu depinde de proimre vreunei distribuţii de probbilitte prmetrizte. 38

27 lemente de sttistică Prin estimre neprmetrică înţelegem, în generl, un din următorele situţii: estimre de semnle (vezi Ane: Noţiune de semnl. Semnl stţionr), estimre de funcţii de regresie şi, respectiv, estimre de distribuţii de probbilitte. În mre vorbind, eistă două tipuri de metode de estimre neprmetrică: Tbel 5.. Metode de estimre neprmetrică Metode de estimre neprmetrică Loclă Comentrii: - În cestă bordre estimre unei funcţii de vlori rele 44, f(), se fce punctul, în fiecre punct =. Din cestă perspectivă, estimre funcţiei se reduce l estimre succesivă numerelor rele f(), unde vribil bleiză tot domeniul de vlori pe cre este definită funcţi (su dor un domeniu de interes). - O ltă estimre, tot punctulă, funcţiei f(), plicbilă însă dor pentru czul când cest este o funcţie continuu diferenţibilă 45, este cee cre evlueză funcţi nu dor în punctul generic ci într-o vecinătte cestui, cz în cre proimre punctulă funcţiei se fce prin vlore f( ) + f ( )( ), cee ce presupune, suplimentr, utilizre observţiilor din vecinătte. L fel c şi mi sus, estimre funcţiei presupune estimări punctule succesive ce coperă domeniul de interes. - emple de metode ce se bzeză pe cest gen de bordre loclă estimării neprmetrice sunt: histogrm, estimre cu funcţii nucleu, metod 44 Aici, prin funcţie înţelegem oricre dintre următorele vrinte: funcţie densitte, funcţie de regresie su un semnl orecre. 45 Aş cum după cum ştim, metodele neprmetrice nu impun, în generl, restricţii supr funcţiilor ce se estimeză, cu ecepţi numitor metode pentru cre este necesră îndeplinire de către funcţi de estimt condiţiei, nu forte restrictive, de continuitte funcţiei. 39

28 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I Globlă celui mi propit eşntion (NN Nerest Neighbour), metod celor mi propite k- eşntione (metod k-nn) etc. - Aceste metode introduc un sistem de coordonte (în prticulr, o bză) într-un spţiu de funcţii (vezi Ane: Vectori bză şi funcţii bză); în cest mod problem estimării unei funcţii se reduce l estimre unui set de numere rele (este vorb de sclrii αi ce reprezintă coordontele funcţiei în rport cu bz de funcţii considertă). - Cu lte cuvinte, folosind o mulţime decvtă de funcţii linir independente {i()} i c şi coordonte le spţiului de funcţii tunci, orice funcţie de vlori rele şi de energie finită pote fi, în mod unic, eprimtă printr-o combinţie liniră funcţiilor bzei, respectiv, prin setul de coeficienţi sclri αi stfel: f ( ) ii ( ) (5.65) i - Alegere bzei (cre, ş cum m mi spus în Ane., nu este unică într-un spţiu de funcţii considert) reflectă presupunerile nostre despre crcteristicile semnlului (de eemplu, putem ve de- fce cu un semnl lent vribil, continuu, semnl osciltor ş..m.d.). nişte bze bine cunoscute sunt seriile polinomile şi seriile Fourier (ceste funcţii bză u propriette că sunt infinit diferenţibile în orice punct); lte funcţii lrg folosite sunt şi funcţiile bză spline polinomile şi funcţiile bză wvelet etc. Pentru înţelege următorul eemplu pe cre îl vom discut, fcem ici precizre că funcţiile nucleu folosite în estimre neprmetrică de tip locl permit, prin însăşi modul cum sunt definite (vezi Subcpitolul 8..), o nliză vecinătăţii fiecărui punct în cre re loc proimre funcţiei dorite. Acestă nliză presupune de fpt signre de ponderi fiecărei 4

29 lemente de sttistică observţii prticulre flte în vecinătte punctului în cre se fce estimre; în cest cz, vecinătte este definită de un prmetru l funcţiei nucleu, numit lăţime de bndă su prmetrul de netezire l funcţiei ir ponderile sunt o măsură proimităţii cestor observţii fţă de punctul les, ele fiind întotdeun zero pentru observţiile din fr vecinătăţii. emplu 5.9: Problem estimării neprmetrice unei funcţii de regresie (czul univrit) folosind pentru cest funcţiile nucleu, presupune că, în formul dtă de relţi (5.5): b = m(;) + e, pentru m(;) reprezentând medi condiţiontă v.. (b, vribilă generică) dtă de v.. =, nu se precizeză priori nici o formă prmetrică. Cele N perechi de observţii (i, bi) le eşntionului sunt folosite pentru estim funcţi densitte comună pentru vribilele letore şi stfel: densitte în punctul (, b ) este estimtă prin observre, din cele N dte empirice, proporţiei de dte cre se flă prope de punctul (, b ). Acestă procedură implică utilizre unei funcţii nucleu ce signeză ponderi corespunzătore observţiilor din vecinătte punctului în cre se fce estimre. Modelele neprmetrice, deşi prezintă vntjul unei forte mri fleibilităţi, ele u şi o serie de dezvntje: () Pentru proim, în mod decvt, o funcţie, modelul folosit (vezi, de eemplu, relţi (5.64)) re un număr prctic infinit de prmetri necesri pentru pute cptur crcteristicile complee, presupuse, le funcţiei de estimt. Un număr mre l prmetrilor modelului (prmetri ce trebuie estimţi) duce l o rtă de convergenţă metodei forte mică. Dependenţ rtei de convergenţă unui estimtor de numărul prmetrilor modelului este dese referită sub numele de blestemul dimensionlităţii. (b) Pe de ltă prte, pentru estim într-un mod corespunzător prmetrii de mi sus vem nevoie de un eşntion de dte suficient de mre (condiţie ce în prctică rreori pote fi îndeplinită). (c) Un lt dezvntj constă în cee că, în mod deosebit pe seturi mri de dte, ceşti estimtori fleibili presupun un volum de clcul forte mre. Modele semiprmetrice Modelre semiprmetrică părut c un compromis între modelre prmetrică şi ce neprmetrică, compromis concretizt prin introducere 4

30 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I prţilă în model unor componente prmetrice. Din cest punct de vedere, modelele semiprmetrice sunt mi restrictive decât modelele complet nespecificte dr mi fleibile însă decât modelele prmetrice. Modelele semiprmetrice sunt construite, în generl, pornind de l modele neprmetrice în cre s-u introdus, prţil, componente prmetrice (prmetri ce u o numită semnificţie pentru populţi su procesul nlizt). Metodele semiprmetrice prezintă, c un vntj mjor, rte de convergenţă mult mi mri decât rtele de convergenţă obţinute în bordările neprmetrice le celorşi probleme. Mi mult chir, în multe czuri rt de convergenţă obţinută este un similră cu ce obţinută folosind metode prmetrice. Câtev eemple de modele semiprmetrice sunt şi: regresi generliztă, modelele linire prţil generlizte, modelele ditive şi modelele ditive generlizte etc. Histogrm În prctică, ori de câte ori dispunem de un set de dte empirice pentru un vector letor ne este forte dificil să trgem concluzii cu privire l proprietăţile cestui din urmă şi cest folosindu-ne dor de simpl inspecţie vlorilor observte. Într-un stfel de moment ne vine în jutor sttistic descriptivă cre, fie prin reprezentări grfice, fie prin măsuri cntittive, etrge informţii supr crcteristicilor dtelor l nivel de eşntion, informţii pe cre le putem utiliz ulterior pentru fce inferenţe l nivel de populţie su pentru lns numite ipoteze de lucru. emplu 5.: O stfel de ipoteză de lucru este, spre eemplu, şi ce folosită în cdrul procesului de estimre prmetrică în cre form funcţionlă densităţii de probbilitte crcteristicii l nivel de populţie, deşi necunoscută, se presupune fi un cunoscută. În cest cz, l bz legerii priori unei su ltei dintre densităţile teoretice eistente stu deopotrivă: () o cunoştere prelbilă fmiliilor de distribuţii teoretice şi (b) informţiile culese fie printr-o nliză ştiinţifică fenomenului fizic studit, fie printr-o nliză empirică dtelor observte (vorbim ici deci, de sttistic descriptivă plictă l nivel de eşntion). Ce mi directă modlitte de investigre crcteristicilor unui eşntion este dtă de prezentre, într-o formă grfică convenbilă, dtelor observte. O stfel de fişre grfică lrg utiliztă dor pentru dtele univrite şi bivrite este şi histogrm. 4

31 lemente de sttistică Histogrm este, prin definiţie, o reprezentre grfică, sub formă de bre, frecvenţelor reltive su bsolute de priţie unei vribile letore, pe intervle de vlori. Mi ect, e ilustreză proporţi relizărilor prticulre le v.. cre se regăsesc în fiecre dintre cele câtev intervle disjuncte de vlori, predefinite, le lui. Aceste intervle de vlori sunt dicente şi, în mod idel, de lăţime eglă. Dcă lăţime unui intervl de vlori tinde, l limită, către o singură vlore ir numărul de intervle (respectiv, puncte) pe cre se fce reprezentre histogrmei tinde l infinit tunci histogrm devine, ş cum vom vede mi jos, chir funcţi densitte de probbilitte ce crcterizeză setul de dte empirice. În relitte, nu vom dispune niciodtă de un număr infinit de dte empirice şi, în consecinţă, histogrm, ş cum fost e definită mi sus dor proimeză funcţi densitte de probbilitte socită, fiind, prin modul de bordre, un estimtor neprmetric l cestei. stimtul obţinut pe un eşntion portă, în cest cz, numele de distribuţie empirică. În Figur 5.() este reprezenttă grfic o posibilă formă unei funcţii densitte de probbilitte unidimensionlă f(), necunoscută, ce este modeltă prin histogrm din figur Figur 5.(b). f ( ) f () () + K K f ( ) Histogrm [frecv. reltive] (b) Figur 5.. (). Funcţi densitte de probbilitte unei vribile letore versus (b) histogrm normliztă corespunzătore 43

32 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I Histogrm setului de dte din Figur 5.(b) fost obţinută printr-o segmentre pe lăţimi Δ intervlului de vlori le lui. Înălţime fiecărui dreptunghi este un proporţionlă cu numărul de elemente din respectivul intervl de lăţime Δ. Fie K numărul de vlori le v.. flte în intervlul (, + ], respectiv < +. În czul generl, când numărul totl de dte empirice, K, din eşntion este suficient de mre ir lăţime intervlelor este suficient de îngustă, mbele cntităţi K /K cât şi f( ) sunt, de fpt, celeşi estimări le probbilităţii de poziţionre unei relizări prticulre v.. în intervlul nterior prezentt (vezi Ane: Medi ritmetică()). Astfel: K f ( ) (5.66) K În esenţă vorbim ici de interpetre frecvenţilă probbilităţii (pentru lte interpretări se vede Ane: Interpretre noţiunii de probbilitte). O discuţie ce s-r impune fi făcută ici ţine de legere optimă numărului de intervle de vlori, m( ) min( ) N int (5.67) pe cre se reprezintă histogrm 46 (ici int() reprezintă prte întregă). Lăţimi diferite le cestor intervle pun, în generl, în evidenţă crcteristici diferite le dtelor. Nu eistă l or ctulă metode cre să ne ofere o soluţie optimă l cestă problemă şi, de cee, legere finlă se v fce prin încercări succesive; respectiv, se du pe rând vlori (nu forte mri) lui şi se reţine ce vlore cre pune în evidenţă numite prticulrităţi scunse le dtelor. Dintre formulele propuse pentru clculul cestui prmetru importnt l histogrmei prezentăm ici, c informţie orienttivă în legere iniţilă lui, formul lui Scott: = 3.5K -/3 (5.68) 46 O stfel de discuţie îşi re sensul dcă vem mereu reprezentt în minte fptul că histogrm se relizeză, în generl, pe un eşntion de dte les în mod letor din populţi de interes. În consecinţă, frecvenţele de priţie în cdrul eşntionului le numitor vlori s-r pute să difere uneori considerbil de mult fţă de frecvenţele de priţie în populţie le celorşi vlori; concret, vorbim de vlori cu mult mi mici le cestor frecvenţe. În cest contet, o histogrmă reliztă pe intervle forte mici s-r pute să genereze o reprezentre forte zgomotosă cre, prctic, nu ne furnizeză forte multă informţie privind distribuţi relă dtelor. 44

33 lemente de sttistică unde reprezintă deviţi stndrd v... Informţiile pe cre ni le furnizeză histogrm sunt informţii utile privind crcteristicile dtelor, cum r fi tendinţ centrlă, dispersi dtelor, precum şi form (lur) generlă distribuţiei. Vom vede în subcpitolul următor ce importnţă mjoră pote juc histogrm în inferenţ sttistică, în specil prin cestă ultimă informţie furniztă. Observţi 5.35: Revenind în contetul emplu 5., o inspecţie vizulă histogrmei eşntionului ne pote suger, de eemplu, o numită formă funcţionlă pentru densitte de probbilitte necunoscută l nivel de populţie, formă pe cre o folosim, mi deprte, c ipoteză de lucru în estimre prmetrică. Ulterior fiării cestei ipoteze de lucru, în continure în cdrul procesului de inferenţă se vor mi estim dor prmetrii sociţi respectivei funcţii densitte de probbilitte. Observţi 5.36: Aş după cum m prezentt l început, histogrm este, în principl, un instrument grfic de vizulizre pentru domeniul univrit şi bivrit de vlori. Acestă crcteristică nu trebuie privită c fiind un limittivă în cee ce priveşte utilitte metodei în czul vectorilor letori multidimensionli. Şi în cest cz, o inspecţie vizulă pe fiecre vribilă letore componentă, combintă eventul cu lte informţii sttistice (de eemplu, de independenţă sttistică între componentele vectorului etc.), ne pote conduce l nişte concluzii l fel de utile privind form funcţionlă fdp crcteristică vectorului. Observţie 5.37: Aş după cum m prezentt l început, histogrm este, în principl, un instrument grfic de vizulizre pentru domeniul univrit de vlori însă eistă şi histogrme multivrite. În prezent, în neurobiologie, c şi în multiple lte domenii, histogrm este în continure folosită cu succes c un instrument trdiţionl de estimre funcţiei densitte de probbilitte procesului letor studit, deşi lte metode neprmetrice de estimre densităţii s-u dovedit fi mi eficiente. Acestă situţie se eplică în principl prin simplitte metodei şi prin informţi mi intuitivă, de ntură vizulă, pe cre ne-o furnizeză Momentele unui vector letor Pe lângă tehnicile de vizulizre grfică trăsăturilor unui set de dte empirice, sttistic descriptivă oferă şi o serie de măsuri cntittive ce 45

34 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I sumrizeză, într-o mnieră ectă, crcteristicile respectivului eşntion de dte. Astfel, informţiile pe cre ni le furnizeză histogrm pot fi etrse şi eprimte şi în termeni pur cntittivi, prin următorele măsuri: tendinţ centrlă, prin medie şi medină, respectiv, dispersi dtelor, prin rng şi deviţi stndrd. Prmetrii 47 tendinţei centrle reprezintă cele mi importnte măsuri folosite în crcterizre unei distribuţii empirice. Vlorile furnizte de ceste ne jută să loclizăm dtele pe o sclă liniră, oferindu-ne totodtă o imgine supr celei mi bune vlori ce descrie dtele. Dintre ceşti prmetri cei mi uzuli sunt medi ritmetică eşntionului (vezi relţi rror! Not vlid link.) şi, respectiv, medin cest reprezentând ce vlore vectorului letor pentru cre 5% din dtele eşntionului u vlori sub cestă vlore ir 5% u vlori peste cestă vlore. Medin este folosită, de obicei, c lterntivă mediei ritmetice cre este un prmetru sensibil l vlorile eronte le eşntionului (vlori etreme cre diferă forte mult de mjoritte dtelor). Acest ultim nejuns nu constituie însă o problemă în sine, întrucât, în generl, respectivele vlori eronte sunt eliminte într-o şzisă fză de preprocesre dtelor. Dintre prmetrii ce măsoră grdul de împrăştiere l dtelor m mintit mi sus rngul, clcult c diferenţă între vlore mimă şi vlore minimă din setul de dte (prmetru etrem de sensibil în czul unor dte etreme, eronte), respectiv deviţi stndrd clcultă c medi bterii fiecărui punct de l medi clcultă eşntionului. O ltă măsură dispersiei dtelor este şi vrinţ, cre reprezintă pătrtul deviţiei stndrd. Aş după cum m văzut în Subcpitolul 5.5., subpunctul stimre prmetrică punctulă clsică, tât medi cât şi vrinţ distribuţiei empirice sunt prmetri de selecţie şi ei sunt dese utilizţi c estimţii le prmetrilor sttistici corespunzători, din populţie. După cum vom vede în cele ce urmeză, tât medi cât şi vrinţ reprezintă, în fpt, cele mi utilizte două măsuri cntittive socite unei v.. dintr-o, prctic, infinitte de măsuri definite teoretic şi cre sunt cunoscute generic sub numele de momente. 47 Se cunosc mi multe măsuri cntittive ce descriu tendinţ centrlă. Dintre ceste mintim ici şi modul, medi geometrică, medi rmonică etc. 46

35 lemente de sttistică. Momentele în nliz sttistică. Funcţii crcteristice Momentele unei distribuţii reprezintă cntităţi de interes în studiul vribilelor şi vectorilor letori. Mi jos vem definite momentele pentru o v.. : Momentele: n n m { } f ( d Momentele centrte: n ) n n n {( m ) } ( m ) f ( ) d n Momentele bsolute: { }, { m n } n n Momentele generlizte: {( ) }, { } În prctică, cele mi utilizte sunt momentele şi momentele centrte de ordin şi, respectiv, : m = m, μ = σ. Trebuie să reţinem fptul că momentele unei v.. nu sunt numere rbitrre ci ele stisfc numerose ineglităţi cum r fi, de eemplu: m m (vezi Problem 5.6 rezolvtă în neă). Pe lângă momentele prezentte mi sus eistă definite şi momentele centrte normlizte (stndrdizte); ceste sunt dte de momentul centrt de ordin n corespunzător, divizt prin σ n, respectiv, moment centrt de ordin n normlizt = μn/σ n (5.69) Aceste momente normlizte sunt cntităţi fără unitte de măsură ce reprezintă distribuţi într-un mod independent de orice modificre liniră sclei. În mod corespunzător, momentele comune pentru două vribile letore, şi, se definesc şi ele stfel: Momentele: k l k l m { } b f (, b ddb Momentele centrte: 47 kl ) Medi produsului k l reprezintă momentul comun de ordin n = k + l l vribilelor letore şi. kl {( m ( m k ) ( m k ) ( b m ) } l ) l f (, b) ddb Momentele bsolute: k l k l { }, { m m }

36 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I k l Momentele generlizte: {( ) ( ) }, k l { } Din definiţiile de mi sus rezultă că: momentele comune de ordin unu sunt: m = m şi m = m; momentele comune de ordin doi sunt: m = { }, m = {} şi m = { }; momentele centrte comune de ordin unu sunt: μ = μ= ; momentele centrte comune de ordin doi sunt: μ = σ, μ = Cov(,) 48 şi μ = σ. Observţi 5.38: Definiţiile momentelor (respectiv, momentelor comune) pentru vectori letori sunt similre celor prezentte, mi sus, pentru vribile letore, cu prticulritte, bineînţeles, folosirii opertorului de trnspunere în czul produsului sclr l vectorilor. Utilitte momentelor este un multiplă: stfel, m văzut până cum rolul juct de ceste în estimre prmetrică (sttistic inferenţilă) colo unde numite momente coincid chir cu prmetrii distribuţiei teoretice ce se presupune model funcţi de densitte necunoscută unei populţii; în cest cz, dor clculre respectivelor momente l nivel de eşntion conduc direct l obţinere unui estimt l densităţii de probbilitte dorite; o ltă utilitte momentelor definite mi sus, întâlnită de cestă dtă în sttistic descriptivă, rezidă în cpcitte lor de furniz o serie de informţii descriptive privind dtele nlizte; în cele ce urmeză vom discut cestă ultimă direcţie de utilizre momentelor. Un rezultt importnt legt de momentele unei v.. (respectiv, vector letor) este cel l unei teoreme, numită teorem momentului, cre firmă că: dcă mn este cunoscut pentru fiecre n, tunci, în numite condiţii (vezi mi jos), funcţi densitte de probbilitte lui este determintă în mod unic. O prezentre pe scurt cestei teoreme, precum şi noţiunilor noi pe cre le utilizeză cest, o redăm în tbelul de mi jos: Funcţii le unei v.. Funcţi crcteristică Definiţii/nunţ Nottă Φ(ω), este prin definiţie dtă de integrl, ( ) f ( ) e j d { e j } (5.7) 48 Coeficientul de covrinţă l vribilelor letore şi. 48

37 lemente de sttistică Funcţi (genertore) de momente Nottă, M(s), se obţine din funcţi crcteristică stfel: pentru M (jω) = Φ (ω) şi s = jω, M ( s) f ( ) e s d { e s } (5.7) Teorem momentului Derivând (5.35) de n ori obţinem, şi, corespunzător, ( n) n s M ( s) { e } (5.7) M ( n) () n { } m n (5.73) Dcă tote momentele m n sunt finite şi dcă, în plus, dezvoltre în serie lui M n (s) în propiere originii, mn ( s) s n! n M (5.74) n este o serie convergentă, tunci densitte f () ce pote fi scrisă în termenii lui M n (s) (vezi şi relţi (5.39)) este, tunci când se cunosc toţi m n, unic determintă. Notă: () Întrucât funcţi crcteristică, Φ(ω), este strâns legtă de trnsformt Fourier mi ect, Φ (ω) lui este comple-conjugtul trnsformtei Fourier continue funcţiei de densitte lui (vezi Ane: Trnsformt Fourier), tunci proprietăţile lui Φ(ω) sunt, în esenţă, celeşi cu proprietăţile trnsformtelor Fourier. În cest cz, f () pote fi eprimt în termenii lui Φ (ω), stfel: j ( ) ( ) e d (5.75) f (b) Dcă = [,..., d ] T este un vector letor d-dimensionl tunci rgumentul sclr ω devine vectorul linie, d-dimensionl, Ω = [ω,..., ω d ] ir produsul ω devine produsul sclr Ω: j ( ) { e } { e ( d d ) } M ( j) (5.76) j (c) Funcţi crcteristică unei v.. eistă întotdeun cee ce nu este şi czul funcţiei genertore de moment. În czul în cre cest din urmă nu eistă funcţi crcteristică este ce utiliztă pentru determin momentele. În concluzie, orice distribuţie de probbilitte (pe R su pe R n ) re o funcţie crcteristică şi, reciproc, pentru orice funcţie crcteristică eistă ect o singură distribuţie de probbilitte. Altfel spus, funcţi crcteristică unei v.. defineşte complet şi în mod unic distribuţi de probbilitte respectivei vribile. 49

38 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I O concluzie imedită ce se pote trge de ici este şi fptul că, momentele de ordin unu si doi de deprte cele mi utilizte în plicţiile prctice nu du decât o crcterizre limittă funcţiei de densitte necunoscută populţiei. În cest contet, cunoştere şi ltor momente pote fi utilă mi les în fz de legere între două densităţi ce prezintă celeşi momente de ordin unu şi doi şi cre sunt cndidte l clitte de estimt l unei funcţii densitte de probbilitte necunoscute; în consecinţă, momentele ne pot sist în mod efectiv în procesul de selecţie celei distribuţii teoretice cre se propie cel mi mult de lur (dezvăluită prin indictori sintetici decvţi) funcţie densitte rele..6.5 f() f () =?.3.5 f() f () =? X f() f z () =? Figur 5.. Funcţii densitte de probbilitte de ceeşi medie şi vrinţă emplu 5.: În Figur 5. sunt reprezentte trei densităţi empirice unidimensionle (obţinute cu jutorul histogrmei) densităţi cre, prezintă ceeşi medie, m, şi ceeşi vrinţă, σ. Sunt ceste densităţi din fmili de distribuţii gussiene? În urm unei prime inspecţii vizule m fi tentţi să spunem că din cele trei densităţi numi ultimele două r corespunde descrierii ş numitului clopot l lui Guss (vezi Subcpitolul 5.6.). O suprpunere celor trei grfice (vezi Figur 5.) ne dezvăluie însă o situţie destul de contrdictorie şi nume, suntem în situţi în cre pentru ceişi doi prmetri, medie şi, respectiv, vrinţă 5

39 lemente de sttistică prmetri ce ştim că definesc complet o distribuţie gussină, obţinem densităţi Guss-iene distincte. f() Densitte gussină Densitte Lplce Densitte de tip cosinus ridict Figur 5.. Forme funcţionle diferite pentru trei densităţi cu ceeşi medie şi ceeşi vrinţă, însă cu coeficient de boltire diferit. Răspunsul l cestă dilemă îl vom fl, însă, bi în momentul în cre vom clcul vlore unor indictori sintetici suplimentri (momente centrte normlizte, vezi (5.69)), indictori cre ne oferă informţii privitore de cestă dtă l lur funcţiei de densitte empirică. În principl, vorbim de două ctegorii de stfel de indictori sintetici, respectiv: () indictori de simetrie, respectiv, (b) indictori de boltire (su i ecesului). Indictorii de simetrie du informţii supr modului de reprtizre frecvenţelor de o prte su lt vlorii centrle unei serii letore. În litertur de specilitte s-u propus mi mulţi indictori pentru măsurre grdului de simetrie l distribuţiilor. Cel folosit de noi în emplul 5. fost clcult cu formul: Vlori le lui γ: egle cu zero strict negtive 3 (5.77) 3 indică o distribuţie simetrică; indică o distribuţie mi împrăştită spre stâng, fţă de vlore medie, cu o codă distribuţiei mi mre spre stâng (simetrie de stâng); 5

40 strict pozitive Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I indică o distribuţie mi împrăştită spre drept, fţă de vlore medie, cu o codă distribuţiei mi mre spre drept (simetrie de drept). Indictorii de boltire du informţii supr grdului cât sunt de scuţite, respectiv, de plte, densităţile empirice fţă de o densitte de probbilitte normlă. Dintre indictorii propuşi, prezentăm dor coeficientul de boltire l lui Fisher, respectiv: Vlori le lui γ: 4 (5.78) 4 egle cu 3 indică o distribuţie normlă (distribuţie mezokurtică); mi mri decât 3 indică o distribuţie cu un vârf prope de medie mi scuţit decât cel l unei distribuţii normle (distribuţie leptokurtică); mi mici decât 3 indică o distribuţie cu un vârf prope de medie mi pltizt fţă de cel l unei distribuţii normle (distribuţie pltikurtică). Observţi 5.39: Pentru o corectă interpretre vlorilor clculte, în momentul implementării su folosirii pentru indictorii de mi sus unor funcţii gt predefinite în numite medii de lucru (de eemplu, Mtlb, Microsoft Office cel etc.) trebuie vut grijă l următorele specte: () dcă în relţi (5.78) este su nu substrsă vlore 3 (în prim situţie coeficientul de boltire clcult pentru o distribuţie normlă v ve vlore zero în loc de trei) şi (b) întrucât ceşti indictori sunt clculţi pe un eşntion ir nu pe întreg populţie, vlorile obţinute vor fi deplste (vor tinde să difere de vlorile lor rele din populţie cu o cntitte sistemtică ce depinde de mărime eşntionului); în cest cz este indictă relizre corespunzătore unei corecţii vlorilor obţinute. Revenind l emplul 5., clculul coeficientului de simetrie, respectiv, l coeficientului de boltire pentru cele trei densităţi prezentte ne conduce l următorele rezultte rezultte ce concordă cu crcteristicile (în prticulr, lur) funcţiilor teoretice folosite l generre densităţilor empirice respective: 5

41 lemente de sttistică Densitte empirică Momente normlizte Distribuţii teoretice folosite f () γ =, γ = 6 Distribuţi Lplce: m f ( ) ep (5.79) Clcultă pentru β (fctorul de sclre) =. f () γ =, γ =.7 Distribuţi normlă, N(,.). f z () γ =, γ = Distribuţi cosinus ridict: f ( ) s m cos s pentru s în rest. (5.8) clcultă pentru s (ce defineşte limitele intervlului pe cre funcţi i vlori diferite de zero) =3.5. Notă: Implementre coeficienţilor s- făcut în Microsoft cel ir dimensiune eşntionului de dte fost n =. În concluzie, compleitte relităţii impune folosire unui sistem de indictori. Altfel spus, tunci când legem o distribuţie teoretică su lt pentru model densitte necunoscută din populţie, pe lângă informţiile furnizte de momentele de ordin unu şi doi, de mre utilitte ne sunt şi informţiile furnizte de momentele de ordin superior, ce ne du o imgine mi corectă privind form densităţii empirice. Din cest punct de vedere şi histogrm este o tehnică grfică eficientă e punând în evidenţă cestă crcteristică dtelor. O ltă utilitte momentelor, ce se încdreză tot în sttistic descriptivă, este dtă de informţiile descriptive pe cre ni le furnizeză, în principl, momentele comune de ordin unu şi doi două vribile letore, respectiv, doi vectori letori. Aceste informţii utile (c de eemplu, independenţ su grdul de corelre două u mi multe vribile letore) rezidă în însăşi proprietăţile cestor momente cre se definesc ş cum s- prezentt mi sus. În continure cestui subcpitol vom defini momentele de ordin I şi II pentru un vector letor, vom prezent proprietăţile cestor precum şi câtev proceduri simple de estimre cestor momente din setul de dte. Remintim că prin estimre prmetrică se înţelege o evlure proimtivă prmetrilor de interes. 53

42 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I. Momentul de ordin întâi Fie un vector letor, discret su continuu. Atunci, vlore spertă su medi (momentul sttistic de ordinul I, nott cu m) l cestui vector letor este, prin definiţie, dtă de relţi: def f ( ) d (5.8) def (5.8) p Relţi (5.8) este pentru un vector letor crcterizt de vribile letore continue, în timp ce relţi (5.8) este pentru un vector letor crcterizt de vribile letore discrete. Dcă integrl su sum dte de relţiile nteriore, pentru cel puţin un dintre componentele vectorului letor, nu converge către un număr finit vom spune că estimtorul vectorului letor nu eistă. Medi unui vector letor este un opertor linir, el fiind crcterizt de următorele proprietăţi. Proprietăţi:. Pentru orice vectori letori şi vem: (5.83). Pentru orice vector letor şi pentru orice constntă sclră α şi vector constnt vem: (5.84) 3. Fie un vector letor şi fie g() o cntitte derivtă din el. De eemplu, cestă cntitte, g(), pote fi sclră, vectorilă su mtricilă, precum: g() = *T su g() = ( m)( m) *T. Medi (momentul sttistic de ordinul I) lui g() este nottă {g()} şi e este definită de relţiile mtemtice: g g( ) f ( ) d (5.85) g g ) p ( (5.86) 54

43 lemente de sttistică Relţi (5.85) este pentru un vector letor crcterizt de vribile letore continue în timp ce relţi (5.86) este pentru un vector letor ce conţine vribile letore discrete. Dcă g() este un vector su o mtrice, în relţi (5.85), se plică estimre sttistică pentru fiecre element în prte ir rezulttul estimării sttistice v fi un lt vector su o ltă mtrice cu celeşi dimensiuni. emplu 5.: Pentru o posibilă plicţie semnlelor letore în nliz convertorelor AD (nlog digitle) consultţi Ane: Anliz rportul semnl/zgomot pentru un convertor idel. Medi condiţiontă unui vector letor, presupunând evenimentul B, este dtă de integrl (5.8) în cre fdp f() este înlocuită de fdp condiţiontă f( B): { B} f ( B) d (5.87) Cele mi comune momente sunt cele de ordin unu şi doi. Momentul de ordin întâi su medi vectorului letor este definit de relţi: m def. f ( ) d (5.88) Deorece este un vector d dimensionl, m este şi el, l rândul lui, un vector d dimensionl de form: m m m... md Component k vectorului m este dtă de: k k f ( ) d... k f ( ) d N... d (5.89) mk (5.9) După integrre relţiei rror! Not vlid link. pe tote componentele vectorului se obţine: m f ( ) d (5.9) k k k Dcă integrl (5.9) su sum (în czul eprimării relţiei (5.9) pentru o vribilă letore discretă relţie similră (5.8)) nu converge către un număr rel spunem că estimtorul sttistic de ordinul întâi nu eistă. k k 55

44 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I Momente de ordin doi În cest subcpitol m reunit generic, sub numele de momente de ordin doi ( se vede şi Subcpitolul ): momentele de ordin doi le unui vector letor, mtrice de corelţie, R, mtrice de covrinţă, C; momentul centrt comun de ordin doi două vribile letore, covrinţ între două vribile letore; momentele comune de ordin doi pentru doi vectori letori, şi : mtrice de cros-corelţie, R, mtrice de cros-covrinţă, C. Mtrice de corelţie şi de covrinţă Mtrice de corelţie reprezintă mulţime completă de momente de ordin doi le unui vector letor,, şi e este definită în modul următor: R def { *T } (5.9) Pentru un vector letor rel obţinem: } ) {( } { } { } { } ) {( } { } { } { } ) {( d d d d d R (5.93) Pentru un vector letor comple mtrice re form: } { } { } { } { } { } { } { } { } { * * * * * * d d d d d R (5.94) Atenţie! În czul determinării mtricei de corelţie (prin intermediul relţiilor (5.9) su (5.94)) su/şi mtricei de covrinţă (în modul în cre v fi prezenttă ulterior în cdrul cestui cpitol) pentru czul vectorilor letori complecşi su vribile letore complee este obligtorie, pe lângă utilizre trnspunerii, şi utilizre comple conjugtului în definire tuturor cestor relţii. În czul neutilizării trnspunerii comple conjugte, ci dor

45 lemente de sttistică trnspunerii simple în definire mtricei de corelţie (relţiile (5.9) şi (5.94)) vom obţinem pentru orice vector letor : { T } = [] (5.95) vident că rezulttul dt de relţi (5.95) (R = []), relţie vlbilă pentru orice vector letor comple, este unul cre nu ne furnizeză nici o informţie relevntă despre vectorul, cestă relţie fiind stfel totl inutilă în orice gen de nliză. Problem 5.5: Demonstrţi vliditte relţiei (5.95) 49. Mtrice de covrinţă este, l rândul ei, definită drept o mulţime de momente de ordinul doi centrte în jurul vlorii medii. Acestă mtrice este dtă de relţi: def C { ( m) ( m) *T } (5.96) Form mtricilă pentru C este similră cu ce prezenttă în relţiile (5.93) şi (5.94), cu menţiune că, de cestă dtă, elementele mtricei sunt: ckl = Cov (k, l) = { ( k mk ) (l ml) * } (5.97) cu ckk = { k mk } = (5.98) k Dcă mtrice de covrinţă se clculeză pentru un vector de trăsături, tunci:. elementul ckl este coeficientul de covrinţă între trăsătur k şi trăsătur l nott în litertur de specilitte cu Cov (k, l). Un coeficient de covrinţă pozitiv ne rtă că deviţiile de l vlorile medii le trăsăturilor k şi l u, în medie, celşi semn. Dcă, creştere (scădere), 49 Anliz vectorilor letori complecşi, = r + j i cu r şi i vectori letori reli, (numi pentru czul prelucrării digitle semnlelor şi pentru problemele de clsificre) pote fi redusă numi l cei vectori pentru cre eistă următorele relţii de simetrie [Therrien, 99]: T T { rr } { ii } ( ) T T { } { } ( b) () i r r i Aceste două relţii ne furnizeză informţi că părţile rele şi imginre le vectorului stisfc condiţiile: { rk rl } { ik il} (b) şi } { } (c) { ik rl rk il 57

46 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I în medie, vlorii unei trăsături fţă de medi ei v determin, în medie, şi creştere (scădere) vlorii celei de dou trăsături fţă de medi proprie, tunci spunem că trăsăturile sunt corelte pozitiv. O vlore negtivă cestui coeficient ne indică că, în medie, deviţiile cestor două trăsături u sensuri opuse fţă de mediile lor şi, în cestă situţie trăsăturile spunem că sunt corelte negtiv. Dcă cest coeficient este zero spunem că vribilele letore k şi l sunt necorelte. În situţi în cre k şi l sunt sttistic independente tunci ckl =.. c kk este vrinţ trăsăturii k cest prmetru furnizeză o informţie despre întindere, dispersi spţilă, vlorilor trăsăturii k. În continure eemplificăm form mtricii de covrință pentru czurile unor distribuții unidimensionle (D), bidimensionle (D) și tridimensionle (3D). Pentru stfel de vectori: (5.99) mtricile de covrință (pentru cele trei situții prezentte nterior) iu următorele forme: (5.),, (5.),,,,,, 58 (5.) Generlizând relțiile (5.), (5.) și (5.) consttăm că pe digonl principlă vom ve întotdeun vrinț trăsăurilor în timp ce restul termenilor sunt dți de coeficienții de covrință vând semnificți

47 lemente de sttistică vrinței reltive, vrinței unei vribile (de eemplu, su ) reltivă l vrinț unei lte vribile letore (de eemplu, su 3). Din cest motiv numele corect l cestei mtrici este: mtrice de vrință-covrință ( unui numit vector letor). Cu tote ceste numele cre s- impus este cel de mtrice de covrință (potențil dtorită numărului superior de termeni de covrință, fță de cei de vrință, începând de l mtrici cu dimensionlitte minimă de 3 3). Problem 5.6: Ştiind că medi unei vribile letore rele este m = {} în timp ce vrinţ celeişi vribile este dtă de = {( m) } determinţi { } în funcţie numi de m şi. Din relţiile (5.9) şi (5.3) se pote observ că mbele mtrici, tât ce de corelţie cât şi ce de covrinţă sunt mtrici Hermetiene simetrice, dică u propriette: R = R *T (5.3) și C = C *T (5.4) Problem 5.7: Demonstrţi vliditte relţiilor (5.3) şi (5.4). Mi mult decât tât, mbele mtrici sunt şi pozitiv semidefinite, deci stisfc relţiile: *T R (5.5) și *T R (5.6) pentru orice vector comple. Relţiile (5.5) şi (5.6) se pot demonstr forte uşor, ţinând cont că 5 : *T R = *T { *T } = { *T } (5.7) este întotdeun mi mre su eglă cu zero. Mtrice de covrinţă şi ce de corelţie sunt legte între ele printr-o relţie mtemtică. Observând că este un opertor linir ir m este un vector vând elemente constnte putem scrie: {( m) ( m) *T } = { *T m *T m *T + mm *T } = = { *T } {}m *T m{ *T } + mm *T = { *T } mm *T Rezultând o relție forte importntă: (5.8) 5 Pentru demonstrre relţiilor (5.5) şi (5.6) ţineţi cont şi de relţi: (A B T ) T = B A T 59

48 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I R = C + m m *T (5.9) Covrinţ între două vribile letore Aş după cum m văzut nterior, un element l mtricei de covrinţă, cre nu este poziţiont pe digonl principlă, este crcterizt de relţi: ckl = { ( k mk ) (l ml) * } (5.) Acestă vlore măsoră tendinţ trăsăturilor k şi l de vri împreună. După cum se v prezent ulterior, dcă,,, K sunt K relizări prticulre le vectorului letor de trăsături, tunci relţi de estimre covrinţei între trăsăturile k şi l le vectorului (crcterizte de vribilele letore k şi l) se clculeză cu relţi (vezi Observţi 5.7): * * K K * mˆ mˆ mˆ mˆ mˆ mˆ cˆ kl k k l l k k l l k k l l (5.) K În relţi nterioră mˆ z, cu z egl cu k su l, este estimtorul mediei trăsăturii k su l. Dcă relizările prticulre le vectorului letor sunt vectori reli, comple conjugtul nu-şi mi re rolul în relţi nterioră. Observţi 5.4: Dcă, în contetul de mi sus, dorim să determinăm un coeficient de covrinţă orecre, ckl, în lt mod decât cel prezentt mi sus, tunci, putem estim mi întâi mtrice de covrinţă setului de dte după cre, ulterior preluăm din cest spre nliză numi vlore elementului cre ne intereseză. Coeficientul de covrinţă între două vribile letore orecre fie ceste componentele de ordin k şi l le unui vector letor de trăsături re, ş cum m mi mintit, următorele proprietăţi fundmentle: dcă trăsătur k şi trăsătur l u tendinţ, în medie, de vri în celşi sens, tunci ckl > ; dcă, în medie, vlore trăsăturii k creşte ir ce trăsăturii l scde (su invers) fţă de mediile lor corespunzătore, tunci ckl < ; în czul în cre trăsăturile sunt independente vem ckl = ; ckl ˆ ˆ k, unde ˆ l k şi ˆ l sunt deviţiile stndrd estimte pentru cele două trăsături, k şi, respectiv, l; c este vrinţ estimtă trăsăturii k. kk ˆ k 6

49 lemente de sttistică Proprietăţile enumerte nterior pentru coeficientul de covrinţă sunt devărte numi dcă numite condiţii sunt stisfăcute. Astfel, în czul trăsăturilor necorelte, ckl este egl cu zero numi dcă eistă un număr infinit de relizări prticulre le vribilei letore ; în cz contrr (număr mre dr finit de eemplre) cestă vlore nu v fi zero ci v fi o vlore forte mică, propită de zero. Punere în evidenţă influenţei mărimii setului de dte supr diferiţilor prmetri estimţi i mtricei de covrinţă v fi evidenţită în Cpitolul 7. k l (). c kl = k l k (b). c kl =.9 k l k l (c). c kl =.5 k l l (d). c kl = k l (e). c kl =.5 k l (f). c kl = k l Figur 5.3. Relţi ce eistă între diferite vlori le coeficientului de covrinţă şi distribuţi relă elementelor în spţiul trăsăturilor Pentru o problemă relă, crcteriztă de un număr suficient de mre de eşntione, vlore lui ckl, pentru situţi trăsăturilor dependente, v fi cu 6 l

50 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I mult mi mică decât vlore mimă pe cre o pote lu cest coeficient, respectiv vlore eglă cu produsul deviţiilor stndrd le trăsăturilor k şi l. Covrinţ două vribile letore, k şi l, ce descriu două trăsături le unei populţii pote lu vlori în intervlul [ k l, +k l] şi e măsoră dependenţ/independenţ între cele două vribile. Corespondenţ între vlore coeficientului de covrinţă între două trăsături şi o posibilă distribuţie elementelor unei clse funcţie de ceste două trăsături este dtă în Figur 5.3. lipsele prezentte în Figur 5.3 sunt contururile funcţiei densitte de probbilitte (intersecţi dintre funcţi densitte de probbilitte şi diferite plnuri prlele cu plnul trăsăturilor, vezi Figur 5.7) proiectte în plnul trăsăturilor (k versus l). Aceste elipse portă numele de elipse de concentrre. În Figur 5.4 se prezintă legăturile cre eistă între diferite reprezentări le elipselor de concentrre şi posibilele mtrici de covrinţă genertore le cestor reprezentări. (). lipsoizi de concentrre (b). c > c < (c). (d). Figur 5.4. Reprezentre diferitelor distribuţii Guss-iene bidimensionle prin intermediul proiecţiei cotelor de eglă probbilitte coeficienţii ckl sunt dţi de relţiile (5.97) şi (5.98) Aplicţi 5.: Utilizând progrmul din directorul TrsreDensitteGuss socit cestui cpitol: 6

51 lemente de sttistică. Introduceţi diferite vlori pentru coeficienţii mtricei C stfel încât să obţineţi în mod clittiv tote czurile prezentte în Figur Introduceţi diferite numere întregi în ditbo-ul Levels pentru obţine diferite contururi de echiprobbilitte le funcţiei densitte de probbilitte Guss-ină. Modificţi numărul de puncte pe cre fceţi nliz şi rotiţi reprezentările pentru îmbunătăţire vizibilităţii. Pentru observ simultn tât funcţi densitte de probbilitte cât şi reprtiţi punctelor în pln modificţi trnsprenţ funcţiei densitte de probbilitte guss-iene reprezenttă grfic prin intermediul ditbo-ului Trnsprenc Mtrice trnsformării: 5 = A = = Figur 5.5. fectul sclării supr distribuţiilor celor două clse 63

52 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I Întrebări:. Cum trebuie să fie coeficienţii c şi c stfel încât o elipsă de concentrre distribuţiei Guss-iene să ibă mre prlelă cu sistemului de coordonte (vezi comprtiv şi Figur 5.4 (b))?. Coeficienţii c şi c pot lu mim vlore ˆ ˆ. Atribuiţi cestă vlore, cu semnul - su +, cestor coeficienţi. plicţi rezulttele obţinute şi vizulizte = A Mtrice trnsformării: A = + 5 = Figur 5.6. Un posibil efect l unei trnsformări generle supr distribuţiilor două clse 64

53 lemente de sttistică Observţi 5.4: Diferenţ conceptulă cre eistă între Figur 5.4 şi Figur 5.3 este dtă în principl de fptul că în ultimul set de figuri este trtt czul unui vector de trăsături bidimensionl şi l corelţiei ce eistă între cele două trăsături le lui, în timp ce în Figur 5.3 este prezentt un cz mi generl şi posibilele situţii eistente între oricre două trăsături (de eemplu între trăsăturile k şi l) le celuişi vector cre de cestă dtă pote să fie unul d dimensionl. istă o serie lrgă de mecnisme cre pot determin corelre trăsăturilor unui vector letor. De eemplu, plicre unei trnsformări linire supr setului de dte pote ve un semene efect (pentru o trtre mi în detliu trnsformtelor linire vezi Subcpitolele 6. și 6.). Operţi de sclre este un eemplu prticulr l trnsformărilor linire. Din punct de vedere geometric operţi de sclre, diltă su contrctă pe un su pe mi multe direcţii pe cre se plică cest (cre corespund cu un su mi multe e le sistemului de coordonte) form glomerărilor de relizări prticulre le unei vribilei letore. Astfel, de eemplu, clusteri de vectori cre iniţil eru circulri devin de formă elipsoidlă, cu ele principle le elipsoizilor de concetrre ce crcterizeză ceste distribuţii orientte prlel cu ele sistemului de coordonte. O trnsformre liniră mi generlă introduce în plus şi o rotire în plnul trăsăturilor. Astfel, de eemplu, clusterii cre iniţil eru circulri devin cum elipsoidli cu ele principle ce fc un numit unghi fţă de ele sistemului de coordonte, Figur 5.6. În cest mod se introduce o covrinţă intre componentele vectorului de trăsături. emplu 5.3: Dcă considerăm situţi chiziţionării simultne, pe N cnle, semnlului G (în multe din situţiile prctice N pote lu şi vlori mi mri de ), tunci ceste pot fi grupte sub form unui vector letor, = [,..., N ] T R N, ce reprezintă o secvenţă de N vribile letore. Deorece conductorii pe cre se trnsmite semnlul G sunt forte propiţi, fiecre cnl induce în tote celellte un numit semnl perturbtor prin intermediul cupljului cpcitiv (prin intermediul câmpului electric) şi prin intermediul cupljului inductiv (prin intermediul câmpului mgnetic) 5. Astfel, l intrre sistemului de chiziţie unui cnl vom ve informţi de l nivelul electrodului ce corespunde celui cnl plus o combinţie de semnle (considerte ici perturbtore) de l celellte 9 cnle: 5 Acest fenomen portă denumire de difonie. 65

54 Algoritmi şi metode inteligente cu plicţii în electronică şi biomedicină, vol I i = i + i + + in N (5.) Globl pentru tote cele N cnle de chiziţie putem scrie: N N N N N NN N (5.3) Se observă că trnsformre liniră prezenttă în (5.3) este obţinută prin simpl trnsmisie informţiilor de l electrozii de chiziţie l intrările sistemului de conversie nlog-numerică. Acestă simplă trnsmisie dtelor determină o corelre mi mică su mi mre setului de dte de intrre chiziţiont de l senzorii poziționți pe scpul subiectului. Aplicţi 5.3: Utilizând progrmul din directorul Corelre seturi de dte D socit cestui cpitol precum şi setul de dte Dte clse necorelte B.tt, prcurgeţi şi răspundeţi cerinţelor de l următorele puncte:. Aplicţi trnsformările prezentte în Figur 5.5 şi Figur 5.6 şi obţineţi trnsformări similre le setului de dte, conforme cu figurile nteriore.. Determinţi o trnsformtă A (vezi Figur 5.5 şi Figur 5.6) stfel încât să obţineţi o corelre negtivă setului de dte crcteriztă de o distribuţie elementelor conformă cu Figur 5.3 (b) su (c). Figur 5.7. Interfţ grfică progrmului 66