5. FILTRE ADAPTIVE BAZATE PE MIIMIZAREA ERORII MEDII PATRATICE
5. FILTRE ADAPTIVE BAZATE PE MIIMIZAREA ERORII MEDII PATRATICE fucţia cost st roara di pătratică, () cuaţiil Wir-opf u ofră o soluţi practică coplitat arittică ridicată csită fucţiil d autocorlaţi s dorşt u algorit rcursiv
Miiizara ui fucții ral d variabilă coplă Toră O fucți, :C R ar dircția d variați aiă dată d graditul copl z,. z,,..., z z z 0 j, j, zi ai b i zi ai bi z ai bi i z z z z z z T
5. Mtoda pati dscdt ai (Stpst Dsct - SD). - S porşt d la o valoar iiţială a coficiţilor ( 0) (vtual ( 0 ) 0 ).. - S valuază dircţia pati ai d crştr î jurul acstui puct p suprafaţa. Acasta st priată. pri graditul copl 3. - S ractualizază coficiţii pritr-o dplasar p dircţia pati dscdt ai. Acasta st chivalt cu o dplasar p dircţia opusă graditului cu u pas µ, µ R : µ 4. - S ria procdul di puctul.
5. Mtoda pati dscdt ai (Stpst Dsct - SD) [ 0,,, ] ( ) p R ( ) µ ( ) µ ( p R )
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza stabilităţii algoritului Vo itroduc vctorul roar a coficiţilor, ( ), R p c o o ( ) ( ) µ ( p R ( ) ) c ( ) ( I µ R ) c ( ) ( ) ( I Q Λ Q ) c c µ
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza stabilităţii algoritului I Q Λ Q c c µ ( ) ( I Λ ) Q c Q c µ Vo itroduc vctorul roar rotit, v(), v Q c Q ( ) ( ) ( I Λ ) Q c v ( ) ( Iµ Λ ) v Q c µ o
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza stabilităţii algoritului Codiţii iiţial: v v( 0 ) Q ( ( 0) o) ( ) ( µλ ) v,,, v ( µλ ) v ( 0), Stabilitata schi, dci covrgţa algoritului ipu ca v () să tidă la 0 câd. Ptru acasta st csar şi suficit ca: µλ < sau 0< µ <,,, λ 0< µ< 0< µ< λa λ a
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza covrgţi λ R v () va dscrşt cătr 0 fără oscilaţii. Distig cazuril: a) 0 < µλ < sau 0< µ < v dscrsc uifor λ v v v ( 0) ( 0) v v / τ v ( 0), τ l ( µλ )
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza covrgţi b) < µλ < 0 sau < µ < - şir altrat λ λ v, τ l / τ v ( 0) v v v ( 0) ( 0) v ( µλ )
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza covrgţi c) µλ 0 0, v / τ v s v 0, τ, s sg µλ l µλ i Coficiţii () s pot pria sub fora Qv q v ( τ ) i oi q iv 0 s q v ( 0)( µλ ) oi o o
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza covrgţi i Qv q v ( ) ( τ ) i oi q iv 0 s q v ( 0)( µλ ) oi o o Covrgţa coficiţilor ar loc după o suă podrată d poţial. S obţi vitza d covrgţă aiă atuci câd q i v [0] sut uli, ptru toţi, cptâd valoara corspuzătoar lui λ Ma. Dacă u sut prcizat codiţiil iiţial, î cazul cl ai dfavorabil, vitza d covrgţă st dtriată d λ i.
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Aaliza covrgţi µ r, 0< r λ a < λ i oi qiv 0 r λ a Trul cl ai lt dscrscător st acla car coţi factorul λ r i λa R rău codiţioată (raport λ Ma /λ i ar) covrgţă ltă.
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Curba d îvăţar { } d d o o c c E o o { } { } { } { } { } o o o o o o c c c c c c E E E E E c[] st dtriist, o satisfac pricipiul ortogoalităţii Rc c i
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Curba d îvăţar sau sau scalar: c Rc i c Q ΛQ c v Λv i i λ v λ ( µλ ) v ( 0) i i i λ τ v ( 0) Curba obţiută rprztâd () st curba d îvăţar a algoritului. Idifrt d codiţiil iiţial v (0), roara di pătratică tid cătr i dacă st îdpliită codiţia d stabilitat.
5. Mtoda pati dscdt ai (Stpst Dsct - SD) Curba d îvăţar v v i λ λ Itrscţiil cu pla cost sut lips cu sial i i, λ λ b a
5. Algoritul graditului stohastic (LMS) Î cazul todi SD ajustara coficiţilor s fac p baza graditului rorii dii pătratic: p R R p d ( ) ; E { }; E{ } Mdiil statistic î gral u sut îsă cuoscut. S rcurg la o stiar a graditului utilizâd işt valori stiat ptru cl două atric ruţâd la opraţiil d dir statistică: Rˆ ; pˆ d ( ) d ˆ ( ) µ d ( ) µ
5. Algoritul graditului stohastic (LMS) ( ) µ d ( ) µ () µ d () () z ()
5. Algoritul graditului stohastic (LMS) ( 0 ) 0 for 0,,, y d y ( ) µ d
5. Algoritul graditului stohastic (LMS) Obsrvaţii - Coplitat arittică: N îulţiri şi N aduări ptru ficar itraţi - Avâd î vdr critriul d optiizar s îtâlşt î liba glză sub duira Last Ma Squar (LMS). - Fiid calculat d ficar dată utilizâd stul d şatioa [], c au u caractr alator, fără a fctua o dir, graditul stiat va ava d asa u caractr alator. - Îulţiril cu [] di scha algoritului dau acstuia u caractr liiar
5. Algoritul graditului stohastic (LMS) Aaliza covrgţi Probl d covrgţă - Tid valoara di a vctorului () cătr o atuci câd? Î caz afirativ, s zic că algoritul st covrgt î di. - Tid () cătr o valoar fiită atuci câd? I caz afirativ s spu că algoritul st covrgt î di pătratică.
5. Algoritul graditului stohastic (LMS) Ipotz d idpdţă: -,,, sut statistic idpdţi. - () şi d() sut statistic idpdt faţă d d(),...,d(-). - vctorul d itrar () şi d() forază îpruă u st d variabil alatoar gaussi. Datorită lipsi dirii î calculul graditului apar u zgoot d gradit ˆ ( ) ( ) ˆ E ˆ E ( ) { } ( { }) E { } 0
5. Algoritul graditului stohastic (LMS) P d altă part, rlaţia d ractualizar a coficiţilor dvi µ µ p R µ ( ) µ µ o o o c( ) ( Iµ R) c µ v ( ) ( I µ Λ ) v ( ) µ Q ( ) E { v( ) } ( Iµ Λ) E{ v } c c p R Rc
5. Algoritul graditului stohastic (LMS) Avâd î vdr aalogia forală ditr acastă cuaţi şi ca corspuzătoar î cazul algoritului SD, cocluziil tras acolo ptru vctorul roar a coficiţilor s pot traspu aici ptru dia acstui vctor. Algoritul LMS st covrgt î di dacă: 0< µ< λ a (0) () 0
5. Algoritul graditului stohastic (LMS) Aaliza covrgţi î di pătratică E { } i E c c { } { { } { { } c c E tr c c E tr c c { { } { } tr E E c c tr{ RC } { } C E c c { } i tr RC i
5. Algoritul graditului stohastic (LMS) ud () rprzită o roar î cs. ud tr Q ΛQ C { } i tr RC i { } { } tr ΛQ C Q tr Λ K i i i K { } v v Q CQ E λ i i ii { } Î raport cu filtrul optial, apar dci o roar di pătratică suplitară, sau î cs, otată cu, c poat fi pusă p saa zgootului d gradit. Ptru valuara sa sut csari trii d p diagoala pricipală a atrici K().
5. Algoritul graditului stohastic (LMS) ( ) tr Cop. staţioară Cop.trazitori ( ) i i µλ i µλ i µλ i i µλ i
5. Algoritul graditului stohastic (LMS) S dfişt dzadaptara (isadjustt) pri Ptru M µ<< λ a ( ) i i µλ i µλ i µλ i i µλ i M µ i λ i µ r µ ( 0) λd, ud λd i λ i
5. Algoritul graditului stohastic (LMS) Ar î gral o tdiţă d scădr cu icşorara pasului µ, d crştr cu ordiul filtrului N, şi proporţioal cu putra di a salului d itrar. Copota trazitori tr 0 câd dacă Dacă 0 << 0 < < µλ µ i < λ µλ a i <µ abl codiţii sut îdpliit dacă 0< µ < j λ j i
j 5. Algoritul graditului stohastic (LMS) { } P, 0,,, ( 0), r( 0) E ( ) ( ) λ j r P rprzită putra scvţi, dci o foră siplificată a codiţii d covrgţă st: µ 0< µ < ; M P P S poat itroduc o costată d tip di: τ d µλd car caractrizază vitza d scădr a părţii trazitorii a rorii. S costată că dacă µ st ic, costata d tip ar, coducâd la o adaptar ltă, dar dzadaptara st ică.
Eplu fctul valorii pasului µ 0.5 0.45 0.4 Idtificar d sist-curba d ivatar i0,3 iu0,03 0.35 0.3 0.5 0. 0.5 0. 0.05 0 0 500 000 500 000 500 3000 3500 4000
5.3. Mtoda graditului stohastic oralizat (Mtoda oralizată a iiizării rorii dii pătratic - LMS) Poat fi privită ca o problă d optiizar cu costrâgri. N propu să dtriă oil valori () al coficiţilor astfl îcât să s iiizz ora uclidiaă a variaţii: δ ( ) ( ) cu codiţia ca: ( ) d () dci oii coficiţi să aibă acl valori car, cu u tact ai îait, ar fi aulat roara. Vo costitui fucţia cost rală: { [ ]} δ ( ) Rλ ( ) d car îşi atig iiul odată cu δ dacă st îdpliită codiţia ()
5.3. Mtoda graditului stohastic oralizat (Mtoda oralizată a iiizării rorii dii pătratic - LMS) [ ] d d λ λ d d λ λ λ λ
5.3. Mtoda graditului stohastic oralizat (Mtoda oralizată a iiizării rorii dii pătratic - LMS) Ptru a găsi vctorul () c iiizază acastă prsi vo aplica toda graditului copl. ( ) ( ) Rzultă: ( ) ( ) ( ) ( ) ( ) ( λ λ ) λ ( ) - λ 0 ( ) λ
5.3. Mtoda graditului stohastic oralizat (Mtoda oralizată a iiizării rorii dii pătratic - LMS) λ s obţi puâd codiţia ( ) d Ptru acasta s îulţşt la stâga cu () rlaţia: ( ) λ ( ) λ λ λ ( ) d
5.3. Mtoda graditului stohastic oralizat (Mtoda oralizată a iiizării rorii dii pătratic - LMS) Noii coficiţi s vor calcula dci cu forula: ( ) S obişuişt să s itroducă o scalar a pasului cu o costată µ, dci: µ ( ) Poat fi chivalat cu algoritul graditului stohastic ptru: µ µ î car pasul st variabil. Covrgţa î di pătratică st asigurată dacă: 0 <µ <
5.3. Mtoda graditului stohastic oralizat (Mtoda oralizată a iiizării rorii dii pătratic - LMS) Evită pri orar aplificara zgootului graditului, î prsia coficiţilor (). Apar î plus u uăr d îulţiri şi - aduări la calculul ficărui coficit, ca urar a csităţii valuării lui Frcvt. Evtual ( ) ( ) ( ) ( ) ( ) 0 ( ) µ a ; a> 0 ud a st o costată ică, adăugată ptru a vita îpărţira pri zro.
5.4 Mtoda graditului ptru structuri latic (GAL) N pu, ptru îcput, probla proictării uui prdictor latic adaptiv. Vor trbui dci optiizaţi coficiţii iar fucţia cost poat fi dfiită porid d la roara d prdicţi dirctă, ivrsă, sau copusă. Să cosidră o clulă a filtrului şi să dtriă aşa îcât să fi iiizată roara di pătratică d prdicţi, î fora copusă, f ( ) * b ( ) z - f b E b ()
5.4 Mtoda graditului ptru structuri latic (GAL) Abordara SD. Cofor todi graditului, va trbui luat (), µ Va trbui dci valuat graditul copl î raport cu * : { } f f f f E { } b b b b E Vo folosid rlaţiil d rcurţă: b f b b f f () i r j
5.4 Mtoda graditului ptru structuri latic (GAL) ( * ) ( ) f f b b f b f f b b ( ) ( ) 0 b f b f ( ) ( ( )) ( ) ( ) 0 { } ( ) E f b b f
Rzultă dci: 5.4 Mtoda graditului ptru structuri latic (GAL) sau aplicâd () Codiţia d stabilitat st: { } f b b f ( ) µ E ( ) f b { ( )} µ E { } b f ( ) µ E ( ) µ E b < f 0< µ < b { } f E
5.4 Mtoda graditului ptru structuri latic (GAL) Abordara LMS Cu îsă diil statistic u sut î gral cuoscut, s prfră d obici utilizara graditului stohastic, ruţâd la opraţiil d dir: { } f b b f ( ) µ E ( ) f b b f ( ) µ ( )
5.4 Mtoda graditului ptru structuri latic (GAL) Abordara LMS S poat utiliza u algorit oralizat, orâd icrtul la rgia rorii d prdicţi copusă, corspuzătoar itrărilor cluli : µ µ µ W { } f b ( ) W E
5.4 Mtoda graditului ptru structuri latic (GAL) Aproiativ f b W ( i) ( i ) i ( ) f b W Uori s itroduc u paratru 0<ß<, car prit alocara uor podri difrit ptru şatioal prcdt şi cl actual: f b W β W β
5.5 Algoritul LMS ptru structuri latic-scară Algoritul GAL prita obţira uui prdictor. Ptru a obţi u Filtru adaptiv s adaugă o structură î scară. f 0 ( ) f f f () () b ()( ) b ( ) b () b ( ) 0 h0 h h h y
5.5 Algoritul LMS ptru structuri latic-scară Abordara SD Pu codiţia ca işira să stiz cât ai corct u sal dorit d(). h ( h, h,, h ) 0 T b b b b o,,, d y d h Coficiţii i s calculază cu algoritul GAL, iar h i di codiţia iiizării fucţii cost { } E T b
5.5 Algoritul LMS ptru structuri latic-scară Cofor cuaţii Wir-opf, coficiţii optii sut daţi d ud R h r o d { b } ; r E d b { } R E d Î cazul coficiţilor i optii, işiril latici sut ortogoal, 0, r l { b b } E b r l b E r l r r, R h o, b { b b b } 0,,, { b } d diag E b
5.5 Algoritul LMS ptru structuri latic-scară Ptru u algorit rcursiv, rcurg la toda graditului. Î variata SD: h h µ Abordara LMS ( ) rd R h E{ b } E{ b b d } h Cu valoril dii u sut î gral cuoscut, aplică toda graditului stohastic (LMS), ˆ b d b b b h ( ) h ( ) h µ b
5.5 Algoritul LMS ptru structuri latic-scară Variată ptru grara rorii d stiar. f 0 ( ) f f f () () b () b ( ) b () b ( ) 0 d () h 0 h h h Avataj: covrgţă ai rapidă, datorită dcorlării datlor, d cătr structura latic. Dzavataj: coplitat arittică ai ridicată