Srukure GMDH u modelrnju predkcj vremenskh serj Ivn Ivek
Group Mehod of D Hndlng Ivkhnenko, 966. regresj, esmcj, predkcj, konrol... Dobr svojsv: nskoprmersk lgorm smopodešvnje srukure selekcj ulnh vrjbl
Osnovn čvor 0 3 4 5 ), p( + + + + + + + [ T N K T j j jn j K p(.,. ) SSE regresj: regresor: n lu blok želmo: [ T N K T j j jn j K [ T N K neponnce ( ) 5 4 3 0 4 3 3 3 4 3 3 3 3 3 0 ˆ N N dsse SSE [ T N ˆ ˆ ˆ ˆ K
COMBI lgorm učenje Generrj nove čvorove kombnrnjem svh čvorov dosdšnjh slojev U novom sloju drž K njboljh po vnjskom krerju N- sloj. sloj. sloj Sloj regresor
Vnjsk krerj pogreške Funkcj: Zdržvju smo njuspješnje čvorove Sprečvju overfng. Evlurn n es-seu Npr. SSE. Evlurn n seu renrnje Npr. Predced Squred Error Informčk krerj Tpčn srukur GMDH p(.,. )
Vremenske serje () -D dskren sgnl Tme embeddng prognou budućnos grdmo n emelju snnj o prošlos (vremensk domen) prošlos serje ogrnčvmo n d uork d... Tme Embeddng dmenson f ˆ [ n nt [ 3 [ [ 3 [ d d
Vremenske serje () Sohsčko modelrnje kd model s prosorm snj nje prkčn npr. velk broj snj AR, ARMA model Kočn rkor ko urok vremenske serje nskodmenonln prosor snj s krkerskm kos krkoročn predkcj česo neuemeljeno; reul su jedno oprvdnje
AR (Auoregressve) model [ d α [ + ε[ Preposvk: ε[ nepon, l mlen ε[ << [ ˆ[ [ ε[ Σ ˆ [ d [ [ 3 [ [ 3 [ d d
Nelnern AR model Generlcj lnernog AR: [ f ( [, [, K, [ d ) Nelnernos f() modelrmo GMDH mrežom [ [ GMDH [ [ 3 [ d G M D H
MA (Movng Averge) model [ e β ε[ Nje prkčn: ε[ je u popunos nepon model je neovsn o prošlos serje
ARMA (Auoregressve Movng Averge) model () [ [ [ [ e d ε β ε α + + Preposvk: ˆ[ [ ˆ[ [ [ << ε ε ˆ[ [ ˆ[ b e d + ε
ARMA (Auoregressve Movng Averge) model () Σ ˆ [ 3 d [ [ [ 3 [ d ˆ [ Σ b b b3 be Σ ˆ ε[ ˆ ε [ ˆ ε [ 3 ˆ ε[ e
Nelnern ARMA model () Nelnernos želmo ops GMDH mrežom ˆ [ Povrn ve onemogućuje sndrdno učenje GMDH! GMDH ˆ [ [ [ [ d ˆ ε[ ˆ ε[ e ˆ ε[ Σ
Nelnern ARMA model () Moguć lernv učenje: Bckpropgon Through Tme (BPTT) gubmo smoorgncju srukure selekvnos ul Prjedlog: loklno rekurvn prmv ko GMDH čvor: GMDH p(.,.) BPTT učenje dpvn srukur mreže međusobnm povevnjem prmv
ˆ [ okln ARMA polnomsk prmv p(.,.) ˆ [ [ ( j ) Σ ε [ j p(, ) + 5 3 + + 4 + + 0 + + [ p(.,.) j ε[ j ( j) Σ ˆ [ j [ j ˆ [ j j p(.,.) [ j ˆ [ j ( j ) Σ ε [ j BPTT: j [ j p(.,.) rsprosrje je u ekvvlennu feedforwrd mrežu koj se m renr bckpropgon lgormom M ( j ) Σ ε [ 3 j
NARMA-slčn GMDH srukur ˆ [ p(.,.) j ( j Σ ) p(.,.) j ( j Σ ) p(.,.) j Σ ( j ) GMDH [ [ [ 3 [ d
Rekonsrukcj kočnh rkor punovljev eksponen Necjelobrojn dmenj Tme-del embeddng heorem Meode krkoročnu predkcju N prmjeru: Zuerch monhl sunspo numbers 749-983
punovljev eksponen Bo-counng dmenson d r n ercj nh e dr k - dmenonln rkor prekrvmo k-dmenonlnm kockm s srncm ε 0 D rkor n n h e d r H... njveć punovljev eksponen Grnčn slučj: ln M ( ε ) D lm ε ln( ) 0 0 ε
Tkensov eorem Tme-del embeddng U preposvku d je dnmk vremenske serje kočn rkor s bo-counng dmenjom d, rkor se može rekonsrur u k-dmenonlnom Eukldskom prosoru u k > Preosje odbr - kšnjenj - dmenje d Mnmum mjere jednčke nformcje među uork kšnjelog uork Cov meod
Rekonsrurn rkor Embeddng dmenson: 6 Del: 40 (projekcj rekonsrukcje n prve 3 prncplne komponene)
Predkcj rjekorje Krkoročn njblž susjed nerpolcj rjekorje (lokln) predkcj nern nerpolcj 6 njblžh susjed
Moguć GMDH nerpolcj be nerpolcje susjednh rjekorj nerpolcj n emelju: -krke prošlos rjekorje koju predvđmo -krke prošlos susjednh rjekorj Svk uork u k-dmenonlnom prosoru snj poroš će k ul u GMDH mrežu Mrež će m k-l (ekvvlenno, renr se k mrež mnmcjom ukupne jednčke sume kvdr pogreške)