O={ k w kj } Dakako, u općenitom slučaju mreža ima više od jednog neurona u izlaznom sloju. Neka ti izlazi čine skup O. Onda redefiniramo pogrešku:

HTML
DOWNLOAD

Μέγεθος: px

Εμφάνιση ξεκινά από τη σελίδα:

Download "O={ k w kj } Dakako, u općenitom slučaju mreža ima više od jednog neurona u izlaznom sloju. Neka ti izlazi čine skup O. Onda redefiniramo pogrešku:"

Αμάρανθος Αγγελίδης
8 χρόνια πριν
Προβολές:

1 Izv BP algrma a. g. 0./03. Pgrešu za ean prcesn elemen efnral sm a: w H D e varan supane svarng zlaza želeng zlaza sumran p svm prmerma za učene D. Far psan e ra pračns paza će se asne, n sam salra vrens pgreše. Pgreša e funca w H, er zlaz prcesng elemena se pavlue u zrazu vs negvm ežnama. w O{ w } Daa, u pćenm slučau mreža ma vše eng neurna u zlaznm slu. Nea zlaz čne sup O. Ona reefnram pgrešu: w H D O pr čemu ver w H sarž sve ežne mreže znač: nevsn em e prcesnm elemenu reč. Drugm rečma, pgreša vs svm ežnama mreže. mplcn phranenm znanu. Saa e naš zaaa prnać ne ežne mreže ver w H za e e uupna pgreša mreže a e funca w H mnmalna za sve ulazne prmere D. Učene se sv na ugađane vera w H sve pgreša ne zavlavauće mala. U ermnma srng učena:. zaaa T: učene clng ncepa c:x T X e sup ulaznh uzraa, x X, xx, x n, T e sup zlaznh uzraa, T, y, y m, n e br neurna u ulaznm slu, m e br neurna u zlaznm slu. mera P: negavan zns pgreše - 3. susv : ulazn prmer D X e funca vera w H,. w, w,..., w, pa e w H : 0 n H w,,..., w0 w w n Ova funca pćen ma brne lalne mnmume. U načelu e reč pmzacsm prblemu u prsru s brem menza enam bru ežna u mrež. /6

2 Izv BP algrma a. g. 0./03. Graenn spus Iea e prnać na ver w H će mnmzra w H : H H w argmn w H w BACKPROPAGATION algram emel se na LMS algrmu. LMS algram emel se na graennm spusu. Ver ežna ugađam prema: pr čemu e H H H w w + w w H negavan zns graena H H w η w. Graen e negavan a b svarl spus ervaca ae smer prasa pgreše, a negavna vrens ervace ae smer paa pgreše. η značava ra preražvana graenng spusa zv. spu učena. Is mžem napsa za enu mpnenu: w η w BACKPROPAGATION algram emel se na nremenalnm psupnm pešavanu ežna za sva prečen prmer. T e zv. shasča aprsmaca graenng spusa: umes a zračunam pgrešu mreže za sve D pa na ugađam ežne, m želm pgrešu računa za sva ulazn prmer mah ug ežne. Na a načn zaprav rvuam mnmuma, a pazal se a e a laše zbeć zaglavlvane u brnm lalnm mnmumma. Za će nas u nasavu zanma sam vsns pgreše w H H, pa pšem w. Znam a pgreša vs prečenm prmeru, al na prmer ne mžem ueca. Naš zaaa ne mena prmer, već ežne. Za nas zanma vsns pgreše ežn, a vsns D navm e a nes. w H D O w H O -za sva prečen prmer D ug ćem ežne računauć pgrešu p grn frmul. Nan š prđem sve prmere celu ephu čeuem a će uupna pgreša b mana. Dale zanma nas w η w w η w e prmena ežne zmeđu neurna a ežna prpaa neurnu. /6

3 Izv BP algrma a. g. 0./03. Izraz w η w reflera ueca ežne w na pgrešu mreže zaanu sa. Funcsa vsns pgreše w uprav psue prpagacu sgnala rz neurn: ueca na w Znam z sle vm a e f,... f f w,... pa rsm pravl ulančavana pšem: w Pr me sm član η ηx w w la zračunal er nam e pznaa funcsa vsns: w l w w l x l x A član sm značl s 3 e pgreša m neurn ueče na zns uupne pgreše za uzra. U nasavu ćem a član ensavn nazva pgrešm neurna. Uvršavam zraz u zraz 3 bvam: 3/6

4 4/6 Izv BP algrma a. g. 0./03. O Pgreša e funcs vsna svm zlazma z neurna u zlaznm slu. Nas zanma ervaca e funcse vsns p zlazu neg przvlng neurna u mrež,. zanma nas a se pen O mena u vsns nem. Razmrm va slučaa:. ueče na zravn. U m slučau neurn e ean neurna u zlaznm slu,. O.. ueče na nren pre rugh neurna. U m slučau neurn e u srvenm slu,. O. Neurn vansg sla U vm slučau za š O u nazvnu zraza O ps ean prbrn za eg e nsn, a sv sal nsu zavsn neurnu nsn. On će se ervrana pnš. Sga pšem ensavne zbacuem sumu ulančavam rseć rugu enas z : O Prv član e: Drug član e ervaca sgmalne funce, er e funcsa vsns uprav sgmalna funca, pa vre: Nan uvršavana bvam: [ ] Ove se pavlue član - značava supane raženg zlaza svarng zlaza. K neurna nsu vansg sla, ne znam e ražen zlaz, pa će a član - a ćem ve - b zamenen nem rugm zrazm.

5 Izv BP algrma a. g. 0./03. Neurn unuarneg sla Ogrančm se NSO na ne neurne su u slu zlazng sla. U m slučau u zrazu O ueče na zlaze sam nh neurna č su ulaz spen ren na zlaze z neurna. Ta sup nazvam Dwnsream: Dwnsream { } w pr čemu sa w značavam psane pvezans zmeđu neurna neurna. Slčn a u slučau a e O, a se u u zbru menau en prbrnc funcs vsn, a su sv n z negvg wnsreama. Osal prbrnc se u ervac pnšavau, pa pšem ensavne: O Dwnsream Ulančavam rseć vsns f a przlaz z Dwnsream: Dwnsream Prv član već sm zračunal u grnem slučau, n e ena pgrešc neurna z zlazng sla, u znam zračuna a nam e pznaa. Drug član rešavam pe rseć se ulančavanem ruga enas z : Prv član ena e w. Name, na zlaz neurna spen e neurn, nsn čne: ean zlaz z neurna spen e na ean ulaz neurna s prpanm ežnm w frmra, pa ervranem bvam: w l l w Drug član ena e ervac sgmalne funce. Napsleu bvam: w Dwnsream nsn, s bzrm a Dwnsream, zvlačm ga pre sumu pšem: 5/6

6 Izv BP algrma a. g. 0./03. w Dwnsream Kmenar Usprem pgrešu za neurn z zlazng sla za neurn z sla zlazng: w Dwnsream K neurna u slu zlazng supane - ne računam zravn er ne mžem. Umes ga rsm pgreše neurna su pvezan na negvm zlazu u blu ežnse sume h pgrešaa. Težnu ređue veza w. Na a načn sva e neurn z sla zlazng za pgrešu na zlazu gvran nl l e pvezan s zlazm, u slau s m b će prveen ugađane negvh ežna. T e rešene cre assgnemen prblema. Ia sm se u razmaranu računana pgreše neurna grančl sam na ne neurne su u srvenm slu zlazng sla, psupa se ne mena u pćenm slučau. Taa ćem, name, nan š zračunam pgrešu u slu zlazng, s pnv za sleeć, ubl sl. Pr m se vše nećem rs pgrešama neurna zlazng sla, već pgrešama neurna z sla zlazng, e sm prehn zračunal. Na a načn pgreše neurna u mrež računam p slevma, zlazng pre srvenh sve ulazng. Drugm rečma, pgreša se rasprsre unaza p mrež. Uprav na a načn funcnra BACKPROPAGATION algram. 6/6

Σχετικά έγγραφα

Trigonometrijski oblik kompleksnog broja

Trigonometrijski oblik kompleksnog broja Trgnmetrjsk blk kmpleksng brja Da se pdsetm: Kmpleksn brj je blka je realn de, je magnarn de kmpleksng brja, - je magnarna jednca, ( Dva kmpleksna brja su jednaka ak je Za brj _ je knjugvan kmpleksan brj.