MEODE OPIMIZACIJE NELINEARNO PROGRAMIRANJE Dr Dšć Dr Mloš Stć Grđevsk kultet Uverztet u Beogrdu 4. UVOD
FORMULACIJA PROBLEMA Zdtk optmzcje je prolžeje promeljvh pr kojm clj krterjumsk ukcj uzm ekstremu mmlu l mksmlu vredost, uz ogrčej s kojm se deše prostor mogućh rešej. m R, j,, J j, k,, K k krterjumsk ukcj, φ ogrčej u orm jedkost Ψ ukcje ogrčej u orm ejedkost. FORMULACIJA PROBLEMA Ako se rd o problemu određvj mksmum ukcje, o se dobj veom jedostvom reormulcjom problem: m = m Ako su krterjumsk ukcj ukcje ogrčej lere, rd se o zdtku lerog progrmrj. Ukolko ukcje ogrčej e postoje, od se rd o problemu bezuslove optmzcje. m * R
FORMULACIJA PROBLEMA Ukolko ukcje ogrčej postoje, moguće je preormulst optmzco zdtk uvođejem kzee ukcje P. m * R R j, j,, J P j m, k j k k, k,, K m P Očgledo je d je vredost kzee ukcje P=, kd su sv ogrčej zdovolje, čme je moguće optmzco zdtk s ogrčejm svest zdtk bez ogrčej. Bezuslov optmzcj - ukcj jede promeljve Uslov optmlost Egzstecj rešej - d l rešeje postoj? Potreb uslov: Dovolj uslov: ko je * tčk u kojoj je spuje potreb uslov pojve loklog ekstrem * ukolko je *, od je * tčk loklog mmum. Rzvojem ukcje u ylor-ov red u okol * : * * * * * 3
4 Metode zsove grdjetm Newto-ov metod Rzvojem ukcje u ylor-ov red dobj se: Postvljjem potrebog uslov =, uz zdržvje prv 3 čl red, dobj se: Imjuć u vdu d su zdrž smo prv tr čl ejlorovog red, do rešej se stže u tercjm: Bezuslov optmzcj - ukcj jede promeljve Metode zsove grdjetm Newto-ov metod Problem se svod prolžeje ule ukcje. Uslov z uspešu prmeu metode: pozt prv drug zvod ukcje rezultt može zvst od zbor tčke od koje se počje s pretrgom slk prmer uspeše prmee metode, slk b prmer euspeše Bezuslov optmzcj - ukcj jede promeljve
5 Metode zsove grdjetm Newto-ov metod Ako prv l drug zvod ukcje su pozt l h je teško odredt, se mogu srčut prblžo, prmeom metode kočh rzlk: Bezuslov optmzcj - ukcj jede promeljve Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Egzstecj rešej - d l rešeje postoj? Grdjet ukcje: m R * Potreb uslov loklog ekstrem: *
6 Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Potreb uslov loklog ekstrem: * ep Prmer e e / m / m / ep ep / / Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Prmer metod jmjh kvdrt Potreb uslov loklog ekstrem: Problem prolžej polom stepe P s kojm treb tovt tčke merej : {,y,, m,y m } P Potrebo je odredt koecjete polom vektor =[,, ], koj predstvljju mmum ukcje greške: m P y / / Dobj se sstem lerh jedč koj se rešv po epoztom vektoru.
7 Bezuslov optmzcj - ukcj vše promeljvh Prmer metod jmjh kvdrt gde je s r ozče vektor rezdul. Fukcj, koj predstvlj sumu kvdrt odstupj m oblk: Ovj problem se može pst u mtrčom oblku: m m m A y y y b,, m m y P y P b A r b b A b A A r r Iz potrebog uslov optmlost, dobj se: b A A A b A A A Bezuslov optmzcj - ukcj vše promeljvh Prmer metod jmjh kvdrt Prmer: m = 4 Koršće polom: =, 3 Sredje kvdrto odstupje: err = r r/m =.45,.4.4
Bezuslov optmzcj - ukcj vše promeljvh Prmer metod jmjh kvdrt S polomom većeg stepe, moguće je dobt bolje slgje, l to podrzumev pojvu osclcj koje jčešće su deo prrode eome. Zbog tog se ukcj greške često predstvlj sledeć č: r r gde je γ > koecjet kojm se pelzuju polom všeg stepe. A A E A b E jedč mtrc dmezj + Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Potreb uslov loklog ekstrem: * Dovolj uslov mmum : Rzvojem ukcje u ylor-ov red u okol tčke * zdržvjem * * * * * * smo prv tr čl: Mtrc Hess-: H Ako je * * tčk u kojoj je zdovolje potreb uslov optmlost d b t tčk bl mmum, potrebo je d > * z čeg sled dovolj uslov mmum ukcje vše promeljvh: * gde je: H * 8
Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Potreb uslov loklog ekstrem: * Dovolj uslov mmum ukcje vše promeljvh, je d mtrc Hess- H bude poztvo det: H * Po decj, poztv detost mtrce podrzumev d prethod uslov bude spuje z blo koj vektor Δ. Kko prethod uslov mor bt spuje z svk jedč vektor, to zč d djgol elemet mtrce H morju bt poztv je dovolj uslov. Postoj ekolko č d se prover poztv detost mtrce H. Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Smetrč mtrc je poztvo det, ko su sv mor glve djgole H poztv. Prmer: Determte glvh mor: H, H, H 33 su poztve, p je mtrc poztvo det: H H H 33 8 8 8 6 8 6 6 8 6 6 6 4 9
Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Drug č z proveru poztve detost mtrce je preko sopstveh vredost. H H E Sopstvee vredost λ se dobjju z uslov d etrvjl rešej sstem postoje kd je spuje uslov: H E Ako su sve sopstvee vredost, smterče mtrce H H poztve, mtrc je poztvo det: H Prmer: H H E Bezuslov optmzcj - ukcj vše promeljvh Uslov optmlost Prmer: B ukcj Potreb uslov:, y y 4 y * *, y y Dovolj uslov: 4y H 4 4 8 H, 4 4
Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Metod Newto- Iz uslov d je prv zvod ukcje jedk dobj se: Do rešej se dolz u tercjm: H Predost ove metode je brz kovergecje. Kod kvdrth ukcj, rešeje se dobj u jedom korku. Nedosttk je, što je potrebo rčut mtrcu H jeu verzu vredost u svkoj tercj prorču. Osm tog prorču je veom osetljv zbor počete tčke. Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Metod Newto- Prmer: 3 3 Orgl Newto-ov metod zhtev pozvje prvog drugog zvod ukcje: 6 3 6 H Usvj se počet tčk: =[, ] 3 6 6 6 / / H U tčk =[3, ], spuje su potreb dovolj uslov, p je t tčk lokl mmum.
Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Mmum: m =, Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Metod jstrmjh grdjet Cuchy-jev metod Kod metode jstrmjh grdjet, prolz se jmj vredost ukcje u prvcu vektor Δs. s Kko je dej d se dje mj vredost ukcje to mor bt spuje uslov: s s s Sclr prozvod dv vektor je mml kd su o prlel suprotm smerovm, p Δs treb rčut z uslov: s gde je α > velč kork propgcje u prvcu Δs.
Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Metod jstrmjh grdjet Cuchy-jev metod Vredost α, je prozvolj. Ml vredost, b zčl sporu kovergecju, prevelk b mogl dovest d se promš clj ode dlje od loklog mmum. Kork α se mej u svkoj tercj prorču dobj se z uslov mmumu ukcje: d d Nov vredost vektor: Ako se Cuchy-jev metod upored s metodom Newto-, očgledo je d je mtrc H pojedostvlje d se rču: H E Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Metod jstrmjh grdjet Cuchy-jev metod Prmer: 5 3, počet tčk je =[, 5] Prv tercj: 75 5 9 Kork propgcje α se lz z uslov mmum ukcje u prvcu grdjet u tčk : 75 5 75 5 9 9 d 5975 399.4 d 3.78 3.78 Drug tercj:,.99.99 = [-.7, 3.397] Iz mmum ukcje ϕα, dobj se α =.66, p je =[-.797,3.] reć tercj:.6.6, 3.4 3.64.64.899 3.9 Dobjeo rešeje je veom blsko tčom: * = [-4/5,6/5] = [-.8,3.] 3
Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Metod jstrmjh grdjet Cuchy-jev metod Nedosttk Cuchy-jeve metode je što se u svkoj tercj trž tč velč kork u prvcu jstrmjeg pd, što može bt veom složeo. Z rešvje relh problem, jčešće tč vredost kork α je tko vž, već b prolžeje prblže vredost blo dovoljo dobro. Ako se α, trž prblž č u svkoj tercj prorču, morju bt spuje određe uslov, kko zbr vredost e b bl prevelk l preml. Wole-ov uslov postvljju ogrčej po ptju vredost ukcje prvog zvod Gde je ε prmetr koj uzm vredost do ½. Algortm z prolžeje prhvtljve vredost α: kree se s mksmlom vredošću spt se spujeost Woleovh uslov. Ako uslov su spuje, kork se redukuje možejem s ktorom koj je mj od pr..9. Postupk se povlj dok uslov su spuje. Bezuslov optmzcj - ukcj vše promeljvh Metode zsove grdjetm Osov korc optmzcoh metod zsovh grdjetm: Deše se počet tčk =,,,.. provert kovergecju u tčk srčut prvc pomerj p odredt velču kork pomerj α odredt položj ove tčke + = + α p Sve metode zsove grdjetm se rzlkuju po tome koj č se rčuju prvc pomerj velč kork. 4
Bezuslov optmzcj - ukcj vše promeljvh Metode bez grdjet Kd zvode ukcje je moguće odredt eksplcto, jed mogućost je d se to urd prblžo - umerčk, drug je d se prorču sprovede prmeom eke metode koj e zhtev pozvje zvod ukcje. Metod Nelder-Med-: Kod ove metode, z prorču se korst skup rešej, koj se pomer z jede tercje u drugu. Brojost ovog skup je z jed već od broj epozth, odoso od dmezj vektor. Itertv skup P, koj m + tčku u dmezolom prostoru, se zv smple. Kd je problem dvodmezol, smpleks je trougo. U slučju ukcje s 3 epozte, smple je tetredr. Bezuslov optmzcj - ukcj vše promeljvh Metode bez grdjet Metod Nelder-Med- Osov korc Prv kork je d se ormr skup P koj se ztm sortr prem vredost krterjumske ukcje : P {,, Ztm se lz cetr smpleks l se prethodo zostv tčk +, koj je jlošj tčk z skup P: c N osovu tčke c lz se tčk r, koj predstvlj releksju jlošje tčke skup P: r c c, gde je α, koecjet već od občo. 5
Bezuslov optmzcj - ukcj vše promeljvh Metode bez grdjet Metod Nelder-Med- Osov korc D l se ov tčk prhvt l e, zvs od vredost ukcje r : Ako je < r < -, od se jlošje rešeje, zbcuje z skup P uvod se ovo rešeje r, u sortr skup P, mesto koje odgovr vredost ukcje r Ako je r <, prob se s dljom ekspzjom smpleks u tom prvcu, rd provere d l se vredost ukcje može još vše poboljšt: e r r c Ako je e < r prhvt se rešeje e, u protvom se r korst ko ovo rešeje uvod se u skup P umesto jlošjeg rešej. Ako em predk r > -, kotrkuje se smpleks tko što se jlošj tčk prblžv cetru: k c Gde γ uzm vredost.5. Ako k <, k se korst ko ovo rešeje uvod se u skup P umesto jlošjeg rešej. Bezuslov optmzcj - ukcj vše promeljvh Metode bez grdjet Metod Nelder-Med- Osov korc D l se ov tčk prhvt l e, zvs od vredost ukcje r : Ako jed od vedeh uslov je spuje, ceo skup P se kotrkuje prem jboljem rešeju : 6