2. Metode de calcul pentru optimizarea fără restricţii

Transcript

1 . Metode de calcul petru optimizarea fără restricţii Problemele de optimizare îtâlite î practică sut probleme cu restricţii, dar metodele de calcul petru optimizarea fără restricţii sut importate pri faptul că pot fi folosite cu succes după trasformarea problemelor de optimizare cu restricţii î probleme de optimizare fără restricţii (trasformare di categoria c - R, meţioată î paragraful..3)... Pricipalele categorii de metode de calcul După cum se ştie, î cazul fucţiilor f() de o sigură variabilă, fiid deci scalar, codiţiile ecesare şi suficiete de etrem se stabilesc pri itermediul primei derivate ) = df ( ) / d şi a celei de a doua derivate f ( ) = d f ( ) / d. Codiţia ecesară petru u etrem (maim sau miim) este aularea primei derivate ) = 0 (.) reprezetâd codiţia de staţioaritate. Petru u maim, codiţiile ecesare şi suficiete sut ) = 0 împreuă cu codiţia de cocavitate ) < 0, (.) iar petru u miim codiţiile ecesare şi suficiete sut ) = 0 împreuă cu codiţia de coveitate ) > 0. (.3) Codiţia de staţioaritate este îdepliită î puctul optim, iar codiţia de coveitate este îdepliită î jurul acestui puct. Codiţiile meţioate sut valabile petru fucţii f() cel puţi de gradul doi; aceste codiţii u sut valabile petru fucţii de gradul îtâi, liiare, de forma f() = a + b, îtrucât la acestea rezultă ) = a şi deci prima derivată u depide de variabila. Datorită acestui fapt, metodele de programare eliiară (folosite petru optimizarea fucţiilor criteriu eliiare f(), ude este u vector) u pot fi folosite petru rezolvarea problemelor de programare liiară, cu fucţii criteriu şi restricţii liiare. Î cazul optimizării fucţiilor criteriu f() de variabilă vectorială, pricipalele categorii de metode de calcul se distig după faptul că uele fac apel la primele derivate, altele ecesită derivatele prime şi secude, iar o a treia categorie u ecesită ici determiarea primelor derivate, ici a derivatelor secude; cele trei categorii de metode aproimează dezvoltarea î serie aylor a fucţiei f() pri reţierea uui umăr diferit de termei. Metodele di prima categorie pot fi deumite metode de gradiet sau metode bazate pe prima variaţie, metodele di a doua categorie pot fi deumite metode Newto sau metode bazate pe a doua variaţie, iar metodele di a treia categorie sut deumite metode de căutare directă sau metode directe, îtrucât asigură optimizarea apelâd umai la valorile fucţiei criteriu. Petru o fucţie scalară derivabilă f() de variabilă vectorială, f : R R, vectorul gradiet (vector liie -dimesioal), care costituie o direcţie, şi are o importaţă eseţială î optimizare, reprezită prima derivată şi se poate ota pri ), f sau pri f (), fiid defiit pri derivatele parţiale ale fucţiei, respectiv: f ( ) f ( ) f ( ) ) f f ( ) = L (.4) -

2 Îtr-u puct, gradietul ) idică direcţia î care, porid di puctul, are loc cea mai abruptă creştere a fucţiei criteriu f(). De fapt, orice vector -dimesioal p poate servi ca direcţie î spaţiul R. Astfel, dacă se dă puctul R şi direcţia p (cu p 0 ), atuci puctul y = + α p (.5) petru variaţii ale scalarului α ître 0 şi descrie o rază care poreşte di puctul pe direcţia p, iar petru variaţii ale scalarului α ître şi + descrie toată dreapta care trece pri şi coicide cu direcţia p. Importaţa gradietului petru optimizare rezidă şi î faptul că petru o aumită direcţie dată p, produsul scalar < f, p > = f p (.6) eprimă viteza de variaţie a fucţiei f de-a lugul direcţiei p. Astfel, î aaliza matematică se demostrează că petru o fucţie f() derivabilă î puctul are loc relaţia [Căl79] f ( + α p) f ( ) lim = f p, (.7) α 0 α epresia (.7) fiid deumită derivată Gateau. Presupuâd că optimizarea urmăreşte maimizarea uei fucţii criteriu cocave f(), relaţia (.7) permite să se demostreze că dacă f() este derivabilă î puctul şi eistă o direcţie p petru care < f, p > = f p > 0, (.8) atuci eistă τ > 0 astfel îcât petru orice valoare 0 < α τ se obţie f ( + α p) > f ( ), (.9) deci pe direcţia p are loc creşterea fucţiei criteriu şi apropierea de maim. Astfel, di (.7) şi (.8) se obţie f ( + α p) f ( ) lim > 0 (.0) α 0 α şi di defiiţia limitei rezultă că trebuie să eiste τ > 0 astfel îcât petru orice α 0 şi cupris ître τ şi + τ să se obţiă f ( + α p) f ( ) > 0. (.) α Se costată că dacă se aleg valori α pozitive care verifică iegalitatea (.), relaţia (.9) este demostrată. oate direcţiile care satisfac codiţia (.8) asigură creşterea fucţiei f() şi deci apropierea de maim. Epresiile (.8) şi (.9) atestă faptul că gradietul idică totdeaua spre maim; î puctul maim, gradietul este ul, deci: ) f ( ) = 0. (.) Relaţia (.8) arată că ughiul ditre vectorii f şi p trebuie să fie mai mic de 90. Dacă î locul maimizării uei fucţii cocave, optimizarea urmăreşte miimizarea uei fucţii criteriu covee f(), atuci direcţiile p trebuie alese ditre direcţiile care asigură codiţia < f, p > = f p < 0 (.3) îtrucât î acest caz se va obţie f ( + α p) < f ( ), (.4) -

3 deci pe direcţia p are loc descreşterea fucţiei f() şi apropierea de miim. Relaţia (.3) arată că ughiul ditre vectorii f şi p trebuie să fie mai mare de 90, deci ughiul ditre vectorii f şi p trebuie să fie mai mic de 90 petru a se asigura descreşterea fucţiei f(). Rezultă astfel că direcţia gradietului f idică totdeaua spre maimul uei fucţii cocave, iar direcţia f idică totdeaua spre miimul uei fucţii covee. Di cosideretele epuse rezultă deosebita importaţă a gradietului petru desfăşurarea procesului iterativ descris de relaţiile de forma (.54), respectiv + = + α p. (.5) Astfel, presupuâd ca iteraţia se găseşte î puctul, atuci î cazul maimizării + uei fucţii cocave direcţia p a următoarei deplasări, spre puctul, trebuie aleasă ditre direcţiile care satisfac codiţia (.8) î raport cu gradietul f, adică f p > 0, iar î cazul miimizării uei fucţii covee direcţia p a următoarei deplasări trebuie aleasă ditre direcţiile care satisfac codiţia (.3) î raport cu gradietul f, adică f p < 0. Derivatele secude itervi î epresia matricei Hessia, care se obţie di gradiet pritr-o ouă derivare î raport cu vectorul. Notâd matricea Hessia cu H(), ) sau f, rezultă f f f L f f f H ( ) ) f = L (.6) M M M M f f f L Calculul matricei ) - la fiecare iteraţie a procesului de căutare a optimului - este deosebit de laborios şi de aceea cele mai multe ditre metodele folosite î practică evită acest calcul. Î aumite probleme chiar determiarea gradietului poate fi sesibil mai complicată decât determiarea valorii fucţiei (ueori gradietul u poate fi eprimat aalitic); î asemeea cazuri, se preferă metodele de căutare directă, ilustrate î paragraful.5... Metode de gradiet Ideea metodei gradietului, emisă de A.L. Cauchy î secolul XIX [Cau47] se bazează pe o aproimaţie de ordiul I, liiară, f ( ) L a dezvoltării î serie aylor petru fucţia criteriu f (). O asemeea aproimaţie petru dezvoltarea î jurul uui puct de maim are aspectul f ( ) L = f ( ) + ) ( ), (.7) ude s-a folosit otaţia ) petru gradiet. Dezvoltarea completă î serie aylor a fucţiei criteriu f () î jurul lui coduce la epresia 3 f ( ) = f ( ) + ) ( ) + ( ) )( ) + O[( ) ], (.8) 3 ude pri f"() s-a otat matricea Hessia di (.6), iar restul O[( ) ] grupează toţi - 3

4 ceilalţi termei ai dezvoltării. Defiid difereţa δ J = f ( ) f ( ) (.9) ca variaţia fucţiei criteriu şi otâd pri δ = (.0) variaţia variabilei vectoriale, di (.8) se obţie: 3 δ J = ) δ + δ ) δ + O[ δ ]. (.) Adoptâd aproimaţia liiară di (.7), se obţie prima variaţie descrisă pri: δ J = ) δ. (.) Î puctele de maim sau miim prima variaţie este ulă - avâd î vedere codiţia de staţioaritate (.) - şi (.) devie 3 δ J = δ ) δ + O[ δ ], (.3) termeul prepoderat î această epresie reprezetâd-o doua variaţie: δ J = δ ) δ. (.4) Petru ca puctul să asigure u maim al fucţiei criteriu este ecesar ca a doua variaţie să fie egativă - îtrucât, coform cu (.9), δ J < 0 asigură relaţia f ( ) < f ( ) care defieşte u maim î puctul - deci este ecesară codiţia: δ J = δ ) δ < 0. (.5) Ca urmare, valorile proprii ale matricei Hessia trebuie să fie egative. Î practică se folosesc diferite variate de metode de gradiet. Ua di cele mai utilizate este aşa umita metodă a celei mai mari pate sau a celei mai abrute coborâri, î ipoteza că optimul căutat este u miim. Această metodă poreşte de la ideea de a adopta î + relaţia = + α p (.5), o direcţie p dată de p = f ) (.6) îtrucât astfel se asigură î mod simplu satisfacerea codiţiei (.3) de deplasare spre miim, deoarece rezultă f = = p f f f i < 0 (.7) i= avâd î vedere şi (.49). Di (.5) şi (.6) rezultă că procesul iterativ de căutare a miimului este defiit de relaţia + = α ) (.8) ude α > 0. Diversele subvariate ale metodei celei mai mari pate se deosebesc pri tehica alegerii valorii pasului α [Căl79]. Pe lâgă metoda celei mai mari pate se folosesc şi alte variate de metode de gradiet, la uele ditre aceste variate procesul iterativ de căutare a miimului fiid descris de relaţii de forma + = α F ). (.9) - 4

5 Comparâd (.5) cu (.9) se costată că vectorul direcţiei p are epresia p = F ), (.30) deci, petru a obţie di (.30) relaţia (.6), care defieşte metoda celei mai mari pate, este ecesar ca petru F să se adopte matricea uitate. Petru asigurarea relaţiei (.3), matricea simetrică F - determiată la fiecare iteraţie - trebuie să satisfacă aumite codiţii. Compararea diverselor variate de metode de gradiet, di puct de vedere al eficieţei, ca şi compararea diferitelor categorii de metode de calcul, reprezită o problemă dificilă. Î primul râd, compararea se poate efectua umai pe baza uuia sau mai multor criterii, iar î practică este ecesară cosiderarea simultaă a mai multor criterii, ditre care uele coduc la rezultate cotradictorii. Criteriile cele mai frecvet utilizate petru aprecierea uei metode de calcul se referă la precizia rezultatelor, viteza de covergeţă a procedeului iterativ, timpul de calcul, volumul ecesar de memorie a calculatorului. Primele două criterii - precizia şi viteza de covergeţă - sut cele mai importate, dar ele u pot permite o ordoare uivocă a tuturor metodelor de calcul, îtrucât estimarea vitezei de covergeţă a uei metode rămâe valabilă umai petru o clasă de probleme, dar u şi petru altele. De aceea este idicat ca proiectatul de optimizări să dispuă de u bagaj cât mai vast de metode de calcul şi de rezultate cocrete obţiute î aplicarea fiecărei metode la aumite clase de probleme. Î cadrul procesului iterativ (.5), alegerea direcţiei p determiă viteza de covergeţă, iar alegerea pasului.3. Metode Newto α iflueţează puteric volumul de calcul la fiecare iteraţie. Metoda gradietului se bazează pe aproimarea liiară f() L di (.7) a dezvoltării î serie aylor a fucţiei criteriu f(), deci pe cea mai grosieră aproimaţie. Metoda Newto foloseşte o aproimaţie pătratică f() P, rezultâd petru dezvoltarea î serie î jurul uui puct epresia f ( ) P = f ( ) + ) ( ) + ( ) )( ) (.3) coform cu o relaţie aaloagă cu (.8) (relaţia (.8) a fost scrisă petru dezvoltarea î jurul puctului de optim, iar relaţia (.3) - petru dezvoltarea î jurul puctului, cosiderat apropiat de puctul optim ). Petru ca puctul de optim să asigure etremul aproimaţiei pătratice f() P este ecesară aularea gradietului acestei epresii petru =, codiţie de tipul (.). Calculâd gradietul epresiei (.3) se obţie d f ( ) P f ( ) P = = ) + )( ) (.3) d şi aulâd valoarea gradietului petru = rezultă: ) + )( ) = 0. (.33) Cosiderâd că matricea Hessia f ( ) este iversabilă, di (.33) se obţie: = [ )] ) (.34) Această relaţie atestă faptul că adoptâd î procesul de iteraţie u vector de direcţie defiit de relaţia p - 5

6 p = [ )] ) se obţie o deplasare către puctul optim. Astfel, presupuâd deocamdată că î (.5) se adoptă (.35) α =, (.36) relaţia (.5) devie + = + p, (.37) iar di (.34) şi (.35) rezultă = îlocuirea epresiei p, (.38) p di (.38) î (.37) coducâd la relaţia + = + =. (.39) Evidet, rezultatul di (.39) u este eact, îtrucât toate epresiile aterioare au fost obţiute pe baza aproimaţiei pătratice f() P, dar el atestă că deplasarea di pe direcţia p di (.35) se efectuează către puctul optim. Îlocuid (.35) î (.37) se obţie metoda Newto clasică de calcul: + = [ )] ), (.40) corespuzătoare valorii α = di (.36). Dacă etremul este u maim, direcţia p di (.35) va satisface codiţia (.8), iar dacă etremul este u miim - va satisface, codiţia (.3). Astfel, facâd abstracţie de idicele superior al iteraţiei, cu epresia lui p di (.35) se obţie f p ) p = ) [ )] ). (.4) Î apropierea uui maim valorile proprii ale matricei Hessia ) sut egative - cum a rezultat di (.5) - şi deci codiţia (.8) este satisfăcută, iar î cazul uui miim valorile proprii sut pozitive şi ca urmare este satisfăcută codiţia (.3). Dacă se adoptă α (.4) - spre deosebire de (.36) - (cu respectarea codiţiei α > 0) şi se păstrează direcţia p di (.35), atuci procesul iterativ este descris de relaţia + = α[ )] ) (.43) care reprezită metoda Newto cu pas variabil (sau metoda Newto geeralizată). Metodele Newto au avatajul ca aproimează fucţia criteriu mult mai eact decât metodele de gradiet, asigură o aproimare mai buă a soluţiilor pri deplasările pe direcţia p di (.35) şi deci permit obţierea uei covergeţe mai rapide a procesului iterativ decât î cazul metodelor de gradiet. Î schimb, după cum s-a mai meţioat, calculul matricei Hessia - la fiecare iteraţie - este foarte laborios şi ecesită u mare umăr de operaţii aritmetice, ceea ce face ca la metodele Newto umărul de operaţii aritmetice pe iteraţie să fie mult mai ridicat decât la metodele de gradiet, reducâdu-se astfel eficieţa metodelor Newto. De aceea au fost căutate metode de calcul care sa coveargă aproape ca metodele Newto, fără a ecesita umărul mare de operaţii pe iteraţie pe care îl implică metodele Newto. Uele ditre metodele respective, care au î prezet o utilizare di ce î ce mai largă, sut meţioate î paragraful următor. - 6

7 .4. Metodele direcţiilor cojugate Aceste metode folosesc o aproimare pătratică a fucţiei criteriu fără să implice calculul eplicit al matricei Hessia la fiecare iteraţie, iar iformaţia ecesară aferetă acestei matrice este obţiuta î decursul câtorva iteraţii, ceea ce micşorează mult efortul de calcul la fiecare iteraţie, fără ca precizia aproimării fucţiei criteriu să scadă sesibil. Fiid dată o matrice simetrică A -dimesioală, direcţiile reprezetate de vectorii -dimesioali p, p,..., p m i - cu m - se umesc A-cojugate dacă vectorii p (i =,,..., m) sut liiar idepedeţi şi dacă satisfac relaţia j p A p = 0 (.44) petru i j, cu i =,,..., m; j =,,..., m. Sistemul vectorilor p, p,..., p m este liiar idepedet - fiid u sistem ortogoal î metrica defiită de matricea A - şi ca urmare puctul i y = m i= γ p i i (.45) descrie u subspaţiu m-dimesioal atuci câd scalarii γ i iau valori de la la +. Porid de la u puct dat şi cu valoarea m dată, cu m, se cosideră puctul y = + m i= γ i i p. (.46) Petru variaţii arbitrare ale scalarilor γ i se obţie o varietate liiară m-dimesioală, rezultată di traslarea subspaţiului m-dimesioal. Dacă m = - şi acesta este cazul care prezită cel mai mare iteres - atuci puctul şi cele direcţii A-cojugate geerează o varietate -dimesioală care coicide cu R, îtrucât vectorii celor -direcţii A-cojugate sut liiari idepedeţi. Se poate demostra [Bri05] că dacă se adoptă o fucţie criteriu pătratică, atuci maimul (sau miimul) fucţiei pe varietatea meţioată, care coicide cu R, poate fi determiat umai î paşi, verificâd câte o sigură dată fiecare di cele direcţii A- cojugate, ordiea verificării fiid idiferetă. Costruirea direcţiilor cojugate petru miimizarea uei fucţii pătratice a fost propusă de W.C. Davido [Căl79], care a elaborat "algoritmul cu metrică variabilă", ideea fiid dezvoltată de R. Fletcher şi M.J.D. Powel [Căl79], rezultâd metoda de calcul cuoscută sub deumirea "algoritmul Davido-Fletcher-Powell" (DFP). Algoritmul propus de Davido a itrodus o metrică variabilă î relaţiile iterative ale metodei celei mai mari pate, î locul epresiei (.8) fiid folosită relaţia + = α S ), (.47) ude matricea S, de dimesiue este actualizată la fiecare iteraţie pritr-o relaţie recursivă. Se costată că dacă î locul matricei S di (.47) s-ar itroduce matricea uitate, se obţie (.8). De fapt, î algoritmul lui Davido se otează + d = α S ), (.48) iar formula recursivă petru obţierea matricei S, care asigură costruirea direcţiilor cojugate, are aspectul S S = S (.49) q q S q S q ude q = ) ). Î calitate de matrice iiţială S 0 se alege de regulă matricea - 7

8 uitate. Di (.43), (.47), (.48) şi (.49) se costată că algoritmul DFP costruieşte la fiecare iteraţie o aproimaţie a matricei Hessia, bazată pe iformaţia obtiută pri itermediul gradietului. La fiecare iteraţie se alege petru α valoarea care miimizează fucţia f [ α S )], (.50) cosiderată ca fucţie de o sigură variabilă α [Căl79], f() fiid fucţia criteriu. Metoda direcţiilor cojugate poate fi utilizată şi la miimizări de fucţii criteriu care u sut pătratice, îtrucât petru fucţiile covee aproimarea pătratică este buă, ideosebi î apropierea puctului de miim. Rezultatele teoretice ale algoritmului DFP au fost geeralizate la o clasă de algoritmi cu metrică variabilă [Căl79]. O variată iteresată de costruire a direcţiilor cojugate a fost propusă de Fletcher şi Reeves [Căl79], care au elaborat metoda gradietului cojugat atât petru miimizarea fucţiilor pătratice, cât şi petru miimizarea fucţiilor care u sut pătratice. Î cadrul acestei variate direcţiile cojugate sut geerate pri itermediul relaţiei ) ) p = ) + p, (.5) ) ) petru direcţia iiţială (care poreşte di puctul 0 ) adoptâdu-se 0 p = 0 ). O altă caracteristică a metodei gradietului cojugat costă î faptul că gradieţii, la diverse iteraţii, sut ortogoali, adică i j < ), ) > = 0 (.5) petru i j coform cu (.55). Îtrucât la algoritmul DFP apare ecesitatea memorării matricei S, -dimesioală, petru problemele de dimesiui mari, metoda gradietului cojugat apare mai idicată, ecesitâd umai memorarea gradietului curet ) şi a direcţiei curete p petru + geerarea oii direcţii p, coform cu (.5). O variată a metodei gradietului cojugat este reprezetată de metoda gradietului cojugat scalat [Căl79], meţioată î observaţia di paragraful Metode de căutare directă Metodele de căutare directă (sau metodele directe) pot oferi umai soluţii aproimative ale problemelor de optimizare, dar î schimb asigură covergeţa petru orice puct ales iiţial, î timp ce metodele care folosesc gradietul, matricea Hessia sau o aproimaţie a acesteia asemeea metode sut deumite ueori metode idirecte pot oferi soluţii eacte, dar ecesită u puct iiţial bie ales. Î cazul metodelor idirecte, folosirea idicaţiilor date de gradiet (sau de gradiet şi de matricea Hessia), de eemplu, petru determiarea uui maim, poate fi comparată cu o ascesiue spre u vârf de mute care este vizibil î timpul urcuşului, iar folosirea metodelor directe poate fi cosiderată aaloagă cu o ascesiue î codiţii de lipsă de vizibilitate a vârfului (de eemplu pe ceaţă), câd sigurele iformaţii de care dispue cel care caută vârful se referă la sesizarea faptului că urcă sau coboară [Căl79]. Ilustrarea metodelor directe poate fi uşor făcută pri itermediul uei fucţii de o sigură variabilă f(), variabila fiid deci scalară; o asemeea căutare a etremului este deumită "de-a lugul uei drepte" (î limba egleza, "alog a lie"), deoarece variabila ia - 8

9 valori î R, deci pe o dreaptă. Presupuâd că se cuoaşte itervalul de variaţie (a mărimii ) î care se găseşte etremul - de eemplu, se ştie că ître 0 şi eistă u maim, fucţia f() fiid cocavă - căutarea directă poate fi efectuată pri mai multe metode. Î Fig.. este ilustrată aplicarea metodei dichotomiei (îjumătăţirii itervalului). Metoda prevede alegerea a două valori = şi = î jurul cetrului itervalului, respectiv î jurul valorii = 0.5, cele două valori fiid apropiate ître ele, deci diferid cu o valoare mică ε; se compară valorile fucţiei f( ) şi f( ) şi dacă rezultă, de eemplu f ) > f ( ) (.53) ( ca î Fig.., atuci poate fi elimiat itervalul (haşurat î Fig..), îtrucât fucţia este cocavă şi maimul se va găsi ître 0 şi. Se aleg apoi alte două valori = 3 şi = 4 î jurul cetrului itervalului rămas (ditre 0 şi ), separate tot pri ε, şi se compară valorile f( 3 ) şi f( 4 ) ale fucţiei criteriu; dacă rezultă, de eemplu f ) > f ( ) (.54) ( 4 3 ca î Fig.., atuci poate fi elimiat şi itervalul (haşurat) 3 îtrucât maimul se va găsi î domeiul > 3 respectiv î itervalul rămas ehaşurat < <. (.55) 3 Se cotiuă succesiv cu cetrări de perechi de valori, comparaţii ale valorilor fucţiei şi îjumătăţirii de iterval, pâă la obţierea uui iterval foarte mic î care se găseşte puctul de optim, deci pâă la obţierea soluţiei aproimative cu o toleraţă admisă. Neglijâd valoarea ε a distaţei ditre perechile de pucte şi avâd î vedere că pri două testări ale valorilor fucţiei criteriu se asigură o îjumătăţire a fiecărui iterval, rezultă că după testări itervalul I care rămâe de eplorat are epresia aproimativă: / I / (.56) Alte metode de căutare de-a lugul uei drepte (de eemplu, metoda Fiboacci şi metoda secţiuii de aur) au o eficieţă sesibil superioară, reducerea itervalului iiţial fiid mai rapidă [Ray73]. Metodele de căutare de-a lugul uei drepte au o importaţă deosebită şi î căutarea etremului uei fucţii criteriu de variabilă vectorială, îtrucât după alegerea direcţiei p di cadrul procesului iterativ (.5), determiarea valorii α se efectuează pri găsirea etremului uei fucţii de variabilă scalară α de-a lugul direcţiei p, f() după cum s-a ilustrat şi pri (.50). Îcercări de a orgaiza căutarea directă a puctului de optim, fără determiarea gradietului, au fost făcute şi î cazul fucţiilor criteriu de variabilă vectorială, fiid elaborate diferite strategii de eplorare. Î cadrul celei mai simple strategii fiecare variabilă (compoetă, a vectorului ) este succesiv modificată pâă se ε ε obţie u etrem - de eemplu, u maim - al fucţiei criteriu pe direcţia Fig.. - 9

10 variabilei respective, trecâdu-se apoi la modificarea variabilei următoare [Căl79]; procesul este oprit câd u se mai obţi creşteri ale fucţiei criteriu pe direcţiile iciuei variabile. O strategie elaborată de Hooe, Jeeve şi Wood [Căl79] prevede eecutarea ditr-u puct a uui "pas de eplorare", reprezetâd modificarea variabilelor cu o mică variaţie pozitivă prestabilită; dacă se costată, o apropiere de optimul fucţiei criteriu, de eemplu, de u maim, atuci puctul obţiut devie o "ouă bază" - spre deosebire de puctul de plecare reprezetâd "vechea bază" - di care se efectuează paşi de lucru pe direcţiile tuturor variabilelor (costituid u pas -dimesioal), pe fiecare direcţie paşii fiid proporţioali cu difereţele valorilor variabilei respective î oua şi vechea bază. Dacă pasul -dimesioal de lucru asigură apropierea de maim, urmează u ou pas de eplorare ş.a.m.d. Dacă pasul de lucru u asigură creşterea fucţiei criteriu are loc aularea lui şi eecutarea uui ou pas de eplorare. Dacă î direcţia uei variabile pasul iiţial de eplorare u determiă o apropiere de maim, atuci se efectuează u pas egativ de eplorare pe aceeaşi direcţie; î cazul câd se obţie o apropiere de maim, acest pas ramâe valabil, dar dacă ici pasul egativ u marchează creşterea fucţiei criteriu, atuci pe direcţia respectivă u se mai eecută ici u pas de eplorare. O altă strategie, elaborată de Powell [Căl79], foloseşte direcţii cojugate şi coverge î iteraţii spre optimul uei fucţii criteriu pătratice. Strategia elaborată de Nelder şi Mead a fost umită "metoda simple" [Căl79], îtr-u spaţiu -dimesioal u umăr de + pucte formâd u "simple". Petru ilustrare, se cosideră cazul miimizării uei fucţii criteriu f() î care variabila vectorială are două 3 compoete, şi, deci depedeţa f (, ) poate fi reprezetată îtr-u spaţiu R. Îtrucât asemeea reprezetări sut dificile, se preferă itersecţia corpului care reprezită depedeţa f (, ) cu o serie de plae paralele cu plaul (, ), pri itersecţie rezultâd î fiecare pla câte o curbă de valori costate ale fucţiei criteriu, umită şi "curbă de ivel". Proiectâd diferitele curbe de ivel î plaul variabilelor, ) se obţie o imagie ( de tipul celei di Fig.., î care puctul M (de coordoate, ) corespude miimului, deci f, ) = mi f (, ), (.57) ( iar valorile costate C, C, C 3, C 4 - ale fucţiei criteriu pe diferitele curbe de ivel - sut di ce î ce mai mici pe măsura apropierii de puctul M, deci C > C > C >. (.58) 3 C4 Îtrucât î R u "simple" se realizează cu + pucte, î plaul R di Fig.. u simple va fi realizat cu 3 pucte, avâd forma uui triughi. Se poreşte de la u simple iiţial, de eemplu, I, J, K di Fig.. şi apoi se caută îlocuirea puctului cu cea mai mare valoare a fucţiei criteriu f() - deci cel mai depărtat de miim - de eemplu, puctul I, cu u alt puct de pe direcţia I O, ude O se găseşte la jumătatea distaţei ditre J şi K ; î cazul uui umăr mai mare de dimesiui, puctul O este cetroidul tuturor vârfurilor 0 K I f L O I K f O J Fig.. M J f C 4 C 3 C C - 0

11 rămase ale simpleului, după elimiarea vârfului I. Stabilid, pritr-u algoritm adecvat de verificare a valorilor fucţiei criteriu, puctul de pe direcţia I O care urmează să îlocuiască puctul I - de eemplu, puctul L - se formează u ou simple cu puctele J, K, L cotiuâdu-se operaţiile de costruire a uei oi direcţii petru îlocuirea puctului cel mai depărtat de miim (di cadrul oului simple) pritr-u puct de pe oua direcţie. Câd se ajuge î apropierea miimului M, simpleul are aspectul defiit de puctele I f, J f, K f, cu direcţia I f O petru îlocuirea puctului I f pritr-u ou puct; î Fig.., puctul O coicide cu M, ceea ce evidet u este obligatoriu. Uele metode de căutare directă u realizează o eplorare pri stabilirea uui algoritm de elaborare a traseului, ca î cazurile meţioate aterior, ci selectează î mod aleator puctele î care se determiă valoarea fucţiei criteriu. Dacă puctele respective acoperă complet gamele de variaţie estimate petru toate variabilele de care depide fucţia criteriu, asemeea metode de căutare directă cu selectare aleatoare a puctelor de eplorare sut îcadrate î clasa metodelor deumite "Mote Carlo". Î cadrul acestor metode, puctul î care a rezultat valoarea etremă a fucţiei criteriu este cosiderat ca optim. De fapt, după o primă eplorare se poate stabili dacă optimul este localizat îtr-o aumită zoă restrâsă di cadrul celei cosiderate iiţial şi se poate calcula probabilitatea apropierii de optim, urmâd apoi succesiv oi eplorări aleatoare alterâd cu oi reduceri ale zoei. Elemete de calcul statistic itervi şi î alte aspecte ale rezolvării problemelor de optimizare, u umai î selectarea aleatoare a puctelor eplorate. Astfel, î uele cazuri îsăşi alegerea direcţiilor de căutare p di (.5) are u caracter aleator, rezultâd metode aleatoare de căutare - pri procedee iterative - a optimului [Căl79]. Î alte cazuri, îsăşi variabilele de care depide fucţia criteriu (sau uii parametri care itervi î această fucţie) sut variabile aleatoare. Î asemeea cazuri, optimizarea urmăreşte găsirea uui etrem al valorii medii a fucţiei criteriu, iar metodele de calcul folosite î acest scop sut ueori deumite metode de programare stochastică [Căl79]. -