Interpolacijske metode za minimizaciju realne funkcije jedne varijable

Sveučilište J.J. Strossmayera u Osijeku Odjel za matematiku Monika Zec Interpolacijske metode za minimizaciju realne funkcije jedne varijable Diplomski rad Osijek, 2010.

Sveučilište J.J. Strossmayera u Osijeku Odjel za matematiku Monika Zec Interpolacijske metode za minimizaciju realne funkcije jedne varijable Diplomski rad Mentor: Doc. dr. sc. Kristian Sabo Osijek, 2010.

Sadržaj 1. Uvod 1 2. Lokalni i globalni ekstremi 3 3. Derivacije funkcije i lokalni ekstremi 6 4. Interpolacija 15 5. Newtonova metoda 17 6. Interpolacijske metode 19 6.1. Kvadratne interpolacijske metode..................... 19 6.1.1. Kvadratna interpolacijska metoda sa dvije točke (I)....... 19 6.1.2. Kvadratna interpolacijska metoda sa dvije točke (II)...... 20 6.1.3. Kvadratna interpolacijska metoda sa tri točke.......... 21 6.2. Kubična interpolacijska metoda...................... 22 7. Numerički primjeri 25 8. Sažetak 35 9. Životopis 37 10.Prilozi 38 10.1. MATLAB kod za Newtonovu metodu................... 38 10.2. MATLAB kod za kvadratnu interpolacijsku metodu sa dvije točke... 39 10.3. MATLAB kod za kvadratnu interpolacijsku metodu sa tri točke.... 41 10.4. MATLAB kod za kubičnu interpolacijsku metodu............ 45

1 1. Uvod U ovom diplomskom radu razmatramo metode za minimizaciju realne funkcije jedne varijable. Rad je moguće podijeliti u nekoliko cjelina. Prva cjelina se sastoji od tri poglavlja kojima uvodimo pojmove i svojstva koja će biti korištena u drugoj cjelini. U drugoj cjelini, koja se sastoji od dva poglavlja su objašnjene metode za minimizaciju funkcije. U zadnjoj cjelini su navedeni programi i primjeri izradeni pomoću tih programa. Rad započinje s poglavljem Lokalni i globalni ekstremi u kojem su definirani lokalni minimum i maksimum, te globalni minimum i maksimum funkcije jedne varijable. Navedeni su primjeri kako bi se ilustrativno pokazala razlika izmedu definiranih ekstrema. U trećem poglavlju navedena je definicija derivacije funkcije, te n-te derivacije funkcije i geometrijski je interpretirana derivacija funkcije. Slijede dva teorema koji povezuju derivaciju funkcije i ekstreme. Prvi teorem govori kako na temelju poznate prve derivacije funkcije odrediti ekstreme funkcije. Drugi teorem zahtjeva da je funkcija dva puta derivabilna i kazuje kako pomoću druge derivacije odrediti ekstreme funkcije. U nastavku ovoga poglavlja su navedena i dokazana četiri osnovna teorema diferencijalnog računa. Prvi teorem je Fermatov teorem koji govori da je tangenta na graf funkcije u točki ekstrema paralelna s x-osi. Sljedeći teorem je Rolleov teorem, a on je naveden i dokazan jer će poslužiti za dokazivanje sljedećeg Lagrangeovog teorema srednje vrijednosti, koji govori da se paralelnim pomicanjem sekante dobije tangenta s jednakim koeficijentom smjera. Posljednji teorem ovog poglavlja je Taylorov teorem koji koristi kada se želi funkciju aproksimirati polinomom. Taylorov teorem je vrlo bitan, jer će biti od velike koristi u sljedećim poglavljima, kada će se na osnovi njega izgraditi metode za minimizaciju funkcije. Poglavljem Interpolacija je uveden problem interpolacije, te su navedeni osnovni pojmovi vezani uz interpolaciju, te kada se ona koristi. Interpolacija može biti eksponencijalna, trigonometrijska, polinomijalna ili nekog drugog oblika. U radu je korištena interpolacija polinomom i to Lagrangeov oblik interpolacijskog polinoma, pa je u nastavku i pojašnjena. Prethodnim poglavljima su uvedeni svi pojmovi i svojstva koja će biti potrebna za konstruiranje metoda za minimizaciju funkcije, pa je sada moguće započeti sa njihovim konstrukcijama. Prva metoda za minimizaciju funkcije je Newtonova metoda koja je konstruirana u petom poglavlju. Ovdje je uveden i pojam reda konvergencije metode, te je naveden teorem o redu konvergencije Newtonove metode. Poglavlje Interpolacijske metode je podijeljeno u dva dijela. U prvom dijelu su objašnjene kvadratne interpolacijske metode, koje zadanu funkciju aproksimiraju kvadratnim polinomom i na taj način se traženje minimuma funkcije svodi na traženje minimuma polinoma kojim aproksimiramo funkciju.

Kvadratna interpolacijska metoda sa dvije točke omogućuje aproksimaciju funkcije ako je poznata vrijednost funkcije u dvije točke, te vrijednost derivacije funkcije u jednoj točki, odnosno, vrijednost funkcije u jednoj točki, te vrijednost derivacije funkcije u dvije točke. Kvadratna interpolacijska metoda sa tri točke je od koristi ako je poznata vrijednost funkcije u tri točke. Navedeni su i teoremi o konvergenciji ovih dviju metoda, koji govore da kvadratna interpolacijska metoda sa dvije točke brže konvergira od kvadratne metode sa tri točke. U drugom dijelu je objašnjena kubična interpolacijska metoda koja omogućuje da funkciju aproksimiramo kubičnim polinomom uz poznavanje bilo koja četiri interpolacijska uvjeta. Ova metoda je brža od obje kvadratne metode, ali se koriste kompliciraniji izračuni. Objašnjenjem ove metode je završen teorijski dio ovog rada. U poglavlju Numerički primjeri je navedeno nekoliko primjera na kojima je moguće uočiti kako rade opisane metode na konkretnim funkcijama. Može se uočiti da Newtonova i kubična metoda u približno jednakom broju koraka pronalaze minimum funkcije, dok kvadratna interpolacijska metoda dolazi do minimuma u većem broju koraka. 2

3 2. Lokalni i globalni ekstremi U ovom poglavlju ćemo definirati lokalne i globalne ekstreme funkcije f : D R, D R. Takoder, navest ćemo nekoliko ilustrativnih primjera. Definicija 2.1 Funkcija f : D R, D R u točki x 0 D postiže: i) globalni minimum [strogi globalni minimum] ako je f(x) f(x 0 ), x D [f(x) > f(x 0 ), x D, x x 0 ], ii) globalni maksimum [strogi globalni maksimum] ako je f(x) f(x 0 ), x D [f(x) < f(x 0 ), x D, x x 0 ]. Globalni minimum i globalni maksimum jednim imenom nazivamo globalni ekstremi. Definicija 2.2 Kažemo da funkcija f : D R, D R u točki x 0 D postiže: i) lokalni minimum [strogi lokalni minimum] ako postoji δ > 0 takav da je f(x) f(x 0 ), x (x 0 δ, x 0 + δ) D [f(x) > f(x 0 ), x (x 0 δ, x 0 + δ) D, x x 0 ], ii) lokalni maksimum [strogi lokalni maksimum ] ako postoji δ > 0 takav da je f(x) f(x 0 ), x (x 0 δ, x 0 + δ) D [f(x) < f(x 0 ), x (x 0 δ, x 0 + δ) D, x x 0 ]. Lokalni minimum i lokalni maksimum jednim imenom nazivamo lokalni ekstremi. Primjer 2.1 Neka je dana funkcija f : [a, b] R, čiji je graf prikazan na Slici 1. Takoder, prikazana je razlika izmedu lokalnih i globalnih ekstrema funkcije f. Uočimo da za funkciju f vrijedi: niti u jednom rubu intervala [a, b] funkcija ne postiže lokalni niti globalni ekstrem, u točki x 1 funkcija postiže lokalni minimum, u točki x 2 funkcija postiže strogi globalni maksimum,

4 u točkama x 3 i x 4 funkcija postiže lokalni minimum, u točkama x 5 i x 7 funkcija postiže strogi lokalni maksimum, u točki x 6 funkcija postiže strogi globalni minimum, u točki x 8 funkcija ne postiže lokalni niti globalni ekstrem, u točki x 9 funkcija postiže strogi lokalni minimum. Slika 1: Razlika izmedu lokalnih i globalnih ekstrema Primjer 2.2 Zadana je funkcija f : [ 5, 9] R, formulom f(x) = x 2 6 x 3 + 1, čiji je graf prikazan na Slici 2. Za ekstreme funkcije f vrijedi: u točki a = 5 funkcija ne postiže lokalni niti globalni ekstrem, u točki x 1 = 3 funkcija postiže strogi lokalni maksimum, ali ne i globalni maksimum, u točki x 2 = 2.099 funkcija postiže strogi globalni minimum, koji iznosi f(2.099) = 0 u točki x 3 = 3 funkcija ne postiže lokalni niti globalni ekstrem, u točki b = 9, funkcija postiže strogi globalni maksimum, koji iznosi f(9) = 46.

5 Slika 2: Graf funkcije f(x) = x 2 6 x 3 + 1 Neke točke u kojima funkcija f : D R, D R, postiže lokalne ekstreme biti će moguće odrediti poznavanjem derivacije funkcije u točkama iz otvorenog intervala (a, b) D. U tu svrhu u sljedećem poglavlju uvodimo pojam derivacije funkcije f : (a, b) R i dajemo sama svojstva.

6 3. Derivacije funkcije i lokalni ekstremi Problemom derivacije funkcije susreli su se znanstvenici sa područja matematike i fizike još u 18. stoljeću. Sam pojam derivacije uvode Isaac Newton i Gottfried Leibniz. Newton se bavio problemom brzine. Želio je pronaći formulu kojom bi u svakom trenutku mogao izračunati brzinu gibanja neke čestice. Leibniz je promatrao problem traženja tangente funkcije u unaprijed zadanoj točki. Definicija 3.1 Neka je dana funkcija f : (a, b) R. Kažemo da je funkcija f diferencijabilna u točki x 0 (a, b) ako postoji limes f(x 0 + x) f(x 0 ) lim x 0 x (3.1) i taj realan broj nazivamo derivacijom funkcije f u točki x 0 i označavamo sa f (x 0 ) ili d f(x) dx f (x 0 ) = lim x 0 f(x 0 + x) f(x 0 ). (3.2) x Ako limes (3.1) ne postoji, onda kažemo da funkcija f nije diferencijabilna u točki x 0. Ako je funkcija f derivabilna, njena derivacija se označava sa f i definira se kao nova funkcija. Ako je i ta nova funkcija f derivabilna, onda se njena derivacija označava sa (f ) = f ili f (2) i naziva se druga derivacija funkcije f. Induktivno se može definirati n-ta derivacija funkcije f kao derivacija njene (n 1) - ve derivacije: f (n) = (f (n 1) ), n N. (3.3) Neka je dana derivabilna funkcija f koja u točki x 0 postiže maksimum, kao na Slici 3. Tangenta na graf funkcije u nekoj točki x 1 < x 0 ima pozitivan nagib, a sa x-osi zatvara kut α 1 < 90 i tan α 1 = f (x 1 ) > 0. Ako se tangenta pomiče po grafu funkcije f prema točki x 0 kut α se smanjuje kao i tan α. U točki x 0 tangenta je paralelna sa x-osi i tada je α = 0, odnosno tan α = 0. Pomicanjem tangente u točku x 2 > x 0 nagib tangente je negativan, a kut α 2 je tupi kut, te je tan α 2 < 0.

7 Slika 3: Pomicanje tangente po grafu funkcije Sljedeća dva teorema, od kojih prvi navodimo bez dokaza, pokazuju vezu izmedu derivacija funkcije i ekstrema. Odnosno kako na temelju poznate prve i druge derivacije funkcije odrediti ekstreme. Teorem 3.1 1 Neka je dana funkcija f : [a, b] R koja je derivabilna u točki x 0 (a, b). (i) Ako postoji δ > 0 takav da je i f (x) 0 [f (x) > 0], x (x 0 δ, x 0 ) f (x) 0 [f (x) < 0], x (x 0, x 0 + δ), onda funkcija f u točki x 0 ima lokalni maksimum [strogi lokalni maksimum]. (ii) Ako postoji δ > 0 takav da je i f (x) 0 [f (x) < 0], x (x 0 δ, x 0 ) f (x) 0 [f (x) > 0], x (x 0, x 0 + δ), onda funkcija f u točki x 0 ima lokalni minimum [strogi lokalni minimum]. (iii) Ako postoji δ > 0 takav da je ili f (x) > 0, x (x 0 δ, x 0 + δ) f (x) < 0, x (x 0 δ, x 0 + δ), onda funkcija f nema lokalni ekstrem u točki x 0. 1 Vidi primjerice [2], 212. str.

8 Teorem 3.2 2 Neka je dana funkcija f : [a, b] R koja je dva puta derivabilna u točki x 0 (a, b). Ako je (i) f (x 0 ) = 0, f (x 0 ) 0 [f (x 0 ) > 0], onda funkcija f u točki x 0 ima lokalni minimum [strogi lokalni minimum] (ii) f (x 0 ) = 0, f (x 0 ) 0 [f (x 0 ) < 0], onda funkcija f u točki x 0 ima lokalni maksimum [strogi lokalni maksimum]. Dokaz. Dokažimo prvu tvrdnju teorema. Pretpostavimo da je f (x 0 ) < 0, tj. f (x 0 ) = lim x x0 f (x) f (x 0 ) x x 0 = f (x) x x 0 < 0. Tada postoji δ > 0 takav da je f (x) x x 0 < 0, x (x 0 δ, x 0 + δ), odakle slijedi f (x) > 0, x (x 0 δ, x 0 ) f (x) < 0, x (x 0, x 0 + δ) Prema prethodnom Teoremu 3.1 slijedi tvrdnja. Druga tvrdnja teorema se dokazuje analogno. Primijetimo, ako je f (x 0 ) = 0, te f (x 0 ) = 0, onda Teorem 3.2 ne daje odgovor. Može se pokazati 3 da ako je f (x 0 ) = 0,..., f (k 1) (x 0 ) = 0, f (k) (x 0 ) 0 tada funkcija f ima lokalni ekstrem u točki x 0 ako je k paran broj i to: lokalni minimum, ako je f (k) (x 0 ) > 0, lokalni maksimum, ako je f (k) (x 0 ) < 0. Ako je k neparan broj, funkcija f u točki x 0 nema lokalni ekstrem. Primjedba 3.1 Neka je zadana funkcija f : [a, b] R. Pri definiciji derivacije, derivaciju funkcije definirali smo u točkama iz (a, b). Definiciju derivacije u rubovima segmenta moguće je proširiti na sljedeći način f (a) = f(a + x) f(a) lim x 0 + x te f f(b + x) f(b) (b) = lim. x 0 x U nastavku navodimo četiri osnovna teorema diferencijalnog računa. 2 Vidi primjerice [2], 213. str. 3 Vidi primjerice [1]

9 Teorem 3.3 4 (Fermatov teorem) Neka funkcija f : [a, b] R u točki x 0 (a, b) ima lokalni ekstrem. Ako postoji f (x 0 ), onda je f (x 0 ) = 0. Dokaz. Neka funkcija f u točki x 0 postiže lokalni maksimum, tj. postoji δ > 0, takav da vrijedi x x 0 < δ f(x) f(x 0 ). Ako je u točki x 0 funkcija f derivabilna, onda njena derivacija iznosi: f (x 0 ) = lim x x0 f(x) f(x 0 ) x x 0. Kako je x x 0 < δ, onda je i f(x) f(x 0 ), pa vrijedi f(x) f(x 0 ) 0. Kako nazivnik može biti i pozitivan i negativan, dobijemo f(x) f(x 0 ) f(x) f(x 0 ) 0 lim 0, x x 0 x x 0 + x x 0 f(x) f(x 0 ) x x 0 0 lim x x 0 f(x) f(x 0 ) x x 0 0 Iz pretpostavke da je funkcija f derivabilna u x 0 slijedi da su ovi limesi jednaki, a to vrijedi samo ako je f (x 0 ) = 0. Stacionarne točke su točke koje su rješenja jednadžbe f (x) = 0. Stacionarne točke funkcije f i točke iz domene u kojima funkcija f nije derivabilna nazivamo zajedničkim imenom kritičnim točkama funkcije f. Fermatov teorem govori da se točke ekstrema funkcije nalaze medu stacionarnim točkama funkcije f. Odnosno, sve točke lokalnih ekstrema su ujedno i stacionarne točke. Geometrijski gledano, Fermatov teorem kaže da tangenta na graf derivabilne funkcije u točki lokalnog ekstrema ima koeficijent smjera 0, odnosno paralelna je sa osi x. On je ujedno i nužan uvjet za postojanje lokalnog ekstrema derivabilne funkcije. Slika 4: Geometrijska interpretacija Fermatovog teorema 4 Vidi primjerice [3], 127. str.

10 Primjer 3.1 Fermatov teorem je nužan, ali ne i dovoljan uvjet za postojanje lokalnih ekstrema. Funkcija f(x) = x 3 ima za stacionarnu točku x 0 = 0, ali u toj točki nema ekstrem. Slika 5: Graf funkcije f(x) = x 3 Teorem 3.4 5 (Rolleov teorem) Neka je funkcija f : [a, b] R neprekidna na [a, b] i derivabilna na (a, b). Ako je f(a) = f(b), onda postoji točka x 0 (a, b), takva da je f (x 0 ) = 0. Dokaz. Ako je funkcija f konstantna funkcija, onda je f (x) = 0, x (a, b), pa tvrdnja vrijedi. Pretpostavimo da f nije konstantna funkcija. Prema pretpostavci, f je neprekidna, pa postoji barem jedna točka x 0 (a, b) u kojoj funkcija f ima lokalni ekstrem (minimum ili maksimum), a koja je različita od a i b, jer bi u suprotnom f bila konstantna funkcija. Pa prema drugoj pretpostavci da je f derivabilna i prema Fermatovom teoremu slijedi da je f (x 0 ) = 0. Rolleov teorem ukazuje na to da postoji barem jedna točka x 0 na grafu funkcije f takva da je tangenta kroz nju paralelna sa x-osi, ukoliko funkcija ima istu vrijednost u početnoj i završnoj točki grafa. Rolleov teorem će poslužiti za dokaz Lagrangeova teorema srednje vrijednosti. 5 Vidi primjerice [3], 127. str.

11 Slika 6: Geometrijska interpretacija Rolleovog teorema Teorem 3.5 6 (Lagrangeov teorem srednje vrijednosti) Neka je dana funkcija f : [a, b] R koja je neprekidna na segmentu [a, b] i derivabilna u svakoj točki intervala (a, b). Tada postoji barem jedna točka x 0 (a, b) takva da je f(b) f(a) = f (x 0 )(b a). (3.4) Dokaz. Pravac kroz točke A = (a, f(a)) i B = (b, f(b)) odreduje graf funkcije Deriviranjem dobijemo funkciju Tada funkcija g(x) = f(a) + g (x) = h(x) = f(x) g(x) = f(x) f(a) f(b) f(a) (x a). (3.5) b a f(b) f(a). (3.6) b a f(b) f(a) (x a) (3.7) b a zadovoljava uvjete Rolleova teorema, pa postoji točka x 0 (a, b), takva da je Iz (3.7) i (3.8) dobije se h (x 0 ) = 0. (3.8) odakle slijedi (3.4). 0 = h (x 0 ) = f (x 0 ) f(b) f(a) b a (3.9) Lagrangeov teorem, geometrijski gledano, govori da paralelnim pomicanjem sekante s kroz točke A = (a, f(a)) i B = (b, f(b)) dobijemo tangentu t kroz točku C = (c, f(c)) čiji je koeficijent smjera jednak koeficijentu smjera sekante. 6 Vidi primjerice [3], 128. str.

12 Slika 7: Geometrijska interpretacija Lagrangeova teorema Taylorov teorem (formula) koji slijedi se koristi kada želimo neku funkciju f aproksimirati odgovarajućim polinomom n-tog stupnja. Teorem 3.6 (Taylorov teorem) 7 Neka je dana funkcija f : (a, b) R koja ima (n + 1)-vu derivaciju i neka je x 0 (a, b), te p bilo koji prirodan broj. Tada za svaku točku x (a, b) postoji neka točka ξ izmedu x 0 i x za koju vrijedi f(x) = f(x 0 ) + x x 0 1! gdje je f (x 0 ) + (x x 0) 2 2! R n (f, x 0 ; x) = ( x x0 x ξ f (x 0 ) +... + (x x 0) n f (n) (x 0 ) + R n (f, x 0 ; x), n! (3.10) ) p (x ξ) n+1 f (n+1) (ξ). (3.11) n!p Formulu (3.10) zovemo Taylorovom formulom funkcije f u točki x 0, a polinom T n (f, x 0 ; x) = f(x 0 ) + x x 0 1! f (x 0 ) + (x x 0) 2 2! f (x 0 ) +... + (x x 0) n f (n) (x 0 ) n! nazivamo n-ti Taylorov polinom funkcije f u točki x 0, a (3.11) n-ti ostatak funkcije f u točki x 0. Dokaz. Uzmimo neku točku x (a, b) i fiksirajmo je. Radi odredenosti neka je x 0 < x. Iz (3.10) slijedi da je R n (f, x 0 ; x) = f(x) T n (f, x 0 ; x). Treba pokazati da postoji ξ (a, b) takva da vrijedi ( x x0 ) p (x ξ) n+1 R n (f, x 0 ; x) = f (n+1) (ξ). x ξ n!p Uzmimo neku nezavisnu varijablu t koja poprima vrijednosti iz segmenta [x 0, x]. Definirajmo na segmentu [x 0, x] pomoćnu funkciju φ formulom ( x t ) prn φ(t) = f(x) T n (f, t; x) (f, x 0 ; x), x x 0 7 Vidi primjerice [1], 171. - 174. str.

13 odnosno φ(t) = f(x) f(t) f (t) 1! (x t) f (t) 2! (x t) 2... f (n) (t) ( x t ) prn (x t) n (f, x 0 ; x). n! x x 0 Funkcija φ je neprekidna na segmentu [a, b] i derivabilna na intervalu (a, b). Provjerimo da li vrijedi φ(x) = φ(x 0 ). ( x x ) prn φ(x) = f(x) T n (f, x; x) (f, x 0 ; x) = 0, x x 0 odnosno φ(x 0 ) = f(x) T n (f, x 0 ; x) ( x x0 x x 0 ) prn (f, x 0 ; x) = 0, φ(x 0 ) = f(x) T n (f, x 0 ; x) R n (f, x 0 ; x) = 0. Iz gornjih jednakosti slijedi da je φ(x) = φ(x 0 ). Dakle, zadovoljeni su svi uvjeti Rolleovog teorema, pa postoji točka ξ (x 0, x) takva da je φ (ξ) = 0. Deriviranjem funkcije φ po varijabli t dobivamo [ f φ (t) = f (t) (t) + f (t) ] [ f (t) (x t) + 2(x t) f (t) ] (x t) 2 +... 1! 1! 2! 2! [ f (n 1) (t) + (n 1)! (n 1)(x t)n 2 f (n) (t) ] (n 1!) (x t)n 1 [ f (n) (t) + n(x t) n 1 f n+1 (t) ] (x t) n (x t)p 1 + p n! n! (x x 0 ) R n(f, x p 0 ; x). Svi članovi, osim zadnja dva se medusobno pokrate, pa dobivamo: φ (t) = f (n+1) (t) (x t) n (x t)p 1 + p n! (x x 0 ) R n(f, x p 0 ; x). Uvrštavanjem t = ξ iz φ (ξ) = 0 slijedi odnosno 0 = f (n+1) (ξ) (x ξ) n (x ξ)p 1 + p n! (x x 0 ) R n(f, x p 0 ; x), R n (f, x 0 ; x) = f (n+1) (ξ) (x ξ) n (x x 0) p n! p(x ξ) p 1 ( x x0 ) p (x ξ) n+1 = f (n+1) (ξ). x ξ n!p Time je teorem dokazan. Sljedeći algoritam govori kako naći globalni maksimum M i globalni minimum m funkcije f : [a, b] R koja je neprekidna na [a, b] i derivabilna na (a, b).

14 Algoritam 3.1 Algoritam za traženje globalnih ekstrema funkcije. Korak 1. Odrediti sve kritične točke funkcije f na intervalu (a, b), Korak 2. Izračunati f(a) i f(b). Ako postoje kritične točke x 1, x 2,..., x n, n N, onda izračunati i vrijednosti f(x 1 ), f(x 2 ),..., f(x n ). Korak 3. Najveća vrijednost dobivena u Koraku 2 je maksimalna vrijednost M, a najmanja vrijednost je minimalna vrijednost m funkcije f na segmentu [a, b]. Primjer 3.2 U skladu sa Algoritmom 3.1 analizirajmo funkciju iz Primjera 2.2. Imamo sljedeće korake Korak 1. Kritične točke su: x 0 = 5, x 1 = 3, x 2 = 2.099, x 3 = 3, x 4 = 9, Korak 2. Vrijednost funkcije u kritičnim točkama su: f( 5) = 22, f( 3) = 26, f(2.099) = 0, f(3) = 10, f(9) = 46, Korak 3. M = 46, m = 0.

15 4. Interpolacija Neka je dana funkcija f : [a, b] R i vrijednosti te funkcije u nekoliko točaka x 0 < x 1 <... < x n, x i [a, b], i = 0,..., n. Problem interpolacije je traženje jednostavnije funkcije g u intervalu [x 0, x n ] tako da vrijedi f(x i ) = g(x i ), i = 1,..., n. (4.12) Točke x 0 < x 1 <... < x n u kojima je poznata vrijednost funkcije f se nazivaju čvorovi interpolacije. Interpolacija je korisna u slučajevima kada nam je poznat samo odreden broj vrijednosti neke funkcije, a potrebne su nam približne vrijednosti te funkcije u nekim drugim točkama. Drugi slučaj kada je interpolacija korisna jest kada je originalna funkcija f složena za izračunavanje. Značajnu primjenu interpolacija nalazi i kod analize eksperimentalnih mjerenja, gdje su poznate vrijednosti nepoznate funkcije u više točaka. Tražena funkcija g može biti polinom, eksponencijalna funkcija, trigonometrijska funkcija ili neka druga funkcija. U ovom radu je korištena interpolacija polinomom. Dakle, potrebno je pronaći polinom n tog stupnja tako da vrijedi P n (x) = a 0 + a 1 x + a 2 x 2 +... + a n x n, (4.13) P n (x i ) = f(x i ), i = 0,..., n (4.14) gdje su a i konstantni koeficijenti i ima ih (n + 1), pa je za njihovo izračunavanje potrebno poznavati vrijednost funkcije f u (n + 1) čvorova interpolacije. Na taj način se dobije sustav od (n + 1)-ne jednadžbe sa (n + 1)-nom nepoznanicom, koji je rješiv i ima jedinstveno rješenje. Za dobivanje koeficijenata interpolacijskog polinoma, nije nužno rješavati sustav od (n+1)-ne jednadžbe. Interpolacijski polinom p n je moguće dobiti pomoću Lagrangeove baze L = {l o, l 1,..., l n } P n, gdje je i vrijedi l k (x) = n i=0,i k l k (x i ) = x x i x k x i, k = 0, 1,..., n, (4.15) { 0, i k; 1, i = k. Polinomi l k su stupnja n, pa je polinom P n koji je definiran sa P n (x) = (4.16) n f k l k (x) (4.17) k=0 najviše stupnja n, a zbog (4.16) se može zaključiti da je njime definiran interpolacijski polinom kojeg nazivamo Lagrangeov oblik interpolacijskog polinoma.

16 Dobiveni interpolacijski polinom se sa funkcijom f poklapa u svim čvorovima interpolacije, dok za točke izmedu čvornih to ne mora vrijediti. Razlika izmedu vrijednosti funkcije i interpolacijskog polinoma predstavlja grešku interpolacije koja je obično izražena u L -normi f P n = max f(x) P n (x) (4.18) x [a,b] ili u L 2 - normi b f P n 2 = Sljedeći teorem nam govori o ocjeni pogreške. a (f(x) P n (x)) 2 dx. (4.19) Teorem 4.1 Neka je dana funkcija f : [a, b] R koja ima (n + 1) vu derivaciju i čije su vrijednosti poznate u (n + 1) točaka x i, i = 0, 1,..., n, a = x 0 < x 1 < x 2 <... < x n = b, y i = f(x i ), i = 0, 1,..., n i neka je P n odgovarajući interpolacijski polinom. Tada za svaki x [a, b] postoji ξ (a, b), takav da je f(x) P n (x) = f (n+1) (ξ) (n + 1)! ω(x), ω(x) = (x x 0)... (x x n ). (4.20) Dokaz. Ako je x = x i tvrdnja je očigledna. Pretpostavimo da je x x i, i = 0, 1,..., n. Definirajmo pomoćnu funkciju g g(x) = f(x) P n (x) kω(x), (4.21) gdje se konstanta k odredi tako da vrijedi g(x) = 0. Na taj smo način dobili funkciju g koja ima barem (n + 2) nultočke: x, x 0, x 1,..., x n. Prema Rolleovom teoremu funkcija g ima barem (n + 1) nultočku, funkcija g ima barem n nultočaka, a funkcija g (n+1) ima barem jednu nultočku ξ (a, b). Primijetimo da je Pn n+1 (x) = 0, a pošto je ω polinom (n + 1) vog stupnja s vodećim koeficijentom 1, imamo ω (n+1) (x) = (n + 1)!, pa je stoga 0 = g (n+1) (ξ) = f (n+1) (ξ) k(n + 1)! odakle slijedi da je k = f (n+1) (ξ). Na taj smo način odredili konstantu k tako da vrijedi (n+1)! g(x) = 0. Sada iz (4.21) slijedi tvrdnja teorema.

17 5. Newtonova metoda Neka je dana funkcija f : [a, b] R koja je dva puta derivabilna na (a, b) i u točki x (a, b) postiže jedinstveni lokalni minimum. Odaberimo točku x 0 (a, b), te aproksimirajmo funkciju f kvadratnom funkcijom pomoću Taylorove formule g(x) = f(x 0 ) + f (x 0 )(x x 0 ) + 1 2 f (x 0 )(x x 0 ) 2. (5.22) Sljedeća aproksimacija x 1 točke x se dobije odredivanjem minimuma funkcije g x 1 = x 0 f (x 0 ) f (x 0 ). (5.23) Ponavljanjem postupka dolazimo do niza x 0, x 1,..., x n,... koji je zadan rekurzivnom formulom x k+1 = x k f (x k ) (5.24) f (x k ) koji uz odredene uvjete konvergira prema x. Formulom (5.24) je zadana iterativna metoda koja se u literaturi naziva obična Newtonova ili Newton-Raphsonova metoda. Slika 8: Newtonova metoda Metode opisane u radu su iterativne metode, odnosno matematički postupci kojima se uz poznati n-ti član može odrediti vrijednost (n+1)-vog člana. Uz iterativne metode se veže pojam red konvergencije. U tu svrhu uvodimo definiciju. Definicija 5.1 (Red konvergencije metode) 8 Neka niz (x n ), dobiven nekom iterativnom metodom, konvergira prema ξ R i neka je e n = ξ x n pogreška n-te aproksimacije. Tada, ako postoje dvije pozitivne konstante A, r R +, takve da vrijedi kažemo da metoda ima red konvergencije r. 8 Vidi primjerice [4], 70. str. e n+1 lim = A, (5.25) n e n r

18 Sljedeći terem govori o uvjetima konvergencije Newtonove metode kao i o odgovarajućoj brzini konvergencije. Teorem 5.1 9 Neka je funkcija f : [a, b] R tri puta diferencijabilna na intervalu [a, b]. Ako vrijedi: 1. f (a) f (b) < 0, 2. f (x) 0, x [a, b], 3. f (x) 0 ili f (x) 0, x [a, b] 4. x 0 [a, b] takav da je f (x 0 ) f (x 0 ) > 0 onda niz definiran s (5.24) konvergira prema jedinstvenom rješenju ξ jednadžbe f (x) = 0 kvadratnom brzinom, tj. vrijedi: gdje je ξ x n+1 M 2 2m 1 (ξ x n ) 2, (5.26) m 1 = min x [a,b] f (x), Pri tome vrijedi ocjena pogreške aproksimacije M 2 = max x [a,b] f (x). (5.27) ξ x n M 2 2m 1 (x n x n 1 ) 2. (5.28) 9 Vidi primjerice [4], 78. str.

19 6. Interpolacijske metode U ovom poglavlju će biti konstruirane neke interpolacijske metode za traženje jedinstvenog minimuma funkcije f : (a, b) R. Biti će pokazano kako na temelju poznatih vrijednosti funkcije, te njene derivacije u nekoliko točaka funkcije odrediti u kojoj točki funkcija postiže minimum. Za pojedine metode navodimo teoreme o brzini konvergencije. 6.1. Kvadratne interpolacijske metode 6.1.1. Kvadratna interpolacijska metoda sa dvije točke (I) Neka su poznate dvije točke x 0, x 1 i vrijednosti funkcije f u te dvije točke f(x 0 ) i f(x 1 ), te vrijednost derivacije funkcije f u jednoj od tih točaka, na primjer f (x 0 ). Potrebno je konstruirati kvadratnu interpolacijsku funkciju g(x) = αx 2 + βx + γ sa sljedećim uvjetima: Rješavajući sustav (6.29) dobije se: Pošto je g(x 0 ) = αx 2 0 + βx 0 + γ = f(x 0 ) = f 0, g(x 1 ) = αx 2 1 + βx 1 + γ = f(x 1 ) = f 1, g (x 0 ) = 2αx 0 + β = f (x 0 ) = f 0. (6.29) α = f 0 f 1 f 0(x 0 x 1 ) (x 0 x 1 ) 2, β = f 0 + 2x 0 f 0 f 1 f 0(x 0 x 1 ) (x 0 x 1 ) 2, γ = f 0 x 0 f 0 x 2 0 dobije se sljedeća iterativna formula: f 0 f 1 f 0(x 0 x 1 ) (x 0 x 1 ) 2. x = β 2α = x 0 1 (x 0 x 1 )f 0 2 f 0 f 0 f 1, (6.30) x 0 x 1 x k+1 = x k 1 (x k x k 1 )f k 2 f k f k f k 1 (6.31) x k x k 1 gdje su f k = f(x k ), f k 1 = f(x k 1 ), f k = f (x k ). Formula (6.31) se zove kvadratna interpolacijska formula. U sljedećem koraku izmedu točaka x k 1, x k te x k+1, odbacujemo onu u kojoj je vrijednost funkcije najveća te za preostale točke primijenimo iterativnu formulu (6.31). Postupak se nastavlja sve dok duljina intervala ne bude manja od zadane tolerancije.

20 Primjedba 6.1 Na analogan način moguće je konstruirati i Newtonovu metodu rješavanjem sustava g(x 0 ) = αx 2 0 + βx 0 + γ = f(x 0 ) = f 0, g (x 0 ) = 2αx 0 + β = f (x 0 ) = f 0, g (x 0 ) = 2α = f (x 0 ) = f 0. 6.1.2. Kvadratna interpolacijska metoda sa dvije točke (II) Neka su zadane dvije točke x 0, x 1 i vrijednost funkcije u jednoj od njih, na primjer f(x 0 ) i vrijednosti derivacije funkcije u obje točke f (x 0 ) i f (x 1 ). Potrebno je konstruirati kvadratnu interpolacijsku funkciju sa sljedećim uvjetima: g(x 0 ) = αx 2 0 + βx 0 + γ = f(x 0 ) = f 0, g (x 0 ) = 2αx 0 + β = f (x 0 ) = f 0, g (x 1 ) = 2αx 1 + β = f (x 1 ) = f 1. (6.32) Analognim postupkom kao u gornjem slučaju, dobije se odakle slijedi iterativna formula: x = β 2α = x 0 x 0 x 1 f f 0 f 1 0 (6.33) x k+1 = x k x k x k 1 f k f f k 1 k (6.34) koja se naziva formula sekante. Formula (6.33) se može dobiti rješavanjem jednadžbe L(x) = 0 gdje je L(x) Lagrangeova interpolacijska formula za točke (x k 1, f k 1 ) i (x k, f k ), te glasi: L(x) = (x x k 1)f k (x x k)f k 1 x k x k 1. (6.35) Bez dokaza navodimo teorem o konvegenciji kvadratne interpolacijske metode sa dvije točke. Teorem 6.1 10 Neka je f : R R tri puta diferencijabilna funkcija. Neka je dana točka x takva da zadovoljava f (x ) = 0 i f (x ) 0. Tada niz {x k } zadan sa (6.34) ima red konvergencije 1+ 5 2 1.618. 10 Vidi primjerice [5], 91. str.

21 Slika 9: Kvadratna interpolacijska metoda sa dvije točke 6.1.3. Kvadratna interpolacijska metoda sa tri točke Neka su zadane tri točke x 0, x 1 i x 2 i njihove funkcijske vrijednosti f(x i ), i = 0, 1, 2. Traženi interpolacijski uvjeti su g(x i ) = αx 2 i + βx i + γ = f(x i ) = f i, i = 0, 1, 2. (6.36) Rješavanjem prethodnih jednadžbi dobije se pa je α = (x 1 x 2 )f 0 + (x 2 x 0 )f 1 + (x 0 x 1 )f 2, (x 0 x 1 )(x 1 x 2 )(x 2 x 0 ) β = (x2 1 x 2 2)f 0 + (x 2 2 x 2 0)f 1 + (x 2 0 x 2 1)f 2, (x 0 x 1 )(x 1 x 2 )(x 2 x 0 ) x = β 2α = 1 (x 2 1 x 2 2)f 0 + (x 2 2 x 2 0)f 1 + (x 2 0 x 2 1)f 2 (6.37) 2 (x 1 x 2 )f 0 + (x 2 x 0 )f 1 + (x 0 x 1 )f 2 = 1 2 (x 0 + x 1 ) + 1 (f 0 f 1 )(x 1 x 2 )(x 2 x 0 ), (6.38) 2 (x 1 x 2 )f 0 + (x 2 x 0 )f 1 + (x 0 x 1 )f 2 odakle slijedi iterativna formula x k+1 = 1 2 (x k 1 + x k ) + 1 (f k 1 f k )(x k x k+1 )(x k+1 x k 1 ). (6.39) 2 (x k x k+1 )f k 1 + (x k+1 x k 1 )f k + (x k 1 x k )f k+1 Formula 6.39 zove se kvadratna interpolacijska formule s tri točke. Navedena formula se može dobiti rješavanjem jednadžbe L(x) = 0, gdje je L(x) Lagrangeov interpolacijski polinom te glasi: (x x k )(x x k+1 ) L(x) = (x k 1 x k )(x k 1 x k+1 ) f k 1 + (x x k 1)(x x k+1 ) (x x k 1 )(x x k ) f k + (x k x k 1 )(x k x k+1 (x k+1 x k 1 )(x k+1 x k ) f k+1 (6.40)

22 Algoritam 6.1 Algoritam za traženje kvadratne interpolacije sa tri točke Korak 0. Zadaj toleranciju ε. Pronadi početnu trojku {x 0, x 1, x 2 } za koje vrijedi min{x 0, x 1, x 2 } x max{x 0, x 1, x 2 }; računaj f(x i ), i = 0, 1, 2 Korak 1. Izračunaj x korištenjem formule (6.37); Korak 2. Ako je (x x 0 )(x x 2 ) 0 idi na Korak 3.; u suprotnom idi na Korak 4.; Korak 3. Konstruiraj novu trojku {x 0, x 1, x 2 } iz x 0, x 1, x 2 i x za koje je vrijednost funkcije f najmanja i prijedi na Korak 1. Korak 4. Ako je x x 1 < ε, kraj; u suprotnom prijedi na Korak 3. Sljedeći teorem govori o redu konvergencije gornjeg algoritma. Teorem 6.2 Neka je f : R R četiri puta derivabilna funkcija. Neka x zadovoljava f (x ) = 0 i f (x ) 0. Tada niz {x k } dobiven pomoću formule (6.39) ima red konvergencije 1.32. 6.2. Kubična interpolacijska metoda Kubična interpolacijska metoda aproksimira funkciju f(x) sa kubičnim polinomom. Za konstrukciju kubičnog polinoma p(x), potrebna su četiri interpolacijska uvjeta. Na primjer, možemo upotrijebiti poznate vrijednosti funkcije u četiri točke ili vrijednosti funkcije u tri točke i vrijednost derivacije u jednoj točki ili vrijednosti funkcije i vrijednosti derivacije u dvije točke. U konačnici, kubična interpolacija ima brži red konvergencije nego kvadratna interpolacija, ali je potrebno računati derivacije i koriste se kompliciraniji izračuni. Neka su zadane dvije točke x 0 i x 1, njihove funkcijske vrijednosti f(x 0 ) i f(x 1 ), te vrijednosti derivacija f (x 0 ) i f (x 1 ). Konstruirajmo kubični polinom p(x) = α(x x 0 ) 3 + β(x x 0 ) 2 + γ(x x 0 ) + δ (6.41) gdje su α, β, γ i δ koeficijenti polinoma odabrani tako da vrijedi: p(x 0 ) = δ = f(x 0 ) = f 0, p (x 0 ) = γ = f (x 0 ) = f 0, p(x 1 ) = α(x 1 x 0 ) 3 + β(x 1 x 0 ) 2 + γ(x 1 x 0 ) + δ = f(x 1 ) = f 1, p (x 1 ) = 3α(x 1 x 0 ) 2 + 2β(x 1 x 0 ) + γ = f (x 1 ) = f 1. (6.42) Iz dovoljnog uvjeta za minimizaciju imamo p (x) = 3α(x x 0 ) 2 + 2β(x x 0 ) + γ = 0 (6.43)

23 i p (x) = 6α(x x 0 ) + 2β > 0. (6.44) Rješavajući (6.43) dobijemo x = x 0 + β ± β 2 3αγ, za α 0, (6.45) 3α x = x 0 γ, za α = 0. (6.46) 2β Kako bi bio zadovoljen zahtjev (6.44) uzimamo samo pozitivnu vrijednost od (6.45). Kombinirajući (6.45) i (6.46) dobivamo x x 0 = β + β 2 3αγ 3α = γ β + β 2 3αγ. (6.47) Kada je α = 0, (6.47) je tada samo (6.46). Tada je minimum od p(x) x = x 0 γ β + β 2 3αγ. (6.48) Minimum (6.48) je odreden sa α, β i γ. Mi želimo prikazati x pomoću f(x 0 ), f(x 1 ), f (x 0 ) i f (x 1 ). Neka je Koristeći uvjete (6.42) dobivamo Pa je i tako dobivamo s = 3 f(x 1) f(x 0 ) x 1 x 0, z = s f (x 0 ) f (x 1 ), w 2 = z 2 f (x 0 )f (x 1 ). (6.49) s = 3 f(x 1) f(x 0 ) = 3[α(x 1 x 0 ) 2 + β(x 1 x 0 ) + γ], x 1 x 0 z = s f (x 0 ) f (x 1 ) = β(x 1 x 0 ) + γ, w 2 = z 2 f (x 0 )f (x 1 ) = (x 1 x 0 ) 2 (β 2 3αγ). (6.50) (x 1 x 0 )β = z γ, β2 3αγ = w x 1 x 0, (6.51) β + β 2 3αγ = z + w γ x 1 x 0. (6.52) Koristeći γ = f (x 0 ) i supstitucijom (6.52) u (6.48), dobivamo x x 0 = (x 1 x 0 )f (x 0 ) z + w f (x 0 ), (6.53)

24 što daje x x 0 = (x 1 x 0 )f (x 0 )f (x 1 ) (z + w f (x 0 ))f (x 1 ) (x 1 x 0 )(z 2 w 2 ) = f (x 1 )(z + w) (z 2 w 2 ) = (x 1 x 0 )(w z) f (x 1 ) z + w. (6.54) Na žalost, formula (6.54) nije pogodna za računanje x, jer je njen nazivnik vjerojatno 0 ili je vrlo mali. Nasreću, to se može svladati upotrebom formula (6.53) i (6.54), te tada dobijemo x x 0 = (x 1 x 0 )f (x 0 ) z + w f (x 0 ) = (x 1 x 0 )(w z) f (x 1 ) z + w = (x 1 x 0 )( f (x 0 ) + w z) f (x 1 ) f (x 0 ) + 2w ( ) f (x 1 ) + z + w = (x 1 x 0 ) 1, (6.55) f (x 1 ) f (x 0 ) + 2w ili w f (x 0 ) z x = x 0 + (x 1 x 0 ) f (x 1 ) f (x 0 ) + 2w. (6.56) w f (x k 1 ) z x k+1 = x k 1 + (x k x k 1 ) f (x k ) f (x k 1 ) + 2w. (6.57) U (6.55) i (6.56) nazivnik f (x 1 ) f (x 0 ) + 2w 0. Ustvari, kako je f (x 0 ) < 0 i f (x 1 ) > 0, tada je w 2 = z 2 f (x 0 )f (x 1 ) > 0. Ako uzmemo da je w > 0, slijedi da je nazivnik f (x 1 ) f (x 0 ) + 2w > 0. Može se pokazati 11 da kubična interpolacijska metoda sa dvije točke ima brzinu konvergencije reda 2. Slika 10: Kubična interpolacijska metoda U sljedećem poglavlju ćemo navesti nekoliko ilustrativnih primjera traženja minimuma za različite funkcije, pomoću prethodno opisanih metoda. 11 Vidi primjerice [5]

25 7. Numerički primjeri Primjer 7.1 Pronadimo minimum funkcije f(x) = x 4 x 2 +x+1 na intervalu [ 1, 1]. Rješenja su dobivena na osnovi vlastitog programa, koji je napravljen u programskom paketu MATLAB i dana su u donjoj tablici. Sve metode su testirane uz toleranciju ε = 0.00005, te je uzet maksimalan broj iteracija n = 10. Usporedujemo dobivene aproksimacije točke lokalnog minimuma funkcije f kroz iteracije, kao i odgovarajuće vrijednosti funkcije. Iz tablice je vidljivo da Newtonova metoda i kubična metoda daju istu vrijednost funkcije, Newtonova nakon treće, a kubična metoda nakon četvrte iteracije. Kvadratna metoda sa 2 točke daje nešto lošiji rezultat nakon desete iteracije, dok je kvadratnom metodom sa 3 točke dobiven puno lošiji rezultat. Newton Kv. s 2 točke Početna aproksimacija a = 1 a = 1, b = 1 n x k f(x k ) x k f(x k ) 1-0.900000-0.053900-0.200000 0.761600 2-0.884974-0.054784-0.813453-0.037304 3-0.884646-0.054784-0.890474-0.054658 4-0.863975-0.053236 5-0.880151-0.054710 6-0.884948-0.054784 7-0.883281-0.054777 8-0.884316-0.054784 9-0.884639-0.054784 10-0.884653-0.054784 Kv. s 3 točke Kubična Početna aproksimacija a = 1, b = 0, c = 1 a = 1, b = 1 n x k f(x k ) x k f(x k ) 1-5.045455 618.537007-0.500000 0.312500 2-0.516392 0.288055-0.881414-0.054746 3-1.138526 0.245475-0.884658-0.054784 4-0.836451-0.046591-0.884646-0.054784 5-0.897818-0.054135 6-0.823318-0.823318 7-0.868006-0.053777 8-0.883010-0.054774 9-0.890594-0.054653 10-0.886794-0.054767

26 Slika 11: Newtonova metoda Slika 12: Kvadratna interpolacijska metoda sa 2 točke

27 Slika 13: Kvadratna interpolacijska metoda sa 3 točke Slika 14: Kubična interpolacijska metoda Primjer 7.2 Pronadimo minimum funkcije f(x) = x 5 3x 4 4x 2 + 50 na intervalu [2, 3]. Rješenja su dobivena na osnovi vlastitog programa, koji je napravljen u programskom paketu MATLAB i dana su u donjoj tablici. Sve metode su testirane uz toleranciju ε = 0.00005, te je uzet maksimalan broj iteracija n = 10. Usporedujemo dobivene aproksimacije točke lokalnog minimuma funkcije f kroz iteracije, kao i odgovarajuće vrijednosti funkcije. Iz tablice je vidljivo da Newtonova metoda i kubična metoda daju istu vrijednost funkcije nakon treće iteracije. Kvadratna metoda sa 2 točke daje nešto lošiji rezultat nakon desete iteracije, dok je kvadratnom metodom sa 3 točke dobiven puno lošiji rezultat.

28 Newton Kv. s 2 točke Početna aproksimacija a = 2.5 a = 2, b = 3 n x k f(x k ) x k f(x k ) 1 2.653302 4.656990 2.516949 5.273760 2 2.631624 4.630249 2.712995 5.010239 3 2.631121 4.630236 5.010239 4.635240 4 4.635240 4.635240 5 2.635202 2.635202 6 2.630058 4.630296 7 2.632047 4.630282 8 2.631088 4.630236 9 2.631415 2.631415 10 2.631205 4.630236 Kv. s 3 točke Kubična Početna aproksimacija a = 2, b = 2.5, c = 3 a = 2, b = 3 n x k f(x k ) x k f(x k ) 1 1.830544 23.465232 2.621279 4.635385 2 2.568212 4.832889 2.631392 4.630240 3 2.557088 4.908684 2.631121 4.630236 4 2.562200 4.872438 5 2.565185 4.852382 6 2.566693 4.842568 7 2.567451 4.837711 8 2.567831 4.835296 9 2.568022 4.834091 10 2.568117 4.833490 Slika 15: Newtonova metoda

29 Slika 16: Kvadratna interpolacijska metoda sa 2 točke Slika 17: Kvadratna interpolacijska metoda sa 3 točke Slika 18: Kubična interpolacijska metoda

30 Primjer 7.3 Pronadimo minimum funkcije f(x) = e x x 3 1 na intervalu [3, 4]. Rješenja su dobivena na osnovi vlastitog programa, koji je napravljen u programskom paketu MATLAB i dana su u donjoj tablici. Sve metode su testirane uz toleranciju ε = 0.00005, te je uzet maksimalan broj iteracija n = 10. Usporedujemo dobivene aproksimacije točke lokalnog minimuma funkcije f kroz iteracije, kao i odgovarajuće vrijednosti funkcije. Iz tablice je vidljivo da Newtonova metoda i kubična metoda daju istu vrijednost funkcije nakon četvrte iteracije. Kvadratna metoda sa 2 točke daje nešto lošiji rezultat nakon desete iteracije, dok je kvadratnom metodom sa 3 točke dobiven puno lošiji rezultat. Newton Kv. s 2 točke Početna aproksimacija a = 3.5 a = 3, b = 4 n x k f(x k ) x k f(x k ) 1 3.799993-11.170825 3.579299-11.007361 2 3.736935-11.215956 3.763898-11.206707 3 3.733093-11.216101 3.714735-11.212872 4 3.733079-11.216101 3.736528-11.215985 5 3.731248-11.216068 6 3.733537-11.216099 7 3.732882-11.216100 8 3.733155-11.216101 9 3.733057-11.216101 10 3.733096-11.216101 Kv. s 3 točke Kubična Početna aproksimacija a = 3, b = 3.5, c = 4 a = 3, b = 4 n x k f(x k ) x k f(x k ) 1 3.324746-9.959590 3.720143-11.214490 2 3.764874-11.206097 3.733256-11.216100 3 3.764874-11.102538 3.733079-11.216101 4 3.693543-11.201296 3.733079-11.216101 5 3.729224-11.215957 6 3.747080-11.214182 7 3.738151-11.215850 8 3.733687-11.216097 9 3.731456-11.216075 10 3.732571-11.216098

31 Slika 19: Newtonova metoda Slika 20: Kvadratna interpolacijska metoda sa 2 točke

32 Slika 21: Kvadratna interpolacijska metoda sa 3 točke Slika 22: Kubična interpolacijska metoda Primjer 7.4 Pronadimo minimum funkcije f(x) = x x sin x na intervalu [1.2, 2]. Rješenja su dobivena na osnovi vlastitog programa, koji je napravljen u programskom paketu MATLAB i dana su u donjoj tablici. Sve metode su testirane uz toleranciju ε = 0.00005, te je uzet maksimalan broj iteracija n = 10. Usporedujemo dobivene aproksimacije točke lokalnog minimuma funkcije f kroz iteracije, kao i odgovarajuće vrijednosti funkcije. Iz tablice je vidljivo da Newtonova metoda i kubična metoda daju istu vrijednost funkcije, Newtonova nakon treće, a kubična metoda nakon druge iteracije. Kvadratna metoda sa 2 točke daje nešto lošiji rezultat nakon desete iteracije, dok je kvadratnom metodom sa 3 točke dobiven puno lošiji rezultat.

33 Newton Kv. s 2 točke Početna aproksimacija a = 1.4 a = 1.2, b = 2 n x k f(x k ) x k f(x k ) 1 1.614874 0.001568 1.570993 0.000000 2 1.572481 0.000002 1.570473 0.000000 3 1.570799 0.000000 1.570769 0.000000 4 1.570850 0.000000 5 1.570804 0.000000 Kv. s 3 točke Kubična Početna aproksimacija a = 1.2, b = 1.4, c = 2 a = 1.2, b = 2 n x k f(x k ) x k f(x k ) 1 5.296577 9.714771 1.569270 0.000002 2 1.516390 0.002244 1.570787 0.000000 3 1.664061 0.007232 4 1.568439 0.000004 5 1.569179 0.000002 6 1.571026 0.000000 7 1.570825 0.000000 8 1.570796 0.000000 9 1.570796 0.000000 Slika 23: Newtonova metoda

34 Slika 24: Kvadratna interpolacijska metoda sa 2 točke Slika 25: Kvadratna interpolacijska metoda sa 3 točke Slika 26: Kubična interpolacijska metoda

35 8. Sažetak Problem traženja minimuma funkcije se može prepoznati u svakodnevnim životnim situacija, pa mi se kao takav učinio zanimljivim za istraživanje za ovaj diplomski rad. Mnogo je metoda koje se koriste za traženje minimuma funkcije. U ovom radu su objašnjene četiri metode koje se razlikuju po zadanim uvjetima funkcije, ali i po redu konvergencije. Usporedujući metode prema redu konvergencije, najbržu konvergenciju imaju Newtonova metoda i kubična metoda. Daljnjim usporedivanjem ovih dviju metoda, dolazimo do zaključka da je Newtonova metoda najjednostavnija i najbrža za traženje minimuma funkcije, jer se kod kubične metode koriste kompliciraniji izračuni. Ključne riječi: minimizacija funkcije, Newtonova metoda, interpolacijske metode, red konvergencije

36 Summary The problem of sistem minimization function can be recognized in every day life situation, so I found it interesting to research for My graduate work. There are many methods for sistem minimization function. In this graduate work I have explained four methods that are different by default condition of the function and by convergance rate. Comparing these methods by convergance rate, fastest convergation have Newton method and cubic method, by further comparing of these two methods, We conclude that Newton method is the simplest and the quickest for system minimization function because cubic method uses more complicated calculation. Key words: minimization function, Newton method, interpolation methods, convergance order

37 9. Životopis Rodena sam 18. svibnja 1986. godine u Našicama. Živim sa roditeljima i sestrama u Viljevu, gdje sam završila Osnovnu školu. U Donjem Miholjcu sam upisala i završila opću gimnaziju. 2005. godine sam upisala Preddiplosmki studij matematike u Osijeku, koji sam završila 2008., te sam nastavila studirati na Sveučilišnom diplomskom studiju matematike, smjer Poslovna i financijska matematika.

38 10. Prilozi 10.1. MATLAB kod za Newtonovu metodu x0=-1; maxit=10; tol=0.00005; n=0; for ii=1:maxit n=n+1; x=-4:0.01:4; y=f(x0)+df(x0)*(x-x0)+(1/2)*ddf(x0)*(x-x0). 2; plot(x,y, b ) hold on x1=x0-df(x0)/ddf(x0); rez=f(x1); sprintf( n=%d, aproksimacija=%f, f(x)=%f, n,x1,rez) x0=x1; if abs(df(x0))<tol end greska=abs(df(x0)); rjesenje=x1; break end x=-4:0.01:4; y=f(x); plot(x,y, k, LineWidth,1.5) hold on

39 10.2. MATLAB kod za kvadratnu interpolacijsku metodu sa dvije točke tol=0.00005; maxit=10; x0=-1; x1=1; for ii=1:maxit x=-4:0.01:4; y=[(f(x1)-f(x0)+df(x0)*(x0-x1))/(x0-x1). 2]*x. 2+ [df(x0)-(2*x0*(f(x1)-f(x0)+df(x0)*(x0-x1))/(x0-x1). 2)]*x+ [f(x0)-x0*df(x0)+x0. 2*[(f(x1)-f(x0)+df(x0)*(x0-x1))/(x0-x1). 2]]; plot(x,y, b ) hold on if (x1-x0)<tol else end break x2=x1-((x1-x0)*df(x1))/(2*df(x1)-(f(x1)-f(x0))/(x1-x0)); rez=f(x2); sprintf ( i=% d, aproksimacija=% f, f(x)=%f,ii,x2,rez) ii=ii+1; if f(x0)<f(x1) else end if f(x2)<f(x1) end x1=x2; if f(x2)<f(x0) end x0=x2;

end x=-4:0.01:4; y=f(x); plot(x,y, k, LineWidth,1.5) hold on 40

41 10.3. MATLAB kod za kvadratnu interpolacijsku metodu sa tri točke maxit=10; tol=0.00005; x 0 = 1; x 1 = 0; x 2 = 1; for ii=1:maxit x=-4:0.01:4; y=[-[(x1-x2)*f(x0)+(x2-x0)*f(x1)+(x0-x1)*f(x2)]/ [(x0-x1)*(x1-x2)*(x2-x0)]]*x. 2+ [[(x1. 2-x2. 2)*f(x0)+(x2. 2-x0. 2)*f(x1)+(x0. 2-x1. 2)*f(x2)]/ [(x0-x1)*(x1-x2)*(x2-x0)]]*x+ [f(x0)+x0*[f(x0)*(x1-x2)*(x0-x1-x2)+x2*f(x1)*(x0-x2)+x1*f(x2)*(x1-x0)]/ [(x0-x1)*(x1-x2)*(x2-x0)]]; plot(x,y, b ) hold on xx=(1/2)*(x0+x1)+(1/2)*(((f(x0)-f(x1))*(x1-x2)*(x2-x0))/ ((x1-x0)*f(x0)+(x2-x0)*f(x1)+(x0-x1)*f(x2))); rez=f(xx); sprintf( n=%d, aproksimacija=%f, f(x)=%f, ii,xx,rez) if abs(xx-x1)<tol else break if (f(x0)<f(x1)) & (f(x1)<f(x2)) if (f(x0)<f(xx)) & (f(xx)<f(x1)) x2=x1; x1=xx; elseif (f(x0)<f(x1)) & (f(x1)<f(xx)) x2=xx;

42 else x2=x1; x1=x0; x0=xx; end elseif (f(x1)<f(x0)) & (f(x0)<f(x2)) if (f(xx)<f(x1)) & (f(x1)<f(x0)) x2=x0; x0=xx; elseif (f(x1)<f(xx)) & (f(xx)<f(x0)) x2=x0; x0=x1; x1=xx; else a=x0; x0=x1; x1=a; x2=xx; end elseif (f(x0)<f(x2)) & (f(x2)<f(x1)) if (f(xx)<f(x0)) & (f(x0)<f(x2)) x1=x0; x0=xx; elseif (f(x0)<f(xx)) & (f(xx)<f(x2)) x1=xx; else x1=x2; x2=xx; end elseif (f(x1)<f(x2)) & (f(x2)<f(x0)) if (f(xx)<f(x1)) & (f(x1)<f(x2)) x0=xx; elseif (f(x1)<f(xx)) & (f(xx)<f(x2)) x0=x1; x1=xx;

43 else x0=x1; x1=x2; x2=xx; end elseif (f(x2)<f(x0)) & (f(x0)<f(x1)) if (f(xx)<f(x2)) & (f(x2)<f(x0)) a=x0; x0=xx; x1=x2; x2=a; elseif (f(x2)<f(xx)) & (f(xx)<f(x0)) a=x0; x0=x2; x1=xx; x2=a; else x1=x0; x0=x2; x2=xx; end else if (f(xx)<f(x2)) & (f(x2)<f(x1)) a=x1; x0=xx; x1=x2; x2=a; elseif (f(x2)<f(xx)) & (f(xx)<f(x1)) x0=x2; x2=x1; x1=xx; else x0=x2; x2=xx; end

44 end end end x=-4:0.01:4; y=f(x); plot(x,y, k, LineWidth,1.5)

45 10.4. MATLAB kod za kubičnu interpolacijsku metodu tol=0.00005; maxit=10; x 0 =-1; x 2 =1; for ii=1:maxit x=-4:0.01:4; y=[(4*f(x1)-4*f(x0)-5*df(x0)*(x1-x0)-df(x1)*(x1-x0))/(x1-x0). 3]*(x-x0). 3+ [(df(x1)*(x1-x0)+4*df(x0)*(x1-x0)-3*f(x1)+3*f(x0))/(x1-x0). 2]*(x-x0). 2+ df(x0)*(x-x0)+f(x0); plot(x,y, b ) hold on if (x1-x0)<tol else break s=3*((f(x1)-f(x0))/(x1-x0)); z=s-df(x0)-df(x1); w=sqrt(z. 2-df(x0)*df(x1)); x2=x0+(x1-x0)*((w-df(x0)-z)/(df(x1)-df(x0)+2*w)); rez=f(x2); sprintf ( i=% d, aproksimacija=% f, f(x)=%f,ii,x2,rez) ii=ii+1; if f(x0)<f(x1) else end if f(x2)<f(x1) end x1=x2; if f(x2)<f(x0) end x0=x2;

46 end end x=-4:0.01:4; y=f(x); plot(x,y, k, LineWidth,1.5) hold on

47 Literatura [1] D. JUKIĆ, R. SCITOVSKI, Matematika I, Prehrambeno tehnološki fakultet, Elektrotehnički fakultet, Osijek, 1998. [2] M. CRNJAC, D. JUKIĆ, R. SCITOVSKI, Matematika, Ekonomski fakultet, Osijek, 1994. [3] S. KUREPA, Matematička analiza 2, funkcije jedne varijable, Tehnička knjiga, Zagreb, 1987. [4] R. SCITOVSKI, Numerička matematika, Odjel za matematiku Sveučilišta u Osijeku, Osijek, 2004. [5] W. SUN, Y. YUAN, Optimization theory and methods, Nonlinear programming, Springer, New York, 2006.