Linearno programiranje Ivana Kuzmanović, Kristian Sabo Radni materijal za predavanja

Linearno programiranje Ivana Kuzmanović, Kristian Sabo Radni materijal za predavanja 1 Problem linearnog programiranja Linearno programiranje optimizacijska je metoda kojom se odreduje optimalna vrijednost linearne funkcije više varijabli (tzv funkcije cilja) obzirom na neke zadane linearne uvjete koje varijable moraju zadovoljavati Počeci linearnog programiranja sežu u razdoblje Drugog svjetskog rata gdje se koristilo za potrebe minimiziranja troškova vojske, vojne taktike i sl a osobiti razvoj je uslijedio nakon 1947 godine kada je američki matematičar A Danzig razvio vrlo učinkovitu motodu (tzv simpleks metoda) za numeričko rješavanje problema linearnog programiranja Simpleks metoda je i danas osnovna metoda linearnog programiranja U današnje vrijeme, koristeći računala, linearno programiranje nezaobilazna je metoda u mnogim područjima gdje se javljaju vrlo složeni problemi optimizacije (kao npr problem transporta, energije, telekomunikacija, proizvodnje i dr) 11 Standardni oblik problema linearnog programiranja Neka su c R n, a i R n, b i R, i M = M 1 M 2 M 3, gdje su M i, i = 1,2,3 skupovi indeksa takvi da je M i M j, i j te f : R n R linearna funkcija zadana formulom f() = c T Promatrajmo sljedeći minimizacijski problem: f() = c T min (1) a T i b i, i M 1 (2) a T i b i, i M 2 (3) a T i = b i, i M 3 (4) Problem (1)-(4) zovemo problem linearnog programiranja ili skraćeno LP problem, pri tome funkciju f zovemo funkcija cilja Vektor koji zadovoljava uvjete (2)-(4) zovemo dopustivo rješenje, dok skup svih dopustivih rješenja zovemo dopustivo područje Za dopustivo rješenje takvo da je f( ) = c T c T = f(), za svako dopustivo rješenje, kažemo da je optimalno dopustivo rješenje Primjer 1 Zadan je LP problem 2 1 2 + 4 3 min 1 + 2 + 4 2 3 2 3 = 5 3 + 4 0 1 0 3 0 1

Odgovarajući skupovi indeksa su M = {1,2,3,4,5}, M 1 = {3,4,5}, M 2 = {1}, i M 3 = {2} a odgovarajući vektori su = [ 1, 2, 3, 4 ] T, c = [2, 1,4,0] T, a 1 = [1,1,0,1] T, a 2 = [0,3, 1,0] T, a 3 = [0,0,1,1] T, a 4 = [1,0,0,0] T, a 5 = [0,0,1,0] T te b 1 = 2, b 2 = 5, b 3 = 0, b 4 = 0 i b 5 = 0 Primjedba 1 Uočimo a) maksimizacijski problem može se svesti na minimizacijski problem b) uvjet a T i = b i ekvivalentan je uvjetima c T ma c T min a T i b i & a T i b i c) uvjet a T i b i ekvivalentan je uvjetu a T i b i Sukladno Primjedbi 1, svaki LP problem (1)-(4) može se zapisati u obliku c T min A b, gdje su A R m n, b R m, c R n, R n Pri tome je n broj varijabli, a m dimenzija problema Primjer 2 LP problem iz Primjera 1 možemo zapisati na sljedeći način 2 1 2 + 4 3 min 1 2 4 2 3 2 3 5 3 2 + 3 5 3 + 4 0 1 0 3 0 ili u matričnom obliku c T min A b, 2

gdje su A = 1 1 0 1 0 3 1 0 0 3 1 0 0 0 1 1, b = 1 0 0 0 0 0 1 0 2 5 5 0 0 0, c = 2 1 4 0 Primjer 3 Zadan je LP problem 1 2 min 1 + 3 2 2 3 1 + 2 2 1 0 2 0 Na Slici 1 prikazano je odgovarajuće dopustivo područje Promatrajmo sve pravce p α oblika 1 2 = α, gdje je α neki realan broj Primjetimo da je vektor c = [ 1, 1] T vektor normale pravca p α Jednadžba pravca p α u eksplicitnom obliku glasi 2 = 1 α, pri tome je α odsječak što ga pravac p α odsjeca na 2 osi Uočimo da minimizirati funkciju cilja na dopustivom području znači odrediti α tako da pravac p α prolazi kroz dopustivo područje te da je pri tome α najmanji mogući, odnosno α (odsječak što ga pravac p α odsjeca na 2 osi) najveći mogući Broj α s tim svojstvom odredit ćemo tako da najprije odaberemo početni α 0 tako da pravac p α0 prolazi dopustivim područjem Uočimo da možemo primjerice uzeti α 0 = 0 Pri tome p α0 translatiramo u smjeru vektora c tako da ostanemo u dopustivom području, sve dok odsječak što ga translatirani pravac p α odsjeca na 2 osi ne postane najveći mogući Točka koju smo dobili u tom graničnom slučaju ima koordinate ( 1 2, 1 ) 2 te je = [ 1 2, 1 T 2] optimalno dopustivo rješenje dok je odgovarajuća optimalna vrijednost funkcije cilja α = 1 Općenito, pretpostavimo da promatramo LP problem c T = c 1 1 + c 2 2 min 1, 2, A b, gdje su c R 2,A R m 2 i b R m Uočimo da se ovakav problem može geometrijski vizualizirati Skiciramo odgovarajuće dopustivo područje D = { R 2 : A b} R 2 Neka je p α pravac s jednadžbom c T = c 1 1 +c 2 2 = α Kandidate za dopustivo optimalno rješenje tražimo na pravcu p α, gdje je α R takav da je p α D = Odaberemo pošetni α 0 takav da je p α0 D = te neka je je 0 radij vektor neke točke na pravcu p α0 U svrhu traženja optimalnog dopustivog rješenja trebamo translatirati pravac p α0 Ako ga translatiramo u smjeru vektora c za korak λ > 0 imamo c T ( 0 + λc) = c T 0 + λ c 2 c T 0, 3

25 20 2 2 25 20 1 2 = 1 15 3 1 + 2 = 2 15 10 05 00 D 1 + 3 2 = 2 10 05 = ( 1 2 D, ) 1 2 1 1 00 05 05 10 10 10 05 00 05 10 15 20 25 10 05 00 05 10 15 20 25 Slika 1: Dopustivo područje tj povećavamo vrijednost funkcije cilja Dakle, da bismo smanjili vrijednost funkcije cilja pravac p α0 moramo translatirati u smjeru vektora c, najviše što možemo, a da pri tome ostanemo u području D Radij vektor granične točke je optimalno dopustivo rješenje Mali geometrijski algoritam 1 Odaberi α 0 tako da je p α0 D = 2 Translatiraj pravac p α0 u smjeru vektora c najviše što možeš 3 Ako postoji granična točka u kojoj možeš napustiti područje, radij vektor te točke je optimalno dopustivo rješenje Ako takva točka ne postoji, za optimalnu vrijednost funkcije cilja stavi Primjer 4 Jednostavno se vidi da dopustivo područje 1 + 2 1 1 0 2 0 nije omedeno Primjenom malog geometrijskog algoritma dobivamo: a) Ako je c = [1,1] T, onda je = [0,0] T b) Ako je c = [1,0] T, onda je = [0, 2 ] T, 0 2 1 c) Ako je c = [0,1] T, onda je = [ 1,0] T, 1 0 d) Ako je c = [ 1,1] T, onda je optimalna vrijednost funkcije cilja e) Ako u skup uvjeta dodamo uvjet 1 + 2 1, onda će dopustivo područje biti prazno 4

25 2 20 15 10 1 + 2 = 1 D 05 00 1 05 10 10 05 00 05 10 15 20 25 Slika 2: Dopustivo područje Ako su A R m n, b R m te c R n, onda minimizacijski problem c T min, A = b 0, zovemo standardni oblik problema linearnog programiranja-solp Pri tome uvjet 0 znači da je svaka komponenta vektora nenegativna te stoga taj uvjet zovemo uvjet nenegativnosti Propozicija 1 Svaki se LP problem može zapisati kao SOLP problem Dokaz Ako je j varijabla koja ne zadovoljava uvjet nenegativnosti, onda se ona može zapisati u obliku j = + j j, gdje su + j, j 0 Uvjetu oblika at i b i pridružujemo novu varijablu s i 0, pa taj uvjet prelazi u a T i + s i = b i s i 0 Slično, uvjetima oblika a T i b i pridružujemo nove varijable s i 0, pa taj uvjet prelazi u a T i s i = b i s i 0 Primjer 5 LP problem iz Primjera 1 zapisan kao SOLP glasi 2 1 + 2 + 2 + 4 3 5 min 1, + 2, 2, 3, + 4, 4,s 1,s 2

1 + + 2 2 + + 4 4 + s 1 = 2 3 + 2 3 2 3 = 5 3 + + 4 4 s 2 = 0 1 0 + 2 0 2 0 3 0 + 4 0 4 0 s 1 0 s 2 0, odnosno u matričnom obliku c T min, A = b 0, gdje je = 1 + 2 2 3 + 4 4 s 1 s 2, c = 2 1 1 4 0 0 0 0, A = 1 1 1 0 1 1 1 0 0 3 1 1 0 0 0 0 0 0 0 1 1 1 0 1, b = 2 5 0 Varijable LP problema koje nisu nenegativne zovemo slobodne varijable U sljedećem primjeru pokazat ćemo kako se u nekim slučajevima problem sa slobodnom varijablom može pretvoriti u problem s nenegativnim varijablama Primjer 6 Zadan je LP problem 1 + 3 2 + 4 3 min 1, 2, 3 1 + 2 2 + 3 = 5 2 1 + 3 2 + 3 = 6 2 0 3 0 6

Iz uvjeta 1 + 2 2 + 3 = 5 izrazimo slobodnu varijablu 1 = 5 2 2 3 te je uvrstimo u drugi uvjet i u funkciju cilja Na taj način dobivamo novi ekvivalntni problem 2 + 3 3 min 2, 3 2 + 3 = 4 2 0 3 0 Uočimo da je novi problem SOLP Osim toga riječ je o dvodimenzionalnom problemu kojeg možemo riješiti primjenom geometrijskog algoritma Kada dobijemo 2 i 3, slijedi da je 1 = 5 2 2 3 Nije teško vidjeti da su 1 = 3, 2 = 4 te 3 = 0, Primjedba 2 LP problem može se rješavati pomoću programskog paketa Mathematica primjenom naredbe LinearProgramming LP problem oblika c T min c a T i b i, i M 1 a T i b i, i M 2 a T i = b i, i M 3 0 rješavamo tako da definiramo vektor s takav da je 1, i M 1 s i = 1, i M 2 0, i M 3 Primjenom naredbe LinearProgramming[c,m,{{b1,s1},,{bl,sl}}], gdje su a i retci matrice m te l = M 1 M 2 M 3, dobivamo optimalno dopustivo rješenje 12 Problemi koji se svode na LP problem 121 Problem optimalne prehrane Imamo na raspolaganju namirnice N 1,,N n Cijena po jedinici namirnice N j iznosi c j, j = 1,,n U namirnicama su prisutni nutritivni elementi E 1,,E m, pri čemu je u namirnici N j prisutno a ij,i = 1,,m, j = 1,,n, nutritivnog elementa E i Poznato je da svaka osoba mora tijekom jednog dana unijeti barem b i jedinica nutritivnog elementa E i, i = 1,,m Postavlja se sljedeće pitanje: Koliko treba konzumirati pojedine namirnice da bi se zadovoljila dnevna potreba za nutritivnim elementima, a da bi se pri tome minimizarala cijena prehrane? 7

Označimo s j, j = 1,,n količinu konzumirane namirnice N j, j = 1,,n Problem se može formulrati kao minimizacijski LP problem na sljedeći način: c 1 1 + + c n n min, 1,, n a 11 1 + a 12 2 + + a 1n n b 1 a 21 1 + a 22 2 + + a 2n n b 2 a m1 1 + a m2 2 + + a mn n b m 1,, n 0 ili u matričnom obliku c T min A b 0 Primjedba 3 U popularnijoj varijanti ovaj se problem može formulirati kao problem minimizacije unosa kalorija, tako da cijenu po namirnici zamijenimo s kalorijama Interesantna stranica na kojoj se mogu modelirati različite varijante ovog problema: wwwzweigmediacom/realworld/dietproblem/diethtml 122 Problem optimalne proizvodnje Neko postrojenje prozvodi proizvode P 1,,P n Za to se koriste strojevi S 1,,S m Pri tome svaki stroj S i, i = 1,,m u jednom danu može raditi najviše b i,i = 1,,m sati Neka su a ij, i = 1,,m, j = 1,,n, broj sati koji je potreban da bi se na i tom stroju proizveo j ti prozvod Označimo s c j, j = 1,,n prihod po proizvodu P j Prirodno se nameće pitanja: Koliko treba proizvesti pojedinog proizvoda da bi ostvareni prihod bio maksimalan? Označimo s j broj proizvedenih proizvoda P j, j = 1,,n Problem se može formulrati kao maksimizacijski LP problem na sljedeći način: c 1 1 + + c n n ma 1,, n, a 11 1 + a 12 2 + + a 1n n b 1 a 21 1 + a 22 2 + + a 2n n b 2 a m1 1 + a m2 2 + + a mn n b m 1,, n 0 8

ili u matričnom obliku c T ma A b 0 Primijetimo da bi optimalni brojevi proizvedenih proizvoda trebali biti cijeli brojevi Ako su optimalna rješenja prirodni brojevi, onda smo ovim modelom riješili problem Općenito se može dogoditi da neko od rješenja postavljenog LP problema nije cijeli broj U tom slučaju potrebno je problem rješavati kao problem cjelobrojnog programiranja 123 Problem najboljeg pravca Zadani su podaci (t i,y i ), i = 1,,r Treba odrediti pravac s jednadžbom y = kt + l, k, l R koji u nekom smislu najbolje aproksimiraju zadane podatke Moguće je promatrati nekoliko pristupa za rješavanje tog problema: Pristup 1 minimizacija sume kvadrata vertikalnih udaljenosti točaka do pravca, odnosno minimizacija funkcionala r F 2 (k,l) = (kt i + l y i ) 2 Pristup 2 minimizacija sume vertikalnih udaljenosti točaka do pravca, odnosno minimizacija funkcionala r F 1 (k,l) = kt i + l y i Pristup 3 minimizacija maksimalne vertikalne udaljenosti točaka do pravca, odnosno minimizacija funkcionala F (k,l) = ma i=1,,r kt i + l y i i=1 i=1 Pristup 1 je u literaturi poznat pod imenom metoda najmanjih kvadrata Funkcija F 2 je derivabilna funkcija te je r r r (kt i + l y i )t i t 2 i t i F 2 (k,l) = i=1 r (kt i + l y i ), 2 F 2 (k,l) = i=1 i=1 r r Lako se vidi da sustav i=1 i=1 F 2 (k,l) = 0, (5) uvijek ima rješenje Pri tome u slučaju t 1 = = t r sustav (5) ima beskonačno mnogo rješenja, dok je u suprotnom rješenje sustava jednažbi (5) jedinstveno Takoder, može se pokazati da je u slučaju jedinstvenog rješenja matrica 2 F 2 (k,l) pozitivno definitna te je stoga jedinstveno rješenje sustava (5) točka u kojoj se postiže globalni minimum funkcionala F 2 9 t i

Odredivanje optimalnog pravca primjenom Pristupa 2 i Pristupa 3, svodi se na problem nediferencijalbilne optimizacije Pokazat ćemo da se oba pristupa mogu svesti na problem linearnog programiranja Pristup 2 Primijetimo da je kt i + l y i = ma{kt i + l y i, kt i l + y i }, i = 1,,r Označimo s z i := kt i + l y i,i = 1,,r Očigledno je kt i + l y i z i, kt i l + y i z i, i = 1,,r Problem minimizacije funkcionala F 1 možemo zapisati u obliku z 1 + z 2 + + z r + 0 k + 0 l z 1 + kt 1 + l y 1 z 1 kt 1 l y 1 z 2 + kt 2 + l y 2 z 2 kt 2 l y 2 min z 1,,z r,k,l z r + kt r + l z r kt r l y r y r ili zapisano u matričnom obliku gdje su A = 1 0 0 t 1 1 1 0 0 t 1 1 0 1 0 t 2 1 0 1 0 t 2 1 0 0 1 t r 1 0 0 1 t r 1 te = [z 1,z 2,,z r,k,l] T R r+2 c T min, A b, R 2r (r+2), b = y 1 y 1 y 2 y 2 y r y r R 2r, c = 1 1 1 0 0 R r+2 10

Pristup 3 Označimo li s z := ma i=1,,r kt i + l y i, slično kao u Pristupu 2 problem se svodi na na sljedeći LP problem: z + 0 k + 0 l min z,k,l, z + kt 1 + l y 1 z kt 1 l y 1 z + kt 2 + l y 2 z kt 2 l y 2 z + kt r + l z kt r l y r y r ili u matričnom obliku c T min, A b, gdje su A = 1 t 1 1 1 t 1 1 1 t r 1 1 t r 1 R 2r 3, b = y 1 y 1 y r y r R 2r,c = 1 0 0, te = [z,k,l] T Primjer 7 Zadani su podaci {(1,1),(2,3),(25, 4),(3,5),(4, 11),(5, 15),(8,16)} za koje treba odrediti pravac s jednadžbom y = kt + l, koji ih najbolje aproksimira u smislu Pristupa 1, 2 i 3 Primjenom opisanog postupka, Pristupe 2 i 3 svedemo na LP problem te primijenimo naredbu LinearProgramming Pri tome treba paziti da varijable k i l u oba pristupa ne zadovoljavaju uvijet nenegativnosti Dobivamo sljedeće pravce Pristup 1 y = 0996689 + 243046t Pristup 2 y = 2t Pristup 3 y = 12 + 22t 11

15 10 5 0 2 4 6 8 Slika 3: Točke i pravci (Pristup 1 - crveno, Pristup 2 - plavo, Pristup 3 - žuto) Na Slici 3 su prikazani podaci i odgovarajući pravci Poznato je da je pravac dobiven primjenom Pristupa 2 najneosjetljiviji na stršeće podatke tzvoutliere, dok je pravac dobiven Pristupom 3 najosjetljiviji na outliere Ilustrirat ćemo to tako da podatak (3, 5) zamijenimo s podatkom (3, 1) Za nove podatke dobivamo sljedeće pravce Pristup 1 y = 228808 + 254967t Pristup 2 y = 2t Pristup 3 y = 175t Na Slici 4 prikazani su novi podaci i odgovarajući pravci 15 10 5 0 2 4 6 8 Slika 4: Promijenjene točke i pravci (Pristup 1 - crveno, Pristup 2 - plavo, Pristup 3 - žuto) 124 Minimizacija po dijelovima linearne funkcije Pretpostavimo da su zadani vektori c 1,,c m R n te realni brojevi d 1,,d m Definirajmo funkciju f : R n R formulom f() = ma i=1,,m {ct i + d i } Funkcija f je po dijelovima linearna funkcija Primjer 8 Graf funkcije f() = ma{ 1 4 + 2,03 3, 16} prikazan je Slici 6 Promatramo sljedeći problem f() min, A b 12

10 5 5 5 10 15 20 25 30 Slika 5: Graf funkcije f Uvedemo li oznaku z := ma i=1,,m {ct i + d i }, prethodni se problem može napisati u obliku LP problema z + 0 T min z, A b z + c T 1 d 1 z + c T 2 d 2 z + c T m d m, što je problem linearnog programiranja 13 Zadaci Zadatak 1 Grafički riješite sljedeći problem linearnog programiranja e c T min 2 1 + 3 2 6 0 1 0 1 6 2 0 ako je a) c = [1,1] T b) c = [ 1,0] T c) c = [2,3] T d) c = [0, 1] T Rješenje: a) = [0,2] T, b) = [6, 2 ] T, 2 0, c) = [ 1,2 2/3 1 ] T, 1 [0,3], d) optimalna vrijednost je 13

Zadatak 2 Zapišite sljedeći problem kao LP problem i grafički ga riješite Rješenje: = [ 2,3] T ma{ 2 1, + 5,7 + 2} min Zadatak 3 Zapišite sljedeći problem kao LP problem i grafički ga riješite Obrtnik proizvodi dvije vrste proizvoda, A i B Za (dijeljivu) jedinicu proizvoda A potrebno je 2 minute pripreme, 1 minuta izrade i 3 minute završnih radova Za (dijeljivu) jedinicu proizvoda B potrebno je 2 minute pripreme, 2 minute izrade i 1 minuta završnih radova Svakoga dana moguće je utrošiti 140 minuta za pripremu, 120 minuta za izradu i 150 minuta za završne radove Koliko jedinica svakog proizvoda obrtnik treba izraditi da bi maksimizirao dobit ako jedinica proizvoda A ima cijenu 10 kn a jedinica proizvoda B 8 kn? Rješenje: = [40,30] T Zadatak 4 Sljedeći problem zapišite kao problem linearnog programiranja Jedna namirnica nalazi se u m skladišta iz kojih se opskrbljuje n prodavaonica Skladište i, i = 1,,m sadrži količinu s i te namirnice a prodavaonici j,j = 1,,n treba dostaviti količinu k j namirnice Neka je c ij, i = 1,,m, j = 1,,n cijena prijevoza jedinice namirnice od skladišta i do prodavaonice j Problem je opskrbiti sve prodavaonice potrebnom količinom namirnice tako da je ukupna cijena prijevoza minimalna Formulirajte navedeni problem kao problem linearnog programiranja Rješenje: Neka je ij količina namirnice koja je prevezena iz skladišta i u prodavaonicu j, i = 1,,m, j = 1,,n m n i=1 j=1 c ij ij min ij n ij s i, i = 1,,m j=1 m ij = k j, j = 1,,n i=1 ij 0, i = 1,,m, j = 1,,n Zadatak 5 U jednom gradu ima n gradskih četvrti i m osnovnih škola (u svakoj školi su učenici od 1 do 8 razreda) Svaka škola j ima kapacitet c jr učenika u razredu r, j = 1,,m, r = 1,,8 U gradskoj četvrti i ima u ir učenika koji pohadaju razred r, i = 1,,n, r = 1,,8 Udaljenost gradske četvrti i do škole j je d ij, i = 1,,n, j = 1,,m Treba rasporediti učenike po školama tako da ukupna udaljenost koju ukupno prijedu svi učenici bude minimalna Zapišite navedeni problem kao problem linearnog programiranja (zanemarite činjenicu da broj učenika mora biti cijeli broj) 14

Neka je ijr broj učenika iz četvrti i koji pohadaju razred r u školi j, i = 1,,n, j = 1,,m, r = 1,,8 Odgovarajući LP problem glasi: 8 n r=1 i=1 j=1 m d ij ijr min m ijr = u ir, i = 1,,n, r = 1,,8 j=1 n ijr c jr, j = 1,,m, r = 1,,8 i=1 ijr 0, i = 1,,n, j = 1,,m, r = 1,,8 Zadatak 6 Pokažite da se sljedeći problem može svesti na problem linearnog programiranja Na osnovi podataka (t i,y i ), i = 1,,r, odrediti pravac s jednadžbom a t + b y + c = 0, a,b,c R, gdje je F(a,b,c ) = min F(a,b,c) te (a,b,c) R3 F(a,b,c) = r i=1 at i + by i + c a + b Rješenje: Označimo a = a a + b, b = b a + b, c = c a + b, te z i = a t i + b y i + c, i = 1,,r i α = a, β = b Tada se zadani problem može zapisati kao sljedeći LP problem: r i=1 z i + 0 α + 0 β min z i,α,β a t i + b y i + c z i, i = 1,,r (a t i + b y i + c ) z i, i = 1,,r α + β = 1 a α a α b β b β 2 Geometrija linearnog programiranja 21 Svojstvo konveksne funkcije koja je definirana na konveksnom skupu Definicija 1 Funkcija f : P R, P R n u postiže lokalni minimum ako postoji ρ > 0 takav da je f( ) f(), za svaki K(,ρ) P, 15

gdje je K(,ρ) = { R n : ρ} Kažemo da funkcija f u P postiže globalni minimum na P, ako vrijedi za svaki P f( ) f(), Pokazat ćemo da postoje realne funkcije koje imaju svojstvo da ako postoji točka u kojoj se postiže lokalni minimum, onda to ujedno mora biti točka u kojoj se postiže globalni minimum funkcije Definicija 2 Za funkciju f : P R kažemo da je konveksna na P R n ako za svaki,y P i svaki λ [0,1] vrijedi f(λ + (1 λ)y) λf() + (1 λ)f(y) Za funkciju f : P R kažemo da je konkavna na P R n ako za svaki,y P i svaki λ [0,1] vrijedi f(λ + (1 λ)y) λf() + (1 λ)f(y) Uočimo da je f konveksna na P onda i samo onda ako je f konkavna na P Primjer 9 Zadani su c R n te d R Funkcija f : R n R zadana formulom f() = c T + d je istovremeno konveksna i konkavna na R n Zaista, za svaki,y R n i za svaki λ [0, 1] vrijedi f(λ + (1 λ)y) = c T (λ + (1 λ)y) + d = λf() + (1 λ)f(y) Specijalno je i funkcija c T istovremeno konveksna i konkavna Primjer 10 Zadani su c i R n, te d i R, i = 1,,m Pokažimo da je funkcija f : R n R zadana formulom f() = ma i=1,,m {ct i + d i } konveksna na R n Zaista, za svaki,y R n i za svaki λ [0,1] vrijedi f(λ + (1 λ)y) = ma i=1,,m {ct i (λ + (1 λ)y + d i)} = ma i=1,,m {λ(ct i + d i) + (1 λ)(c T i y + d i)} ma i=1,,m {λ(ct i + d i )} + ma {(1 i=1,,m λ)(ct i y + d i )} = λf() + (1 λ)f(y) Primjedba 4 Analogno kao u Primjeru 10, može se pokazati da ako su f 1,,f m : P R, P R n konveksne, onda je funkcija f : P R zadana formulom konveksna na P f() = ma i=1,,m {f i()}, Definicija 3 Skup S R n kažemo da je konveksan ako za svaki,y S i za svaki λ [0,1] vrijedi λ + (1 λ)y S 16

(a) konveksna funkcija (b) konkavna funkcija f(λ + (1 λ)y) λf() + (1 λ)f(y) λf() + (1 λ)f(y) f(λ + (1 λ)y) λ + (1 λ)y y λ + (1 λ)y y Slika 6: Konveksna i konkavna funkcija Primjedba 5 Može se pokazati da je funkcija f konveksna ako i samo ako je područje iznad grafa funkcije f konveksan skup Slično, funkcija f je konkavna ako i samo ako je područje ispod grafa funkcije f konveksan skup (vidi Sliku 6) Definicija 4 Neka su i R n, i = 1,,k vektori te λ i [0,1], i = 1,,k realni brojevi takvi da je k i=1 λ i = 1, onda vektor k i=1 λ i i zovemo konveksna kombinacija vektora i, i = 1,,k Teorem 1 Neka je f : P R konveksna funkcija definirana na konveksnom skupu P R n Ako funkcija f u P postiže lokalni minimum, onda ujedno u postiže i globalni minimum na skupu P Dokaz Neka je ρ > 0 takav da je f( ) f(y) za svaki y P K(,ρ) Neka je P proizvoljan vektor i λ [0,1] te definirajmo y(λ) = λ + (1 λ) Kako je P konveksan vrijedi y(λ) P Neka je λ 0 = min{1,ρ 1 } Za svaki λ [0,λ 0 ] vrijedi y(λ) = λ + (1 λ) = λ λ 0 ρ, odnosno y(λ) P K(,ρ) To znači da za λ [0,λ 0 ] vrijedi f( ) f(y(λ)) = f(λ + (1 λ) ) λf() + (1 λ)f( ), odakle slijedi da je f( ) f(), za svaki P 22 Poliedar u R n Vrh, ekstremna točka i bazično dopustivo rješenje Definicija 5 Neka su A R m n, b R m Skup zovemo poliedar u R n { R n : A b} R n, Uočimo da je skup { R n : A = b, 0}, takoder poliedar i zovemo ga poliedar u standardnom obliku Naime, vrijedi { R n : A = b} = { R n : A b& A b& 0} A b = Rn : A b I 0 17

Definicija 6 Neka su a i R n, a i 0 i b i R 1) Skup { R n : a T i = b i} zovemo hiperravnina u R n s vektorom normale a i 2) Skup { R n : a T i b i} zovemo poluprostor u R n Propozicija 2 Vrijede sljedeće tvrdnje: a) Poluprostor u R n je konveksan skup b) Presjek od konačno mnogo konveksnih skupova je konveksan skup c) Poliedar u R n je konveksan skup Dokaz a) Neka je π = { R n : a T i b i} dani poluprostor te neka su,y π te λ [0,1] Tada je a T i (λ + (1 λ)y) = λat i + (1 λ)at i λb + (1 λ)b = b Kako su, y π te λ [0, 1] proizvoljni slijedi da je π konveksan skup b) Dokažimo tvrdnju najprije za dva konveksna skupa S 1 i S 2 Pretpostavimo S 1 S 1 (ako je S 1 S 1 =, tvrdnja slijedi trivijalno jer je konveksan po definiciji) i neka su,y S 1 S 1, odakle slijedi da su,y S 1 i,y S 2 Kako su prema pretpostavci S 1 i S 2 konveksni slijedi da za svaki λ [0,1] vrijedi λ+(1 λ)y S 1 i λ + (1 λ)y S 2, odnosno λ + (1 λ)y S 1 S 2 Tvrdnja se za konačno mnogo konveksnih skupova može dokazati metodom matematičke indukcije c) Kako je poliedar presjek od konačno mnogo poluprostora, sukladno tvrdnji b) slijedi da je i on konveksan Definicija 7 Neka je P poliedar u R n Vektor P je ekstremna točka poliedra P ako ne postoje y,z P, y & z i skalar λ [0,1] takvi da je = λy + (1 λ)z Dakle, ekstremna točka poliedra je ona točka koja se ne može prikazati kao netrivijalna konveksna kombinacija točaka iz poliedra Geometrijski gledano, to znači da je ekstremna točka ona točka poliedra koja se ne nalazi na nekom segmentu koji je sadržan u poliedru u v Slika 7: je ekstremna točka poliedra, dok u i v nisu ekstremne točke jer se mogu prikazati kao netrivijalna konveksna kombinacija točaka iz poliedra 18

Definicija 8 Neka je P poliedar u R n Vektor P je vrh poliedra P ako postoji vektor c R n takav da je c T < c T y za svaki y P, y S geometrijskog stajališta vrh poliedra je ona točka za koju možemo odrediti hiperravninu kroz tu točku sa svojstvom da se sve točke poliedra, izuzev vrha nalaze s iste strane te hiperravnine 2 u 1 v Slika 8: 1 i 2 su vrhovi poliedra, u i v nisu vrhovi poliedra Pretpostavimo da je poliedar P zadan na sljedeći način: a T i b i, i M 1 a T i b i, i M 2 a T i = b i, i M 3 Definicija 9 Ako za vektor vrijedi da je a T i 0 = b i0 za neki i 0 M 1,M 2 ili M 3, onda kažemo da je uvjet s indeksom i 0 aktivan u vektoru Primjer 11 Neka je = [1,0,0] T i neka su dani uvjeti Uvjeti (6), (8) i (9) su aktivni u vektoru 1 + 2 + 3 = 1 (6) 1 0 (7) 2 0 (8) 3 0 (9) Neka je R n i I = {i : a T i = b i } skup indeksa aktivnih uvjeta u vektoru Uočimo da su sljedeće tri tvrdnje ekvivalentne: 1) Skup {a i : i I} sadrži n linearno nezavisnih vektora 2) Potprostor razapet s vektorima a i, i I jednak je R n 3) Sustav linearnih jednadžbi a T i = b i, i I ima jedinstveno rješenje Definicija 10 Neka je P poliedar u R n zadan na sljedeći način: a T i b i, i M 1 a T i b i, i M 2 a T i = b i, i M 3, 19

te neka je I = {i M 1 M 2 M 3 : a T i = b i } skup indeksa aktivnih uvjeta u vektoru R n a) Za vektor R n kažemo da je bazično rješenje ako su i) svi uvjeti koji sadrže jednakosti aktivni u ; ii) skup {a i : i I} sadrži n linearno nezavisnih vektora b) Bazično rješenje R n koje zadovoljava sve uvjete zovemo bazično dopustivo rješenje Primjer 12 Poliedar P R 3 zadan je na sljedeći način: 1 + 2 + 3 = 1 (10) 1 0 (11) 2 0 (12) 3 0 (13) a) Neka je e 1 = [1,0,0] T Uvjeti (9), (11) i (12) aktivni su u e 1, dok uvjet (10) nije aktivan u e 1 Kako uvjet (10) sadrži jednakost te kako su vektori [1,1,1] T, [1,0,0] T i [0,1,0] T linearno nezavisni, slijedi da je e 1 bazično rješenje Takoder, kako vektor e 1 zadovoljava uvjet (10) slijedi da je e 1 bazično dopustivo rješenje b) slično kao u a) može pokazati da su e 2 = [0,1,0] T i e 3 = [0,0,1] T bazična dopustiva rješenja c) Neka je = [ 1 3, 1 3, 1 ] T 3 Jedino je uvjet (10) aktivan u vektoru prema tome nije bazično rješenje d) Neka je = [0,0,0] T Uvjeti (11), (12) i (13) aktivni su u, no uvjet (10) koji sadrži jednakost nije aktivan u te stoga nije bazično rješenje Kada bismo uvjet (10) zamijenili s dva uvjeta 1 + 2 + 3 1 i 1 + 2 + 3 1, onda postaje bazično rješenje Iz ovog zaključujemo da definicija bazičnog rješenja ovisi o reprezentaciji poliedra Teorem 2 Neka je P poliedar i neka je P Sljedeće tri tvrdnje su ekvivalentne 1) je vrh poliedra 2) je ekstremna točka poliedra 3) je bazično dopustivo rješenje Dokaz Neka je poliedar P R n zadan na sljedeći način a T i b i, i M 1 (14) a T i = b i, i M 2 (15) Ako je je vrh poliedra, onda je ekstremna točka poliedra 20

Kako je je vrh poliedra, postoji vektor c takav da je c T < c T, za svaki vektor P, Pretpostavimo da se vektor nije ekstremna točka poliedra tjda se može napisati u obliku = λy + (1 λ)z, (16) gdje su λ [0,1], y,z P takvi da je y te z Prema uvjetu tvrdnje je c T < c T y te c T < c T z Imamo c T = λc T + (1 λ)c T < λc T y + (1 λ)c T z = c T (λy + (1 λ)z), što je u kontradikciji s (16) Ako je ekstremna točka poliedra, onda je bazično dopustivo rješenje Pretpostavimo da P nije bazično dopustivo rješenje te dokažimo da nije ekstremna točka poliedra Kako nije bazično dopustivo rješenje broj linearno nezavisnih vektora a i, i I, gdje je I = {i M 1 M 2 : a T i = b i } manji je od n Dakle, potprostor razapet skupom vektora {a i : i I} je pravi potprostor od R n pa postoji vektor d R n takav da je a T i d = 0 za svaki i I Neka je ε > 0 Definirajmo vektore y = + εd te z = εd Uočimo da za i I vrijedi a T i y = a T i ( + εd) = a T i + εa T i d = a T i = b i Ako je i / I, onda je a T i > b i te a T i y = at i + εa T i d (17) Pretpostavimo li da je a T i d 0 iz (17) slijedi da je at i y > b i Ako je s druge strane a T i d < 0, odaberimo ε > 0 tako da je ε < b i a T i a T i d Za tako odabrani ε > 0 slijedi da za i / I vrijedi a T i y > b i Zaključujemo da je y P Slično, može se pokazati da je z P Konačno, uočimo sa je = 1 2 (y + z), tj napisali smo kao konveksnu kombinaciju vektora y i z, tj nije ekstremna točka poliedra P Ako bazično dopustivo rješenje, onda je vrh poliedra Neka je bazično dupustivo rješenje te I = {i : a T i = b i } skup aktivnih indeksa u Definirajmo vektor c = i I a i Pri tome vrijedi c T = i I a T i = i I b i Za proizvoljni P imamo c T = i I a T i i I b i = c T, (18) odakle slijedi da je rješenje LP problema c T min, 21

P Pri tome jednakost u (18) vrijedi onda i samo onda ako je a T i = b i, za svaki i I Kako je bazično dopustivo rješenje broj linearno nezavisnih vektora a i, i I koji su aktivni u jednak je n pa sustav a T i = b i, i I ima jedinstveno rješenje, a to je upravo Na taj način dokazali smo da postoji vektor c takav da je c T < c T za svaki, P, odnosno da je vrh poliedra P 23 Konstrukcija bazičnog dopustivog rješenja Pretpostavimo da je poliedar P R n zadan u standardnom obliku P = { R n : A = b, 0}, A R m n,b R m Takoder, pretpostavimo da je rang(a) = m < n Ako je bazično dopustivo rješenje, onda zadovoljava sustav linearnih jednadžbi te uvjete nenegativnosti A = b, (19) 0 (20) Uočimo da uvjeta nenegativnosti (20) ima n, dok sustav linearnih jednažbi sadrži m jednadžbi Prema definiciji bazičnog dopustivog rješenja treba postojati n linearno nezavisnih uvjeta, koji su aktivni u vektoru To znači da moraju biti zadovoljeni svi uvjeti u (19), a da medu uvjetima iz (20) treba biti n m aktivnih, odnosno da n m komponenti vektora treba biti jednako 0 [ ] Primjer 13 Neka je P = { R 3 a11 a : A = b, 0}, gdje su A = 12 a 13 te a 21 a 22 a 23 b = [b 1,b 2 ] T te rang(a) = 2 Raspišemo li zapis poliedra P imamo: a 11 1 + a 12 2 + a 13 3 = b 1 a 21 1 + a 22 2 + a 23 3 = b 2 1 0 2 0 3 0 U svrhu odredivanja bazičnog dopustivog rješenja R 3 trebamo jedan uvjet s nejednakosti učiniti aktivnim Stavimo da je primjerice 1 = 0 U tom slučaju ostale komponente vektora = [0, 2, 3 ]T moraju zadovoljavati sustav jednadžbi a 12 2 + a 13 3 = b 1 a 22 2 + a 23 3 = b 2 Pri tome je rješenje jedinstveno onda i samo onda ako su vektori [a 12,a 22 ] T te [a 13,a 23 ] T linearno nezavisni Onda je [ ] [ ] 1 [ ] 2 a12 a = 13 b1 3 a 22 a 23 b 2 22

[ ] a12 a Ako je matrica B = 13 regularna, onda su tri vektora [a a 22 a 11,a 12,a 13 ] T, [a 21,a 22,a 23 ] T 23 te [1,0,0] T, koji odreduju aktivne uvjete linearno nezavisni Zaista, ako vektor [1,0,0] T napišemo kao linearnu kombinaciju preostalih, dobivamo 1 = λ 1 a 11 + λ 2 a 21 0 = λ 1 a 12 + λ 2 a 22 0 = λ 1 a 13 + λ 2 a 23 Zbog regularnosti matrice B slijedi da su λ 1 = λ 2 = 0, odnosno da su vektori [a 11,a 12,a 13 ] T, [a 21,a 22,a 23 ] T te [1,0,0] T linearno nezavisni To znači da je = [0, 2, 3 ]T bazično rješenje Ako uz to vrijedi da je 2 0 te 3 0, onda je = [0, 2, 3 ]T bazično dopustivo rješenje Općenito vrijedi sljedeći teorem Teorem 3 Neka P = { R n : A = b, 0}, gdje su A R m n, b R m te matrica A punog ranga Vektor R n je bazično rješenje onda i samo onda ako je A = b te ako postoje indeksi B(1),, B(m) takvi da vrijedi a) Stupci A B(1),,A B(m) matrice A su linearno nezavisni; b) Ako je i / {B(1),,B(m)}, onda je i = 0 Na osnovi prethodnog teorema proizlazi procedura za konstrukciju bazičnog rješenja Procedura za konstrukciju bazičnog rješenja 1 Odabrati m linearno nezavisnih stupaca A B(1),,A B(m) matrice A 2 Staviti i = 0 za svaki indeks i / {B(1),,B(m)} 3 Riješiti sustav B B = b, gdje su B = [ A B(1) A B(2) A B(m) ], B = B(1) B(m), 4 Vektor = [ 1,, n ] T sa svojstvom { 0, j / {B(1),,B(n)} j = B(i),j = B(i), je bazično rješenje Pri tome B(1),, B(m) zovemo bazične varijable, vektore A B(1),A B(2),,A B(m) zovemo bazični vektori, B(1),,B(m) zovemo bazični indeksi, dok matricu B zovemo matrica baze Ako bazično rješenje ima svojstvo 0, onda je bazično dopustivo rješenje 23

Primjer 14 Zadan je poliedar u standardnom obliku P = { R 7 : A = b, 0}, gdje su 1 1 2 1 0 0 0 8 A = 0 1 6 0 1 0 0 1 0 0 0 0 1 0, b = 12 4 0 1 0 0 0 0 1 6 i) Uočimo da su stupci A 4,A 5,A 6 i A 7 matrice A linearno nezavisni te ih možemo odabrati za bazične vektore U svrhu odredivanja bazičnog rješenja definiramo matricu baze B = 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 te rješavamo sustav B B = b, odakle je B = [8,12,4,6] T, odnosno = [0,0,0,8,12,4,6] T je bazično rješenje Takoder, zbog 0, vektor je bazično dopustivo rješenje ii) Stupci A 3,A 5,A 6 i A 7 su linearno nezavisni te ih takoder možemo odabrati za bazične vektore Pri tome pripadna matrica baze glasi B = 2 0 0 0 6 1 0 0 0 0 1 0 0 0 0 1 odakle sliejedi da je B = [4, 12,4,6] T, odnosno bazično rješenje = [0,0,4,0, 12,4,6] T Uočimo da nije bazično dopustivo rješenje,, Može se pokazati da u zapisu poliedara u standardnom obliku P = { R n : A = b, 0}, A R m n,b R m, pretpostavka da je rang(a) = m, nije ograničenje Preciznije, vrijedi sljedeći teorem Teorem 4 Neka je P = { R n : A = b, 0} neprazni poliedar pri čemu su A R m n,b R m Pretpostavimo da su a T i, i = 1,,m retci matrice A, rang(a) = k < m te da su retci a T i j, j = 1,,k linearno nezavisni Neka je poliedar u R n Onda je P = Q Q = { R n : a T i 1 = b i1,,a T i k = b ik, 0} 24 Degeneracija Definicija 11 Neka je P = { R n : a T i b i, i = 1,,m} neprazan Za bazično rješenje R n kažemo da je degenerativno ako je više od n uvjeta aktivno u 24

Primjer 15 Neka je poliedar P zadan sa sljedećim uvjetima 1 + 2 + 2 3 8 (21) 2 + 6 3 12 (22) 1 4 (23) 2 6 (24) 1 0 (25) 2 0 (26) 3 0 (27) a) Uočimo da je vektor = [2,6,0] T bazično dopustivo rješenje Naime uvjeti (21), (24) i (27) aktivni su u i ima ih točno tri Pri tome su odgovarajući vektori linearno nezavisni Osim toga vektor zadovoljava sve uvjete Dakle vektor je nedegenartivno bazično dopustivo rješenje b) Vektor = [4,0,2] je takoder bazično dopustivo rješenje, jer su uvjeti (21), (22) i (23) aktivni u Pripadni vektori su linearno nezavisni Takoder, uočimo da vektor zadovoljava sve uvjete te je stoga bazično dopustivo rješenje Medutim lako se vidi da je i uvjet (26) takoder aktivan u, odakle slijedi da postoji četiri aktivna uvjeta u, odnosno da je degenerativno bazično dopustivo rješenje Definicija 12 Neka je P = { R n : A = b, 0}, A R m n,b R m, poliedar u standardnom obliku te neka je bazično rješenje Vektor je degenerativno bazično rješenje ako je više od n m komponenti vektora jednako 0 Primjer 16 Zadan je poliedar u standardnom obliku P = { R 7 : A = b, 0}, gdje su 1 1 2 1 0 0 0 8 A = 0 1 6 0 1 0 0 1 0 0 0 0 1 0, b = 12 4 0 1 0 0 0 0 1 6 Uočimo da za bazične stupce možemo odabrati vektore A 1,A 2,A 3 i A 7 Odgovarajuće bazično rješenje (koje je ujedno i dopustivo) glasi = [4,0,2,0,0,0,6] T Kako je 4 komponente vektora jednako 0, slijedi da je degenerativno bazično dopustivo rješenje Primjer 17 Zadan je poliedar P = {[ 1, 2, 3 ] T : 1 2 = 0, 1 + 2 + 2 3 = 2, 1, 2, 3 0} u standardnom obliku Uočimo da je m = 2 i n = 3, te n m = 1 Odredimo sve bazična dopustiva rješenja Odgovarajuća matrica A i vektor b glase A = [ 1 1 0 1 1 2 ], b = [0,2] T Imamo tri mogućnosti: [ 1 1 a) Ako je B = 1 1 nedegenaritvno ], onda je bazično dopustivo rješenje = [1,1,0] T, koje je 25

[ 1 0 b) Ako je B = 1 2 degenerativno [ 1 0 c) Ako je B = 1 2 degenerativno ], onda je bazično dopustivo rješenje = [0,0,1] T, koje je ], onda je bazično dopustivo rješenje = [0,0,1] T, koje je Primijetimo da poliedar P možemo zapisati na sljedeći način P = {[ 1, 2, 3 ] T : 1 2 = 0, 1 + 2 + 2 3 = 2, 1, 3 0} Vektor = [0,0,1] T u ovom zapisu poliedra postaje nedegenerativno bazično dopustivo rješenje Zaključujemo da svojstvo degenerativnosti ovisi o zapisu poliedra 25 Egzistencija ekstremne točke Definicija 13 Kažemo da poliedar P R n sadrži pravac ako postoji vektor P te vektor d R n \ {0} takav da je + λd P za svaki realni broj λ + λd Slika 9: Poliedar koji sadrži pravac Teorem 5 Neka je P = { R n : a T i b i, i = 1,,m} neprazan Onda su sljedeće tvrdnje ekvivalentne: a) Poliedar P ima barem jednu ekstremnu točku b) Poliedar P ne sadrži pravac c) Medu vektorima a 1,,a m ima n linearno nezavisnih Dokaz Ako poliedar P ne sadrži pravac, onda poliedar P ima barem jednu ekstremnu točku Neka je P te I = {i : a T i = b i}, skup indeksa uvjeta koji su aktivni vektoru Ako medu vektorima a i, i I ima n linearno nezavisnih, onda je prema definiciji bazično dopustivo rješenje, odnosno ekstremna točka poliedra P Pretpostavimo da medu vektorima a i, i I ima k, k < n linearno nezavisnih To znači da vektori a i, i I razapinju pravi potprostor od R n, odnosno postoji vektor d R n takav da je a T i d = 0, i I Promatrajmo pravac + λd, gdje je λ R Pokažimo da svi uvjeti koji su aktivni u vektoru ostaju aktivni i u vektoru y koji leži na pravcu + λd Zaista a T i ( + λd) = a T i + λa T i d = b i, i I 26

S obzirom da prema pretpostavci poliedar P ne sadrži pravac, postoji λ R te indeks j / I, takav da je a T j ( + λ d) = b j Na taj način odredili smo uvjet koji je aktivan u vektoru +λ d Kako j / I, vrijedi a T j b j te je stoga a T j d 0 Dokažimo da vektor a j ne možemo napisati kao linearnu kombinaciju vektora a i, i I Pretpostavimo suprotno tj neka postoje skalari λ i R takvi da je a j = i I λ i a i, odnosno 0 a T j d = i I λ ia T i d = 0, odakle slijedi da su vektori a j te a i, i I linearno nezavisni Zaključujemo da postoji k + 1 linearano nezavisnih vektora koji odreduju aktivne uvjete u vektoru + λ d Opisani postupak nastavljamo dok ne dodemo do vektora P sa svojstvom da postoji n lineano nezavisnih vektora koji odreduju aktivne uvjete u vektoru Dobiveni vektor je bazično dopustivo rješenje ili ekstremna točka poliedra Medu vektorima a 1,,a m ima n linearno nezavisnih, onda poliedar P ne sadrži pravac Bez smanjenja općenitosti možemo pretpostaviti da su a 1,,a n linerano nezavisni vektori Pretpostavimo da poliedar P sadrži pravac, odnosno da postoji vektor d 0 takav da je + λd P, za svaki λ R, odnosno da je a T i ( + λd) b i za svaki i te svaki λ R Kako je (a T i b i)+λa T i d 0 za svaki i i svaki λ R zaključujemo da je at i d = 0 za svaki i S obzirom da su vektori a i, i = 1,,n linearno nezavisni slijedi da je d = 0, što je u kontradikciji s pretpostavkom da poliedar P sadrži pravac Sljedeći teorem pokazat će da ako problem linearnog programiranja ima rješenje te ako odgovarajući poledar ima ektremnu točku, onda postoji optimalno rješenje LP problema koje je ekstremna točka poliedra Teorem 6 Zadan je LP problem c T min, P, gdje je P poliedar Pretpostavimo da P ima barem jednu ekstremnu točku te da LP problem ima optimalno rješenje Onda postoji optimalno rješenje LP problema koje je ekstremna točka poliedra P Dokaz Neka je Q skup svih optimalnih rješenja LP problema Sukladno pretpostavci Q Pretpostavimo da je poliedar P oblika P = { R n : A b} Takoder pretpostavimo da je optimalna vrijednost funkcije cilja jednaka v U tom je slučaju Q = { R n : A b, c T = v} Nije teško vidjeti da je Q takoder poliedar Očigledno je Q P Kako prema pretpostavci P ima ekstremnu točku, sukladno Teoremu 5 P ne sadrži pravac pa ni Q takoder ne sadrži pravac Zaključujemo da Q ima ekstremnu točku Neka je ekstremna točka od Q Dokažimo da je ujedno ekstremna točka od P Pretpostavimo suprotno tjda postoje vektori y,z P, y, z te λ [0,1] takvi da je = λy + (1 λ)z Onda je v = c T = λc T y + (1 λ)c T z (28) 27

Kako je v optimalna vrijednost funcije cilja slijedi da je c T y v te c T z v, ťo zajedno s (28) povlači da je c T y = c T z = v, odnosno da su y,z Q, što je u kontradikciji s pretpostavkom da je ekstremna točka poliedra Q Može se pokazati općenitiji tvrdnja Teorem 7 Zadan je LP problem c T min, P, gdje je P poliedar Pretpostavimo da P ima barem jednu ekstremnu točku Onda je vrijednost funcije cilja jednaka ili postoji ekstremna točka poliedra koja je optimalna 26 Zadaci Zadatak 7 Neka je K R 2 skup zadan na sljedeći način: Dokažite da je K konveksan skup K = {(,y) R 2 : 1 3 2 y 10} Zadatak 8 Neka je S konveksan skup i f : S R n R Dokažite da je f(λ + (1 λ)y) ma{f(),f(y)}, λ (0,1) ako i samo ako je skup S α = { S : f() α} konveksan za svaki α R Zadatak 9 Polunorma na vektorskom prostoru X je funkcija p: X [0, takva da vrijedi 1 p(λ) = λ p(), X, λ R, 2 p( + y) p() + p(y),,y X Neka je p polunorma i X Dokažite da je skup A = {y X : p( y) < 1} konveksan skup Zadatak 10 a) Neka su f 1,,f n : R n R, n N konveksne funkcije Dokažite da je tada i funkcija f() = ma i=1,,n {f i()} konveksna b) Neka je h: R n R konveksna funkcija, g: R R konveksna monotono rastuća funkcija Dokažite da je tada i funkcija f = g h konveksna Zadatak 11 Neka su zadani c i R n, te d i R, i = 1,,m Dokažite da je funkcija f : R n R zadana formulom f() = ma i=1,,n {ct i + d i } konveksna na R n Zadatak 12 Neka je P R n poliedar Dokažite da niti jedna točka int P ne može biti ekstremna točka poliedra 28

Zadatak 13 (2 boda) Zadan je poliedar u standardnom obliku P = { R 7 : A = b, 0}, gdje su A = 1 7 22 0 5 0 1 0 3 5 0 2 1 2 0 1 0 1 4 0 3, b = Odredite tri različita dopustiva rješenja i za svako provjerite je li vrh poliedra P Zadatak 14 Neka je proizvoljna točka u konveksnoj ljusci skupa P R n Dokažite da tada postoji P P koji se sastoji od najviše n+1 elemenata takav da leži u konveksnoj ljusci skupa P 7 1 2 29

3 Simpleks metoda Zadan je problem linearnog programiranja u standardnom obliku f() = c T min, A = b 0, gdje su A R m n, b R m te c R n Sukladno Teoremu 7, optimalno rješenje LP problema treba tražiti medu bazičnim dopustivim rješenjima poliedra P = { : A = b, 0} Kako je funkcija cilja f() = c T konveksna na R n a poliedar P konveksan skup prema Teoremu 1, svaka točka u kojoj se postiže lokalni minimum funkcije f ujedno je točka u kojoj se postiže globalni minimum funkcije f Analizirat ćemo metodu za traženje lokalnog minimuma funkcije f na skupu P, koja je poznata pod nazivom simpleks metoda Navedimo osnovni oblik algoritma na kojem je zasnovana simpleks metoda Algoritam - Simpleks metoda 1 Odaberimo jedno bazično dopustivo rješenje poliedra P 2 repeat forever provjeriti sve bridove poliedra P koji izlaze iz odabranog bazičnog dopustivog rješenja; if postoji brid po kojem možemo smanjiti vrijednost funkcije cilja hodamo po tom bridu dok ne dodemo do sljedećeg bazičnog dopustivog rješenja Ako takvo bazično dopustivo rješenje ne postoji, poliedar je neomeden i vrijednost funkcije cilja je else return bazično dopustivo rješenje je optimalno Algoritam-Simpleks metoda zapisat ćemo u algebarskom obliku U tu svrhu uvodimo neke pojmove Definicija 14 Neka je P Za vektor d R n kažemo da je dopustivi smjer u vektoru, ako postoji θ > 0 takav da je + θd P Neka je = [ 1,, n ] T bazično dopustivo rješenje poliedra P = { : A = b, 0} te neka su B(1),,B(m) indeksi bazičnih varijabli pri čemu je B = [A B(1),,A B(m) ] matrica baze Onda odgovarajući bazični dio vektora glasi B = B 1 b Nadalje, za nebazični dio vektora vrijedi i = 0 za svaki i N := {1,,n} \ {B(1),,B(m)} Pretpostavimo da se od bazičnog dopustivog rješenje želimo pomaknuti u novu točku oblika + θd Pri tome zahtjevamo da vrijede sljedeća dva uvjeta: 1 uvjet optimalnosti: c T ( + θd) < c T 30

2 uvjet dopustivosti: + θd P Pri tome θ > 0 zovemo duljina koraka, a d vektor smjera U svrhu konstrukcije vektora smjera odaberimo jednu nebazičnu varijablu j, j N Definirajmo vektor smjera d na sljedeći način: za j tu kompomentu vektora d uzimamao da je d j = 1, te d i = 0 za svaki i N \{j} Bazični dio vektora d označimo s d B = [d B(1),,d B(m) ] T te ćemo ga odrediti iz uvjeta dopustivosti tjtako da vrijedi +θd P, odnosno da je A(+θd) = b, odakle slijedi da je A + θad = b, odnosno Ad = 0 (29) Zapišemo li matricu A u obliku A = [A 1,,A n ], sustav (29) glasi: Ad = n A i d i = i=1 m A B(i) d B(i) + A j = 0, i=1 odakle je Bd B + A j = 0, odnosno d B = B 1 A j Osim toga vektor + θd mora zadovoljavati i uvjet nenegativnosti Da bismo provjerili uvjet nenegativnosti analizirat ćemo dvije mogućnosti: a) je nedegenerativno bazično dopustivo rješenje; b) je degenerativno bazično dopustivo rješenje a) Ako je nedegenerativno bazično dopustivo rješenje, odnosno točno (n m) komponenti vektora jednako je 0, za nebazični dio vektora vrijedi: i + θd i = 0 za i N \ {j}, te j + θd j = θ > 0 Za bazični dio vektora vrijedi B(i) + θd B(i) > 0: kako je B(i) > 0, neovisno o predznaku od d B(i) za θ > 0 možemo odabrati dovoljno mali broj takav da je B(i) + θd B(i) > 0 b) Neka je degenerativno bazično dopustivo rješenje Za nebazični dio vektora vrijedi i + θd i = 0 za i j, i N \ {j}, te j + θd j = θ > 0 U bazičnom dijelu vektora postoji i takav da je B(i) = 0 Ako je pri tome d B(i) < 0, onda ne možemo odabrati θ > 0 tako da bude B(i) + θd B(i) > 0 Ovom problemu vratit ćemo se poslije i pokazati kako izbjeći ovakvu situaciju Uočimo da smo u postupku konstrukcije vektora smjera d te odgovarajuće duljine koraka do sada uzimali u obzir isključivo uvjet dopustivosti S druge strane ostala je slobodna mogućnost izbora nebazične varijable j Nebazičnu varijablu j, odnosno njezin odgovarajući indeks j odrediti ćemo iz uvjeta optimalnosti, tjtako da vrijedi c T (+θd) < c T, odakle je θc T d < 0 te konačno c T d < 0 Vrijedi c T d = c T B d B + c j = c j c T B (B 1 A j ), gdje je c B = [c B(1),,c B(m) ] T Označimo s c j = c j c T B (B 1 A j ) Broj c j zovemo utjecaj nebazične varijable j Prirodno proizlazi da nebazičnu varijablu j treba odabrati tako da za odgovarajući utjecaj vrijedi c j < 0 31

Primjer 18 Zadan je problem linearnog programiranja u standardnom obliku c 1 1 + c 2 2 + c 3 3 + c 4 4 min 1 + 2 + 3 + 4 = 2 2 1 + 3 3 + 4 4 = 2 1, 2, 3, 4 0 Za matricu baze odaberemo B = [A 1,A 2 ] = [ 1 1 2 0 ] Pri tome su varijable 3 i 4 nebazične te je 3 = 4 = 0 Bazični dio vektora odredujemo rješavanjem sustava [ ][ ] [ ] 1 1 1 2 =, 2 0 2 2 odakle su 1 = 2 = 1 > 0 bazične varijable Uočimo da je vektor = [1,1,0,0] T nedegenerativno bazično dopustivo rješenje Odaberimo za j = 3, tj neka je odabrana nebazična varijabla Odgovarajući vektor smjera d = [d 1,d 2,d 3,d 4 ] T ima svojstvo da je d 3 = 1, d 4 = 0, dok bazični dio vektora d dobivamo iz d B = [ d1 d 2 Pri tome utjecaj varijable 3 iznosi ] [ = B 1 0 1 A 3 = 2 1 1 2 ][ 1 3 c 3 = c T d = 3 2 c 1 + 1 2 c 2 + c 3 ] = [ 3 2 1 2 ] Ako su primjerice c 1 = 1,c 2 = 1 2,c 3 = 1 2, onda je c 3 = 3 4 pa nebazična varijabla 3 predstavlja dobar izbor Ako su primjerice c 1 = 1,c 2 = 1,c 3 = 2, onda je c 3 = 1, te stoga nebazična varijabla 3 nije dobar izbor Preostaje vidjeti koliko iznosi utjecaj bazičnih varijabli Vrijedi c B(i) = c B(i) c T B B 1 A B(i) = c B(i) c T B e i = c B(i) c B(i) = 0 Definicija 15 Vektor c R n čije su komponente utjecaji varijabi 1,, n zovemo vektor utjecaja Teorem 8 Neka je bazično dopustivo rješenje, a B odgovarajuća matrica baze i c vektor utjecaja Tada vrijedi: a) Ako je c 0, onda je optimalno rješenje b) Ako je optimalno i nedegenerativno rješenje, onda je c 0 32

Dokaz a) Neka je c 0 Pokažimo da je optimalno rješenje, odnosno da je c T c T y za svaki y P Pretpostavimo da je y neko proizvoljno dopustivo rješenje te definirajmo vektor d = y Želimo pokazati da je ct d 0 S obzirom da su y te iz skupa P vrijedi A = Ay = b, odakle je Ad = 0, odnosno Ad = Bd B + i N A i d i = 0, tj d B = i N B 1 A i d i Vrijedi c T d = c T B d B + c i d i = (c i c B B 1 A i )d i = c i d i i N i N i N Prema pretpostavci za svaki i N vrijedi c i 0 Takoder vrijedi i = 0 za svaki i N te y i 0 za svaki i {1,,n} te je stoga d i = y i i 0 za svaki i N pa je c T d 0 b) Neka je optimalno nedegenerativno rješenje i neka postoji j, j N takav da je c j < 0 No kao što smo pokazali, tada postoji postoji vektor d te θ > 0 takav da je c T ( + θd) < c T te stoga nije optimalno rješenje Pretpostavimo da je neko bazično dopustivo rješenje Za svaku nebazičnu komponentu vektora odredimo njezin utjecaj c j Ako za svaki j N vrijedi da je c j 0 onda je sukladno Teoremu 8, vektor = optimalno rješenje U suprotnom postoji j N takav da je c j < 0 Konstruiramo odgovarajući vektor smjera d Kretanje od prema + θd u smjeru vektora d nebazična komponenta j vektora postaje pozitivna Pri tome kretanje u smjeru vektora d nastavljamo najviše što možemo tako da + θd ostane u poliedru P, odnosno želimo odabrati optimalni θ = ma{θ 0 : +θd P}, a kako je d konstruiran tako da za svaki θ 0 zadovoljava A( + θd) = 0, slijedi θ = ma{θ 0 : + θd 0} Pri tome razlikujemo dva slučaja: 1) Ako je d 0, tada je + θd 0 za svaki θ 0 te u tom slučaju stavljamo da je θ = + 2) Ako postoji indeks i takav da je d i < 0, onda θ treba odabrati tako da vrijedi i + θd i 0, odnosno da je θ i d i Prethodna nejednakost treba biti zadovoljena za svaki indeks i sa svojstvom da je d i < 0 Konačno slijedi θ = ( min ) ( i = min ) B(i) i=1,,n;d i <0 d i i=1,,m;d B(i) <0 d B(i) Uočimo da je θ > 0 Neka je l indeks takav da vrijedi ( B(l) = min ) B(i) = θ d B(l) i=1,,m;d B(i) <0 d B(i) Vrijedi da je d B(l) < 0 te B(l) + θ d B(l) = 0, tjbazična varijabla B(l) postaje 0, dok odabrana nebazična varijabla j poprima vrijednost θ > 0 33

Teorem 9 regularna a) Stupci A B(i), i l i A j su linearno nezavisni te je stoga matrica B = [ A B(1),,A B(l 1),A j,a B(l+1),,A B(m) ] b) Vektor + θ d je bazično dopustivo rješenje Dokaz { B(i), i l, a) Označimo B(i) =, i = 1,,m Kad bi vektori A j, i = l B(i), i = 1,,m bili linearno zavisni, tada bi postojali λ 1,,λ m ne svi nula tako da je m λ i A B(i) = 0 Množenjem prethodne jednakosti slijeva matricom B 1 dobivamo m λ i B 1 A B(i) = 0, i=1 i=1 pa slijedi da su i vektori B 1 A B(i), i = 1,,m takoder linearno nezavisni Da bi dokazali da početna pretpostavka nije istinita, pokazat ćemo da vektori B 1 A B(i) i = 1,,m (tj B 1 A B(i), i l i B 1 A j ) moraju biti linearno nezavisni Kako je B 1 B = I i A B(i) i-ti stupac matrice B, slijedi da je B 1 A B(i) = e i, i = 1,,n Specijalno, vektori B 1 A B(i) = e i, i = 1,,n, i l su linearno nezavisni i l-ta komponenta im je jednaka nuli S druge strane je B 1 A j = d B a l-ta komponenta od d B je d B (l) što je različito od nula po konstrukciji indeksa l pa se B 1 A j ne može zapisati kao linearna kombinacija vektora B 1 A B(i), i l, odnosno vektori B 1 A B(i), i = 1,,m su linearno nezavisni b) Označimo y = + θ d Kako je Ay = b, A B(i), i = 1,,m linearno nezavisni i y i = 0 za i {B(1),,B(m)}, po teoremu 3 slijedi da je y bazično rješenje Nadalje, kako je y 0, slijedi da je y bazično dopustivo rješenje Zapišimo sada sažeto sada jednu iteraciju Simpleks metode u algebarskom obliku Iteracija Simpleks metode 0) Dani su BDR, matrica baze B = [A B(1),,A B(m) ] 1) Izračunati utjecaje c j = c j c T B B 1 A j za sve j N Ako je c j 0, j N, onda je = i algoritam staje U suprotnom, odabrati j za koji je c j < 0 2) Izračunati d B = B 1 A j =: u Ako je d B 0 (u 0), staviti θ = tj optimalna vrijednost funkcije cilja je i algoritam staje U suprotnom, θ = ( min ) B(i) = min i=1,,m;d B(i) <0 d B(i) i=1,,m;u i >0 ( B(i) u i ) 34

3) Neka je l indeks takav da je θ = B(l) d B(l) = B(l) u l Napraviti novu matricu baze zamjenom stupca A B(l) s A j Novo BDR y dano je s y j = θ, y B(i) = B(i) + θ d B(i) = B(i) θ u i te y i = 0 za sve i N \ {j} Kao što smo vidjeli, u svakom koraku simpleks metode trebamo računati inverz matrice baze Matrica baze B se u svakoj iteraciji simpleks metode razlikuje od matrice baze B iz prethodne iteraciji samo u jednom stupcu Želimo na osnovi matrice B 1, odrediti matricu B 1 To ćemo postići nizom elementarnih transformacija na retcima matrice B 1 Pri tome pod elementarnom transformacijom nad retcima matrice podrazumijevamo množenje nekog retka matrice sa skalarom koji je različit od 0 te dodavanje dvaju redaka matrice Primjer 19 Zadana je matrica C = 1 2 3 4 5 6 Pomnožimo li treći redak matrice C s 11 14 2 i dodamo prvom retku dobivamo matricu 3 4 Uočimo da je ova elementarna 5 6 transformacija nad retcima matrice C ekvivalentna množenju matrica QC, pri čemu je Q = 1 0 2 0 1 0 0 0 1 Općenito elementrana transformacija nad retcima proizvoljne matrice C R m n, koja se sastoji u množenju j tog retka matrice C sa skalarom β 0, te dodavanju i tom retku ekvivalentna je množenju matrica QC, pri čemu je Q = I + D ij, gdje je I R m m te D ij R m m kvadratna matrica koja na sjecištu i tog retka i j tog stupca sadrži element β, dok su ostali elementi matrice D ij jednaki 0 Uočimo da je matrica Q regularna jer je det(q) = 1 Neka su B = [ A B(1),,A B(l 1),A B(l),A B(l+1),,A B(m) ] te B = [ AB(1),,A B(l 1),A j,a B(l+1),,A B(m) ] matrice baze u dvije uzastopne iteracije simpleks metode Vrijedi 1 u 1 B 1 B = [e 1,,e l 1,u,e l+1,,e m ] = u l, u m 1 pri čemu je e i R m i ti jedinični vektor Nizom od najviše m elementarnih transformacija nad retcima, matrica B 1 B može se transformirati u jediničnu matricu To znači da postoje matrice Q 1,,Q m R m m takve da je Q m Q m 1 Q 1 B 1 B = I, odakle slijedi da je B 1 = Q m Q m 1 Q 1 B 35