Literatura Spisak pojmova

KONVEKSNA ANALIZA 1

Sadržaj Konveksni skupovi Definicija, primjeri, Konveksni omotać,topološka svojstva, Projekcija, Ekstremalne tacke, Teoreme razdvajanja, teoreme alternative, Polarni skupovi, Poliedri Konveksne funkcije Zadaci Konveksne funkcije i ekstremi Zadaci Rješenja Literatura Spisak pojmova

Uvod Konveksna analiza se krajem 60 i početkom 70 ih... Neka je f realna funkcija sa domenom D(f) R n, i neka je S D(f) neprazan skup. Opšti (apstraktan) problem matematičkog programiranja sastoji se u odred ivanju vrijednosti π = inf x S f(x) i skupa Problem označamo sa S = {x S : f(x) = π}. (P A) : min{ f(x) : x S}. Ako je funkcija f konveksna, a tzv. dopustivi skup S konveksan skup, onda se dobija problem konveksnog programiranja (konveksne optimizacije). Tada se dopustivi skup najčešće zadaje pomoću konveksnih funkcija g 1,..., g m definisanih na konveksnom skupu C R n : G = {x C : g 1 (x) 0,..., g m (x) 0}. Tačka x S je rješenje problema (PA) ako vrijedi f(x) f(x ) x S. U suštini, x je tačka globalnog minimuma funkcije f na skupu S. Često je lakše, a nekad i jedino moguće naći tačku minimuma date funkcije na nekom podskupu skupa S. Zato kažemo da je x lokalno rješenje datog problema, ako je to tačka lokalnog minimuma funkcije f na skupu S, tj. ako postoji okolina O tačke x takva da vrijedi f(x) f(x ) x S O. 3

R n... x = x 1. x n, y = (y 1,..., y n ), x, y := x y x := x, x = ( n x i x + y x + y ) 1 x y x y x, y x y x y + x + y = ( x + y ) (1) B(x 0, r) = {x R n : x 0 x < r}, B[x 0, r] = {x R n : x 0 x r} d(x 0, S) = inf x S x0 x S + T = {x + y : x S, y T }...αs = {αx : x S} Primjer 1 B[x 1, r 1 ] + B[x, r ] = B[x 1 + x, r 1 + r ] Zbog... možemo uzeti x 1 = x = 0. Inkluzija B[0, r 1 ] + B[0, r ] B[0, r 1 + r ] vrijedi na osnovu nejednakosti trougla. Neka je sada x B[0, r 1 + r ], pri čemu je r 1 r. Ako je r < x stavljamo x = x r x x + r x x. U suprotnom pišemo x = x + 0. S + T = T + S, S + {0} = S 1. α(s + T ) = αs + αt. (α + β)s αs + βs. 3. S + (T U) = (S + T ) (S + U). Analogna formula za ne vrijedi, ali je korisna sljedeća relacija 4. (S + T ) U = S (U T ) = T OP OL Navešćemo neka svojstva operacija sa skupovima, posebno imajući u vidu otvorene, zatvorene te kompaktne podskupove u R n. Tačka x 0 je unutrašnja tačka skupa S ako postoji broj ε > 0 tako da vrijedi B(x 0, ε) S. Skup svih unutrašnjih tačaka datog skupa je njegova unutrašnjost (interior): int S = {x S : ε > 0 (x + εb) S}. () 4

Skup je otvoren ako mu je svaka tačka unutrašnja, tj. ako je int S = S. Tačka x 0 je granična tačka skupa S ako se u svakoj kugli B(x 0, ε) nalaze tačka iz S i tačka iz njegovog komplementa R n \S. Skup svih tih tačaka je granica skupa S, a označavamo ga sa bd S. Zatvorenje skupa S definišemo sa cl S := S bd S. Kaže se da je neki skup zatvoren ako je njegov komplement otvoren skup. pokazuje se da su bd S i cl S zatvoreni skupovi. Odatle izlazi da je cl S najmanji zatvoreni nadskup skupa S, i to da je on je zatvoren ako i samo ako je cl S = S. Navedimo još da je skup S zatvoren ako i samo ako za svaki konvergentan niz (x k ), x k S vrijedi lim x k S. Za karakterizaciju zatvorenja skupa osim x 0 cl S d(x 0, S) = 0, koristićemo i sljedeću cl S = ε>0(s + εb), (3) koja slijedi iz (). Uopšte, vrijede formule: int (S T ) int S int T, cl (S T ) = cl S cl T, int (S T ) = int S int T, cl (S T ) cl S cl T. Mi ćemo, zbog prirode konveksnih skupova, više pažnje posvetiti operacijama i +. Kao prvo, navedimo da u posljednjoj formuli ne mora da vrijedi jednakost. Primjer Za skupove S = {x R : x 1 > 0, x > 0} {0}, T = [0, e 1 ], imamo cl (S T ) = {0}, dok je cl S cl T = T. Primjedba 1 Treća formula vrijedi i za konačan broj skupova, ali to nije tako u slučaju da ih je prebrojivo. Za C k = [0, 1+ 1 k ] imamo da je int k N C k =]0, 1[, dok je k N int C k =]0, 1]. S obzirom da je S +T = x S(x+T ), imamo da je suma dva skupa otvoren skup ako je jedan od njih (ovdje T ) otvoren. 5. Sada, iz int S+ int T S + T slijedi int(int S+ int T ) int (S + T ), odnosno int S + int T int (S + T ). Obratna inkluzija nije na snazi, bez dodatnih uslova. Na primjer: S = [0, 1], T = S {}, int S+ int T =]0, [ int (S + T ) =]0, 3[. 6. Med utim, suma dva zatvorena skupa ne mora biti zatvorena. Na primjer, u R za zatvorene skupove S = { (x, 1 x ) : x > 0}, i T = R {0} suma S + T = 5

R ]0, + [ je otvoren skup. Ovo je i primjer da nije uvijek cl S+ cl T = cl (S + T ). Uvijek je cl S + cl T cl (S + T ), a da bismo imali jednakost dovoljno je da je jedan od skupova kompaktan. To slijedi iz sljedeće činjenice. 7. Suma zatvorenog i kompaktnog skupa je zatvoren skup. Zaista, neka je z k niz sa članovima iz S + T koji teži z 0. Vrijedi z k = x k + y k, x k S i y k T za sve prirodne k. Neka su dati skupovi zatvoreni, i još neka je T ograničen (tj. kompaktan). Niz (y k ) ima podniz koji teži nekom y 0 T. Sada i odgovarajući podniz niza (x k ) ima graničnu vrijednost, i to z 0 y 0 S (S je zatvoren). Dakle, z 0 = (z 0 y 0 ) + y 0 S + T, pa je ova suma zatvoren skup. 6

Afini skupovi 1. Skup V = je potprostor ako je i sam vektorski prostor, u odnosu na iste operacije. Za to je potrebno i dovoljno da vrijedi što je ekvivalentno sa αx + βy V x, y V, α, β R, αv + βv V α, β R. (4) Zbir jednočlanog skupa {v 0 } i potprostora V zove se linearna (afina) mnogostrukost L: L = v 0 + V. S obzirom da 0 V, to je v 0 L. Uzmimo neki drugi vektor v L. Imamo v v 0 V, pa je L v = V (v v 0 ) = V. Znači da za svaki v L je Dalje, zbog imamo, za svaki v L, L = v + V. L L = v 0 + V (v 0 + V) = V V = V, L L = L v. (5) Slično je (1 λ)l + λl = (1 λ)(v 0 + V) + λ(v 0 + V) = v 0 + (1 λ)v + λv v 0 + V = L, tj. za sve λ R vrijedi (1 λ)l + λl L. (6) Ova formula je i dovoljne da L bude linearna mnogostrukost. Zaista, uzmimo vektore u, v L L. Imamo u = u 1 u, v = v 1 v, gdje su svi sabirci iz L. Vrijedi αu = u 1 ((1 α)u 1 + αu ) L L, i u+v = u1 +v 1 u +v L L. Sada je u+v = u+v L L, pa je ta razlika skupova potprostor i koristi se (4).. U slučaju da je linearna mnogostrukost u prostoru R n zvaćemo je ravan R. Ako je potprostor R R dimenzije k {1,..., n 1}, onda postoji linearno nezavisan skup {x 1,..., x k } R takav da je R R = lin (v 1,..., v k ). Dakle, prema (4), za neki x 0 R imamo R = x 0 + lin (x 1,..., x k ), i kažemo da je ta ravan dimenzije k. Specijalno, prava je ravan dimenzije 1: P = x 0 + lin (v) = {x 0 + λv : λ R}, v 0. Neka su x 1, x različite tačke sa prave. Tada je za neke različite skalare λ 1, λ x 1 = x 0 + λ 1 v, x = x 0 + λ v, x x 1 = (λ λ 1 )v, odakle je lin (v)= lin 7

(x x 1 ). Zaključno uzimajući x 1 umjesto x 0 jednačina prave kojoj pripadaju ražličite tačke x 1 i x je Ravan dimenzije n 1 x = x 1 + λ(x x 1 ), λ R. H = x 0 + lin (x 1,..., x n 1 ) zovemo hiperravan. Inače svaka hiperravan je data sa H(a, α) = {x R n : a, x = α}, gdje je a R n, a 0 i α R. Za a = 0 dobijamo (ako je α 0) ili čitav prostor (α = 0). Skup rješenja sistema Ax = b, gdje je A m n matrica, b R n, a x R n je ravan dimenzije k = n rang(a), a vrijedi i obratno, svakoj ravni odgovara sistem čiji je skup rješenja. 3. Na kraju, odredimo najmanju ravan (poredak je dat relacijom ) u kojoj je neprazan skup S. Neka je x 0 S, tada je {0} S x 0 R n, pa postoji najmanji potprostor čiji podskup je S x 0, a to je presjek svih odgovarajućih potprostora, tj. lin (S x 0 ). Translirajući taj lineal za x 0 dobijamo traženu ravan, koja se naziva afini omotač skupa S Kao i dokazuje se da vrijedi aff S = x 0 + lin (S x 0 ). aff S = k N{λ 1 x 1 +... + λ k x k : x 1,..., x k S, λ 1 +... + λ k = 1} Pod dimenzijom skupa S smatraćemo dimenziju njegovog afinog omotača. Ako je ona k onda postoji skup {x 0, x 1,..., x k } S takav da je {x 1 x 0,..., x k x 0 } linarno nezavisan. Tada je ( ) ( ) x 0 x rang 1... x k x 0 x = rang 1 x 0... x k 1 x 0 = k + 1, 1 1... 1 1 0... 0 i x aff S x = k λ i x i, i=0 k λ i = 1. (7) Kažemo da je {x 0, x 1,..., x k } afino nezavisan, dok je vektor (λ 0,..., λ k ) jedinstven i njegove koordinate nazivamo baricentričnim. i=0 8

FUNKCIJE Važni skupovi koji su pridruženi svakoj funkciji f : D f R, D f R n su nadgraf (epigraf), podgraf (hipograf) i nivoski (Lebegov) skup : {( ) } x epi f = D α f R : α f(x) hypo f = epi ( f), lev (f, α) = {x D f : f(x) α}. Umjesto domena funkcije možemo uzeti neki njegov neprazan podskup S, tj. posmtaramo restrikciju f S. Tada se i gornje definicije modifikuju, pri čemu se umjesto epi (f, S) i lev (f, S, α) zadržavaju stare oznake, a ako nema zabune za nivoski skup imamo oznaku lev α Limes inferior niza, odnosno limes inferior funkcije definišemo na sljedeći način. lim inf x x o lim inf x n = sup n inf x n x k f(x) = lim inf f(x) ε 0 0< x x 0 <ε Kažemo da je funkcija f odozdo poluneprekidna u tački x 0 S ako vrijedi Ovo je ekvivalentno sa lim inf x x o f(x) f(x0 ). ( ε > 0)( δ > 0)( x S B(x 0, δ)) f(x 0 ) ε < f(x), odnosno sa uslovom da za svaki niz {x k }, x k S, x k x 0 vrijedi f(x 0 ) lim inf f(x k ). Teorema 1 (Vajerštras) Neka je realna funkcija f odozdo poluneprekidna na zatvorenom ograničenom skupu S R n. Tada postoji x S takva da je f(x ) = min x S f(x). Dokaz. Po definiciji postoji niz sa članovima x k S takav da f(x k ) inf f(s). Zbog kompaktnosti skupa S uočeni niz ima podniz koji konvergira tački, na primjer x, iz tog skupa. Niz slika tog podniza teži ka infimumu, pa je lim inf f(x) inf f(s). Na osnovu poluneprekidnosti imamo x x f(x ) lim inf f(x), x x pa slijedi f(x ) inf f(s). Dakle, pojam poluneprekidnosti je posebno važan, pa ćemo mu posvetiti više pažnje. Teorema Funkcija f je poluneprekidna odozdo na zatvorenom skupu S R n ako i samo ako je svaki njen nivoski skup zatvoren, ili ako i samo ako je nadgraf zatvoren skup. 9

( ) x k Dokaz. Uzmimo da niz sa članovima iz nadgrafa epi f odozdo poluneprekidne funkcije f konvergira ka. Tada imamo α ( α k ) x α k f(x k ), x k ( ) x x S i α = lim α k liminf f(x k ) f(x). Znači i epi f. Neka x α k ( ) x lev α, x k k x. Ako je nadgraf zatvoren skup, onda je i limes niza α u epi f, tj. f(x) α, odnosno x lev α. Na kraju, pretpostavimo da f nije poluneprekidna odozdo u x. Postoji niz x k koji teži toj tački, dok je lim f(x k ) = α < f(x). Skoro svi članovi niza {x k } su u lev (f, α+f(x) ), ali ne i x, pa taj nivoski skup nije zatvoren. Primjedba Ako skup S nije zatvoren, onda za poluneprekidnost odozdo je potrebna i dovoljna zatvorenost nadgrafa u S R, odnosno zatvorenost svakog nivoskog skupa u S. Osim realnih funkcija definisanih na podskupu prostora R n posmatraćemo i funkcije definisane na R n, sa vrijednostima u proširenom skupu realnih brojeva R = R {± }. Na taj način svaka funkcija f : S R, S R n može se dodefinisati tako da joj domen bude čitav prostor tako da vrijedi Skup f(x) = { f(x), x S +, x R n \ S, min f(x) = min f(x). x S x R n dom(f) = {x R n : f(x) < + } naziva se efektivni domen funkcije f Nas će posebno zanimati funkcije koje ne uzimaju vrijednost, a identički nisu +, odnosno ako vrijedi (8) dom(f), / f(r n ). (9) Nazivaju se sopstvene funkcije, a... Definicije iz ranijih razmatranja prenose se i na funkcije f : R n R, uz uobičajene operacije sa ±. Tako je f poluneprekidna odozdo u x 0 R n ako je f(x 0 ) lim inf f(x). x x 0 Ovdje uočimo da iz neprekidnosti funkcije f ne slijedi da je (polu)neprekidna i funkcija f, data formulom (33). Na primjer, f(x) = x je neprekidna na ]0, + [, ali nije ni poluneprekidna u 0. f(x) = { x, x > 0 +, x 0 10

Primjer 3 Karakteristična (indikatorna) funkcija skupa S { 0, x S I S (x) = +, x / S Uočimo da za funkciju f datu sa (8), za sve x R n, vrijedi f(x) = f(x) + I S (x). 11

Definicija i primjeri KONVEKSNI SKUPOVI Definicija 1 Skup C R n je konveksan ako za sve x 1, x C i sve λ [0, 1] vrijedi (1 λ)x 1 + λx C. Primjedba 3 Geometrijski duž [x 1, x ] je skup tačaka x sa prave P za koje vrijedi x 1 x + x x = x 1 x. Ako je x 1 x i x P imamo da je x = x 1 + λ(x x 1 ), λ R. Odavde je x x 1 = λ x 1 x, x x = 1 λ x 1 x, tako da je polazna jednakost ispunjena ako i samo ako je λ + 1 λ = 1, odnosno 0 λ 1. Dakle, duž je skup [x 1, x ] = {(1 λ)x 1 + λx : 0 λ 1}. Prema tome skup je konveksan ako i samo ako mu je podskup svaka duž čije krajnje tačke su u njemu. slika 1. C Iz definicije slijedi da je skup C konveksan ako za svaki λ [0, 1] je (1 λ)c + λc C, (10) a pošto vrijedi i obratna inkluzija (za proizvoljne skupove) to u prethodnoj formuli može da stoji znak =. Primjedba 4 Stavljajući da je 1 λ = λ 1, λ = λ vidimo da je λ 1 + λ = 1, a uslov 0 λ 1 je isto što i λ 1, λ 0, tako da uz nove uslove (8) postaje λ 1 C + λ C C Od osnovnih skupovnih operacija konveksnost čuvaju sabiranje skupova i množenje realnim brojem. Isto tako vrijedi Teorema 3 Neka su C 1 i C konveksni skupovi. Tada su C 1 C C 1 + C i α C 1 konveksni skupovi. Dokaz. Iz x 1, x C 1 C, zbog konveksnosti datih skupova, slijedi [x 1, x ] C 1 i [x 1, x ] C, pa je [x 1, x ] C 1 C. Dalje, zbog (1), za sve λ [0, 1] vrijedi (1 λ)(c 1 + C ) + λ(c 1 + C ) = (1 λ)c 1 + λc 1 + (1 λ)c + λc C 1 + C, kao i (1 λ)αc 1 + λαc 1 = α((1 λ)c + λc) αc. Napomenimo da je presjek i proizvoljno mnogo konveksnih skupova opet konveksan skup. Očigledno je da unija dva konveksna skupa ne mora biti konveksan skup. 1

Primjer 4 S obzirom da inkluzija (4) vrijedi za sve realne brojeve, tačna je i za sve brojeve iz [0, 1], tako da je svaka ravan konveksan skup. Tu su,specijalno, uključeni jednočlani skupovi, potprostori kao i čitav R n. Primjer 5 Svaka hiperravan H(a, α), a 0 odred uje u R n četiri poluprostora. Zatvoreni poluprostori H + (a, α) = {x R n : a, x α}, H (a, α) = {x R n : a, x α}, kao i otvoreni poluprostori inth + (a, α) = {x R n : a, x > α}, int H (a, α) = {x R n : a, x < α} su konveksni skupovi. Ovo direktno slijedi iz jednakosti a, (1 λ)x 1 + λx = (1 λ) a, x 1 + λ a, x. Nazivi poluprostora nisu slučajni. Prvi je zaista zatvoren skup, što slijedi iz neprekidnosti skalarnog množenja ( a, x k α i x k x 0 povlače a, x 0 α). Posljednji je komplement prvog, pa je otvoren. Slično je za ostale. Primjer 6 Neka su a 1,..., a m R n i b 1,..., b m realni brojevi. Presjek konačnog broja zatvorenih poluprostora (ovdje m) H (a i, b i ) = {x R n : a i, x b i } je konveksan skup. Naziva se poliedar. Umjesto m H (a i, b i ) možemo pisati {x R n : a i, x b i i = 1,..., m} ili {x R n : Ax b}, (11) gdje je A matrica tipa m n sa vrstama a i, dok je b = [b 1,..., b m ]. Specijalno, R n + = n H +(e i, 0) je polieadar. Primjer 7 Otvorena kugla sa centrom u x 0, poluprečnika r je konveksan skup. Zaista, za x 1, x B(x 0, r), λ 1 0, λ 0, λ 1 + λ = 1 imamo x 0 (λ 1 x 1 +λ x ) = λ 1 (x 0 x 1 )+λ (x 0 x ) λ 1 x 0 x 1 +λ x 0 x < odnosno < λ 1 r + λ r = r, λ 1 x 1 + λ x B(x 0, r). Na isti način se vidi da je i zatvorena kugla B[x 0, r] konveksna. Moglo se i na osnovu sljedećih jednakosti (prva je iz primjera), koristeći (3)i teoremu 1, (1 λ)b[0, 1] + λb[0, 1] = B[0, 1], B[x 0, r] = x 0 + rb[0, 1]. Kao što znamo, zbir λ 1 x 1 + + λ k x k je linearna kombinacija vektora x 1,..., x k S ako su λ 1,..., λ k R, a afina kombinacija ako je λ 1 + + λ k = 1 (formula (6)). Ako je λ 1 0,..., λ k 0, onda kažemo da je linearna kombinacija nenegativna. Konveksna kombinacija je ona linearna kombinacija datih vektora je ona koja je afina i nenegativna. 13

Primjer 8 Skup svih konveksnih kombinacija konačnog skupa vektora x 1,..., x m naziva se politop, a označava sa co {x 1,..., x m }. Svaki politop je konveksan skup: m m x, y co {x 1,..., x m } x = λ i x i, y = µ i y i, gdje je m λ i = 1, m µ i = 1, x i 0, y i 0 (i = 1,..., m). Sada je (1 λ)x + λy = m ((1 λ)λ i + λµ i )x i co {x 1,..., x m }, zato što je m ((1 λ)λ i + λµ i ) = (1 λ) m λ i + λ m µ i = 1. Politop se, za m > 1, naziva (m 1)-dimenzionalni simpleks u R n, ako je {x 1,..., x m } afino nezavisan. Jednočlane skupove smatramo simpleksima dimenzije 0. Specijalno, n = co {0, e 1,..., e n } je standardan n-simpleks u R n, dok je σ n = co {e 1,..., e n+1 } n - dimenzionalni jedinični simpleks u R n+1 slika Teorema 4 Neka su C, D konveksni skupovi i a : R n R m afino preslikavanje. Tada su skupovi a(c) i a 1 (D) konveksni. Dokaz. Iz a((1 λ)x 1 + λx ) = (1 λ)a(x 1 ) + λa(x ) x n, x R n λ [0, 1] slijedi (1 λ)a(c) + λa(c) = a(c) (1 λ)a 1 (D) + λa 1 (D) a 1 (D), tako da su ovi skupovi konveksni po definiciji. Skup K R n naziva se konus ako vrijedi Ova implikacija je ekvivalentna sa x K, λ 0 λx K. λk K, λ 0. (1) Ako je konus konveksan skup onda se naziva konveksan konus. Za njihovu karakterizaciju potrebna je i dovoljna prethodna formula i zatvorenost skupa K u odnosu na sabiranje, tj. K + K K. (13) 14

Fakat, iz ove dvije formule slijedi konveksnost: (1 λ)k + λk K + K K λ [0, 1]. Obratno, pokažimo da iz (8) i konveksnosti slijedi (9). Na osnovu K K, je K 1 K, pa ako je konus konveksan imamo K + K 1 K + 1 K = K. Primjer 9 Skup K = {x R n : Ax 0}, 0 R m, je konveksni konus, što neposredno slijedi iz (8), (9) i svojstava matričnog množenja. U skladu sa Primjerom 5., naziva se homogeni poliedar, a može i poliedarski konus. Primjer 10 Skup svih nenegativnih linearnih kombinacija konačnog skupa tačaka x 1,..., x m je, očigledno, konveksan konus. Nazivamo ga konačno generisanim,a oznaka mu je cone... Dakle, cone {x 1,..., x m } = {λ 1 x 1 +... + λ m x m : λ 1 0,..., λ m 0}. (14) Važan primjer je {Ax : x 0} R m. On je konačno generisan konus zato što je K = cone {a 1,..., a n }. Primjer 11 Svakom konveksnom konusu K dodjeljuju se dva konusa {y : y, x 0 x K} i {y : y, x 0 x K}. To su normalni konusi (negativan normalan i pozitivan). Prvi se najčešće zove polaran konus, sa oznakom K o. Pozitivan normalan konus zove se konjugovan (dualan) konus konusa K, a označava sa K. jasno, vrijedi K = K. SLIKA Konveksan omotač Ukoliko neki skup nije konveksan, možemo mu dodijeliti najmanji konveksan skup koji ga sadrži. U tom cilju, za proizvoljan neprazan skup S R n posmatraćemo sve njegove konveksne nadskupove. Jedan od njih je aff S, a presjek im je neprazan (podskup mu je S) i konveksan. Nazivamo ga konveksni omotač skupa S i pišemo co S. Dakle, co S = C. S C Na osnovu definicije, za prozvoljne skupove S, T i konveksan skup C vrijedi S T co S co T, C = co C, co (co S) = co S. 15

Za svaki prirodan broj k, proizvoljnom nepraznom skupu S dodjeljujemo skup svih konveksnih kombinacija svakih k njegovih elemenata (uniju svih politopa generisanih tačkama iz S): co k S = co {x 1,..., x k }, x 1,...,x k S { k co k S = λ i x i : x 1,..., x k S, λ 1,..., λ k 0, Pomoću njih opisaćemo konveksni omotač skupa S. } k λ i = 1. Prije svega, za proizvoljne skupove S, T, konveksan skup C iz R n, i sve brojeve λ [0, 1] vrijedi: S T co k S co k T, (15) (1 λ)co p S + λco q S co p+q S, (16) co k C C. (17) Posljednja inkluzija se dokazuje indukcijom: co 1 C = C, a co C C je po definiciji konveksnog skupa. Ako je co k C C i x co k+1 C, onda je x = k+1 λ ix i za neke x 1,..., x k+1 C, λ 1,..., λ k+1 [0, 1], λ 1 +... + λ k+1 = 1. Ukoliko je tada λ k+1 1 imamo x = λ k+1 x k+1 + (1 λ k+1 ) k Ako je λ k+1 = 1, onda je opet x = x k+1 C. Dakle, co k C C povlači co k+1 C C, za sve k N. λ i 1 λ k+1 x i λ k+1 C + (1 λ k+1 )C = C. Teorema 5 Ako je S neprazan podskup od R n, onda je co S = k N co k S. Dokaz. S = co 1 S k N co k S, odakle je, prema (13), co S co ( k N co k S). Pošto iz (14) slijedi da je posmatrana unija konveksan skup imamo co S k N co k S. Dalje, zbog S co S vrijedi co k S co k (co S), a na osnovu (15) je co k (co S) co S, tako da imamo co k S co S. Kako posljednja inkluzija vrijedi za sve prirodne brojeve, to je co k S co S. k N 16

Ovaj rezultat se može precizirati. Teorema 6 (Karateodori, 1911) Ako je S R n neprazan skup vrijedi co S = n+1 k=1 co k S. Dokaz. Neka je x co S. Prema prethodnom, tada je x = λ 1 x 1 + +λ k x k, za neke x 1,..., x k S, λ 1 0,..., λ k 0, λ 1 + +λ k = 1. {( ) ( )} x i x k Ako je k > n+1, onda je skup,..., linearno zavisan u R 1 1 n+1. Postoje realni brojevi α 1,..., α k, koji nisu svi jednaki 0, takvi da je α 1 x 1 + + α k x k = 0, α 1 + + α k = 0. Bar jedan od njih je pozitivan (druga jednakost), pa neka je λ j α j = min Imamo x = x λ j α j 0 = k λ i x i λ j α j k α i x i = k ( λ i λ ) j α i x i. α j i:α i>0 λ i α i. Pošto je λ i λ j α i 0 (za i takvo da je α i 0 to je očigledno, a za ostale α j zbog izbora indeksa j ) i ( ) k λ i λj α j α i = 1 λj α j 0 = 1, dobili smo da je x konveksna kombinacija tačaka skupa {x 1,..., x j 1, x j+1 (,..., x) k }. x i Postupak se nastavlja sve dok skup preostalih vektora ne postane lin- 1 earno nezavisan, tj. dok ih ne ostane najviše n + 1. Tada je x Dakle, co S n+1 k=1 n+1 k=1 co k S. Obratna inkluzija izlazi iz prethodne teoreme. co k S. Primjedba 5 Zbog jasne veze co k S co k+1 S tvrdnja Karateodorijeve teoreme svodi na jednakost co S = co n+1 S. Isto tako možemo primjetiti da je konveksni omotač nekog skupa unija simpleksa dimenzije (najviše) n, sa vrhovima iz tog skupa. Primjer 1 Na osnovu Karateodorijeve teoreme dobijamo σ n 1 = {x R n : n x i = 1, x i 0}. 17

za n - dimenzionalni standardni simpleks je Dalje je n = {x R n : n x i 1, x i 0}. int n = int H (e, 1) int H + (e 1, 0)... int H + (e n, 0) = = {x R n : n x i < 1, x 1 > 0,..., x n > 0}. Uočimo još da je ( 1 n+1,..., 1 n+1 ) int n. Pomoću konveksnog omotača definiše se nova operacija koja čuva konveksnost C 1 C := co (C 1 C ) (18) Slijedeće jednakosti su korisne ne samo za konstrukciju konveksnog omotača složenijih skupova co (S 1 + S ) = co S 1 + co S, (19) C 1 C = {(1 λ)x 1 + λx : x 1 C 1, x C, λ [0, 1]}. (0) Dokažimo prvu formulu, koja vrijedi za proizvoljne skupove. Pošto je konveksan zbir konveksnih skupova imamo da iz S 1 + S co S 1 + co S slijedi co (S 1 + S ) co (co S 1 + co S ) = co S 1 + co S. Za obratnu inkluziju koristimo Karateodorijevu teoremu. Za svaki x i S 1 je x i + co S = co (x i + S ) co (S 1 + S ). k Tačka x co S 1, je oblika x = λ i x i, x i S 1, λ i 0, nakon množenja sa λ i i sabiranja, dobijamo k λ i = 1, tako da, k k x + λ i co S λ i co (S 1 + S ). Zbog konveksnosti omotača, dalje je x + co S x co S 1, što znači da je co (S 1 + S ), i to za sve co S 1 + co S co (S 1 + S ). Druga jednakost važi za konveksne skupove. Označimo sa C skup sa desne strane jednakosti (19), i neka je x co (C 1 C ). Ako je x C 1 ili x C situacija je jasna. Inače x je konveksna kombinacija tačaka v 1,..., v k iz C 1 C, tako da su skupovi J = {i : v i C 1 } i J 1 = {i : v i C } neprazni. Stavljajući za 18

odgovarajuće koeficijente λ 1,..., λ k da je λ = 1 i J 1 = i J λ i dobijamo 0 < λ < 1. Tada je x = (1 λ) i J 1 Obratna inkluzija je trivijalna. λ i 1 λ vi + λ λ i λ vi (1 λ)c 1 + λc C. i J Za konveksni omotač unije konveksnih konusa imamo preciznije K 1 K = K 1 + K. (1) Jasno, za sve λ > 0 je λk = K. Prema (0) imamo K 1 K ) = (1 λ)k 1 + λk = K 1 + (K 1 + K ) + K = K 1 + K. 0 λ 1 0<λ<1 Topološka svojstva Kao prvo navedimo da se zatvorenje skupa može zapisati kao cl C = ε>0(c + εb), () dok je njegova unutrašnjost int S = {x S : ε > 0 (x + εb) S}. (3) Teorema 7 Za svaki konveksan skup sa nepraznim interiorom vrijedi x 1 int C, x cl C = [x 1, x [ int C. Dokaz. Za svaki λ ]0, 1[ i svaki ε > 0, koristeći formulu za zatvorenje imamo (1 λ)x 1 +λx +εb (1 λ)x 1 +λ(c+εb)+εb (1 λ)(x 1 + λε B)+λC C, 1 λ gdje je ε tako uzeto da je x 1 + λε 1 λ B C, što je moguće, zbog x1 int C. Posljedica 1 Za konveksan skup sa nepraznim interiorom vrijedi x int C v R n ε > 0 x + εv C. (4) Zaista, neka je x 0 int C i x x 0 takav da vrijedi desna strana ekvivalencije. Prema tome postoji ε > 0 za koji je x 1 = x + ε(x x 0 ) C. Sada je x = ε 1+ε x0 + 1 1+ɛ x1 ]x 0, x 1 [ int C. Obratna implikacija je jasna. Teorema 8 Unutrašnjost i zatvorenje konveksnog skupa su konveksni skupovi. Dokaz. Za x 1, x int C, prema prethodnom, vrijedi [x 1, x ] = [x 1, x [ {x } int C {x } = int C. Drugo tvrd enje slijedi iz (5) i konveksnosti zbira i presjeka konveksnih skupova. 19

Teorema 9 Ako je int C, onda je int cl C = int C, cl int C = cl C Dokaz. Iz C cl C slijedi int C int cl C. Obratno, neka je x int cl C i B(x, ε) cl C. Za x y int C postoji tačka z S(x, ε) takva da je x ]y, z[, pa prema Teoremi 4 je x int C. I u drugoj jednakosti jedna inkluzija je očigledna, pa onda neka je x cl C i y int C. Tada je [y, x[ int C, odakle je cl [y, x[ cl int C, i x [x, y] cl int C. Na osnovu ove teoreme neposredno slijede veze za dva konveksna skupa. Teorema 10 Ako su C i D konveksni skupovi sa nepraznim interiorima onda je int C = int D cl C = cl D. Svaka od jednakosti ekvivalentna je sa int C D cl C. Dokaz. Na primjer, ako je D izmed u interiora i zatvorenja skupa C, slijedi da je cl int C cl D cl C, što uz drugu jednakost iz Teoreme 6 je cl C = cl D. Iz int C = int D dobijamo int C D cl D = cl int D = cl int C =cl C. Preostaje da se dokaže prva ekvivalencija. Teorema 11 Neka je l : R n R m linearno preslikavanje i C konveksan podskup od R n sa nepraznim interiorom, tada vrijedi int l(c) = l(int C). Dokaz. Pokažimo prvo da vrijedi dio. U tom cilju ustanovimo da je konveksan skup D = l(c) izmed u unutrašnjosti i zatvorenja skupa l(int C). Tada će biti, na osnovu Teoreme 7, int D = int l(int C), odakle je int l(c) l(int C). Dakle, imamo uz jednakosti iz teoreme 6 int l(int C) l(int C) D l(cl C) = l(cl int C) cl l(int C). Obratno, neka je y l(int C) i v R m proizvoljan vektor. Postoje x intc, u R n i ε > 0 takvi da je y = l(x), v = l(u) i x + εu C. Sada je y + εv = l(x) + εl(u) = l(x + εu) l(c). Prema posljedici 1. zaključujemo da je y int l(c). Konveksnost skupova je dovoljna da vrijede jednakosti u... Teorema 1 int (C + D) = int C + int D. Dokaz. Dosta je primjeniti teoremu 8. na funkciju l : R n R n R n, l(x 1, x ) = x 1 + x koja je je linearna, i za koju vrijedi l(c D) = C + D. sada je int l(c D) = int (C + D), l(int (C D)) = l(int C int D) = int C + int D. 0

Teorema 13 Ako su C, D konveksni skupovi i ako je int (C D), onda vrijedi cl (C D) = cl C cl D. Dokaz. Neka je x cl C cl D. Za x 0 int C int D vrijedi [x 0, x[ int C int D = int (C D), odakle je x cl (C D). Primjedba 6 Formula vrijedi i za presjek proizvoljno mnogo konveksnih skupova, uz odgovarajući uslov (presjek njihovih unutrašnjosti je neprazan) i isti dokaz. Uslov int C = jeste bitan, ali za konveksne skupove nije prirodan, nije ispunjen već za duži u ravni, krugove u trodimenzionom prostoru, kao i hiperravni. Stoga ga je potrebno oslabiti, a to se postiže uopštavanjem pojma interiora. Primjer 13 Za - dimenzioni simpleks σ = co {e 1, e, e 3 } u R 3 imamo da je int σ =. Med utim posmatrajući ovaj trougao u njegovom afinom omotaču aff (σ ) = {x R 3 : x 1 + x + x 3 = 1}, vidimo, na primjer, za x 0 = ( 1 3, 1 3, 1 3 ) da je B(x 0, 1 3 ) aff σ. Kako je ovaj presjek otvoreni krug u posmatranoj (hiper)ravni to je x 0 unutrašnja tačka u odnosu na afini omotač. Skup svih takvih tačaka naziva se relativni interior, i piše ri T. Uopšte, relativni interior definišemo sa ri S = {x S : ε > 0 (x + εb) aff S S}. Jasno ako je int C = onda je relint C = int C. Sada ćemo dokazati osnovno svojstvo relativnog interiora, po čemu se i razlikuje od interiora. Teorema 14 Ako je C R n neprazan konveksn skup, onda je ri C. Dokaz. Primjedba 7 Za konveksne skupove C = {(1, 0, 0)} i D = σ imamo C D, ali ri C = C ri D = {x R 3 : x 1 + x + x 3 = 1, x 1, x, x 3 > 0}. Inače, S T int S int T. Ostala svojstva ostaju na snazi a za dokaz se, umjesto karakterizacije...koristi x ri C y C λ > 1 : y + λ(x y) C. (5) Posmatrajući re C umjesto int C, na snazi ostaju sve teoreme 4-10, ric je konveksan, ri C = ri D ri C D C ricc, ric = ric ril(c = l(ric)) ri(c + D) = ric + rid pri čemu je u posljednjoj potreban dodatni uslov ri C ri D =, kao što pokazuje Primjer. Uz isti uslov je i 1

Teorema 15 ri (C D) = ri C ri D Dokaz. Kao u dokazu Teoreme 10 je cl C cl D cl (ri C ri D). Sada zbog, cl (ri C ri D) cl (C D) cl C cl D, slijedi jednakost cl (ric rid) = cl(c D). Na osnovu... (relativan interior jednog je podskup drugog skupa) imamo ri (C D) ri C ri D. Neka je x 0 u presjeku relativnih interiora, i y C D. Prema (15) postoje λ > 1 i µ > 1 takvi da je y + λ(x 0 y) C i y + µ(x 0 y) D. Ako je, na primjer, µ λ, onda je y + λ(x 0 y) = λ µ (y + µ(x0 y)) + (1 λ µ )y D. Dakle, y + λ(x 0 y) C D, pa je x 0 ri (C D). Slijedi ri C ri D ri (C D). omotaći Jednostavno je dokazati da vrijedi S otvoren = co S otvoren. Na primjer, int co S je konveksan, a podskup mu je S, pošto je int S = S. Dakle, po definiciji konveksnog omotača, imamo da je co S int co S. S druge strane, konveksan omotač zatvorenog skupa ne mora biti zatvoren: S = {(x, 0) : x 0} {(0, 1)}, co S = (R + [0, 1]) \ {(x, 1) : x > 0}. Med utim dodajući uslov da je posmatrani skup ograničen dobijamo Teorema 16 S kompaktan = co S kompaktan. Dokaz. Posmatrajmo funkciju f datu sa n+1 (λ 1,..., λ n+1, x 1,.., x n+1 ) λ i x i, λ i R, x i R n. Ona je neprekidna funkcija i kompaktan preslikava u kompaktan skup. Preostaje da se vidi da je, po Karateodorijevoj teoremi, co S = f ( ) [0, 1]... [0, 1] S... S. }{{}}{{} n+1 n+1 Sada ćemo izučiti osnovna svojstva nekih posebnih konveksnih skupova. Sljedeće imamo iz prethodne teoreme, s obzirom da je konačan skup kompaktan. Posljedica Politop je kompaktan skup

Naravno, konačno generisan konus nije kompaktan skup, ali Teorema 17 Konačno generisan konus je zatvoren skup. Dokaz. Neka je K = cone {x 1,..., x m }, pri čemu je dati skup linearno nezavisan. U suprotnom se, kao u dokazu Karateodorijeve teoreme, vrši redukcija do linearno nezavisnog skupa. Preslikavanje l : R m lin (x 1,..., x m ), l(λ 1,..., λ m ) = λ 1 x 1 +... + λ m x m je linearno i bijektivno. Inverzno preslikavanje je neprekidno tako da je slika zatvorenog skupa zatvoren skup. Dakle l(r m + ) = cone {x 1,..., x m } je zatvoren skup. Sada... Posljedica 3 Zbir politopa i konačno generisanog konusa je zatvoren skup. Neograničeni konveksni skupovi Teorema 18 Neka C konveksan zatvoren neograničen. Za svaki x C postoji v 0 takav da vrijedi {x + λv : λ 0} C. (6) Dokaz. Neka je x C i λ 0. Postoji niz (x k ) tačaka iz C takav da x k, 0 λ xk 1 i ( ) konvergira, nekom v. Sada x+ λ x k x k x k (xk x) C konvergira ka x + λv cl C = C. Primjedba 8 Ako konveksan skup skup nije zatvoren, onda ovo tvrd enje važi za tačke iz ri C. Za ostale ne mora, na primjer nijedna poluprava sa vrhom u 0 nije podskup skupa C = ( R ]0, 1[ ) {0}. Primjedba 9 Navedimo još da u (13) za svaki x možemo uzeti isti v. Zaista, neka (13) vrijedi za x 0 C i neka je x C proizvoljan. Tada, je 1 k (x0 + λkv) + (1 1 k )x C, pa taj niz konvergira tački x + λv cl C = C, za sve pozitivne λ. Projekcija. Teoreme razdvajanja Tačka y 0 = a + x0 a,v v v je ortogonalna projekcija tačke x 0 na pravu P = {a + tv : t R}, zato što je x 0 y 0, v = 0. Zbog toga,za bilo koju drugu tačku y sa prave, imamo x 0 y x 0 y 0. Uopšte, tačku y 0 S zvaćemo projekcijom tačke x 0 R n na neprazan skup S R n ako vrijedi x 0 y 0 x 0 y y S. Jasno, projekcija ne mora da postoji, kao na primjer na otvorenu kuglu iz tačke van nje, a ako i postoji ne mora biti jedinstvena (unija dvije zatvorene disjunktne kugle i sredina duži koja spaja njihove centre). Teorema 19 Svaka tačka iz R n ima jedinstvenu projekciju na neprazan, zatvoren konveksan C R n. 3

Dokaz. Kao prvo, ako je tačka x 0 u C ona je sama sebi projekcija, jer x 0 y 0 = x 0 x 0 = 0. Za x 0 / C neka je r > 0 takav broj da je C B(x 0, r) neprazan skup. On je kompaktan skup (kao presjek zatvorenog C i zatvorene kugle), pa neprekidna funkcija y y x 0 dostiže na njemu minimum, u nekoj tački y 0. Dakle, za sve tačke y posmatranog presjeka vrijedi y x 0 y 0 x 0. Za ostale tačke skupa C (van kugle) je y x 0 r y 0 x 0. Zaključno, za sve y C vrijedi y x 0 y 0 x 0. Za dokaz jedinstvenosti koristimo jednakost paralelograma u + v + u v = ( u + v ), uzimajući da je u = x 0 y 0, v = x 0 y 1, gdje su y 0 i y 1 projekcije tačke x 0. Zbog x 0 y 0 = x 0 y 1 imamo y 1 y 0 = 4 ( x 0 y 0 x 0 y0 + y 1 ) 0, budući da je y0 +y 1 C, zbog konveksnosti datog skupa. Iz prethodne nejednakosti slijedi da je y 0 = y 1. Sada vidimo da je na ovaj način definisana funkcija (x 0 y 0 ), koju nazivamo (metrička projekcija) i označavamo sa P C. Dakle, za konveksan i zatvoren skup C definisana je P C : R n C sa y 0 = P C (x 0 ) ( y C) x 0 y x 0 y 0. Osnovna svojstva su data nejednakostima, pri čemu iz druge slijedi neprekidnost ove funkcije. Teorema 0 Za C = konveksan i zatvoren skup, x 0 R n i y 0 C vrijedi a) y 0 = P C (x 0 ) ako i samo x 0 y 0, y y 0 0 y C, (7) b) P C (x 1 ) P C (x 0 ) x 1 x 0 x 1, x 0 R n. (8) Dokaz. a) Kako je C konveksan i y 0 C, to za svaki y C i sve λ ]0, 1[ imamo y 0 + λ(y y 0 ) C, pa je x 0 (y 0 + λ(y y 0 )) x 0 y 0, tj. x 0 y 0, y 0 y + λ y y 0 0. Pri λ 0+, dobijamo prvu nejednakost. Iz (5) imamo redom (uzimamo da je y 0 x 0, inače je nejednakost trivijalna) x 0 y 0, x 0 y 0 +y x 0 0, x 0 y 0 x 0 y 0, x 0 y, x 0 y 0 x 0 y 4

i to za sve y C, što znači da je y 0 = P C (x 0 ). b) Označavajući projekciju tačke x 1 sa y 1 slijede nejednakosti: x 0 y 0, y 1 y 0 0, x 1 y 1, y 0 y 1 0, odakle je y 1 y 0 + x 0 x 1, y 1 y 0 0, y 1 y 0 x 1 x 0, y 1 y 0. Preostaje da se opet iskoristi nejednakost Koši-Bunjakovskog. Primjedba 10 Uzimajući da je a = x 0 y 0, iz prve nejednakosti, za sve y C vrijedi a, y a, y 0. Ako je x 0 y 0, onda je a 0, pa je odred ena hiperravan H(a, α), α = a, y 0 i formula (5) znači y 0 H, i C H. Ovo je motivacija za sljedeću definiciju. Definicija H se naziva potporna hiperravan (hiperravan oslonca) nepraznog skupa S R n u tački x bd S, ako je x H i S H ili S H + Teorema 1 Zatvoren i konveksan skup u svakoj graničnoj tački ima potpornu hiperravan. Dokaz. Dovoljno je dokazati da je y 0 bd C projekcija neke druge tačke. Postoji niz x k R n \C koji teži ka y 0, pri čemu možemo uzeti da su svi x n B(y 0, 1). Prema teoremi 7. imamo niz projekcija y k = P C (x k ), kojem pridružujemo niz z k S(y 0, 1) takav sa je x k ]y k, z k [. Vrijedi y k y 0 = P C (x k ) P C (y 0 ) x k y 0, odakle je y k y 0 pa, zbog neprekidnosti projekcije, slijedi P C (y k ) y 0. Na osnovu prvog dijela prethodne teoreme je P C (z k ) = y k. Niz (z k ) ima konvergentan podniz, za čiju graničnu vrijednost z 0 S(y 0, 1) je P C (z 0 ) = y 0. Dakle, ako je x 0 bd C, onda je x 0 H, dok je C H. Za x 0 / C (Napomena ) možemo reći i više. Naime, tada je x 0 H +, zbog a, y 0 < a, x 0. Ako uzmemo α = a,x0 a,y 0 = a dobijamo za sve y C vrijedi a, y < α < a, x 0, odnosno x 0 int H + i C int H. Na osnovu ovog razmatranja, uzimajući umjesto jednočlanog {x 0 } proizvoljan konveksan skup možemo definisati pojam razdvojenih skupova. Definicija 3 Konveksni skupovi C 1, C R n su razdvojeni ako postoje tačka a R n, a 0 i realan broj α takvi da za sve x C 1 i sve y C, vrijedi a, y α a, x, 5

tj. C 1 H + (a, α), C H (a, α), Kažemo da su razdvojeni skupovi potpuno razdvojeni ako nije C 1 C H(a, α). Skupovi C 1, C su strogo razdvojeni ako su u različitim otvorenim poluprostorima ( postoje a 0, α takvi da za sve x C 1 i sve y C vrijedi a, y < α < a, x. Navedimo još jednom da je C razdvojen od tačke koja mu ne pripada, a ako tačka nije u njegovom zatvorenju onda je od nje strogo razdvojen. Teorema Neka su C 1, C R n neprazni, disjunktni, konveksni i zatvoreni. Ako je jedan od njih ograničen, onda postoji hiperravan koja ih strogo razdvaja. Dokaz. Razlika C 1 C datih skupova, po pretpostavkama, je konveksan i zatvoren skup. Uz ovo, uslov C 1 C = znači da je 0 / C 1 C. Prema prethodnoj teoremi postoji a R n, a 0 i β > 0 tako da za sve x C 1 i sve y C vrijedi a, x y > β > 0, odakle je a, x > a, y + β > a, y. Skup { a, x : x C 1 } je ograničen odozdo sa a, y + β, za proizvoljan fiksiran y C. Sada je inf x C 1 a, x β gornja med a skupa { a, y : y C }, pa imamo inf a, x sup a, y + β > sup a, y. x C 1 y C y C Uzimajući α izmed u uočenog supremuma i infimuma slijede nejednakosti iz definicije. Koristeći drugi dio teoreme 5, a ponavljajući prethodni postupak, uz izbor dobija se α [ sup y C a, y, inf a, x ] x C 1 Teorema 3 Neprazni, disjunktni i konveksni skupovi C 1 i C su razdvojeni. Posljedica 4 Ako je uz uslove teoreme 3, još int C 1, onda su C 1 i C potpuno razdvojeni, pri čemu je int C 1 u otvorenom poluprostoru. 6

Dokaz. Iz prethodne teoreme slijedi da je a, x α za sve x C 1. Ako bi bilo a, x 0 = α za neki x 0 int C 1, onda (imajući na umu da je i x 0 + ε a a C 1, pri malom ε > 0) dobijamo a, x 0 + ε a a = α + ε α. Ovo nije moguće, tako da preostaje a, x 0 < α, pa x 0 / H(a, α) Jasno, strogo razdvojeni skupovi su i potpuno razdvojeni. Dakle, mi smo u prethodnom tvrd enju pokazali i više od potpune razdvojenosti, tj. da je unutrašnjost jednog skupa u otvorenom poluprostoru. Med utim pojam potpune razdvojenosti je važan i zbog potpune karakterizacije. Teorema 4 Neprazni konveksni skupovi C 1, C R n su potpuno razdvojeni ako i samo ako vrijedi ri C 1 ri C =. Teorema 5 Neprazni konveksni skupovi C 1, C R n su strogo razdvojeni ako i samo ako vrijedi inf x C 1,y C x y > 0. Kao primjenu Teorma separacije dokazaćemo dvije važne... Teorema 6 Ako su C i D konveksni, zatvoreni i ograničeni skupovi i za sve vektore a R n vrijedi a, x = max a, x, onda je C = D. max x C Dokaz. Ako bi postojao x 0 (C\D) (D\C), onda se ta tačka strogo razdvaja od C ili D. Na primjer, ako je x 0 D\C, onda postoji a takav da je a, x 0 > a, x za sve x C. Uvažavajući kompaktnost imamo x D max a, x < a, x C x0 max a, x, x D što je suprotno uslovu teoreme. Alternativni sistemi linearnih (ne)jednačina su oni kod kojih samo jedan ima rješenje. Neka je A m n matrica, b R m dok su vektori 0, x i y u skladu s tim. Teorema 7 (Farkaš, 190) Samo jedan od sljedeća dva sistema ima rješenje: Ax = b, x 0, (9) A y 0, b, y < 0. (30) 7

Dokaz. Uzmimo prvo da oba imaju rješenja i to x 0 i y 0. Množeći skalarno x 0 0 sa A y 0 0 dobijamo x 0, A y 0 = Ax 0, y 0 = b, y 0 0. Pretpostavimo da prvi sistem nema rješenje. Znači b / K = {Ax : x R n +}, koji je konveksan (teorema 4) i zatvoren (teorema 17). Posmatrani skup i {b} strogo razdvaja neka hiperravan H(y, α), odnosno, za sve x 0 vrijedi y, b < α < y, Ax. (31) Specijalno, za x = 0 dobijamo b, y < 0. Sada, za sve x 0, vrijedi A y, x = y, Ax > 0. Odatle je A y 0, tako da je vektor normale y rješenje drugog sistema. Ekstremalne tačke Definicija 4 Tačka x je vrh (ekstremalna tačka) nepraznog konveksnog skupa C R n ako je x C i ne postoje različite tačke x 1, x C takve da vrijedi x = x1 + x. Lako se vidi da je x vrh tog skupa ako i samo ako iz x 1, x C, λ ]0, 1[, x = (1 λ)x 1 + λx slijedi x 1 = x. Primjer 14 krug-simplex-poliedar Vidimo da što se tiče broja vrhova situacija je različita. Konveksan skup ne mora imati vrhove, a može i biti neprebrojivo. Za poliedre imamo sljedeće. Primjedba 11 Neka je H = H(a, α) potporna hiperravan skupa C H + i C 1 = C H neprazan skup. Tada je ext C 1 ext C. Zaista, neka je v 0 ext C 1, ali nije u ext C. Postoje različiti v 1, v C takvi da je v 0 = v 1 + v. S obzirom na a, v 1 α = a, v 0, dobijamo a, v 1 v 0, i na isti način a, v v 0. No, a, v 1 v + a, v v = 0, pa mora da bude v 1, v H, te je v 1, v C 1, a to je u suprotnosti s v ext C 1. Teorema 8 Zatvoren konveksan skup C R n postoji prava P C. ima vrh ako i samo ako ne Dokaz. Neka je {x 0 +λv : λ R} C, za neku x 0 C i v 0. Prema Teoremi... za svaki x C je {x + λv : λ R} C. Sada možemo uzeti x = x+v+x v, pa zbog v 0 tačka x nije vrh skupa C. Obratno, koristimo indukciju po dimenziji skupa. Za jednočlane skupove situacija je jasna. U induktivnom koraku uzmimo da je n dimenzija skupa C, a tvrd enje vrijedi za sve konveksne skupove dimenzije n 1, kojima nijedna prava nije podskup. Svaka prava odred ena sa dvije tačke iz posmatranog skupa ima neprazan presjek sa bd C. Potporna hiperravan u toj tački je dimenzije n 1, pa rezultat izlazi iz prethodne napomene. Teorema 9 Poliedar ima najviše konačan broj vrhova. 8

Dokaz. Neka je x 0 vrh nekog poliedra. Jasno, postoji J {1,..., m} takav da je a i, x = b i za indekse iz uočenog podskupa, a a i, x < b i za ostale. Za neku drugu tačku x sa istim svojstvom stavimo x 1 = x 0 + λ(x x 0 ) i x 1 = x 0 λ(x x 0 ). Imamo a i, x 1 = a i, x = b i, za i J i a i, x 1 < b i + λ a i, x x 0 < b i, i a i, x < b i, za dovoljno malu vrijednost λ. Prema tome x 1 i x su u poliedru, uz x 0 = x1 +x. Ovo nije moguće, pa svakom skupu J odgovara najviše jedan vrh, a takvih je konačan broj. Vidjeli smo da neograničeni, zatvoreni konveksni skupovi ne moraju imati vrhove. Situacija je drukčija ako je skup ograničen. Teorema 30 Neprazan, konveksan, kompaktan skup C R n ima bar jedan vrh. Dokaz... Kao jednu primjenu ove teoreme pokažimo da linearna funkcija l : R n R, l(x) = c, x dostiže minimum i maksimum na kompaktnom, konveksnom skupu C u njegovom vrhu. Prije svega, postoji x C takva da je min x C l(x) = l(x ). Jasno, skup C = {x C : l(x) = l(x } je konveksan i kompaktan, pa ima vrh x 0. Pokažimo da je on vrh i skupa C. Ako nije, postoje različite tačke x 1, x iz C, od kojih bar jedna nije u C, takve da je x 0 = x 1 + x. Pošto {x 1, x } C mora biti l(x 1 ) + l(x ) > l(x 0 ), a zbog linearnosti funkcije l to je nemoguće. Ova primjedba ima poseban značaj u linearnom programiranju. Mi ćemo je iskoristiti za precizniji opis konveksnog omotača. Naime, u izgradnji konveksnog omotača kompaktnog, konveksnog skupa ne sudjeluju, u suštini, sve njegove tačke, nego samo vrhovi. U narednoj teoremi ext C označava skup svih vrhova skupa C. Teorema 31 (Minkovski, 1911) Neka je C R n neprazan, konveksan, kompaktan skup. Tada C = co (ext C). Dokaz. Zbog konveksnosti skupa C vrijedi ext C C co ext C C. Obratna inkluzija se dokazuje indukcijom, po dimenziji skupa. Za n = 1 jedini neprazni konveksni kompaktni skupovi su zatvoreni intervali [α, β], α β, a za njih je [α, β] = co {α, β}. Za induktivni korak neka je dim C = n, a tvrdjenje tačno za sve konveksne kompaktne skupove manje dimenzije. Uzmimo x C i tačke x 1, x bd C takve da je x [x 1, x ]. Prema Teoremi 17 postoje potporne hiperravni H 1 i H, za koje je x 1 H 1 C, x H C. Ti presjeci, npr. C 1 i C, su u (n 1) dimenzionalnim hiperravnima, pa iz C 1 co ext C 1 i C co ext C, na osnovu činjenice da su vrhovi skupova C 1 i C ujedno vrhovi i skupa C, slijedi x [x 1, x ] co (C 1 C ) co (co ext C 1 co ext C ) co ext C. Zaključno, x C x co ext C. 9

Primjedba 1 U proizvoljnim normiranim prostorima ne vrijedi ova teorema već njena posljedica koju su dokazali Krejn i Milman, (1940), a glasi Za neprazan, konveksan, kompaktan skup vrijedi C = cl (co (ext C)). Ilustrujmo dokaz na inkluziji C cl (co (ext C)). Pretpostavimo da ona nije tačna, tj. da postoji x 0 C koji ne pripada skupu cl (co (ext C)). Ovaj skup je konveksan i zatvoren, pa je strogo razdvojen od x 0. Postoji a 0 tako da za sve x ext C vrijedi a, x 0 < a, x. Prema tome linearna funkcija data sa l(x) = a, x ne dostiže minimum u vrhu konveksnog kompaktnog skupa. Polarni skupovi Vidjeli smo kako se proizvoljnom nepraznom skupu S R n dodjeljuje konveksan skup (S co S). Drugi način sastoji se u sljedećem... Neka je C konveksan, zatvoren skup u R n u kome se nalazi 0. Tada je pomoću duži [0, x] opisan taj skup: C = x C [0, x]. Svakim vektorom x C odred ena je hiperravan H(x, 1). Presjek svih poluprostora H + (x, 1) je neprazan (u njemu je bar 0), naziva se polaran skup skupa C i označava sa C. Dakle, C o = x C {y R n : y, x 1}. (3) SLIKA 1, slika B Primjer 15 {0} = R n, {c} = H + (c, 1) Primjer 16 B = B Možemo pisati C = {y R n : y, x 1 x C} = {y : S C (y) 1} = lev(s C, 1). Sada, za proizvoljan neprazan S R n polaran skup definišemo sa Odmah vidimo da vrijedi S o = {y R n : y, x 1 x S}. (33) S T = T S S T S S S T, y T S T (y) 1 S S (y) 1 y S. rs = ( 1 r S), r > 0. Specijalno, B [0, r] = B[0, 1 r ]. 30

Iz definicije vidimo da je polarni skup konveksan, zatvoren i da mu pripada 0. Da bismo dali karakterizaciju skupova sa navedenim svojstvima definišemo polarni skup polarnog skupa (tzv. bipolarni skup) S = (S ) = {x R n : x, y 1 y S }. Sada, zbog x, y 1, za sve x S i sve y S zaključujemo S S. Obratno ne mora da bude uvijek, ali vrijedi sljedeća jednakost, odakle je jasna veza izmed u skupova S i S. Teorema 3 Za svaki neprazan skup S R n vrijedi S = cl co (S {0}). Dokaz. Stavimo C = cl co (S {0}). U suštini, već smo vidjeli da je C S. Ako x 0 / C, onda (Teorema separacije 0.) postoje a 0 i realan broj α tako da je a, x > α > a, x 0, za sve x C. Kako je 0 C slijedi α < 0, pa stavljajući da je a 0 = a α imamo a0, x < 1 za sve S C i a 0, x 0 > 1. To znači da je a 0 S i nije a 0, x 0 1, tako da x 0 ne može biti u S. Dakle, C = S. Posljedica 5 Skup S R n je zatvoren konveksan skup i 0 S ako i samo ako S = S Dokaz. Uz pretpostavke imamo S = cl co (S {0}) = cl co S = cl S = S. S druge strane ako je tačna jednakost skup preuzima svojstva odgovarajučeg bipolarnog skupa. Pojam polarnosti se može iskoristiti i za karakterizaciju ograničenosti nekih konveksnih skupova. Teorema 33 Neka je skup S zatvoren i neka mu pripada 0.Tada je je taj skup ograničen ako i samo ako 0 int S. Dokaz. Prvo, neka je skup ograničen. Postoji broj r > 0 takav da je S rb, odakle je (rb) S, 1 r B S što znači da je 0 int S. Na isti način se dokazuje da ako je 0 u unutrašnjosti nekog skupa, onda mu je polaran skup ograničen. Sada imamo, zbog Posljedice 5., da 0 int S povlači ograničenost skupa (S ) = S. Sada ćemo dati neke formule koje povezuju... Teorema 34 (C D) o = C o D o (34) (C + D) o = C o D o (35) 31

DOKAZ. Imamo iz C, D C D da je (C D) C i (C D) D, odakle je (C D) C D. Neka je sada y C D. Za sve c C, d D, λ [0, 1] vrijedi y, (1 λ)c + λd 1. Prema (19) je y (C D). U drugoj formuli inkluzija je trivijalna. Uzmimo da y / C D i pokažimo da y / (C + D). Dakle, ako je y / 1 C 1 D, onda postoje (stroga separacija) vektori c 0, d 0 0 i pozitivni brojevi γ i δ takvi da za sve c C i sve d D vrijedi c o, y > γ, c 0, c γ, d o, y > δ, d o, d δ. odavde je co γ Coo = C i slično do δ D. No, sada imamo co tako da y nije u skupu (C + D). γ + do, y > 1, δ Primjer 17 Polarni skup konveksnog konusa K je upravo njegov polarni konus (Primjer 10.) Zaista, K = {y R n : y, x 1 x K}. S obziroma da za sve λ > 0 i x K imamo λx K, to za proizvoljan y K vrijedi y, x 1 λ, odakle je y, x 0. K {y R n : y, x 0 x K}. Obratna inkluzija je očigledna. Formula... (K 1 + K ) = K! K (36) Primjer 18 Odredimo polaran konus konačno generisanog konusa K = {Ax : x 0} (Primjer 9.) : {Ax : x 0} 0 = {y : y, Ax 0 x 0} = {y : A y, x 0 x 0} = Dakle, dobili smo homogen poliedar. = {y : A y 0}. Primjer 19 Naka je X matrica sa kolonama x i, i = 1,..., m. Vrijedi (co{x 1,..., x m }) = {y : y X 1 }. Fakat, za svaki x = m λ ix i, k λ i = 1, λ 1 0,..., λ m 0, uslov y, x 1 je ispunjen ako i samo ako je x i, y 1, i = 1,..., k Primjer 0 Polaran skup zbira politopa i konačno generisanog konusa je poliedar. Dokaz. Prema (35) (co {x 1,..., x m }+{Ax : x 0}) = λ λ{y : y X 1} (1 λ){y : y A 0} = = {y : y A 0} ( λ {y : y X λ1}) = {y : y A 0} {y : y X 1}) = = {y : y (X A) (1, 0) }). 3

Poliedri Ovdje ćemo pokazati da... dio toga smo mogli i ranije, no kako koristimo i polarnost to je na jednom mjestu. Teorema 35 Ograničen poliedar je politop. Dokaz. Svaki poliedar je zatvoren (primjer 5.) pa je u našem slučaju,zbog ograničenosti, kompaktan. Prema teoremi Minkovskog on je konveksni omotač svojih vrhova, a taj skup je konačan (Posljedica 3). Dakle, ograničen poliedar je politop. Teorema 36 (Minkovski) Homogeni poliedar je konačno generisan konus. Dokaz. Presjek homogenog poliedra K i jedinične kugle B 1 je ograničen poliedar, pa je prema već dokazanom politop, tj. oblika je co (x 1,..., x k ), x 1,...x k K. Konačno generisani konus cone (x 1,..., x k ) je K. Zaista, neka je x K. Jasno, postoji λ > 0 takav da λx co (x 1,..., x k ). Sada, iz λx = k λ ix i, k λ i = 1, λ 1 0,..., λ k 0, slijedi da je x = k λ i λ xi cone (x 1,..., x k ). Obratno je očigledno. Teorema 37 Poliedar je zbir politopa i konačno generisanog konusa. Dokaz. Sistemu Ax b, kojim je odred en poliedar, dodijelimo sistem nejednačina Ax ξb, ξ 0. Jasno, ( x 0 {x R n x 0 : Ax b} 1 ) {( x ξ ) : ( A b 0 1 ) ( x ξ ) } 0. Drugi skup je homogeni poliedar u R n+1, pa je prema teoremi Minkovskog jednak nekom cone {( x1 xm ),..., ( )}. ξ1 ξ m Neka su ξ 1 > 0,..., ξ k > 0, a ostali ξ i = 0. Sada ovaj konačno generisani konus je cone {( v1 vk vk+1 ),..., ( ), ( ),..., ( vm 1 1 0 0 )}, gdje je vi = 1 ξ i x i za ξ i > 0, dok je v i = x i za ostale indekse. Prema tome, x 0 pripada poliedru ako i samo ako x 0 = k λ iv i + m i=k+1 λ iv i, pri čemu je λ 1 0,..., λ m 0, k λ i = 1, a odavde slijedi tvrd enje. Dokazaćemo da vrijede i obrati ovih teorema i time dati reprezentaciju poliedara. Teorema 38 Zbir politopa i konačno generisanog konusa je poliedar. Dokaz. Neka je posmatrani zbir P + K. Tada je (P + K) poliedar, prema Primjeru 19., a prema Teoremi 33. to je zbir politopa i KGK, tako da je i (P + K) poliedar. Ako pretpostavimo da 0 P + K, tada je zbog zatvorenosti 33

(...) i konveksnosti zbira (P +K) = P +K (posljedica 5.). Ukoliko 0 ne pripada zbiru, onda za proizvoljnu njegovu tačku x 0 je 0 P x 0 + K. S obzirom da je i P x 0 politop dobili smo poliedar, na primjer {x : Ax b}, tako da je P + K = {x : Ax b + Ax 0 }. Teorema 39 (Vejl) Konačno generisan konus je homogen poliedar. Dokaz. cone {...} = (cone {...}) = (hompol) = (kgk) = hompol Teorema 40 Politop je ograničeni poliedar. Dokaz. Prema Teoremi 34., politop P = P+ cone {0} je poliedar, a pošto je kompakatan on je ograničen poliedar. 34

KONVEKSNE FUNKCIJE... 1. Definicija, vrste i osnovni primjeri Definicija 5 Funkcija f je konveksna ako je epi f konveksan skup. Funkcija je konveksna na konveksonm skupu C D f ako je njena restrikcija na C konveksna funkcija. Neka je f realna funkcija definisana na skupu D(f) R n, i C D(f) neprazan, konveksan skup. Teorema 41 Funkcija f je konveksna na C ako i samo ako za sve x 1, x C i svaki λ [0, 1] vrijedi f ( (1 λ)x 1 + λx ) (1 λ)f(x 1 ) + λf(x ). (37) Dokaz. Neka su x 1, x ( C i neka) je( odgovarajući ) nadgraf konveksan skup. x 1 x Pošto mu pripadaju tačke f(x 1, ) f(x, onda za sve λ [0, 1] mora ) da bude ( ) ( ) ( ) x 1 x (1 λ)x (1 λ) f(x 1 + λ ) f(x = 1 + λx ) (1 λ)f(x 1 ) + λf(x epi f, ) a ovo znači da( vrijedi ) nejednakost ( ) (37). x 1 x Uzmimo sada, epi (f C ), λ [0, 1]. Kako je C konveksan i α 1 α f((1 λ)x 1 + λx )) (1 λ)f(x 1 ) + λf(x ) (1 λ)α 1 + λα, ( ) (1 λ)x slijedi da je 1 + λx epi (f (1 λ)α 1 + λα C ), te je ovaj skup konveksan. Ako je u nejednakosti (37) znak < umjesto, za sve x 1 x i svaki λ ]0, 1[, kažemo da je f strogo konveksna funkcija. Funkcija f je konkavna ako je -f konveksna, tj. ako umjesto (37) vrijedi f ( (1 λ)x 1 + λx ) (1 λ)f(x 1 ) + λf(x ). Primjer 1 Afina funkcija a(x) = a, x + α je konveksna na C = R n. Njen nadgraf je poluprostor Ona je i konkavna na tom skupu. Afine funkcije su jedine koje su konveksne i konkavne. Primjer Ako je nadgraf funkcije h : R n R konveksan konus, ona je konveksna i pozitivno homogena, što je, prema (1) i (13), ekvivalentno sa h(x + y) h(x) + h(y), h(αx) αh(x) x, y R n, α 0. 35