8 Modelovanje performansi računarskih sistema Različiti pristupi: Sistemi masovnog opsluživanja (teorija redovi čekanja) Leonard Kleinrock Queueing theory 1. Analitičko modelovanje 2. Simulaciono modelovanje Ako su zavisnosti između nekih veličina nelinearne i promene stanja neregularne, matematički modeli su jako složeni ili ne daju rezultate simulacija ETF Beograd Performanse Računarskih Sistema 1
8.1 Fizički, funkcionalni i dinamički model Terminali Fizički model računara T 1 Centralni procesor T 2... Komunikacioni Kontroler Operativna Memorija Kontroler štampača Štampač T n Disk Kanali Kontroler Diskova disk disk disk ETF Beograd Performanse Računarskih Sistema 2
8.1 Fizički, funkcionalni i dinamički model Funkcionalni model računara Prihvatanje zahteva za obradu Prispeli poslovi T INPUT DASD Disciplina raspoređivanja poslova Direct Access Storage Device OM O.S. P1 P2 P3 Disciplina opsluživanja od strane procesora Centralni Procesor Baferisanje za zahteva za stampanje stampanje OUTPUT DASD Štampač Data files ETF Beograd Performanse Računarskih Sistema 3
8.1 Fizički, funkcionalni i dinamički model Discipline raspoređivanja anja procesa u memoriju i discipline opsluživanja poslova u memoriji od strane procesora 1. FIFO (FCFS) po redosledu dolaska 2. LCFS (LIFO) prvo poslednji 3. PRIORITETNO -opsluživanje prema prioritetu - moguće varijante sa i bez preuzimanja (preemption), tj. 3a) prekidanje tekućeg ako pristigne neki većeg prioriteta ili 3b) po završtetku, pri izboru novog zahteva bira se onaj sa najvišim prioritetom 4. RSS Random Selection Service - opsluživanje na slučajan način izabranog posla iz reda poslova koji čekaju ETF Beograd Performanse Računarskih Sistema 4
8.1 Fizički, funkcionalni i dinamički model Dinamički model Red za čekanje S λ n μ μ - intenzitet opsluživanja servera S λ intenzitet prispeća zahteva u red n kapacitet reda (ako ga nema nema podrazumeva se da je dovoljno veliki da se može smatrati beskonačnim) ETF Beograd Performanse Računarskih Sistema 5
8.1 Fizički, funkcionalni i dinamički model Dinamički model nasilno izbacivanje u cilju da se smanji opterećenje sistema Job hold() Red poslova Job queue istekao kvantum vremena Ready Procesorski red PQ Procesor Queue Glavna memorija Rd CP stop() centralni procesor Red za čekanje ispred stampaca Printer queue Pinter Štampač obrađeni zahtevi X X d D Rdq DQ wait() Disk Disk queue R ETF Beograd Performanse Računarskih Sistema 6
8.1 Fizički, funkcionalni i dinamički model Dinamički model R d vreme odziva diska(vreme boravka u predelu diska) 1 T qd vreme provedeno u Disk Queue X d intenzitet upućivanja (toka) iz diska ka procesorskom redu, tj. prispećazahtevaiz 0 diska stanja opsluživanja zauzet slobodan iskorišćenost U: 0 U 1 R (response time) vreme provedeno u sistemu (vreme odziva celog sistema) X intenzitet toka poslova(throughput) [job/s] [trans/s] Proces se može izvršavati dok se ne završi ili mu se dodeljuje kvantum vremena po čijem isteku se poslu oduzima procesor (ili, ako je prioritetno raspoređivanje, akodođe proces višegprioriteta) ETF Beograd Performanse Računarskih Sistema 7
8.1 Fizički, funkcionalni i dinamički model Dinamički model Zahtev prolazi kroz sledećih 6 stanja: SUBMIT HOLD Dijagram jg stanja kroz koja prolazi posao u toku opsluživanja 1 red 1 server READY WAIT 1 red 3 servera RUN 3reda 3servera COMPLETE ETF Beograd Performanse Računarskih Sistema 8
8.2 Osnovne veličine i komponente Osnovne veli ličine 1. Parametri konfiguracije sistena ( (Configuration parameters, CP) 2. Parametri opterećenja sistema (Workload,, WL) 3. Pokazatelji performansi (Performance indicators, PI) ETF Beograd Performanse Računarskih Sistema 9
8.2 Osnovne veličine i komponente Osnovne komponente 1. Parametri konfiguracije -CP Struktura (topologija topologija) gj sistema Brzina opsluživanja (service time) pojedinačnih nih komponenti sistema Disciplina opsluživanja 2. Parametri aa opterećenja eće - WL Intenzitet prispeća zahteva u sistem - λ Brzina kretanja zahteva kroz sistem Potra ražnja za resursima usistemu ETF Beograd Performanse Računarskih Sistema 10
8.2 Osnovne veličine i komponente 3. Pokazatelji performansi - PI iskorišćenja svih resursa Broj poslova (zahteva) u redovima za čekanje,, odnosno u servisnim i centrima Vreme odziva na nivou pojedinačne ne komponente i celog sistema (response time) = vreme čekanja+vreme opsluživanja Produktivnost MPI merljivi (measurable)) parametri performansi PI PMPI - potencijalno merljivi paramtri performansi ETF Beograd Performanse Računarskih Sistema 11
8.3 Opšti matematički model performansi računarskih sistema U opštem slučaju imamo nekakvu funkciju koja povezuje ove veličine (CP, WL i PI): F(CP,WL,PI)=0 F(CP,WL,MPI,PMPI)=0 Klase problema u modelovanju PRS-a 1. Analiza postojeceg računarskog sistema: poznajemo CP i WL treba odrediti PI=F a (CP,WL) predikcija performansi 2. Sinteza sistema poznato je WL, a zadajemo PI. Treba pronaći strukturu i parametre računarskog sistema koji ce za dato opterećenje dati tražen ene performanse: CP=Fs(WL,PI) 3. Optimizacija (podešavanje) sistema: pronaći one parametre konfiguracije CP opt takve da za dato opterećenje enje odgovarajući pokazatelji performansi budu bolji ( ) od pokazatelja performansi bilo koje druge konfiguracije iz skupa ostvarivih konfiguracija (AC) (allowable configuration AC) PI opt = F a (CPopt,WL) F a (CP,WL), CP AC, CPopt AC ETF Beograd Performanse Računarskih Sistema 12
8.3 Opšti matematički model performansi računarskih sistema 4. Izračunavanje potencijalno merljivih PI - PMPI: poznati su CP, WL i MPI i računamo PMPI=F (CP,WL,MPI) m 5. Testiranje (provera) konzistentnosti pretpostavki: sistem je sintetizovan na bazi pretpostavki, izmerimo merljive pokazatelje performansi, iz njih izvedemo PMPI. Zatim proveravamo da li se javljaju razlike izmedju postavljenih i dobijenih vrednosti (ako su bolji onda je dobro). Razlike se javljaju zbog loših pretpostavi. Računar se nalazi između ekonomskih sistema i električnih kola. 6. Analiza i karakterizacija opterećenja: poznati CP i PI trazimo WL=F w (CP,PI). Određujemo opterećenje enje WL koje u poznatom sistemu daje pretpostavljene pokazatelje performansi. Podešavanje ulaza u sistem. ETF Beograd Performanse Računarskih Sistema 13
8.4 Komponente, koncepti i klasifikacija sistema masovnog opsluživanja SMO Disciplina opsluživanja opslužni centar SMO Osnove stohastickih redova čekanja a prosečan interval vremena u dolasci odlasci kom dolaze novi poslovi Red čekanja S λ kapaciteta n μ λ -intenzitet prispeća zahteva u red (intenzitet ulaznog toka) λ = 1/a s srednje vreme opsluživanja zahtevi za obrađeni zahtevi opsluživanje korisnik μ - intenzitet opsluživanja broj zahteva koji u jedinici vremena opsluži server μ = 1/s x - intenzitet odlazaka (produktivnost) -mera kvaliteta sistema ETF Beograd Performanse Računarskih Sistema 14
8.4 Komponente, koncepti i klasifikacija sistema masovnog opsluživanja SMO Red čekanja ima dve osnovne karakteristike kapaciteta n disciplina opsluživanja zahteva Redosled opsluživanja ivanja: FCFS (FIFO) first in, first out LCFS (LIFO) last in, first out; RSS Random Selection Service PRIORITY- opsluživanje sa prioritetom, svaki zahtev nosi sa sobom prioritet Tok zahteva: ordinaran (prost) jedan po jedan neordinaran: u paketima ili u grupama ili rafalno Izlazni parametar SMO sistema je x - brzina kojom zahtevi napuštaju sistem ETF Beograd Performanse Računarskih Sistema 15
8.5 Označavanje (notacija) SMO A/S/c/n c/n/a /a oblik označavanja avanja SMO gde su: A(Arrival) - raspodela vremena izmedju prispeća zahteva za opsluživanje (normalna, Gausova, )- funkcija raspodele prispeća zahteva M eksponencijalna raspodela vremena između prispeća zahteva D konstantna raspodela vremena između prispeća zahteva G opšta ta(generalna generalna, neodređena đena) raspodela vremena između prispeća zahteva S (Service) raspodela vremena opsluživanja zahteva M eksponencijalna raspodela vreme opsluživanja D konstantno vreme opsluživanja (svi poslovi se opslužuju za podjednako vreme) G opšta (generaln generalna) a) raspodela r vremena opsluživanja ETF Beograd Performanse Računarskih Sistema 16
8.5 Označavanje (notacija) SMO c - (channels channels) broj kanala opsluživanja - koliko servera istovremeno opslužuje uje zahteve. Ako je to jedan server može se izostaviti (podrazumevana vrednost je 1) n - kapacitet reda čekanja - maksimalan broj poslova koji se može smestiti u red za čekanje (ako je kapacitet reda može se izostaviti, to je podrazumevana vrednost) a - disciplina opsluživanja (FCFS FCFS(FIFO FIFO), FCLS(LIFO LIFO), PRIORITY - prioritet, RSS -slučajna selekcija za opsluživanje). Podrazumevana vrednost je FCFS, ako se ne naglasi drugačije Primeri: M/M/1 D/M/3/20 ETF Beograd Performanse Računarskih Sistema 17
8.6 Tipovi SMO 1. Sistem sa jednim serverom (jednokanalni jednokanalni) λ x s λ [job/s][task/s] - intenzitet prispeća zahteva s [s] - vreme opsluživanja μ = 1/s [s¹ ] - intenzitet opsluživanja x - intenzitet kojim poslovi napuštaju sistem Jedan od najboljih j i najlakših pristupa p analizi dinamičkih sistema Kako ništa nije označeno podrazumevamo red za čekanje ETF Beograd Performanse Računarskih Sistema 18
8.6 Tipovi SMO 2. Sistem sa više servera (višekanalni) opslužni centar (sistem masovnog opsluživanja ivanja) Posmatramo c ekvivalentnih paralelnih servera (svi imaju isto μ ) Ukoliko μ nije isto za sve servere, pišemo S R je vreme odziva: R=T +s q T q je vreme provedeno u redu za čekanje λ Tq FCFS R μ μ... μ s 1 2 c ETF Beograd Performanse Računarskih Sistema 19
8.6 Tipovi SMO Pristupi serverima različite varijante: a) pristup se uvek pokušava polazeći od prvog servera pa do onog koji je slobodan b) pristupa se onom kanalu koji najduže čeka c) slučajan način pristupa kanalu Uravnotežavamoavamo iskorišć šćenost servera 3. Kolektor (sabirnica ) Kolektor predstavlja tačku povezivanja više tačaka, tačku u kojoj se stiču zahtevi λ 1 λ 2... λ λ k k λ = λ i i= 1 ETF Beograd Performanse Računarskih Sistema 20
8.6 Tipovi SMO 4. Element za grananje (razdelnik razdelnik) p1, p2 determinističke verovatnoće odlaska granama 1 i 2 respektivno p 1 p 1 λ λ 1 = λ p 1 p 1 2 λ λ λ 2 λ i = p i λ, i=1, 2,, k p i verovatnoća grananja λ 2 = p 2 λ p p 2 p k λ k k pi = 1 i= 1 p 1 + p 2 =1 ETF Beograd Performanse Računarskih Sistema 21
8.6 Tipovi SMO 5. Mreze SMO Ako 2 ili više opslužnih centara povežemoemo dobijamo mrežu. Podela mreža: otvorene Zatvorene Druga podela: bez povratne sprege sa povratnom spregom ETF Beograd Performanse Računarskih Sistema 22
8.6 Tipovi SMO Otvorene mreže: - Imaju ulaznu tačku (gde dolazi ulazni tok) - Imaju izlaznu tačku - Za sistem u ravnoteži ulazni i izlazni tok su istog intenziteta _ λ _ λ ETF Beograd Performanse Računarskih Sistema 23
8.6 Tipovi SMO Zatvorene mreže: - Nemaju ulaznu ni izlaznu tačku - Ima konstantan broj zahteva (korisnika) u mreži - Stepen multiprogramiranja je konstantan ETF Beograd Performanse Računarskih Sistema 24
8.7 Kvantitativna analiza osnovnih SMO računarskih sistema 1. Terminali z vreme razmišljanja terminala. Sa porastom broja korisnika opada vreme razmišljanja j Terminal je predstaljen vremenom kašnjenja (razmišljanja), j pretpostamo t da svaki korisnik ima svoj terminal tako da ne postoji red za čekanje, ni pojedinačni ni zajednički z z... z T 1 T 2 T n ETF Beograd Performanse Računarskih Sistema 25
8.7 Kvantitativna analiza osnovnih SMO računarskih sistema 2. Paketska (batch) obrada prispeli poslovi se razvrstavaju uredove za čekanje po prioritetima HPQ high priority queue -red višeg prioriteta MPQ medium priority queue red srednjeg prioriteta LPQ lowpriority queue red niskog prioriteta Unutar redova je raspoređivanje po principu FCFS Zahtev iz HPQ nikad ne ide na MPQ ili LPQ FCFS HPQ MPQ LPQ ETF Beograd Performanse Računarskih Sistema 26
8.7 Kvantitativna analiza osnovnih SMO računarskih sistema 3. Procesor (CPU) CP 1 Proceseor queue PQ t p t p CP 2... t p CP k ETF Beograd Performanse Računarskih Sistema 27
8.7 Kvantitativna analiza osnovnih SMO računarskih sistema 4. Procesor kvantum vremena je istekao PQ q Ako procesor svaki proces opslužujeuje sa vremenskim kvantumom q, po isteku tog q, ako se proces ne završi, vraća a se u PQ (Round Robin) ETF Beograd Performanse Računarskih Sistema 28
8.7 Kvantitativna analiza osnovnih SMO računarskih sistema 5. Diskovi p 1 D t 1 d DQ 1 p 2 DQ k t d D 2 p k DQ k t d D k ETF Beograd Performanse Računarskih Sistema 29
8.7 Kvantitativna analiza osnovnih SMO računarskih sistema 6. Diskovi sa malim DQ 1 t d D 1 t d D 2... t d D k Skup više neekvivalentnih paralelnih servera. Ako je dužina reda za čekanje diska Dq 1 (diskovi sa malim čekanjem) smanjuje se čekanje u redu (Tq 0) tj. vreme opsluživanja je kraće (malo vreme čekanja na pristup disku) ETF Beograd Performanse Računarskih Sistema 30
8.8 Osnovni SMO model računarskog sistema sa dijagramom prelaza stanja nasilno izbacivanje zahteva u cilju rasterećenja sistema DAQ zauzet nedeljivi dljiiresurs istekao kvant vremena HP HP CP 1 opsluženi poslovi MP LP LP stanja: [HOLD] [READY] [RUN] Disciplina opsluživanja memorije Disciplina Disciplina opsluživanja diskova opsluživanja diskova D 1 D 2 MP T T MT DQ 1 DQ 2 CP 2 terminali diskovi magnetne trake Disciplina opsluživanja procesora [WAIT] DAQ Device Allocation Queue MT P štampači P ETF Beograd Performanse Računarskih Sistema 31
8.8 Osnovni SMO model računarskog sistema sa dijagramom prelaza stanja Grube zamene: 1. Batch (paketska paketska) obrada BQ S S je reprezent svih opslužilaca za paketsku obradu BQ red poslova koji čekaju na paketsku obradu ETF Beograd Performanse Računarskih Sistema 32
8.8 Osnovni SMO model računarskog sistema sa dijagramom prelaza stanja 2. Ciklični model paketske obrade CP 1 PQ... CP n D 1 D m... DQ ETF Beograd Performanse Računarskih Sistema 33
8.8 Osnovni SMO model računarskog sistema sa dijagramom prelaza stanja 3. Model multiprogramiranja sa centralnim serverom erom PQ CP p 1 DQ 1 p 1 1 D 1 p 1... CP ima ulogu centralnog servera DQ k D k p k ETF Beograd Performanse Računarskih Sistema 34
8.8 Osnovni SMO model računarskog sistema sa dijagramom prelaza stanja 4. Interaktivni ni sistemi z... z T 1 T n PQ CP ETF Beograd Performanse Računarskih Sistema 35
8.8 Osnovni SMO model računarskog sistema sa dijagramom prelaza stanja 5. Model interaktivnog sistema sa centralnim serverom z z CP PQ z D 1 D k z DQ 1 z... DQ k ETF Beograd Performanse Računarskih Sistema 36