Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών Εθνικό Μετσόβιο Πολυτεχνείο Επίδοση Υπολογιστικών Συστημάτων Α.-Γ. Σταφυλοπάτης Τεχνικές βασισμένες στα Δίκτυα Αναμονής
Άδεια Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες χρήσης Creative Commons. Για εκπαιδευτικό υλικό, όπως εικόνες, που υπόκειται σε άδεια χρήσης άλλου τύπου, αυτή πρέπει να αναφέρεται ρητώς.
Component-level models System Description System parameters Resources parameters Workload parameters service demands workload intensity MODEL Queuing Network Model Performance Measures Response time Throughput Utilization Queue length 3
Ανοικτά δίκτυα 4
Κλειστά δίκτυα 5
Μικτά δίκτυα 6
ÓÖØÓÙ workload intensityµ ÒØ ÜÙÔ Ö Ø service demandsµ Ô Ø ÕÖ ÑÓÔÓ Ñ Ô Ó ÖÙ Ñ Ô Ö ÕÖ ÒÓ Ö Ñ Ö ôò Ñ Ó ÅÓÒØ ÐÓ ÙÔÓÐÓ Ø Ó Ù Ø Ñ ØÓ Ó Ó ¹ ÓÖØÓ workloadµ ³ ÜÓ Ó ¹ Ø Ô Ó 7
8
ËÙÑ ÓÐ ÑÓ Å Ã Ø ÓÖ M Ö Ñ Ø ÑôÒ ØÓ Ø Ñ º v i Å Ó Ö Ñ Ô Ý ÛÒ Ñ Ö ØÓ Ø Ñ iº t i Å Ô Ø ÕÖ ÒÓµ ÜÙÔ Ö Ø Ò Ô Ý Ñ Ö ØÓ Ø Ñ iº d i Å ÙÒÓÐ Ô Ø ÜÙÔ Ö Ø Ñ Ö ØÓ Ø Ñ iº Á Õ d i = v i t i º 9
w i Å Ó ÕÖ ÒÓ Ô Ö ÑÓÒ Ò ÑÓÒ ÜÙÔ Ö Ø µ Ò Ô Ý Ñ Ö¹ ØÓ Ø Ñ iº r i Å Ó ÙÒÓÐ ÕÖ ÒÓ Ô Ö ÑÓÒ Ñ Ö ØÓ Ø Ñ iº Á Õ r i = v i w i º T Å Ó ÕÖ ÒÓ Ô Ö ØÓÙ Ù Ø Ñ ØÓº Á Õ T = i v i w i = i r i º λ i ÊÙ Ñ Ô Ó ØÓÙ Ø ÑÓ iº λ ËÙÒÓÐ ÖÙ Ñ Ô Ó ØÓÙ Ù Ø Ñ ØÓ ÙÑÔÔØ Ñ ØÓÒ Ñ Ó ÖÙ¹ Ñ Ü ÛÒ ÒÓ Ø ØÙÓµº Á Õ λ i = λv i º ρ i Ñ ÕÖ ÑÓÔÓ ØÓÙ Ø ÑÓ iº Á Õ ρ i = λ i t i = λd i º 10
n i Å Ó Ö Ñ Ö ôò ØÓ Ø Ñ iº Á Õ n i = λ i w i = λr i Ì ÔÓ ØÓÙ Littleµº N Å Ó ÙÒÓÐ Ö Ñ Ö ôò ØÓ Ø Ñ º Á Õ N = i n i = λt º Ð Ø ØÙÓ N Ø Ö ÔÐ Ù Ñ µº 11
ÈÓÐÐ Ã Ø ÓÖ R Ö Ñ Ø ÓÖ ôò Ö ôò ØÓ Ø Ñ º v ij Å Ó Ö Ñ Ô Ý ÛÒ Ñ Ö Ø Ø ÓÖ j ØÓ Ø Ñ iº t ij Å Ô Ø ÜÙÔ Ö Ø Ò Ô Ý Ñ Ö Ø Ø ¹ ÓÖ j ØÓ Ø Ñ iº d ij Å ÙÒÓÐ Ô Ø ÜÙÔ Ö Ø Ñ Ö Ø Ø ÓÖ j ØÓ Ø Ñ iº Á Õ d ij = v ij t ij º 12
w ij Å Ó ÕÖ ÒÓ Ô Ö ÑÓÒ Ò Ô Ý Ñ Ö Ø Ø ÓÖ j ØÓ Ø Ñ iº r ij Å Ó ÙÒÓÐ ÕÖ ÒÓ Ô Ö ÑÓÒ Ñ Ö Ø Ø ÓÖ j ØÓ Ø Ñ iº Á Õ r ij = v ij w ij º T j Å Ó ÕÖ ÒÓ Ô Ö ØÓÙ Ù Ø Ñ ØÓ Ø Ò Ø ÓÖ jº Á Õ T j = i v ij w ij = i r ij º λ ij ÊÙ Ñ Ô Ó ØÓÙ Ø ÑÓ i Ø Ò Ø ÓÖ jº λ j ËÙÒÓÐ ÖÙ Ñ Ô Ó ØÓÙ Ù Ø Ñ ØÓ Ø Ò Ø ÓÖ j Ñ Ó ÖÙ Ñ Ü ÛÒ ÒÓ Ø ØÙÓµº Á Õ λ ij = λ j v ij º 13
ËÙÒÓÐ ÖÙ Ñ Ô Ó ØÓÙ Ù Ø Ñ ØÓ ÙÒÓÐ Ñ Ó ÖÙ Ñ λ ÒÓ Ø ØÙÓµº Á Õ λ = j λ j º ÒÓ Ø ØÙÓ Ü ÛÒ ˆλ = [λ 1,..., λ R ] λ = ˆλ º ρ ij ÕÖ ÑÓÔÓ ØÓÙ Ø ÑÓ i Ø Ò Ø ÓÖ jº Ñ ρ ij = λ ij t ij = λ j d ij º Á Õ n ij Å Ó Ö Ñ Ö ôò Ø Ø ÓÖ j ØÓ Ø Ñ iº Á Õ n ij = λ ij w ij = λ j r ij º N j Å Ó ÙÒÓÐ Ö Ñ Ö ôò Ø Ø ÓÖ j ØÓ Ø Ñ º Á Õ N j = i n ij = λ j T j º Ð Ø ØÙÓ N j Ø Ö ÔÐ Ù ¹ Ñ µ ˆN = [N 1,..., N R ] N = ˆN º 14
15
ίκτυα Jackson Ανοικτά δίκτυα (εξωτερικό κόσµο : πηγή - προορισµό ) Κ ειστά δίκτυα (σταθερό αριθµό πε ατών) M σταθµοί εξυπηρέτηση Κατάσταση του δικτύου: ˆN(t) = [N 1 (t), N 2 (t),..., N M (t)] Συνο ικό αριθµό πε ατών: N(t) = ˆN(t) = M i=1 N i (t) 16
Υποθέσει : (i) Αφίξει : διαδικασία γεννήσεων ρυθµού λ(n) µε πιθανότητα q 0i, i = 1, 2,..., M (ανοικτά δίκτυα αναµονή ) (ii) Χρόνο εξυπηρέτηση στο σταθµό i: εκθετική κατανοµή µε παράµετρο µ i (n i ), όπου n i = N i (t) (iii) Κανονισµό FCFS (iv) Πιθανότητε δροµο όγηση (routing probabilities): q ij,0 i M, 1 j M + 1, (q ij 0 και M+1 j=1 q ij = 1) (α υσίδα Markov) 17
Κατανοµή πιθανότητα : p(ˆn; t) = Pr[ ˆN(t) = ˆn], ˆn = [n 1, n 2,..., n M ] Στατική κατανοµή πιθανότητα : p(ˆn) = lim t p(ˆn; t) 18
Ανοικτά δίκτυα αναµονή λ(n) + M i=1 M M j=1 M i=1 µ i (n i )(1 q ii ) p(ˆn) = λ(n 1) M i=1 q 0i p(ˆn ˆ1 i ) + µ i (n i + 1)q i,m+1 p(ˆn + ˆ1 i ) + i=1 i j λ(0)p(ˆ0) = µ i (n i + 1)q ij p(ˆn + ˆ1 i ˆ1 j ) M i=1 µ i (1)q i,m+1 p(ˆ1 i ) 19
{e i }, i = 1, 2,..., M: ύση του συστήµατο e i = q 0i + M j=1 e j q ji, i = 1, 2,..., M e i : µέσο αριθµό επισκέψεων στο σταθµο i που πραγµατοποιεί ένα πε άτη κατά τη διάρκεια τη παραµονή του στο δίκτυο 20
Θεώρηµα (Jackson, 1963) Εάν το σύστηµα εξισώσεων έχει µία µοναδική µη αρνητική ύση και G <, τότε η στατική κατανοµή p(ˆn) υπάρχει και δίνεται από τη σχέση: όπου p(ˆn) = 1 G Λ(N) M i=1 e n i i M i (n i ) Λ(N) = M i (n i ) = G = ˆn N n=1 n i n=1 λ(n 1) µ i (n) Λ(N) M i=1 e n i i M i (n i ) 21
Εξισώσει καθο ική ισορροπία (global balance) Εξισώσει τοπική ισορροπία (local balance) Μορφή γινοµένου (product form) 22
Σταθερό εξωτερικό ρυθµό αφίξεων (λ(n) = λ για κάθε N): Λ(N) = λ N = M λ n i i=1 όπου: p(ˆn) = M i=1 p i (n i ) p i (n i ) = (λe i) n i M i (n i ) p i(0) p i (0) = n=0 (λe i ) n M i (n) 1 23
Σταθµοί µε σταθερό ρυθµό εξυπηρέτηση : Πιθανότητε p i (n i ) όπω για τα απ ά συστήµατα αναµονή M/M/1 (ή M/M/c) (Πρώτο θεώρηµα Jackson, 1957) 24
Ουρά M/M/1 Παράµετροι: λ (ρυθµό αφίξεων), µ (ρυθµό εξυπηρέτηση ) Ενταση κυκ οφορία : ρ = λ/µ < 1 (συνθήκη ισορροπία ) Κατανοµή του αριθµού εργασιών στο σύστηµα: p n = (1 ρ)ρ n, n = 0, 1,... Μέσο αριθµό εργασιών στο σύστηµα: E[n] = ρ/(1 ρ) Μέσο χρόνο απόκριση : T = (1/µ)/(1 ρ) Ουρά M/M/ Παράµετροι: λ (ρυθµό αφίξεων), µ (ρυθµό εξυπηρέτηση ) Ενταση κυκ οφορία : ρ = λ/µ Κατανοµή του αριθµού εργασιών στο σύστηµα: p n = ρn n! e ρ, n = 0, 1,... Μέσο αριθµό εργασιών στο σύστηµα: E[n] = ρ Μέσο χρόνο απόκριση : T = 1/µ 25
Κ ειστά δίκτυα αναµονή M i=1 µ i (n i )(1 q ii )p(ˆn) = M j=1 M i=1 i j µ i (n i + 1)q ij p(ˆn + ˆ1 i ˆ1 j ) {e i }, i = 1, 2,..., M: ύση του συστήµατο e i = M j=1 e j q ji, i = 1, 2,..., M (στατικέ πιθανότητε τη α υσίδα Markov) 26
Θεώρηµα (Gordon και Newell, 1967) Εστω {e i }, i = 1, 2,..., M µία µη µηδενική ύση του συστήµατο. Τότε η στατική κατανοµή p(ˆn) µε ˆn = M i=1 n i = N, n i 0, υπάρχει και δίνεται από την σχέση: p(ˆn) = 1 G(N, M) M i=1 e n i i M i (n i ) όπου οι ποσότητε M i (n i ) ορίζονται όπω στα ανοικτά δίκτυα και G(N, M) = ˆn ˆn =N M i=1 e n i i M i (n i ) G(N, M): σταθερά κανονικοποίηση (normalization constant) 27
Ο α γόριθµο τη συνέ ιξη (J.P. Buzen) Υπο ογισµό τη σταθερά G(N, M): ο αριθµό των δυνατών( καταστάσεων ) ˆn (άρα ο αριθµό των όρων στην N + M 1 άθροιση) είναι ίσο µε M 1 28
Γεννήτρια συνάρτηση τη ακο ουθία {, n = 1, 2,...}: M i (n) g i (z) = n=0 (e i z) n M i (n), en i i = 1, 2,..., M Γινόµενο των γεννητριών συναρτήσεων: g(z) = M i=1 g i (z) G(N, M): συντε εστή του όρου z N στην g(z) 29
Μερικά γινόµενα: γ 1 (z) = g 1 (z) γ i (z) = γ i 1 (z)g i (z), i = 2, 3,..., M G(j, i): συντε εστή του όρου z j στο γινόµενο γ i (z) 30
G(j, i) = j k=0 e j k i G(k, i 1) M i (j k) Αναδροµικό υπο ογισµό τη σταθερά G(N, M) µε χρήση των οριακών συνθηκών: G(0, i) = 1, i = 1, 2,..., M G(j, 1) = ej 1 M 1 (j), j = 1, 2,..., N O(MN 2 ) αριθµητικέ πράξει 31
Σταθεροί ρυθµοί εξυπηρέτηση µ i (n i ) = µ i για κάθε n i > 0: τ i = e i /µ i, i = 1, 2,..., M G(j, i) = j k=0 G(k, i 1)τ j k i = G(j, i 1) + j 1 k=0 j 1 = G(j, i 1) + τ i k=0 G(k, i 1)τ j k i G(k, i 1)τ j k 1 i 32
G(j, i) = G(j, i 1) + τ i G(j 1, i) Αναδροµικό υπο ογισµό τη σταθερά G(N, M) µε χρήση των οριακών συνθηκών: G(0, i) = 1, i = 1, 2,..., M G(j, 1) = τ j 1, j = 1, 2,..., N O(MN) αριθµητικέ πράξει 33
1 2 i M 0 1 1 1 1 1 τ 1 2 τ1 2.. G(j 1, i) τ i j τ j 1 G(j, i 1) G(j, i).. N τ1 N G(N, M) 34
Υπο ογισµό δεικτών επίδοση του δικτύου (Σταθµοί µε σταθερό ρυθµό εξυπηρέτηση µ i ) Βαθµό χρησιµοποίηση του σταθµού ρ i = τ i G(N 1, M) G(N, M) Ρυθµό απόδοση του σταθµού λ i = e i G(N 1, M) G(N, M) 35
Μέσο αριθµό πε ατών στο σταθµό E[n i ] = 1 G(N, M) N n=1 G(N n, M)τ n i Μέσο χρόνο απόκριση του σταθµού (Τύπο του Little) T i = E[n i] λ i = 1 e i G(N 1, M) N n=1 G(N n, M)τ n i 36
ίκτυα BCMP F.Baskett, K.M.Chandy, R.R.Muntz, F.G.Palacios (1975) Γενικά δίκτυα µε ύση µορφή γινοµένου ιαχωρίσιµα (separable) δίκτυα 37
Χαρακτηριστικά R κατηγορίε πε ατών: ένα πε άτη µπορεί να α άξει κατηγορία καθώ κινείται από κόµβο σε κόµβο (πιθανότητε q ir,js, q 0,ir, q ir,m+1 ) α υσίδε : δύο ζεύγη (i, r)ανήκουν στην ίδια α υσίδα αν υπάρχει µη µηδενική πιθανότητα ένα πε άτη να βρεθεί στι δύο αντίστοιχε καταστάσει (κ ειστέ και ανοικτέ α υσίδε ). Εξωτερικέ αφίξει σύµφωνα µε διαδικασία γεννήσεων ρυθµού λ(n), όπου N ο συνο ικό αριθµό πε ατών στο δίκτυο. 38
Κατανοµή Cox 39
Κατανοµέ Cox: εκθετικά στάδια Μετασχηµατισµό Laplace: Φ(s) = b 0 + k i=1 A i b i i j=1 µ j µ j + s όπου A i = a 0 a i 1 (i = 1,..., k) (πιθανότητα να φθάσει ο πε άτη στο στάδιο i) Μέσο χρόνο εξυπηρέτηση για την κατανοµή Cox: 1/µ = k i=1 A i /µ i. 40
Κανονισµοί εξυπηρέτηση : FIFO (First In First Out) PS (Processor Sharing) LCFSPR (Last Come First Served Preemptive Resume) IS (Infinite Servers) Server-per-job ή Delay 41
Τύποι κόµβων: Τύπο 1: µία µονάδα εξυπηρέτηση, χρόνο εξυπηρέτηση εκθετικά κατανεµηµένο µε παράµετρο µ i (n i ) για ό ε τι κατηγορίε πε ατών, όπου n i ο αριθµό πε ατών στον κόµβο, κανονισµό εξυπηρέτηση FCFS. Τύπο 2: χρόνοι εξυπηρέτηση µε κατανοµή Cox, η οποία µπορεί να είναι διαφορετική για κάθε κατηγορία πε ατών, µία µονάδα εξυπηρέτηση µε κανονισµό εξυπηρέτηση PS. Τύπο 3: κανονισµό εξυπηρέτηση IS και χρόνοι εξυπηρέτηση όπω για τον τύπο 2. Τύπο 4: κανονισµό εξυπηρέτηση LCFSPR και χρόνοι εξυπηρέτηση όπω για του τύπου 2 και 3. 42
Τύποι σταθµών 43
Επί υση του µοντέ ου e ir = q 0,ir + M R j=1 s=1 e js q js,ir, 1 i, j M, 1 r, s R e ir : ανά ογο µε την συχνότητα επισκέψεων των πε ατών τη κατηγορία r στον κόµβο i. Κατάσταση του δικτύου: ˆn = [ˆn 1, ˆn 2,..., ˆn M ], ˆn i = [n i1, n i2,..., n ir ] n i = ˆn i = R r=1 n ir, N = M i=1 n i µ i (n i ): ρυθµό εξυπηρέτηση του κόµβου i (ίδιο για ό ε τι κατηγορίε πε ατών), για κόµβο τύπου 1 1/µ ir : µέσο χρόνο εξυπηρέτηση πε ατών τη κατηγορία r στον κόµβο i, για κόµβου τύπου 2,3 ή 4 44
Θεώρηµα Εστω {e ir }, i = 1, 2,..., M, r = 1, 2,..., R, µία µη αρνητική ύση του συστήµατο. Η στατική κατανοµή p(ˆn) υπάρχει εάν G < και έχει τη µορφή: όπου p(ˆn) = 1 G Λ(N) M i=1 g i (ˆn i ) Λ(N) = G = ˆn { Nn=1 λ(n 1) για ανοικτό δίκτυο 1 για κ ειστό δίκτυο Λ(N) M i=1 g i (ˆn i ) 45
g i (ˆn i ) = n i! [ n ] R e ir ir r=1 n ir! n i! [ R 1 r=1 n ir! Rr=1 [ 1 n ir! / n i ( ) nir ] eir ( ) µ ir nir ] eir µ ir n=1 µ i(n) Τύπο 1 Τύπο 2 ή 4 Τύπο 3 46
ίκτυο χωρί κ ειστέ α υσίδε - σταθερό ρυθµό εξωτερικών αφίξεων λ - σταθεροί ρυθµοί εξυπηρέτηση µ i (Τύπο 1) ˆn = [n 1, n 2,..., n M ]: συνο ικό αριθµό πε ατών σε κάθε κόµβο (για ό ε τι κατηγορίε ) ρ i = { Rr=1 (λe ir /µ i ) Τύπο 1 Rr=1 (λe ir /µ ir ) Τύπο 2, 3 ή 4 p(ˆn) = p 1 (n 1 )p 2 (n 2 )... p M (n M ) όπου 47
p i (n i ) = (1 ρ i )ρ n i i Τύπο 1, 2 ή 4 e ρ i ρn i i Τύπο 3 n i! (ρ i < 1 για του τύπου 1,2 και 4) Επιµέρου κατανοµέ όπω για το σύστηµα M/M/1 (τύποι 1,2 και 4) ή το σύστηµα M/M/ (τύπο 3). 48
Κ ειστά δίκτυα BCMP Υπο ογισµό τη σταθερά κανονικοποίηση G Ανά υση Μέση Τιµή Mean Value Analysis - MVA M. Reiser, 1980 49
MVA Βασικέ αρχέ : (i) Σε ένα κ ειστό δίκτυο µε ύση µορφή γινοµένου, η κατανοµή πιθανότητα τη κατάσταση του δικτύου την οποία β έπει ένα πε άτη που φθάνει σε ένα σταθµό, είναι η ίδια µε την στατική κατανοµή του δικτύου αν ο πε άτη αυτό έ ειπε από το δίκτυο. Θεώρηµα των αφίξεων (arrival instant theorem) για κ ειστά δίκτυα. (ii) Ο τύπο του Little µπορεί να εφαρµοστεί σε ο όκ ηρο το δίκτυο και σε κάθε σταθµό του δικτύου χωριστά. 50
Χρηματοδότηση Το παρόν εκπαιδευτικό υλικό έχει αναπτυχθεί στα πλαίσια του εκπαιδευτικού έργου του διδάσκοντα. Το έργο «Ανοικτά Ακαδημαϊκά Μαθήματα» του ΕΜΠ έχει χρηματοδοτήσει μόνο την αναδιαμόρφωση του υλικού. Το έργο υλοποιείται στο πλαίσιο του Επιχειρησιακού Προγράμματος «Εκπαίδευση και Δια Βίου Μάθηση» και συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση (Ευρωπαϊκό Κοινωνικό Ταμείο) και από εθνικούς πόρους.