ΣΥΣΤΗΜΑΤΑ ΑΝΑΜΟΝΗΣ Queuing Systems

Transcript

1 ΣΥΣΤΗΜΑΤΑ ΑΝΑΜΟΝΗΣ Queuing Systems Εφαρμογές Κλειστών Δικτύων Ουρών Markov: 1. Ανάλυση Window Flow Control σε Δίκτυα Υπολογιστών 2. Αξιολόγηση Συστημάτων Πολύ-προγραμματισμού (Multitasking) 3. Ανάλυση Μέσης Τιμής (Mean Value Analysis MVA) 4. Προσομοίωση Κλειστού Δικτύου Markov 5. Γενίκευση Μοντέλων Μορφής Γινομένου (BCMP) Βασίλης Μάγκλαρης 23/5/2018

2 ΚΛΕΙΣΤΑ ΔΙΚΤΥΑ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ (επανάληψη) ΘΕΩΡΗΜΑ GORDON-NEWELL (1/2) Παραδοχές: Κλειστό δίκτυο N περιφερομένων πελατών σε M διασυνδεόμενα υποσυστήματα (ουρές) M Q i εκθετικής εξυπηρέτησης σταθερού συνολικού αριθμού πελατών N = i=1 n i όπου n i ο αριθμός πελατών στο Q i στην εργοδική κατάσταση: Τυχαία μεταβλητή n i = lim n i t t Ανεξάρτητοι εκθετικοί εξυπηρετητές i = 1, 2,, M ρυθμού μ i με παραδοχή Kleinrock Τυχαία Δρομολόγηση από υποσύστημα Q i σε Q j με πιθανότητα p ij = Prob i j Θεώρημα: Οι εργοδικές πιθανότητες της n = n 1, n 2,, n M έχουν μορφή γινομένου: P n = P n 1, n 2,, n M = 1 n X i G N i i=1 Οι παράμετροι X i είναι ανάλογες των βαθμών χρησιμοποίησης των ουρών i, κατ αναλογία με τα ρ i = λ i /μ i στα ανοικτά δίκτυα ουρών Μ/Μ/1 του Θεωρήματος Jackson Η ρυθμαπόδοση λ j διαμέσου του Q j είναι ανάλογη του μ j X j. Οι X j δεσμεύονται από γραμμικό σύστημα διατήρησης μέσων ρυθμών πελατών από δρομολόγηση άλλων Q i : μ j X j = M i=1 M μ i X i p ij, j = 1,, N Συνήθως ορίζουμε αυθαίρετα την τιμή της X 1 = 1 ώστε το ανωτέρω γραμμικώς εξαρτημένο σύστημα εξισώσεων να έχει μονοσήμαντη λύση για τις παραμέτρους X j Σημείωση: Στα ανοικτά δίκτυα Jackson οι εξωτερικές ροές εισόδου γ ι εγγυώνται τη γραμμική ανεξαρτησία των εξισώσεων διατήρησης μέσων ρυθμών πελατών

3 ΚΛΕΙΣΤΑ ΔΙΚΤΥΑ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ (επανάληψη) ΘΕΩΡΗΜΑ GORDON-NEWELL (2/2) Η σταθερά G(N), προκύπτει από την εξίσωση κανονικοποίησης (άθροισμα εργοδικών πιθανοτήτων για όλες τις πιθανές απείρως επισκέψιμες καταστάσεις - positive recurrent states - ίσο με μονάδα) Η G(N) αντιστοιχεί στη Συνάρτηση Κερματισμού Partition Function της Στατιστικής Μηχανικής. Ο υπολογισμός της απαιτεί την καταγραφή όλων των καταστάσεων n 1, n 2,, n M συνδυασμών n i που αθροίζουν σε N (στην γενικότητα του «δύσκολο» πρόβλημα). Στην περίπτωση μας λύνεται με τον Επαναληπτικό Αλγόριθμο του Buzen (επόμενη διαφάνεια) Οι οριακές πιθανότητες (Marginal Probabilities) για το υποσύστημα (ουρά) Q i δίνονται από: P n i = k = X i k G N G N k X ig N k 1 Ο βαθμός χρησιμοποίησης του εξυπηρετητή i δίνεται από P n i 1 = X i G(N 1)/G N Ο μέσος αριθμός πελατών στο υποσύστημα Q i (μαζί με τον εξυπηρετούμενο) δίνεται από: N E n i = X i k k=1 G N k G N

4 ΕΠΑΝΑΛΗΠΤΙΚΟΣ ΑΛΓΟΡΙΘΜΟΣ BUZEN (επανάληψη) Πολυπλοκότητα Ο(Ν Μ) Διαμόρφωση πίνακα (N + 1) (M + 1) στοιχείων g(n, m), n = 0,1,, N και m = 0,1,, M : m n g(n, m) X i n i n 1 + +n m i=1 m n m = X i n i (n 1 + +n m =n) ^ (n m =0) i=1 + X i n i (n 1 + +n m =n) ^ (n m >0) i=1 Επαναληπτική σχέση (Recurrence Relation): g(n, m) = g(n, m 1) + X m g(n 1, m) Αρχικές συνθήκες Επαναληπτικού Αλγορίθμου: g 0, m = 1, m = 1,, M και g n, 1 = X 1 n, n = 0,, N. Με X 1 = 1 g n, 1 = 1 Η συνάρτηση κερματισμού (Partition Function) για κλειστό δίκτυο M ουρών και n πελατών (n = 0,, N) δίνεται από την τελευταία στήλη του πίνακα g(n, m): G n = g n, M, n = 1,2, N και G N = g(n, M) N k G N k E n i = k=1 X i, P n i 1 = X i G(N 1)/G(N) G N Για τον υπολογισμό των Ν στοιχείων της στήλης Μ του πίνακα g(n, m) απαιτούνται N M προσθέσεις και N M πολλαπλασιασμοί: Πολυπλοκότητα O(N M)

5 ΚΛΕΙΣΤΟ ΔΙΚΤΥΟ ΔΥΟ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ (επανάληψη) Θεώρημα Gordon-Newell για Μ = 2 Ουρές, Ν = 3 Πελάτες Χ 1 μ 1 = Χ 2 μ 2 Χ 1 = 1, Χ 2 = μ 1 /μ 2 = α P(0,3) = X 23 /G(3)=α 3 /G(3) P(1,2) = X 22 /G(3)=α 2 /G(3) P(2,1) = X 2 /G(3)=α/G(3) P(3,0) = 1/G(3) 1/G(3) + α/g(3) + α 2 /G(3) + α 3 /G(3) = 1 Άρα: G(3)=1/(1+α+α 2 +α 3 ) γ = μ 2 [1- P(3,0)] = μ 2 [1-1/G(3)] E(T 1 ) = E(n 1 )/γ E n 1 = P 1,2 + 2P 2,1 + 3P 3,0 = a2 +2a+3 G 3 E n 2 = P 2,1 + 2P 1,2 + 3P 0,3 = a+2a2 +3a 3 E n 1 + E n 2 = N = 3 G 3

6 ΚΛΕΙΣΤΟ ΔΙΚΤΥΟ ΔΥΟ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ (επανάληψη) Αλγόριθμος Buzen για Μ = 2 Ουρές, Ν = 3 Πελάτες Με βάση τον Επαναληπτικό Αλγόριθμο του Buzen και X 1 = 1, X 2 = μ 1 μ 2 = a ισχύει ότι: g n, m = g n, m 1 + X m g(n 1, m) G N = g(n, M) Προκύπτει : G 1 = 1 + a G 2 = 1 + a + a 2 G 3 = 1 + a + a 2 + a 3 Η χρησιμοποίηση της ουράς Q 1 είναι P n i 1 = P 1,2 + P 2,1 + P 3,0 = 1 P(0,3) = X i G(N 1)/G(N) = X 1 G(2)/G(3)= Επίσης: P 0,3 = a 3 /G 3 P 1,2 = a 2 /G 3 P 2,1 = a/g 3 P 3,0 = 1/G 3 = 1+a+a2 1+a+a 2 +a 3 (όπως και στη 2η διαφάνεια) E n i = X i k E n 1 = N k=1 3 k=1 3 E n 2 = X 2 k k=1 G N k G N G 3 k G 3 G N k G N n X 1 X a a = a2 + 2a a + a 2 + a 3 Πίνακας Τιμών g(n, m) a + a a + a 2 + a 3 = 3 E n 1 = a + 2a2 + 3a a + a 2 + a 3 6

7 ΚΛΕΙΣΤΟ ΔΙΚΤΥΟ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ (1/2) (επανάληψη) Βασισμένο στο Παράδειγμα του Jeffrey Buzen, "Computational Algorithms for Closed Queuing Networks with Exponential Servers, Communications of the ACM 16 (9), Sept Κλειστό δίκτυο Μ εκθετικών ουρών Q 1 (CPU), Q 2,,Q M (I/O) Παράλληλη Επεξεργασία Ν προγραμμάτων (εντολών) με ανακύκλωση στη CPU (πιθανότητα p 11 = p 1 ), επιλογή Υποσυστήματος I/O (με πιθανότητες p 12 = p 2, p 13 = p 3,, p 1M = p M ) και απάντηση δημιουργία νέας εντολής (εξωτερική ανάδραση). Εφαρμογή Αλγορίθμου Buzen για Ν = 1,2,3,4 πελάτες (παράλληλα προγράμματα) και Μ = 3 ουρές Q 1, Q 2, Q 3 Πίνακας Τιμών g(n, m) μ 1 Χ 1 = p 1 μ 1 Χ 1 + μ 2 Χ 2 + μ 3 Χ 3 μ 2 Χ 2 = p 2 μ 1 Χ 1 n X 1 X 2 X 3 μ 3 Χ 3 = p 3 μ 1 Χ 1 Με μ 1 = 1 28 msec 1, μ 2 = 1 40 msec 1, μ 3 = msec 1, p 1 = 0.1, p 2 = 0.7, p 3 = 0.2 και Χ 1 = 1 προκύπτει πως Χ 2 = 1, Χ 3 = 2 Ο αναδρομικός τύπος g n, m = g n, m 1 + X m g(n 1, m) δίνει τον πίνακα δεξιά Οι σταθερές G N = g N, 3 αντιστοιχούν σε Ν = 1,2,3,4 προγράμματα G 1 = 4, G 2 = 11, G 3 = 26, G 4 =

8 ΚΛΕΙΣΤΟ ΔΙΚΤΥΟ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ (2/2) (επανάληψη) Βασισμένο στο Παράδειγμα του Jeffrey Buzen, "Computational Algorithms for Closed Queuing Networks with Exponential Servers, Communications of the ACM 16 (9), Sept Οι αντίστοιχοι βαθμοί χρησιμοποίησης U 1 της CPU (Q 1 ) G(N)/G N 1 είναι: n X 1 X 2 X Ν U 1 1/4 4/11 11/26 26/ Η ρυθμαπόδοση του συστήματος είναι γ = μ 2 p n μ 3 p n 3 1 Ο μέσος χρόνος απόκρισης είναι E T AB = N γ = μ 2 Χ 2 G(N 1)/G N +μ 3 Χ 3 G(N 1)/G(N) Οι αντίστοιχες τιμές σε sec είναι: = (μ 2 Χ 2 + μ 3 Χ 3 )G(N 1)/G(N) Οι αντίστοιχες τιμές σε προγράμματα/sec είναι: Ν Ν γ γ Ρυθμαπόδοση γ ως προς Αριθμό Προγραμμάτων Ν Πίνακας Τιμών g(n, m) E(T AB ) 0,4 0,3 0,2 E(T AB ) Μέσος Χρόνος Απόκρισης ως προς Αριθμό Προγραμμάτων Ν 5 0, Ν Ν

9 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (1/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W Αναπάρασταση Μηχανισμού Ελέγχου Ροής Παραθύρου (Window Flow Control) μέσω Κλειστού Δικτύου Μ ανεξαρτήτων εκθετικών ουρών και W πελατών. Η μορφή των πελατών εναλλάσσεται ανάμεσα σε πακέτα δεδομένων, μηνύματα επιβεβαίωσης acknowledgments και άδειες εκπομπής tokens Το κλειστό δίκτυο του παραδείγματος αποτελείται από Μ = 5 υποσυστήματα: Q 0 : Αποθηκεύει τα Tokens στην πηγή (Source) με τον μηχανισμό Window Flow Control και αποστέλλει στον προορισμό (Destination) νέα πακέτα ανά χρονικά διαστήματα μέσης τιμής 1/λ sec (μοντέλο δημιουργίας κίνησης λ πακέτα/sec) εφόσον υπάρχουν διαθέσιμα tokens στην Q 0 Q 1, Q 2, Q 3 : Ενδιάμεσοι δικτυακοί κόμβοι μεταγωγής πακέτου με μέσους εκθετικούς ρυθμούς μ 1, μ 2, μ 3 πακέτα/sec Q r : Ισοδύναμο μοντέλο καθυστέρησης για την δημιουργία και μεταβίβαση μηνυμάτων επιβεβαίωσης ACK σαν ανεξάρτητη ουρά με μέσο εκθετικό ρυθμό μ r πακέτα/sec (θεωρούμε κατά προσέγγιση 1 μ r 1 μ μ μ 3 sec) Στο κλειστό δίκτυο υπάρχουν ανά πάσα στιγμή W 8 πελάτες που αντιστοιχούν στο μέγεθος παραθύρου Window Size: W = n 0 + n 1 + n 2 + n 3 + n r Θεωρούμε πως ισχύουν οι παραδοχές για μορφή γινομένου του θεωρήματος Gordon Newell και εφαρμόζουμε τον Αλγόριθμο του Buzen για W = 1,, 8 πελάτες που κυκλοφορούν σε Μ = 5 ουρές, ως προς την ρυθμαπόδοση γ και την μέση καθυστέρηση πακέτου από άκρο σε άκρο (S σε D) στο δίκτυο E T S,D = [E n 1 + E n 2 + E(n 3 )]/γ

10 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (2/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 4

11 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (3/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 4

12 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (4/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 4

13 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (5/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 4

14 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (6/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 4

15 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (7/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 4

16 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (8/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 4 Υποθέτουμε πως λ = 1, μ 1 = μ 2 = μ 3 = 2 πελάτες/sec 1 μ r = 1 μ μ μ 3 = 3 2 sec ή μ r = 2/3 πελάτες/sec Με Χ 0 = 1 έχουμε: λχ 0 = μ 1 Χ 1 = μ 2 Χ 2 = μ 3 Χ 3 = μ 4 Χ 4 = μ r Χ r Άρα: X 1 = X 2 = X 3 = 0.5, X r = 3 2 Ο αναδρομικός τύπος g n, m = g n, m 1 + X m g(n 1, m) δίνει τον πίνακα δεξιά Οι σταθερές G W = g(w, 5) αντιστοιχούν σε W = 1,, 8 Η ρυθμαπόδοση του συστήματος γ σε πακέτα/sec είναι: γ = μ 1 p n 1 1 = μ 1 Χ 1 G(W 1)/G W Η μέση καθυστέρηση πακέτων σε sec από το S στο D είναι E T SD = E n 1 + E n 2 + E(n 3 ) /γ, όπου N E n i = X i k k=1 G N k G N Πίνακας Τιμών g(n, m) W X 1 X 2 X 3 X 4 X r

17 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (9/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 1,,8 Ρυθμαπόδοση του συστήματος, γ = μ 1 p n 1 1 : W γ γ 0,8 Ρυθμαπόδοση γ ως προς το Παράθυρο W 0,6 0,4 0,2 Μέση καθυστέρηση πακέτου από το S στο D, E T SD : W W Ε Τ SD E(T SD ) 2,5 Μέση Καθυστέρηση Πακέτων από S σε D ως προς το Παράθυρο W E(T SD ) 2,5 Μέση Καθυστέρηση Πακέτων από S σε D ως προς τη Ρυθμαπόδοση γ 2 2 1,5 1, ,5 0, W 0 0 0,2 0,4 0,6 0,8 γ

18 ΕΛΕΓΧΟΣ ΡΟΗΣ ΑΠΟ ΑΚΡΟ ΣΕ ΑΚΡΟ ΣΤΟ INTERNET (10/10) End-to-End Window Flow Control TCP Session, Μέγεθος Παραθύρου W = 1,,8 Σενάριο Συμφόρησης Υποθέτουμε πως λ = 1, μ 1 = μ 2 = μ 3 = 1 2 πελάτες/sec 1 μ r = 1 μ μ μ 3 = 6 sec ή μ r = 1 6 (ανεπαρκείς ταχύτητες γραμμών συμφόρηση) Έχουμε X 0 = 1, X 1 = X 2 = X 3 = 2, X r = 6 Η ρυθμαπόδοση του συστήματος γ είναι: W γ Η μέση καθυστέρηση πακέτων Ε Τ SD είναι: W Ε Τ SD E(T SD ) ,2 0,4 0,6 γ Πίνακας Τιμών g(n, m) W X 0 X 1 X 2 X 3 X r Σύγκριση Επίδοσης Σεναρίων για Αυξανόμενες τιμές του W Συμφόρηση στο Δίκτυο (μ 1 = μ 2 = μ 3 = 0.5, λ = 1) Δίκτυο με καλή επίδοση (μ 1 = μ 2 = μ 3 = 2, λ = 1) Στην περίπτωση συμφόρησης, ανεκτή καθυστέρηση απαιτεί μικρές τιμές τουw με σημαντικούς περιορισμούς ωφέλιμης ρυθμαπόδοσης

19 ΠΑΡΑΔΕΙΓΜΑ ΠΟΛΥ-ΠΡΟΓΡΑΜΜΑΤΙΣΜΟΥ (1/4) Κλειστό Δίκτυο με Μ = 2 Ουρές και Ν Πελάτες (Παράλληλες Εντολές) Το μοντέλο θεωρεί Ν πελάτες που περιφέρονται σε κλειστό δίκτυο. Εναλλάσσονται σε δύο υποσυστήματα, είτε με τη μορφή σκέψης ενός «χρήστη» (τερματικό ή ενεργό παράθυρο) για την παραγωγή (input) νέας εντολής, ή με τη μορφή επεξεργασίας εντολών που έχουν κατατεθεί και αναμένεται η απόκριση (output) στον «χρήστη» Μοντέλα 2 Υποσυστήματων Εξυπηρέτησης: Υποσύστημα Παραγωγής Εντολών: Q 1, M/M/ (ή Μ/Μ/Ν/Ν) με εκθετικούς χρόνους εξυπηρέτησης (Thinking Time, T TH ) μέσης τιμής E T TH = 1 μ 1 Ο χρόνος T TH αντιστοιχεί με τον χρόνο «σκέψης» για την σύνταξη μιας νέας εντολής εισόδου (input) σε συνέχεια της απόκρισης (output) από προηγούμενη εντολή Υποσύστημα Επεξεργασίας Εντολών: Q 2, M/M/1 με εκθετικούς χρόνους εξυπηρέτησης 1 μ 2 και μέσο χρόνο καθυστέρησης (Processing Time, T PR ) μέσης τιμής E T PR Η ουρά Q 2 αντιστοιχεί με το συνολικό σύστημα επεξεργασίας εντολών (CPU, I/O) σαν συναθροισμένο ισοδύναμο μοντέλο (aggregate equivalent, γενικεύεται σαν Ισοδύναμο Norton)

20 ΠΑΡΑΔΕΙΓΜΑ ΠΟΛΥ-ΠΡΟΓΡΑΜΜΑΤΙΣΜΟΥ (2/4) Κλειστό Δίκτυο με Μ = 2 Ουρές και Ν Πελάτες (Παράλληλες Εντολές) Ανάλυση Κλειστού Δικτύου Markov Εργοδικές Καταστάσεις n = n 1, n 2, n 1 + n 2 = N Εξισώσεις Ισορροπίας: μ 2 P 0, N = μ 1 P 1, N 1 μ 2 P k, N k = (k + 1)μ 1 P k + 1, N k + 1 μ 2 P N 1,1 = Nμ 1 P N, 0 Αν a μ 2 μ 1 P k, N k = P(0, N) ak και P k, N k = a k k! N a n n=0 n! Υπολογισμοί όπως για Erlang-B: P N, 0 = B a, N, P N 1,1 = Nμ 1 B a, N, N E n 2 = k=1 kp(n k, k) και η ρυθμαπόδοση γ = μ 2 [1 P N, 0 ] εντολές/sec k! Η Μέση Καθυστέρηση Εντολών στο Υποσύστημα Επεξεργασίας είναι E T PR = E n 2 γ sec

21 ΠΑΡΑΔΕΙΓΜΑ ΠΟΛΥ-ΠΡΟΓΡΑΜΜΑΤΙΣΜΟΥ (3/4) Κλειστό Δίκτυο με Μ = 2 Ουρές και Ν Πελάτες (Παράλληλες Εντολές) Αριθμητικά Αποτελέσματα: Εφαρμογή της ανάλυσης για τιμές των μ 1 = 1, μ 2 = 10 (α = μ 2 μ 1 = 10) και μεταβάλλοντας τις δυνατότητες παραλληλισμού (Βαθμός Πολύ-προγραμματισμού, Degree of Parallelism - Multitasking) N = 1,, 7

22 ΠΑΡΑΔΕΙΓΜΑ ΠΟΛΥ-ΠΡΟΓΡΑΜΜΑΤΙΣΜΟΥ (4/4) Κλειστό Δίκτυο με Μ = 2 Ουρές και Ν Πελάτες (Παράλληλες Εντολές) γ γ 4 3,95 3,9 3,85 3,8 3,75 3,7 3,65 3,6 3,55 3,5 Ρυθμαπόδοση ως προς N, μ 1 =1, μ 2 = Ρυθμαπόδοση ως προς μ 2, μ 1 =1, Ν= N μ 2 E(T PR ) E(T PR ) Συμπεράσματα: 1. Για αυξανόμενο βαθμό πολύ-προγραμματισμού N αναμένεται βελτίωση της Ρυθμαπόδοσης γ προς ένα μέγιστο όριο, με παράλληλη αύξηση της Μέσης Καθυστέρησης Επεξεργασίας Εντολών E T PR 1,20 1,00 0,80 0,60 0,40 0,20 0,00 0,17 0,165 0,16 0,155 0,15 E(T PR ) ως προς N, μ 1 =1, μ 2 = E(T PR ) ως προς μ 2, μ 1 =1, Ν= μ 2 N 2. Όσο μειώνεται ο Μέσος Χρόνος Σκέψης E T TH = 1 μ 1 0 των χρηστών για N = 4 βελτιώνεται η Ρυθμαπόδοση γ και αυξάνεται η Μέση Καθυστέρηση Επεξεργασίας Εντολών, συγκλίνοντας προς τα αποτελέσματα ουράς Μ/Μ/1 ρυθμού εισόδου γ και ρυθμού εξυπηρέτησης μ 2 : E T PR 1 μ 2 1 γ μ

23 ΑΝΑΛΥΣΗ ΜΕΣΗΣ ΤΙΜΗΣ ΓΙΑ ΚΛΕΙΣΤΑ ΔΙΚΤΥΑ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ MEAN VALUE ANALYSIS - MVA (1/5) 1. Mean Value Analysis of Closed Multichain Queuing Networks, M. Reiser & S.S. Lavenberg, Journal of the ACM 27 (2), 1980 ( 2. Wikipedia Παραδοχές: Κλειστό δίκτυο από M διασυνδεόμενα υποσυστήματα (ουρές) Q i, i = 1,2, M στην εργοδική κατάσταση, έκαστο με n i (k) πελάτες και ρυθμαπόδοση συστήματος γ(k) πελάτες/sec ανά περιφορά πελάτη, όταν περιφέρονται στο δίκτυο k = 1,2,, N πελάτες Ανεξάρτητοι εκθετικοί εξυπηρετητές i = 1, 2,, M μέσου ρυθμού μ i με παραδοχή Kleinrock Τυχαία Δρομολόγηση από υποσύστημα Q i σε Q j με πιθανότητα p ij = Prob i j. Η δρομολόγηση ορίζει τους μέσους ρυθμούς πελατών (ρυθμαποδόσεις) λ i (k) στα υποσυστήματα Q i σαν το γινόμενο της συνολικής ρυθμαπόδοσης γ(k) και του μέσου αριθμού επισκέψεων v i ενός πελάτη στο Q i ανά περιφορά του στο συνολικό σύστημα : λ i k = v i γ(k) Θεώρημα Αφίξεων σε Κλειστά Δίκτυα Εκθετικών Ουρών: Πελάτης που αφικνείται σε υποσύστημα εξυπηρέτησης Q i κλειστού δικτύου ανεξαρτήτων εκθετικών εξυπηρετήσεων συνολικού αριθμού πελατών N παρατηρεί την εργοδική κατάσταση ισορροπίας του δικτύου όπως προκύπτει με N 1 πελάτες (βλέπει το σύστημα όπως θα ισορροπούσε χωρίς τη παρουσία του)

24 ΑΝΑΛΥΣΗ ΜΕΣΗΣ ΤΙΜΗΣ ΓΙΑ ΚΛΕΙΣΤΑ ΔΙΚΤΥΑ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ MEAN VALUE ANALYSIS - MVA (2/5) Αναδρομικός Αλγόριθμος: Έστω: E[n i (k)]: Μέσος όρος πελατών στο Q i με k = 1,2,, N πελάτες στο δίκτυο Έχουμε Μέση καθυστέρηση πελατών στο Q i : E[T i (k)] E[n i (k)] = E[T i (k)] λ i k (τύπος Little ανά υποσύστημα Q i ) Συνολική μέση καθυστέρηση περιφοράς πελάτη Συνολική ρυθμαπόδοση γ(k) = M i=1 k v i E[T i (k)] M i=1 v i E[T i (k)]: (τύπος Little για το δίκτυο με k πελάτες) Από το Θεώρημα Αφίξεων σε Κλειστά Δίκτυα έχουμε τον αναδρομικό τύπο για k = 1,2,, N E[T i (k)] = 1 + E[n i(k 1)] μ i με αρχικές τιμές E[n i (0)] = 0, i = 1,2, M

25 ΑΝΑΛΥΣΗ ΜΕΣΗΣ ΤΙΜΗΣ ΓΙΑ ΚΛΕΙΣΤΑ ΔΙΚΤΥΑ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ MEAN VALUE ANALYSIS - MVA (3/5) Εφαρμογή για: Ν = 3 πελάτες, Μ = 3 ουρές και τιμές των παραμέτρων: μ 1 = 1 28 msec 1, μ 2 = 1 40 msec 1, μ 3 = msec 1 και p 1 = 0.1, p 2 = 0.7, p 3 = 0.2 Εύρεση των v i : Σε κάθε περιφορά πελάτη στον εξωτερικό βρόχο ανάδρασης αντιστοιχούν v i επισκέψεις στα υποσυστήματα Q i που συντελούν στις ρυθμαποδόσεις λ i k : λ i k = v i γ k ή λ 1 k = γ k + p 1 λ 1 k, λ 2 k = p 2 λ 1 k, λ 3 k = p 3 λ 1 k v 1 = 10 9, v 2 = 7 9, v 3 = 2 9

26 Για k = 2: E T 1 2 = 1+E n 1 1 = = 35 msec = sec μ 1 1/28 E T 2 2 = 1+E[n 2 1 ] = = 50 msec = sec μ 2 1/40 E T 3 2 = 1+E[n 3 1 ] = μ 3 1/280 γ 2 = ΑΝΑΛΥΣΗ ΜΕΣΗΣ ΤΙΜΗΣ ΓΙΑ ΚΛΕΙΣΤΑ ΔΙΚΤΥΑ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ MEAN VALUE ANALYSIS - MVA (4/5) Για k = 1: E T 1 1 = 1+E n 1 0 = 1+0 = 28 msec = sec μ 1 1/28 E T 2 1 = 1+E[n 2 0 ] = 1+0 = 40 msec = sec μ 2 1/40 E T 3 1 = 1+E[n 3 0 ] μ 3 = 1+0 γ 1 = 1/ = 280 msec = sec = πελάτες/sec λ 1 1 = v 1 γ 1 = = , λ = v 2 γ 1 = 7 9 λ 3 1 = v 3 γ 1 = = (πελάτες/sec) 9 Ε n 1 1 = E T 1 1 λ 1 1 = = 0.25 πελάτες Ε n 2 1 = E T 2 1 λ 2 1 = = 0.25 πελάτες Ε n 3 1 = E T 3 1 λ 3 1 = = 0.5 πελάτες = 420 msec = sec = πελάτες/sec λ 1 2 = v 1 γ 2 = = , λ = v 2 γ 2 = 7 9 λ 3 2 = v 3 γ 2 = = (πελάτες/sec) 9 Ε n 1 2 = E T 1 2 λ 1 2 = = πελάτες Ε n 2 2 = E T 2 2 λ 2 2 = = πελάτες Ε n 3 2 = E T 3 2 λ 3 2 = = πελάτες = , = ,

27 Για k = 4: E T 1 4 = 1+E n 1 3 = = msec = sec μ 1 1/28 E T 2 4 = 1+E[n 2 3 ] = = msec = sec μ 2 1/40 E T 3 4 = 1+E[n 3 3 ] = μ 3 1/280 γ 4 = ΑΝΑΛΥΣΗ ΜΕΣΗΣ ΤΙΜΗΣ ΓΙΑ ΚΛΕΙΣΤΑ ΔΙΚΤΥΑ ΕΚΘΕΤΙΚΩΝ ΟΥΡΩΝ MEAN VALUE ANALYSIS - MVA (5/5) Για k = 3: E T 1 3 = 1+E n 1 2 = = msec = sec μ 1 1/28 E T 2 3 = 1+E[n 2 2 ] = = msec = sec μ 2 1/40 E T 3 3 = 1+E[n 3 2 ] = μ 3 1/280 γ 3 = = msec = sec = πελάτες/sec λ 1 3 = v 1 γ 3 = = , λ = v 2 γ 3 = 7 9 λ 3 3 = v 3 γ 3 = = (πελάτες/sec) 9 Ε n 1 3 = E T 1 3 λ 1 3 = = πελάτες Ε n 2 3 = E T 2 3 λ 2 3 = = πελάτες Ε n 3 3 = E T 3 3 λ 3 3 = = πελάτες = msec = sec = πελάτες/sec λ 1 4 = v 1 γ 4 = = , λ = v 2 γ 4 = 7 9 λ 3 4 = v 3 γ 4 = = (πελάτες/sec) 9 Ε n 1 4 = E T 1 4 λ 1 4 = = πελάτες Ε n 2 4 = E T 2 4 λ 2 4 = = πελάτες Ε n 3 4 = E T 3 4 λ 3 4 = = πελάτες = , = ,

28 ΠΡΟΣΟΜΟΙΩΣΗ ΣΤΟΧΑΣΤΙΚΟΥ ΣΥΣΤΗΜΑΤΟΣ MARKOV (BIRTH-DEATH) Έστω στοχαστικό σύστημα Birth-Death με απ ευθείας μεταβάσεις από την εργοδική κατάσταση S i σε γειτονική κατάσταση S j που μπορεί να γίνονται με ρυθμό r ij Ο συνολικός ρυθμός μεταβάσεων από την S i προς όλες τις γειτονικές καταστάσεις είναι R i = r ij S j Ο χρόνος παραμονής (dwell time) T i στη κατάσταση S i μέχρι την επόμενη μετάβαση είναι τυχαία μεταβλητή που προκύπτει από το ελάχιστο ανεξαρτήτων εκθετικών τυχαίων μεταβλητών, αντίστοιχων με όλες τις πιθανές μεταβάσεις εκτός της S i. Η T i θα είναι εκθετική με ρυθμό R i = Sj r ij και μέση τιμή E T i = 1 R i Οι εργοδικές πιθανότητες P[S i ] αν υπάρχουν μπορούν να υπολογισθούν σαν το όριο του λόγου του συνολικού χρόνου που το σύστημα παραμένει στη κατάσταση S i δια του χρονικού διαστήματος παρατήρησης Τ μιας χρονικής εξέλιξης (δείγματος) της στοχαστικής ανέλιξης : #{ΕΠΙΣΚΕΨΕΩΝ στην S i } E T i P[S i ] = lim #{ΕΠΙΣΚΕΨΕΩΝ στην S i} E T i T T #{ΕΠΙΣΚΕΨΕΩΝ στην S j } E T j Άρα μπορούμε να προσομοιώσουμε σύστημα Birth-Death καταμετρώντας τις αφίξεις στις διάφορες καταστάσεις που μεταβαίνει Η εξέλιξη της κατάστασης (πληθυσμού) του συστήματος προκύπτει από τις πιθανότητες μετάβασης από την κατάσταση S i στις γειτονικές καταστάσεις S j με το δεδομένο ότι μια από αυτές θα συμβεί με απόλυτη βεβαιότητα: P[ S i S j /μετάβαση] = r ij R i Η προσομοίωση ενεργοποιεί τις μεταβάσεις με κλήση τυχαίου αριθμού RANDOM(0,1) ομοιόμορφα κατανεμημένου μεταξύ (0, 1): Αν ο RANDOM(0,1) ανήκει σε υποδιάστημα του (0, 1) ανάλογο του r ij R i, η επόμενη κατάσταση θα είναι η S j Sj

29 ΠΡΟΣΟΜΟΙΩΣΗ ΚΛΕΙΣΤΟΥ ΔΙΚΤΥΟΥ MARKOV Κριτήριο σύγκλισης: Διαδοχικές τιμές μέσου αριθμού πελατών σε κάθε ουρά < μ 1 /μ 2 = 1 P 0,3 = 0.252, P 1,2 = 0.251, P 2,1 = 0.249, P 3,0 = 0.247, E n 1 = 1.49, E n 2 = 1.51, E n 1 + E n 2 = 3 μ 1 /μ 2 = 2 P 0,3 = 0.534, P 1,2 = 0.266, P 2,1 = 0.133, P 3,0 = 0.067, E n 1 = 0.73, E n 2 = 2.27, E n 1 + E n 2 = 3 μ 1 /μ 2 = 3 P 0,3 = 0.673, P 1,2 = 0.225, P 2,1 = 0.249, P 3,0 = 0.025, E n 1 = 0.45, E n 2 = 2.55, E n 1 + E n 2 = 3 μ 1 /μ 2 = 4 P 0,3 = 0.754, P 1,2 = 0.158, P 2,1 = 0.047, P 3,0 = 0.012, E n 1 = 0.32, E n 2 = 2.68, E n 1 + E n 2 = 3 μ 1 /μ 2 = 1 μ 1 /μ 2 = 2 Διαγράμματα μέσου αριθμού πελατών E n 1, E n 2 στα υποσυστήματα Q 1, Q 2

30 ΓΕΝΙΚΕΥΣΗ ΓΙΑ ΔΙΚΤΥΑ ΟΥΡΩΝ ΜΕ ΕΡΓΟΔΙΚΕΣ ΠΙΘΑΝΟΤΗΤΕΣ ΜΟΡΦΗΣ ΓΙΝΟΜΕΝΟΥ BCMP Networks: F. Basket, K.M. Chandi, R.H. Muntz, F.C. Palacios: Open, Closed, and Mixed Networks of Queues with Different Classes of Customers, Journal of the ACM, 22 (2), April 1975 Παραδοχές: Δίκτυο M συστημάτων εξυπηρέτησης (ουρών) Q i των εξής τύπων: 1. Εξυπηρέτησης FCFS (FIFO) M/M/1 με εκθετικό εξυπηρετητή 1/μ ι και ενιαίο τύπο πελατών 2. Εξυπηρέτησης Processor Sharing M/G/1 με πολλαπλές κλάσεις (τύπους, chains) πελατών 3. Ουρές με άπειρους εξυπηρετητές Μ/G/ με πολλαπλές κλάσεις (τύπους, chains) πελατών 4. Εξυπηρέτησης LCFS (with pre-preemptive resume) M/G/1 με πολλαπλές κλάσεις (τύπους, chains) πελατών Για τις περιπτώσεις 2-4 η κατανομή του χρόνου εξυπηρέτησης πρέπει να έχει μετασχηματισμό Laplace μορφής κλάσματος (rational Laplace Transform) Η δρομολόγηση μεταξύ ουρών γίνεται με τυχαίο τρόπο Ισχύει η παραδοχή ανεξαρτησίας του Kleinrock Poisson εξωτερικές αφίξεις Αποτέλεσμα: Η εργοδική πιθανότητα (αν υπάρχει) του διανύσματος κατάστασης (x 1, x 2,, x M ) του δικτύου δίνεται σε μορφή γινομένου παραγόντων εξαρτώμενων από την κατάσταση της κάθε ουράς: p x 1, x 2,, x M = C π 1 x 1 π 2 x 2 π M (x M ) (απόδειξη με επαλήθευση εξισώσεων ισορροπίας μεταβάσεων)