Μοντέλα Αναμονής σε Δίκτυα Επικοινωνιών Ανάλυση Ουρών Λάζαρος Μεράκος Τμήμα Πληροφορικής &Τηλεπικοινωνιών Πανεπιστήμιο Αθηνών
Μενού 1. Εισαγωγή 2. Θεώρημα του Little 3. Σύστημα M/M/1 System 4. Συστήματα M/M/m, M/M/, ad M/M/m/m 5. Σύστημα M/G/1 6. Δίκτυα Ουρών 1
Τι περιμένουμε από τα Μοντέλα Αναμονής; Χρήσιμα για ανάλυση απόδοσης, σχεδιασμό δικτύων και πρωτοκόλλων ελέγχου δικτύου (δρομολόγησης, ) Απαιτούν απλουστευτικές υποθέσεις Δίνουν ποιοτικά αποτελέσματα, βοηθούν στην κατανόηση των παραγόντων καθυστέρησης, και σε μερικές περιπτώσεις μπορούν να αποτιμήσουν την προβλεπόμενη καθυστέρηση Τα αναλυτικά μοντέλα συμπληρώνουν τα μοντέλα προσομοίωσης, που συνήθως είναι πιο λεπτομερή 2
ΣΥΝΙΣΤΩΣΕΣ ΤΗΣ ΚΑΘΥΣΤΕΡΗΣΗΣ ΣΕ ΚΟΜΒΟ Επεξεργασία (Processig) Μετάδοση (Trasmissio) Αναμονή (Queueig) Καθυστέρηση Επεξεργασίας: Χρόνος από λήψη πακέτου μέχρο τοποθέτηση στην ουρά (σταθερή, εκτός αν η επεξεργαστική ισχύς είναι περιορίζων πόρος) Καθυστέρηση Αναμονής: Χρόνος στην οθρά μέχρι την εκκίνηση της μετάδοσης (συνήθως μεταβλητή) 3
ΣΥΝΙΣΤΩΣΕΣ ΤΗΣ ΚΑΘΥΣΤΕΡΗΣΗΣ ΣΕ ΚΟΜΒΟ Processig Trasmissio Queueig Καθυστέρηση Μετάδοσης : Χρόνος μετάδοσης του πακέτου ( ανάλογος του μήκους του πακέτου) Καθυστέρηση Διάδοσης : Χρόνος που απαιτείται για να πάει το τελευταίο bit από πομπό σε δέκτη (ανάλογη της φυσικής απόστασης μεταξύ των κόμβων. Μεγάλη για δορυφορικές ζεύξεις) 4
ΘΕΩΡΗΜΑ ΤΟΥ LITTLE Δείχνει ότι για δοσμένο ρυθμό αφίξεων λ σε ένα οποιοδήποτε σύστημα αναμονήςto Μέσος Αριθμός Πελατών λ x (Μέση Καθυστέρηση) Πολύ σημαντικό: ισχύει κάτω από ελάχιστες υποθέσεις 5
Κύριες Παράμετροι ενός Συστήματος Αναμονής (t) p (t) πιθανότητα να υπάρχουν πελάτες στο σύστημα τη χρονική στιγμή t p t Κατάσταση ισορροπίας (Steady state) lim p (t) : 6
Κύριες Παράμετροι ενός Συστήματος Αναμονής (t) N ( t) p( t) : o Μέσος αριθμός πελατών στο σύστημα στο χρόνο t Μέσος αριθμός πελατών στο σύστημα N lim t N(t) : Nt Χρονικός μέσος αριθμός στο σύστημα από 0 μέχρι t Υποθέτουμε ότι το σύστημα είναι εργοδικό (χρονικός μέσος πιθανοτικός μέσος) N lim t ( t) lim t Nt N 7
Κύριες Παράμετροι ενός Συστήματος Αναμονής (t) Tk T : Μέση καθυστέρηση του k πελάτη (Average system time) lim k Tk (Μέση καθυστέρηση στο σύστημα) T μπορεί να εκφραστεί και σαν χρονικός μέσος T lim k Άθροισμα καθυστερήσ εων πελατών μέχρι Αριθμός πελατών μέχρι t t 8
Θεώρημα του LITTLE : N λt Όπου: N Μέσος αριθμός πελατών στο σύστημα λ Ρυθμός αφίξεων (πελάτες / μονάδα χρόνου) T Μέση καθυστέρηση στο σύστημα Το θεώρημα του Little εφαρμόζεται σε κάθε σύστημα αφίξεωνεξυπηρετήσεων με την κατάλληλη ερμηνεία των N, λ και Τ. 9
Θεώρημα του LITTLE : N λt Παραδείγματα: Εστιατόριο γρήγορου φαγητού (μικρό T) απαιτεί μικρό χώρο εστίασης (μικρό N) ια το ίδιο λ. Σε βροχερή μέρα υπάρχει μεγαλύτερο μποτιλιάρισμα σε ώρες αιχμής (μεγάλο N) και οι καθυστερήσεις είναι μεγαλύτερες (μεγάλο T). Σημειώστε: Το θεώρημα του Little δεν μας δίνει τα N και T, μόνο τη μεταξύ τους σχέση. Επιπρόσθετες (στατιστικές) υποθέσεις απαιτούνται για να βρούμε τα N καιt. 10
Απόδειξη του θεωρήματος του LITTLE Number of Arrivals a(t) 8 7 6 5 4 Delay T 4 Delay T 5 N(τ) 3 Delay T 3 2 Delay T 2 1 Delay T 1 0 t 1 t 2 t 3 t 4 t t ( t ) a( t ) a ( (a(t)/t) Ti/ 0 i 1 i 1 t t Γραμμοσκια σμένη Περιοχή N τ ) dτ Ti(t) or (1/t) N( τ )dτ Παίρνοντας το όριο t 0 προκύπτει N λt a(t) 11
Θεώρημα του LITTLE Παράδειγμα: N Q, W ρ, E{X} Αναμονή Μετάδοση N,T Εφαρμογή του θεωρήματος στην αναμονή (ουρά) N Q λε{time i queue} όπου N Q Μέσος αριθμός πακέτων που αναμένουν στην ουρά Εφαρμογή του θεωρήματος στο τμήμα μετάδοσης ρλ E{χρόνος μετάδοσης} όπου ρ μέσος αριθμός υπό μετάδοση (ένταση κίνησης, χρήση της γραμμής) 12
Θεώρημα του LITTLE Δεύτερο παράδειγμα: λ 1 λ 2 Πολύπλοκο Σύστημα Αναμονής N 1 N 2 λ 1 λ 2 λ 3 N 3 λ 3 Εφαρμογή στη ροή κίνησης i N i λ i T i Εφαρμογή σε όλες τις ροές μαζί (N 1 + N k )(λ 1 + +λ k )T όπου T ( ) λ i T / ( λ +... + λ ) k i 1 i 1 k (μέσος από όλα τα i) 13
Θεώρημα του LITTLE Άλλο ένα παράδειγμα Έλεγχος ροής συνόδου w / widow size N λ Ελεγχόμενη σύνοδος Περιορισμός για N πακέτα στο σύστημα για τη σύνοδο Υπόθεση: πακέτα είναι πάντα διαθέσιμα προς αποστολή Ρυθμαπόδοση λ Ν/Τ Όπως μεγαλώνει η συμφόρηση (T μεγαλώνει), λ μικραίνει (ο έλεγχος ροής γίνεται πιο δραστικός) Αν το N μεγαλώνει, το T μεγαλώνει 14
Το σύστημα M/M/1 Ένας εξυπηρετητής (1) Διαδικασία αφίξεων Poisso (1 st M) Εκθετικοί χρόνοι εξυπηρέτησης (2 d M) Θέλουμε p πιθανότητα πελατών στο σύστημα σε κατάσταση ισορροπίας 15
Διαδικασία POISSON με ρυθμό λ 1 2 3 4 5 0 t τ Στοχαστική διαδικασία {A(t) t 0} που παίρνει τιμές 0,1,2, έτσι ώστε A(t) αριθμός αφίξεων από 0 έως t αριθμοί αφίξεων σε ξεχωριστά διαστήματα itervals είναι ανεξάρτητοι αριθμός αφίξεων σε διάστημα μήκους τ έχει κατανομή Poisso με παράμετρο λτ, δηλ.,. P{A(t + τ) - Α(t) } e - λτ ( λτ)!, 0,1,... 16
Ιδιότητες της διαδικασίας POISSON Χρόνοι μεταξύ διαδοχικών αφίξεων είναι ανεξάρτητοι και εκθετικά κατανεμημένοι με παράμετρο λ P{τ s} 1- e -λs, s 0 όπου τ χρόνος μεταξύ και (+1) άφιξη P{A(t+δ)-A(t) 0} 1-λδ + o(δ) P{A(t+δ)-A(t) 1} λδ + o(δ) P{A(t+δ)-A(t) 2} o(δ) όπου o(δ)/δ 0 όπως δ 0 17
Ιδιότητες της διαδικασίας POISSON Αν A 1, A 2, A k είναι ανεξάρτητες διαδικασίες Poisso με ρυθμούς λ 1, λ 2, λ k, τότε A A 1 + A 2 + +A k είναι Poisso με ρυθμό λ λ 1 + λ 2 + + λ k Η διαδικασία Poisso είναι τυπικά ένα καλό μοντέλο για τη συγκεντρωτική κίνηση από ένα μεγάλο αριθμό «μικρών» χρηστών. 18
Η ουρά M/M/1 Ρυθμός αφίξεων λ Ρυθμός εξυπηρέτησης μ Ένας εξυπηρετητής Αφίξεις Poisso με παράμετρο λ Εκθετικά κατανεμημένοι χρόνοι εξυπηρέτησης με παράμετρο μ P{x s} 1- e - μs 1, E{x} μ Ανεξάρτητοι χρόνοι αφίξεων και εξυπηρετήσεων 19
Κατανομή αριθμού πελατών στο σύστημα Markov Chai Aalysis λδ λδ λδ λδ λδ λδ 0 1 2-1 +1 μδ μδ μδ μδ μδ μδ Ανάλυση ενδεχομένων σε ένα διάστημα δ sec Συχνότητα μετάβασης από σε +1 p λδ Συχνότητα μετάβασης από +1 σε p +1 μδ Πρέπει να είναι ίσες 20
Κατανομή αριθμού πελατών στο σύστημα Εξισώσεις τοπικής ισορροπίας: p λδ+ ο(δ) p +1 μδ + ο(δ) Διαιρούμε με δ και παίρνουμε όριο όπως το δ 0 p +1 ρp, 0,1, όπου ρ λ/μ p +1 ρp ρ(ρp -1 ) ρ +1 p 0 Άμα βρούμε το p 0 τότε τα έχουμε όλα 21
22 Κατανομή αριθμού πελατών στο σύστημα Έχουμε 0,1,... 0,1,... + + ), (1- p 1- p 1- p p p 1, p p 0 0 0 0 0 0 1 1 ρ ρ ρ ρ ρ ρ Έτσι 1- ) (1- p N 0 0 ρ ρ ρ ρ ρ ρ 1- N ρ
Κατανομή αριθμού πελατών στο σύστημα Μέση καθυστέρηση (από το θεώρημα του Little) T N λ ρ λ(1 ρ) λ/μ λ(1- λ/μ) Τ 1 μ - λ Μέση καθυστέρηση στην ουρά W T - 1 μ 1 μ - λ 1 μ W ρ μ - λ 23
Συστήματα M/M/m, M/M/, ad M/M/m/m Ανάλυση παρόμοια με M/M/1. Χρησιμοποιούμε ένα μοντέλο Markov chai για να βρούμε την κατανομή του αριθμού των πελατών στο σύστημα 24
Σύστημα M/M/m Poisso αφίξεις (λ), εκθετικοί χρόνοι εξυπηρέτησης (μ), m εξυπηρετητές λδ λδ λδ λδ λδ λδ 0 1 2 m-1 m m+1 μδ 2μδ 3μδ (m-1)μδ mμδ mμδ mμδ λp -1 μp, λp -1 mμp, m >m Χρησιμοποιούμε αυτές τις εξισώσεις για να εκφράσουμε τις πιθανότητες p ως συνάρτηση του p 0 του να είναι το σύστημα άδειο. 25
M/M/m SYSTEM p 0 (mρ)!, m p p 0 m ρ m!, > m λ where ρ < 1 mμ Αντικαθιστώντας στη εξίσωση Σ p 1 λαμβάνουμε p 0 m-1 (mρ)! m (mρ) + m!(1 ρ) 0 1 26
Σύστημα M/M/m Πιθανότητα αφικνούμενος πελάτης να χρειαστεί να αναμείνει στην ουρά (Erlag C formula) P Q P{Queueig} m p p 0 (mρ) m!(1 m ρ) W ρpq (Μέσος χρόνος στην ουρά) λ(1- ρ) 1 T + W (Μέσος χρόνος στο σύστημα) μ ρpq N λt mρ + (Μέσος αριθμός στο σύστημα) 1- ρ 27
Σύστημα M/M/ Poisso αφίξεις (λ), εκθετικοί χρόνοι εξυπηρέτησης (μ), άπειροι εξυπηρετητές Θέτω m στο σύστημα M/M/m p ( λ/μ) (e λ/μ )/!, 0,1,... Η κατανομή του αριθμού είναι Poisso με παράμετρο λ/μ λ N (μέση τιμή της Poisso ) μ N 1 T (από το θεώρημα τουlittle) λ μ ( Μέσος χρόνος εξυπηρέτησης, όπως περιμέναμε) 28
Σύστημα M/M/m/m Poisso αφίξεις (λ), εκθετικοί χρόνοι εξυπηρέτησης (μ), m εξυπηρετητές, το πολύ m πελάτες επιτρέπονται στο σύστημα λδ λδ λδ λδ 0 1 2 m-1 m μδ 2μδ 3μδ (m-1)μδ mμδ λp p - 1 μp p0( λ/μ), (1/! ), 1,..., m 1,..., m 29
Σύστημα M/M/m/m Λύνουμε ως προς p 0 στην Σ p 1 και λαμβάνουμε p 0 m 0 μ λ 1! 1 και p p ( λ/μ) (1/!), 0 1,..., m Το ποσοστό του χρόνου που το σύστημα είναι απασχολημένο p m m ( λ/μ) 0 m ( λ/μ) /m! /! Erlag B Formula 30
Σύστημα M/G/1 Η μέση καθυστέρηση μπορεί να βρεθεί με απλές τεχνικές Η κατανομή του αριθμού των πελατών είναι δύσκολο να βρεθεί 31
THE M/G/1 SYSTEM Poisso λ M/G/1 Γενική κατανομή χρόνων εξυπηρέτησης Poisso αφίξεις (ρυθμός λ) Χρόνοι εξυπηρέτησης ανεξάρτητοι των χρόνων άφιξης Γενική κατανομή χρόνων εξυπηρέτησης, με δοσμένα E{X}, και E{X 2 } Ένας εξυπηρετητής 32
Tο σύστημα M/G/1 P o l l a c z e k - K h i c h i e (P - K) F o r m u l a (with ρ λ/ μ) W (Μέσος χρόνος στην ουρά) T 2 λe{x } 2(1- ρ) 2 λe{x } E{X} + (Μέσος χρόνος στο σύστημα) 2(1- ρ) N λ Τ (Μέσος αριθμός πελατών στο σύστημα ) 33
Το σύστημα M/G/1 Παραδείγματα: Σύστημα M/M/1 1 2 2 E{X}, E{X } 2 μ μ W ρ μ(1 ρ) ρ μ - λ, Σύστημα M/D/1 (Determiistic Service Time όλοι έχουν σταθερό χρόνο εξυπηρέτησης 1/μ) 1 2 1 E{X}, E{X }, 2 μ μ W ρ 2μ(1 ρ) (ελάχιστο για δοσμένα μ και ρ) 34
Το σύστημα M/G/1 Απόδειξη της φόρμουλας P - K Έστω W i χρόνος αναμονής στην ουρά του πελάτη i R i υπολειπόμενος χρόνος εξυπηρέτησης όπως τον βλέπει ο πελάτης i X i χρόνος εξυπηρέτησης του πελάτη i N i αριθμός πελατών που βρίσκει ο πελάτης i να αναμένουν στην ουρά W i R i + i 1 j i-ni X E{W } E{R } j i i + E{X}E{N } 1 W R + NQ ( i ) μ W R + ρ W (NQ λw; i θεώρημα Little) 35
Το σύστημα M/G/1 Τελικά έχουμε W R 1-ρ Και χρησιμοποιώντας R λe{x 2 2 } Για το μέσο χρόνο αναμονής (δες επόμενο ) W 2 λe{x } 2(1- ρ) 36
Το σύστημα M/G/1 Υπολογισμός του υπολειπόμενου χρόνου εξυπηρέτησης Υπολειπόμενος χρόνος εξυπηρέτησης r(t) X 1 0 t χρόνος t X 1 X 2 X M(t) 37
Το σύστημα M/G/1 Υπολειπόμενος χρόνος εξυπηρέτησης r(t) X 1 0 t Time t X 1 X 2 M(t) t M(t) Xi 1 1 1 2 1 M(t) i 1 r( τ)dτ X i t 0 t i 1 2 2 t M(t) Παίρνοντας το όριο όπως το t προκύπτει R (1/2) λe{x 2 } 2 X M(t) 38
Αναμονή με Προτεραιότητες Οι προτεραιότητες εισάγουν πολυπλοκότητα Δύο σημαντικά μοντέλα επιδέχονται λύσεις κλειστής μορφής με βάση το μοντέλο M/G/1 39
Αναμονή με Προτεραιότητες Μοντέλο 1: Nopreemptive Priority Queueig Προτεραιότητα 1 (υψηλότερη) Προτεραιότητα (χαμηλότερη) Ο πελάτης υπό εξυπηρέτηση δεν διακόπτεται κλάσεις προτεραιοτήτων(1 υψηλότερη, χαμηλότερη) λ k, μ k : Ρυθμοί άφιξης και εξυπηρέτησης προτεραιότητας k W k : Μέσος χρόνος αναμονής για προτεραιότητα k ρ k λ k / μ k : Ένταση κίνησης για προτεραιότητα k R Μέσος υπολειπόμενος χρόνος εξυπηρέτησης 40
Αναμονή με Προτεραιότητες Υποθέτοντας ρ 1 + ρ 2 + + ρ < 1 έχουμε R Wk, k (1- ρ1 -... - ρk - 1)(1- ρ1 -... - ρk) 1,..., R 1 2 2 X X 2 2 λ 1E{X } +... + λ 1 E{X 2 } Σημειώστε την ανεξαρτησία του χρόνου αναμονής W k της υψηλής προτεραιότητας από το ρυθμό άφιξης λ i χαμηλής προτεραιότητας. 41
Αναμονή με Προτεραιότητες Μοντέλο 2: Preemptive Resume Priority Ο υπό εξυπηρέτηση πελάτης διακόπτεται από αφικνούμενο πελάτη υψηλότερης προτεραιότητας Η εξυπηρέτηση του πελάτη που διεκόπη ξαναρχίζει από το σημείο της διακοπής Μέσος χρόνος στο σύστημα για προτεραιότητα k T k (1/ μ k)(1- ρ1 -... - ρk) + Rk (1- ρ1 -... - ρk - 1)(1- ρ1 -... - ρ k ) όπου R k k 1 λie{x 2 2 i } 42
Δίκτυα Ουρών Δύσκολο να βρεθούν λύσεις κλειστής μορφής Χρειάζονται απλουστευτικές υποθέσεις 43
Δίκτυα Ουρών Ουρές στη σειρά: Παράδειγμα 1 M/D/1 M/D/1 (?) Packet arrivals at queue 1 1 2 3 4 Packet arrivals at queue 2 1 2 3 4 Time at Queue 1 Time at Queue 2 1 2 3 4 Packet arrivals at queue 2 Δεν υπάρχει αναμονή στη δεύτερη ουρά Το μοντέλο M/D/1 δεν εφαρμόζεται στη δεύτερη ουρά 44
Δίκτυα Ουρών Ουρές στη σειρά: Παράδειγμα 2 M/M/1 M/M/1 (?) Cricket Software Packet arrivals at queue 1 S L S S Time at Queue 1 S L S S Time at Queue 2 S Log Service Time Log Service Time L S S Χρόνος «ενδοάφιξης» στη 2 η ουρά είναι μεγάλος όταν λαμβάνεται μεγάλο πακέτο Οι χρόνοι αφίξεων και εξυπηρετήσεων δεν είναι ανεξάρτητοι. Η 2 η ουρά δεν είναι M/M/1. 45
Δίκτυα Ουρών Ενδιαφέρον αποτέλεσμα για το «εν σειρά» σύστημα M/M/1 : Η διαδικασία αναχωρήσεων από τη 1 η ουρά είναι Poisso (Burke s Theorem). Επομένως, αν οι χρόνοι αφίξεων και εξυπηρετήσεων ήταν ανεξάρτητοι, η 2 η ουρά θα ήταν M/M/1. Η συνήθης υπόθεση στα δίκτυα επικοινωνιών είναι να υποθέσουμε αυτή την ανεξαρτησία. 46
Δίκτυα Ουρών Μοντέλο δικτύων ουρών x p3 x p1 x p1 x p2 x p2 x p3 Διάφορες ροές πακέτων. Η ροή στο μονοπάτι p, έχει ρυθμό x p (packets / sec) Ολικός ρυθμός άφιξης στη ζεύξη (i,j) λ ij Σx p όλα τα μονοπάτια p που διέρχονται από τη ζεύξη (i,j) μ ij Ρυθμός εξυπηρέτησης στη ζεύξη (i,j) N ij Μέσος αριθμός πακέτων στη ζεύξη (i,j) 47
Δίκτυα Ουρών Kleirock Idepedece Approximatio Υποθέτει ότι όλες οι ουρές (i,j) συμπεριφέρονται όπως η M/M/1 με δοσμένο ρυθμό άφιξης λ ij, ρυθμό εξυπηρέτησης μ ij, και καθυστέρηση επεξεργασίας / διάδοσης d ij. Nij λij μij - λ ij + λ ij d ij Μέσος αριθμός πακέτων σε ολόκληρο το δίκτυο. N (i,j) N ij (i,j) λij μij - λ ij + λ ij d ij 48
Δίκτυα Ουρών Μέσος χρόνος στο σύστημα ( Little s Th.) T 1 λ (i,j) λij μij - λ ij + λ ij d ij όπου λ Σ p x p είναι ο συνολικός ρυθμός άφιξης 49
Δίκτυα Ουρών Ποιότητα της «Υπόθεσης Ανεξαρτησίας» (Kleirock Idepedece Approximatio ) Αρκετά καλή για πυκνά διασυνδεδεμένα δίκτυα και μέτριο προς βαρύ φορτίο. Καλή για εφαρμογές που η ακρίβεια πρόβλεψης δεν είναι πολύ σημαντική. Χρήσιμη για υπολογισμούς τοπολογικού σχεδιασμού, ως συμπλήρωμα σε προσομοιώσεις κλπ. 50
Δίκτυα Ουρών Παράδειγμα όπου η Προσέγγιση του Kleirock δεν είναι καλή λ/2 λ λ/2 Ροή πακέτων Poisso διαχωρίζεται σε δύο ίσης χωρητικότητας ζεύξεις. Εάν το αφικνούμενο πακέτο τοποθετείται στην μικρότερη ουρά, το σύστημα συμπεριφέρεται ως μία ουρά M/M/2 με ρυθμό λ. Η προσέγγιση ανεξαρτησίας λέει ότι κάθε ουρά συμπεριφέρεται ως M/M/1 με ρυθμό λ/2. Λάθος εκτίμηση κατά ένα παράγοντα (1+ρ). 51
Θεώρημα του JACKSON x p3 x p1 x p1 x p2 x p2 x p3 Υποθέσεις: Αφίξεις από το εξωτερικό του δικτύου είναι Poisso. Σε κάθε ουρά, όλες οι ροές πακέτων έχουν την ίδια εκθετική κατανομή για τους χρόνους εξυπηρέτησης. Χρόνοι αφίξεων και εξυπηρετήσεων είναι ανεξάρτητοι. 52
Θεώρημα του JACKSON Τότε: Η πιθανοτική κατανομή σε κατάσταση ισορροπίας του αριθμού των πελατών σε κάθε ουρά είναι η ίδια με αυτή της μεμονωμένης ουράς M/M/1. Μπορεί να χρησιμοποιηθεί για τον υπολογισμό της κατανομής και των μέσων καθυστερήσεων σε κατάσταση ισορροπίας Αξιοσημείωτο αποτέλεσμα επειδή η συνδυασμένη διαδικασία αφίξεων σε κάθε ουρά μπορεί να μην είναι Poisso. 53