Γ. Κορίλη, Μοντέλα Εξυπηρέτησης

Γ. Κορίλη, Μοντέλα Εξυπηρέτησης 2-1 hp://www.seas.upenn.edu/~com501/lecures/lecure3.pdf Καθυστερήσεις στα ίκτυα Πακέτων Εισαγωγή στη Θεωρία Ουρών Ανασκόπηση Θεωρίας Πιθανοτήτων ιαδικασία Poisson Θεώρηµα του Lile Απόδειξη και ιαισθητική Ερµηνεία Εφαρµογές

2-2 Πηγές ικτυακών Καθηυστερήσεων Καθυστερήσεις Επεξεργασιών Όταν η ισχύς επεξεργασίας δεν είναι σταθερή Καθυστερήσεις στις Ουρές Αναµονή µετάδοσης στην προσωρινή αποθήκη Καθυστερήσεις Μετάδοσης Καθυστερήσεις ιάδοσης Καθυστέρηση στη σύνδεση µετάδοση ηλεκτρικού σήµατος Ανεξάρτητα από το φορτίο που µεταφέρεται στη σύνδεση Εστίαση: Καθυστερήσεις Ουρών και Μετάδοσης

2-3 Βασικό Μοντέλο Ουράς Αποθήκη Server(s) Αφίξεις Αναχωρήσεις Ουρά Υπηρεσία Για σταθµούς εξυπηρέτησης µε: Έναν ή περισσότερους servers Μια περιοχή αναµονής ή αποθήκευσης Πελάτες φθάνουν για να εξυπηρετηθούν Πελάτης που όταν φθάνει δεν βρίσκει διαθέσιµο server περιµένει στην ουρά

2-4 Χαρακτηριστικά Ουράς b m Αριθµός των servers m: ένας, πολλοί, άπειροι Μέγεθος Αποθήκης b Τρόποι Εξυπηρέτησης (καθορισµού χρόνων): FCFS, LCFS, Processor Sharing (PS), κλπ. ιαδικασία αφίξεων Στατιστική εξυπηρέτησης

2-5 ιαδικασία Αφίξεων n +1 n n 1 τ n n τ n τ n : χρόνος µεταξύ αφίξεων των πελατών n & n+1 είναι µια τυχαία { τ, n 1} είναι µια στοχαστική διαδικασία n Οι χρόνοι αφίξεων έχουν τις ίδιες κατανοµές και µέση τιµή E[ τ ] = E[ τ] = 1/ λ λ ονοµάζεται ρυθµός αφίξεων n

2-6 ιαδικασία Εξυπηρετήσεων n +1 n n 1 s n s n : χρόνος εξυπηρέτησης του πελάτη n στο server { s είναι µια στοχαστική διαδικασία n, n 1} Οι χρόνοι εξυπηρέτησης έχουν τις ίδιες κατανοµές και κοινή µέση τιµή Es [ ] = Es [ ] = µ n µ ονοµάζεται ρυθµός εξυπηρέτησης Για τα πακέτα, είναι οι χρόνοι εξυπηρέτησης πράγµατι τυχαίοι;

2-7 είκτες Ουρών Γενικός δείκτης: A/S/m/k A συµβολίζει τη διαδικασία αφίξεων Οι αφίξεις Poisson συµβολίζονται µε M (από τη Μαρκοβιανή) B συµβολίζει την κατανοµή χρόνου εξυπηρέτησης M: εκθετική κατανοµή D: αιτιοκρατικοί χρόνοι εξυπηρέτησης G: γενική κατανοµή m είναι ο αριθµός των servers k είναι ο µέγιστος αριθµός πελατών που επιτρέπονται στο σύστηµα ή στην αποθήκη ή για εξυπηρέτηση k παραλείπεται όταν το µέγεθος αποθήκευσης είναι άπειρο

2-8 είκτες Ουρών: Παραδείγµατα M/M/1: Αφίξεις Poisson, εκθετικά κατανεµηµένοι χρόνοι εξυπηρέτησης, ένας server, άπειρη αποθήκη M/M/m: όπως πριν αλλά µε m servers M/M/m/m: Αφίξεις Poisson, εκθετικά κατανεµηµένοι χρόνοι εξυπηρέτησης, m server, χωρίς αποθήκη M/G/1: Αφίξεις Poisson, χρόνοι εξυπηρέτησης που κατανέµονται όµοια µε µια γενική κατανοµή, ένας server, άπειρη αποθήκη */D/ : Σύστηµα σταθερής καθυστέρησης

2-9 Στοιχεία Θεωρίας Πιθανοτήτων Εκθετική Κατανοµή Ιδιότητα Λήθης Κατανοµή Poisson ιαδικασία Poisson Ορισµός και Ιδιότητες Κατανοµή Χρόνων Αφίξεων Μοντέλα Στατιστικών Αφίξεων και Εξυπηρέτησης

2-10 Η Εκθετική Κατανοµή Μια τυχαία µεταβλητή X ακολουθεί την εκθετική κατανοµή µε παράµετρο µ, όταν η συνάρτηση πυκνότητας πιθανότητας είναι: f X ( x) = x µ e µ αν x 0 0 αν x < 0 Συνάρτηση κατανοµής πιθανότητας: µ x 1 e αν x 0 FX ( x) = P{ X x} = 0 αν x < 0

2-11 Εκθετική Κατανοµή (συνέχεια) Μέση Τιµή και Τετράγωνο Τυπικής Απόκλισης: Απόδειξη: 1 1 EX [ ] =, Var( X) = 2 µ µ µ x EX [ ] = xf ( xdx ) = xµ e dx= X 0 0 µ x µ x 1 = xe 0 + e dx = 0 µ 2 2 µ x 2 µ x µ x 2 2 E[ X ] = x µ e dx = x e 0 + 2 xe dx E[ X ] 0 = = 0 2 µ µ Var( X) E[ X ] ( E[ X]) 2 1 1 µ µ µ 2 2 = = = 2 2 2

2-12 Ιδιότητα Λήθης Η ιστορία του παρελθόντος δεν έχει καµιά επιρροή στο µέλλον P{ X > x+ X > } = P{ X > x} Απόδειξη: PX { > x+ X, > } PX { > x+ } P{ X > x+ X > } = = P{ X > } P{ X > } µ ( x+ ) e µ x = = e = P{ X > x} µ e Εκθετική Κατανοµή: η µόνη συνεχής κατανοµή µε την ιδιότητα της λήθης

2-13 Κατανοµή Poisson Μια διακριτή τυχαία µεταβλητή X ακολουθεί την κατανοµή Poisson µε παράµετρο λ όταν έχει τις πιθανότητες: k λ λ PX { = k} = e, k= 0,1,2,... k! Μεγάλης σηµασίας είναι ο αριθµός των τυχαίων γεγονότων που συµβαίνουν σε δοθέν χρονικό διάστηµα Η ιαδικασία Poisson: Οι πελάτες που φθάνουν σε µια µέρα Τα λάθος τηλεφωνήµατα σε µια βδοµάδα Οι φοιτητές που επισκέπτονται τον διδάσκοντα στις ώρες γραφείου και πακέτα που φθάνουν σ ένα swich του δικτύου

2-14 ιαδικασία Poisson (συνέχεια) Μέση Τιµή και Τετράγωνο Τυπικής Απόκλισης Απόδειξη: EX [ ] = λ, Var( X) = λ k k λ λ λ λ EX [ ] = kpx { = k} = e k = e k! ( k 1)! k= 0 k= 0 k= 0 j λ λ λ λ = e λ = e λe = λ j! j= 0 k λ λ k! ( k 1)! k 2 2 λ 2 λ E[ X ] = k P{ X = k} = e k = e k k= 0 k= 0 k= 0 λ λ λ = e j+ = je + e = + j! j! j! j j j λ λ λ 2 λ ( 1) λ λ λ λ Var( X) E[ X ] ( E[ X]) j= 0 j= 0 j= 0 2 2 2 2 = = + λ λ = λ λ

2-15 Άθροισµα Τυχαίων Μεταβλητών Poisson X i, i =1,2,,n είναι ανεξάρτητες τυχαίες µεταβλητές X i ακολουθεί την κατανοµή Poisson µε παράµετρο λ i Μερικό άθροισµα που ορίζεται ως: Sn = X1+ X2 +... + X S n ακολουθεί την κατανοµή Poisson µε παράµετρο λ λ = λ1+ λ2 +... + λn n

2-16 Άθροισµα Τυχαίων Μεταβλητών Poisson (συνέχεια) Proof: For n = 2. Generalizaion by inducion. The pmf of S = X 1 + X 2 is P fs = mg = = = mx k=0 mx P fx 1 = k; X 2 = m kg P fx 1 = kg P fx 2 = m kg k=0 mx 1 k1 e k=0 = e ( 1+ 2) 1 m! m k 2 k! e 2 (m k)! mx k=0 = e ( 1+ 2)( 1 + 2) m m! Poisson wih parameer = 1 + 2. m! k)! k1 m k k!(m 2

ειγµατοληψία µιας Μεταβλητής 2-17 Poisson X ακολουθεί την κατανοµή Poisson µε παράµετρο λ Κάθε µια από τις αφίξεις της X είναι τύπου i µε πιθανότητα p i, i =1,2,,n, ανεξάρτητα από τις άλλες αφίξεις; p 1 + p 2 + + p n = 1 X i συµβολίζει τον αριθµό των αφίξεων τύπου i X 1, X 2, X n είναι ανεξάρτητες X i ακολουθεί την κατανοµή Poisson µε παράµετρο λ i = λp i

2-18 ειγµατοληψία µιας Μεταβλητής Poisson (συνέχεια) Proof: For n = 2. Generalize by inducion. Join pmf: P fx 1 = k 1 ;X 2 = k 2 g = = P fx 1 = k 1 ;X 2 = k 2 jx = k 1 + k 2 g P fx = k 1 + k 2 g ³ k1 + k 2 = p k 1 1 k pk 2 2 e k1+k 2 1 (k 1 + k 2 )! 1 = k 1!k 2! ( p 1) k 1 ( p 2) k 2 e (p 1+p 2 ) = e p 1 ( p 1) k 1 k 1! e p 2 ( p 2) k 2 k 2! ² X 1 and X 2 are independen ² P fx 1 = k 1 g = e p ( p 1 1) k 1 k 1, P fx! 2 = k 2 g = e p ( p 2 2) k2 k 2! X i follows Poisson disribuion wih parameer p i.

2-19 Προσέγγιση Poisson στη ιωνυµική ιωνυµική κατανοµή µε παραµέτρους (n, p) n k n k P{ X = k} = p (1 p) k Καθώς n και p 0, µε np=λ σταθερό, η διωνυµική κατανοµή συγκλίνει στην κατανοµή Poisson µε παράµετρο λ Απόδειξη: n k P{ X = k} = p (1 p) k ( n k + 1)...( n 1) n λ λ = 1 k! n n ( n k + 1)...( n 1) n 1 k n n λ 1 n n k e n λ 1 1 n n P{ X = k} e n λ λ k λ k! n k k n k

2-20 ιαδικασία Poisson µε Ρυθµό λ {A(): 0} διαδικασία αρίθµησης A() είναι ο αριθµός των γεγονότων (αφίξεων) που συνέβησαν από το χρόνο 0 όταν A(0)=0 ως το χρόνο A()-A(s) είναι ο αριθµός των γεγονότων στο διάστηµα (s, ] Οι αριθµοί των γεγονότων σε ξένα διαστήµατα είναι ανεξάρτητοι independen Ο αριθµός των γεγονότων σε κάθε διάστηµα (, +τ] µήκους τ Εξαρτάται µόνο από το µήκος τ Ακολουθεί την κατανοµή Poisson µε παράµετρο λτ n λτ ( λτ ) PA { ( + τ ) A ( ) = n} = e, n= 0,1,... n! Ο µέσος αριθµός των γεγονότων λ ανά τ είναι ο ρυθµός αφίξεων (γεγονότων)

2-21 Στατιστική Χρόνων Αφίξεων Οι χρόνοι αφίξεων για µια διαδικασία Poisson είναι ανεξάρτητοι κι ακολουθούν την εκθετική κατανοµή µε παράµετρο λ n : χρόνος της n οστής άφιξης; τ n = n+1 - n : n οστό χρονικό διάστηµα αφίξεων Απόδειξη: λs P{ τ s} = 1 e, s 0 Συνάρτηση κατανοµής πιθανότητας n s P{ τ s} = 1 P{ τ > s} = 1 P{ A( + s) A( ) = 0} = 1 e λ n n n n Η ανεξαρτησία έπεται από την ανεξαρτησία του αριθµού των αφίξεων σε ξένα διαστήµατα

2-22 Πιθανότητες Μικρών ιαστηµάτων ιάστηµα (+ δ, ] µήκους δ PA { ( + δ ) A ( ) = 0} = 1 λδ + ο( δ ) PA { ( + δ) A ( ) = 1} = λδ + ο( δ) PA { ( + δ) A ( ) 2} = ο( δ) Απόδειξη: 2 λδ ( λδ ) PA { ( + δ) A ( ) = 0} = e = 1 λδ + = 1 λδ + ο( δ) 2 2 λδ ( λδ ) PA { ( + δ ) A ( ) = 1} = e λδ = λδ 1 λδ + = λδ + ο( δ ) 2 PA { ( + δ) A ( ) 2} = 1 PA { ( + δ) A ( ) = k} 1 k= 0 = 1 (1 λδ + ο( δ )) ( λδ + ο( δ )) = ο( δ )

2-23 Συνένωση & ιαχωρισµός ιαδικασιών Poisson λ 1 λp λ 1 + λ 2 λ p 1-p λ 2 A 1,, A k ανεξάρτητες διαδικασίες Poisson µε ρυθµούς λ 1,, λ k Συνενωµένες σε µια διαδικασία A= A 1 + + A k A είναι διαδικασία Poisson µε ρυθµό λ= λ 1 + + λ k λ(1-p) A: διαδικασία Poisson µε ρυθµό λ ιαχωρίζεται στις διαδικασίες A 1 & A 2 ανεξάρτητα, µε πιθανότητες p & 1-p αντίστοιχα A 1 είναι διαδικασία Poisson µε ρυθµό λ 1 = λp A 2 είναι διαδικασία Poisson µε ρυθµό λ 2 = λ(1-p)

2-24 Περιγραφή Στατιστικών Αφίξεων Η διαδικασία Poisson συνήθως χρησιµοποιείται για την περιγραφή αφίξεων πακέτων σε διάφορα προβλήµατα δικτύων Ο λόγος: διότι παρέχει ένα καλό µοντέλο για τη συνολική κίνηση ενός µεγάλου αριθµού ανεξάρτητων χρηστών n ροές κίνησης, µε ανεξάρτητους όµοια κατανεµηµένους χρόνους αφίξεων, των οποίων η κατανοµή F(s) δεν είναι αναγκαστικά εκθετική Ο ρυθµός αφίξεων κάθε ροής είναι λ/n Καθώς n, η αθροιστική ροή µπορεί να προσεγγισθεί από την Poisson κάτω από συνηθισµένες συνθήκες για την F(s) (πχ., F(0)=0, F (0)>0) Ο κυριότερος λόγος για την υπόθεση Poisson: Αναλυτική διερεύνηση των µοντέλων ουρών

2-25 Το Θεώρηµα του Lile λ N λ: ρυθµός αφίξεων πελατών N: µέσος αριθµός πελατών στο σύστηµα T T: µέση καθυστέρηση ανά πελάτη στο σύστηµα Θεώρηµα του Lile: Το σύστηµα σε µόνιµη κατάσταση N = λt

2-26 ιαδικασίες Αρίθµησης σε µια Ουρά α() N() β() N() : αριθµός πελατών στο σύστηµα το χρόνο α() : αριθµός αφίξεων πελατών ως το χρόνο β() : αριθµός αναχωρήσεων πελατών ως το χρόνο T i : χρόνος που πέρασε στο σύστηµα ο i οστός πελάτης

2-27 Μέσοι Χρόνοι Μέσος χρόνος στο διάστηµα [0,] Μέση χρόνοι στη µόνιµη κατάσταση 1 N = N( s) ds N lim N = 0 a () = = lim a() 1 T = Ti T = limt a () λ λ λ i= 1 β () δ = δ = limδ Θεώρηµα Lile N=λT Εφαρµόζεται σε οποιοδήποτε σύστηµα ουράς εφόσον: Τα όρια T, λ και δ υπάρχουν και λ= δ ίνουµε µια απλή γραφική απόδειξη κάτω από πιο περιοριστικές συνθήκες

2-28 Απόδειξη του Θεωρήµατος του Lile για FCFS i T 1 T 2 α() N() Υπόθεση: N()=0, άπειρες φορές συχνά. Για κάθε τέτοιο α ( ) α () 1 α( ) T 1 i N() s ds = Ti N() s ds N T 0 0 i 1 = = λ = α() Αν τα όρια N N, T T, λ λ υπάρχουν, έπεται ο τύπος του Lile Θα απαλλαγούµε από την τελευταία υπόθεση β() T i Σύστηµα FCFS, N(0)=0 α() και β(): σκαλωτά γραφήµατα N() = α()- β() Χρωµατισµένη περιοχή S () = Nsds ( ) 0

2-29 Απόδειξη του Θεωρήµατος του Lile για FCFS (συνέχεια) α() i N() β() T i T 1 T 2 Γενικώς ακόµη κι όταν η ουρά δεν είναι άδεια άπειρες φορές συχνά: β ( ) α( ) β() α() β() T 1 () 1 i α 1 Ti N() s ds Ti N() s ds 0 β() 0 α() i= 1 i= 1 δt N λt Έπεται το ζητούµενα αν υπάρχουν τα όρια T T, λ λ, και δ δ και λ=δ T i

2-30 Πιθανοκρατική Μορφή του Θεωρήµατος του Lile Ως τώρα έχουµε θεωρήσει µια απλή συνάρτηση δειγµατοληψίας µιας στοχαστικής διαδικασίας Τώρα θα επικεντρωθούµε στις πιθανότητες των διαφόρων συναρτήσεων δειγµατοληψίας µιας στοχαστικής διαδικασίας Πιθανότητα για n πελάτες στο σύστηµα το χρόνο p () = P{ N() = n} n Αναµενόµενος αριθµός πελατών στο σύστηµα το χρόνο EN [ ( )] = npn. { () = n} = npn() n= 0 n= 0

2-31 Πιθανοκρατική Μορφή του Θεωρήµατος του Lile (συνέχεια) p n (), E[N()] εξαρτώνται από το και την αρχική κατανοµή για =0 Θεωρούµε συστήµατα που συγκλίνουν σε µόνιµες καταστάσεις Υπάρχουν p n ανεξάρτητα της αρχικής κατανοµής lim p ( ) = p, n = 0,1,... n n Αναµενόµενος αριθµός πελατών στη µόνιµη κατάσταση [στοχαστική µέση τιµή EN = npn = lim E[ N( )] n= 0 Για µια εργοδική διαδικασία, ο χρονικός µέσος της συνάρτησης δειγµατοληψίας ισούται προς τη µέση τιµή της µόνιµης κατάστασης, µε πιθανότητα 1. N = lim N = lim E[ N( )] = EN

2-32 Πιθανοκρατική Μορφή του Θεωρήµατος του Lile (συνέχεια) Κατ αρχήν, µπορούµε να βρούµε την κατανοµή πιθανότητας της καθυστέρησης T i για τον πελάτη i, και από αυτήν τη µέση τιµή E[T i ], που συγκλίνει στη µόνιµη κατάσταση ET Για ένα εργοδικό σύστηµα i Πιθανοκρατική Μορφή του Τύπου του Lile: Ρυθµός αφίξεων ορισµένος ως = lim E[ T ] T 1 i T = lim = lim E[ T] = ET i i i E[ α( )] λ = lim i i EN = λ. ET

2-33 Χρονικές Στοχαστικές Μέσες Τιµές Χρονικές µέσες τιµές = Στοχαστικές µέσες τιµές, για όλα τα συστήµατα δικτύων Ισχύει αν µια απλή συνάρτηση δειγµατοληψίας της στοχαστικής διαδικασίας περιέχει όλες τις δυνατές πραγµατοποιήσεις της διαδικασίας καθώς Μπορεί να αιτιολογηθεί στη βάση των γενικών ιδιοτήτων των αλυσίδων Markov

2-34 Ροπο-Γεννήτρια Συνάρτηση 1. De niion: for any 2 IR: 8 Z 1 >< e x f X (x) dx; M X () =E[e X 1 ]= X e >: x j P fx = x j g ; j X coninuous X discree 2. If he momen generaing funcion M X () of X exiss and is nie in some neighborhood of =0, i deermines he disribuion of X uniquely. 3. Fundamenal Properies: for any n 2 IN: (i) (ii) dn d nm X() =E[X n e X ] dn d nm X(0) = E[X n ] 4. Momen Generaing Funcions and Independence: X; Y : independen ) M X+Y () =M X ()M Y () The opposie is no rue.

2-35 ιακριτές Τυχαίες Μεταβλητές Disribuion Prob. Mass Fun. Momen Gen. Fun. Mean Variance (parameers) PfX = kg M X () E[X] Var(X) Binomial (n; p) n k p k (1 p) n k (pe +1 p) n np np(1 p) k =0; 1;:::;n Geomeric (1 p) k 1 p p k =1; 2;::: Negaive Bin. ³ k 1 r 1 p r (1 p) k r h (r; p) k = r; r +1;::: pe 1 (1 p)e 1 p i pe r 1 (1 p)e r p 1 p p 2 r(1 p) p 2 Poisson k e k! e (e 1) k =0; 1;:::

2-36 Συνεχείς Τυχαίες Μεταβλητές Disribuion Prob. Densiy Fun. Momen Gen. Fun. Mean Variance (parameers) f X (x) M X () E[X] Var(X) Uniform over 1 b a (a; b) a<x<b e b e a (b a) a+b 2 (b a) 2 12 Exponenial e x x 0 1 1 Normal 1 p 2¼¾ e (x ¹)2 =2¾ 2 e ¹+(¾)2 =2 ¹ ¾ 2 (¹; ¾ 2 ) 1 <x<1