Στοχαστικές Διαδικασίες ΙΙ Ιανουάριος 07 Διαδικασίες Markov σε Συνεχή Χρόνο - Παραδείγματα Μ. Ζαζάνης Πρόβλημα. Εστω ένα σύστημα M/M//3 στο οποίο οι αφίξεις είναι Poisson με ρυθμό λ και οι δύο υπηρέτες εξυπηρετούν πελάτες, ο καθένας με ρυθμό µ. Υπάρχει χώρος αναμονής για δύο επιπλέον πελάτες εκτός από αυτόν που εξυπηρετείται. Αν όμως κάποιος πελάτης φθάσει στο σύστημα όταν υπάρχουν συνολικά 3 πελάτες ήδη στο σύστημα ένας εξυπηρετούμενος και δύο στο χώρο αναμονής) τότε φεύγει χωρίς να εξυπηρετηθεί και δεν επιστρέφει. ) Να βρείτε τον γεννήτορα της μαρκοβιανής διαδικασίας που περιγράφει τον αριθμό πελατών στο σύστημα. ) Είναι η διαδικασία χρονικά αντιστρέψιμη; 3) Να βρείτε την στάσιμη κατανομή. 4) Τι ποσοστό του χρόνου είναι κάθε υπηρέτης απασχολημένος; 5) Να βρείτε τον μέσο αριθμό πελατών στο σύστημα. 6) Να βρείτε το ποσοστό των πελατών οι οποίοι δεν εξυπηρετούνται. Λύση:. Ο χώρος καταστάσεων είναι {0,,, 3}, ο αριθμός των πελατών στο σύστημα, και ο γεννήτορας είναι λ λ 0 0 Q µ λ + µ) λ 0 0 µ λ + µ) λ 0 0 µ µ. Δεδομένου ότι η παραπάνω διαδικασία είναι διαδικασία γεννήσεων-θανάτων, ξέρουμε ότι είναι χρονικά αντιστρέψιμη. 3. Επομένως η στάσιμη κατανομή ικανοποιεί όχι μόνο τις συνθήκες ολικής ισορροπίας αλλά και τις συνθήκες τοπικής ισορροπίας, δηλαδή λπ 0 µπ λπ µπ λπ µπ 3 Θέτοντας ρ : λ/µ, οι παραπάνω εξισώσεις δίνουν π ρπ 0 π ρ π 0 π 3 4 ρ3 π 0 Η πιθανότητα π 0 προσδιορίζεται από την συνθήκη κανονικοποίησης π 0 + π + π + π 3 και επομένως π 0 + ρ + ρ + ) 4 ρ3
ή π 0 + ρ + ρ + 4 ρ3. 4. Οταν υπάρχουν ή τρείς πελάτες στο σύστημα, και οι δύο υπηρέτες είναι απασχολημένοι. Οταν υπάρχει ένας πελάτης, ένας από τους δύο υπηρέτες απασχολείται και θα υποθέσουμε ότι είναι εξίσου πιθανό να είναι είτε ο ένας, είτε ο άλλος. Ενας τρόπος να εξασφαλίσουμε ότι συμβαίνει αυτό είναι να υποθέσουμε ότι, όταν ένας πελάτης φθάνει και βρίσκει και τους δύο υπηρέτες διαθέσιμους, διαλέγει έναν από τους δύο τυχαία, ισοπίθανα, και ανεξάρτητα από οτιδήποτε άλλο.) Με βάση το παραπάνω σκεπτικό, το ποσοστό του χρόνου που ο κάθε υπηρέτης είναι απασχολημένος είναι 0 π 0 + π + π + π 3 5. Ο μέσος αριθμός πελατών στο σύστημα είναι βεβαίως 3 iπ i ρ + ρ + 4 ρ3 + ρ + ρ + 4 ρ3. ρ + ρ + 3 4 ρ3 + ρ + ρ + 4 ρ3. 6. Οι πελάτες που δεν εξυπηρετούνται είναι εκείνοι που φθάνουν στο σύστημα όταν υπάρχουν ήδη τρεις πελάτες στο σύστημα. Επειδή οι αφίξεις είναι Poisson το ποσοστό των πελατών που φθάνουν στο σύστημα όταν υπάρχουν τρεις πελάτες παρόντες είναι ίσο με το ποσοστό του χρόνου που υπάρχουν τρεις πελάτες στο σύστημα και αυτό είναι π 3 ρ 3 4 + 4ρ + ρ + ρ 3. Πρόβλημα. Εστω μια διαδικασία Markov με τρεις καταστάσεις, 0, και, και γεννήτορα Q 0 0 0 0 ) Να κατατάξετε τις καταστάσεις. ) Υπολογίσετε τον πίνακα πιθανοτήτων μετάβασης P t) e Qt : n0 tn n! Qn, t 0 χρησιμοποιώντας τα ιδιοδιανύσματα και τις ιδιοτιμές του Q.) 3) Με βάση τον πίνακα πιθανοτήτων μετάβασης υπολογίστε τις πιθανότητες PX s, X s+t X 0 0) καθώς και την PX s+t X 0 0, X s ), αν s, t > 0. Λύση:. Η καταστάσεις 0 και είναι μεταβατικές ενώ η είναι απορροφητική.. λi Q λ + 0 λ + 0 0 λ λ + )λ )λ 0. Συνεπώς οι ιδιοτιμές είναι, και 0. Τα αντίστοιχα ιδιοδιανύσματα είναι 0 0, 0, 0
Ο πίνακας των ιδιοδιανυσμάτων, M, και ο αντίστροφός του είναι M 0 0 0, M 0 0 0 0 Συνεπώς e Qt 0 0 0 e t e t 0 0 0 0 e t e t e t e t 0 e t e t 0 0 3. PX s, X s+t X 0 0) PX s+t X 0 0, X s )PX s X 0 0) Επίσης PX s+t X s )PX s X 0 0) Μαρκοβιανή ιδιότητα) PX t X 0 )PX s X 0 0) Χρονική Ομοιογένεια) e t) e s e s). PX s X 0 0, X s+t ) PX s, X s+t X 0 0) PX s+t X 0 0) e t ) e s e s) e s+t). Πρόβλημα 3. Εστω μια διαδικασία Markov με δύο καταστάσεις, 0 και, και γεννήτορα [ ] Q ) Να βρείτε την στάσιμη κατανομή. ) Παρατηρήστε ότι Q )Q. Να βρείτε την αντίστοιχη έκφραση για την n οστή δύναμη, Q n. 3) Χρησημοποιήστε την παραπάνω έκφραση για να υπολογίσετε τον πίνακα πιθανοτήτων μετάβασης P t) e Qt : n0 tn n! Qn, t 0. Εναλλακτικά, μπορείτε να υπολογίσετε τον πίνακα e tq χρησιμοποιώντας τα ιδιοδιανύσματα και τις ιδιοτιμές του Q.) 4) Με βάση τον πίνακα πιθανοτήτων μετάβασης υπολογίστε την PX t 0, X t 0 X 0 0, X 3t 0) καθώς και η συνδιακύμανση των τυχαίων μεταβλητών X t, X t δεδομένου ότι X 0 X 3t 0. Λύση:. Η στάσιμη κατανομή προκύπτει ως λύση του συστήματος [ ] [π 0, π ] 0, π 0 + π. εξίσωση κανονικοποίησης) Οι εξισώσεις αυτές γράφονται ως π 0 + π 0, π 0 π 0, π 0 + π.
Η δεύτερη από τις εξισώσεις αυτές είναι βέβαια ίδια με την πρώτη!) Η λύση προφανώς είναι π 0 π., 3. Είναι εύκολο να δει κανείς ότι Q )Q και επομένως, επαγωγικά, Q n ) n Q, n,, 3,.... Συνεπώς, e tq t n t n I + n! Qn I + Q n! ) n ) I Q t) n I n! Q e t ) n n n ] 4. Ισχύει ότι [ +e t e t e t +e t. PX t 0, X t 0 X 0 0, X 3t 0) PX t 0, X t 0, X 3t 0) X 0 0) PX 3t 0 X 0 0) PX 3t 0 X t 0)PX t 0 X t t)px t 0 X t 0) PX 3t 0 X 0 0) ) +e t 3 +e 6t όπου χρησιμοποιήσαμε την Μαρκοβιανή ιδιότητα και την χρονική ομοιογένεια της διαδικασίας. Στην συνέχεια υπολογίζουμε τις συνδιακυμάνσεις. Ισχύει ότι µ t : E[X t X 0 0, X 3t 0] PX t X 0 0, X 3t 0) + 0 PX t 0 X 0 0, X 3t 0) PX t X 0 0, X 3t 0) PX t, X 3t 0 X 0 0) PX 3t 0 X 0 0) PX 3t 0 X t )PX t X 0 0) PX 3t 0 X 0 0) και αναλογα e 4t +e 6t e t e 4t ) e t) + e 6t µ t : E[X t X 0 0, X 3t 0] PX t X 0 0, X 3t 0) + 0 PX t 0 X 0 0, X 3t 0) PX t X 0 0, X 3t 0) PX t, X 3t 0 X 0 0) PX 3t 0 X 0 0) Συνεπώς, PX 3t 0 X t )PX t X 0 0) PX 3t 0 X 0 0) µ t. e 4t +e 6t e t Cov[X t, X t X 0 0, X 3t 0] E[X t X t X 0 0, X 3t 0] µ t µ t PX t, X t X 0 0, X 3t 0) µ t µ t PX t, X t, X 3t 0 X 0 0) µ t µ t PX 3t 0 X 0 0) PX 3t 0 X t )PX t X t )PX t X 0 0) PX 3t 0 X 0 0) e 4t ) e t) + e 6t µ t µ t
e t +e t +e 6t e t 4 e 4t ) e t) e 4t ) e t ) + e 6t ) e 4t ) e t ) 4 4 4 + e 6t 4 e 4t ) e t) + e 6t e 4t ) e t) e 6t + e 6t ). + e 6t + e 6t ) ) Πρόβλημα 4. Εστω μια διαδικασία Markov χώρο καταστάσεων {0,,, 3} και γεννήτορα λ 0 λ 0 λ 0 0 Q λ 3λ λ λ λ λ 3λ λ 0 λ 3 λ 3 λ 3 Στο ακόλουθο σχήμα φαίνεται το διάγραμμα μετάβασης της διαδικασίας.. Να δείξετε ότι η διαδικασία είναι χρονικά αναστρέψιμη.. Να χρησιμοποιήσετε το γεγονός αυτό για να βρείτε την στάσιμη κατανομή. Λύση. Υπάρχουν δύο βρόγχοι στο σύστημα όπως φαίνεται και στο σχήμα ο αριστερός, 0 0 και ο δεξιός, 3 3). Εφαρμόζοντας το κριτήριο του Kolmogorov Για τον αριστερό βρόγχο το γινόμενο των ρυθμών στην ωρολογιακή φορά 0 0) είναι λ 0 λ λ ενώ στην ανθωρολογιακή 0 0) είναι λ 0 λ λ. Τα γινόμενα αυτά είναι ίσα. Το ίδιο συμπέρασμα βγάζουμε και για τον δεξιό βρόγχο. Συνεπώς από το κριτήριο του Kolmogorov η διαδικασία είναι χρονικά αντιστρέψιμη.. Εφόσον η διαδικασία είναι χρονικά αντιστρέψιμη θα ισχύει ότι π i q ij π j q ji για κάθε i, j. Συνεπώς έχουμε ότι π 0 λ 0 π λ, π λ π λ, π λ π 3 λ 3.
Επομένως υπάρχει κάποια άγνωστη) σταθερά για την οποία ισχύει ότι π i λ i C, i 0,,, 3. Η τιμή της C προκύπτει από την σχέση κανονικοποίησης Συνεπώς 3 π i π i Cλ 0 + λ + λ + λ 3 ). λ i λ 0 + λ + λ + λ, i 0,..., 3. 3 Πρόβλημα 5. Εστω ένα σύστημα στο οποίο οι αφίξεις είναι Poisson με ρυθμό λ και απεριόριστο χώρο αναμονής. Στο σύστημα υπάρχει ένας υπηρέτης που εξυπηρετεί πελάτες σύμφωνα με την εκθετική κατανομή με ρυθμό µ. Οταν ο αριθμός πελατών στο σύστημα είναι N ή μεγαλύτερος ενεργοποιείται και ένας δεύτερος, εφεδρικός υπηρέτης όμοιος με τον πρώτο, ο οποίος επίσης εξυπηρετεί πελάτες με ρυθμό µ. Οταν ο αριθμός των πελατών πέφτει κάτω από το N, το σύστημα λειτουργεί πάλι με έναν υπηρέτη. ) Να βρείτε τον γεννήτορα της μαρκοβιανής διαδικασίας που περιγράφει τον αριθμό πελατών στο σύστημα. ) Να βρείτε την στάσιμη κατανομή. 3) Να βρείτε το ποσοστό του χρόνου που ο κύριος και ο εφεδρικός υπηρέτης είναι απασχολημένοι. Λύση.. Το σύστημα περιγράφεται απο μια Μαρκοβιανή διαδικασία με χώρο καταστάσεων S {0,,,...} που αντιστοιχούν στον αριθμό των πελατών που είναι παρόντες. Ο γεννήτορας είναι q i,i+ λ για κάθε i 0,,,... q i,i µ για i,,..., N, q i,i µ για i N, N +, N +,... q ij 0 σε κάθε άλλη περίπτωση. Ο παραπάνω γεννήτορας περιγράφεται και από το ακόλουθο διάγραμμα.. Πρόκειται για μια διαδικασία γεννήσεων-θανάτων. Συνεπώς είναι χρονικά αντιστρέψιμη και ισχύουν οι συνθήκες τοπικής ισορροπίας π i q ij π j q ji. Εφαρμόζοντάς τις για διαδοχικές καταστάσεις έχουμε π i λ π i µ, i,,..., N, π i λ π i µ, i N, N +, N +,.... Θέτοντας ρ λ/µ, και λύνοντας αναδρομικά τις δύο παραπάνω εξισώσεις έχουμε: π i ρ i π 0, i,,..., N, ) π i π N ρ ) i N+, i N, N +, N +,.... )
Από την ) έχουμε π N π 0 ρ N και αντικαθιστώντας την σχέση αυτή στην ) έχουμε ρ i π i π 0, i N, N +, N +,... 3) i N+ Συνεπώς, οι σχέσεις ) και 3) προσδιορίζουν την στάσιμη κατανομή. Η πιθανότητα π 0 προσδιορίζεται από την συνθήκη κανονικοποίησης N π i + π i in N ρ i π 0 + in π 0 ρ N ρ + π 0ρ N ρ/ ρ/ π 0 ρ i i N+ π 0 ρ N ρ + π 0ρ N ρ i N+ ) Η άπειρη σειρά στις προηγούμενες ισότητες συγκλίνει υπό την προϋπόθεση ότι ρ/ < δηλαδή λ < µ. Εφ όσον ισχύει αυτή η συνθήκη, in π 0 ρ) ρ N +ρ ρ 4) 3. Ο κύριος υπηρέτης είναι απασχολημένος εφ όσον υπάρχει τουλάχιστον ένας πελάτης στο σύστημα και επομένως το ποσοστό του χρόνου που είναι απασχολημένος είναι π 0. Ο εφεδρικός υπηρέτης είναι απασχολημένος όταν υπάρχουν N ή περισσότεροι πελάτες στο σύστημα και επομένως το ποσοστό του χρόνου που είναι απασχολημένος είναι N N π i π 0 ρ i π 0 ρ N ρ.