ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ

Transcript

1 ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΣΧΟΛΗ ΘΕΤΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ ΙΩΑΝΝΗΣ ΜΟΣΧΑΚΗΣ Μ, Π Α Α Κ Υ Ν ΔΙΔΑΚΤΟΡΙΚΗ ΔΙΑΤΡΙΒΗ Επιβλε πων: Ελε νη Καρατζα, Καθηγη τρια ΘΕΣΣΑΛΟΝΙΚΗ Οκτω βριος 2015

2 ii

3 ARISTOTLE UNIVERSITY OF THESSALONIKI FACULTY OF SCIENCES SCHOOL OF INFORMATICS IOANNIS MOSCHAKIS M, S E P C C C S PHD THESIS Supervisor: Helen Karatza, Professor THESSALONIKI October 2015

4

5 Στους γονείς μου, την αδελφή μου, και τη Γιούλη μου

6

7 v ΙΩΑΝΝΗΣ ΜΟΣΧΑΚΗΣ Μ, Π Α Α Κ Υ Ν ΔΙΔΑΚΤΟΡΙΚΗ ΔΙΑΤΡΙΒΗ Υποβλη θηκε στο Τμη μα Πληροφορικη ς του Αριστοτελει ου Πανεπιστημι ου Θεσσαλονι κης Ημερομηνι α Προφορικη ς Εξε τασης: Τετα ρτη 7 Οκτωβρι ου 2015 Εξεταστική Επιτροπή Ελε νη Καρατζα, Καθηγη τρια, Τμ. Πληροφορικη ς Α.Π.Θ., Επιβλε πουσα Γεω ργιος Παπαδημητρι ου, Καθηγητη ς, Τμ. Πληροφορικη ς Α.Π.Θ., Με λος Συμβουλευτικη ς Επιτροπη ς Πε τρος Νικοπολιτι δης, Επι κουρος Καθηγητη ς, Τμ. Πληροφορικη ς Α.Π.Θ., Με λος Συμβουλευτικη ς Επιτροπη ς Παναγιω της Κατσαρο ς, Επι κουρος Καθηγητη ς, Τμ. Πληροφορικη ς Α.Π.Θ., Με λος Εξεταστικη ς Επιτροπη ς Αναστα σιος Γου ναρης, Επι κουρος Καθηγητη ς, Τμ. Πληροφορικη ς Α.Π.Θ., Με λος Εξεταστικη ς Επιτροπη ς Κωνσταντι νος Μαργαρι της, Καθηγητη ς, Τμ. Εφαρμοσμε νης Πληροφορικη ς Παν/μιο Μακεδονι ας, Με λος Εξεταστικη ς Επιτροπη ς Νικο λαος Σαμαρα ς, Αναπληρωτη ς Καθηγητη ς, Τμ. Εφαρμοσμε νης Πληροφορικη ς Παν/μιο Μακεδονι ας, Με λος Εξεταστικη ς Επιτροπη ς

8 vi Ιωα ννης Μοσχα κης Α.Π.Θ. Τι τλος Διδακτορικη ς Διατριβη ς: Μοντελοποι ηση, Προσομοι ωση και Ανα λυση της Απο δοσης και του Κο στους Υπολογιστικω ν Νεφω ν Η ε γκριση της παρου σης Διδακτορικη ς Διατριβη ς απο το Τμη μα Πληροφορικη ς του Αριστοτελει ου Πανεπιστημι ου Θεσσαλονι κης δεν υποδηλω νει αποδοχη των γνωμω ν του συγγραφε ως. (Ν. 5343/1932, α ρθρο 202, παρ. 2)

9 vii Ευχαριστι ες Με την ολοκλη ρωση της συγγραφη ς αυτη ς της διατριβη ς, ε χω την ανα γκη να ευχαριστη σω ο λους τους ανθρω πους που με τον ε να η τον α λλο τρο πο με βοη θησαν και με στη ριξαν τα χρο νια των σπουδω ν μου, προπτυχιακω ν, μεταπτυχιακω ν και διδακτορικω ν. Κατ αρχα ς θα η θελα να ευχαριστη σω θερμα την επιβλε πουσα Καθηγη - τρια της διατριβη ς μου κυρι α Ελε νη Καρατζα για τον αμε τρητο χρο νο που μου διε θεσε, για τις σημαντικε ς γνω σεις που μου μεταλαμπα δευσε καθω ς και για την καθοδη γηση και τις συμβουλε ς που μου παρει χε σε κα θε δυ σκολη στιγμη. Η διατριβη αυτη, δεν θα μπορου σε να ολοκληρωθει χωρι ς τη συμπαρα σταση και την α ψογη συνεργασι α που ει χαμε ο λα αυτα τα χρο νια. Θα η θελα επι σης να ευχαριστη σω, τα με λη της συμβουλευτικη ς μου επιτροπη ς Καθηγητη κυ ριο Γεω ργιο Παπαδημητρι ου και τον Επι κουρο Καθηγητη κυ ριο Πε τρο Νικοπολιτι δη για την α ριστη συνεργασι α μαζι τους. Η διατριβη αυτη ολοκληρω θηκε στο Εργαστη ριο Αρχιτεκτονικη ς και Δικτυ ων Υπολογιστω ν ο που ει χα την ευκαιρι α να γνωρι σω καλου ς φι λους με τους οποι ους συνεργα στηκα, αντα λλαξα απο ψεις και με στη ριξαν ο λο αυτο καιρο. Θα η θελα λοιπο ν να ευχαριστη σω τους καλου ς φι λους και συναδε λφους Δρ. Κω στα Καραογλα νογλου και Δρ. Φω τη Λου κο καθω ς και τη Δρ. Σοφι α Πετρι δου για τη συνεργασι α και τη βοη θεια τους. Επι σης, απο τα προπτυχιακα μου χρο νια θα η θελα να ευχαριστη σω τους πολυ καλου ς μου φι λους και συναδε λφους Δρ. Χρη στο Ζιγκο λη και Δρ. Δημη τριο Μη λιο αλλα και τους Γεω ργιο Κεμετζη και Απο στολο Κρητικο για τη βοη θεια και τη στη ριξη τους. Ένα πολυ μεγα λο ευχαριστω οφει λω στους γονει ς μου, Βαρβα ρα και Αθανα σιο και την αδερφη μου Μαρι α - Χριστι να για την αγα πη και στη ριξη που το σο απλο χερα μου παρε χουν. Τε λος, Θα η θελα να ευχαριστη σω την Γιου λη μου για την απε ραντη υπομονη, κατανο ηση, αγα πη και βοη θεια που μου ε δειξε και μου παρει χε ο λα αυτα τα χρο νια. Ιωάννης Μοσχάκης Θεσσαλονίκη, Οκτώβριος 2015

10 viii

11 ix Περι ληψη Τα υπολογιστικα νε φη, που πριν απο λι γα μο λις χρο νια αποτελου σαν μια εξειδικευμε νη αγορα για νε ους χρη στες με περιπετειω δεις διαθε σεις, εξελι χθηκαν σε μια αγορα δισεκατομμυρι ων δολαρι ων και πλε ον αποτελου ν τη μεγαλυ τερη πλατφο ρμα για υπολογισμου ς μεγα λης κλι μακας για κα θε τυ πο δεδομε νων. Η πανταχου παρου σα προ σβαση σε μια δυνητικά απεριο ριστη δεξαμενη απο υπολογιστικου ς πο ρους, οδη γησε σε μια επανα σταση στις διαδικτυακε ς υπηρεσι ες με αποτε λεσμα ο λο και περισσο τεροι κλασσικοι παι χτες της παλαια ς σχολη ς της ανα λυσης δεδομε νων να μεταβαι νουν σε πλατφο ρμες νεφω ν προσπαθω ντας να εξασφαλι σουν και αυτοι ε να κομμα τι της πι τας του νε φους. Καθω ς τα νε φη επεκτει νονται, ο λο και περισσο τεροι πελα τες του νε φους μετακινου ν τις επιχειρη σεις τους σε πλατφο ρμες νε φους σκοπευ οντας να επιτυ χουν μεγαλυ τερους βαθμου ς αξιοπιστι ας, ευελιξι ας και απο δοσης. Ει ναι επο μενο να δημιουργει ται συνεπω ς η ανα γκη για καλυ τερες και πιο ευε λικτες μεθο δους χρονοδρομολο γησης προσαρμοσμε νες στους πο ρους του νε φους που ει ναι ρευστοι και δυναμικοι. Αυτοι οι πο ροι ε χουν επι πεδα ανομοιογε νειας ανη κουστα στα κλασσικα κατανεμημε να συστη ματα. Σε αυτη τη διατριβη, σκοπο ς μας ει ναι να εξερευνη σουμε πως οι υπα ρχουσες με θοδοι χρονοδρομολο γησης μπορου ν να διασκευαστου ν και να βελτιστοποιηθου ν ε τσι ω στε να ει ναι χρη σιμες σε περιβα λλοντα νε φους αλλα και να αναπτυ ξουμε νε ες, μοντε ρνες μεθο δους που ει ναι πιο καλα προσαρμοσμε νες σε περιβα λ- λοντα νεϕω ν. Γι αυτο το λο γο, ε χουμε χωρι σει τη διατριβη αυτη σε δυ ο θεματικε ς ενο τητες, στην πρω τη ερευνου με τη χρη ση μεθο δων χρονοδρομολο γησης για εργασι ες τυ που ομα δας, ενω στη δευ τερη παρουσια ζουμε καινοτο μα σχη ματα για μετα-ευρετικη βελτιστοποι ηση της χρονοδρομολο γησης εργασιω ν τυ που σα κου-απο -εργασι ες. Η πρω τη ενο τητα ξεκινα με την παρουσι αση ενο ς μοντε λου νε φους με δυναμικη αναπροσαρμογη των δεσμευμε νων πο ρων του, που χρησιμοποιει μεθο δους χρονοδρομολο γησης εργασιω ν τυ που ομα δας γνωστω ν απο τα κατανεμημε να συστη ματα. Όπως στα κατανεμημε να συστη ματα ε τσι και στο νε φος εμφανι ζεται το φαινο μενο της κατακερμα τισης του χρονοδιαγρα μματος. Για να αντιμετωπι σουμε το φαινο μενο αυτο ενσωματω νουμε μηχανισμου ς μετανα στευσης και αποφυγη ς λιμοκτονι ας εργασιω ν στο αρχικο μας μοντε λο και καταφε ρνουμε να μειω σουμε τον κατακερματισμο αυξα νοντας ταυτο χρονα τη χρησιμοποι ηση των πο ρων του νε φους. Καθω ς η χρη ση του νε φους επιφε ρει κο στος στο χρη στη, παρουσια ζουμε και ε να μοντε λο με ενεργή εξισορ-

12 x ρο πηση συστη ματος που επιφε ρει σημαντικη μει ωση του κο στους σε σχε ση με τα παθητικα μοντε λα εξισορρο πησης που παρουσια ζονται προηγουμε νως. Για την αποτι μηση ο λων αυτω ν των μοντε λων χρησιμοποιου με προσομοι ωση διακριτω ν γεγονο των σε συνδυασμο με δια φορα μοντε λα φο ρτων εργασι ας α λλοτε στατικω ν και α λλοτε δυναμικω ν. Για την αξιολο γηση της απο δοσης των προτεινο μενων σχημα των, χρησιμοποιου με ευρε ως διαδεδομε νες μετρικε ς απο τα κατανεμημε να συστη ματα ενω για την αποτι μηση του κο στους υιοθετου με νε ες μετρικε ς κατα λληλες για συστη ματα νε φους. Στη δευ τερη ενο τητα αυτη ς της διατριβη ς, προσπερνα με τις κλασσικε ς μεθο δους χρονοδρομολο γησης και αρχικα εξετα ζουμε ε να μοντε λο για εφαρμογε ς του Διαδικτυ ου-των-πραγμα των που χρησιμοποιει πολλαπλα ομοιογενη σε απο δοση, αλλα ο χι και σε με γεθος νε φη. Στο συ στημα αυτο, χρησιμοποιου με ε να καινοτο μο σχη μα με Προσομοιωμε νη Ανο πτηση για τη μεταευρετικη βελτιστοποι ηση της χρονοδρομολο γησης. Κατο πιν, εξετα ζουμε εις βα θος τις εφαρμογε ς τυ που σα κου-απο -εργασι ες σε δια-νεφικα συστη ματα με μεγαλυ τερους βαθμου ς ανομοιογε νειας. Στα μοντε λα αυτα κα νουμε χρη ση ακο μα πιο προχωρημε νων μεθο δων μετα-ευρετικη ς χρονοδρομολο γησης ο πως η Θερμοδυναμικη Προσομοιωμε νη Ανο πτηση και η Αναζη τηση Ταμπου. Ένας προσαρμοσμε νος προσομοιωτη ς διακριτω ν γεγονο των δικη ς μας σχεδι ασης χρησιμοποιη θηκε για την προσομοι ωση ο λων αυτω ν των συστημα των ε τσι ω στε να καταστει δυνατη η εξο ρυξη σημαντικω ν στατιστικω ν μετρικω ν απο τη λειτουργι α των μοντε λων. Για τη δημιουργι α συνθετικω ν φο ρτων εργασι ας για τις εργασι ες τυ που σα κου-απο -εργασι ες χρησιμοποιη σαμε ε να μοντε ρνο μοντε λο φο ρτου το οποι ο ενσωματω νει πολλα απο τα ποιοτικα χαρακτηριστικα που συχνα εμφανι ζονται σε πραγματικα ι χνη εργασιω ν αυτου του τυ που. Ως βα ση συ γκρισης για τα σχη ματα που αναπτυ ξαμε, χρησιμοποιη σαμε ε να state-of-the-art ντετερμινιστικο αλγο ριθμο για χρονοδρομολο γηση εργασιω ν σα κου-απο -εργασι ες ενω οι μετρικε ς απο δοσης και κο στους η ταν προσαρμοσμε νες στις εργασι ες αυτε ς. Για να ανακεφαλαιω σουμε, η προσφορα αυτη ς της διατριβη ς επι κειται στην προσαρμογη και την ανα πτυξη πολλαπλω ν μεθοδολογιω ν χρονοδρομολο γησης για δια φορες οικογε νειες παρα λληλων εργασιω ν σε δυναμικα μονονεφικα και πολυ-νεφικα συστη ματα με δια φορους βαθμου ς ετερογε νειας σε απο δοση, κο στος και με γεθος.

13 xi Extended Abstract Cloud Computing, just a niche market for early adopters with adventurous temperaments a few years ago, has evolved into a multi-billion dollar business and has established itself as the major computing platform for all kinds of data analysis in the exa scale. Ubiquitous access, to a virtually in inite pool of computing resources has spurred a revolution in online services with more and more old-school data-analytics players moving to the cloud and seeking a piece of the cloud computing pie. As the clouds grow, so do the scores of clients looking to move their businesses to the cloud trying to incorporate greater levels of lexibility, reliability and performance into their infrastructure. A need therefore arises, the need for better and more lexible scheduling of the cloud s resources, which are luid and dynamic in nature. These resources, have levels of heterogeneity that are unheard of in classical distributed systems. In this thesis, our aim is, to explore how current scheduling methods can be adapted and optimized for use in the clouds and also develop new, modern methods that are better suited for cloud environments. To that end, we have partitioned this thesis into two sections, in the irst we explore the use of gang scheduling methodologies while in the second we introduce novel scheduling schemes for meta-heuristic optimization in bag-of-tasks (BoT) scheduling. The irst section, begins with the introduction of a cloud computing model with dynamic scaling features that makes use of gang scheduling algorithms used in distributed systems. As with distributed systems, cloud gang scheduling faces the problem of schedule fragmentation. To rectify this issue, we incorporate job migrations and starvation handling into our original model and manage to decrease fragmentation and increase resource-utilization. Since cloud usage carries cost, we also seek to minimize the cost of our model by introducing an active resource balancing scheme into it, a scheme which manages to considerably reduce costs when compared to the passive balancing systems used previously. To study all these models, and their underlying features, we make use of discrete event simulation in combination with various workload models that provide both static and highly variant job traces. We analyze the results of said simulation using well-known, widely applied metrics for job performance as well as newer metrics that examine the cost of the proposed systems. In the second section of this thesis, we move past traditional scheduling methods. Initially, we study a model for Internet-of-Things applications that

14 xii utilizes multiple-clouds with some degree of heterogeneity and a novel Simulated Annealing based scheme for meta-heuristic scheduling optimization. Later on, we delve even deeper and explore the use of bag-of-tasks scheduling frameworks in inter-connected cloud models with greater degrees of heterogeneity. These models, make use of even more advanced meta-heuristic scheduling schemes like Thermodynamic Simulated Annealing and Tabu-Search in the scheduling of bag-of-tasks applications. A customized discrete event simulator of our own design is used to simulate all of the above systems and extract meaningful statistical measurements of their operation. For bag-of-tasks applications, we employ the use of a modern workload model which incorporates many of the qualitative features usually prevalent in real-world workloads. Our scheduling schemes are compared, both in terms of performance and cost, with state-of-the-art deterministic algorithms for BoT scheduling using metrics that are tailored to bag-of-tasks applications. To summarize, the contribution of this thesis lies in the adaptation and exploration of multiple methodologies, both well established and novel ones, in the scheduling of different families of parallel applications in dynamic single, multi, and inter-cloud computing models with varying degrees of performance, cost and size heterogeneity.

15 Περιεχόμενα xiii Περιεχόμενα Κατάλογος πινάκων Κατάλογος σχημάτων xix xxi 1 Εισαγωγή Προ λογος Συστη ματα υπολογιστικω ν Νεφω ν Ιστορικη αναδρομη Ορισμο ς και κυ ρια χαρακτηριστικα Ταξινομι α υπολογιστικω ν Νεφω ν Πλεονεκτη ματα Συ γκριση με το Πλε γμα Χρονοδρομολο γηση παρα λληλων εργασιω ν Εργασι ες τυ που ομα δας Εργασι ες τυ που σα κου-απο -εργασι ες Μετα-ευρετικοι αλγο ριθμοι χρονοδρομολο γησης Ορισμο ς και χαρακτηριστικα Προσομοιωμε νη Ανο πτηση Αναζη τηση Ταμπου Συνεισφορα της διατριβη ς Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή Εισαγωγη Μοντελοποι ηση του συστη ματος και του φο ρτου εργασιω ν Με θοδοι χρονοδρομολο γησης εργασιω ν τυ που ομα δας Κατανομη εργασιω ν Δρομολο γηση εργασιω ν Διαχει ριση εικονικω ν μηχανω ν

16 xiv Περιεχόμενα Δε σμευση επιπρο σθετων εικονικω ν μηχανω ν Απελευθε ρωση εικονικω ν μηχανω ν Αποτι μηση της απο δοσης και του κο στους Μετρικε ς απο δοσης Μετρικε ς κο στους Παρα μετροι προσομοι ωσης Αποτελε σματα προσομοι ωσης Συμπερα σματα Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών Εισαγωγη Μοντε λο συστη ματος και φο ρτου εργασι ας Χρονοδρομολο γηση εργασιω ν Μετανα στευση εργασιω ν Διαχει ριση λιμοκτονι ας των εργασιω ν Διαχει ριση εικονικω ν μηχανω ν Δε σμευση εικονικω ν μηχανω ν Αποδε σμευση εικονικω ν μηχανω ν Αποτι μηση της απο δοσης και του κο στους Μετρικε ς απο δοσης Μετρικε ς κο στους Παρα μετροι προσομοι ωσης Αποτελε σματα της προσομοι ωσης Συμπερα σματα Η επίδραση του μεταβαλλόμενου φόρτου και της ενεργούς εξισορρόπησης συστήματος Εισαγωγη Μοντε λο συστη ματος Μοντε λο φο ρτου εργασι ας Με θοδοι κατανομη ς, χρονοδρομολο γησης & μεταναστευ σεων Κατανομη εργασιω ν Χρονοδρομολο γηση εργασιω ν Μετανα στευση εργασιω ν Διαχει ριση εικονικω ν μηχανω ν Δε σμευση εικονικω ν μηχανω ν

17 Περιεχόμενα xv Αποδε σμευση εικονικω ν μηχανω ν Αποτι μηση της απο δοσης και του κο στους Μετρικε ς απο δοσης Μετρικε ς κο στους Παρα μετροι προσομοι ωσης Αποτελε σματα προσομοι ωσης Συμπερα σματα Χρονοδρομολόγηση παράλληλων εργασιών στο Διαδίκτυο των πραγμάτων με προσομοιωμένη ανόπτηση Εισαγωγη Μοντε λο Νε φους Μοντε λο συστη ματος Μοντε λο κο στους των εικονικω ν μηχανω ν Μοντε λο εργασιω ν για το Διαδι κτυο των Πραγμα των Βαθμο ς παραλληλισμου Χρο νοι εκτε λεσης Μεταξυ των αφι ξεων χρο νοι Χρονοδρομολο γηση εργασιω ν Καθολικη χρονοδρομολο γηση Τοπικη χρονοδρομολο γηση Αποτι μηση του μοντε λου και παραμετροποι ηση της προσομοι ωσης Μετρικε ς Απο δοσης και Κο στους Παρα μετροι προσομοι ωσης Αποτελε σματα και ανα λυση Αποτελε σματα μετρικω ν απο δοσης Αποτελε σματα μετρικω ν κο στους Συμπερα σματα Πολυκριτηριακή βελτιστοποίηση χρονοδρομολόγησης BoT εργασιών σε ετερογενή πολύ-νεφικά συστήματα Εισαγωγη Μοντε λο Νε φους Μοντε λο συστη ματος Μοντε λο μεγε θους Νεφω ν Κο στος και απο δοση εικονικω ν μηχανω ν

18 xvi Περιεχόμενα 6.3 Μοντε λο εργασιω ν Μεταβολη του φο ρτου εργασι ας Μοντε λο χρονοδρομολο γησης Δια-νεφικη κατανομη εργασιω ν Χρονοδρομολο γηση σε επι πεδο νε φους Χρονοδρομολο γηση με Προσομοιωμε νη Ανο πτηση Χρονοδρομολο γηση με Θερμοδυναμικη Προσομοιωμε νη Ανο πτηση Αποτι μηση του μοντε λου και παραμετροποι ηση προσομοι ωσης Μετρικε ς απο δοσης Μετρικε ς κο στους Παρα μετροι προσομοι ωσης Αποτελε σματα προσομοι ωσης Αποτελε σματα μετρικω ν απο δοσης Αποτελε σματα μετρικω ν κο στους Συμπερα σματα Μετα-ευρετικοί μέθοδοι βελτιστοποίησης για εργασίες ΒοΤ σε πολυ-νεφικά συστήματα με αφίξεις πολλαπλών επιπέδων και κρίσιμες εργασίες Μοντε λο υπολογιστικω ν νεφω ν Μοντε λο συστη ματος Μοντε λο μεγε θους των νεφω ν Μοντε λο κο στους και απο δοσης των VM Μοντε λο κο στους των VM Μοντε λο εργασιω ν Προσαρμογη του φο ρτου εργασι ας Τοπικε ς & Κρι σιμες Εργασι ες Μοντε λο χρονοδρομολο γησης Δια-νεφικο επι πεδο Επι πεδο Νε φους Χρονοδρομολο γηση Κρι σιμων Εργασιω ν Μετρικε ς και παραμετροποι ηση προσομοι ωσης Μετρικε ς απο δοσης Μετρικε ς κο στους Παρα μετροι προσομοι ωσης

19 Περιεχόμενα xvii 7.5 Αποτελε σματα και ανα λυση Αποτελε σματα μετρικω ν απο δοσης Αποτελε σματα μετρικω ν κο στους Συμπερα σματα Επίλογος Συμπερα σματα Μελλοντικη Έρευνα Βιβλιογραφία 179 Αʹ Λίστα Ερευνητικών Εργασιών 197

20 xviii Περιεχόμενα

21 Κατάλογος πινάκων xix Κατάλογος πινάκων 2.1 Αποδοτικο τητα Κο στους-απο δοσης AFCFS-LJFS Αποδοτικο τητα Κο στους-απο δοσης Παρα μετροι του μοντε λου των εργασιω ν Παραμετροποι ηση της κατανομη ς μεγε θους εργασιω ν Παραμετροποι ηση της κατανομη ς χρο νων εκτε λεσης εργασιω ν Παρα μετροι μοντε λου εργασιω ν Παρα μετροι προσομοιωμε νης ανο πτησης Παρα μετροι μοντε λου Νε φους Συνολικο κο στος ι χνους εργασιω ν - barr Συνολικο κο στος ι χνους εργασιω ν - pb Κλα σεις VM των κυ ριων παρο χων IaaS νεφω ν Χαρακτηριστικα απο δοσης των κλα σεων των VM Κο στος των κλα σεων των VM ανα πα ροχο Χαρακτηριστικα κο στους των εικονικω ν μηχανω ν Συντελεστη ς Χρο νων Άφιξης & Ρυθμο ς Άφιξης Συντελεστη ς Χρο νων Εκτε λεσης & Με σος συνολικο ς χρο νος εκτε λεσης Παρα μετροι του μοντε λου BoT εργασιω ν Παρα μετροι Προσομοιωμε νης Ανο πτησης Παρα μετροι Θερμοδυναμικη ς Προσομοιωμε νης Ανο πτησης Αποτελε σματα CPE για τους SA/TSA v. FPLT για το συντελεστη χρο νων α φιξης Αποτελε σματα CPE για τους SA/TSA v. FPLT για το συντελεστη χρο νων εκτε λεσης

22 xx Κατάλογος πινάκων 7.1 Κλα σεις VM των κυ ριων παρο χων IaaS νεφω ν Χαρακτηριστικα απο δοσης των κλα σεων των VM Κο στος VM ανα Κλα ση & Πα ροχο Κο στος VM ανα ω ρα Παρα μετροι του μοντε λου εργασιω ν BoT Παρα μετροι προσομοιωμε νης ανο πτησης Παρα μετροι αναζη τησης ταμπου CPE για καθολικε ς ΒοΤ εργασι ες CPE για τοπικε ς ΒοΤ εργασι ες

23 Κατάλογος σχημάτων xxi Κατάλογος σχημάτων 1.1 Μοντε λα υπηρεσι ας των Νεφω ν Ταξινομι α των αλγορι θμων μετα-ευρετικη ς βελτιστοποι ησης [127] Το μοντε λο του συστη ματος (a) ART v. λ q = 0.25, (b) AW RT v. λ q = 0.25, (c) ART v. λ q = 0.50, (d)aw RT v. λ q = 0.50, (e) ART v. λ q = 0.75, (f) AW RT v. λ q = (a) AW T v. λ q = 0.25, (b) AW W T v. λ q = 0.25, (c) AW T v. λ q = 0.50, (d)aw W T v. λ q = 0.50, (e) AW T v. λ q = 0.75, (f) AW W T v. λ q = (a) ABSLD v. λ q = 0.25, (b) AP P SLD v. λ q = 0.25, (c) ABSLD v. λ q = 0.50, (d)ap P SLD v. λ q = 0.50, (e) ABSLD v. λ q = 0.75, (f) AP P SLD v. λ q = Το μοντε λο του συστη ματος Μετρικε ς Απο δοσης για q=0.25, q=0.50 και q= Συνολικο ς αριθμο ς μεταναστευ σεων για q=0.25, q=0.50 και q= Άποψη του μοντε λου συστη ματος Μετρικε ς Κο στους & Απο δοσης για barr Μετρικε ς Κο στους & Απο δοσης για pb Μετρικε ς Κο στους & Απο δοσης για uprob Χρησιμοποι ηση για ο λες τις παραμε τρους Το μοντε λο συστη ματος νεφω ν Χρο νοι εκτε λεσης και μεγε θη εργασιω ν για ε να τυχαι ο ι χνος Τα βη ματα της συνα ρτησης γειτνια ζουσων καταστα σεων Αποτελε σματα για την παρα μετρο barr

24 xxii Κατάλογος σχημάτων 5.5 Αποτελε σματα για την παρα μετρο pb Το δια-νεφικο μοντε λο συστη ματος Μεγε θη BoT για ε να τυχαι ο ι χνος Συνα ρτηση Γειτνια ζουσων Καταστα σεων Συνολικο Makespan ανα Νε φος Με σο Makespan ανα ευ ρος μεγε θους BoT NSL ανα ευ ρος μεγε θους BoT Χρησιμοποι ηση v. Συντελεστη Χρο νων Άφιξης Χρησιμοποι ηση v. Συντελεστη Χρο νων Εκτε λεσης Συνολικο Κο στος Ίχνους Το διανεφικο μοντε λο συστη ματος Αφι ξεις ανα ω ρα και συντελεστη χρο νων α φιξης σε ε να τυχαι ο ι χνος Χρο νοι εκτε λεσης BoT σε ε να τυχαι ο ι χνος Μεγε θη BoT σε ε να τυχαι ο ι χνος Συνολικο Makespan ανα Νε φος για καθολικα BoT Συνολικο Makespan ανα Νε φος για τοπικα BoT Με σο makespan ανα ευ ρος μεγεθω ν ΒοΤ για καθολικε ς εργασι ες Με σο makespan ανα ευ ρος μεγεθω ν ΒοΤ για τοπικε ς εργασι ες NSL ανα ευ ρος μεγεθω ν ΒοΤ για καθολικε ς εργασι ες NSL ανα ευ ρος μεγεθω ν ΒοΤ για τοπικε ς εργασι ες Συνολικο κο στος ι χνους ανα ευ ρος μεγεθω ν ΒοΤ για καθολικε ς εργασι ες Συνολικο κο στος ι χνους ανα ευ ρος μεγεθω ν ΒοΤ για τοπικε ς εργασι ες Μετρικε ς κρι σιμων BoT

25 Κατάλογος αλγορίθμων xxiii Κατάλογος αλγορίθμων 2.1 Ο αλγο ριθμος Shortest Queue First Ο αλγο ριθμος Adaptive First Come First Served Ο αλγο ριθμος Largest Job First Served Ο αλγο ριθμος Least Loaded Cloud First (LLCF) Προσομοιωμε νη Ανο πτηση Συνα ρτηση Γειτνια ζουσων Καταστα σεων Υπολογισμο ς διαθε σιμων VMs Προσομοιωμε νη Ανο πτηση Συνα ρτηση Γειτνια ζουσων Καταστα σεων Θερμοδυναμικη Προσομοιωμε νη Ανο πτηση Προσομοιωμε νη Ανο πτηση Αναζη τηση Ταμπου Ο αλγο ριθμος Tabu-Code Χρονοδρομολο γηση κρι σιμων BoT

26 xxiv Κατάλογος αλγορίθμων

27 1 Κεφάλαιο 1 Εισαγωγή 1.1 Πρόλογος Η α νοδος των συστημα των υπολογιστικω ν νεφω ν (cloud computing) τα τελευται α χρο νια θα μπορου σε να χαρακτηριστει ως το λιγο τερο μεγαλειω - δης. Αυτο που ξεκι νησε σαν μια εξειδικευμε νη αγορα (niche market), στοχευμε νη στην κα λυψη υπολογιστικω ν αναγκω ν κυρι ως νεοφυω ν επιχειρη σεων του διαδικτυ ου (web start-ups), ε δωσε την ω θηση για τη δημιουργι α μιας ολοκαι νουριας αγορα ς στο χω ρο των μαζικω ν παρα λληλων συστημα των (massively parallel systems). Πολυ γρη γορα, η νε α αυτη αγορα γιγαντω θηκε και πλε ον αποτελει μια επιχει ρηση πολλω ν δισεκατομμυρι ων δολαρι ων για την οποι α ανταγωνι ζονται οι μεγαλυ τερες εταιρι ες στο χω ρο της πληροφορικη ς και του διαδικτυ ου (λ.χ. Microsoft, Google, Amazon, IBM, Oracle κλπ.)[4]. Τα υπολογιστικα νε φη, ε δωσαν επι σης το ε ναυσμα για την ανα πτυξη μιας πληθω ρας α λλων τεχνολογιω ν, στοχευμε νων στην ευκολο τερη και γρηγορο - τερη επεξεργασι α των δεδομε νων. Τεχνολογι ες ο πως το MapReduce [21] και οι NoSQL [67] και NewSQL βα σεις δεδομε νων προσε φεραν μια φρε σκια α ποψη και λυ σεις για πολλα θε ματα που αντιμετωπιζο ταν με χρι προ τινος απο μονολιθικε ς τεχνολογι ες, οι οποι ες ει χαν αναπτυχθει κατα τη δια ρκεια των περασμε νων δεκαετιω ν. Η χρη ση των υπολογιστικω ν νεφω ν ει ναι πλε ον πανταχου παρου σα, με εκατομμυ ρια χρη στες του διαδικτυ ου να βασι ζονται σε υποδομε ς νεφω ν καθημερινα για να ε χουν προ σβαση στις δια φορες υπηρεσι ες. Το σημαντικο πλεονε κτημα των υπολογιστικω ν νεφω ν, ε ναντι των παλαιο τερων υποδομω ν του διαδικτυ ου για την προσφορα υπηρεσιω ν ει ναι ο τι χαμη λωσε κατα πολυ ο

28 2 1 Εισαγωγή λεγο μενος πη χης εισο δου (barrier of entry), ελαχιστοποιω ντας τις ανα γ- κες αρχικου κεφαλαι ου για τη συ σταση μιας υπηρεσι ας η μιας διαδικτυακη ς εφαρμογη ς με μεγα λες υπολογιστικε ς απαιτη σεις. Στο κεφα λαιο αυτο, θα κα νουμε μια αναδρομη στην ιστορι α των συστημα των υπολογιστικω ν νεφω ν, στα πλεονεκτη ματα που αυτα εμφανι ζουν σε σχε ση με τα παλαιο τερα κατανεμημε να συστη ματα καθω ς και στις προκλη - σεις που εμφανι ζονται κατα τη χρη ση και την υλοποι ηση τους. Επι σης, θα αναφερθου με εκτενω ς στη χρονοδρομολο γηση παρα λληλων εργασιω ν γενικα αλλα και ειδικα για τους τυ πους των παρα λληλων εργασιω ν που θα εξετα σουμε κατα τη δια ρκεια αυτη ς της διατριβη ς. Τε λος, καθω ς ε να μεγα λο κομμα τι της διατριβη ς αυτη ς ασχολει ται με μετα-ευρετικου ς αλγορι θμους βελτιστοποι ησης της χρονοδρομολο γησης θα δω σουμε κα ποιους βασικου ς ορισμου ς και χαρακτηριστικα για τους αλγορι θμους αυτου ς. 1.2 Συστήματα υπολογιστικών Νεφών Ιστορική αναδρομή Ιστορικα ο ο ρος νε φος στο χω ρο της πληροφορικη ς χρησιμοποιει ται για να περιγρα ψει μεγα λου φα σματος συναθροι σεις ομοειδω ν αντικειμε νων που απο μακρια εμφανι ζονται σαν ε να συ ννεφο. Επι σης, στον τομε α των δικτυ ων μια συνη θης τακτικη που ακολουθει ται στα δικτυακα διαγρα μματα ει ναι τα συ νολα απο εξυπηρετητε ς η απο στοιχει α δικτυ ου να περικλει ονται με σα σε συ ννεφα ειδικο τερα ο ταν αυτα ει ναι απομακρυσμε να. Η χρη ση των υπολογιστω ν σαν υπηρεσι α (utility) και ο χι σαν αγαθο (commodity) εμφανι ζεται ο ντως απο την αρχη των συ γχρονων υπολογιστω ν τη δεκαετι α του 50, ο που ο χρο νος χρη σης των mainframe υπολογιστικω ν συστημα των της εποχη ς διαμοιραζο ταν μεταξυ πολλω ν χρηστω ν με σω time-sharing της κεντρικη ς μονα δας επεξεργασι ας (CPU) μεγιστοποιω ντας ε τσι τη χρη - ση του συστη ματος. Επομε νως, παρο λο που ο ο ρος υπολογιστικο νε φος ει ναι σχετικα καινου ργιος, η ε ννοια του utility computing που αποτελει τη βασικη ιδε α πι σω απο το cloud computing ει ναι πολυ παλαιο τερη Ορισμός και κύρια χαρακτηριστικά Το μοντε λο των υπολογιστικω ν νεφω ν επιτρε πει την πανταχου διαθε σιμη, βολικη και κατ απαι τηση προ σβαση σε ε να δι κτυο απο κοινο χρηστους προ-

29 1.2 Συστήματα υπολογιστικών Νεφών 3 σαρμο σιμους υπολογιστικου ς και δικτυακου ς πο ρους (λ. χ. δι κτυα, εξυπηρετητε ς, αποθηκευτικου ς πο ρους, υπηρεσι ες και εφαρμογε ς). Όλοι αυτοι οι πο - ροι, μπορου ν να δεσμευτου ν και να αποδεσμευτου ν δυναμικα με σω διαδικασιω ν οι οποι ες ελε γχονται απο το χρη στη καταναλωτη (cloud consumer) του συστη ματος[74]. Τα βασικα χαρακτηριστικα των συστημα των νεφω ν, τα οποι α και τα κα - νουν να ξεχωρι ζουν σε σχε ση τα παραδοσιακα κατανεμημε να συστη ματα, ει ναι τα παρακα τω: Κατ απαίτηση αυτό-εξυπηρέτηση O πελα της του νε φους μπορει μονομερω ς να δεσμευ σει και να αποδεσμευ σει υπολογιστικου ς πο ρους με σω μι ας αυτοματοποιημε νης διαδικασι ας, χωρι ς να απαιτει ται η παρε μβαση του παρο χου της υπηρεσι ας. Ευρεία δικτυακή πρόσβαση Όλες οι υπηρεσι ες παρε χονται με σω διαδικτυακη ς προ σβασης ε τσι ω στε να ει ναι ευρε ως διαθε σιμες ασχε τως με τον τυ που του πελα τη (λ. χ. κινητα τηλε φωνα, φορητοι υπολογιστε ς, σταθμοι εργασι ας κλπ.) Συνάθροιση και συνδιαχείριση των πόρων Οι παροχει ς των συστημα - των νεφω ν (cloud providers), συνηθι ζουν να ε χουν συναθροισμε νους τους υπολογιστικου ς τους πο ρους σε μεγα λα data-centers ανα γεωγραφικη περιοχη με σκοπο την καλυ τερη εξυπηρε τηση καταναλωτω ν τους. Οι δια φοροι πο ροι ει τε πραγματικοι ει τε εικονικοι κατανε μονται δυναμικα μεταξυ των χρηστω ν αναλο γως με τη ζη τηση που υπα ρχει. Απο τη μερια του ο καταναλωτη ς δεν χρεια ζεται να γνωρι ζει που ακριβω ς βρι σκονται οι πο ροι που του ε χουν ανατεθει καθω ς αυτοι υπα ρχουν με τρο πο δια φανο προς αυτο ν. Ταχεία Ελαστικότητα Ανα λογα με μοντε λο που ακολουθει το νε φος, η ελαστικο τητα μπορει να αναφε ρεται στην α μεση δυναμικη δε σμευση και αποδε σμευση πο ρων η οποι α υπο συνθη κες μπορει να ει ναι και αυτο ματη. Για τον καταναλωτη, α μεσο επακο λουθο αυτη ς της δυνατο τητας των νεφω ν ει ναι η τα χιστη επεκτασιμο τητα των διαθε σιμω ν του πο ρων και ως αποτε λεσμα η καλυ τερη ποιο τητα υπηρεσι ας που αυτο ς παρε χει με τη σειρα του στους δικου ς του πελα τες. Μετρήσιμη και διαφανής παροχή υπηρεσιών Τε λος, τα συστη ματα νεφω ν λο γω της χρη σης εικονικω ν πο ρων μπορου ν ευ κολα να ελε γχουν

30 4 1 Εισαγωγή και να μετρου ν το φο ρτο των πραγματικω ν πο ρων που τα υποστηρι ζουν με σκοπο τη βελτιστοποι ηση της χρησιμοποι ησης αυτω ν. Οι καταναλωτε ς απο την πλευρα τους, χρεω νονται για τη χρη ση των πο ρων συ μφωνα με ε να μοντε λο το οποι ο ει ναι συνδεδεμε νο με τη χρη ση που αυτοι κα νουν, συνη θως ανα ω ρα για υπολογιστικου ς πο ρους και ανα Gigabyte για πο ρους αποθη κευσης και διαμεταγωγη ς δικτυ ου Ταξινομία υπολογιστικών Νεφών Τα υπολογιστικα νε φη, ε χουν πολλαπλε ς εκφα νσεις οι ο ποιες σχετι ζονται το σο με το μοντε λο της υπηρεσι ας που ο κα θε τυ πος νε φους παρε χει ο σο και με το μοντε λο εφαρμογη ς του νε φους. Επομε νως, ε χουμε τους δυ ο ακο λουθους διαχωρισμου ς για τα συστη ματα νεφω ν: Σχη μα 1.1: Μοντε λα υπηρεσι ας των Νεφω ν Μοντέλα Υπηρεσίας Λογισμικό σαν Υπηρεσία Software as a Service (SaaS) Στο μοντε λο αυτο η εκα στοτε υπηρεσι α η λογισμικο παρε χονται συνη θως με σα απο ε να μοντε λο συνδρομη ς, ει τε δωρεα ν ει τε επι πληρωμη η με σω διαφημι σεων. Απο την πλευρα του καταναλωτη το παρεχο μενο λογισμικο ει ναι διαθε σιμο εικονικα απο παντου και κατα απαι τηση. Για την προ σβαση στο λογισμικο ει θισται να χρησιμοποιου νται εφαρμογε ς τυ που ισχνου πελα τη (thin client) οι οποι ες συνη θως ει ναι διαθε σιμες απο μια πληθω ρα συσκευω ν ει τε

31 1.2 Συστήματα υπολογιστικών Νεφών 5 με σω client εφαρμογω ν ει τε με σω κα ποιου φυλλομετρητη διαδικτυ ου. Οι υπηρεσι ες αυτου του τυ που, σχεδο ν πα ντα, βασι ζονται σε κα ποιο απο τα α λλα μοντε λα νεφω ν για την υπολογιστικη τους υποδομη. Σημαντικο πλεονε κτημα αυτου του μοντε λου, ει ναι ο τι ο καταναλωτη ς απο την πλευρα του μπορει με πολυ μικρη προσπα - θεια να ε χει προ σβαση σε μια πληθω ρα υπηρεσιω ν χωρι ς να χρεια - ζεται να ε χει δικου ς του πο ρους. Κλασσικα παραδει γματα εφαρμογω ν τυ που SaaS ει ναι τα web-based συστη ματα ηλεκτρονικου ταχυδρομει ου, τα συστη ματα διαδικτυακη ς αποθη κευσης (web storage) αλλα και τα συστη ματα επιχειρησιακω ν εφαρμογω ν ο πως συστη ματα μισθοδοσι ας, εφαρμογω ν γραφει ου (λ. χ. κειμενογρα φοι, λογιστικα φυ λλα κλπ.), συστη ματα διαχει ρισης ανθρωπι νων πο - ρων και πολλα α λλα φυσικα. Πλατφόρμα σαν Υπηρεσία Platform as a Service (PaaS) Το μοντε λο αυτο θα μπορου σαμε να που με ο τι βρι σκεται ακριβω ς κα τω απο αυτο του SaaS και μπορει να αποτελε σει την υποδομη γι αυτο. Η κατηγορι α αυτη των συστημα των νεφω ν προσφε ρει στο χρη στη του νε φους τη δυνατο τητα να χτι σει τη δικη του διαδικτυακη και ο χι μο νο εφαρμογη χρησιμοποιω ντας μια ε τοιμη πλατφο ρμα η οποι α μπορει να προσφε ρει μια η και περισσο τερες προγραμματιστικε ς διεπαφε ς (Application Programming Interfaces APIs). Απο την πλευρα της, η πλατφο ρμα αναλαμβα νει την ευθυ νη να χειριστει ο λα τα με ρη της υποδομη ς του νε φους ο πως το λειτουργικο, τις μονα δες αποθη κευσης, τα στοιχει α δικτυ ου κλπ. επιτρε ποντας στο χρη στη να επικεντρωθει στην ανα πτυξη της εφαρμογη ς του. Έτσι το PaaS δυ ναται να μειω σει τα κο στη συντη ρησης και την πολυπλοκο τητα ανα πτυξης μια εφαρμογη ς. Ένα απο τα αρνητικα αυτου του μοντε λου ει ναι το λεγο μενο vendor lock-in δηλαδη ο περιορισμο ς του χρη στη στο να χρησιμοποιει μια συγκεκριμε νη πλατφο ρμα χωρι ς ο κω δικας του να ει ναι φορητο ς προς α λλες. Παρ ο λα αυτα οι περισσο τεροι πα ροχοι φαι νεται ο τι το αντιμετωπι ζουν χρησιμοποιω ντας τεχνολογι ες ανοιχτου κω δικα. Υποδομή σαν Υπηρεσία Infrastructure as a Service (IaaS) Τε λος η τρι τη κατηγορι α cloud συστημα των, η οποι α και κυρι ως μελετα ται στο πλαι σιο της διατριβη ς αυτη ς, ει ναι τα συστη ματα Infrastructure-as-a-Service. Στο μοντε λο αυτο ο χρη στης ε χει απευ-

32 6 1 Εισαγωγή θει ας προ σβαση στους υπολογιστικου ς πο ρους του νε φους οι οποι οι συνη θως ει ναι σε μορφη εικονικω ν μηχανω ν (Virtual Machines VMs). Ο χρη στης ει ναι ελευ θερος να παραμετροποιη σει ο πως αυτο ς θε λει τα χαρακτηριστικα των εικονικω ν μηχανω ν που δεσμευ ει. Αυτα συνη θως χωρι ζονται στις παρακα τω κατηγορι ες: Αριθμός εικονικών πυρήνων (Virtual Cores) Μέγεθος μνήμης (RAM) Μέγεθος χώρου αποθήκευσης Ταχύτητα δικτύου Ανα λογα με τα χαρακτηριστικα καθορι ζεται και η ωριαι α, συνη - θως, τιμη της εικονικη ς μηχανη ς. Επι σης, ο χρη στης μπορει να ενοικια σει πολλαπλε ς εικονικε ς μηχανε ς ταυτο χρονα οι οποι ες, αν φυσικα αυτο υποστηρι ζεται απο τον πα ροχο, μπορου ν να συνδεθου ν μεταξυ τους σε ε να εικονικα απομονωμε νο τοπικο δι κτυο. Έτσι οι δυνατο τητες για παρα λληλη επεξεργασι α αυξα νονται κατακο ρυφα. Κα ποιοι πα ροχοι, ο πως λ.χ. η Amazon Web Services, παρε χουν τη δυνατο τητα δε σμευσης εικονικη ς μηχανη ς με κα ρτα γραφικω ν για τη χρη ση αυτη ς για υπολογισμου ς. Το σημαντικο πλεονε κτημα αυτη ς της κατηγορι ας cloud συστημα των ει ναι ο τι ο καταναλωτη ς μπορει να παραμετροποιη σει το συ στημα που δεσμευ ει απο κα θε α ποψη και κυρι ως απο πλευρα ς λογισμικου που χρεια - ζεται να εγκαταστη σει, κα τι το οποι ο ει ναι πολυ περιορισμε νο η συνη θως αδυ νατο στα δυ ο προηγου μενα μοντε λα. Πε ραν της προηγου μενης ταξινομι ας τα συστη ματα νεφω ν διαχωρι ζονται και ανα λογα με το πως αυτα εφαρμο ζονται δηλαδη ανα λογα με το ευ ρος προ σβασης που προσφε ρει το κα θε συ στημα. Συ μφωνα με αυτο το κριτη ριο λοιπο ν ε χουν αναγνωριστει οι παρακα τω κατηγορι ες απο clouds. Μοντέλα Εφαρμογής Ιδιωτικο Νε φος Private Cloud Τα ιδιωτικα νε φη αποτελου ν υποδομε ς cloud computing οι οποι ες περιορι ζονται στα ο ρια μιας επιχει ρησης η οργανισμου. Αυτα μπορει να φιλοξενου νται εσωτερικα (on premises) ει τε να παρε χον-

33 1.2 Συστήματα υπολογιστικών Νεφών 7 ται απο κα ποιο εξωτερικο πα ροχο. Η δημιουργι α ενο ς on-premises ιδιωτικου νε φους ει ναι απο μο νο του ε να πολυ μεγαλεπη βολο σχε διο το οποι ο απο μο νο του ακυρω νει πολλα απο τα πλεονεκτη ματα που προσφε ρει το κλιμακωτο οικονομικο μοντε λο των νεφω ν. Κοινοτικο Νε φος Community Cloud Τα κοινοτικα νε φη ει ναι αποτε λεσμα συ νθεσης της προσπα θειας πολλω ν οργανισμω ν με κοινου ς σκοπου ς να δημιουργη σουν μια κοινο χρηστη υποδομη νε φους. Η υποδομη αυτη και πα λι μπορει να φιλοξενει ται ιδιωτικα η με σω κα ποιου εξωτερικου παρο χου. Σε αυτο το μοντε λο, το κο στος υλοποι ησης και συντη ρησης ει ναι λιγο τερο δυσβα σταχτο σε σχε ση με το ιδιωτικο μοντε λο αλλα απε χει πολυ, απο οικονομικη ς α ποψης απο το δημο σιο νε φος. Δημο σιο Νε φος Public Cloud Το μοντε λο δημο σιων νεφω ν ει ναι το πιο κοινο απο ο λα τα μοντε λα εφαρμογη ς ο που ο λοι οι πο ροι του νε φους γι νονται δημο σια διαθε σιμοι με σω του διαδικτυ ου. Κα ποιοι πα ροχοι προσφε ρουν ακο μα και δωρεα ν υπηρεσι ες υπο συγκεκριμε νες συνθη κες αν και, τουλα χιστον για τα IaaS clouds, συνη θως οι υπηρεσι ες προσφε ρονται με σω κλιμακωτω ν οικονομικω ν μοντε λων. Υβριδικο Νε φος Hybrid Cloud Το υβριδικο μοντε λο, αναφε ρεται σε συνδυασμου ς μεταξυ μοντε λων νεφω ν ο πως τα παραπα νω, τα οποι α παραμε νουν ξεχωριστε ς οντο τητες αλλα συνεργα ζονται με σκοπο να συγκερα σουν τα πλεονεκτη ματα των επιμε ρους μοντε λων. Ένα σημαντικο πλεονε κτημα που μπορου ν να προσφε ρουν ει ναι η κα λυψη προσωρινα αυξημε νου φο ρτου για επιχειρη σεις που διαθε τουν το δικο τους ιδιωτικο νε φος, το οποι ο ο μως προσωρινα μπορει να μη δυ ναται να καλυ ψει τον τρε χοντα φο ρτο, με αποτε λεσμα να αναθε τει αυτο το φο ρτο σε κα ποιο συνεργαζο μενο δημο σιο νε φος. Διανεφικα συστη ματα Intercloud Τα διανεφικα συστη ματα ει ναι ε νας πιο μοντε ρνος ο ρος για τα πολυνεφικα (multicloud) συστη ματα. Εμπεριε χουν ο μως, και τις δυνατο τητες διασυ νδεσης των επιμε ρους νεφω ν απο την πλευρα του παρο χου, ε τσι ω στε πολλα δημο σια νε φη να προσφε ρονται σαν μια ενωμε νη οντο τητα.

34 8 1 Εισαγωγή Πλεονεκτήματα Υπα ρχουν πολλα πλεονεκτη ματα που καταλογι ζονται στα συστη ματα νεφω ν, α λλα μεγαλυ τερα και α λλα μικρο τερα, εδω θα επικεντρωθου με σε μερικα μο νο απο αυτα και κυρι ως σε πλεονεκτη ματα τα οποι α καθιστου ν τα συστη ματα νεφω ν ως μια πολυ προσοδοφο ρα επιλογη για τις επιχειρη σεις που βασι ζουν τα προι ο ντα τους στο διαδι κτυο. Οικονομίες κλίμακας Ίσως το κυριο τερο απο τα πλεονεκτη ματα που προσφε ρει το cloud computing προς τις επιχειρη σεις, ει ναι η δυνατο τητα του να προσφε ρει τις υπηρεσι ες του με σα απο ε να μοντε λο οικονομι ας κλι μακας. Πριν την εμφα νιση των συστημα των νεφω ν ο πως τα γνωρι ζουμε ση μερα, μια επιχει ρηση που η θελε να προσφε ρει τα προι ο ντα της με σω του παγκο σμιου ιστου, συνη θως κα ποιου τυ που web υπηρεσι α, ε πρεπε αρχικα να κα - νει μια κεφαλαιουχικη επε νδυση (Capital Expenditure - CapEx) για την αγορα των απαραι τητων υπολογιστικω ν πο ρων, ει τε αυτοι η ταν εξυπηρετητε ς, ει τε αποθηκευτικο ς χω ρος, ει τε δικτυακοι πο ροι. Στη συνε χεια, υπη ρχαν φυσικα και λειτουργικα κο στη (Operational Expenditure - OpEx) συντη ρησης, αναβα θμισης, προστασι ας κλπ.. Σε περι πτωση που η επε νδυση αποτυ γχανε, ο λοι αυτοι οι πο ροι αποδεσμευο ταν συνη θως επιστρε φοντας ε να πολυ μικρο κομμα τι της αρχικη ς επε νδυσης. Η ε λευση των νεφω ν, ε δωσε την ευκαιρι α σε χιλια δες μικρε ς επιχειρη σεις αλλα και νεοσυ στατες επιχειρη σεις να παγκοσμιοποιη σουν τα προι ο ντα τους γρη γορα και σε ε να κλα σμα του κο στους που θα υπη ρχε παλαιο τερα, αφαιρω ντας εντελω ς την ανα γκη για την αρχικη κεφαλαιουχικη επε νδυση και συνδε οντας τα λειτουργικα κο στη με την κλι μακα της χρη σης του νε φους. Ελαστικότητα και Επεκτασιμότητα Η ελαστικο τητα και η επεκτασιμο τητα των νεφω ν, ει ναι α λλο ε να πολυ σημαντικο χαρακτηριστικο, ιδιαι τερα σημαντικο για τις μικρε ς και μεσαι ες επιχειρη σεις καθω ς και τις νεοσυ - στατες επιχειρη σεις[51] οι οποι ες πολλε ς φορε ς δεν μπορου ν να προβλε ψουν την ανταπο κριση του κο σμου στο προι ο ν τους. Παλαιο τερα λοιπο ν, οι επιχειρη σεις αυτε ς ε καναν μια αρχικη προ βλεψη και προμηθευο ταν την ανα λογη υλικοτεχνικη υποδομη με σκοπο να καλυ ψουν το φο ρτο που ει χαν προβλε ψει. Αν ο φο ρτος η ταν μικρο τερος, το τε ει χαν ξοδε ψει με ρος του κεφαλαι ου τους χωρι ς λο γο με αποτε λεσμα τη μικρο τερη οικονομικη ευελιξι α. Η χειρο τερη φυσικα περι πτωση, η ταν ο φο ρτος να η ταν μεγαλυ τερος απ ο τι ει χε προβλεφτει.

35 1.2 Συστήματα υπολογιστικών Νεφών 9 Σε αυτη την περι πτωση η υπηρεσι α η το προι ο ν συνη θως ερχο ταν αντιμε τωπο με περιο δους που ε βγαινε εκτο ς λειτουργι ας (service outage) λο γω υπερβολικου φο ρτου. Όπως ει ναι γνωστο [6, 13], οι online υπηρεσι ες καθω ς και τα κοινωνικα δι κτυα ει ναι πολυ ευαι σθητα σε ο τι αφορα την υψηλη διαθεσιμο τητα των υπηρεσιω ν τους, καθω ς ε χουν την τα ση να γι νονται αναπο σπαστο κομμα τι της ζωη ς των χρηστω ν τους με τρο πο εφα μιλλο με τις δημο σιες υπηρεσι ες ο πως το ρευ μα και το τηλε φωνο. Συνεπω ς, προσπαθου ν να αποφυ γουν πα ση θυσι α τε τοιες περιπτω σεις κα τι το οποι ο ο μως παλαιο τερα δεν η ταν πα ντοτε εφικτο. Με την ε λευση του cloud computing η δυνατο τητα για ελαστικο τητα σε πραγματικο χρο νο στα συστη ματα των χρηστω ν των νεφω ν ε γινε πραγματικο τητα. Οι υπηρεσι ες που βασι ζουν την υποδομη τους στο νε φος μπορου ν πλε ον να αναπροσαρμο ζουν τους πο ρους που χρησιμοποιου ν δυναμικα και το πιο σημαντικο με σα σε πολυ συ ντομο χρονικο δια στημα. Για παρα δειγμα, ο χρο νος που χρεια ζεται για την προσθη κη κο μβων με τη μορφη εικονικω ν μηχανω ν στα Amazon Web Services ανε ρχεται σε χρο νους μερικω ν λεπτω ν [6], ενω παλαιο τερα κα τι τε τοιο θα μπορου σε να πα ρει με ρες η και εβδομα δες. Επομε νως, οι επιχειρη σεις μπορου ν πλε ον βασιζο μενες στο νε φος να αναπροσαρμο ζουν τις απαιτη σεις τους για υπολογιστικη ισχυ κατα το δοκου ν χωρι ς να κινδυνευ ουν να θε σουν τις υπηρεσι ες τους εκτο ς λειτουργι ας. Απο τους τυ πους των νεφω ν που παρουσια στηκαν παραπα νω, συνηθι ζεται τα PaaS νε φη να παρε χουν αυτοματοποιημε νη κλιμα κωση (scaling) στους πελα τες τους ενω αντι θετα στα IaaS νε φη η διαδικασι α αυτη ει ναι υπ ευθυ νη του καταναλωτη. Ανάνηψη σε περίπτωση βλάβης Όταν μια επιχει ρηση διαχειρι ζεται το δικο της data center το τε πα ντα ε χει και σχε δια για την επαναφορα των υπηρεσιω ν του σε λειτουργικο επι πεδο σε περι πτωση κα ποιας βλα βης η φυσικη ς καταστροφη ς κλπ.. Με τη χρη ση του cloud computing κα τι τε τοιο δεν ει ναι πλε ον απαραι τητο, καθω ς ο πα ροχος ει ναι υπευ θυνος να επιλυ σει κα θε τυ - που προ βλημα, το οποι ο μπορει να επηρεα ζει τις υπηρεσι ες που παρε χει προς τους πελα τες του. Μα λιστα, η συνεχη ς διαθεσιμο τητα των υπηρεσιω ν ενο ς νε φους ει ναι απο τα πλε ον σημαντικα προβλη ματα που οι πα ροχοι καλου νται να λυ σουν. Συνηθι ζεται μα λιστα, η χρη ση ενο ς νε φους να συνοδευ εται απο συμφωνι ες επιπε δου υπηρεσιω ν (Service Level Agreements - SLA) οι οποι ες αποτελου ν νομικα συμβο λαια και εξασφαλι ζουν το παρεχο μενο επι πεδο υπη-

36 10 1 Εισαγωγή ρεσιω ν η την αποζημι ωση προς τους πελα τες σε περι πτωση που αυτο δεν τηρει ται. Αυξημένα επίπεδα ασφάλειας Αυτο το πλεονε κτημα ει ναι δισδια στατο. Πρω τον τα cloud συστη ματα απο την πλευρα του πελα τη ει ναι εν γε νει ασφαλε στερα καθω ς οι πα ροχοι ε χουν ειδικε ς ομα δες που ασχολου νται αποκλειστικα με την ασφα λεια των συστημα των που αυτοι παρε χουν για ευνο ητους λο γους. Έτσι ο πελα της απο την πλευρα του μπορει να νιω θει ασφαλη ς και ταυτο χρονα γλυτω νει χρη ματα καθω ς δεν χρεια ζεται να συντηρει ο ι διος προσωπικο για την ασφα λεια των συστημα των του. Δευ τερον, λο γω της κατανεμημε νης φυ σης του νε φους, η πιθανο τητα ολικη ς καταστροφη ς κα ποιου συστη ματος απαλει φεται καθω ς οι πα ροχοι φροντι ζουν να ε χουν αντι γραφα ασφαλει ας των συστημα των των πελατω ν τους σε γεωγραφικα ποικι λες τοποθεσι ες ε τσι ω στε να μην υπα ρχουν ενιαι α σημει α αποτυχι ας Σύγκριση με το Πλέγμα Το πλε γμα (Grid), ως γνωστο ν, ει ναι μια τεχνολογι α κατανεμημε νων συστη ματων που διαχειρι ζονται υπολογιστικου ς πο ρους χωρι ς κεντρικοποιημε νο ε λεγχο και χρησιμοποιου ν ανοιχτα πρωτο κολλα και διεπαφε ς γενικη ς χρη σης ε τσι ω στε να παρε χουν υπολογιστικε ς υπηρεσι ες υψηλη ς ποιο τητας [35]. Η συ γκριση μεταξυ του πλε γματος και των νεφω ν ει ναι συνεπω ς αναπο - φευκτη, καθω ς στην αρχικη θεω ρηση τους τουλα χιστον μοια ζουν να λυ νουν παρο μοια προβλη ματα. Υπα ρχει πληθω ρα ερευνητικω ν εργασιω ν που ε χουν ασχοληθει με μια συ γκριση μεταξυ των δυ ο συστημα των [12, 13, 36, 124, 132] οι οποι ες φαι νεται να συμφωνου ν σε κα ποιες απο τις παρακα τω ειδοποιου - σες διαφορε ς: Επιχειρηματικά Μοντέλα Τα νε φη γενικο τερα διακρι νονται για το μοντε λο οικονομι ας κλι μακας που παρε χουν, ο πως αναφε ραμε και παραπα νω, και ε τσι δι νουν τη δυνατο τητα στο χρη στη ανα λογα και με τον οικονομικο του πρου πολογισμο να δεσμευ ει και να αποδεσμευ ει πο ρους κατα το δοκου ν. Τα συστη ματα πλε γματος απο την α λλη, και ιδιαι τερα στα πλαι σια των επιστημονικω ν κοινοτη των ο που συνη θως και απαντω νται, ε χουν συνη θως πιο α καμπτα μοντε λα κο στους, ο που ο κα θε χρη στης η ομα δα ε χει στη δια θεση του ε να συγκεκριμε νο αριθμο απο κυ κλους υπολογισμου (CPU cycles).

37 1.2 Συστήματα υπολογιστικών Νεφών 11 Αρχιτεκτονική Τα συστη ματα πλε γματος δημιουργη θηκαν για να συνενω σουν και να διαμοιρα σουν την επεξεργαστικη ισχυ πολλω ν κοινο - τυπων υπολογιστικω ν πο ρων (commodity machines) με σκοπο να πετυ χουν επεξεργαστικη ισχυ εφα μιλλη των υπερ-υπολογιστω ν η πολυ μεγα λων cluster υπολογιστω ν. Ο σκοπο ς αυτο ς οδη γησε σε μια αρχιτεκτονικη βασισμε νη στην ε ννοια των εικονικω ν οργανω σεων (Virtual Organizations). Οι οντο τητες αυτε ς, επιτρε πουν την ανακα λυψη πο ρων και τη διαμοι ραση αυτω ν με τη χρη ση ανοιχτω ν πρωτοκο λλων, υπηρεσιω ν, ενδια μεσου λογισμικου (middleware) κλπ.. Τα νε φη απο την α λλη πλευρα κατασκευα στηκαν για την αντιμετω πιση υπολογιστικω ν προβλημα των στοχευμε νων στις υπηρεσι ες διαδικτυ ου. Ανα λογα λοιπο ν με την ταξινομι α υπηρεσι ας που παρουσια σαμε παραπα νω, η αρχιτεκτονικη του κα θε νε φους μπορει να διαφε ρει ανα λογα με το επι πεδο της υπηρεσι ας (SaaS,PaaS και IaaS) που αυτο παρε χει. Διαχείριση και διαμοίραση πόρων Τα Grids χρησιμοποιου ν τοπικου ς δρομολογητε ς ανα site οι οποι οι αναθε τουν πο ρους στις δια φορες εργασι ες που περιμε νουν προς εκτε λεση. Οι πο ροι ει ναι αφιερωμε νοι στην εκτε λεση της εργασι ας ο σο αυτη εκτελει ται και δεν διαμοιρα ζονται μεταξυ διαφορετικω ν διεργασιω ν. Αντι θετα στα νε φη λο γω της χρη σης των εικονικω ν μηχανω ν οι πο ροι δεν ει ναι απο λυτα αφιερωμε νοι και διαμοιρα ζονται μεταξυ των χρηστω ν του νε φους με ε να τρο πο που ει ναι δια φανος προς αυτου ς. Παρ ο λα αυτα αυτη η διαμοι ραση ει ναι πιθανο να δημιουργει αναπα ντεχες καθυστερη σεις αν ο πα ροχος δεν προβαι νει στις απαραι τητες ενε ργειες ε τσι ω στε να διατηρει μια καλη ποιο τητα υπηρεσι ας. Ασφάλεια Η ασφα λεια ει ναι ε να απο τα πιο περι πλοκα ζητη ματα που αντιμετωπι ζουν τα κατανεμημε να συστη ματα και ε χει δια φορες εκφα ν- σεις. Για παρα δειγμα, τα νε φη ει ναι απο σχεδιασμου τους ασφαλη καθω ς ενω οι εικονικε ς μηχανε ς του κα θε χρη στη ει ναι σε θε ση να επικοινωνη σουν μεταξυ τους το ι διο δεν ισχυ ει για εικονικε ς μηχανε ς διαφορετικω ν χρηστω ν οι οποι ες ει θισται να τοποθετου νται σε διαφορετικα υπο-δι κτυα (subnets). Παρ ο λα αυτα ο μως η προ σβαση του χρη στη στις εικονικε ς του μηχανε ς δεν διασφαλι ζεται απο κα ποιο κεντρικο authority αλλα επαφι εται στη θε ληση του χρη στη. Αντι θετα η προ σβαση σε ε να Grid ε χει σχεδιαστει εξ αρχη ς για να ει ναι ασφαλη ς. Τεχνολογι ες ιδιωτι-

38 12 1 Εισαγωγή κου και δημοσι ου κλειδιου συνη θως εφαρμο ζονται το σο για την προ σβαση ο σο και για τη δε σμευση ει τε υπολογιστικω ν πο ρων ει τε πο ρων αποθη κευσης. Ποιότητα Υπηρεσίας Συνη θως, τα συστη ματα πλε γματος δεν εγγυω ν- ται κα ποια συγκεκριμε νη ποιο τητα υπηρεσι ας καθω ς αυτη συνη θως επαφι εται για να οριστει απο την εφαρμογη που χρησιμοποιει το Grid. Απο την α λλη πλευρα, οι πα ροχοι των νεφω ν συνη θως προσφε ρουν με σα στη βασικη συμφωνι α τελικου χρη στη και κα ποιες διαβεβαιω σεις σε σχε ση με τη διαθεσιμο τητα και την ποιο τητα της υπηρεσι ας που αυτοι προσφε ρουν. Χρηστικότητα Τα νε φη ει ναι απο τις αρχε ς τους ευ κολα στη χρη ση, αποκρυ πτοντας τις πολυ τεχνικε ς λεπτομε ρειες απο τους χρη στες. Όσο πιο ψηλα βρισκο μαστε στην πυραμι δα του Σχη ματος 1.1 το σο περισσο τερες λεπτομε ρειες χαμηλου επιπε δου αποκρυ πτονται. Αντι θετα τα πλε γματα δεν ει ναι εξι σου απλα αφου οι χρη στες ει ναι απαραι τητο να ει ναι καταρτισμε νοι ως προς τον τρο πο λειτουργι ας και τη δομη του Grid ε τσι ω στε να ει ναι σε θε ση να το χρησιμοποιη σουν. 1.3 Χρονοδρομολόγηση παράλληλων εργασιών Στα παρα λληλα και κατανεμημε να συστη ματα, οι εργασι ες (jobs) μπορει να αποτελου νται απο μια υποεργασι α (task) οπο τε και ονομα ζονται σειριακε ς εργασι ες (serial jobs) η απο πολλαπλε ς υποεργασι ες οι οποι ες μα λιστα μπορει να εκτελου νται παρα λληλα καθορι ζοντας ε τσι και το βαθμο παραλληλισμου της αρχικη ς εργασι ας (degree of parallelism). Η με θοδος χρονοδρομολο γησης που χρησιμοποιει ται, μπορει να ε χει πολυ μεγα λες επιπτω σεις στην απο δοση του συστη ματος αλλα και να επηρεα σει α λλα ποιοτικα χαρακτηριστικα του ο πως η επεκτασιμο τητα του και το ποσοστο αξιοπιστι ας των χρηστω ν προς το συ στημα. Σε ο τι αφορα τα συστη ματα νεφω ν, και δεδομε νων των ιδιαι τερων χαρακτηριστικω ν που αυτα προσφε ρουν ως κατανεμημε να συστη ματα (λ.χ. ετερογε νεια, γρη γορη και ευε λικτη κλιμα κωση και αποκλιμα κωση των διαθε σιμων πο ρων κλπ.), ει ναι ορατο πλε ον ο τι διαμορφω νονται νε ες απαιτη σεις για συστη ματα χρονοδρομολο γησης προσαρμοσμε να σε αυτα τα χαρακτηριστικα. Επιπλε ον, οι η δη υπα ρχουσες με θοδοι χρονοδρομολο γησης ει ναι πιθανο ν να

39 1.3 Χρονοδρομολόγηση παράλληλων εργασιών 13 μην ει ναι βε λτιστες η και κατα λληλες για τα συστη ματα νεφω ν και επομε νως νε ες με θοδοι θα πρε πει να αναπτυχθου ν για να εξυπηρετη σουν αυτα τα μοντε λα συστημα των.[6]. Σε ο τι αφορα την υπα ρχουσα βιβλιογραφι α για τη χρονοδρομολο γηση σε νε φη, κα ποια μοντε λα ε χουν ασχοληθει με τη δρομολο γηση παρα λληλων εργασιω ν σε υβριδικα νε φη [7] ενω α λλα επικεντρω νονται στη διαχει ριση των εικονικω ν μηχανω ν [68, 115, 116] η τη βελτιστοποι ηση του κο στους [122]. Επι σης, κα ποια μοντε λα μοντε λα ε χουν εξετα σει μεθο δους χρονοδρομολο γησης απο τη σκοπια της εξοικονο μησης της ενε ργειας [26, 70] αφου τα υπολογιστικα κε ντρα των νεφω ν ει ναι ιδιαιτε ρως ενεργοβο ρα. Σε αυτη την υποενο τητα, θα αναλυ σουμε τους τυ πους των παρα λληλων εργασιω ν με τους οποι ους θα ασχοληθου με στη συνε χεια της διατριβη ς και θα εξετα σουμε επι σης τα ιδιαι τερα χαρακτηριστικα τους Εργασίες τύπου ομάδας Ορισμός και κύρια χαρακτηριστικά Οι εργασι ες τυ που ομα δας (gangs), αποτελου ν μια τεχνικη παρα λληλης χρονοδρομολο γησης εργασιω ν ο που ο λες οι υποεργασι ες ει ναι υποχρεωμε νες να εκτελεστου ν ταυτο χρονα και συναντα ται συχνα σε συστη ματα κατανεμημε νης επεξεργασι ας ψηλη ς υφη ς ( ine-grained). Η με θοδος αυτη ταιρια ζει σε εργασι ες ο που οι υποεργασι ες ει ναι απαραι τητο να επικοινωνου ν συνεχω ς μεταξυ τους με σω ανταλλαγη ς μηνυμα των και συνεπω ς πρε πει να εκτελου ν- ται ταυτο χρονα καθω ς σε αντι θετη περι πτωση συχνα οι υποεργασι ες θα περι μεναν μπλοκαρισμε νες περιμε νοντας μηνυ ματα απο εργασι ες οι οποι ες πολυ πιθανο ς να μην εκτελου νταν εκει νη τη στιγμη. Η τεχνικη αυτη συνεπα γεται ο τι ο αριθμο ς των επεξεργαστω ν ει ναι ικανο ς να εξυπηρετη σει ακο μα και τις μεγαλυ τερες εργασι ες. Αυτο ταυτο χρονα σημαι νει ο τι ο αριθμο ς των επεξεργαστω ν, σε ε να στατικο συ στημα, κρι νει και το με γιστο βαθμο παραλληλισμου των εργασιω ν που το συ στημα ει ναι σε θε ση να εξυπηρετη σει. Επι σης, ει ναι αναγκαι ο οι υποεργασι ες να ε χουν τον ι διο χρο νο εκτε λεσης κα τι το οποι ο πρου ποθε τει και ομοιο μορφη απο δοση απο τους υπολογιστικου ς πο ρους. Η ε ρευνα πα νω σε αυτο ν τομε α ε χει ξεκινη σει απο την εποχη των πρω των συστημα των πολυ-επεξεργασι ας μεγα λης κλι μακας [9, 32, 33, 55, 133] με σκοπο τη βελτιστοποι ηση των χρονοδιαγραμμα των των το τε συστημα των.

40 14 1 Εισαγωγή Νεο τερες ε ρευνες ε χουν επικεντρωθει στο σχεδιασμο και την υλοποι ηση αλγο ριθμων που εφαρμο ζουν εξυπνο τερες τεχνικε ς ανα θεσης πο ρων [22, 38, 47, 56 58, 60, 92, 97 99]. Το προ βλημα που κυρι ως καλου νται να επιλυ σουν οι αλγο ριθμοι χρονοδρομολο γησης για εργασι ες τυ που ομα δας (gang scheduling) ει ναι το φαινο μενο του κατακερματισμου του χρονοδιαγρα μματος κατα το οποι ο υπα ρχουν επεξεργαστε ς οι οποι οι ει ναι σε κατα σταση αδρα - νειας (idling) παρο λο που υπα ρχουν εργασι ες το σο στις ουρε ς τους ο σο και στο συ στημα οι οποι ες περιμε νουν να εκτελεστου ν [32]. Αυτο, ο πως ει ναι προφανε ς, συμβαι νει διο τι καμι α υποεργασι α δεν μπορει να ξεκινη σει την εκτε λεση της αν δεν ει ναι ταυτο χρονα ε τοιμες και οι υπο λοιπες συγγενικε ς με αυτη εργασι ες (sibling tasks). Οι αλγο ριθμοι χρονοδρομολο γησης για gang scheduling διαφοροποιου νται ανα λογα με το πως διαμοιρα ζουν τους υπα ρχοντες πο ρους προς τις εργασι ες ει τε αλλα ζοντας τη σειρα των εργασιω ν παρακα μ- πτοντας τους χρο νους α φιξης ει τε δι νοντας προτεραιο τητα σε εργασι ες με συγκεκριμε να χαρακτηριστικα. Επι σης, σε συνδυασμο με τους αλγο ριθμους χρονοδρομολο γησης συχνα γι νεται χρη ση και των παρακα τω ευρετικω ν μεθο δων με σκοπο την αυ ξηση της απο δοσης και της χρησιμοποι ησης του συστη ματος: Back illing Η τεχνικη του back illing εφαρμο ζεται συνη θως με τον αλγο - ριθμο First Come First Served (FCFS) ο οποι ος ως γνωστο ν εκτελει τις εργασι ες με τη σειρα της α φιξης τους. Αυτο ς ο τρο πος χρονοδρομολο γησης, ει ναι επο μενο να δημιουργει τρυ πες με κενο χρο νο στο χρονοδια γραμμα ο που μεγα λες εργασι ες περιμε νουν με χρι ο απαραι τητος αριθμο ς επεξεργαστω ν ει ναι ελευ θερος. Το back illing, προσπαθει να εκμεταλλευτει τον κενο αυτο χρο νο προωθω ντας προς εκτε λεση α λλες μικρο τερες εργασι ες οι οποι ες μπορου ν να εκτελεστου ν εντο ς των διαστημα των που οι επο μενες εργασι ες περιμε νουν γεμι ζοντας ε τσι τις τρυ πες του χρονοδιαγρα μματος. Ένα πολυ σημαντικο κομμα τι της ε ρευνας γυ ρο απο το gang scheduling ε χει ασχοληθει με την τεχνικη αυτη [23, 31, 50, 55, 117, 133, 134]. Μετανάστευση Εργασιών Ένας α λλος τρο πος αυ ξησης της απο δοσης, σε συστη ματα τυ που ομα δας ει ναι η προσθη κη τεχνικω ν μετανα στευσης εργασιω ν (job migrations). Η τεχνικη αυτη προσπαθει να εκμεταλλευτει τους επεξεργαστε ς που αδρανου ν ε τσι ω στε να αυξη σει το ρυθμο εξυπηρε τησης του συστη ματος ο πως ακριβω ς και το back illing. Για να το επιτυ χει αυτο η με -

41 1.3 Χρονοδρομολόγηση παράλληλων εργασιών 15 θοδος αυτη, εξετα ζει υπoεργασι ες οι οποι ες, συ μφωνα με την κατα σταση του συστη ματος, θα μπορου σαν να εκτελεστου ν αν ει χαν δρομολογηθει σε α λλους επεξεργαστε ς. Κατο πιν τις μεταφε ρει προς τους επεξεργαστε ς αυτου ς και ξεκινα ει την εκτε λεση τους μειω νοντας ε τσι τον κατακερματισμο του χρονοδιαγρα μματος των εργασιω ν. Με τη χρη ση της μετανα στευσης εργασιω ν ελλοχευ ουν ο μως και ορισμε νοι κι νδυνοι αφου, πρω τον κα θε μετακι νηση εργασι ας προσθε τει κα ποιον επιπλε ον φο ρτο στο συ στημα ενω, δευ τερον, η συνεχη ς μετακι νηση εργασιω ν ενδε χεται να προκαλε σει λιμοκτονι α (starvation) κα ποιον α λλων εργασιω ν των οποι ων η εκτε λεση συνεχω ς αναβα λλεται λο γω των μεταναστευ σεων. Για την αντιμετω πιση αυτω ν των προβλημα των, δια φορες με θοδοι μπορου ν να εφαρμοστου ν ε τσι ω στε να προφυλα ξουν το συ στημα απο την ανεξε λεγκτη μετανα στευση εργασιω ν, ο πως θα δου με και στα επο μενα κεφα λαια. Οι τεχνικη της μετανα στευσης ει ναι επι σης ευρε ως διαδεδομε νη και ε χει εξεταστει το σο σε κατανεμημε να συστη ματα ο σο και σε συστη ματα πλε γματος [93 96, 109, 134]. Κλει νοντας, αξι ζει να αναφε ρουμε ο τι ε να σημαντικο κομμα τι της ε ρευνας ε χει εξετα σει τη χρη ση της χρονοδρομολο γησης εργασιω ν τυ που ομα δας σε συστη ματα ο που επικρατου ν ιδιαι τερες συνθη κες, ο πως αστοχι ες υλικου (hardware faults) [118, 119] και υ παρξη κρι σιμων εργασιω ν που εκτελου νται κατα προτεραιο τητα [59, 93]. Ιδιαίτερα χαρακτηριστικά δρομολόγησης στα Νέφη Στα υπολογιστικα νε φη, ο χρονοδρομολογητη ς για εργασι ες τυ που ομα - δας ε ρχεται αντιμε τωπος με τη δυνατο τητα των νεφω ν να αναδιαμορφω νουν τους πο ρους τους. Δεδομε νου του ο τι οι εργασι ες τυ που ομα δας πρε πει να δρομολογου ν την κα θε υποεργασι α τους σε ξεχωριστο επεξεργαστη, η αλλαγη του αριθμου των επεξεργαστω ν δυ ναται να τις επηρεα σει. Γι αυτο το λο γο ο αλγο ριθμος χρονοδρομολο γησης θα πρε πει να λαμβα νει υπο ψιν του τη δυναμικη φυ ση του συστη ματος και να ει ναι σε θε ση να αναπροσαρμο σει τους πο ρους αυτου ε τσι ω στε να βελτιστοποιη σει την απο δοση αυτου [82 84]. Ένας εξι σου σημαντικο ς παρα γοντας που εμφανι ζεται στα νε φη, ενω δεν υπη ρχε στα κατανεμημε να συστη ματα ει ναι αυτο ς του κο στους των πο ρων. Εφο σον οι πα ροχοι χρεω νουν τη χρη ση αυτω ν ανα ω ρα, ει ναι επο μενο η τεχνικη της χρονοδρομολο γησης να πρε πει να εκμεταλλευτει τα παρα θυρα αδρανου ς χρο νου που μπορει να δημιουργηθου ν λο γω του gang scheduling για να

42 16 1 Εισαγωγή καλυτερευ σει την απο δοση της απο α ποψη κο στους Εργασίες τύπου σάκου-από-εργασίες Ορισμός και κύρια χαρακτηριστικά Ένας α λλος τυ πος παρα λληλων εργασιω ν, με τον οποι ο ασχολου μαστε στα πλαι σια αυτη ς της διατριβη ς και συναντα ται ο λο και πιο συχνα στα συστη ματα παρα λληλης επεξεργασι ας, ει ναι οι εργασι ες τυ που σα κου-απο -εργασι ες (bag-of-tasks η BoT). Ο παραλληλισμο ς των εργασιω ν αυτου του τυ - που ει ναι πολυ πιο χαλαρο ς σε σχε ση με τις εργασι ες τυ που ομα δας αφου δεν απαιτει κα ποιο συγχρονισμο στην εκτε λεση των εργασιω ν. Οι εργασι ες που ανη κουν στον ι διο σα κο ει ναι ανεξα ρτητες μεταξυ τους και συνη θως ει ναι ο μοιες η μοια ζουν σε μεγα λο βαθμο. Οι εφαρμογε ς αυτου του τυ που λυ - νουν προβλη ματα τα οποι α ει ναι ντροπιαστικά παρα λληλα (embarrassingly parallel) δηλαδη ει ναι δυνατο ν να παραλληλοποιηθου ν χωρι ς ιδιαι τερη προσπα θεια, καθω ς δεν χρεια ζεται επικοινωνι α μεταξυ των παρα λληλων διεργασιω ν. Το μοντε λο αυτο, ταιρια ζει σε πληθω ρα εφαρμογω ν ο που ε χουμε να εφαρμο σουμε το ι διο προ γραμμα πα νω σε ε να μεγα λο σετ απο δεδομε να, μια ιδιο τητα οι οποι α το κα νει ιδιαι τερα συμβατο με τα περιβα λλοντα νεφω ν τα οποι α πολυ συχνα χρησιμοποιου νται για τη μαζικη επεξεργασι α δεδομε νων σε εφαρμογε ς Εξεργασι ας Δεδομε νων Μεγα λης Κλι μακας (Big Data). Οι εφαρμογε ς αυτου του τυ που ε χουν ερευνηθει σε βα θος, και πολλαπλα μοντε λα ε χουν δημιουργηθει αναγνωρι ζοντας τις κυ ριες συμπεριφορε ς που εμφανι ζονται σε πραγματικα ι χνη (real-life traces) απο παρα λληλα συστη - ματα [53, 78 80]. Τα κυριο τερα χαρακτηριστικα που αναδει χθηκαν απο αυτε ς τις ε ρευνες ει ναι τα παρακα τω: Περιοδικότητα (Periodicity) Όπως και σε α λλα μοντε λα παρα λληλων εργασιω ν [72] οι εργασι ες παρουσια ζουν ε να ημερη σιο κυ κλο βα - σει του οποι ου εισε ρχονται προς επεξεργασι α στο συ στημα. Εξάρτηση μεγάλης εμβέλειας (Long Range Dependence) Το χαρακτηριστικο αυτο προβα λει τη συσχε τιση που εμφανι ζεται μεταξυ συνεχο μενων δειγμα των μια διεργασι ας αφι ξεων. Περιοδικές αφίξεις σε ριπές (Temporal Burstiness) Οι αφι ξεις ε χουν την τα ση να εμφανι ζονται κατα ριπε ς ο που υπα ρχουν περι οδοι με με-

43 1.3 Χρονοδρομολόγηση παράλληλων εργασιών 17 γα λο, ταχυ αριθμο αφι ξεων ενω υπα ρχουν και περι οδοι χωρι ς καθο λου αφι ξεις. Χωρική ανομοιομορφία (Spatial Burstiness) Οι εργασι ες στα παρα λληλα συστη ματα εμφανι ζουν ανομοιομορφι α στις κατανομε ς των χρο νων εκτε λεσης και του απαιτου μενου αριθμου επεξεργαστω ν ανα εργασι α. Χρονική τοπικότητα (Temporal Locality) Το χαρακτηριστικο αυτο επικεντρω νεται στις ομοιο τητες που εμφανι ζονται μεταξυ των χρο νων εκτε λεσης διαδοχικω ν διεργασιω ν. Πολλα μοντε λα στη συ γχρονη βιβλιογραφι α ε χουν ασχοληθει με τη χρονοδρομολο γηση εργασιω ν τυ που bag-of-tasks το σο σε κατανεμημε να συστη - ματα [16, 53, 120] ο σο και σε συστη ματα πλε γματος [5, 18, 19] αλλα και σε συστη ματα νεφω ν [27, 46, 86 89]. Σημαντικο ενδιαφε ρον εμφανι ζεται για τη χρη ση πολλαπλω ν νεφω ν και την επιλογη του καλυ τερου νε φους βα σει των χαρακτηριστικω ν του εκα στοτε φο ρτου εργασι ας. Επι σης σε αρκετα μοντε λα λαμβα νονται υπο ψη οι περιορισμοι που ει ναι πιθανο να υπα ρχουν σε σχε σει με το χρηματικο πρου πολογισμο για την εκτε λεση της κα θε εργασι ας. Στα παρα λληλα συστη ματα, ο που συνη θως το κο στος δεν αποτελει παρα μετρο προς αξιολο γηση εμφανι ζονται ιδιο τητες ο πως η ενεργειακη αποδοτικο - τητα, οι προθεσμι ες εκτε λεσης αλλα και η ανοχη σε αστοχι ες ει τε λογισμικου ει τε υλικου. Ιδιαίτερα χαρακτηριστικά δρομολόγησης Στη δρομολο γηση τυ που ΒοΤ, δεν εμφανι ζονται φυσικα οι περιορισμοι που υπα ρχουν στις εργασι ες τυ που ομα δας. Ο δρομολογητη ς δεδομε νης της ανεξαρτησι ας μεταξυ των υποεργασιω ν, ει ναι ελευ θερος να δρομολογη σει πολλαπλε ς εργασι ες προς τον ι διο υπολογιστικο πο ρο χωρι ς να υπα ρχει περι πτωση οι εργασι ες να βρεθου ν σε κατα σταση αδιε ξοδης διεκδι κησης πο ρων (deadlock). Η ευελιξι α αυτη απο την α λλη πλευρα, δημιουργει νε ους κινδυ νους καθω ς η αλο γιστη ανα θεση πο ρων μπορει να οδηγη σει σε μεγα λες καθυστερη σεις στην εκτε λεση των εργασιω ν αν ο δρομολογητη ς δεν λαμβα νει υπο ψιν του την εκα στοτε κατα σταση του συστη ματος. Γι αυτου ς του λο γους η κοινο τητα των παρα λληλων συστημα των ε χει αναπτυ ξει δια φορες ευρετικε ς μεθο δους δρομολο γησης, ο πως οι παρακα τω,

44 18 1 Εισαγωγή οι οποι ες καλου νται να λυ σουν το προ βλημα της χρονοδρομολο γησης χρησιμοποιω ντας ε ναν α πληστο αλγο ριθμο[53]. Ελάχιστος xρόνος oλοκλήρωσης - Earliest completion time Ο αλγο ριθμος αυτο ς αναθε τει κα θε εργασι α στον πο ρο που θα επιφε ρει βα - σει της τρε χουσας κατα σταση ς του το γρηγορο τερο χρο νο ολοκλη ρωσης της εργασι ας. Η μεγαλύτερη εργασία στον ταχύτερο επεξεργαστή - Fastest processor largest task Σε αυτη την τεχνικη η μεγαλυ τερη, σε χρο νο εκτε λεσης, εργασι α ανατι θεται στον ταχυ τερο επεξεργαστη. Όπως ει ναι ορατο αυτοι οι δυ ο αλγο ριθμοι απαιτου ν την πλη ρη γνω ση της τρε χουσας κατα στασης του συστη ματος αλλα και του χρο νου εκτε λεσης των εργασιω ν. Σε ε να μεγα λο κομμα τι της παρου σας διατριβη ς θα ασχοληθου με με τη χρη ση μετα-ευρετικω ν αλγορι θμων για τη χρονοδρομολο γηση εργασιω ν τυ - που BoT σε νε φη με σκοπο να παρε χουμε βελτιστοποιημε νες λυ σεις σε σχε ση με τους παραπα νω αλγο ριθμους το σο σε κο στος ο σο και σε απο δοση. Στην επο μενη υποενο τητα λοιπο ν θα ασχοληθου με με κα ποιες βασικε ς ε ννοιες αλλα και με τις εφαρμογε ς των αλγορι θμων αυτω ν. 1.4 Μετα-ευρετικοί αλγόριθμοι χρονοδρομολόγησης Ορισμός και χαρακτηριστικά Κατα τη δια ρκεια αυτη ς της διατριβη ς, χρησιμοποιου με τον ο ρο μετα-ευρετικο ς (meta-heuristic) αλγο ριθμος για να περιγρα ψουμε αλγο ριθμους μεταευρετικη ς βελτιστοποι ησης με χρη ση τοπικη ς η ολικη ς αναζη τησης του χω - ρου καταστα σεων του προβλη ματος χρονοδρομολο γησης. Οι αλγο ριθμοι αυτοι, προσπαθου ν να βελτιω σουν τα χρονοδιαγρα μματα που δι νονται ως λυ ση απο α πληστους (greedy) αλγορι θμους χρονοδρομολο γησης αναζητω ντας στο χω ρο καταστα σεων λυ σεις οι οποι ες πληρου ν καλυ τερα κα ποια βασικα κριτη ρια-στο χους που ε χουμε θε σει. Να σημειω σουμε εδω ο τι ο σκοπο ς των αλγορι θμων αυτω ν ει ναι να προσεγγι σουν, στο ο ριο του δυνατου, την καθολικα καλυ τερη λυ ση του προβλη ματος χωρι ς ο μως αυτο να ει ναι πα ντοτε δυνατο. Όπως φαι νεται και στο Σχη μα 1.2 υπα ρχουν πολλε ς οικογε νειες τε τοιων αλγο ριθμων.

45 1.4 Μετα-ευρετικοί αλγόριθμοι χρονοδρομολόγησης 19 Σχη μα 1.2: Ταξινομι α των αλγορι θμων μετα-ευρετικη ς βελτιστοποι ησης [127] Πολλοι απο αυτου ς του αλγο ριθμους προσομοιω νουν μια φυσικη διαδικασι α. Στα πλαι σια αυτη ς της διατριβη ς θα ασχοληθου με με δυ ο απο τους αλγορι θμους αυτου ς και συγκεκριμε να με την Προσομοιωμε νη Ανο πτηση (Simulated Annealing SA) και με την Αναζη τηση Ταμπου (Tabu Search TS) Προσομοιωμένη Ανόπτηση Η προσομοιωμε νη ανο πτηση, ει ναι μια γενικη ς χρη σης πιθανολογικη μεταευρετικη με θοδος η οποι α προσπαθει να ανακαλυ ψει τις τιμε ς που βελτιστοποιου ν μια συνα ρτηση και βρι σκονται ο σο πιο κοντα γι νεται στο ολικο βε λτιστο (global optimum). Ανη κει στους φυσικου ς μετα-ευρετικου ς αλγορι θμους που δεν κα νουν χρη ση μνη μης, καθω ς η μο νη κατα σταση που ο αλγο ριθμος αναγνωρι ζει σε κα θε σημει ο της εκτε λεση ς του ει ναι η τρε χουσα στην οποι α και βρι σκεται. Η με θοδος αυτη που αρχικα περιγρα φηκε απο τον Kirkpatrick και λοιποι [64] αποτελει μια τροποποιημε νη μορφη του αλγο ριθμου Metropolis- Hastings [48, 75] και διακρι νεται για τη δυνατο τητα της να κα νει αναζη τηση σε πολυ μεγα λους χω ρους αναζη τησης δι νοντας πολυ καλε ς προσεγγιστικε ς λυ σεις σε ε να μεγα λο ευ ρος προβλημα των. Όπως ει παμε, αυτο ς ο αλγο ριθμος ει ναι εμπνευσμε νος απο τη φυσικη δια-

46 20 1 Εισαγωγή δικασι α της ανο πτησης στη μεταλλουργι α που περιλαμβα νει τη θε ρμανση και κατο πιν σταδιακη ψυ ξη των μετα λλων με σκοπο να αυξηθει η ευκαμψι α τους και να γι νουν λιγο τερο ευ θρυπτα. Παρομοι ως, ο αλγο ριθμος SA ακολουθει ε να χρονοδια γραμμα ψυ ξης το οποι ο καθορι ζει το πο σο ευ καμπτος ει ναι ο αλγο ριθμος στο να αποδε χεται χειρο τερες λυ σεις ανα λογα με την εκα στοτε θερμοκρασι α του συστη ματος. Η χρη ση του αλγορι θμου για επι λυση προβλημα των χρονοδρομολο γησης, επικεντρω θηκε αρχικα σε προβλη ματα job-shop και low-shop [90, 123] χρονοδρομολο γησης. Πιο προ σφατα ο μως, η τεχνικη αυτη ε χει βρει εφαρμογη σε προβλη ματα χρονοδρομολο γησης συστημα των πλε γματος [126, 135] αλλα και σε νε φη [29] Αναζήτηση Ταμπού Η αναζη τηση ταμπου ει ναι μια α λλη τεχνικη μετα-ευρετικη ς βελτιστοποι ησης, η οποι α ανη κει στην κατηγορι α των αλγορι θμων τοπικη ς αναζη τησης που κα νουν χρη ση της μνη μης και δημιουργη θηκε απο τον F.W.Glover [40, 41]. Η τεχνικη αυτη επιτρε πει την αποδοχη χειρο τερων λυ σεων του προβλη ματος αν καμια απο τις λυ σεις που γειτονευ ουν με την τρε χουσα κατα σταση δεν ει ναι καλυ τερη. Αυτο συμβαι νει ο ταν ο αλγο ριθμος ε χει εγκλωβιστει σε ε να τοπικο ελα χιστο. Ταυτο χρονα, ο αλγο ριθμος διατηρει σε δια φορες δομε ς μνη - μης, που μπορει να ε χουν διαφορετικε ς χρονικε ς δια ρκειες, καταστα σεις στις οποι ες ε χει η δη βρεθει και θεωρου νται προς το παρο ν ταμπου η απαγορευμε νες. Όσο λοιπο ν αυτε ς οι καταστα σεις βρι σκονται στις λι στες με τα ταμπου ο αλγο ριθμος τις αποφευ γει. Η αναζη τηση ταμπου ε χει βρει εφαρμογη σε προβλη ματα χρονοδρομολο γησης σε συστη ματα πλε γματος [28] με ανακριβει ς υπολογισμου ς αλλα και σε μοντε λα βελτιστοποι ησης της απο δοσης των εργασιω ν [131]. 1.5 Συνεισφορά της διατριβής Η διατριβη αυτη, ο πως θα δου με και παρακα τω χωρι ζεται σε δυ ο θεματικε ς ενο τητες. Στην πρω τη ενο τητα εξετα ζονται με θοδοι χρονοδρομολο γησης παρα λληλων εργασιω ν τυ που ομα δας σε μοντε λα υπολογιστικω ν νεφω ν. Σε συνδυασμο με τις μεθο δους αυτε ς εξετα ζουμε τη χρη ση της μεθοδολογι ας μετανα στευσης εργασιω ν για τη μει ωση του κατακερματισμου των χρονο-

47 1.5 Συνεισφορά της διατριβής 21 διαγραμμα των χρονοδρομολο γησης καθω ς και τη χρη ση τεχνικω ν αποφυγη ς λιμοκτονι ας για την αποφυγη δημιουργι ας αυξημε νων καθυστερη σεων λο γω των εργασιω ν που μεταναστευ ουν. Επιπροσθε τως και σε συνδυασμο με τα προηγου μενα εξετα ζουμε ενεργα και παθητικα μοντε λα εξισορρο πησης των δεσμευμε νων πο ρων απο τα δυναμικα συστη ματα νε φους ε τσι ω στε να μειω - σουμε το κο στος που επιφε ρει η χρη ση των νεφω ν. Για τη δημιουργι α των συνθετικω ν εργασιω ν, γι νεται χρη ση των κατα λληλων μοντε λων γνωστω ν απο τη βιβλιογραφι α, ενω για την αποτι μηση των προτεινο μενων αλγορι θμων και τεχνικω ν κα νουμε χρη ση κατα λληλων μετρικω ν που ανταποκρι νονται στις εργασι ες τυ που ομα δας και εξετα ζουν το σο την απο δοση ο σο και το κο στος. Η συνολικη αποτι μηση των προτεινο μενων μοντε λων γι νεται σε κα θε περι πτωση με τη χρη ση μοντε λων προσομοι ωσης. Συνεπω ς για την πρω τη θεματικη ενο τητα η συνεισφορα της παρου σας διατριβη ς συνοψι ζεται στα εξη ς: Με στο χο τη βελτι ωση της απο δοσης και του κο στους των συστημα - των νεϕω ν που χρησιμοποιου με, προτει νονται με θοδοι χρονοδρομολο γησης εργασιω ν τυ που ομα δας και συνδυα ζονται με τη χρη ση ενο ς μοντε λου νε φους που ει ναι σε θε ση να αναπροσαρμο ζει δυναμικα το με γεθος του συστη ματος, δηλαδη τον αριθμο των διαθε σιμων υπολογιστικω ν πο ρων. Οι με θοδοι δρομολο γησης αξιολογου νται με χρη ση κατα λ- ληλων μετρικω ν γι αυτου του ει δους τις εργασι ες κα τω απο δια φορες παραμετροποιη σεις του φο ρτου του συστη ματος ε τσι ω στε να κρι νουμε τις αδυναμι ες του κα θε αλγορι θμου. Προτει νουμε σχη μα μεταναστευ σεων κατα λληλο για τη μει ωση του φαινομε νου του κατακερματισμου των χρονοδιαγραμμα των και προσαρτου με σε αυτο συ στημα αποφυγη ς της λιμοκτονι ας των εργασιω ν για τις περιπτω σεις ο που συνεχει ς μεταναστευ σεις αποτρε πουν την εκτε λεση α λλων εργασιω ν. Σε συνδυασμο με τους αλγο ριθμους χρονοδρομολο γησης εργασιω ν τυ που ομα δας, αποτιμου με το συνολικο μοντε λο σε ε να δυναμικο συ στημα νε φους και κα τω απο δια φορους φο ρτους εργασι ας, αξιολογω ντας την απο δοση και το κο στος του ο λου σχη ματος. Για την αποδοτικο τερη χρη ση των πο ρων του συστη ματος νε φους καθω ς και για την απομει ωση του κο στους χρη σης αυτου, προτει νεται με θοδος ενεργου ς εξισορρο πησης του μεγε θους του συνολικου συστη ματος σε σχε ση με τον εκα στοτε φο ρτο εργασι ας και παρε χεται συγκρι-

48 22 1 Εισαγωγή τικη μελε τη αυτη ς σε σχε ση με την παθητικη με θοδο αναπροσαρμογη ς του συστη ματος που χρησιμοποιη θηκε σε προηγου μενα μοντε λα. Στη δευ τερη θεματικη ενο τητα της διατριβη ς, εξετα ζουμε τη χρη ση των μετα-ευρετικω ν αλγορι θμων της προσομοιωμε νης ανο πτησης και της αναζη - τησης ταμπου κατα τη χρονοδρομολο γηση εφαρμογω ν για το διαδι κτυο των πραγμα των αλλα και παρα λληλων εφαρμογω ν τυ που σα κου-απο -εργασι ες. Τα συστη ματα εφαρμογη ς των μεθο δων αυτω ν ει ναι πολυ-νεφικα η δια-νεφικα συστη ματα με πολλα νε φη να εργα ζονται ταυτο χρονα προς εξυπηρε τηση των παρα λληλων εργασιω ν. Τα μοντε λα νεφω ν που χρησιμοποιου με ε χουν δια φορους βαθμου ς ομοιογε νειας το σο απο α ποψη μεγε θους των συμμετεχο ντων νεφω ν ο σο και απο α ποψη απο δοσης των επιμε ρους εικονικω ν μηχανω ν. Για να αξιολογη σουμε τα μοντε λα αυτα, χρησιμοποιου με το σο μοντε λα συνθετικω ν εργασιω ν ο σο και μετρικε ς οι οποι ες συνα δουν με τις εργασι ες τυ που ΒοΤ και πε ραν της απο δοσης εξετα ζουμε και το κο στος που οι τεχνικε ς χρονοδρομολο γησης επιφε ρουν. Συνεπω ς για τη δευ τερη θεματικη ενο τητα η συνεισφορα της διατριβη ς συνοψι ζεται στα εξη ς: Προτει νεται μοντε λο πολλαπλω ν νεφω ν με ανομοιογε νεια στο με γεθος του κα θε νε φους, για την εξυπηρε τηση μοντε λου εργασιω ν με χαρακτηριστικα που συνα δουν με τις υπολογιστικε ς απαιτη σεις του διαδικτυ ου των πραγμα των. Για τη χρονοδρομολο γηση των εργασιω ν αυτω ν και για τη βελτιστοποι ηση της απο δοσης αλλα και του κο στους χρη σης του νε φους προτει νεται σχη μα με αλγο ριθμο προσομοιωμε νης ανο πτησης σε τοπικο επι πεδο και με ευρετικο αλγο ριθμο με βα ση το με σο φο ρτο σε καθολικο επι πεδο. Η απο δοση και το κο στος του προτεινο μενου μοντε λου αξιολογου νται βα σει μετρικω ν για παρα λληλες εργασι ες και συγκρι νονται με γνωστο ντετερμινιστικο αλγο ριθμο. Διερευνω νται δια-νεφικα μοντε λα με πολλαπλα νε φη διαφορετικω ν μεγεθω ν και με ετερογενη απο δοση εικονικω ν μηχανω ν και χρησιμοποιει ται σε αυτα μοντε ρνο μοντε λο εργασιω ν τυ που σα κου-απο -εργασι ες με χαρακτηριστικα εξειδικευμε να στις εργασι ες BoT. Υλοποιει ται σχη μα αλγο ριθμων χρονοδρομολο γησης πολλαπλω ν επιπε δων με χρη ση δυ ο τυ πων προσομοιωμε νης ανο πτησης και αναζη τησης ταμπου και αξιολογει ται η απο δοση και το κο στος αυτω ν ε ναντι κορυφαι ου ευρετικου αλ-

49 1.5 Συνεισφορά της διατριβής 23 γορι θμου για BoT εργασι ες. Οι μετρικε ς απο δοσης που χρησιμοποιου ν- ται ει ναι ειδικα σχεδιασμε νες γι αυτου του τυ που τις εργασι ες. Εξετα ζεται η μι ξη τοπικω ν και καθολικω ν αφι ξεων εργασιω ν στο ι διο μοντε λο καθω ς και η υ παρξη κρι σιμων εργασιω ν οι οποι ες δρομολογου νται κατ εξαι ρεση σε πραγματικο χρο νο. Επι σης αποτιμα ται η επι δραση των κρι σιμων εργασιω ν στην απο δοση της χρονοδρομολο γησης των παραπα νω μοντε λων. Σκοπο ς ο λης της παραπα νω διερευ νησης και στις δυ ο θεματικε ς ενο τητες ει ναι η βελτι ωση της απο δοσης και η ταυτο χρονη εξοικονο μηση χρηματικω ν πο ρων βελτιστοποιω ντας το κο στος του νε φους. Οι δυ ο αυτοι στο χοι ει ναι ιδιαι τερα σημαντικοι για τα συστη ματα νεϕω ν. Απο τη μι α πλευρα οι πα - ροχοι των νεϕω ν δει χνουν ιδιαι τερο ενδιαφε ρον για τη βελτιστοποι ηση της απο δοσης καθω ς αυτη τους επιτρε πει να εξοικονομου ν χρη ματα μειω νοντας τα λειτουργικα ε ξοδα του νε φους τους και ταυτο χρονα να εξυπηρετου ν μεγαλυ τερο αριθμο πελατω ν αυξα νοντας τα ε σοδα τους. Απο την α λλη πλευρα, οι πελα τες του νε φους απαιτου ν απο τους παρο χους καλη απο δοση για τα συστη ματα που αυτοι δεσμευ ουν αλλα ταυτο χρονα ενδιαφε ρονται και για τη μει ωση των δικω ν τους εξο δων κα τι το οποι ο, ο πως θα δου με, μπορει να γι νει εφικτο με σα απο την αποδοτικο τερη χρη ση των πο ρων του νε φους.

50

51 Θεματική Ενότητα 1: Χρονοδρομολόγηση εργασιών τύπου ομάδας σε συστήματα νεφών

52

53 27 Κεφάλαιο 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή 2.1 Εισαγωγή Τα υπολογιστικα νε φη, ο πως ε χουμε αναφε ρει και στο Κεφα λαιο 1 δι νουν τη δυνατο τητα για την ανα πτυξη υπηρεσιω ν και προι ο ντων χωρι ς την πρου - πο θεση κεφαλαιακω ν εξο δων, αλλα εξυπηρετω ντας μο νο τα λειτουργικα ε ξοδα με σα απο ε να μοντε λο οικονομι ας κλι μακας. Έτσι, οι επιχειρη σεις και οι οργανισμοι μπορου ν να ε χουν στη δια θεση τους μια δυνητικα ατελει ωτη πηγη απο υπολογιστικου ς πο ρους, τους οποι ους μπορου ν να εκμεταλλευτου ν και να τροποποιη σουν κατα το δοκου ν, πληρω νοντας μο νο ε να μικρο τμη μα του αντι στοιχου κο στους συντη ρησης ενο ς υπολογιστικου κε ντρου. Όπως και σε κα θε α λλο παρα λληλο η κατανεμημε νο συ στημα, ε τσι και σε ε να υπολογιστικο νε φος η δρομολο γηση των εργασιω ν δυ ναται να αποτελε σει ε ναν απο τους καθοριστικου ς παρα γοντες απο δοσης του συστη ματος. Ο αλγο ριθμος της χρονοδρομολο γησης, θα πρε πει να βρει ε να τρο πο να μεγιστοποιη σει την απο δοση του συστη ματος κρατω ντας τους επεξεργαστικου ς πο ρους συνεχω ς σε χρη ση και αποφευ γοντας τυχο ν καθυστερη σεις [92]. Ταυτο χρονα θα πρε πει, λο γω του κο στους χρη σης του νε φους, να διατηρει και μια καλη σχε ση κο στους-απο δοσης. Το μοντε λο εργασιω ν που θα μελετη σουμε στα πλαι σια αυτου του κεφαλαι ου, ει ναι αυτο του τυ που ομα δας (Gang Scheduling) που ε χει επιτυχω ς με-

54 28 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή λετηθει και εφαρμοστει σε παρα λληλα και κατανεμημε να συστη ματα απο τις εργασι ες [31, 57 59, 129]. Οι εργασι ες [57 59] ε χουν μελετη σει τη χρη ση των αλγορι θμων χρονοδρομολο γησης Adaptive First Come First Served (AFCFS) και Largest Job First Served (LJFS) για εργασι ες τυ που ομα δας σε κατανεμημε να συστη ματα. Επι σης οι εργασι ες [22, 92, 93] ε χουν μελετη σει τη χρη ση των ι διων αλγορι θμων σε συστη ματα με παραπα νω απο ε να cluster εξυπηρετητω ν. Παρ ο λα αυτα στις μελε τες αυτε ς τα συστη ματα εξυπηρετητω ν η ταν στατικα, με συγκεκριμε νο αριθμο επεξεργαστω ν και ε να μοναδικο ευ ρος μεγε θους εργασιω ν ο μοιο με τον αριθμο των εξυπηρετητω ν. Το συ στημα που μελετα με στο κεφα λαιο αυτο, αποτελει ται απο ε να cluster εικονικω ν μηχανω ν νε φους που αναπροσαρμο ζεται ανα λογα με το φο ρτο του συστη ματος. Οι εργασι ες ει ναι τυ που ομα δας και χωρι ζονται σε δυ ο κατηγορι ες μεγε θους. Τε λος για τη χρονοδρομολο γηση κα νουμε χρη ση των αλγορι θμων AFCFS και LJFS για να μελετη σουμε την επι δραση τους το σο απο α ποψη απο δοσης ο σο και απο α ποψη οικονομικη ς αποτελεσματικο τητας ο ταν εφαρμο ζονται σε συστη ματα νεφω ν. 2.2 Μοντελοποίηση του συστήματος και του φόρτου εργασιών Το μοντε λο συστη ματος που εξετα ζουμε, αποτελει ται απο ε να cluster εικονικω ν μηχανω ν συνδεδεμε νων με μια εικονικη μηχανη που λειτουργει ως κατανεμητη ς (Dispatcher VM DVM). Αρχικα το συ στημα δεν ενοικια ζει καμι α εικονικη μηχανη και επομε νως το cluster ει ναι α δειο. Ανα λογα με το φο ρτο εργασι ας ο μως, το συ στημα ε χει τη δυνατο τητα να ενοικια σει δυναμικα εικονικε ς μηχανε ς αλλα και να τις απελευθερω σει. Υποθε τουμε ο τι ο με γιστος αριθμο ς εικονικω ν μηχανω ν που μπορου ν να ενοικιαστου ν ει ναι P max = 120. Το ο ριο αυτο μοντελοποιη θηκε βα σει των αντι στοιχων ορι ων που προσφε ρονται απο το Amazon EC2 νε φος το οποι ο επιτρε πει την ενοικι αση 20 κανονικω ν και με χρι 100 επιτο πιων (spot) εικονικω ν μηχανω ν οι οποι ες ενοικια ζονται υπο συνθη κη [105]. Η κα θε εικονικη μηχανη διαθε τει ε ναν πυρη να υπολογισμου καθω ς και τη δικη της ουρα αναμονη ς για τις εργασι ες που δρομολογου νται προς αυτη. Ο κατανεμητη ς εικονικω ν μηχανω ν, διαθε τει και εκει νος μια ουρα αναμονη ς για τις εργασι ες που δεν η ταν δυνατο να δρομολογηθου ν προς το cluster κατα την α φιξη τους λο γω ε λλειψης εικονικω ν μηχανω ν η λο γω εξαιρετικα μεγα λου

55 2.2 Μοντελοποίηση του συστήματος και του φόρτου εργασιών λ DVM Jobs Waiting for New VMs Σχη μα 2.1: Το μοντε λο του συστη ματος φο ρτου εργασι ας. Μια α λλη υπο θεση του συστη ματος ει ναι ο τι η επικοινωνι α μεταξυ των εικονικω ν μηχανω ν γι νεται με σω ενο ς δικτυ ου υψηλη ς ταχυ τητας και επομε νως ο λες οι καθυστερη σεις στην επικοινωνι α μεταξυ των εργασιω ν σιωπηρα περιλαμβα νονται στους χρο νους εκτε λεσης τους. Αντι θετα, στην περι πτωση ο που οι εργασι ες δεν δρομολογου νται αμε σως, ο πως περιγρα ψαμε στην προηγου μενη παρα γραφο, υπα ρχουν σαφει ς καθυστερη σεις. Τε λος θεωρου με ο τι ο λες οι εικονικε ς μηχανε ς παρε χουν πανομοιο τυπη απο δοση καθω ς ανη κουν στην ι δια κλα ση. Ει ναι φυσικο βε βαια στην πραγματικο τητα η απο δοση τους να μην ει ναι ακριβω ς ι δια. Δεδομε νου του ο τι πολλαπλα VMs ει ναι δυνατο ν να εκτελου νται πα νω στο ι διο hardware, ει ναι επο μενο ο τι θα υπα ρχουν και διαφορε ς στην απο δοση της κα θε εικονικη ς μηχανη ς. Παρ ο λα αυτα, ε ρευνες [6, 85] ε χουν δει ξει ο τι τα VMs δυνητικα παρε χουν σχεδο ν ο μοια απο δοση ο ταν δεν απαιτει ται ιδιαι τερη προ σβαση στο σκληρο δι σκο. Γι αυτο το λο γο θεωρου με ο τι οποιαδη ποτε καθυστε ρηση που

56 30 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή δημιουργει ται λο γο ανο μοιας απο δοσης ει ναι σιωπηρα περιεχο μενη στο χρο νο εκτε λεσης των εργασιω ν. Τα gangs στο μοντε λο που μελετα με, χωρι ζονται σε δυ ο κατηγορι ες, ανα - λογα με το βαθμο παραλληλισμου τους. Οι βαθμοι παραλληλισμου ει ναι ομοιο μορφα κατανεμημε νοι τυχαι οι αριθμοι : Εργασίες Χαμηλής Παραλληλισημότητας, ο που οι εργασι ες ε χουν μεγε θη στο ευ ρος [1...16] με πιθανο τητα q. Εργασίες Υψηλής Παραλληλισημότητας, ο που οι εργασι ες ε χουν μεγε θη στο ευ ρος [ ] με πιθανο τητα 1 q. ο που q ει ναι ο συντελεστη ς μεγε θους των εργασιω ν, που χρησιμοποιει ται για να ρυθμι σουμε τον αριθμο των εργασιω ν που ανη κουν σε κα θε κατηγορι α. Άρα, για να υπολογι σουμε το με σο με γεθος εργασι ας (Average Job Size - AJS) χρησιμοποιου με τον παρακα τω τυ πο: AJS = q (1 q) 2 (2.1) Για τον υπολογισμο του χρο νο μεταξυ των αφι ξεων χρησιμοποιη θηκε εκθετικη κατανομη με με ση τιμη (mean) 1/λ, ο που λ ο με σος ρυθμο ς α φιξης, ενω για τους χρο νους εκτε λεσης χρησιμοποιη θηκε εκθετικη κατανομη με με ση τιμη 1/µ, ο που µ ο με σος ρυθμο ς εξυπηρε τησης. Θεωρου με ο τι δεν υπα ρχει συσχε τιση μεταξυ των χρο νων εκτε λεσης και του μεγε θους των εργασιω ν, για παρα δειγμα δεν ει ναι απαραι τητο για μια μεγα λη εργασι α να ε χει μεγα λο χρο νο εκτε λεσης και το αντι στροφο. Κα τι το οποι ο θα πρε πει να γι νει ξεκα θαρο εδω, ει ναι ο τι δεν υπα ρχει κα - ποιας μορφη ς προεκχω ρηση (preemption) των εργασιω ν καθω ς ο λες οι εργασι ες εκτελου νται με χρι να ολοκληρωθου ν. Ο κυ ριος λο γος για τον οποι ο συμβαι νει αυτο, ει ναι επειδη στη χρονοδρομολο γηση εργασιω ν τυ που ομα - δας, η αποθη κευση της κατα στασης του συστη ματος κατα την αλλαγη πλαισι ου (context switch) ει ναι πολυ πιο ακριβη καθω ς ει ναι απαραι τητο να αποθηκευτει και η κατα σταση του δικτυ ου αφου οι υποεργασι ες βρι σκονται σε συνεχη επικοινωνι α [49].

57 2.3 Μέθοδοι χρονοδρομολόγησης εργασιών τύπου ομάδας Μέθοδοι χρονοδρομολόγησης εργασιών τύπου ομάδας Κατανομή εργασιών Το σημει ο εισο δου των εργασιω ν στο συ στημα ει ναι ο κατανεμητη ς εργασιω ν. Αν ο βαθμο ς παραλληλισμου μιας εργασι ας που φτα νει στο συ στημα ει ναι μικρο τερος η ι σος με τον αριθμο των διαθε σιμων εικονικω ν μηχανω ν εκει νη τη χρονικη στιγμη, ο κατανεμητη ς διανε μει τις υποεργασι ες της εργασι ας αυτη ς απευθει ας προς τις ουρε ς με το μικρο τερο αριθμο εργασιω ν χρησιμοποιω ντας μι α τροποποιημε νη ε κδοση του αλγο ριθμου Shortest Queue First (SQF). Η τροποποι ηση ε γκειται στην ενσωμα τωση ειδικου ελε γχου ε τσι ω στε να μη διανεμηθου ν δυ ο υποεργασι ες της ι διας εργασι ας προς τον ι διο επεξεργαστη. Ο αλγο ριθμος SQF δι νεται στον Αλγο ριθμο 2.1. Αλγόριθμος 2.1 Ο αλγο ριθμος Shortest Queue First 1: procedure SQF(tasks, vms) 2: for task tasks do 3: sq vms.minby(λ : vm vm.queue.size()).queue 4: while sq.containssibling(task) do 5: vms vms sq 6: sq vms.minby(λ : vm vm.queue.size()).queue 7: end while 8: sq.append(task) 9: end for 10: end procedure Δρομολόγηση εργασιών Δυ ο απο τους πιο διαδεδομε νους αλγορι θμους για gang scheduling ει ναι, ο πως αναφε ραμε και παραπα νω, ο Adaptive First Come First Served (AFCFS) και ο Largest Job First Served (LJFS) που ε χουν μελετηθει εις βα θος στην περιοχη των παρα λληλων συστημα των καθω ς και του πλε γματος. Στο συ στημα νε φους που μελετα με οι αλγο ριθμοι χρησιμοποιου νται για τη χρονοδρομολο - γηση εργασιω ν αφου αυτε ς ε χουν διανεμηθει στα εκα στοτε VMs. Ο κα θε αλγο ριθμος καλει ται επανειλημμε να μετα απο κα θε αναχω ρηση εργασι ας ε ως ο του δεν ει ναι δυνατο ν να δρομολογηθου ν προς εκτε λεση α λλες εργασι ες.

58 32 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή Adaptive First Come First Served Ο αλγο ριθμος AFCFS, προσπαθει να ανακαλυ ψει την παλαιο τερη εργασι α που ε φτασε στο συ στημα βα σει του χρο νου α φιξη ς, η οποι α ει ναι δυνατο ν να εκτελεστει συ μφωνα με την τρε χουσα κατα σταση του συστη ματος. Για να το καταφε ρει αυτο, ελε γχει τις ουρε ς των VMs ξεκινω ντας απο την κεφαλη της ουρα ς και συνεχι ζει με χρι το τε λος η ε ως ο του βρεθει μια εργασι α της οποι ας οι υποεργασι ες βρι σκονται σε ουρε ς αδρανω ν VMs. Όπως ει ναι φυσικο αυτη η συμπεριφορα του AFCFS τον προκαταλαμβα νει προς τις εργασι ες μικρου μεγε θους, αφου αυτε ς ει ναι πολυ πιο πιθανο να βρεθου ν στην κατα σταση που περιγρα ψαμε παραπα νω, με αποτε λεσμα οι εργασι ες μεγαλυ τερου μεγε θους να υπο κεινται, συνη θως, σε συγκριτικα μεγαλυ τερες καθυστερη σεις. Ο ψευδοκω δικας του AFCFS δι νεται στον Αλγο ριθμο 2.2. Αλγόριθμος 2.2 Ο αλγο ριθμος Adaptive First Come First Served 1: function AFCFS(vms) 2: for vm vms do 3: if vm.isf ree() then 4: for t1 vm.queue.tasks do 5: canbeexecuted true 6: for t2 t1.job.tasks do 7: if t2.vm.isbusy() then 8: canbeexecuted f alse 9: break 10: end if 11: end for 12: if canbeexecuted then 13: return t2.job 14: end if 15: end for 16: end if 17: end for 18: return none 19: end function Largest Job First Served Στον αλγο ριθμο LJFS οι εργασι ες δρομολογου νται ανα λογα με το με γεθο ς τους, με την προτεραιο τητα να δι νεται στις εργασι ες μεγα λου μεγε θους. Έτσι, μετα απο μι α αποχω ρηση ο αλγο ριθμος ταξινομει τις εργασι ες ανα λογα με

59 2.4 Διαχείριση εικονικών μηχανών 33 το με γεθο ς τους σε φθι νουσα σειρα και η πρω τη εργασι α της οποι ας οι υποεργασι ες ει ναι κατανεμημε νες σε αδρανει ς VMs δρομολογει ται για εκτε λεση. Αυτη η με θοδος ε χει θετικη επι δραση στους χρο νους απο κρισης των μεγαλυ - τερων εργασιω ν ενω οι αντι στοιχοι χρο νοι των μικρω ν εργασιω ν δε χονται ε να πλη γμα. Αυτο δεν ει ναι απαραι τητα κακο καθω ς στην πραγματικο τητα η δια κριση μεταξυ μικρω ν και μεγα λων εργασιω ν ει ναι κα τι υπαρκτο στα κε ντρα υπερ-υπολογιστω ν. Ακο μη, ε χει παρατηρηθει ο τι υπα ρχουν περιπτω σεις ο που το πλη γμα στις μικρε ς εργασι ες δεν ει ναι το σο μεγα λο καθω ς συχνα δρομολογου νται αποτελεσματικα μαζι με τις μεγα λες εργασι ες. O ψευδοκω δικας του LJFS παρε χεται στον Αλγο ριθμο 2.3. Αλγόριθμος 2.3 Ο αλγο ριθμος Largest Job First Served 1: function LJFS(jobs) 2: jobsbysize jobs.sortby(λ : j j.size).reverse 3: for job jobsbysize do 4: canbeexecuted true 5: for task job.tasks do 6: if task.vm.isbusy() then 7: canbeexecuted f alse 8: break 9: end if 10: end for 11: if canbeexecuted then 12: return job 13: end if 14: end for 15: return none 16: end function 2.4 Διαχείριση εικονικών μηχανών Όπως ε χουμε αναφε ρει, το νε φος δι νει τη δυνατο τητα να αλλα ζουμε δυναμικα το με γεθος του συστη ματος ενοικια ζοντας και απελευθερω νοντας τις εικονικε ς μηχανε ς που παι ρνουν με ρος σε αυτο και μα λιστα με σα σε πολυ μικρο χρο νο. Αυτο γι νεται εφικτο χρησιμοποιω ντας την κλωνοποι ηση των εικονικω ν μηχανω ν. Έτσι, ο χρη στης μπορει να δημιουργη σει μια αρχικη εικο να (image) η οποι α θα ε χει προ-εγκατεστημε νο ο λο το απαραι τητο λογισμικο για τις ανα γκες του και βα σει αυτη ς της εικο νας μπορει να προσθε τει και να αφαι-

60 34 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή ρει κο μβους υπολογισμου στο συ στημα του [66] Δέσμευση επιπρόσθετων εικονικών μηχανών Το συ στημα υιοθετει μια συ νθετη με θοδο για τη δε σμευση και απελευθε ρωση των εικονικω ν μηχανω ν, κα τι το οποι ο συμβαι νει δυναμικα καθω ς το συ στημα ει ναι σε λειτουργι α. Για να χρειαστει το συ στημα να δεσμευ σει νε ες εικονικε ς μηχανε ς, ε να απο τα δυ ο παρακα τω κριτη ρια θα πρε πει να πληρου ν- ται: Ανεπαρκής αριθμός εικονικών μηχανών. Όταν μια εργασι α με βαθμο παραλληλισμου μεγαλυ τερου του τρε χοντος αριθμου δεσμευμε νων εικονικω ν μηχανω ν φτα νει στο DVM το τε η εργασι α δεν διανε μεται στις εικονικε ς μηχανε ς αλλα περιμε νει στην ουρα του DVM με χρι να δεσμευτου ν και να εκκινηθου ν οι νε ες απαραι τητες εικονικε ς μηχανε ς. Στην περι πτωση αυτο το συ στημα δεσμευ ει το σα VMs ο σα χρεια ζονται ε τσι ω στε ο συνολικο ς αριθμο ς απο VMs να ει ναι επαρκη ς για τη μεγαλυ τερη εργασι α. Υπερφορτωμένες εικονικές μηχανές. Κα θε φορα που μια νε α εργασι α φτα νει στο συ στημα, ελε γχουμε αν ο με σος φο ρτος ανα VM (Average Load Factor - ALF) που υπολογι ζεται απο την εξι σωση 2.2 ει ναι πα νω απο κα ποιο ο ριο: P l t i i=1 ALF = (2.2) P l ο που t i ει ναι ο αριθμο ς των εργασιω ν στην ουρα του VM i και P l ο τρε χων αριθμο ς απο δεσμευμε να VM. Το ο ριο για το ALF για τους σκοπου ς αυτη ς της μελε της η ταν 10 υποεργασι ες ανα VM. Αν κατα την α φιξη μιας εργασι ας το ALF ξεπερα σει το ο ριο, το τε το συ στημα δεσμευ ει το σα VM ο σος και ο βαθμο ς παραλληλισμου της εργασι ας. Να σημειω σουμε εδω ο τι, μετα την προσθη κη των εικονικω ν μηχανω ν το συ στημα αποδε σμευσης τι θεται εκτο ς λειτουργι ας για τις επο μενες 10 αφι ξεις ε τσι ω στε να επιτρε ψει στο συ στημα να χρησιμοποιη σει τα καινου ργια VM. Σε κα θε περι πτωση πα ντως το συ στημα δεν προ κειται να ενοικια σει παραπα νω απο P max VM.

61 2.5 Αποτίμηση της απόδοσης και του κόστους Απελευθέρωση εικονικών μηχανών Οι εικονικε ς μηχανε ς, ο πως ε χουμε αναφε ρει, μπορου ν και να απελευθερω νονται ο ταν δεν ει ναι πλε ον απαραι τητες. Αυτη η λειτουργι α ει ναι ιδιαι τερα σημαντικη απο α ποψη κο στους καθω ς τα VM που αδρανου ν συνεχι ζουν να κοστι ζουν στο χρη στη με χρι να αποδεσμευτου ν και οι υπολογιστικοι τους πο ροι να επιστραφου ν στο νε φος. Η αποδε σμευση των εικονικω ν μηχανω ν θεωρου με ο τι ει ναι μη αναστρε ψιμη και ο τι περιλαμβα νει μια μικρη καθυστε ρηση. Τα κριτη ρια που πρε πει να πληρου νται για να αποδεσμευτει ε να VM ει ναι τα παρακα τω: Η εικονικη μηχανη πρε πει να ει ναι αδρανη ς, δηλαδη να μην εξυπηρετει κα ποια εργασι α. Η ουρα της εικονικη ς μηχανη ς θα πρε πει να ει ναι κενη. Η αφαι ρεση του VM απο το συ στημα δεν θα δημιουργη σει προ βλημα σε τυχο ν μεγα λες εργασι ες που βρι σκονται σε αναμονη στην ουρα του DVM αναμε νοντας τη δε σμευση νε ων εικονικω ν μηχανω ν. Ο ε λεγχος για την αποδε σμευση εικονικω ν μηχανω ν γι νεται μετα απο κα θε αναχω ρηση εργασι ας απο το συ στημα πλην της περιπτω σεως που αναφε ραμε στην υποενο τητα 2.4.1, ο που η αποδε σμευση ει ναι παγωμε νη ε ως ο του ε χουμε τουλα χιστον 10 αφι ξεις. 2.5 Αποτίμηση της απόδοσης και του κόστους Μετρικές απόδοσης Για την αποτι μηση της απο δοσης του συστη ματος ε γινε χρη ση των ακο λουθων μετρικω ν: Χρόνος Απόκρισης r j μιας εργασι ας τυ που ομα δας j ει ναι το μεσοδια - στημα μεταξυ της α φιξης της εργασι ας στον κατανεμητη εργασιω ν και του χρο νου ολοκλη ρωσης της εργασι ας. Αυτη η μετρικη εμπεριε χει και οποιαδη - ποτε καθυστε ρηση μπορει να ε χει προκληθει στην εργασι α. Ο με σος χρο νος απο κρισης (Average Response Time - ART) υπολογι ζεται ως εξη ς: ART = N j=1 N r j (2.3)

62 36 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή ο που N ει ναι ο συνολικο ς αριθμο ς των εργασιω ν. Σταθμισμένος Χρόνος Απόκρισης, μια μετρικη που λαμβα νει υπο ψιν της το με γεθος της κα θε εργασι ας κατα τον υπολογισμο του χρο νου απο κρισης. Έτσι, ο χρο νος απο κρισης r j κα θε εργασι ας πολλαπλασια ζεται με το με γεθος της εργασι ας p(x j ). O σταθμισμε νος με σος χρο νος απο κρισης (Average Weighted Response Time - AWRT) υπολογι ζεται ως εξη ς: AW RT = N p(x j )r j j=1 N p(x j ) j=1 (2.4) Χρόνος Αναμονής w j μι ας παρα λληλης εργασι ας j ει ναι ο χρο νος μεταξυ της α φιξης της εργασι ας και της στιγμη ς που η εργασι α δρομολογει ται προς εκτε λεση. Ο με σος χρο νος αναμονη ς (Average Waiting Time - AWT) και ο σταθμισμε νος με σος χρο νος αναμονη ς (Average Weighted Waiting Time - AWWT) ορι ζονται ακολου θως: AW T = N j=1 N w j (2.5) AW W T = N p(x j )w j j=1 N p(x j ) j=1 (2.6) Επιβράδυνση s j μια εργασι ας j ει ναι ο λο γος του χρο νου απο κρισης r j προς το χρο νος εκτε λεσης e j (execution time). Αυτη η μετρικη χρησιμοποιει ται για να μετρη σει την καθυστε ρηση στην οποι α υπο κειται μια εργασι α σε σχε ση με το πραγματικο χρο νο εκτε λεσης της. Όπως ει ναι αναμενο μενο, αν μια εργασι α ε χει απειροελα χιστο χρο νο εκτε λεσης μπορει πολυ ευ κολα να εκτοξεύσει τις τιμε ς της μετρικη ς αυτη ς. Γι αυτο το λο γο χρησιμοποιου με δυ ο οριοθετημε νες (bounded) μορφε ς της μετρικη ς αυτη ς [49]:

63 2.5 Αποτίμηση της απόδοσης και του κόστους 37 Η οριοθετημε νη επιβρα δυνση (Bounded Slowdown): S bounded j { } r j = max max{e j, τ}, 1 (2.7) Και η με ση οριοθετημε νη επιβρα δυνση (Average Bounded Slowdown - AB- SLD): ABSLD = N j=1 S bounded j Η ανα επεξεργαστη επιβρα δυνση (Per-Processor Slowdown): S pp j N { } r j = max p(x j ) max{e j, τ}, 1 (2.8) (2.9) Και η με ση ανα επεξεργαστη επιβρα δυνση (Average Per-Processor Slowdown - APPSLD): AP P SLD = N j=1 N S pp j (2.10) Στους τυ πους 2.7 και 2.9, ο που τ ει ναι ε να ο ριο που προστατευ ει τη μετρικη απο πολυ μικρου ς χρο νους εκτε λεσης. Το ο ριο αυτο για τα πειρα ματα αυτη ς της μελε της η ταν Μετρικές κόστους Το κο στος χρη σης του νε φους προε ρχεται απο την ενοικι αση των εικονικω ν μηχανω ν. Για να αποτιμη σουμε την απο δοση του κα θε αλγο ριθμου απο α ποψη κο στους θα πρε πει να λα βουμε υπο ψη μας το συνολικο χρο νο ενοικι ασης (Total lease time - LT) των εικονικω ν μηχανω ν που πη ραν με ρος στο συ στημα: P tot LT = T lease(i) (2.11) i=1 ο που T lease(i) ει ναι ο χρο νος ενοικι ασης ενο ς VM i και P tot ει ναι ο συνολικο ς αριθμο ς απο VM που ενοικια στηκαν απο το συ στημα. Χρησιμοποιω ντας τη μετρικη LT ορι ζουμε την παρακα τω μετρικη :

64 38 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή Αποδοτικότητα Κόστους-Απόδοσης (Cost-Performance Ef iciency CPE) η οποι α προσπαθει να συγκερα σει τη μετρικη LT με την ART. H CPE επιδεικνυ ει τη σχετικη αυ ξηση του κο στους και της απο δοσης ταυτο χρονα ο ταν χρησιμοποιει ται ο αλγο ριθμος LJFS ε ναντι του AFCFS και ορι ζεται ως εξη ς: CP E = D LT + D ART (2.12) ο που D LT ει ναι η σχετικη μει ωση σε κο στος ενοικι ασης ο ταν γι νεται χρη ση του LJFS αντι για τον AFCFS και D ART ει ναι η μει ωση σε χρο νο απο κρισης αντιστοι χως Παράμετροι προσομοίωσης Για την προσομοι ωση του συστη ματος που περιγρα φηκε παραπα νω υλοποιη θηκε ε νας προσομοιωτη ς διακριτω ν γεγονο των. Κα θε αποτε λεσμα που παρουσια ζεται παρακα τω αποτελει το με σο ο ρο 30 διαφορετικω ν πειραμα - των προσομοι ωσης για κα θε ρυθμο α φιξης (λ) και κα θε αλγο ριθμο ανα συντελεστη μεγε θους εργασιω ν q. Κα θε πει ραμα προσομοι ωσης ολοκληρω νεται μετα την αναχω ρηση εργασιω ν. Για τη μελε τη της επι δρασης του μεγε θους των εργασιω ν στην απο δοση του συστη ματος χρησιμοποιη θηκαν τρεις διαφορετικε ς τιμε ς του συντελεστη μεγε θους q: q = 0.25, για να μελετη σουμε την περι πτωση ο που οι μεγα λες εργασι ες ει ναι πολυ περισσο τερες των μικρω ν. q = 0.5, με σκοπο να μελετη σουμε ε να ισορροπημε νο συ στημα. q = 0.75, για να μελετη σουμε την περι πτωση ο που ε χουμε πληθω ρα μικρω ν εργασιω ν. Συ μφωνα με την εξι σωση 2.1: Για q = 0.25 οι εργασι ες χρεια ζονται κατα με σο ο ρο 20.5 VMs. Για q = 0.50 οι εργασι ες χρεια ζονται κατα με σο ο ρο 16.5 VMs. Για q = 0.75 οι εργασι ες χρεια ζονται κατα με σο ο ρο 12.5 VMs.

65 2.5 Αποτίμηση της απόδοσης και του κόστους 39 Το μοντε λο του συστη ματος επιτρε πει με χρι 120 VM το οποι ο σημαι νει ο τι για q = 0.75, λ < = 9.6, για q = 0.50, λ < και για q = 0.25, λ < Επειδη το συ στημα χρησιμοποιει gang scheduling, οι ρυθμοι α φιξης θα πρε πει να ει ναι χαμηλο τεροι απο τους αναγραφο μενους καθω ς συχνα VM θα αδρανου ν περιμε νοντας να ει ναι ε τοιμες προς εκτε λεση ο λες οι υποεργασι ες μιας εργασι ας. Επι σης σε αυτη τη μελε τη θε λουμε να ερευνη σουμε τη δυναμικη αλλαγη του μεγε θους του συστη ματος και γι αυτο μετα απο πειραματισμο επιλε ξαμε τιμε ς για το λ οι οποι ες δεν οδηγου ν σε μια κατα σταση ο που το συ στημα ε χει μονι μως δεσμευμε να και τα 120 VM. Οι τιμε ς του λ για κα θε συντελεστη μεγε θους εργασιω ν δι νονται παρακα τω: Για q = 0.25, λ = 1.75, 2.0, 2.25, 2.5, 2.75 Για q = 0.50, λ = 2.25, 2.5, 2.75, 3.0, 3.25 Για q = 0.75, λ = 2.5, 3.0, 3.5, 4.0, 4.5 Όπως ε χουμε αναφε ρει και παραπα νω ο με σος χρο νος εκτε λεσης για τις εργασι ες η ταν 1 σε ο λα τα πειρα ματα Αποτελέσματα προσομοίωσης Τα παρακα τω αποτελε σματα δει χνουν τη διαφορα το σο σε απο δοση ο σο και σε κο στος μεταξυ των δυ ο αλγορι θμων που αναφε ραμε παραπα νω για κα θε παραμετροποι ηση του πειρα ματος προσομοι ωσης. Τα αποτελε σματα για τις μετρικε ς που σχετι ζονται με το χρο νο, δηλαδη τις ART, AWRT, AWT και AWWT μετρω νται σε θεωρητικε ς μονα δες χρο νου (Time Units - TUs). Μέσος χρόνος απόκρισης και Σταθμισμένος μέσος χρόνος απόκρισης Τα Σχη ματα 2.2a, c, e απεικονι ζουν τις διαφορε ς στους χρο νους απο κρισης μεταξυ των αλγορι θμων AFCFS, LJFS και FCFS για q = 0.25, q = 0.5 και q = 0.75 αντιστοι χως. Όπως ει ναι προφανε ς σε ο λα τα αποτελε σματα της προσομοι ωσης ο αλγο - ριθμος FCFS, ως μη ευε λικτη με θοδος, εκφυλι ζεται πολυ γρη γορα σε ο λες τις περιπτω σεις. Αυτο συμβαι νει προφανω ς γιατι ο αλγο ριθμος δεν κοιτάει πε ρα απο την κεφαλη της κα θε ουρα ς.

66 40 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή a 30 Average Response Time AFCFS LJFS FCFS Arrival Rate - λ q=0.25 b30 Average Weighted Response Time AFCFS LJFS FCFS Arrival Rate - λ q= c 28 Average Response Time AFCFS LJFS FCFS Arrival Rate - λ q=0.50 d 30 Average Weighted Response Time AFCFS LJFS FCFS Arrival Rate - λ q= e 28 Average Response Time AFCFS LJFS FCFS Arrival Rate - λ q=0.75 f Average Weighted Response Time AFCFS LJFS FCFS Arrival Rate - λ q=0.75 Σχη μα 2.2: (a) ART v. λ q = 0.25, (b) AW RT v. λ q = 0.25, (c) ART v. λ q = 0.50, (d)aw RT v. λ q = 0.50, (e) ART v. λ q = 0.75, (f) AW RT v. λ q = 0.75

67 2.5 Αποτίμηση της απόδοσης και του κόστους 41 Ο αλγο ριθμος AFCFS φαι νεται να προσφε ρει καλυ τερα αποτελε σματα απο τον LJFS ο ταν οι ρυθμοι α φιξη ς ει ναι χαμηλοι, ασχε τως του συντελεστη μεγε θους των εργασιω ν. Όταν ο φο ρτος του συστη ματος μεγαλω νει, τα αποτελε σματα δει χνουν ο τι η απο δοση του AFCFS ει ναι περι που ι δια με τον LJFS. Σε υψηλο φο ρτο εργασι ας ο LJFS ει ναι πιο αποδοτικο ς απο τον AFCFS. Για q = 0.25 ο που ο φο ρτος του συστη ματος περιλαμβα νει μεγα λο αριθμο μεγα λων εργασιω ν ο AFCFS εκφυλι ζεται πολυ γρηγορο τερα του LJFS, κα τι το οποι ο ει ναι αναμενο μενο δεδομε νου του ο τι δι νει προτεραιο τητα στις μικρε ς εργασι ες. Στα Σχη ματα 2.2b, d, f απεικονι ζεται ο αντι στοιχος σταθμισμε νος χρο νος απο κρισης. Η μετρικη αυτη δι νει βα ρος ο πως ει παμε και στα μεγε θη των εργασιω ν. Εδω η αδυναμι α του AFCFS να δρομολογη σει αποτελεσματικα τις μεγα λες εργασι ες ει ναι πιο εμφανη ς. Όπως γι νεται ορατο ο αλγο ριθμος ε χει την τα ση να δρομολογει περισσο τερο τις μικρε ς εργασι ες οδηγω ντας τις μεγαλυ - τερες σε λιμοκτονι α. Σε αντι θεση, το αντι στροφο δεν φαι νεται να ισχυ ει για τον LJFS αφου ο πως ει παμε μικρε ς εργασι ες συχνα ει ναι δυνατο ν να δρομολογου νται ταυτο χρονα με μεγαλυ τερες. Μέσος χρόνος αναμονής και Σταθμισμένος μέσος χρόνος αναμονής Τα αποτελε σματα για τους με σους χρο νους αναμονη ς και την αντι στοιχη σταθμισμε νη μετρικη ακολουθου ν το ι διο μοτι βο με τους χρο νους απο κρισης. Αυτο ει ναι φυσικα λογικο καθω ς οι ι διοι παρα γοντες με τους παραπα νω παι ζουν και εδω το ρο λο τους. Όπως ει ναι διακριτο απο τα Σχη ματα 2.3a, c, e ο AFCFS ει ναι καλυ τερος απο τον LJFS ο ταν οι ρυθμοι α φιξης ει ναι χαμηλοι. Ακριβω ς αντι θετη ει ναι η κατα σταση ο ταν οι ρυθμοι α φιξης αυξα νονται. Επι σης τα Σχη ματα 2.3b, d, f δει χνουν ο τι οι χρο νοι αναμονη ς για τις μεγαλυ τερες εργασι ες ει ναι σημαντικα υψηλο τεροι ο ταν χρησιμοποιει ται ο AFCFS. Μέση οριοθετημένη επιβράδυνση και Μέση επιβράδυνση ανά επεξεργαστή Στα Σχη ματα 2.4a, c, e απεικονι ζεται η επιβρα δυνση στην οποι α υπο κεινται οι εργασι ες. Όπως και με τις προηγου μενες μετρικε ς ο AFCFS ει ναι σαφω ς καλυ τερος του LJFS στους χαμηλου ς ρυθμου ς αφι ξεων ενω εν αντιθε τω ο LJFS ει ναι καλυ τερος ο ταν ο φο ρτος αυξα νεται. Τα Σχη ματα 2.4b, d, f, αποκαλυ πτουν ο τι η ανα επεξεργαστη επιβρα δυνση ει ναι καλυ τερη ο ταν χρησι-

68 42 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή a Average Waiting Time AFCFS LJFS FCFS Arrival Rate - λ q= b 28 Average Weighted Waiting Time AFCFS LJFS FCFS Arrival Rate - λ q=0.25 c Average Waiting Time AFCFS LJFS FCFS Arrival Rate - λ q= d Average Weighted Waiting Time AFCFS LJFS FCFS Arrival Rate - λ q= e 28 Average Waiting Time AFCFS LJFS FCFS Arrival Rate - λ q= f 28 Average Weighted Waiting Time AFCFS LJFS FCFS Arrival Rate - λ q=0.75 Σχη μα 2.3: (a) AW T v. λ q = 0.25, (b) AW W T v. λ q = 0.25, (c) AW T v. λ q = 0.50, (d)aw W T v. λ q = 0.50, (e) AW T v. λ q = 0.75, (f) AW W T v. λ q = 0.75

69 2.5 Αποτίμηση της απόδοσης και του κόστους 43 a 220 Average Bounded Slowdown AFCFS LJFS FCFS Arrival Rate - λ q=0.25 b 24 Average Per-Processor Slowdown AFCFS LJFS FCFS Arrival Rate - λ q=0.25 c Average Bounded Slowdown AFCFS LJFS FCFS Arrival Rate - λ q=0.50 d 30 Average Per-Processor Slowdown AFCFS LJFS FCFS Arrival Rate - λ q=0.50 e 200 Average Bounded Slowdown AFCFS LJFS FCFS Arrival Rate - λ q=0.75 f 45 Average Per-Processor Slowdown AFCFS LJFS FCFS Arrival Rate - λ q=0.75 Σχη μα 2.4: (a) ABSLD v. λ q = 0.25, (b) AP P SLD v. λ q = 0.25, (c) ABSLD v. λ q = 0.50, (d)ap P SLD v. λ q = 0.50, (e) ABSLD v. λ q = 0.75, (f) AP P SLD v. λ q = 0.75

70 44 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή μοποιου με τον AFCFS κατα ε να μικρο ποσοστο. Αυτο δεν ει ναι αναπα ντεχο καθω ς η επιβρα δυνση μπορει ευ κολα να επηρεαστει απο πολλου ς παρα γοντες [30] ο πως ε χουμε ξαναπει. Αποδοτικότητα Κόστους-Απόδοσης O Πι νακας 2.1 δει χνει τα αποτελε σματα για τη μετρικη αποδοτικο τητας κο στους-απο δοσης μεταξυ των αλγορι θμων AFCFS και LJFS. Οι θετικε ς τιμε ς δει χνουν ο τι ο LJFS ει ναι καλυ τερος του AFCFS για τις συγκεκριμε νες παραμε τρους ενω οι αρνητικε ς τιμε ς δηλω νουν το αντι θετο. Όπως ει ναι προφανε ς, απο τα αποτελε σματα του πι νακα ο LJFS ει ναι σταθερα πιο αποδοτικο ς απο τον AFCFS ακο μα και στις περιπτω σεις ο που ο τελευται ος ε χει καλυ τερους χρο νους απο κρισης. Δεδομε νου του ο τι η χρη ση του νε φους ει ναι ανα λογη της χρη σης των πο ρων του, ει ναι προφανε ς ο τι η χρη ση του LJFS δυ ναται να παρε χει καλυ τερη απο δοση σε χαμηλο τερο κο στος σε σχε ση με τον AFCFS ειδικα ο ταν ο φο ρτος εργασι ας ει ναι μεγα λος. Πι νακας 2.1: Αποδοτικο τητα Κο στους-απο δοσης AFCFS-LJFS λ q=0.25 q=0.5 q= Συμπεράσματα Στο κεφα λαιο αυτο αναλυ σαμε την εφαρμογη δυ ο γνωστω ν, απο τη βιβλιογραφι α των κατανεμημε νων συστημα των, αλγορι θμων χρονοδρομολο γησης εργασιω ν τυ που ομα δας, του AFCFS και του LJFS, σε ε να μοντε λο υπολογιστικω ν νεφω ν. Το μοντε λο συστη ματος ενσωματω νει χαρακτηριστικα των νεφω ν ο πως η δυναμικη αναπροσαρμογη του μεγε θους του συστη ματος και

71 2.6 Συμπεράσματα 45 οι εικονικε ς μηχανε ς. Το μοντε λο των εργασιω ν, εξετα ζει εργασι ες διαφο ρων τα ξεων μεγε θους. Για την αποτι μηση της απο δοσης χρησιμοποιη σαμε μετρικε ς γνωστε ς απο τη βιβλιογραφι α καθω ς και μετρικε ς που επινοη θηκαν με σκοπο την ταυτο χρονη αποτι μηση του κο στους χρη σης του συστη ματος. Τα αποτελε σματα της προσομοι ωσης ε δειξαν ο τι οι δυ ο αλγο ριθμοι παρε χουν συγκρι σιμα αποτελε σματα απο δοσης και κο στους, αλλα και ο τι ο καθε νας τους ει ναι καλυ τερος στην αντιμετω πιση διαφορετικω ν επιπε δων φο ρτου εργασι ας. Ο AFCFS διακρι νεται στην αντιμετω πιση του χαμηλου φο ρτου και ο ταν υπα ρχει πληθω ρα μικρω ν εργασιω ν ενω αντι θετα ο LJFS ει ναι πιο αποτελεσματικο ς σε υψηλο φο ρτο με πολλε ς μεγα λες εργασι ες. Όπως αναφε ραμε και στο Κεφα λαιο 1 ε να προ βλημα που συχνα εμφανι ζεται κατα τη χρονοδρομολο γηση εργασιω ν τυ που ομα δας, ει ναι αυτο του κατακερματισμου των χρονοδιαγραμμα των. Στο επο μενο κεφα λαιο λοιπο ν θα εξετα σουμε τεχνικε ς που επιτρε πουν την αποφυγη και την αντιμετω πιση του φαινομε νου αυτου.

72 46 2 Χρονοδρομολόγηση εργασιών τύπου ομάδας σε υπολογιστικά νεφή

73 47 Κεφάλαιο 3 Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών 3.1 Εισαγωγή Στο μοντε λο που αναλυ σαμε στο προηγου μενο κεφα λαιο, οι εργασι ες τυ - που ομα δας δεν ει χαν τη δυνατο τητα να μετακινηθου ν μεταξυ των ουρω ν των εικονικω ν μηχανω ν στις οποι ες ο κατανεμητη ς τις διε νειμε αρχικα. Το αποτε λεσμα αυτη ς της ακαμψι ας του συστη ματος η ταν η δημιουργι α κενών στα χρονοδιαγρα μματα (schedule holes) των εικονικω ν μηχανω ν. Τα κενα αυτα, ει χαν ως αποτε λεσμα να εμφανι ζονται εικονικε ς μηχανε ς που παρε μεναν δεσμευμε νες αλλα σε κατα σταση αδρα νειας, χωρι ς να εκτελου ν κα ποια εργασι α, ε ως ο του οι αδερφικές υποεργασι ες της υποεργασι ας που βρισκο ταν στην κεφαλη της δικη ς τους ουρα ς αναμονη ς η ταν ε τοιμες για εκτε λεση. Άμεσο αποτε λεσμα αυτη ς της μη-βε λτιστης λειτουργι ας του συστη ματος η ταν η μει ωση της απο δοσης και η αυ ξηση του κο στους του συστη ματος. Μι α με θοδος για την αντιμετω πιση αυτου του κατακερματισμού των χρονοδιαγραμμα των ει ναι η χρη ση της μετανα στευσης των εργασιω ν, η οποι α επιτρε πει τη μεταφορα των εργασιω ν απο μια ουρα αναμονη ς σε μι α α λλη με στο χο την αυ ξηση της χρησιμοποι ησης των εικονικω ν μηχανω ν και τη μει ωση του χρο νου αδρα νειας αυτω ν. Παρ ο λα αυτα, κατα τη χρη ση των μεταναστευ -

74 48 3 Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών σεων ελλοχευ ουν κα ποιοι κι νδυνοι, καθω ς η ανεξε λεγκτη μετανα στευση ει ναι πολυ πιθανο να ε χει ως αποτε λεσμα τη λιμοκτονι α κα ποιων εργασιω ν των οποι ων η εκτε λεση συνεχω ς αναβα λλεται. Συνεπω ς ει ναι απαραι τητο να εξετα σουμε τα δυ ο προβλη ματα ταυτο χρονα. Το κεφα λαιο αυτο εξετα ζει τη χρη ση του συστη ματος μεταναστευ σεων και της αποφυγη ς λιμοκτονι ας των εργασιω ν σε ε να συ στημα παρο μοιο με αυτο του Κεφαλαι ου 2. Όπως θα αναλυ σουμε παρακα τω η χρη ση της μετανα στευσης δυ ναται να αυξη σει κατα ε να σημαντικο βαθμο την απο δοση του συστη ματος και ταυτο χρονα να μειω σει το συνολικο κο στος. Ταυτο χρονα η χρη ση ενο ς συστη ματος διαχει ρισης της λιμοκτονι ας των εργασιω ν επιτρε πει τον ασφαλη ε λεγχο των μεταναστευ σεων ε τσι ω στε να υπα ρχει μια δι καιη κατανομη του υπολογιστικου χρο νου μεταξυ των εργασιω ν. 3.2 Μοντέλο συστήματος και φόρτου εργασίας Σχη μα 3.1: Το μοντε λο του συστη ματος Όπως αναφε ραμε παραπα νω το μοντε λο του συστη ματος ει ναι παρο μοιο του συστη ματος που χρησιμοποιη θηκε στο προηγου μενο κεφα λαιο. Το συ - στημα δυνητικα μπορει ναι αποτελει ται απο με χρι 120 εικονικε ς μηχανε ς και μπορει να αλλα ζει με γεθος κατα το δοκου ν. Κα θε εικονικη μηχανη ε χει τη δικη της ουρα αναμονη ς ενω ο κατανεμητη ς (DVM) ει ναι και αυτο ς μια εικονικη μηχανη με τη δικη της ουρα αναμονη ς που μα λιστα ενσωματω νει τους μηχα-

75 3.3 Χρονοδρομολόγηση εργασιών 49 νισμου ς διαχει ρισης της λιμοκτονι ας και των μεταναστευ σεων. Θεωρου με ο τι οι εικονικε ς μηχανε ς ε χουν ομοιογενη απο δοση και ανη κουν στην ι δια κλάση VM του παρο χου του Νε φους. Το δι κτυο που διασυνδε ει τα VMs ει ναι υψηλη ς ταχυ τητας, οπο τε υποθε τουμε ο τι οποιεσδη ποτε καθυστερη σεις λο γω δικτυ ου, σιωπηρα περιλαμβα νονται στο χρο νο εκτε λεσης των εργασιω ν. Όπως ε χουμε αναφε ρει και παραπα νω, στη χρονοδρομολο γηση εργασιω ν τυ που ομα δας ο λες οι υποεργασι ες μια εργασι ας πρε πει να εκτελου νται ταυτοχρο νως. Οπο τε για την εκτε λεση μια εργασι ας με βαθμο παραλληλισμου p απαιτου νται και p εικονικε ς μηχανε ς. Τα μεγε θη των εργασιω ν χωρι ζονται σε δυ ο κατηγορι ες και ει ναι ομοιο μορφα κατανεμημε νοι τυχαι οι αριθμοι : Εργασίες Χαμηλής Παραλληλισημότητας, ο που οι εργασι ες ε χουν μεγε θη στο ευ ρος [1...16] με πιθανο τητα q. Εργασίες Υψηλής Παραλληλισημότητας, ο που οι εργασι ες ε χουν μεγε θη στο ευ ρος [ ] με πιθανο τητα 1 q. ο που q ει ναι ο συντελεστη ς μεγε θους εργασιω ν. Για τον υπολογισμο του χρο νου μεταξυ των αφι ξεων χρησιμοποιη θηκε εκθετικη κατανομη με με ση τιμη 1/λ, ο που λ ο με σος ρυθμο ς α φιξης, ενω για τους χρο νους εξυπηρε τησης χρησιμοποιη θηκε εκθετικη κατανομη με με ση τιμη 1/µ, ο που µ ο με σος ρυθμο ς εξυπηρε τησης. 3.3 Χρονοδρομολόγηση εργασιών Όπως και στο Κεφα λαιο 2 ε τσι και εδω ο DVM χρησιμοποιει τον αλγο ριθμο SQF για τη διαμοι ραση των εργασιω ν στις εικονικε ς μηχανε ς με τις μικρο τερες ουρε ς. Για τη χρονοδρομολο γηση των εργασιω ν και πα λι χρησιμοποιη θηκαν οι αλγο ριθμοι AFCFS και LJFS των οποι ων η λειτουργι α ε χει περιγραφει αναλυτικα στο Κεφα λαιο 2. Για να συνοψι σουμε τη λειτουργι α τους: Ο αλγο ριθμος Αdaptive-First-Come-First-Served χρονοδρομολογει τις εργασι ες που βρι σκονται πιο μπροστα στις ουρε ς με προτεραιο τητα. Αν η πρω τη εργασι α δεν ει ναι δυνατο ν να εκτελεστει το τε ο αλγο ριθμος συνεχι ζει εξετα ζοντας τις εργασι ες που βρι σκονται πιο πι σω ε ως ο του

76 50 3 Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών ανακαλυ ψει μια εργασι α που μπορει να εκτελεστει. Λο γω αυτη ς της λειτουργι ας του ο αλγο ριθμος αυτο ς τυγχα νει συνη θως να δι νει προτεραιο τητα στις μικρε ς σε βαθμο παραλληλισμου εργασι ες, με αποτε λεσμα οι μεγαλυ τερες εργασι ες να υπο κεινται σε μεγαλυ τερες καθυστερη σεις. Ο αλγο ριθμος Largest-Job-First-Served δι νει προτεραιο τητα πα ντα στη μεγαλυ τερη σε με γεθος εργασι α που μπορει να εκτελεστει. Έτσι ξεκινα ει να εξετα ζει τις εργασι ες απο τη μεγαλυ τερη προς τη μικρο τερη ε ως ο του ανακαλυ ψει μια που να μπορει να εκτελεστει. Ο αλγο ριθμος αυτο ς ο πως ει ναι ορατο δι νει μεγαλυ τερη προτεραιο τητα στις μεγα λες εργασι ες χωρι ς αυτο απαραι τητα να σημαι νει ο τι μικρε ς εργασι ες δεν ει ναι δυνατο ν να εκτελεστου ν παρα λληλα με μεγαλυ τερες. 3.4 Μετανάστευση εργασιών Το μοντε λο μετανα στευσης των εργασιω ν προσπαθει ο πως ε χουμε πει να επιλυ σει το προ βλημα του κατακερματισμου του χρονοδιαγρα μματος εκμεταλλευο μενο τους κενούς χρο νους που δημιουργου νται απο την ανα γκη ταυτο χρονης εκτε λεσης των υποεργασιω ν στις εργασι ες τυ που ομα δας. Η διαδικασι α της μετανα στευσης περιλαμβα νει τη μεταφορα υποεργασιω ν απο τις ουρε ς εικονικω ν μηχανω ν που ει ναι απασχολημε νες, στις κεφαλε ς των ουρω ν εικονικω ν μηχανω ν που δεν ει ναι απασχολημε νες, με σκοπο αυτε ς να εκτελεστου ν το συντομο τερο δυνατο. Παρο λο που αυτη η διαδικασι α επιλυ ει το προ βλημα του κατακερματισμου μπορει ταυτο χρονα να δημιουργη σει καθυστερη σεις το σο στην εκτε λεση εργασιω ν που δεν ευνοη θηκαν απο αυτη τη διαδικασι α ο σο και στο συ στημα γενικο τερα λο γω υπολογιστικη ς πολυπλοκο τητας που αυτη επιφε ρει. Για τους λο γους αυτου ς, το μοντε λο ενσωματω νει κα ποιους μηχανισμου ς ασφαλει ας κατα τη χρη ση των μεταναστευ σεων ε τσι ω στε να περιορι σει τον αριθμο τους στις απολυ τως απαραι τητες. Αρχικα, ο ε λεγχος για πιθανε ς μεταναστευ σεις εκτελει ται μο νο ο ταν δεν ε χει καταστει δυνατο να δρομολογηθου ν υποεργασι ες με τον κανονικο τρο πο εκτε λεσης. Όταν συμβαι νει λοιπο ν αυτο, ο μηχανισμο ς των μεταναστευ σεων προσπαθει να εντοπι σει εργασι ες οι οποι ες θα μπορου σαν να εκτελεστου ν αμε σως αν κα ποιες απο τις εργασι ες τους μετανα στευαν σε α λλες εικονικε ς μηχανε ς. Αν εντοπιστου ν κατα λληλες

77 3.5 Διαχείριση λιμοκτονίας των εργασιών 51 εργασι ες το τε το συ στημα εφαρμο ζει ε ναν απο τους δυ ο ακο λουθους αλγορι θμους για να αποφασι σει πια εργασι α θα μεταναστευ σει: First Fit (FF) Ο αλγο ριθμος αυτο ς επιλε γει την πρω τη εργασι α που χωρα ει στις ελευ θερες εικονικε ς μηχανε ς. Ο αλγο ριθμος αυτο ς ει ναι απλου στερος σε υλοποι ηση και σε πολυπλοκο τητα καθω ς τερματι ζει μο λις βρει μια εργασι α που ει ναι κατα λληλη. Best Fit (BF) Αυτο ς ο αλγο ριθμος επιλε γει την καλυ τερη εργασι α δηλαδη την εργασι α που θα χρησιμοποιη σει επαρκε στερα τις ελευ θερες εικονικε ς μηχανε ς. Θεωρητικα αυτο ς ο αλγο ριθμος μπορει να κα νει καλυ τερες επιλογε ς απο τον πρω το αλλα ταυτο χρονα χρεια ζεται περισσο τερο χρο νο επεξεργασι ας καθω ς πρε πει να εξετα σει ο λες τις εργασι ες που ει ναι κατα λληλες για μετανα στευση. Το μοντε λο επι σης περιορι ζει τις μεταναστευ σεις απενεργοποιω ντας το συ στημα μεταναστευ σεων μετα απο κα θε κυ κλο μετανα στευσης για τουλα - χιστον 10 κανονικου ς κυ κλους δρομολο γησης. Μο λις η μετανα στευση ολοκληρωθει η εργασι α δρομολογει ται προς εκτε λεση στον αμε σως επο μενο κυ κλο χρονοδρομολο γησης. Αυτο γι νεται προφανω ς για να αποφυ γουμε την επανειλημμε νη μετανα στευση της ι διας εργασι ας. 3.5 Διαχείριση λιμοκτονίας των εργασιών Το συ στημα διαχει ρισης της λιμοκτονι ας των εργασιω ν ενσωματω νει μια ουρα με προτεραιο τητες στην οποι α εισε ρχονται οι εργασι ες που λιμοκτονου ν. Όταν αυτη η ουρα περιλαμβα νει εργασι ες το τε το σο οι κανονικοι κυ - κλοι εκτε λεσης ο σο και οι μεταναστευ σεις εργασιω ν παυ ουν να εκτελου νται ου τως ω στε να δοθει προτεραιο τητα μο νο στις εργασι ες αυτε ς. Ως κριτη ριο για την αναγνω ριση των εργασιω ν σε κατα σταση λιμοκτονι ας χρησιμοποιη θηκε ο συντελεστη ς διευ ρυνσης (expansion Factor - X factor ) [117] ο οποι ος υπολογι ζεται ως εξη ς: X factor = IW T j + e j e j (3.1) ο που IW T j και e j ει ναι ο τρε χων χρο νος αναμονη ς της εργασι ας και ο χρο νος εκτε λεσης της εργασι ας αντιστοι χως.

78 52 3 Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών Η επιλογη της ρυ θμισης του ορι ου του X factor μπορει να παι ξει πολυ σημαντικο ρο λο στη διαχει ριση της λιμοκτονι ας των εργασιω ν καθω ς και στο συνολικο αριθμο μεταναστευ σεων αφου οι εργασι ες που λιμοκτονου ν μπορου ν να μεταναστευ ουν ελευ θερα χωρι ς κανε ναν περιορισμο. 3.6 Διαχείριση εικονικών μηχανών Όπως ε χουμε πει και στο Κεφα λαιο 2, τα υπολογιστικα νε φη μπορου ν να κλιμακω νουν το με γεθο ς τους κατα το δοκου ν, προσθε τοντας και αφαιρω ν- τας υπολογιστικε ς μηχανε ς κατα βου ληση. Κατα τη δε σμευση εικονικω ν μηχανω ν υπα ρχει ε να δια στημα χρο νου που το διαχειριστικο συ στημα του νε φους χρεια ζεται, ε τσι ω στε να δημιουργη σει την εικονικη μηχανη. Συνη θως η διαδικασι α αυτη περιλαμβα νει βη ματα ο πως η κλωνοποι ηση μια βασικη ς εικο νας (base image) και η εγγραφη του νε ου VM στο δι κτυο. Συ μφωνα με μελε τες [6, 105], ο χρο νος αυτο ς δεν ξεπερνα ει τα δε κα λεπτα. Στο μοντε λο του κεφαλαι ου αυτου η καθυστε ρηση στη δε σμευση εικονικω ν μηχανω ν μοντελοποιει ται βα ση μιας ομοιο μορφης κατανομη ς U(0, 0.2) με με σο ο ρο 0.1, χρο νο συγκρι σιμο με το 1/10 του χρο νου εξυπηρε τησης των εργασιω ν Δέσμευση εικονικών μηχανών Το συ στημα δε σμευσης των εικονικω ν μηχανω ν ει ναι ο μοιο με αυτο του Κεφαλαι ου 2, δεσμευ ει νε ες εικονικε ς μηχανε ς ει τε ο ταν δεν υπα ρχουν αρκετε ς για να εξυπηρετη σουν μια εργασι α, που ε χει βαθμο παραλληλισμου μεγαλυ τερο απο τον τρε χοντα αριθμο απο VMs, ει τε ο ταν ο με σος φο ρτος του συστη ματος ξεπερα σει ε να προκαθορισμε νο ο ριο. Σε κα θε περι πτωση, το συ - στημα αποδε σμευσης και πα λι παυ ει να λειτουργει για 10 κυ κλους αφι ξεων ου τως ω στε να επιτρε ψει στις εικονικε ς μηχανε ς να γεμι σουν τις ουρε ς τους με εργασι ες Αποδέσμευση εικονικών μηχανών Το συ στημα αποδε σμευσης εικονικω ν μηχανω ν, ει ναι παρο μοιο με αυτο του προηγου μενου κεφαλαι ου με τη διαφορα ο τι λο γω των μεταναστευ σεων εργασιω ν υπα ρχει μια επιπλε ον συνθη κη που πρε πει να πληρει ται για να επιτραπει η αποδε σμευση εικονικω ν μηχανω ν. Συνολικα τα κριτη ρια που χρησιμοποιου νται ει ναι:

79 3.7 Αποτίμηση της απόδοσης και του κόστους 53 Η εικονικη μηχανη πρε πει να ει ναι αδρανη ς, δηλαδη να μην εξυπηρετει κα ποια εργασι α. Η ουρα της εικονικη ς μηχανη ς θα πρε πει να ει ναι κενη. Η αφαι ρεση του VM απο το συ στημα δεν θα δημιουργη σει προ βλημα σε τυχο ν μεγα λες εργασι ες που βρι σκονται σε αναμονη στην ουρα του DVM αναμε νοντας τη δε σμευση νε ων εικονικω ν μηχανω ν. Δεν υπα ρχουν εργασι ες που βρι σκονται προς μετανα στευση τη στιγμη που αποδεσμευ ονται εικονικε ς μηχανε ς. Όλα τα παραπα νω κριτη ρια θα πρε πει να ισχυ ουν ταυτο χρονα για να λειτουργη σει το συ στημα αποδε σμευσης. 3.7 Αποτίμηση της απόδοσης και του κόστους Για την αποτι μηση του κο στους και της απο δοσης χρησιμοποιη θηκαν οι παρακα τω μετρικε ς: Μετρικές απόδοσης Χρόνος Απόκρισης r j, που ορι ζεται ως το χρονικο δια στημα μεταξυ α φιξης και αναχω ρησης μιας εργασι ας με το με σο ο ρο να ορι ζεται ως: RT = N j=1 r j N (3.2) Επιβράδυνση s j, η οποι α ορι ζεται ως η καθυστε ρηση στην οποι α υπο κειται μια εργασι α σε σχε ση με το χρο νο εκτε λεσης της. Στη συγκεκριμε νη μελε τη ε χουμε χρησιμοποιη σει την οριοθετημε νη εκδοχη της μετρικη ς αυτη ς (bounded slowdown): { } r j BSLD = max max {e j, τ}, 1 (3.3) Συνολικός αριθμός μεταναστεύσεων mig tot, τον οποι ον επι σης αποτιμου με καθω ς οι μεταναστευ σεις εργασιω ν ο πως ε χουμε πει προκαλου ν καθυστερη σεις στη συνολικη απο δοση του συστη ματος λο γω του υπολογιστικου τους κο στους.

80 54 3 Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών Μετρικές κόστους Όπως και στο μοντε λο του Κεφαλαι ου 2, ε τσι και εδω ε χουμε χρησιμοποιη σει τη μετρικη της Αποδοτικο τητας Κο στους Απο δοσης (Cost-Performance Ef iciency - CPE) η οποι α ενσωματω νει το συνολικο χρο νο ενοικι ασης εικονικω ν μηχανω ν (Total Lease Time) με το με σο χρο νο απο κρισης: CP E = D LT + D ART (3.4) ο που D LT ει ναι η σχετικη μει ωση σε κο στος ενοικι ασης ο ταν γι νεται χρη ση του LJFS αντι για τον AFCFS και D ART ει ναι η μει ωση σε χρο νο απο κρισης αντιστοι χως Παράμετροι προσομοίωσης Ο προσομοιωτη ς διακριτω ν καταστα σεων που αναπτυ χθηκε για τις ανα γ- κες αυτου του μοντε λου εκτελε στηκε για κα θε σετ παραμε τρων των πειραμα - των προσομοι ωσης 30 φορε ς με 100,000 εργασι ες ανα ι χνος (trace). Για κα θε συντελεστη μεγε θους εργασιω ν χρησιμοποιη θηκαν τρεις διαφορετικε ς ρυθμι σεις με, q = 0.25, q = 0.5 και q = Όπως και προηγουμε νως οι τιμε ς αυτε ς επιλε χθηκαν με σκοπο να εξετα σουμε την επι δραση του μεγε θους των εργασιω ν στην απο δοση του συστη ματος. Οι τιμε ς για το ρυθμο α φιξης (λ) επιλε χθηκαν μετα απο πειραματισμο για κα θε τιμη του q ε τσι ω στε να μην οδηγου ν σε εκφυλισμο του συστη ματος: Για q = 0.25, λ = 1.75, 2.0, 2.25, 2.5 Για q = 0.5, λ = 2, 2.25, 2.5, 2.75 Για q = 0.75, λ = 2.5, 3.0, 3.5, 4.0 τιμε ς: Τε λος ο συντελεστη ς διευ ρυνσης (X factor ) εξετα στηκε για δυ ο διακριτε ς X factor = 10 X factor = 20

81 3.7 Αποτίμηση της απόδοσης και του κόστους Αποτελέσματα της προσομοίωσης Τα αποτελε σματα που ακολουθου ν δει χνουν τη διαφοροποι ηση στην απο - δοση μεταξυ των δυ ο αλγορι θμων χρονοδρομολο γησης για κα θε σετ παραμε τρων του πειρα ματος προσομοι ωσης. Τα Σχη ματα 3.2αʹ & 3.2βʹ απεικονι ζουν τις δυ ο μετρικε ς απο δοσης για ο λες τις τιμε ς του συντελεστη q σε συνδυασμο με τους αλγορι θμους χρονοδρομολο γησης (AFCFS, LJFS) και τους αλγορι θμους μετανα στευσης (FF, BF) αλλα και τον X factor. To Σχη μα 3.3 απεικονι ζει τον αριθμο των μεταναστευ σεων για κα θε πει ραμα. Τε λος ο πι νακας 2.1 απαριθμει τα αποτελε σματα για την αποδοτικο τητα κο στους απο δοσης. Χρόνος Απόκρισης Όπως ει ναι προφανε ς το συ στημα μεταναστευ σεων μαζι με το συ στημα διαχει ρισης της λιμοκτονι ας εργασιω ν ει ναι πολυ αποτελεσματικο και διατηρει χαμηλου ς χρο νους απο κρισης κα τω απο χαμηλο και με σο φο ρτο εργασι ας ασχε τως του μεγε θους των εργασιω ν. Για q = 0.25 και X factor = 20 βλε πουμε μια σημαντικη διαφορα στο χρο νο απο κρισης σε σχε ση με το ι διο q αλλα με X factor = 10. Στην ι δια ρυ θμιση βλε πουμε ο τι ο LJFS σε συνδυασμο με τον BF δι νει μερικω ς καλυ τερα αποτελε σματα σε σχε ση με τους υπο λοιπους συνδυασμου ς αλγορι θμων. Αυτο ο μως ει ναι πιθανο να μη μπορει να δικαιολογηθει στη πρα ξη λο γω της αυ ξησης πολυπλοκο τητας υπολογισμου που συνεπα γεται η υλοποι ηση BF. Όπως απεικονι ζεται στο Σχη μα3.3 για q = 0.25 ο συντελεστη ς X factor = 20 επιτρε πει πολυ μικρο τερο αριθμο απο μεταναστευ σεις ενω διατηρει τα ι δια επι πεδα στο χρο νο απο κρισης, ο ταν ο φο ρτος εργασι ας ει ναι χαμηλο ς. Σε αντι θεση, ο ταν ο φο ρτος αυξα νεται η απο δοση με το συντελεστη X factor = 20 μειω νεται σε μεγα λο βαθμο, ενω ο αριθμο ς των μεταναστευ σεων κυμαι νεται στα ι δια η και μεγαλυ τερα επι πεδα απο το συντελεστη factor = 10. Απο την α λλη πλευρα ο μως για q = 0.50 και q = 0.75, ο συντελεστη ς X factor = 20 καταφε ρνει να διατηρει καλου ς χρο νους απο κρισης σε συ γκριση με τον X factor = 10 ενω ταυτο χρονα μειω νει ε ως και 40% τις μεταναστευ σεις. Ει ναι εμφανε ς απο τα παραπα νω, ο τι ο συντελεστη ς διευ ρυνσης ει ναι προτιμο τερο να ει ναι μεταβλητο ς ανα λογα με το φο ρτο εργασι ας που υπα ρχει στο συ στημα.

82 56 3 Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών Response Time q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_20 Response Time q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_20 Response Time q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_ ,75 2,00 2,25 2,50 Arrival Rate 0 2,00 2,25 2,50 2,75 Arrival Rate 0 2,5 3,0 3,5 4,0 Arrival Rate (αʹ) Χρο νος Απο κρισης Bounded Slowdown q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_20 1,75 2,00 2,25 2,50 Arrival Rate Bounded Slowdown q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_ Arrival Rate Bounded Slowdown q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_20 2,5 3,0 3,5 4,0 Arrival Rate (βʹ) Οριοθετημε νη επιβρα δυνση Σχη μα 3.2: Μετρικε ς Απο δοσης για q=0.25, q=0.50 και q=0.75 Επιβράδυνση Η επιβρα δυνση, ο πως ε χουμε ξαναπει, ει ναι μια μετρικη η οποι α μπορει ευ κολα να επηρεαστει απο πολυ μικρου ς χρο νους εξυπηρε τησης και παρο λο που χρησιμοποιου με μια οριοθετημε νη ε κδοση της επιβρα δυνσης τα αποτελε σματα μερικε ς φορε ς ει ναι πιθανο να ποικι λουν. Στο Σχη μα 3.2βʹ απεικονι ζεται μια σχετικη σταθερο τητα στα αποτελε σματα της επιβρα δυνσης σε συνδυασμο με μερικε ς ακραι ες τιμε ς, για q = 0.75 και q = Τα αποτελε σματα αυτα δει χνουν ο τι η επιβρα δυνση που προκαλει ται απο τους αλγορι θμους μετανα στευσης και το συ στημα αποφυγη ς λιμοκτονι ας εργασιω ν ει ναι σε παρο μοια επι πεδα για εργασι ες μεσαι ου και μικρου παραλληλισμου. Σε αντι θεση για q = 0.25 τα αποτελε σματα δει χνουν υψηλο τερα επι πεδα ασυνε πειας μεταξυ των αποτελεσμα των. Αυτο μπορει να εξηγηθει απο τον τρο πο με τον οποι ον λειτουργου ν οι μεταναστευ σεις και το συ στημα διαχει ρισης λιμοκτονι ας, που μπορει κατα καιρου ς να αφη νουν εργασι ες με μικρο χρο νο εκτε λεσης να περιμε νουν για μεγα λα διαστη ματα με χρι να εκτελεστου ν, με α μεσο αποτε λεσμα να επιβαρυ νουν δυσανα λογα τη μετρικη της επιβρα δυνσης.

83 3.8 Συμπεράσματα 57 Number of Migrations q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_20 Number of Migrations q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_20 Number of Migrations q= AFCFS_FF_10 AFCFS_BF_10 LJFS_FF_10 LJFS_BF_10 AFCFS_FF_20 AFCFS_BF_20 LJFS_FF_20 LJFS_BF_20 0 1,75 2,00 2,25 2,50 Arrival Rate 0 2,00 2,25 2,50 2,75 Arrival Rate 0 2,5 3,0 3,5 4,0 Arrival Rate Σχη μα 3.3: Συνολικο ς αριθμο ς μεταναστευ σεων για q=0.25, q=0.50 και q=0.75 Αποδοτικότητα Κόστους-Απόδοσης Στο προηγου μενο κεφα λαιο καταλη ξαμε στο ο τι ο LJFS ει ναι σχετικα καλυ - τερος απο τον AFCFS ο σον αφορα τη μετρικη αυτη και ειδικο τερα για μεγα λο φο ρτο εργασι ας. Τα αποτελε σματα του Πι νακα 3.1 δει χνουν ο τι οι διαφορε ς αυτε ς εξαφανι ζονται ο ταν χρησιμοποιου με μεταναστευ σεις εργασιω ν και διαχει ριση της λιμοκτονι ας. Οι δια φορες τιμε ς του q και του X factor δεν δει χνουν να ε χουν κα ποιο σημαντικο αποτε λεσμα. Οι αρνητικε ς τιμε ς δει χνουν ο τι ο AFCFS ει ναι καλυ τερος για τη συγκεκριμε νη παραμετροποι ηση αλλα οι διαφορε ς ει ναι μηδαμινε ς ο πως ει ναι ορατο. 3.8 Συμπεράσματα Στο κεφα λαιο αυτο επεκτει ναμε το μοντε λο του Κεφαλαι ου 2 με δυ ο πολυ σημαντικε ς ιδιο τητες της χρονοδρομολο γησης εργασιω ν τυ που ομα δας. Το νε ο αυτο μοντε λο αποτιμη θηκε με τη χρη ση προσομοι ωσης κα τω απο δια φορους φο ρτους εργασι ας, τα ξεις μεγεθω ν εργασιω ν και σχη ματα μετανα στευσης και διαχει ρισης λιμοκτονι ας. Όπως ε γινε διακριτο απο τις μετρικε ς των αποτελεσμα των, το σο οι μεταναστευ σεις ο σο και το συ στημα διαχει ρισης λιμοκτονι ας ει χαν πολυ σημαντικη επι δραση στα αποτελε σματα του μοντε λου σε σχε ση με αυτα του Κεφαλαι ου 2. Όπως ει δαμε οι μεταναστευ σεις α μβλυναν τις σχετικε ς διαφορε ς μεταξυ των δυ ο αλγορι θμων αλλα ο συνολικο ς τους αριθμο ς παι ζει σημαντικο ρο λο στην απο δοση του συστη ματος και αποτελει νε ο με τρο συ γκρισης. Εξι σου σημαντικη ει ναι ο πως φα νηκε και η παραμετροποι ηση του συντελεστη διευ ρυνσης ε τσι ω στε να ε χουμε τα καλυ τερα αποτελε σματα κα τω απο διαφορετικε ς συνθη κες.

84 58 3 Η επίδραση της χρήσης μετανάστευσης εργασιών και της διαχείρισης λιμοκτονίας εργασιών Πι νακας 3.1: Αποδοτικο τητα Κο στους-απο δοσης λ FF-10 BF-10 FF-20 BF-20 q= q= q= Στο επο μενο κεφα λαιο θα εξετα σουμε ε να νε ο μοντε λο εργασιω ν με ιδιαι τερα μεταβαλλο μενο φο ρτο εργασι ας σε συνδυασμο με ε να συ στημα νεφω ν που υλοποιει ε να σχη μα ενεργου ς εξισορρο πησης του μεγε θους του συστη ματος για την καλυ τερη οικονομικη απο δοση αυτου.

85 59 Κεφάλαιο 4 Η επίδραση του μεταβαλλόμενου φόρτου και της ενεργούς εξισορρόπησης συστήματος 4.1 Εισαγωγή Στα δυ ο προηγου μενα κεφα λαια, εξετα σαμε τη χρονοδρομολο γηση εργασιω ν τυ που ομα δας σε μοντε λα υπολογιστικω ν νεφω ν, ο που ο φο ρτος εργασι ας ει τε μεγα λος ει τε μικρο ς η ταν στατικο ς κατα τη δια ρκεια της προσομοι ωσης χωρι ς να εμφανι ζει κα ποια αλλαγη στα χαρακτηριστικα του. Επι σης, το συ στημα δυναμικη ς δε σμευσης και αποδε σμευσης εικονικω ν μηχανω ν, δεν ε παιρνε υπο ψιν του το φο ρτο του συστη ματος ο ταν τροποποιου σε τους πο - ρους αυτου αλλα λειτουργου σε με ε να παθητικο τρο πο. Στο κεφα λαιο αυτο, θα εξετα σουμε ε να μοντε λο συστη ματος, το οποι ο χρησιμοποιει ε να μοντε λο παραγωγη ς συνθετικου φο ρτου εργασι ας, πολυ γνωστου απο τη βιβλιογραφι α ενω ταυτο χρονα ενσωματω νουμε και ε να συ στημα ενεργούς εξισορρο πησης του μεγε θους του συστη ματος, το οποι ο δεσμευ ει και αποδεσμευ ει εικονικε ς μηχανε ς με ε να δυναμικο τρο πο, εξετα ζοντας πα ντα τις τρε χουσες απαιτη σεις του φο ρτου εργασι ας του συστη ματος. Ταυτο χρονα, θα εξετα σουμε και ε ναν επιπλε ον αλγο ριθμο στη φα ση της διανομη ς εργασιω ν προς τις εικονικε ς μηχανε ς. Τε λος, το μοντε λο του συστη ματος αυτου υποστηρι ζει και μεταναστευ σεις εργασιω ν ο πως και αυτο του Κεφαλαι ου 3.

86 4 Η επίδραση του μεταβαλλόμενου φόρτου και της ενεργούς εξισορρόπησης 60 συστήματος Σχη μα 4.1: Άποψη του μοντε λου συστη ματος 4.2 Μοντέλο συστήματος Στο κεφα λαιο αυτο, το μοντε λο συστη ματος που χρησιμοποιου με ει ναι παρο μοιο με αυτο των δυ ο προηγου μενων κεφαλαι ων. Έχουμε λοιπο ν ε να δυναμικα μεταβαλλο μενο συ μπλεγμα εικονικω ν μηχανω ν που μπορει να περιλαμβα νει με χρι και 120 εικονικε ς μηχανε ς. Ταυτο χρονα, θεωρου με ο τι υπα ρχει και μια εικονικη μηχανη - κατανεμητη ς εργασιω ν, η οποι α λειτουργει και ως σημει ο εισο δου των εργασιω ν στο συ στημα. Όλες οι εικονικε ς μηχανε ς, συμπεριλαμβανομε νου και του κατανεμητη, διαθε τουν τη δικη τους ουρα αναμονη ς. Στο Σχη μα 4.1, βλε πουμε μια α ποψη του συστη ματος. Όπως και στα προηγου μενα κεφα λαια, οι εικονικε ς μηχανε ς διασυνδε ονται με σω ενο ς δικτυ ου υψηλη ς ταχυ τητας και α ρα θεωρου με ο τι οποιεσδη - ποτε καθυστερη σεις λο γω δικτυ ου συμπεριλαμβα νονται στο χρο νο εκτε λεσης της κα θε εργασι ας. Επι σης σε ο τι αφορα την απο δοση των εικονικω ν μηχανω ν, θεωρου με ο τι αυτε ς προσφε ρουν ο μοια απο δοση καθω ς ανη κουν στην ι δια κλα ση εικονικω ν μηχανω ν του παρο χου του νε φους. 4.3 Μοντέλο φόρτου εργασίας Για τη δημιουργι α του συνθετικου φο ρτου εργασι ας που χρησιμοποιη - θηκε για τα πειρα ματα προσομοι ωσης στο κεφα λαιο αυτο ε γινε χρη ση του πολυ γνωστου απο τη βιβλιογραφι α μοντε λου του Lublin [72]. Το μοντε λο αυτο δημιουργη θηκε ε τσι ω στε να μπορει να παρα γει συνθετικα ι χνη (traces) φο ρτου εργασι ας για παρα λληλα και κατανεμημε να συστη - ματα. Κατα τη σχεδι αση του μοντε λου αναλυ θηκε ο φο ρτος εργασι ας απο δια φορα πραγματικα παρα λληλα συστη ματα, εκ των οποι ων οι δημιουργοι του μοντε λου εξη γαγαν συγκεκριμε να χαρακτηριστικα, που εμφανιζο ταν σε ο λους τους φο ρτους. Τα σημαντικο τερα απο αυτα ει ναι: Οι κατηγορίες μεγεθών των εργασιών, καθο τι οι εργασι ες του μοντε λου

87 4.3 Μοντέλο φόρτου εργασίας 61 μπορει να ει ναι ει τε παρα λληλες ει τε σειριακε ς. Επι σης, το μοντε λο λαμβα νει υπο ψιν του, την τα ση των εργασιω ν να ε χουν συχνα βαθμου ς παραλληλισμου που ει ναι δυνα μεις του 2. Οι χρόνοι εκτέλεσης των εργασιών, και κυρι ως η συσχε τιση (correlation) μεταξυ του μεγε θους και του χρο νου εκτε λεσης. Οι περίοδοι άφιξης των εργασιών, καθω ς οι εργασι ες σε πραγματικα συστη ματα δεν ε χουν σταθερου ς ρυθμου ς α φιξης αλλα φτα νουν στο συ - στημα στο πλαι σιο ενο ς ημερη σιου κυ κλου εργασιω ν (daily cycle). Ταυτο χρονα, το μοντε λο αυτο μπορει να παραμετροποιηθει με σω των παρακα τω παραμε τρων ε τσι ω στε να τροποποιηθου ν το σο τα χαρακτηριστικα του ο σο και το επι πεδο του φο ρτου εργασι ας. barr Η παρα μετρος αυτη ρυθμι ζει το συντελεστη θ μι ας κατανομη ς γάμμα, η οποι α αντιπροσωπευ ει τους μεταξυ των αφι ξεων χρο νους των εργασιω ν στις ω ρες αιχμη ς του ημερη σιου κυ κλου. Στοιχειωδω ς, καθω ς η τιμη της παραμε τρου αυξα νεται, ο ρυθμο ς των αφι ξεων μειω νεται. pb Η παρα μετρος αυτη χρησιμοποιει ται για τη ρυ θμιση του χρο νου εξυπηρε τησης των εργασιω ν, ο οποι ος υπολογι ζεται βα σει μιας Ύπεργάμμα κατανομη ς. Στην κατανομη αυτη, η παρα μετρος p b ρυθμι ζει το ποσοστο των εργασιω ν p, που ανη κουν στην πρω τη γα μμα απο τις δυ ο, που υπολογι ζει τους μικρου ς χρο νους εκτε λεσης. Η εξι σωση για το ποσοστο p δι νεται παρακα τω: p = p a nodes + p b. (4.1) ο που p a ει ναι η παρα μετρος που ρυθμι ζει τη συσχε τιση μεταξυ των μεγεθω ν και των χρο νων εκτε λεσης των εργασιω ν και nodes ει ναι ο βαθμο ς παραλληλισμου της εργασι ας. Στην πρα ξη, καθω ς η τιμη της παραμε τρου p b αυξα νεται, οι χρο νοι εκτε λεσης των εργασιω ν μειω νονται. uprob Τα μεγε θη των εργασιω ν υπολογι ζονται βα σει μιας ομοιο μορφης κατανομη ς δυ ο σταδι ων (two-stage uniform). Η παρα μετρος uprob ρυθμι ζει το ποσοστο των εργασιω ν που ε χουν μικρο τερο βαθμο παραλληλισμου. Διαισθητικα, μια αυ ξηση στην παρα μετρο uprob μειω νει το ποσοστο των μεγα λων εργασιω ν.

88 4 Η επίδραση του μεταβαλλόμενου φόρτου και της ενεργούς εξισορρόπησης 62 συστήματος Οι τιμε ς των παραμε τρων ει ναι παρο μοιες με αυτε ς που χρησιμοποιη θηκαν στις μελε τες [7, 8] και επιλε χθηκαν βα σει των συστα σεων των δημιουργω ν του μοντε λου. Όλες οι υπο λοιπες παρα μετροι του μοντε λου ει ναι ι διες με αυτε ς που ορι στηκαν στο αρχικο μοντε λο [72] και δεν ε χουν τροποποιηθει. 4.4 Μέθοδοι κατανομής, χρονοδρομολόγησης & μεταναστεύσεων Κατανομή εργασιών Το σημει ο εισο δου των εργασιω ν στο συ στημα, ο πως και στα Κεφα λαια 2 και 3 ει ναι ο κατανεμητη ς εργασιω ν (DVM). Οι εργασι ες διανε μονται στις υπα ρ- χουσες εικονικε ς μηχανε ς αμε σως, εκτο ς και αν ισχυ ουν συγκεκριμε να κριτη - ρια που θα αναλυ σουμε παρακα τω στην υποενο τητα Στη συγκεκριμε νη ε ρευνα χρησιμοποιη σαμε δυ ο διαφορετικε ς μεθο δους για τη διανομη των εργασιω ν μεταξυ των εικονικω ν μηχανω ν με σκοπο να μελετη σουμε την επι δραση μιας διαφορετικη ς κατανομη ς εργασιω ν στην απο δοση του συστη ματος. Shortest Queue First (SQF) Αυτο ς ο αλγο ριθμος χρησιμοποιη θηκε και στα δυ ο προηγου μενα κεφα λαια, στην ουσι α απλα κατανε μει τις υποεργασι ες της κα θε εργασι ας στις εικονικε ς μηχανε ς με τις λιγο τερο φορτωμε νες ουρε ς φροντι ζοντας ω στε δυ ο υποεργασι ες της ι διας εργασι ας να μην κατανε μονται ποτε στο ι διο VM. Ο αλγο ριθμος αυτο ς ει ναι πιο ευ κολος στην υλοποι ηση αλλα και λιγο τερο πολυ πλοκος υπολογιστικα. Earliest Projected Start Time First (EPSTF) Ο αλγο ριθμος αυτο ς χρησιμοποιει την εκτιμώμενη ώρα εκκίνησης κα θε υποεργασι ας για να επιλε ξει την κατα λληλη κατανομη εργασιω ν και υπολογι ζεται ως εξη ς: EP ST F q = q 1 t=0 e t. (4.2) ο που q l ει ναι το μη κος της ουρα ς q και e t ει ναι ο χρο νος εκτε λεσης της εργασι ας t. Συμπεριλαμβα νεται και ο χρο νος εκτε λεσης που απομε νει στην εργασι α που η δη εκτελει ται, αν αυτη υπα ρχει. Μο λις αυτη η μετρικη υπολογιστει για ο λες τις ουρε ς, ο αλγο ριθμος κατανε μει τις υποεργασι ες προς τις ουρε ς με τους μικρο τερους χρο νους. Προφανω ς αυτη

89 4.4 Μέθοδοι κατανομής, χρονοδρομολόγησης & μεταναστεύσεων 63 η μετρικη χρεια ζεται πλη ρη γνω ση του συστη ματος και των εργασιω ν που ε χουν η δη χρονοδρομολογηθει και επομε νως ει ναι αρκετα πιο περι πλοκη υπολογιστικα απο την πρω τη Χρονοδρομολόγηση εργασιών Σε αυτο το κεφα λαιο, χρησιμοποιου με μο νο τη με θοδο Largest Job First Served (LJFS), την οποι α χρησιμοποιη σαμε και στα δυ ο προηγου μενα κεφα - λαια και μας παρει χε με συνε πεια καλα αποτελε σματα. Όπως ε χουμε περιγρα ψει και παραπα νω ο αλγο ριθμος αυτο ς δι νει προτεραιο τητα στις μεγαλυ - τερες σε βαθμο παραλληλισμου εργασι ες, χρονοδρομολογω ντας πα ντοτε τη μεγαλυ τερη εργασι α που ει ναι δυνατο ν να χρονοδρομολογηθει. Όπως παρατηρη σαμε και στα προηγου μενα κεφα λαια, στην πρα ξη δεν ε χει ιδιαι τερα μεγα λη επι δραση στις μικρε ς εργασι ες καθω ς συχνα αυτε ς χρονοδρομολογου ν- ται ταυτο χρονα με τις μεγαλυ τερες συμπληρω νοντας ε τσι πιθανα κενά στο χρονοδια γραμμα Μετανάστευση εργασιών Η υλοποι ηση των μεταναστευ σεων ει ναι πολυ σημαντικη, ο πως αναλυ - σαμε και στο προηγου μενο κεφα λαιο, για τη χρονοδρομολο γηση εργασιω ν τυ που ομα δας καθω ς ο κατακερματισμο ς των χρονοδιαγραμμα των ε χει σι γουρα μεγα λη επι δραση στη συνολικη απο δοση του συστη ματος. Οι μεταναστευ σεις αντιμετωπι ζουν το προ βλημα μεταφε ροντας εργασι ες μεταξυ των ουρω ν των εικονικω ν μηχανω ν ο ταν αυτο κρι νεται απαραι τητο ε τσι ω στε να μη με νουν αδρανει ς οι εικονικε ς μηχανε ς. Καθω ς η αλο γιστη χρη ση των μεταναστευ σεων μπορει να οδηγη σει σε σημαντικε ς καθυστερη σεις [134], οι μεταναστευ σεις επιτρε πονται μο νο ο ταν το συ στημα δεν μπορει να χρονοδρομολογη σει εργασι ες με την κανονικη με θοδο. Επι σης, μετα απο μια μετανα - στευση, ο πως και στο Κεφα λαιο 3, το συ στημα των μεταναστευ σεων κλειδω νει για δε κα κυ κλους κανονικω ν χρονοδρομολογη σεων. Ως με θοδος επιλογη ς των εργασιω ν που θα μεταναστευ σουν σε κα θε κυ - κλο μεταναστευ σεων, χρησιμοποιη θηκε η First Fit που περιγρα ψαμε στο προηγου μενο κεφα λαιο, η οποι α επιλε γει πα ντα την πρω τη εργασι α που μπορει να χρονοδρομολογηθει μετα απο μετανα στευση των υποεργασιω ν της. Οι εργασι ες που μεταναστευ ουν χρονοδρομολογου νται στον αμε σως επο μενο κυ - κλο ε τσι ω στε να αποφευχθει η πολλαπλη μετανα στευση.

90 4 Η επίδραση του μεταβαλλόμενου φόρτου και της ενεργούς εξισορρόπησης 64 συστήματος Τε λος κα θε φορα που ε χουμε μετανα στευση, προσθε τουμε μια καθυστε ρηση στο συνολικο χρο νο εκτε λεσης της εργασι ας, η οποι α επιλε γεται βα σει μιας ομοιο μορφης κατανομη ς U(0.016, 0.166) που ανταποκρι νεται σε ε να με δε κα λεπτα πραγματικου χρο νου. 4.5 Διαχείριση εικονικών μηχανών Για να διαχειριστει αποτελεσματικα ε να συ στημα τους πο ρους του νε φους θα πρε πει, ο πως ε χουμε αναφε ρει, να μπορει να αλλα ζει δυναμικα το με γεθο ς του ανα λογα με το φο ρτο εργασι ας. Στο μοντε λο που μελετα με, αυτο μεταφρα ζεται στη δυνατο τητα να προσθε τουμε και να αφαιρου με εικονικε ς μηχανε ς απο το συ μπλεγμα VM του συστη ματος. Η χρονικη καθυστε ρηση κατα την προσθη κη εικονικω ν μηχανω ν στο συ στημα μοντελοποιει ται βα σει μιας ομοιο μορφης κατανομη ς U(0.033, 0.166), η οποι α αντιστοιχει σε περι που δυ ο με δε κα λεπτα πραγματικου χρο νου. Σε αντι θεση με τα δυ ο προηγου μενα κεφα λαια, ο που η δε σμευση και η αποδε σμευση των εικονικω ν μηχανω ν συνε βαινε μο νο κατα την αποχω ρηση εργασιω ν, στο κεφα λαιο αυτο ε χουμε ενσωματω σει ε να συ στημα ενεργου ς εξισορρο πησης του μεγε θους του συστη ματος ανα λογα με τον εκα στοτε με σο φο ρτο Δέσμευση εικονικών μηχανών Το συ στημα δεσμευ ει εικονικε ς μηχανε ς σε δυ ο περιπτω σεις: Ανεπαρκείς εικονικές μηχανές Αυτο συμβαι νει ο ταν φτα νει στο συ - στημα μια εργασι α με βαθμο παραλληλισμου μεγαλυ τερο του μεγε θους του συστη ματος και επομε νως δεν ει ναι δυνατο να δρομολογηθει. Αυτη η εργασι α περιμε νει στην ουρα αναμονη ς του DVM ε ως ο του το συ στημα δεσμευ σει νε ες εικονικε ς μηχανε ς. Υπερφορτωμένες εικονικές μηχανές Το συ στημα ελε γχει τακτικα την τιμη του με σου φο ρτου του συστη ματος (Average Load Factor - ALF), που ει ναι ει ναι το κλα σμα των εργασιω ν που αναμε νουν να εκτελεστου ν προς το συ νολο των εικονικω ν μηχανω ν. Αν η τιμη του ξεπερα σει ε να συγκεκριμε νο ο ριο, το συ στημα δεσμευ ει νε ες εικονικε ς μηχανε ς των

91 4.5 Διαχείριση εικονικών μηχανών 65 οποι ων ο αριθμο ς υπολογι ζεται ως εξη ς: Vc i=1 V M prov = t i + t new. (4.3) (maxlf + minlf )/2 ο που t i ει ναι ο αριθμο ς των υποεργασιω ν που περιμε νουν στο VM i, V c ει ναι ο τρε χων αριθμο ς απο εικονικε ς μηχανε ς και t new ει ναι ο αριθμο ς των υποεργασιω ν της εργασι ας που μο λις ε χει φτα σει στο συ στημα. Οι παρα μετροι maxlf (με γιστος φο ρτος) και minlf (ελα χιστος φο ρτος), ρυθμι στηκαν μετα απο πειραματισμο σε δε κα και πε ντε εργασι ες ανα ουρα αντιστοι χως, με σκοπο η εξισορρο πηση να ει ναι αποτελεσματικη και συνα μα σχετικα συντηρητικη Αποδέσμευση εικονικών μηχανών Ο μηχανισμο ς αποδε σμευσης εικονικω ν μηχανω ν στο μοντε λο που μελετα με λειτουργει με δυ ο διαφορετικου ς τρο πους ανα λογα με το αν ε χουμε ενεργοποιη σει την ενεργη εξισορρο πηση η ο χι: Αν η εξισορρο πηση δεν ει ναι ενεργη το τε το συ στημα προσπαθει ο πως και στα προηγου μενα κεφα λαια να αποδεσμευ σει εικονικε ς μηχανε ς μετα απο κα θε αναχω ρηση. Για να ει ναι δυνατο ν να αποδεσμευτει μια εικονικη μηχανη θα πρε πει να πληρου νται τα παρακα τω κριτη ρια: Η εικονικη μηχανη πρε πει να ει ναι αδρανη ς και να μην υπα ρχουν εργασι ες που περιμε νουν στην ουρα της. Καμι α εργασι α δεν θα πρε πει να αναμε νει δε σμευση νε ων εικονικω ν μηχανω ν στον DVM. Δεν θα πρε πει να ε χουν δρομολογηθει μεταναστευ σεις εργασιω ν. Αν η εξισορρο πηση ει ναι ενεργη, το συ στημα μετα απο κα θε αναχω - ρηση υπολογι ζει το με σο φο ρτο συστη ματος (ALF) και αν αυτο ς πε σει κα τω απο το ο ριο minlf το τε το συ στημα αποδεσμευ ει αρκετε ς εικονικε ς μηχανε ς ε τσι ω στε το ALF να φτα σει το θεμιτο ο ριο (maxlf + minlf )/2, το οποι ο για το μοντε λο μας ει ναι 7.5. Οι εργασι ες που βρι σκονταν στις εικονικε ς μηχανε ς που θα αποδεσμευτου ν επαναδρομολογου νται προς τις υπο λοιπες εικονικε ς μηχανε ς. Η εξισορρο πηση πρου ποθε τει μο νο το τρι το απο τα παραπα νω κριτη ρια και φυσικα, ο τι θα

92 4 Η επίδραση του μεταβαλλόμενου φόρτου και της ενεργούς εξισορρόπησης 66 συστήματος υπα ρχουν αρκετε ς εικονικε ς μηχανε ς για να εξυπηρετη σουν τη μεγαλυ - τερη εργασι α. 4.6 Αποτίμηση της απόδοσης και του κόστους Μετρικές απόδοσης Για την αποτι μηση της απο δοσης χρησιμοποιη θηκαν οι παρακα τω μετρικε ς: Χρόνος Απόκρισης (Response Time) r j, που, ο πως ε χουμε ξαναπει, ει ναι το χρονικο δια στημα μεταξυ της α φιξης και της αναχω ρησης μιας εργασι ας. Χρησιμοποίηση (Utilization) ρ, που συνη θως υπολογι ζεται ως το κλα - σμα μεταξυ του χρο νου απασχο λησης (busy time) μιας εικονικη ς μηχανη ς προς το συνολικο χρο νο που αυτη η ταν δεσμευμε νη (lease time). Όμως, σε ε να δυναμικο συ στημα σαν αυτο που εξετα ζουμε, υπα ρχει πιθανο τητα μια εικονικη μηχανη να δεσμευτει και να αποδεσμευτει χωρι ς να αδρανη σει καθο λου και επομε νως να ε χει χρησιμοποι ηση 100%. Αυτο ο μως, θα μπορου σε ευ κολα να αλλοιω σει το με σο ο ρο και α ρα δεν ει ναι επιθυμητο. Παρ ο λα αυτα, η συνολικη χρησιμοποι ηση του συστη ματος μπορει να υπολογιστει ως εξη ς: U = Vt i=1 bt i Vt i=1 lt. (4.4) i ο που V t ει ναι ο συνολικο αριθμο ς απο εικονικε ς μηχανε ς κατα τη δια ρ- κεια ο λου του πειρα ματος προσομοι ωσης, bt i και lt i ει ναι ο χρο νος απασχο λησης και ο χρο νος δε σμευσης της εικονικη ς μηχανη ς i αντιστοι χως Μετρικές κόστους Για να αποτιμη σουμε το κο στος στο μοντε λο αυτο, θεωρου με ο τι ο λες οι εικονικε ς μηχανε ς που το συ στημα δεσμευ ει, ανη κουν στην μικρή κλα ση εικονικω ν μηχανω ν του νε φους Amazon EC2 με κο στος ανα ω ρα 0.095$ [105]. Ο συνολικο ς χρο νος δε σμευσης (Total Lease Time - LT) μετριε ται σε ω ρες και επομε νως το συνολικο κο στος ει ναι το γινο μενο των συνολικω ν ωρω ν με σα στο LT με το κο στος ανα ω ρα.

93 4.6 Αποτίμηση της απόδοσης και του κόστους 67 Πι νακας 4.1: Παρα μετροι του μοντε λου των εργασιω ν barr pb uprob βήμα [0.45, 0.55] [0.5, 1.0] [ , 0.9] 0.03 Επι σης, ο πως και στα προηγου μενα κεφα λαια, χρησιμοποιου με και τη μετρικη αποδοτικο τητας κο στους-απο δοσης (CPE) που υπολογι ζεται ως CP E = D LT +D RT, με D LT και D RT να ει ναι οι σχετικε ς διαφορε ς μεταξυ των χρο νων δε σμευσης και χρο νων απο κρισης μεταξυ των αλγορι θμων SQF και EPSTF Παράμετροι προσομοίωσης Για τις ανα γκες αυτου του μοντε λου υλοποιη θηκε ε νας προσομοιωτη ς διακριτω ν καταστα σεων. Για κα θε ε να απο τα πειρα ματα προσομοι ωσης, δημιουργη θηκαν συνθετικα ι χνη (traces) απο εργασι ες με 20,000 εργασι ες το καθε να χρησιμοποιω ντας το μοντε λο του Lublin, ο πως αυτο περιγρα φηκε παραπα νω. Για κα θε σετ απο παραμε τρους, εκτελε σαμε 30 διαφορετικα αρχικοποιημε να πειρα ματα και τα αποτελε σματα ει ναι ο με σος ο ρος των πειραμα - των αυτω ν. Όπως αναφε ραμε και προηγουμε νως, εξετα σαμε τρεις διαφορετικε ς παραμε τρους για το μοντε λο του Lublin, των οποι ων τις τιμε ς παρε χουμε συνοπτικα στον Πι νακα Αποτελέσματα προσομοίωσης Τα αποτελε σματα της προσομοι ωσης που ακολουθου ν, δει χνουν τις διαφορε ς στις μετρικε ς κο στους και απο δοσης που περιγρα φηκαν παραπα νω, για τους αλγορι θμους κατανομη ς εργασιω ν και τις παραμετροποιη σεις του συστη ματος εξισορρο πησης. Εδω, ο χρο νος απο κρισης μετριε ται σε ω ρες ενω το συνολικο κο στος σε δολα ρια Ηνωμε νων Πολιτειω ν ($). Στο Σχη μα 4.2, απεικονι ζονται οι τρεις απο τις μετρικε ς σε σχε ση με τις ρυθμι σεις της παραμε τρου barr, ενω στα Σχη ματα 4.3 και 4.4 εμφανι ζονται οι ι διες μετρικε ς σε σχε ση με τις α λλες δυ ο παραμε τρους pb και uprob αντιστοι χως.

94 4 Η επίδραση του μεταβαλλόμενου φόρτου και της ενεργούς εξισορρόπησης 68 συστήματος Όπως αναφε ραμε και παραπα νω, ο λες οι τιμε ς των παραμε τρων επηρεα ζουν το φο ρτο εργασι ας του συστη ματος, αλλα η κα θε μι α τροποποιει ε να διαφορετικο ποιοτικο χαρακτηριστικο αυτου. Και για τις τρεις παραμε τρους, στα Σχη ματα 4.2αʹ, 4.3αʹ και 4.4αʹ, παρατηρου με μια τα ση ο που ο SQF παρουσια ζει πολυ καλυ τερη συμπεριφορα απο τον EPSTF για τους μεγα λους φο ρ- τους εργασι ας ενω για χαμηλου ς φο ρτους εργασι ας οι δυ ο αλγο ριθμοι συγκλι νουν. Με ενδιαφε ρον παρατηρου με ο τι ο EPSTF ει ναι λιγο τερο κοστοβο ρος σε σχε ση με τον SQF καθω ς η παρα μετρος barr αυξα νεται και ειδικο τερα ο ταν δεν ει ναι ενεργοποιημε νο το συ στημα εξισορρο πησης. Καθω ς ο EPSTF στοχευ ει τη βελτιστοποι ηση του χρο νου ει ναι λογικο ο τι καθω ς ο φο ρτος εργασι ας μειω νεται, εξι σου μειω νεται και το κο στος του. Αυτη η τα ση ει ναι ορατο ο τι υπα ρχει και για τις α λλες δυ ο παραμε τρους αν και δεν ει ναι το σο εμφανη ς για εκει νες. Τα δυ ο προηγου μενα αποτελε σματα οδηγου ν σε μια επιπλε ον παρατη ρηση, η οποι α γι νεται ορατη στα Σχη ματα 4.2γʹ και 4.3γʹ. Η αποδοτικο τητα κο στουςαπο δοσης για τον αλγο ριθμο SQF ει ναι κατα πολυ καλυ τερη απο τον EPSTF με χρι και 100% για μεγαλυ τερους φο ρτους εργασι ας. Το ι διο ο μως δεν ισχυ ει για χαμηλο τερους ρυθμου ς αφι ξεων η για μικρο τερους χρο νους εκτε λεσης ο που ο EPSTF καταφε ρνει να ει ναι καλυ τερος απο τον SQF ε ως και 25% απο α ποψη αποδοτικο τητας κο στους-απο δοσης. Σε ο τι αφορα το συ στημα ενεργου ς εξισορρο πησης συστη ματος, ει ναι εμφανε ς απο τα Σχη ματα 4.2αʹ και 4.2βʹ ο τι καταφε ρνει να μειω σει το κο στος ενω ταυτο χρονα διατηρει στα ι δια επι πεδα την απο δοση με το αντι στοιχο παθητικο συ στημα εξισορρο πησης που ει ναι πολυ πιο συντηρητικο. Η διαφορα στο κο στος ει ναι πολυ περισσο τερο προφανη ς για την παρα μετρο barr. Αυτο μπορει να εξηγηθει απο το γεγονο ς ο τι το συ στημα εξισορρο πησης επηρεα ζεται απο το φο ρτο του συστη ματος, ο οποι ος ει ναι πολυ πιο ευαι σθητος στις αλλαγε ς του ρυθμου α φιξης απ ο,τι σε αλλαγε ς των χρο νων εκτε λεσης η των μεγεθω ν των εργασιω ν. Απο την α λλη πλευρα, οι χρο νοι απο κρισης επηρεα - ζονται ελα χιστα απο τη χρη ση της εξισορρο πησης, γεγονο ς που δει χνει ο τι το συ στημα δεν ει ναι ιδιαι τερα επιθετικο και διατηρει ε τσι καλυ τερα τις ισορροπι ες. Αποτε λεσμα των παραπα νω, ει ναι μια βελτι ωση της τα ξης του 2-12% στη μετρικη αποδοτικο τητας κο στους-απο δοσης ιδιαι τερα για χαμηλο φο ρτο εργασι ας. Τε λος στα Σχη ματα 4.5αʹ, 4.5βʹ και 4.5γʹ βλε πουμε τα αποτελε σματα για τη χρησιμοποι ηση. Οι τα σεις που διαγρα φονται στα δυ ο πρω τα διαγρα μματα

95 4.6 Αποτίμηση της απόδοσης και του κόστους 69 Balancing + EPSTF (αʹ) Χρο νος Απο κρισης v. barr Balancing + EPSTF (βʹ) Συνολικο Κο στος v. barr Not Balancing-Balancing EPSTF (γʹ) Αποδοτικο τητα Κο στους-απο δοσης v. barr Σχη μα 4.2: Μετρικε ς Κο στους & Απο δοσης για barr επιδεικνυ ουν μια σταθερη πτω ση της χρησιμοποι ησης για τον αλγο ριθμο SQF καθω ς ο φο ρτος εργασι ας του συστη ματος μειω νεται. Αντι θετα ο EPSTF μεγιστοποιει τη χρησιμοποι ηση του για μεσαι ο και χαμηλο φο ρτο. Αυτο το αποτε -