Πανεπισήιο Θεσσαλίας Τήα Ηλεκρολόγων Μηχανικών & Μηχανικών Υπολογισών Άσκηση : Λυένες Ασκήσεις Έσω ένα σύσηα νήης, σο οποίο έχουε προσθέσει ια κρυφή νήη θυάων 6 θέσεων εαξύ ης κρυφής νήης δεδοένων L και ης κρυφής νήης L. Μελεήσε ην επίδραση ης κρυφής νήης θυάων σην απόδοση ου συσήαος νήης, όσο ποιοικά, όσο και ποσοικά. Για ην ποσοική προσέγγιση, υποθέσε όι η αξιολόγηση ου συσήαος νήης γίνεαι πάνω σε κάποια εφαρογή, όπου η κρυφή νήη δεδοένων L εφανίζει ποσοσό επιυχίας 90% και η κρυφή νήη θυάων εφανίζει ποσοσό επιυχίας 50%. Ο χρόνος προσπέλασης σε επιυχία για ην L είναι cc, ο έσος χρόνος προσπέλασης για ην L είναι 0cc, ενώ ο χρόνος προσπέλασης ης νήης θυάων είναι 3cc. Για απλούσευση θεωρήσε όι ια απουχηένη προσπέλαση αυξάνει ο χρόνο προσπέλασης σε επιυχία καά ο έσο χρόνο προσπέλασης ου επόενου επιπέδου. Απάνηση Η κρυφή νήη θυάων victim cache) οποθεείαι ανάεσα σε δύο επίπεδα ης ιεραρχίας νήης, ώσε να συγκραεί α πρόσφαα εκδιωχθένα πλοκ ου ενός, καθώς σέλνοναι σο άλλο, και να προσφέρει ια ευκαιρία σύνοης ανάκησης σε περίπωση που κάποιο από αυά ξαναζηηθεί. Η κρυφή νήη θυάων δεν έχει απεικόνιση διεύθυνσης, υλοποιείαι δηλαδή ως πλήρως συσχεισική νήη. Έσι, α πρώα πλοκ που διώχνοναι από ο ικρόερο από α δύο επίπεδα θα κααλάβουν θέσεις ης νήης θυάων, και όαν αυή γείσει, α επόενα πλοκ θα ανικαθισούν α προηγούενα, ε βάση κάποιον αλγόριθο σαν ον LRU ή ον FIFO. Με κάθε απουχία σην κρυφή νήη που βρίσκεαι πριν η νήη θυάων, πρώα ελέγχεαι η νήη θυάων, ώσε αν ο ζηούενο πλοκ βρίσκεαι εκεί, να ανακηθεί άεσα, χωρίς να γίνει προσπέλαση ση νήη ου επόενου επιπέδου. Φυσικά, αν ο πλοκ δε βρίσκεαι ση νήη θυάων, είε γιαί δεν πέρασε ποέ από αυήν, είε γιαί ανικαασάθηκε σε κάποια προηγούενη απουχία, θα γίνει αναγκασικά προσπέλαση ου επόενου επιπέδου. Η επίδραση ης κρυφής νήης θυάων σην απόδοση ενός συσήαος νήης εξαράαι από ο ποσοσό επιυχίας ης, ιδιαίερα σε σχέση ε ο ποσοσό επιυχίας ης κρυφής νή- ης που προηγείαι, αλλά και από ην επικάλυψη που έχει η προσπέλασή ης ε ην επικάλυψη ων δύο γειονικών επιπέδων ου συσήαος νήης. Γενικά, πορούε να περιένουε θεική επίδραση, επειδή ε βάση ην αρχή ης οπικόηας αναφορών, υπάρχει σηανική πιθανόηα ένα πλοκ που ανικαασάθηκε από ην κρυφή νήη πριν η νήη θυ- άων να ξαναζηηθεί σύνοα, και πριν αυό ανικαασαθεί από ην ελευαία. Μάλισα, αν η χρόνος προσπέλασης ης κρυφής νήης θυάων καλύπεαι πλήρως από ο χρόνο προσπέλασης ης νήης ου προηγούενου ή ου επόενου επιπέδου, όε όσο ικρή και αν είναι αυή η πιθανόηα, θα υπάρχει πάνα βελίωση σην απόδοση ου συσήαος νήης, αφού ση χειρόερη περίπωση κάθε απουχία σην πρώη κρυφή νήη θα οδηγεί σε προσπέλαση ης δεύερης, η οποία όως θα γίνεαι χωρίς καθυσέρηση, κι εποένως θα παρέχει απόδοση ίση ε αυή ενός συσήαος χωρίς νήη θυάων. Αν όως ο χρόνος προσπέλασης ης νήης θυάων δεν καλύπεαι από ις προσπελάσεις ων δύο επιπέδων ου συσή- αος νήης, κάι που θα πορούσε να είναι επιθυηό, ώσε από η ια να ην αυξάνεαι η καανάλωση ενέργειας και από ην άλλη η διασύνδεση ε η νήη επόενου επιπέδου να ην απασχολείαι άσκοπα και να πορεί να διαίθεαι για άλλες προσπελάσεις, όε ένα ι-
διαίερα χαηλό ποσοσό επιυχίας ση νήη θυάων θα πορούσε να οδηγήσει σε είωση σην απόδοση ου συσήαος νήης ανί για αύξηση. Ποιοι όως είναι οι παράγονες που ρυθίζουν ο ποσοσό επιυχίας σην κρυφή νήη θυ- άων; Φυσικά, όπως προαναφέραε, η οπικόηα αναφορών αυξάνει αυό ο ποσοσό. Αυός όως ο παράγονας εξαράαι από ην εφαρογή, και σίγουρα υπάρχουν εφαρογές, ό- που είε η οπικόηα αναφορών είναι πολύ ικρή σο χώρο, είε οι αναφορές επαναλαβάνοναι υπερβολικά αραιά. Για παράδειγα, ια εφαρογή που χειρίζεαι εγάλους πίνακες ε έριο βαθό πλήρωσης δεδοένων είναι πιθανό να εφανίζει και α δύο αυά συπώαα. Το έγεθος ης κρυφής νήης θυάων είναι σίγουρα ένας σηανικός παράγονας ρύθισης ου ποσοσού επιυχίας ης, ιδιαίερα εφ όσον αυή υλοποιείαι ως πλήρους συσχέισης κι εποένως δεν εφανίζει απουχίες από συγκρούσεις απεικόνισης. Για σαθερό έγεθος νήης θυάων, η οργάνωση ης κρυφής νήης που προηγείαι ίσως να είναι ο πιο καθορισικός παράγονας ρύθισης ου ποσοσού επιυχίας ης νήης θυάων, ανεξάρηα από ην εφαρογή. Πιο συγκεκριένα, ια κρυφή νήη άεσης απεικόνισης έχει γενικά χα- ηλόερη απόδοση σε αποθήκευση δεδοένων από ια συνολοσυσχεισική κρυφή νήη, επειδή η δεύερη παρέχει περισσόερες ευκαιρίες αποθήκευσης σε πλοκ που έχουν ην ίδια διεύθυνση συνόλου από ό,ι η πρώη. Η ύπαρξη πολλαπλών αυόχρονα ενεργών περιοχών νήης είναι περισσόερο συνηθισένη σε δεδοένα από ό,ι σε ενολές, εκός εάν ο επεξεργασής υποσηρίζει πολλαπλές ροές ελέγχου, κι έσι ια κρυφή νήη άεσης απεικόνισης θα ανικαθισά α πλοκ ης πιο συχνά από ό,ι ια συνολοσυσχεισική κρυφή νήη. Έ- σι, για ον ίδιο χώρο αποθήκευσης, ια νήη θυάων για δεδοένα θα γείζει γρηγορόερα ε ια κρυφή νήη άεσης απεικόνισης, και θα έχει εποένως συχνόερες ανικαασάσεις, δηλαδή χαηλόερο ποσοσό επιυχίας. Ανίθεα, ε ια συνολοσυσχεισική κρυφή νήη, α πλοκ που θα κααλήγουν ση νήη θυάων θα είναι γενικά αυά που δε θα χωρούν σα σύνολα ης πρώης, κάι που θα συβαίνει όαν οι αυόχρονα ενεργές περιοχές νήης είναι περισσόερες από ο βαθό συσχέισης ης νήης. Με καάλληλο βαθό συσχέισης, συνήθως όχι εγαλύερο από 4, αυό θα συβαίνει ιδιαίερα σπάνια, κι έσι η νή- η θυάων θα διαηρεί α δεδοένα για εγαλύερο χρονικό διάσηα, κι έσι θα έχει υψηλόερο ποσοσό επιυχίας. Από ην άλλη εριά, έλος, για αποθήκευση ενολών, δε θα πρέπει να αναένεαι διαφορά σην απόδοση ιας κρυφής νήης άεσης απεικόνισης από ια συνολοσυσχεισική, εκός αν υποσηρίζοναι πολλαπλές ροές ελέγχου, οπόε η συπεριφορά είνει να οιάζει ε αυή ης αποθήκευσης δεδοένων. Πάνως, αν ασχοληθούε ε ο σχεικό ποσοσό επιυχίας εαξύ ης κρυφής νήης θυάων και ης κρυφής νήης που προηγείαι, ια καλύερη συπεριφορά συνολοσυσχεισικής κρυφής νήης ίσως να οδηγεί σε ικρόερη βελίωση σην απόδοση, από ό,ι για ια νήη άεσης απεικόνισης. Μ άλλα λόγια, ια κρυφή νήη άεσης απεικόνισης ε ια σχεικά εγάλη κρυφή νήη θυάων πορεί να παρουσιάσει δρααική βελίωση σην απόδοση ου συσήαος νήης, ενώ ια συνολοσυσχεισική κρυφή νήη που ήδη έχει υψηλά ποσοσά επιυχίας πιθανό να ην παρουσιάσει έοια βελίωση, όσο εγάλη κι αν είναι η κρυφή νήη θυάων που συνδέεαι αυήν. Ας δούε ώρα πόση είναι η βελίωση σην απόδοση ου δεδοένου συσήαος νήης ε ην παρουσία ης κρυφής νήης θυάων. Έσω ο χρόνος προσπέλασης ης κρυφής νή- ης L, ο χρόνος προσπέλασης ης νήης θυάων και Τ ο έσος χρόνος προσπέλασης ης κρυφής νήης L, συπεριλαβανοένων όλων ων προσπελάσεων σα επόενα επίπεδα ου συσήαος νήης. Έσω ακόα p ο ποσοσό επιυχίας ης νήης L και p ο ποσοσό επιυχίας ης νήης θυάων. Έσι, αν Τ χ είναι ο έσος χρόνος προσπέλασης ης νήης χωρίς κρυφή νήη θυάων, όε ο χρόνος αυός θα είναι: T χ = + p) T Ση συγκεκριένη άσκηση θα υποθέσουε όι η προσπέλαση ης κρυφής νήης θυάων επικαλύπεαι ε ην προσπέλαση ης L, αλλά δεν επικαλύπεαι ε ην προσπέλαση ης L. Μ άλλα λόγια, κάθε προσπέλαση που γίνεαι σην κρυφή νήη L πηγαίνει παράλληλα και ση νήη θυάων, αλλά η προσπέλαση ης L δεν ξεκινάει πριν ελεγχθεί και η ελευ-
3 αία. Με ο έσος χρόνος προσπέλασης ης νήης ε κρυφή νήη θυάων Τ θα είναι: T = + + p p T ) ) ) ) όπου ο όρος που ακολουθεί ο χρόνο προσπέλασης ης L είναι ο πρόσθεος χρόνος προσπέλασης ης νήης θυάων, ο οποίος προσίθεαι σε κάθε απουχία σην L άρα ε πιθανόηα - p ), και ο ελευαίος όρος είναι ο έσος χρόνος προσπέλασης ης L, που προσίθεαι σε κάθε απουχία ης L που απουγχάνει και ση νήη θυάων άρα ε πιθανόηα ίση ε ο γινόενο - p) - p ). Η βελίωση σο έσο χρόνο προσπέλασης ης νήης Sp θα είναι ο λόγος ων δύο χρόνων: Tχ + p) T Sp= = T + + p p T ) ) ) ) Μπορούε να δούε όι όσο αυξάνει ο χρόνος, αυξάνει ο δεύερος όρος ου χρόνου Τ, κι εποένως η βελίωση σην απόδοση ου συσήαος νήης ειώνεαι. Έσι, η οριακή ιή ου χρόνου για ην οποία παύει να υπάρχει βελίωση θα προκύπει ως εξής: Sp + p T + + p p T p ) ) ) ) ) p ) T p ) ) + p T Ισοδύναα, η οριακή ιή ου ποσοσού p για ην οποία παύει να υπάρχει βελίωση θα δίνεαι από η σχέση: p T Όαν, οπόε η προσπέλαση ης νήης θυάων καλύπεαι πλήρως από ην προσπέλαση ης L, ο χρόνος T θα είναι: T = + p p T ) ) οπόε η βελίωση Sp θα γίνεαι: Tχ + p) T Sp= = T + p p ) ) T = + + όπου διαπισώνουε όι πάνα Sp. Η έγιση βελίωση εφανίζεαι όαν και p, και θα είναι: T Sp max = + p) Για ις ιές που ας δίνοναι η βελίωση θα είναι: cc+ 0. 0cc Sp = =.9 cc+ 0. cc+ 0.5 0. 0cc p p) T p) p) T Με διαφορεικές υποθέσεις σην επικάλυψη ων προσπελάσεων σις ρεις νήες θα προέκυπαν διαφορεικά συπεράσαα, χρησιοποιώνας όως παρόοια λογική ε ην παραπάνω. Ειδικόερα, χωρίς επικάλυψη σις προσπελάσεις ης νήης θυάων και ης L, σο χρόνο T θα προσθέαε όλο ο χρόνο, ανί ης διαφοράς -, ενώ ε επικάλυψη σις προσπελάσεις ης νήης θυάων και ης L, ο χρόνος προσπέλασης ης νήης θυάων θα συεείχε όνο σε περίπωση επιυχίας σην προσπέλασή ης, αφού σε άλλη περίπωση καλύπεαι από ο χρόνο προσπέλασης ης L. Άσκηση : Θεωρήσε ένα σύσηα συερικού πολυεπεξεργασή, σο οποίο θέλουε να υλοποιήσουε συγχρονισό ε βάση ην αδιάσπαση λειουργία compare&swap, η οποία συγκρίνει ο περιε-
4 χόενο ιας διεύθυνσης νήης ε ο περιεχόενο ενός κααχωρηή γενικού σκοπού, και σε περίπωση ισόηας, ο αναλλάσσει ε ο περιεχόενο ενός δεύερου κααχωρηή γενικού σκοπού. Αν ο πολυεπεξεργασής είναι βασισένος σε επεξεργασές αρχιεκονικής MIPS, να γράψεε ια συνάρηση σε συβολική γλώσσα MIPS που να υλοποιεί η λειουργία compare&swap ε η βοήθεια ων ενολών LL και SC. Απάνηση Ένα από α σηανικόερα θέαα παράλληλης επεξεργασίας είναι ο συγχρονισός εαξύ ων κωδίκων που εκελούναι παράλληλα. Ο συγχρονισός αυός επιυγχάνεαι ε καάλληλη υποσήριξη από ο υλικό, ε η ορφή λειουργιών που ενεργούν αοικά ή αδιάσπασα. Τέοιες λειουργίες επιρέπουν σε ένα κένρο επεξεργασίας να ελέγχει και να ροποποιεί κάποια θέση νήης σε ια ενιαία λειουργία, χωρίς δηλαδή να υπάρχει ο κίνδυνος εαξύ ου ελέγχου και ης ροποποίησης να έχει εσολαβήσει επέβαση δηλαδή προσπάθεια εγγραφής κάποιου άλλου κένρου επεξεργασίας. Οι αδιάσπασες λειουργίες χρησιοποιούναι υπικά για απόκηση κλειδιών σε υλοποίηση φραγάων barriers) ή αοιβαία αποκλεισικής εκέλεσης κρίσιου κώδικα mutual exclusion). Η εξασφάλιση ης αοικόηας γίνεαι από ο υλικό, συνήθως ε έναν από δύο ρόπους: είε έσα σην ίδια ενολή έσω συνεργασίας ου επεξεργασή ε ο έσο διασύνδεσης, είε ε ζεύγος ενολών που εξοοιώνει ην αοικόηα έσα σον επεξεργασή. Σην πρώη περίπωση, ο έσο διασύνδεσης πρέπει να εποδίζει άλλες λειουργίες να ενεργούν ση διεύθυνση νήης όπου ενεργεί η αδιάσπαση λειουργία, πιθανά ε πλήρη αποκλεισό ου έσου από άλλους επεξεργασές έχρι ην ολοκλήρωση ης λειουργίας. Για ην υλοποίηση ε αυόν ον ρόπο απαιείαι συνεργασία και ου ηχανισού συνοχής ης κρυφής νήης, κάι που αυξάνει ην πολυπλοκόηα ου πρωοκόλλου συνοχής. Ο πλήρης α- ποκλεισός ου έσου διασύνδεσης διευκολύνει ην υλοποίηση ου ηχανισού συνοχής, αλλά βέβαια έχει ως αποέλεσα εγαλύερους χρόνους προσπέλασης νήης όαν εκκρε- ούν λειουργίες συγχρονισού. Ση δεύερη περίπωση, η αοικόηα δεν εξασφαλίζεαι από ο έσο διασύνδεσης, ο ο- ποίο έσι δεν επιβαρύνεαι ε έοιες λειουργίες, όως ο επεξεργασής πρέπει να παρουσιάζει σον κώδικα ια συπεριφορά που να είναι ισοδύναη ε αυή ων πραγαικά αδιάσπασων λειουργιών. Εφ όσον ο έσο διασύνδεσης δε συεέχει, δεν πορεί να εξασφαλισεί όι κάποιος άλλος επεξεργασής δε θα προσπαθήσει να ροποποιήσει η θέση νήης όπου εκκρεεί ια έοια λειουργία, κι εποένως ο επεξεργασής που εξέδωσε η λειουργία πρέπει να παρακολουθεί, ώσε να ην ακυρώσει αν υπάρξει εσολάβηση από άλλον επεξεργασή. Ο ηχανισός παρακολούθησης υλοποιείαι συνήθως ε δύο ενολές, ία που εκδίδει η λειουργία, και ία που ελέγχει ην ολοκλήρωσή ης. Τα συσήαα πολυεπεξεργασίας που βασίζοναι σην αρχιεκονική MIPS υλοποιούν η δεύερη από ις πιο πάνω εχνικές για αοικές λειουργίες, ε ο ζεύγος ενολών LL και SC. Η πρώη ενολή διαβάζει η θέση νήης, σηαοδοώνας ην έναρξη ης αδιάσπασης λειουργίας, ενώ η δεύερη ην ροποποιεί, ολοκληρώνονας ην αδιάσπαση λειουργία, ε ην προϋπόθεση όι δεν έχει εσολαβήσει άλλη προσπάθεια εγγραφής σην ίδια θέση. Αν έχει συβεί κάι έοιο, η ενολή SC επισρέφει ιή 0, υποδεικνύονας ην απουχία ου συσήαος σην προσπάθεια εκέλεσης ων δύο ενολών ως ία αδιάσπαση λειουργία. ιαφορεικά, η ηδενική ιή επισροφής σηαίνει όι η λειουργία είχε επιυχία, όι δηλαδή δεν υπήρξε επέβαση άλλου επεξεργασή εαξύ ης εκέλεσης ων δύο ενολών. Τυπικά, κάποια ενολή διακλάδωσης ελέγχει ο αποέλεσα ης SC, και οδηγεί σε επανάληψη ης προσπάθειας, αν η ιή επισροφής είναι 0. Μια υλοποίηση ης λειουργίας compare&swap ε η βοήθεια ου ζεύγους ενολών LL και SC, υποθέονας όι αρχικά η διεύθυνση νήης λαβάνεαι από ον κααχωρηή $4, η ιή προς σύγκριση από ον κααχωρηή $5 και η ιή προς αναλλαγή από ον κααχωρηή $6, είναι η ακόλουθη:
5 CSwp: ll $8,0$4) bne $8,$5,Cswp or $7,$6,$0 sc $7,0$4) beq $7,$0,CSwp όπου: Η πρώη ενολή διαβάζει η θέση νήης όπου θέλουε να εκελέσουε ην αδιάσπαση λειουργία. Η δεύερη ενολή συγκρίνει ην ιή που διαβάζεαι ε ο περιεχόενο ου κααχωρηή $5, και επανεκκινεί η λειουργία αν οι ιές είναι διαφορεικές. Η ρίη ενολή ανιγράφει ην ιή προς αποθήκευση από ον κααχωρηή $6 σε κάποιον άλλο κααχωρηή έσω ον $7, επειδή η ενολή αποθήκευσης SC αλλάζει ον κααχωρηή που περιέχει ην ιή προς αποθήκευση. Η έαρη ενολή ολοκληρώνει η λειουργία ε εγγραφή ση νήη ου περιεχοένου ου κααχωρηή $7. Τέλος, η πέπη ενολή εξεάζει ο αποέλεσα ης προηγούενης, και αν είναι 0, επισρέφει ον έλεγχο σην πρώη ενολή. Παραηρήσε όι πιθανή εκέλεση άλαος σην πρώη από ις δύο ενολές διακλάδωσης αφήνει ην αδιάσπαση λειουργία ηιελή. Αυό δε ας ενοχλεί, αφού η επόενη εκέλεση ης ενολής LL θα ξεκινήσει άλλη έοια λειουργία. Αν για παράδειγα, ο παραπάνω κώδικας είναι έρος ενός βρόχου αναονής κάποιου κλειδιού, όσο ο κλειδί δεν είναι ελεύθερο, η ιή που διαβάζεαι από η νήη θα οδηγεί σε επισροφή σην ενολή LL. Μόλις ο κλειδί απελευθερωθεί, θα γίνει προσπάθεια εκέλεσης ης SC, και αν αυή απούχει, επειδή κάποιος άλλος επεξεργασής πρόλαβε και πήρε ο κλειδί, όε θα επισρέψουε και πάλι σην ενολή LL, διαφορεικά θα συνεχίσουε ε ον κώδικα που ακολουθεί. Ο παραπάνω κώδικας θα πρέπει να συπληρωθεί ε κάποιον κώδικα καθυσέρησης, ώσε να εξασφαλισεί όι δε θα συβεί αδιέξοδο σην αυόχρονη προσπάθεια πολλών επεξεργασών να εκελέσουν ενολή SC σην ίδια θέση νήης. Ο κώδικας αυός θα πρέπει να εισάγει διαφορεική καθυσέρηση σε κάθε επεξεργασή, ώσε αυός ε η ικρόερη καθυσέρηση να προλάβει να ολοκληρώσει ην αδιάσπαση λειουργία πριν ην επέβαση κάποιου άλλου. Ένας καλός ηχανισός καθυσέρησης είναι ο ηχανισός ης εκθεικής υπαναχώρησης που περιγράφεαι σο βιβλίο, και δε θα επαναλάβουε εδώ. Ο ηχανισός αυός αυξάνει δυναικά ε εκθεικό ρόπο ο χρόνο καθυσέρησης σε κάθε απουχία ης ενολής SC, κι έσι δίνεαι η ευκαιρία σε αναγωνισές να διεκδικήσουν ην ολοκλήρωση ης δικής ους αδιάσπασης λειουργίας.