Π Τ Υ Χ Ι Α Κ Η Ε Ρ ΓΑ Σ Ι Α

Transcript

1 Α Ρ Ι Σ Τ Ο Τ Ε Λ Ε Ι Ο Π Α Ν Ε Π Ι Σ Τ Η Μ Ι Ο Θ Ε Σ Σ Α Λ Ο Ν Ι Κ Η Σ ΣΧΟΛΗ ΘΕΤΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ Π Τ Υ Χ Ι Α Κ Η Ε Ρ ΓΑ Σ Ι Α ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ - ΜΕΛΕΤΗ ΛΕΙΤΟΥΡΓΙΑΣ (MULTICORE PROCESSORS A STUDY OF HOW THEY WORK) ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ ΕΠΙΒΛΕΠΩΝ ΚΑΘΗΓΗΤΗΣ: ΝΙΚΟΛΑΟΣ ΚΟΝΟΦΑΟΣ, ΑΝΑΠΛΗΡΩΤΗΣ ΚΑΘΗΓΗΤΗΣ ΘΕΣΣΑΛΟΝΙΚΗ 2016

2

3

4

5

6

7 ΠΕΡΙΛΗΨΗ Π Ε Ρ Ι Λ Η Ψ Η Αντικείμενο της παρούσας εργασίας είναι μελέτη λειτουργίας των πολυπύρηνων επεξεργαστών. Αρχικά ασχολούμαστε με τις γενικές αρχές των πολυπύρηνων επεξεργαστών (όπως τι είναι τα πολυεπεξεργαστικά, πολυπυρηνικά και πολυνηματικά συστήματα). Ασχολούμαστε, έπειτα, με την χρήση των πολυπύρηνων επεξεργαστών, με όποια πλεονεκτήματα και μειονεκτήματα, προκύπτουν από την χρήση τους. Παρουσιάζεται μια σύντομη ιστορική αναδρομή σχετικά με τους πολυπύρηνους επεξεργαστές από τις διάφορες εταιρίες κατασκευής. Μεγάλο ενδιαφέρον παρουσιάζει η ανάλυση της αρχιτεκτονικής των πολυπύρηνων επεξεργαστών στα είδη που υπάρχουν (shared memory, hybrid, κλπ.). Τέλος ασχολούμαστε με τα είδη των εφαρμογών που μπορούν να χρησιμοποιηθούν τέτοιοι επεξεργαστές, σε ποιες θα μπορούσαν να λειτουργήσουν καλύτερα και σε ποιες όχι. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ VII

8

9 ABSTRACT A B S T R A C T The object of this study is multiple core, or multi-core processors. First we deal with the general principles of multi-core processors (such as what are multiprocessors, multi-core systems and multi-thread systems). We are dealing, then, with the use of multicore processors, with some advantages and disadvantages arising from their use. A brief historical overview on multicore processors by various manufacturing companies. Very interesting is the analysis of the architecture of multicore processors to the varieties that exist (shared memory, hybrid, etc.). Finally we deal with the applications such processors can be used, what could work better and what not. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ IX

10

11 ΕΥΧΑΡΙΣΤΙΕΣ Ε Υ Χ Α Ρ Ι Σ Τ Ι Ε Σ Πριν την παρουσίαση της παρούσας εργασίας, αισθάνομαι την υποχρέωση να ευχαριστήσω ορισμένους από τους ανθρώπους που γνώρισα, συνεργάστηκα μαζί τους και έπαιξαν πολύ σημαντικό ρόλο στην πραγματοποίησή της. Πρώτα απ όλα να ευχαριστήσω την οικογένειά μου που βρισκόταν πάντα στο πλευρό μου με υλική και ηθική υποστήριξη. Τους φίλους μου που αποδείχτηκαν εκτός από καταπληκτική παρέα και καταπληκτικοί συνεργάτες. Να ευχαριστήσω, επίσης, τον επιβλέπων καθηγητή μου Δρ. Κονοφάο Νικόλαο για την αμέριστη υποστήριξη που μου παρείχε στην εκπόνηση της εργασίας. Να μην ξεχάσω, τέλος, να ευχαριστήσω το διδακτικό προσωπικό του Τμήματος Πληροφορικής για τις γνώσεις που μου παρείχε ούτως ώστε να είμαι σε θέση να φέρω σε πέρας αυτή την εργασία. Μάρτιος 2016 Παναγιώτης Κωνσταντακέλλης ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ XI

12

13 ΠΕΡΙΕΧΟΜΕΝΑ Π Ε Ρ Ι Ε Χ Ο Μ Ε Ν Α ΠΕΡΙΛΗΨΗ... VII ΕΥΧΑΡΙΣΤΙΕΣ... VXI ΠΕΡΙΕΧΟΜΕΝΑ... XIII ΛΙΣΤΑ ΣΧΗΜΑΤΩΝ... XV ΚΕΦΑΛΑΙΟ 1: ΕΙΣΑΓΩΓΗ ΔΙΑΧΩΡΙΣΜΟΣ ΕΝΝΟΙΩΝ ΧΡΗΣΗ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ ΠΕΡΙΓΡΑΦΗ ΕΡΓΑΣΙΑΣ ΚΕΦΑΛΑΙΟ 2: ΙΣΤΟΡΙΚΗ ΑΝΑΔΡΟΜΗ ΚΕΦΑΛΑΙΟ 3: ΑΡΧΗ ΛΕΙΤΟΥΡΓΙΑΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ ΥΠΑΡΧΟΥΣΕΣ ΑΡΧΙΤΕΚΤΟΝΙΚΕΣ ΚΑΙ ΕΝΝΟΙΕΣ ΠΟΛΛΑΠΛΟΙ ΠΥΡΗΝΕΣ ΔΙΚΤΥΑ ΕΝΔΟΔΙΑΣΥΝΔΕΣΗΣ ΕΛΕΓΚΤΕΣ ΜΝΗΜΗΣ ΥΠΟΣΤΗΡΙΞΗ ΚΟΙΝΟΧΡΗΣΤΗΣ ΜΝΗΜΗΣ ΠΟΛΥΝΗΜΑΤΙΣΜΟΣ ΥΛΙΚΟΥ ΠΕΙΡΑΜΑΤΙΚΕΣ ΑΡΧΙΤΕΚΤΟΝΙΚΕΣ ΚΑΙ ΕΝΝΟΙΕΣ ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΠΟΥ ΕΠΙΚΕΝΤΡΩΝΕΤΑΙ ΣΤΗ ΜΝΗΜΗ ΜΝΗΜΗ ΣΥΝΑΛΛΑΓΩΝ (TRANSACTIONAL MEMORY) ΚΕΦΑΛΑΙΟ 4: ΠΡΟΚΛΗΣΕΙΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ ΚΕΦΑΛΑΙΟ 5: ΠΑΡΑΔΕΙΓΜΑ ΠΟΛΥΠΥΡΗΝΟΥ ΕΠΕΞΕΡΓΑΣΤΗ ΣΕ VHDL ΠΑΡΑΡΤΗΜΑ I: ΑΝΑΦΟΡΕΣ ΠΑΡΑΡΤΗΜΑ II: ΑΚΡΩΝΥΜΑ ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ XIII

14

15 ΛΙΣΤΑ ΣΧΗΜΑΤΩΝ Λ Ι Σ Τ Α Σ Χ Η Μ ΑΤ Ω Ν ΕΙΚΟΝΑ 1: ΔΟΜΗ ΕΝΟΣ ΠΡΟΣΩΠΙΚΟΥ ΥΠΟΛΟΓΙΣΤΗ ΕΙΚΟΝΑ 2: ΤΟ ΣΧΗΜΑ ΛΟΓΙΚΗΣ ΤΟΥ POWER ΕΙΚΟΝΑ 3: ΣΧΕΔΙΑΓΡΑΜΜΑ ΤΟΥ INTEL PENTIUM PROCESSOR EXTREME EDITION ΕΙΚΟΝΑ 4: ΣΧΕΔΙΑΓΡΑΜΜΑ ΤΟΥ AMD ATHLON 64 X ΕΙΚΟΝΑ 5: ΣΧΕΔΙΑΓΡΑΜΜΑ ΤΜΗΜΑΤΩΝ ΕΠΕΞΕΡΓΑΣΤΗ EPIPHANY MULTICORE IP ΕΙΚΟΝΑ 6: ΚΥΚΛΩΜΑ TEGRA K1 ΜΕ 192 CUDA CORES ΕΙΚΟΝΑ 7: ΣΧΗΜΑΤΙΚΗ ΔΟΜΗ ΤΟΥ ARM CORTEX-A ΕΙΚΟΝΑ 8: ΣΧΗΜΑΤΙΚΗ ΠΑΡΑΣΤΑΣΗ ΤΟΥ IBM POWER7 (ΕΚΔΟΣΗ 8 ΠΥΡΗΝΩΝ) ΕΙΚΟΝΑ 9: ΔΙΑΓΡΑΜΜΑ ΤΟΥ ΕΠΕΞΕΡΓΑΣΤΗ XLR ΜΕ 8 ΠΥΡΗΝΕΣ ΕΙΚΟΝΑ 10: Ο ΕΠΕΞΕΡΓΑΣΤΗΣ SPARC T5 ΜΕ ΕΠΕΞΗΓΗΜΑΤΙΚΑ ΣΧΗΜΑΤΑ ΕΙΚΟΝΑ 11: ΑΠΟΤΥΠΩΣΗ ΤΟΥ AMD ZEN (ΕΚΔΟΣΗ 16 ΠΥΡΗΝΩΝ) ΕΙΚΟΝΑ 12: ΑΠΟΤΥΠΩΣΗ ΤΟΥ INTEL CORE I ΕΙΚΟΝΑ 13: Ο ΕΠΕΞΕΡΓΑΣΤΗΣ CELL BE ΕΙΚΟΝΑ 14: ΓΝΩΣΤΟΙ ΤΥΠΟΥ ΕΝΔΟΔΙΚΤΥΩΣΗΣ ΕΙΚΟΝΑ 15: ΠΑΡΑΔΕΙΓΜΑΤΑ ΑΡΧΙΤΕΚΤΟΝΙΚΗΣ ΜΝΗΜΗΣ CACHE ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ XV

16

17 Κ Ε Φ Α Λ Α Ι Ο 1 : Ε Ι Σ Α Γ Ω Γ Η

18

19 ΚΕΦΑΛΑΙΟ 1: ΕΙΣΑΓΩΓΗ ΕΙΣΑΓΩΓΗ Η βιομηχανία των μικροεπεξεργαστών συνεχίζει να παίζει τεράστιο ρόλο στην πορεία των τεχνολογικών εξελίξεων, από τότε που εμφανίστηκαν ως τεχνολογία, περίπου τη δεκαετία του Η συνεχώς αναπτυσσόμενη αγορά και η ζήτηση για καλύτερες αποδόσεις, οδήγησε τις βιομηχανίες να κατασκευάσουν ταχύτερα και εξυπνότερα κυκλώματα. Ένα από τα πιο κλασικά παραδείγματα τεχνικών αύξησης της απόδοσης, είναι να χρονιστεί το ρολόι (clock) των επεξεργαστών σε μεγαλύτερη συχνότητα, αυτό επιτρέπει στον επεξεργαστή να εκτελέσει το πρόγραμμα σε μικρότερο χρόνο. Η βιομηχανία ακολουθεί αυτό το παράδειγμα από το 1983 έως το Επιπλέον τεχνικές έχουν αποδειχθεί ότι επιταχύνουν την απόδοση ενός συστήματος, όπως η παράλληλη επεξεργασία, παραλληλισμός σε επίπεδο δεδομένων και παραλληλισμός σε επίπεδο οδηγιών, όπου όλες έχουν αποδειχθεί πολύ αποδοτικές. Μια τέτοια τεχνική, όπου βελτιώνει σημαντικά την απόδοση ενός μικροεπεξεργαστή, είναι και οι πολυπύρηνοι επεξεργαστές. Οι πολυπύρηνοι επεξεργαστές υπάρχουν από την προηγούμενη δεκαετία, ωστόσο έχουν αποκτήσει μεγαλύτερη σημασία πλέον, λόγω των τεχνολογικών ορίων που αντιμετωπίζουν οι μονοπύρηνοι επεξεργαστές, όπως είναι ο υψηλός ρυθμός διεκπεραίωσης, η υψηλότερη ενεργειακή απόδοση και χαμηλότερη ενεργειακή κατανάλωση. 1.1 ΔΙΑΧΩΡΙΣΜΟΣ ΕΝΝΟΙΩΝ Συχνά υπάρχει η λογική να συγχέονται κάποιες έννοιες πολυεπεξεργασίας. Για να αποσαφηνίσουμε αυτές τις έννοιες, πρέπει πρώτα να ξεκινήσουμε με τις βασικές αρχές της πληροφορικής και την ερώτηση, τι είναι ένας υπολογιστής. Ένας υπολογιστής, λοιπόν, είναι ένα σύστημα που επεξεργάζεται δεδομένα. Για να επιτελεστεί η επεξεργασία των δεδομένων, χρησιμοποιούνται κάποιες δομικές μονάδες, όπως είναι ο μικροεπεξεργαστής, η μονάδα κύριας μνήμης και οι λοιπές μονάδες αποθήκευσης και απεικόνισης δεδομένων. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 19

20 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Εμείς θα απασχοληθούμε με το κομμάτι του Μικροεπεξεργαστή όπου εντάσσονται οι πολυπύρηνοι επεξεργαστές. Οι διάφορες κατηγοριοποιήσεις μικροεπεξεργαστών, για να βοηθηθούμε στην κατανόηση των πολυπύρηνων επεξεργαστών είναι: οι pipelined/nonpipelined επεξεργαστές, οι Scalar ή Superscalar επεξεργαστές, οι διανυσματικοί (vector) επεξεργαστές, οι πολυπύρηνοι επεξεργαστές και οι πολυνηματικοί επεξεργαστές. Αναλυτικότερα: Pipelined/Nonpipelined επεξεργαστές Οι pipelined επεξεργαστές, διαχωρίζουν την εκτέλεση κάθε οδηγίας σε πολλές φάσεις και επιτρέπουν σε διαφορετικές οδηγίες να επεξεργαστούν δε διαφορετικές φάσεις ταυτόχρονα. Το pipelining αυξάνει τον παραλληλισμό σε επίπεδο οδηγιών και λόγω της απόδοσης κόστους τους, πρακτικά πλέον χρησιμοποιούνται από όλους τους επεξεργαστές. Scalar ή Superscalar επεξεργαστές Οι scalar επεξεργαστές, είναι επεξεργαστές όπου δεν μπορούν να εκτελέσουν πάνω από μία οδηγία σε κάθε ένα από τα στάδια του pipelining. Με άλλα λόγια, οι scalar επεξεργαστές δεν μπορούν να έχουν ταχύτητα επεξεργασία μεγαλύτερη από μία οδηγία, ανά κύκλο, για οποιαδήποτε γλώσσα προγραμματισμού. Οποιοσδήποτε επεξεργαστής δεν είναι scalar, καλείται superscalar. Να σημειωθεί ότι ο superscalar επεξεργαστής μπορεί να εκτελέσει παραπάνω από μία οδηγίες, την ίδια στιγμή σε όλα τα στάδια του pipelining και ως εκ τούτου μπορεί να επιτύχει περισσότερες από μία οδηγίες ανά κύκλο για κάποιες γλώσσες προγραμματισμού. Διανυσματικοί (vector) επεξεργαστές Ο διανυσματικός επεξεργαστής, είναι ένας επεξεργαστής που περιλαμβάνει ένα πολύ μεγάλο αριθμό οδηγιών στο σύνολο οδηγιών αρχιτεκτονικής του (instruction set architecture ISA) και μπορούν να λειτουργήσουν σε διανύσματα. Παραδοσιακά, οι διανυσματικοί επεξεργαστές έχουν οδηγίες που λειτουργούν σε σχετικά μεγάλα διανύσματα. Πρόσφατα, οι περισσότεροι μικροεπεξεργαστές περιλαμβάνουν ένα μεγάλο σύνολο οδηγιών που λειτουργεί σε σχετικά μικρά διανύσματα (π.χ. έως 8 στοιχεία FP απλής ακρίβειας στην επέκταση Intel AVX). Αυτές οι οδηγίες συχνά αναφέρονται ως SIMD (single instruction, multiple data) οδηγίες. Σύμφωνα με αυτό τον ορισμό, πολλοί επεξεργαστές σήμερα, είναι διανυσματικοί επεξεργαστές, αν και η υποστήριξη για διανυσματικές οδηγίες διαφέρει κατά πολύ μεταξύ τους. 20 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

21 ΚΕΦΑΛΑΙΟ 1: ΕΙΣΑΓΩΓΗ Πολυπύρηνοι (multicore) επεξεργαστές Ένας επεξεργαστής αποτελείται από έναν ή περισσότερους πυρήνες. Ένας πυρήνας είναι μια μονάδα που μπορεί να επεξεργαστεί μια διαδοχική αλληλουχία κώδικα (που συχνά αναφέρεται ως νήμα). Οι κλασικοί επεξεργαστές είχαν έναν πυρήνα, ωστόσο σήμερα, αυτό έχει αλλάξει και οι περισσότεροι επεξεργαστές αποτελούνται από πολλούς πυρήνες. Ένας πολυπύρηνος επεξεργαστής μπορεί να επεξεργαστεί πολλαπλά νήματα, ταυτόχρονα, χρησιμοποιώντας διαφορετικούς πόρους από το σύστημα για κάθε έναν και περιλαμβάνει υποστήριξη για να επιτρέπει σε αυτά τα νήματα να συγχρονίζονται και να επικοινωνούν υπό τον έλεγχο του προγραμματιστή. Αυτή η υποστήριξη, συνήθως περιλαμβάνει κάποιο τύπο διασύνδεσης μεταξύ των πυρήνων και κάποιες αρχές επικοινωνίας μέσω αυτής της διασύνδεσης. Συχνά μέσω στης διασύνδεσης υπάρχει διαμοιρασμός δεδομένων για να διατηρείται η συνοχή του προγράμματος που επεξεργάζεται. Πολυνηματικοί (multithreaded) επεξεργαστές Ένας πολυνηματικός επεξεργαστής είναι εκείνος ο οποίος μπορεί να εκτελέσει ταυτόχρονα, παραπάνω από ένα νήμα σε μερικούς από τους πυρήνες του. Να σημειωθεί εδώ, ότι και οι πολυνηματικοί και οι πολυπύρηνοι επεξεργαστές μπορούν να επεξεργαστούν πολλαπλά νήματα, ταυτόχρονα, αλλά η βασική διαφορά τους είναι ότι στους πολυπύρηνους επεξεργαστές, χρησιμοποιούνται συνήθως εντελώς διαφορετικοί πόροι υλικού, ενώ στους πολυνηματικούς οι ίδιοι πόροι υλικού διαμοιράζονται μεταξύ των νημάτων. Οι πολυπύρηνοι και οι πολυνηματικοί επεξεργαστές είναι δύο τεχνολογίες, αλληλένδετες, οπότε μπορούν να χρησιμοποιηθούν, ταυτόχρονα. Για παράδειγμα, o επεξεργαστής Intel Core i7, έχει πολλούς πυρήνες και κάθε πυρήνας είναι δύο κατευθύνσεων πολυνηματικός. 1.2 ΧΡΗΣΗ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ Οι επεξεργαστές, έχουν διαφορετικά χαρακτηριστικά, ανάλογα με το μερίδιο της αγοράς το οποίο απευθύνονται και κατά συνέπεια, το οποίο προορίζονται να χρησιμοποιηθούν. Τα περισσότερο κοινά κομμάτια της αγοράς (ή οι ανάγκες που προορίζονται να καλύψουν οι επεξεργαστές), έχουν ως ακολούθως: Διακομιστές (Servers): Αυτό το κομμάτι αγοράς, αναφέρεται σε συστήματα με πολύ μεγάλες δυνατότητες, σε data centers, που κατά κανόνα διαμοιράζονται σε μεγάλο αριθμό χρηστών, ως πόροι και υπό κανονικές συνθήκες χρειάζονται μεγάλο αριθμό επεξεργαστών για να λειτουργήσουν και να αποδώσουν. Σε αυτή την κατηγορία, η υπολογιστική ισχύς και η κατανάλωση ενέργειας, είναι οι πιο σημαντικές παράμετροι για το χρήστη. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 21

22 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Επιτραπέζιοι (ή οικιακοί, desktop): Αυτός ο όρος αναφέρεται σε επεξεργαστές που χρησιμοποιούνται σε οικιακά συστήματα ή συστήματα γραφείων, με σταθερό το γεγονός ότι δεν τα χρησιμοποιεί παραπάνω από ένας χρήστης την ίδια στιγμή. Σε αυτά τα συστήματα, η υπολογιστική ισχύς και ο θόρυβος του υποσυστήματος ψύξης, είναι κανονικά οι πιο σημαντικές παράμετροι για το χρήστη. Κινητοί (Mobile): Αυτή η κατηγορία επεξεργαστών, αναφέρεται συνήθως σε συστήματα όπως laptop, ή notebooks, ή ultrabooks. Σε αυτά τα συστήματα ενδιαφέρει πολύ η δυνατότητα κινητικότητας, οπότε ως εκ τούτου γνωρίζουμε ότι την περισσότερη ώρα λειτουργίας τους, βασίζονται σε κάποια μπαταρία. Σε αυτά τα συστήματα η κατανάλωση ενέργειας είναι η βασικότερη παράμετρος για το χρήστη, μιας και βασίζεται περισσότερο σε μπαταρία για ενέργεια, ωστόσο και η υπολογιστική ισχύς παραμένει σημαντική. Υπερκινητοί (Ultramobile): Σε αυτά τα συστήματα, η διαχείριση ενέργειας και συγκεκριμένα η κατανάλωσή της, είναι το μόνο ουσιαστικό χαρακτηριστικό που ενδιαφέρει το χρήστη. Η υπολογιστική ισχύς είναι μεν σημαντική, αλλά έρχεται δε σε δευτερεύουσα θέση, ανάλογα με την κατανάλωση ενέργειας που απαιτεί. Τέτοια συστήματα είναι συνήθως πολύ μικρές συσκευές για να μεγιστοποιείται η κινητικότητά τους (smartphones, κλπ.). Ενσωματωμένοι (Embedded): Αυτή η κατηγορία αναφέρεται σε επεξεργαστές, που είναι ενσωματωμένοι σε πολλά συστήματα που χρησιμοποιούμε σήμερα, αλλά δεν είναι ηλεκτρονικοί υπολογιστές. Οι ενσωματωμένοι βρίσκονται πρακτικά παντού: σε αυτοκίνητα, σε ηλεκτρονικές συσκευές, σε οικιακές συσκευές, σε συσκευές για την υγεία, κλπ. Τα χαρακτηριστικά τους διαφέρουν πολύ μεταξύ τους, ανάλογα με το σύστημα που είναι ενσωματωμένοι. Σε μερικές περιπτώσεις είναι βασικό χαρακτηριστικό τους η υπολογιστική ισχύς τους (π.χ. αποκωδικοποιητές ψηφιακού/δορυφορικού σήματος), ενώ σε άλλες εφαρμογές η βασικότερη παράμετρος είναι το κόστος, μιας και οι υπολογιστική ισχύς που απαιτείται είναι ελάχιστη, οπότε ο βασικότερος λόγος επιλογής είναι να ελαχιστοποιηθεί το συνολικό κόστος του προϊόντος. Μερικοί ενσωματωμένοι επεξεργαστές, βρίσκονται επίσης, σε κινητές συσκευές, σε αυτή την περίπτωση, πολύ βασική παράμετρος είναι και η κατανάλωση ενέργειας. 1.3 ΠΕΡΙΓΡΑΦΗ ΕΡΓΑΣΙΑΣ Η εργασία δομείται σε κεφάλαια ως εξής: Στο Κεφάλαιο 2 θα δούμε μια σύντομη ιστορική αναδρομή των πολυπύρηνων επεξεργαστών και κάποιες ενδεικτικές ονομασίες. Στο Κεφάλαιο 3, θα μελετήσουμε την αρχή λειτουργίας των πολυπύρηνων επεξεργαστών, θα διαφοροποιήσουμε τα διάφορα είδη πολυπύρηνων επεξεργαστών και θα αναλύσουμε την ύπαρξη της μνήμης cache σε αυτά τα συστήματα. 22 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

23 ΚΕΦΑΛΑΙΟ 1: ΕΙΣΑΓΩΓΗ Στο Κεφάλαιο 4, θα αναλύσουμε τις προκλήσεις που καλούνται να αντιμετωπίσουν οι πολυπύρηνοι επεξεργαστές, ή αλλιώς θα μπορούσαμε να πούμε, το εύρος των εφαρμογών που μπορούν να χρησιμοποιηθούν. Στο Κεφάλαιο 5, θα δούμε μια προσομοίωση ενός πολυπύρηνου επεξεργαστή σε γλώσσα VHDL. Στο Παράρτημα I παρουσιάζονται η βιβλιογραφία και οι δικτυακοί τόποι που αναφέρονται στην εργασία. Στο Παράρτημα IΙ παρουσιάζονται τα ακρωνύμια τα οποία χρησιμοποιούνται σε αυτή την εργασία για την διευκόλυνση του αναγνώστη. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 23

24

25 Κ Ε Φ Α Λ Α Ι Ο 2 : Ι Σ Τ Ο Ρ Ι Κ Η Α Ν Α Δ Ρ Ο Μ Η

26

27 ΚΕΦΑΛΑΙΟ 2: ΙΣΤΟΡΙΚΗ ΑΝΑΔΡΟΜΗ ΙΣΤΟΡΙΚΗ ΑΝΑΔΡΟΜΗ Στο κεφάλαιο αυτό θα κάνουμε μια σύντομη ιστορική αναδρομή, με τους κυριότερους πολυπύρηνους επεξεργαστές, από την στιγμή που υπήρξε η εμπορική τους έκδοση (για επιχειρήσεις) έως και εκδόσεις οικιακής χρήσης. Ο πρώτος πολυπύρηνος επεξεργαστής που αναπτύχθηκε και εγκαταστάθηκε σε σύστημα, ήταν ο επεξεργαστής POWER4 της IBM. O POWER4 δημιουργήθηκε για να χρησιμοποιηθεί στους RISC server της εταιρίας. Ανακοινώθηκε η κυκλοφορία του το 2001, και ήταν ο απόγονος του POWER3. Ο POWER4 ήταν ένας πολυπύρηνος επεξεργαστής, με δύο πυρήνες σε ένα κύκλωμα, ο πρώτος μη ενσωματωμένος πολυπύρηνος επεξεργαστής. Ο αρχικός POWER4 είχε ταχύτητα ρολογιού 1.1 και 1.3 GHz, ενώ μια πιο βελτιωμένη του έκδοση, ο POWER4+, έφτασε σε ταχύτητα ρολογιού τα 1.9 GHz. Εικόνα 2: Το σχήμα λογικής του POWER4 Ο πρώτος πολυπύρηνος επεξεργαστής για οικιακή χρήση ήρθε στην αγορά από την Intel, τον Απρίλιο του Ήταν ο Intel Pentium Processor Extreme Edition 840. Πρόκειται για έναν επεξεργαστή με δύο πυρήνες, χρονισμένο στα 3,2 GHz με 2ΜΒ L2 Cache. Ο επεξεργαστής αυτό υποστήριζε και Hyper-threading, δηλαδή κάθε πυρήνας είχε δύο νήματα επεξεργασίας. Ο επεξεργαστής αυτό λειτουργούσε σε Socket PLGA775. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 27

28 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Εικόνα 3: Σχεδιάγραμμα του Intel Pentium Processor Extreme Edition 840. Με ελάχιστη χρονική διαφορά, μόλις μια εβδομάδα αργότερα, το ίδιο έτος, ανακοίνωση η AMD τα δικά της μοντέλα πολυπύρηνων επεξεργαστών για συστήματα διακομιστών (Opteron 800 series) και οικιακά συστήματα (Athlon 64 X2). Ο πρώτος Opteron ήταν ο Opteron 865 με 1MB L2 Cache για κάθε πυρήνα αποτυπωμένος στα 90nm και βασισμένος σε Socket 940. Ο χρονισμός του ήταν στα 1.8 GHz. Ο Athlon 64 X2 από την άλλη ήταν χρονισμένος στα 2 GHz, με 512 KB L2 Cache για κάθε πυρήνα. Βασισμένος σε socket 939 και αποτυπωμένος και αυτός στα 90nm. Εικόνα 4: Σχεδιάγραμμα του AMD Athlon 64 X2 Παρακάτω θα αναφερθούν αξιοσημείωτα παραδείγματα, πολυπύρηνων επεξεργαστών. Ένα από αυτά αποτελεί και ο πολυπύρηνος επεξεργαστής της εταιρίας Adapteva, όπου υπάρχει η δυνατότητα κατασκευής πολυπύρηνου επεξεργαστή με πυρήνες on-chip, σε ένα κύκλωμα δηλαδή. Οι πυρήνες τοποθετούνται σε ένα κύκλωμα και επικοινωνούν μέσω ενός, πολύ μεγάλου εύρους ζώνης, δίκτυο. Κάθε πυρήνας του επεξεργαστή της Adapteva περιλαμβάνει έναν υψηλών επιδόσεων επεξεργαστή RISC, ένα σύστημα τοπικής μνήμης και ένα σύνολο από εντολές υλικού για πολυπύρηνη επεξεργασία. 28 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

29 ΚΕΦΑΛΑΙΟ 2: ΙΣΤΟΡΙΚΗ ΑΝΑΔΡΟΜΗ Εικόνα 5: Σχεδιάγραμμα τμημάτων επεξεργαστή Epiphany Multicore IP. Ωστόσο η ίδια εταιρία έχει παράγει ένα συγκεκριμένο πολυπύρηνο επεξεργαστή, που φτάνει τους 16 πυρήνες. Πιο συγκεκριμένα είναι ο επεξεργαστής Epiphany-III E16G301, όπου ως βάση ανά πυρήνα χρησιμοποιεί έναν RISC επεξεργαστή, χρονισμένο στο 1 GHz και 512 ΚΒ ενδιάμεσης μνήμης cache. Όλοι οι επεξεργαστές της Adapteva, μπορούν να προγραμματιστούν σε C/C++. Ένα άλλο, επίσης πολυπύρηνο σύστημα, γνωστό στον κόσμο που ασχολείται ιδιαίτερα με γραφικά είναι το σύστημα PhysX της Ageia. Η Ageia ιδρύθηκε το 2002, ωστόσο έξι χρόνια μετά, το 2008, εξαγοράστηκε πλήρως από την nvidia. Αφότου εξαγοράστηκε, άλλαξε ονομασία και είναι πλέον περισσότερο γνωστή με τον όρο CUDA. Οι CUDA κάρτες γραφικών αποτελούνται από πολλούς πυρήνες επεξεργασίας γραφικών (σε αριθμό έχουν φτάσει και έως 3072, πυρήνες στο κύκλωμα της κάρτας γραφικών). Παρακάτω στην εικόνα βλέπουμε ένα τέτοιο κύκλωμα με 192 πυρήνες (CUDA cores). Εικόνα 6: Κύκλωμα Tegra K1 με 192 CUDA cores. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 29

30 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Ένα άλλο σύστημα πολυπύρηνης επεξεργασίας είναι και το Vega 3 της Azul Systems. Η εταιρία αυτή ξεκίνησε το 2005, με το μοντέλο Vega 1, το οποίο ήταν ένας επεξεργαστής με 24 πυρήνες. Το 2006 προχώρησε πιο δυναμικά με το μοντέλο Vega 2 που ήταν πάλι ένας επεξεργαστής, που είχε όμως 48 πυρήνες επεξεργασίας. Και τέλος το πιο πρόσφατο μοντέλο της ίδιας εταιρίας, το Vega 3 με 54 πυρήνες. Παρά το σύνολο των πυρήνων, ο Vega 3 διαχειρίζεται καλύτερα εφαρμογές βασισμένες σε Java. Είναι βελτιστοποιημένοι επεξεργαστές (στη διαχείριση μνήμης, μετακίνηση δεδομένων, κλπ.) για επεξεργασία τεράστιου όγκου δεδομένων που προέρχονται από JVM (γι αυτό το λόγο, έχουν κατασκευάσει και ένα δικό τους Java Virtual Machine, για να λειτουργεί ακόμη καλύτερα με την παράλληλη επεξεργασία στον επεξεργαστή τους). Ένας πολύ γνωστός πλέον τύπος επεξεργαστή είναι και ο ARM. Η ARM Holdings, κατασκευάζει μικροεπεξεργαστές από το Πολλά από τα μοντέλα των μικροεπεξεργαστών της έχουν υιοθετηθεί από μεγάλες εταιρίες κινητής τηλεφωνίας στα περισσότερα μοντέλα των smartphones. Το νεότερο μοντέλο που έχει να μας προσφέρει η ARM, είναι ο ARM Cortex-A72, ένας τετραπύρηνος επεξεργαστής κατασκευασμένος το Εικόνα 7: Σχηματική δομή του ARM Cortex-A72 Μεγάλος συντελεστής στους πολυπύρηνους επεξεργαστές, υπήρξε η IBM, που όπως ήδη αναφέρθηκε, ήταν η κατασκευάστρια του πρώτου πολυπύρηνου επεξεργαστή, συγκεκριμένα του POWER4, όπου ήταν ένας διπύρηνος επεξεργαστής. Έπειτα από το 2004 έως το 2010, παρουσίασε μια παρόμοια στάση, δίνοντας στην αγορά μόνο διπύρηνους επεξεργαστές. Την ίδια χρονιά, ωστόσο, παρουσίασε τον POWER7, σε εκδόσεις 4, 6 και 8 πυρήνων. Ενώ από τον Οκτώβριο του 2011 οι πυρήνες έφταναν και του 256 (server και συγκεκριμένα τα μοντέλα 775 και 795 MaxCore mode) Ο POWER7 ήταν χρονισμένος από 2,4 GHz έως και 4,25 GHz (ανάλογα με την έκδοσή του). Είχε μνήμη L2 cache, 256 ΚΒ ανά πυρήνα και ήταν αποτυπωμένος στα 45nm. Όχι πολύ αργότερα, εμφανίστηκαν και οι επεξεργαστές της ίδιας σειράς για blade servers με το νεότερο μοντέλο του να είναι το BladeCenter PS704 με 32 πυρήνες, χρονισμένους στα 2,4 GHz. 30 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

31 ΚΕΦΑΛΑΙΟ 2: ΙΣΤΟΡΙΚΗ ΑΝΑΔΡΟΜΗ Εικόνα 8: Σχηματική παράσταση του IBM POWER7 (έκδοση 8 πυρήνων) Αργότερα το 2013, παρουσιάστηκε το 12-πύρηνο μοντέλο POWER8 και ο PowerPC 970MP (διπύρηνος), όπου ήταν ο τελευταίος επεξεργαστής για τα Apple Power Mac G5, όσο η Apple ακολουθούσε την αρχιτεκτονική PowerPC. Μετά η ίδια εταιρία, χρησιμοποιούσε πλέον επεξεργαστές της Intel. Προς το τέλος του 2010, η NetLogic Microsystems είχε κυκλοφορήσει ήδη τρία μοντέλα επεξεργαστών το XLP, το XLR και το XLS με 32, 8 και 8 πυρήνες αντίστοιχα. Ωστόσο αξίζει να σημειωθεί ότι κάθε πυρήνας των παραπάνω μοντέλων μπορούσε να διαχειριστεί 4 νήματα επεξεργασίας. Εικόνα 9: Διάγραμμα του επεξεργαστή XLR με 8 πυρήνες. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 31

32 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Η SUN Microsystems το 2013 παρουσίασε το νεότερο μοντέλο πολυπύρηνου επεξεργαστή της, της σειράς SPARC T. Ο SPARC T5 αποτελείται από 16 πυρήνες και 128 νήματα επεξεργασίας (μπορούν να χρησιμοποιηθούν και με τη μέθοδο του ταυτοχρονισμού). Ο επεξεργαστής είναι χρονισμένος στα 3,6 GHz, έχει 16x128 ΚΒ L2 cache και είναι αποτυπωμένος στα 28nm. Εικόνα 10: Ο επεξεργαστής SPARC T5 με επεξηγηματικά σχήματα Όλα τα παραπάνω μοντέλα πολυπύρηνων επεξεργαστών, χρησιμοποιήθηκαν κυρίως σε βιομηχανικές εφαρμογές, σε μικροσυσκευές και γενικότερα σε εφαρμογές, που δεν επηρεάζουν άμεσα τον οικιακό χρήστη. Οι δύο εταιρίες που παράγουν επεξεργαστές για οικιακούς χρήστες είναι η AMD και η Intel. Είναι οι κατεξοχήν εταιρίες παραγωγής μικροεπεξεργαστών για συστήματα προσωπικών υπολογιστών. Σε αυτές τις δύο θα αναφερθούμε επιγραμματικά στα νεότερα μοντέλα πολυπύρηνων επεξεργαστών. Το νεότερο μοντέλο πολυπύρηνου επεξεργαστή της AMD, είναι ο AMD Zen. Ο συγκεκριμένος επεξεργαστής παρήχθη στις αρχές του Έρχεται σε εκδόσεις των 2, 4, 16 και 32 πυρήνων (οι 32 πυρήνες είναι μόνο για εκδόσεις server). Ο συγκεκριμένος επεξεργαστής λειτουργεί σε socket AM4 και έχει αποτυπωθεί στα 14nm με τεχνολογία τρανζίστορ FinFET. Στην παραγωγή του συγκεκριμένου μοντέλου συνέβαλαν οι Samsung και GlobalFoundries. 32 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

33 ΚΕΦΑΛΑΙΟ 2: ΙΣΤΟΡΙΚΗ ΑΝΑΔΡΟΜΗ Εικόνα 11: Αποτύπωση του AMD Zen (έκδοση 16 πυρήνων) Στον αντίποδα των οικιακών χρηστών έρχεται και η Intel. Η νεότερη αρχιτεκτονική που παρουσιάζει η Intel, έχει την κωδική ονομασία Skylake. Η αρχιτεκτονική Skylake περιλαμβάνει μοντέλα της σειράς Intel Core i3, i5, i7, m3, m5, m7, Xeon και Pentium. Η σειρά i# και Pentium είναι για desktop εφαρμογές, η σειρά m# είναι για κινητά συστήματα (laptop) και η σειρά Xeon για server. Οι επεξεργαστές αρχιτεκτονικής skylake ξεκίνησαν να παράγονται τον Αύγουστο του Διαθέτουν 256KB μνήμης L2 cache για κάθε πυρήνα τους και είναι αποτυπωμένοι στα 14nm με τεχνολογία bulk silicon 3D transistor (αντίστοιχα με την AMD με FinFET). Εικόνα 12: Αποτύπωση του Intel Core i ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 33

34

35 Κ Ε Φ Α Λ Α Ι Ο 3 : Α Ρ Χ Η Λ Ε Ι Τ Ο Υ Ρ Γ Ι Α Σ Π Ο ΛΥ Π Υ Ρ Η Ν Ω Ν Ε Π Ε Ξ Ε Ρ ΓΑ Σ Τ ΩΝ

36

37 ΚΕΦΑΛΑΙΟ 3: ΑΡΧΗ ΛΕΙΤΟΥΡΓΙΑΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ ΑΡΧΗ ΛΕΙΤΟΥΡΓΙΑΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ Σε αυτό το κεφάλαιο θα αναλύσουμε τη λειτουργία ενός πολυπύρηνου επεξεργαστή. Ουσιαστικά, πολλές από τις τεχνολογίες που βρίσκονται πίσω από τους σημερινούς πολυπύρηνους επεξεργαστές, ξεκίνησαν να αναπτύσσονται από το 1975, έως το 2000 για την εφαρμογή τους σε παράλληλους υπερυπολογιστές (supercomputers). Για παράδειγμα, η αρχιτεκτονική, της συνεκτικής ενδιάμεσης μνήμης βασισμένης σε καταλόγους (directory-based coherent cache), είχε δημοσιευθεί το 1978, από τους Censier και Featrier. Η ανάπτυξη της τεχνολογίας των ημιαγωγών, μας επέτρεψε την ενσωμάτωση αυτής της ιδέας σε ένα πολυεπεξεργαστή πάνω σε ένα chip, όπου συχνά αναφέρεται και ως πολυπύρηνος επεξεργαστής. Ωστόσο, όπως πάντα, το αντιστάθμισμα αυτών των εννοιών κατέληξε εντελώς διαφορετικό όταν αυτά ενσωματώθηκαν πάνω στο ίδιο καλούπι (die). Επιπρόσθετα, η πρόοδος που έχουμε επιτύχει σήμερα στην τεχνολογία των ημιαγωγών, μας επιτρέπει μεγαλύτερο έλεγχο και ευελιξία μέσω εφαρμογής διαφορετικής τάσης και συχνότητας που επιτρέπει στις εφαρμογές, να έχουν τη δυνατότητα του ελέγχου της επίδοσης και να ρυθμίζουν την κατανάλωση ενέργειας ανάλογα με τις ανάγκες του παρόντος προγράμματος. Αυτό το κομμάτι της εργασίας θα δομηθεί σε δύο υποενότητες, το πρώτο είναι οι υπάρχουσες έννοιες για τους πολυπύρηνους επεξεργαστές. Το κομμάτι αυτό κυρίως επικεντρώνεται σε έννοιες που ήδη υπάρχουν και κυκλοφορούν για χρήση, όπου αποτελούν και τη βάση για όλες τις πολυπύρηνες αρχιτεκτονικές. Και το δεύτερο κομμάτι, που είναι οι πειραματικές έννοιες, όπου περιγράφονται έννοιες καθαρά πειραματικές ή θεωρητικές. 3.1 ΥΠΑΡΧΟΥΣΕΣ ΑΡΧΙΤΕΚΤΟΝΙΚΕΣ ΚΑΙ ΕΝΝΟΙΕΣ Η βάση της αρχιτεκτονικής των πολυπύρηνων επεξεργαστών ξεκινάει με την ανάπτυξη και ανάλυση, τριών βασικών εννοιών. Πρώτον ότι υπάρχουν εξ ορισμού πολλαπλοί πυρήνες υπολογισμού. Δεύτερον ότι υπάρχει σίγουρα κάποιος τρόπος που αυτοί οι πυρήνες, επικοινωνούν μεταξύ τους. Και τρίτον, οι επεξεργαστικοί πυρήνες πρέπει να επικοινωνήσουν και με τον έξω κόσμο (το περιβάλλον δηλαδή, έξω από το chip του κάθε πυρήνα) Πολλαπλοί πυρήνες Η έννοια των πολλαπλών πυρήνων μπορεί να φαίνεται ασήμαντη σε πρώτο βαθμό. Ωστόσο, όπως θα δούμε στην ενότητα για θέματα κλιμάκωσης υπάρχουν πολλοί συμβιβασμοί που πρέπει να εξεταστούν. Πρώτα απ' όλα θα πρέπει να εξεταστεί κατά πόσον ο επεξεργαστής πρέπει να είναι ομοιογενής ή να παρουσιάζει κάποια ετερογένεια. Οι πιο πρόσφατοι γενικής χρήσης multi-core επεξεργαστές είναι ομοιογενή τόσο στο σύνολο οδηγιών αρχιτεκτονικής, όσο και την απόδοση. Αυτό σημαίνει ότι οι πυρήνες μπορεί να εκτελέσουν τα ίδια εκτελέσιμα αρχεία και ότι δεν ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 37

38 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ έχει τόση σημασία, από λειτουργικής άποψης, σε ποιο πυρήνα τρέχει ένα πρόγραμμα. Οι πρόσφατες αρχιτεκτονικές πολλαπλών πυρήνων, ωστόσο, επιτρέπουν στο λογισμικό τον έλεγχο της συχνότητας του ρολογιού για κάθε πυρήνα ξεχωριστά, προκειμένου είτε να εξοικονομηθεί ενέργεια, είτε να ενισχυθεί προσωρινά η απόδοση ενός νήματος. Οι περισσότερες από αυτές τις ομογενής αρχιτεκτονικές εφαρμόζουν επίσης ένα κοινόχρηστο καθολικό χώρο διευθύνσεων με πλήρη συνοχή cache (το οποίο θα συζητήσουμε αργότερα), έτσι ώστε από τη σκοπιά του λογισμικού, δεν μπορεί κανείς να διακρίνει ένα πυρήνα από τον άλλο, ακόμη και αν η διαδικασία (ή νήμα) μεταναστεύει κατά τη διάρκεια της εκτέλεσης. Αντίθετα, μια ετερογενής αρχιτεκτονική διαθέτει τουλάχιστον δύο διαφορετικά είδη πυρήνων που μπορεί να διαφέρουν τόσο στην αρχιτεκτονική συνόλου εντολών (instruction set architecture - ISA), όσο και τη λειτουργικότητα και την απόδοση. Το πιο διαδεδομένο παράδειγμα μιας ετερογενούς multi-core αρχιτεκτονικής είναι η αρχιτεκτονική του επεξεργαστή Cell BE, που αναπτύχθηκε από κοινού από την IBM, Sony και Toshiba και χρησιμοποιείται σε εφαρμογές όπως οι συσκευές παιχνιδιών και υπολογιστές υψηλών επιδόσεων. Εικόνα 13: Ο επεξεργαστής Cell BE Μια ομοιογενές αρχιτεκτονική με κοινόχρηστο καθολικό χώρο μνήμης είναι αναμφίβολα ευκολότερο να προγραμματιστεί για παραλληλισμό - δηλαδή όταν ένα πρόγραμμα μπορεί να κάνει χρήση του συνόλου του πυρήνα - από μια ετερογενή αρχιτεκτονική, όπου οι πυρήνες δεν έχουν το ίδιο σύνολο εντολών. Από την άλλη πλευρά, στην περίπτωση μιας εφαρμογής η οποία χωρίζεται σε μακρόβια νήματα ελέγχου με ελάχιστη ή και τακτική επικοινωνία είναι λογικό να τοποθετήσει τις κατατμήσεις της σε πυρήνες που ειδικεύονται για το συγκεκριμένο έργο. Εσωτερικά η οργάνωση των πυρήνων μπορεί να επιδείξει σημαντικές διαφορές. Όλα τα σύγχρονα βασικά σχέδια είναι σχέδια διοχέτευσης (pipelined), όπου οι οδηγίες αποκωδικοποιούνται και εκτελούνται σε στάδια, προκειμένου να βελτιωθεί η συνολική απόδοση, αν και η καθυστέρηση των οδηγιών η ίδια ή ακόμη και αυξημένη. Τα περισσότερα σχέδια υψηλής απόδοσης έχουν επίσης πυρήνες με κερδοσκοπικό προγραμματισμό δυναμικών οδηγιών που γίνεται στο υλικό. Οι τεχνικές αυτές αυξάνουν το μέσο αριθμό των εντολών που εκτελούνται ανά κύκλο ρολογιού, αλλά λόγω του περιορισμένου παραλληλισμού σε επίπεδο οδηγιών (instruction level parallelism - ILP) σε παλαιότερες εφαρμογές και καθώς αυτές οι τεχνικές έτειναν να 38 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

39 ΚΕΦΑΛΑΙΟ 3: ΑΡΧΗ ΛΕΙΤΟΥΡΓΙΑΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ είναι τόσο περίπλοκες και ενεργοβόρες, καθώς επίσης καταλαμβάνουν πολύτιμο χώρο στο chip πυριτίου, έχουν πλέον μικρότερη σημασία στις σύγχρονες αρχιτεκτονικές πολλαπλών πυρήνων. Στην πραγματικότητα, με κάποιες νέες αρχιτεκτονικές, όπως της Intel, Knights Corner, οι σχεδιαστές έχουν επανέλθει σε απλούς μονοθεματικούς πυρήνες σε σειρά (αν και στην περίπτωση Knights Corner είναι επαυξημένη με ισχυρές διανυσματικές οδηγίες, προκειμένου να μειωθεί η κατανάλωση ρεύματος και το αποτύπωμα πυριτίου κάθε πυρήνα). Ένα αντίμετρο για τον περιορισμένο παραλληλισμό σε επίπεδο οδηγιών που προστίθεται πλέον στους πιο εξελιγμένους πυρήνες, είναι ο ταυτόχρονος πολυνηματισμός (simultaneous multithreading SMT), ίσως περισσότερο γνωστός με την εμπορική ονομασία που έχει δοθεί από την Intel υπερ-νηματισμός (hyperthreading). Αυτή είναι μια τεχνική υλικού που επιτρέπει την καλύτερη αξιοποίηση των πόρων υλικού, όπου ένας multi-issue αγωγός μπορεί να επιλέξει οδηγίες από δύο ή περισσότερα νήματα επεξεργασίας. Τα οφέλη είναι ότι για εφαρμογές με άφθονη ILP, η μονονηματική επίδοση είναι υψηλή, ενώ για εφαρμογές με μειωμένη ILP, μπορεί να χρησιμοποιηθεί ο παραλληλισμός σε επίπεδο νημάτων. Ο ταυτόχρονος πολυνηματισμός, έχει το πλεονέκτημα ότι δεν έχει τόσο πολλές απαιτήσεις σε επίπεδο χώρου και κατανάλωση ενέργειας Δίκτυα ενδοδιασύνδεσης Έχοντας πολλαπλούς πυρήνες σε ένα chip απαιτεί μηχανισμούς επικοινωνίας μεταξύ των πυρήνων. Ιστορικά οι μεμονωμένοι επεξεργαστές σε ένα πολυεπεξεργαστικό σύστημα διαμοιρασμού μνήμης ήταν μέσω ενός κοινόχρηστου διαύλου από όλους τους επεξεργαστές. Αυτό είναι επίσης γεγονός και για τους παλαιότερους πολυπύρηνους επεξεργαστές, από τους κατασκευαστές επεξεργαστών οικιακής, κατά βάση, χρήσης, όπως η AMD ή Intel. Για να μην κατακλυστεί ο δίαυλος με δεδομένα μνήμης και I/Ο, υπάρχουν τοπικές μνήμες cache, συνήθως ένα ή δύο επίπεδα, μεταξύ του επεξεργαστή και του διαύλου επικοινωνίας. Ο κοινόχρηστος δίαυλος διευκολύνει επίσης την εφαρμογή της συνεκτικής μνήμης cache (περισσότερα για αυτό στην ενότητα για την υποστήριξη διαμοιραζόμενης μνήμη παρακάτω), δεδομένου ότι είναι ένα μέσο επικοινωνίας εκπομπής που σημαίνει ότι υπάρχει πάντα μια καθολική σειρά διαμοιραζόμενων λειτουργιών μνήμης. Τα πιο πρόσφατα σχέδια βασίζονται στη διαπίστωση ότι τα διαμοιραζόμενα μέσα επικοινωνίας, όπως οι δίαυλοι επικοινωνίας είναι προβληματικά τόσο στην καθυστέρηση, όσο και στο εύρος ζώνης που μπορούν να χρησιμοποιήσουν. Ένας κοινόχρηστος δίαυλος έχει, μεγάλα σε μήκος, ηλεκτρικά καλώδια και αν υπάρχουν αρκετές εξαρτημένες μονάδες - σε έναν επεξεργαστή πολλαπλών πυρήνων όλα τα υποσυστήματα πυρήνων και μνήμης είναι και πρωτεύοντα και δευτερεύοντα (master, slave) - το πυκνωτικό φορτίο τα καθιστά ακόμη πιο αργά. Επιπλέον, το γεγονός ότι αρκετές μονάδες μοιράζονται το δίαυλο θα περιορίσει ουσιαστικά το εύρος ζώνης από κάθε πυρήνα. Μερικοί ευρέως διαδεδομένοι πολυπύρηνοι επεξεργαστές, χρησιμοποιούν μια εγκάρσια μπάρα ενδοδιασύνδεσης μεταξύ των μονάδων του επεξεργαστή που περιλαμβάνουν ένα ή δύο επίπεδα μνήμης cache και των υπολοίπων μονάδων, όπου αυτό περιλαμβάνει και τη μονάδα του κατώτερου επιπέδου μνήμης cache και τις ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 39

40 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ διεπαφές μνήμης. Άλλες τεχνολογίες όπως οι πολλαπλοί δίαυλοι δακτυλίου και δίκτυα διαμεταγωγής on-chip εμφανίζονται και κερδίζουν συνεχώς έδαφος, λόγω του γεγονότος της χαμηλότερης κατανάλωσης ενέργειας, της μεγαλύτερης δυνατότητας εύρους ζώνης ή και τα δύο. Δεδομένου ότι ο αριθμός των πυρήνων θα αυξάνεται, τα δίκτυα on-chip, θα έρχονται συνεχώς αντιμέτωπα με περιορισμούς επεκτασιμότητας και ενέργειας. Εικόνα 14: Γνωστοί τύπου ενδοδικτύωσης Ελεγκτές μνήμης Η διεπαφή μνήμης, είναι ένα πολύ σημαντικό κομμάτι κάθε επεξεργαστή υψηλής ισχύος και πολύ περισσότερο για έναν πολυπύρηνο επεξεργαστή, καθώς είναι ένας κοινόχρηστος πόρος μεταξύ των πυρήνων του κυκλώματος. Σε πιο πρόσφατα high-end chip, τόσο της AMD όσο και της Intel, ο ελεγκτής μνήμης μετακινήθηκε πάνω στο chip και διαχωρίστηκε από την διεπαφή I/O, για να αυξηθεί το εύρος ζώνης και να ενεργοποιηθεί η παράλληλη πρόσβαση, τόσο στις Ι/Ο συσκευές, όσο και στη μνήμη. Ιδιαίτερο ενδιαφέρον παρουσιάζει ο ελεγκτής DRAM, όπου έχει επικεντρωθεί η προσοχή κατά τη διάρκεια των τελευταίων ετών και έχει προσφέρει αυξημένη απόδοση και μειωμένη καθυστέρηση. Η DRAM αιτείται από τους ελεγκτές προγράμματος να μην διατηρούν την FIFO λογική των αιτημάτων του επεξεργαστή προς τη μνήμη. Αντ αυτού, να γίνει προσπάθεια για χρήση της ήδη ανοιχτής σελίδας DRAM, αν είναι δυνατόν, ούτως ώστε να επιτευχθεί η καλύτερη χρήση των ανοιχτών σελίδων και να αποφευχθεί η αχρείαστη αλλαγή σελίδας DRAM. Για τα πολυπύρηνα συστήματα, μπορεί να επιτευχθεί καλύτερη συνεργασία των δύο, αλλά και περισσότερες παρεμβολές σε τέτοιους τύπους προγραμματισμού. 40 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

41 ΚΕΦΑΛΑΙΟ 3: ΑΡΧΗ ΛΕΙΤΟΥΡΓΙΑΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ Θα περίμενε κανείς ότι στην περίπτωση που τα παράλληλα προγράμματα, διαχώριζαν τις εργασίες σε κάποιου είδους παράλληλων δεδομένων, θα υπήρχαν συνεργασίες. Σε τέτοια προγράμματα, τα νήματα που δουλεύουν σε διαφορετικούς πυρήνες, τείνουν στο να δουλεύουν στις ίδιες οδηγίες και με δεδομένα που βρίσκονται κοντά στα δεδομένα υπό επεξεργασία των άλλων νημάτων, οπότε η πιθανότητα να έχουν πρόσβαση στην ίδια σελίδα DRAM, είναι πολύ μεγάλη. Από την άλλη, όταν οι πολυπύρηνοι επεξεργαστές γίνονται επεξεργαστές με ακόμη περισσότερους πυρήνες θα δούμε και διαμοιρασμό χώρου μαζί με το διαμοιρασμό χρόνου που συμβαίνει στα μοντέρνα λειτουργικά συστήματα. Αυτό συμβαίνει επίσης όταν οι πολυπύρηνοι επεξεργαστές χρησιμοποιούνται για πολλαπλές υπολογιστικές εργασίες με εφαρμογές που λειτουργούν σε σειρά μεταξύ τους, αντί για εφαρμογές που λειτουργούν με παραλληλισμό. Σε αυτές τις περιπτώσεις, οι διάφορες εφαρμογές θα διεκδικήσουν τους κοινόχρηστους πόρους και ίσως υπάρξει τεράστια αλληλεπίδραση μεταξύ τους. Ο ελεγκτής της μνήμης είναι επίσης η δομική μονάδα που συνήθως αναπτύσσονται εξεζητημένοι μηχανισμοί προσκόμισης δεδομένων Υποστήριξη κοινόχρηστης μνήμης Με τον όρο κοινόχρηστη μνήμη, εννοούμε ότι οι πυρήνες επεξεργασίας, μπορούν να επικοινωνήσουν μεταξύ τους, αποθηκεύοντας δεδομένα σε κοινόχρηστα σημεία μνήμης και προσπελαύνοντάς τα έπειτα. Η ουσιαστική επικοινωνία λαμβάνει χώρα, δια μέσου του ενδοδικτύου που εξηγήσαμε σε προηγούμενη ενότητα. Ένας κοινόχρηστος χώρος διευθύνσεων, διευκολύνει τη μετάβαση από ένα σειριακό μοντέλο προγραμματισμού, στο αντίστοιχο παράλληλο. Αυτό επιτυγχάνεται με το γεγονός ότι οι δομές δεδομένων και οι δομές ελέγχου μπορούν να διατηρηθούν ίδιες και στην σειριακή, αλλά και στην παράλληλη περίπτωση. Τα προγραμματιστικά μοντέλα, όπως είναι το OpenMP και το Cilk, επιτρέπουν τον βαθμωτό παραλληλισμό του λογισμικού, αντί της αποδιοργανωτικής προσέγγισης με πέρασμα μηνύματος. Έτσι λοιπόν, διαπιστώνουμε ότι η κοινόχρηστη μνήμη προφανώς και δεν έρχεται τόσο βολικά όσο επιθυμούμε, ειδικά όταν ο αριθμός των πυρήνων αυξάνεται. Στον τομέα των υπολογιστών υψηλών αποδόσεων, η κοινόχρηστη μνήμη γενικά δεν έχει χρησιμοποιηθεί μιας και η κοινόχρηστη μνήμη δεν μπορεί να αυξηθεί βαθμωτά στο μέγεθος των χιλιάδων ή ακόμα και των εκατοντάδων χιλιάδων κόμβων που χρησιμοποιούνται στις σύγχρονες υπολογιστικές συστάδες (clusters). Αυτές οι συστάδες, ωστόσο είναι χτισμένες με κοινόχρηστη μνήμη ανά τους κόμβους και παρά το γεγονός ότι οι προγραμματιστές δεν χρησιμοποιούν ιδιαίτερα αυτό το προγραμματιστικό μοντέλο σε κάθε κόμβο, το υλικό κάθε τέτοιου κόμβου από μόνο του υλοποιεί δομές κοινόχρηστης διεύθυνσης. Τα προγράμματα που αποδίδουν καλύτερα σε τέτοια μηχανήματα, είναι συνήθως υβριδικά μοντέλα προγραμματισμού χρησιμοποιώντας πέρασμα μηνύματος ανά τους κόμβους και κοινόχρηστη μνήμη μέσα σε κάθε κόμβο. Για αυτούς τους λόγους, όλοι οι γενικής χρήσης επεξεργαστές πλέον, υποστηρίζουν έναν κοινόχρηστο χώρο διευθύνσεων μεταξύ των πυρήνων και έτσι διατηρούν ένα σύστημα με συνεκτική μνήμη cache. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 41

42 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Κατά την πάροδο των ετών πολλοί τύποι οργάνωσης της μνήμης cache έχουν προταθεί, που βασίζονται στην ιδιωτική, κοινόχρηστη ή ανάμικτη, επίπεδη ή ιεραρχική δομή μνήμης. Εικόνα 15: Παραδείγματα αρχιτεκτονικής μνήμης cache Πολυνηματισμός υλικού Καθώς οι ικανότητες και η ταχύτητα των πυρήνων συνεχώς αυξάνεται, με πολύ γρηγορότερο ρυθμό, από εκείνο της μνήμης, οι πυρήνες έμεναν σε κατάσταση απραγίας για μεγάλο χρονικό διάστημα καθώς ανέμεναν για τις υψηλών καθυστερήσεων διεργασίες της μνήμης μέχρι να ολοκληρωθούν. Αυτή η παρατήρηση, οδήγησε στην ανάπτυξη του πολυνηματικού υλικού, ενός μηχανισμού όπου κάθε πυρήνας, θα μπορούσε να υποστηρίξει πολλαπλά νήματα επεξεργασίας (περιλαμβάνοντας εργασίες που επιτελούν οι μετρητές προγράμματος και οι καταχωρητές, αλλά η μνήμη cache παραμένει κοινόχρηστη) και γρήγορη εναλλαγή μεταξύ των νημάτων υλικού όταν κάποια από τα νήματα καθυστερούνταν από αργές διεργασίες. Κατά το πέρασμα του χρόνου έχουν γίνει πολλές τέτοιες υλοποιήσεις, αλλά τα περισσότερα σύγχρονα συστήματα χρησιμοποιούν μια πιο επιφανειακή πολυνηματική προσέγγιση στο πλαίσιο των ανενεργών πυρήνων που καλείται συνεχόμενος πολυνηματισμός. Σε κάθε κύκλο, αποστέλλονται οι οδηγίες από διαφορετικά νήματα υλικού, ή στην περίπτωση ενός superscalar επεξεργαστή, όπου πολλαπλές οδηγίες μπορούν να σταλούν ανά κύκλο μπορούν να εκτελεστούν οδηγίες από διαφορετικά νήματα παράλληλα. Ενώ οι οδηγίες από διαφορετικά νήματα, χρησιμοποιούν διαφορετικούς καταχωρητές, η καθυστέρηση για να εντοπιστεί σε ποιο σημείο εκτός 42 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

43 ΚΕΦΑΛΑΙΟ 3: ΑΡΧΗ ΛΕΙΤΟΥΡΓΙΑΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ σειράς μπορεί να εκτελεστεί είναι σαφώς μειωμένη, πράγμα που οδηγεί στην εκτέλεση περισσότερων οδηγιών ανά κύκλο πυρήνα. Ο απώτερος σκοπός αυτής της τεχνικής είναι τελικά ότι αν υποθέσουμε ότι το πρόγραμμα είναι πολυνηματικό, τότε το εκμεταλλευόμαστε για να κρύψουμε την αργοπορία που έχουμε για να φέρουμε δεδομένα από τη μνήμη και να έχουμε βέλτιστη χρήση του πυρήνα. Η τεχνική αυτή έχει υλοποιηθεί από τους περισσότερους κατασκευαστές περιλαμβάνοντας την Intel (με το Intel Hyper Threading Technology), την IBM (που επίσης υποστηρίζει προτεραιότητες νημάτων) και την Oracle Sun (που υποστηρίζει έως και οκτώ νήματα υλικού σε κάθε πυρήνα). Μερικά χρόνια πριν υπήρχαν διχογνωμίες που έλεγαν ότι η χρήση πολλαπλών νημάτων υλικού χρησιμοποιούν περισσότερη ενέργεια από τον όμοιο σχεδιασμό με πολλαπλούς πυρήνες ενώ αυξανόταν η συχνότητα όπου η μνήμη cache γέμιζε με υπολείμματα σκουπιδιών από τα προγράμματα. Ωστόσο, μέχρι το 2010 οι περισσότεροι κατασκευαστές chip είτε υποστήριζαν τους πολυνηματικούς επεξεργαστές, είτε είχαν ανακοινώσει ότι θα τους υποστηρίξουν μελλοντικά. Η χρησιμότητα αυτής της τεχνολογίας έχει επίσης το όριο της όμως. Πρόσφατα, το χάσμα μεταξύ της ταχύτητας πρόσβασης μνήμης και της ταχύτητας των πυρήνων άρχισε να περιορίζετε καθώς υπάρχει όριο στην συχνότητα που μπορούμε να φτάσουμε έναν πυρήνα. Ωστόσο τέτοιες τεχνικές «απόκρυψης» της καθυστέρησης δεν θα μας δίνουν τα πλεονεκτήματα που έχουμε κατά νου. Λαμβάνοντας υπόψη το κέρδος απόδοσης ανά watt, είναι πιθανό ότι οι τεχνικές αυτές θα αντικατασταθούν από άλλους μηχανισμούς, όπως η αύξηση των μεγεθών της κρυφής μνήμης. 3.2 ΠΕΙΡΑΜΑΤΙΚΕΣ ΑΡΧΙΤΕΚΤΟΝΙΚΕΣ ΚΑΙ ΕΝΝΟΙΕΣ Καθώς τα πολυπύρηνα chip έχουν πλέον καθιερωθεί, έχουν προκύψει κάποια θέματα τα οποία χρειάζονται νέες λύσεις, ενώ μερικά ήδη υπάρχοντα προβλήματα έχουν βρει βέλτιστες λύσεις. Σε αυτή την ενότητα θα εξετάσουμε μερικές από αυτές τις περιπτώσεις. Το πρόβλημα του τείχους μνήμης, που αρχικά είχε οριστεί ως το κενό μεταξύ της ταχύτητας του επεξεργαστή και της ταχύτητας προσπέλασης της μνήμης, έχει μεταβληθεί σε ένα διαφορετικό πρόβλημα: το κενό καθυστέρησης έγινε μικρότερο, αλλά με την αύξηση του αριθμού των πυρήνων, έχει αυξηθεί και η ανάγκη για εύρος ζώνης στη μνήμη. Οι ενδοδιασυνδέσεις έγινε το επόμενο θέμα που χρειαζόταν προσοχή, οι υπάρχουσες λύσεις είτε ήταν πολύ ενεργοβόρες όσο ο αριθμός των τρανζίστορ αυξανόταν, είτε οδηγούσαν σε υψηλότερες καθυστερήσεις, όσο ο αριθμός των πυρήνων συνεχιζόταν να αυξάνεται. Κει τέλος, ο μεγάλος αριθμός πυρήνων σε ένα επεξεργαστή άρχισε να εγείρει το ερώτημα για το αν τελικά υπάρχει αποδοτική χρήση των πυρήνων, παρομοίως και στη χρήση των τεχνικών που βασίζονται στην αποδοτική χρήση των πυρήνων. Από την σκοπιά του λογισμικού, όσο ο αριθμός των πυρήνων αυξάνεται, το κόστος του συγχρονισμού για πρόσβαση στην κοινόχρηστη μνήμη αυξάνεται και αυτό. Συνεπώς πρέπει να μελετηθεί η χρήση ενός νέου μοντέλου πρόσβασης στην κοινόχρηστη μνήμη. Αυτό πιθανότατα θα καλυφθεί με κάποιο μοντέλο μνήμης συναλλαγών (transactional memory). ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 43

44 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Αρχιτεκτονική που επικεντρώνεται στη μνήμη Πλέον γίνεται πιο εμφανές, ότι το πρόβλημα που εμφανίζεται όσων αφορά τη μνήμη, δεν είναι τόσο η καθυστέρηση που υπάρχει στις εργασίες μνήμης, αλλά το εύρος ζώνης που έχει η μνήμη. Οπότε έχουμε δει πλέον μια αύξηση στο μέγεθος της μνήμης cache στα chip, μια λογική που πιθανότατα θα συνεχιστεί όσο ο αριθμός των λογικών πυλών στο κύκλωμα θα συνεχίσει να αυξάνεται, ακολουθώντας πάντα το νόμο του Moore. Υπάρχουν ωστόσο κάποιες άλλες προτάσεις βασισμένες σε καινοτόμες τεχνολογίες που μελετώνται για την αύξηση τους εύρους ζώνης της μνήμης. Πιο συγκεκριμένα η ενσωματωμένη μνήμη DRAM, που ήδη βρίσκεται σε παραγωγή από την IBM για τον POWER7 επεξεργαστή της. Μια άλλη τεχνολογία είναι η δημιουργία μιας τρισδιάστατης στοίβας μνήμης, με λίγα λόγια, υψηλού εύρους ζώνης σύνδεσμοι που ονομάζονται δίοδοι (vias) μεταξύ πυρήνων επεξεργαστή και μνήμης. Και τέλος η χρήση των λεγόμενων memristor, ουσιαστικά τεχνολογία αντίστασης σε τρανζίστορ, που θα είναι και η μέθοδος που παρουσιάζει τη μεγαλύτερη διαφορά από όσες χρησιμοποιούμε σήμερα. Ενσωματωμένη DRAM Η DRAM έχει το πλεονέκτημα, ότι μπορεί να έχει μεγαλύτερη πυκνότητα και χαμηλότερη κατανάλωση ενέργειας απ ότι έχει η κλασική SRAM που χρησιμοποιείται σε μνήμες on-chip, οπότε αν καταφέρουμε να την ενσωματώσουμε στο ίδιο σιλικονούχο υλικό που είναι και ο επεξεργαστής, τότε πιθανότατα θα έχουμε υψηλότερη πυκνότητα μνήμης on-chip οπότε και σαφώς μεγαλύτερο εύρος ζώνης μνήμης, απ όσο θα είχαμε αν η μνήμη ήταν εκτός chip και χρησιμοποιούσαμε εξωτερικές συνδέσεις. Ίσως η πιο γνωστή περίπτωση χρήσης ενσωματωμένης DRAM είναι η περίπτωση του POWER7 της IBM, που ενσωματώνει 32 MB L3 cache χρησιμοποιώντας edram. Ωστόσο η τεχνολογία τείνει να καθιερωθεί και πολλές μεγάλες εταιρίες που ασχολούνται με την παραγωγή επεξεργαστών υψηλών επιδόσεων έχουν ανακοινώσει την παραγωγή τέτοιων επεξεργαστών. Τρισδιάστατη στοίβα μνήμης (3D memory stacking) Αν τοποθετήσουμε τη μνήμη πάνω από τους πυρήνες του επεξεργαστή, επιτυγχάνουμε πολύ μεγάλες ταχύτητες και πυκνότερες ενδοδιασυνδέσεις μεταξύ των δύο επιπέδων, επιτυγχάνοντας έτσι δύο στόχους: δραματική αύξηση της διαθέσιμης μνήμης (ακόμα και σε τάξεις GB) και υψηλές ταχύτητες, όπως αυτές που βλέπουμε σε μνήμες cache σήμερα. Εκτός από τη βασική δυσκολία της πρακτικής εφαρμογής του παραπάνω, που είναι η επιπεδοποίηση (μνήμη, πυρήνες επεξεργαστή) αυτή η λύση έχει και άλλες προκλήσεις που σχετίζονται με τον τρόπο ψύξης των πυρήνων του επεξεργαστή που θα βρίσκονται από κάτω από τη μνήμη. Η όλη ιδέα είναι ακόμα σε στάδιο έρευνας με κάποια πρωτότυπα να είναι ακόμα υπό ανάπτυξη σε πανεπιστήμια και μεγάλα εργαστήρια έρευνας σε διάφορες εταιρίες του χώρου. Αν επιτευχθεί θα μας επιτρέψει τεράστιες ταχύτητες μνήμης. 44 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

45 ΚΕΦΑΛΑΙΟ 3: ΑΡΧΗ ΛΕΙΤΟΥΡΓΙΑΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ Τεχνολογία αντίστασης σε τρανζίστορ (memristor) Η έννοια και η θεωρία για το memristor (συντομογραφία για το memory resistor), έχει αναφερθεί εδώ και τέσσερις δεκαετίες, αλλά μόλις το 2008 ανακοινώθηκε η πρώτη του εφαρμογή από τα HP Labs. Εν συντομία, είναι ένα στοιχείο κυκλώματος με μνήμη. Η αντίσταση είναι ουσιαστικά μια συνάρτηση για το πόσο ρεύμα πέρασε, με άλλα λόγια η αντίσταση μπορεί να έχει μνήμη για το πόσο ρεύμα πέρασε, ακόμα και αν αυτό πλέον έχει κοπεί. Αυτή του η ιδιότητα το κάνει να βασική σκέψη για την κατασκευή περισσότερο συμπαγών και γρήγορων συσκευών αποθήκευσης. Να σημειωθεί ότι έχει προταθεί και η χρήση memristor αντί για transistor και στην κατασκευή ηλεκτρονικών υπολογιστών. Αν υλοποιηθεί μια τέτοια λογική, μπορεί να φέρει επανάσταση στο χώρο μιας και έχει σχεδιαστεί πειραματικά memristor με 1000 επίπεδα διαστρωμάτωσης. Οι πολυπύρηνοι επεξεργαστές και οι μνήμες που θα είναι βασισμένα σε memristor είναι ακόμα πειραματικά και ίσως χρειαστεί μια δεκαετία και πλέον για να αναπτυχθούν, αλλά αυτή τη στιγμή είναι μια πολλά υποσχόμενη τεχνολογία στον τομέα της βελτίωσης της ταχύτητας της μνήμης Μνήμη συναλλαγών (transactional memory) Η μνήμη συναλλαγών αναδύθηκε ως τεχνολογία, για να αντικαταστήσει την λογική που δεσμεύει τη μνήμη για συγχρονισμό. Με λίγο λόγια, η μνήμη συναλλαγών είναι ένας μηχανισμός που επιτρέπει την ταυτόχρονη ενημέρωση της κοινόχρηστης μνήμης: σε κάθε νήμα επιτρέπεται να προχωρήσει με τα δικά του δεδομένα, μέχρι να ολοκληρώσει την αλληλουχία των διαδικασιών (που καλούνται συναλλαγές, οι οποίες δεν είναι ορατές από το υπόλοιπο σύστημα, μέχρι να ολοκληρωθούν). Σε αυτό το σημείο ελέγχεται αν οποιαδήποτε άλλη ταυτόχρονη ενημέρωση έλαβε χώρα, στις ίδιες θέσεις διεύθυνσης, αν όχι όλες οι αλλαγές οριστικοποιούνται και γίνονται ορατές από τα υπόλοιπα νήματα ή πυρήνες. Αν πάλι υπάρχουν ενημερώσεις από άλλες διαδικασίες ενημέρωσης στις ίδιες θέσεις μνήμης, όλη η διαδικασία συναλλαγής αναιρείται και επιχειρείται εκ νέου. Όλες αυτές οι διαδικασίες (της ενημέρωσης, του ελέγχου για ταυτόχρονες συναλλαγές, της αναίρεσης, κλπ.) είναι αόρατες στην εφαρμογή και η λειτουργία τους γίνεται εξ ολοκλήρου από το σύστημα. Η μνήμη συναλλαγών είναι εξαιρετικά χρήσιμη στην περίπτωση, όπου η πιθανότητα για σύγκρουση δεδομένων είναι πολύ μικρή. Παρά την εκτενή έρευνα σχετικά με τις μνήμες συναλλαγών (η πρώτη δημοσίευση για αυτή την τεχνολογία έγινε το 1993), ακόμα δεν έχει εδραιωθεί αυτός ο τύπος τεχνολογίας στους σύγχρονους επεξεργαστές. Μόνο η Sun είχε ανακοινώσει ένα μοντέλο επεξεργαστή που θα χρησιμοποιούσε αυτή την τεχνολογία, το οποίο όμως ακυρώθηκε (πρόκειται για το μοντέλο Rock). ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 45

46 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ 46 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

47 ΚΕΦΑΛΑΙΟ 4: ΠΡΟΚΛΗΣΕΙΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ Κ Ε Φ Α Λ Α Ι Ο 4 : Π Ρ Ο Κ Λ Η Σ Ε Ι Σ Π Ο ΛΥ Π Υ Ρ Η Ν Ω Ν Ε Π Ε Ξ Ε Ρ ΓΑ Σ Τ Ω Ν ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 47

48 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ 48 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ

49 ΚΕΦΑΛΑΙΟ 4: ΠΡΟΚΛΗΣΕΙΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ ΠΡΟΚΛΗΣΕΙΣ ΠΟΛΥΠΥΡΗΝΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ Σε αυτό το κεφάλαιο θα παρουσιαστούν οι βασικές προκλήσεις που εμφανίζονται στους πολυπύρηνους επεξεργαστές. Οι κατηγορίες αυτές είναι: προκλήσεις που συνδέονται με τη διασυνδεσιμότητα και η πρόκληση για την προσαρμογή του λογισμικού στους πολυπύρηνους επεξεργαστές. Προκλήσεις διασυνδεσιμότητας Αν και η απόδοση μιας συσκευής με μονοπύρηνο επεξεργαστή έχει αυξηθεί κατά πολύ, η απόδοση της διασυνδεσιμότητας έχει μειωθεί. Ως εκ τούτου η συνολική απόδοση ενός μικροεπεξεργαστή καθορίζεται από το χαρακτηριστικό της διασυνδεσιμότητας. Το κύριο χαρακτηριστικό που δεν μπορεί να προσπεραστεί για την περεταίρω ανάπτυξη της διασυνδεσιμότητας, είναι η διεπαφή διαφορετικών πυρήνων, σε ένα μόνο κύκλωμα (die). Κατά την πάροδο των ετών έχουν προταθεί αρκετοί μηχανισμοί διασύνδεσης διαφορετικών πυρήνων σε ένα κύκλωμα. Μεταξύ τους και ένας SBF (shared bus fabric) που επιτρέπει τη διασύνδεση μεταξύ επεξεργαστών, μνημών cache, Ι/Ο και μνήμης σε ένα πολυεπεξεργαστικό μηχάνημα. Το κυριότερο πρόβλημα είναι ότι το υλικό που είναι κατασκευασμένο, είναι μεγάλο και ενεργοβόρο, πράγμα που το κάνει να καταναλώνει πόρους που διαφορετικά θα ήταν διαθέσιμοι για περισσότερους πυρήνες και περισσότερη μνήμη cache. Άλλη μια πρόκληση παρόμοια και άρρηκτα συνδεδεμένη με την παραπάνω, είναι ότι αν σε ένα chip έχουμε διαφορετικού είδους πυρήνες, τότε έχουμε και διαφορετικά είδη ελέγχου λογικής, πράγμα που στην ενδοδιασύνδεση θα απαιτούνταν έξτρα κυκλώματα ελέγχου λογικής για να καθοδηγήσουν σωστά τα σήματα και τα δεδομένα μεταξύ των πυρήνων. Αυτό αν και επεξεργαστικά είναι γρήγορο, από πλευράς διαμεταγωγής προσθέτει καθυστέρηση, οπότε στο σύνολό του καθυστερεί όλη την επεξεργαστική διαδικασία. Προκλήσεις προσαρμογής λογισμικού στους πολυπύρηνους επεξεργαστές Ο σωστός συγχρονισμός του υλικού με το λογισμικό είναι πολύ σημαντικός για την σωστή και ομαλή λειτουργία ολόκληρου του συστήματος. Οι πολυπύρηνοι επεξεργαστές συνεχίζουν να ασκούν τεράστια επιρροή στην ανάπτυξη του λογισμικού. Μετά την ευρεία παραγωγή πολυπύρηνων επεξεργαστών και ως εκ τούτου μετά την έλευση της πολυπύρηνης τεχνολογίας επεξεργαστών το λογισμικό ήταν βελτιστοποιημένο για να λειτουργεί όσο πιο καλά γίνεται σε συστήματα ενός πυρήνα. Ωστόσο για να αναπτυχθεί λογισμικό για έναν πολυπύρηνο επεξεργαστή (που ακόμα εμφανίζονται όλο και νεότερες τεχνικές διαχείρισης των πόρων ενός πολυπύρηνου επεξεργαστή), αποτελεί μεγάλη πρόκληση. ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ 49

50 ΠΑΝΑΓΙΩΤΗΣ ΚΩΝΣΤΑΝΤΑΚΕΛΛΗΣ Η ενεργειακή απόδοση, ο ρυθμός διακίνησης δεδομένων και ο ταυτοχρονισμός μπορούν να γίνουν κατανοητά όταν οι κώδικες οδηγιών μπορούν να επεξεργαστούν σε διαφορετικά νήματα με τη λογική της παράλληλης επεξεργασίας. Όσο εξελίσσονται τα πολυπυρηνικά συστήματα, οι κατασκευαστές λογισμικού, πρέπει να ακολουθούν τις εξελίξεις και να βελτιστοποιούν τα λογισμικά τους για τις νεότερες απαιτήσεις του υλικού. Το κυρίως πρόβλημα σε αυτή την περίπτωση είναι ότι οι περισσότεροι κατασκευαστές υλικού δεν ανακοινώνουν τις ακριβείς δυνατότητες των συστημάτων τους, πράγμα που τα κάνει να λειτουργούν τέλεια μόνο με μερικά λογισμικά, όπου και συνεργάζονται σε εμπορικό επίπεδο. Έτσι δεν υπάρχει μεγάλη δυνατότητα ευελιξίας του λογισμικού, προς το υλικό. Το μόνο που δημιουργείτε σε αυτή την περίπτωση, είναι περισσότερα προβλήματα για τον καταναλωτή. Όσον αφορά τα πολυπυρηνικά συστήματα, αυτός ο περιορισμός χρήσης του λογισμικού γίνεται χειρότερος καθώς κάποιο συγκεκριμένο σύστημα που απαρτίζεται από διαφορετικούς πυρήνες για να επιτελεί κάθε πυρήνας διαφορετική εργασία, κρίνεται σχεδόν αδύνατο στον προγραμματισμό του. Έτσι η επίτευξη της υποστήριξης όλων των διαφορετικών μονάδων υλικού με συγκεκριμένο λογισμικό, αποτελεί τεράστια πρόκληση για τους μηχανικούς λογισμικού. 50 ΠΟΛΥΠΥΡΗΝΟΙ ΕΠΕΞΕΡΓΑΣΤΕΣ