ΠΑΝΕΠΙΣΗΜΙΟ ΠΑΣΡΩΝ. Διπλωματική Εργαςία. Θέμα

Transcript

1 ΠΑΝΕΠΙΣΗΜΙΟ ΠΑΣΡΩΝ ΣΜΗΜΑ ΗΛΕΚΣΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΣΕΧΝΟΛΟΓΙΑ ΤΠΟΛΟΓΙΣΩΝ ΣΟΜΕΑ ΗΛΕΚΣΡΟΝΙΚΗ και ΤΠΟΛΟΓΙΣΩΝ Διπλωματική Εργαςία του φοιτητή Αβραμόπουλου Γεώργιου του Νικολάου Αριθμός Μητρώου: 5576 Θέμα «Σρόποι διαχείριςησ κρυφών μνήμων με ανομοιογενείσ χρόνουσ πρόςβαςησ» Επιβλέπων καθηγητήσ Καξίρασ τέφανοσ Συνεξεταςτήσ Γκούτησ Κωνςταντίνοσ Αριθμόσ Διπλωματικήσ Εργαςίασ: Πάτρα, Ιούνιος

2 Πεξηερόκελα 1 ΔΗΑΓΩΓΖ ΚΡΤΦΖ ΜΝΖΜΖ Νόκνο ηνπ Amdahl - Αξρή ηεο ηνπηθόηεηαο Ηεξαξρία Μλήκεο Κξπθή Μλήκε (cache memory) Λεηηνπξγία ηεο Κξπθήο Μλήκεο Βαζηθέο ιεηηνπξγίεο cache: Σνπνζέηεζε block (πνύ κπνξεί λα ηνπνζεηεζεί έλα block ζε κία cache;) Αλαγλώξηζε block (πώο βξίζθεηαη έλα block αλ είλαη κέζα ζηελ cache;) Αληηθαηάζηαζε block (Πνην block ζα έπξεπε λα αληηθαηαζηαζεί ζε κία αζηνρία ηεο cache (cache miss);) ηξαηεγηθή εγγξαθήο (Σί ζπκβαίλεη ζε κία εγγξαθή;) Απόδνζε ηεο cache Γηαθνξνπνίεζε caches κε βάζε ηελ δνκή ΤΛΟΠΟΗΖΖ Γεληθή πξνζέγγηζε Δηζαγσγή Distance Associativity Distance-Associative Placement Distance-Associative Replacement Βειηηζηνπνίεζε γηα ηελ ηνπνζέηεζε θαη ηελ αληηθαηάζηαζε ζηα d-groups Δπηινγή πνιηηηθώλ γηα αληηθαηάζηαζε ζηελ cache θαη αληηθαηάζηαζε κεηαμύ ησλ d- groups (Tag θαη Distance replacement) πλνπηηθή πεξηγξαθή ηνπ κεραληζκνύ πξόβιεςεο Δμνκνίσζε θαη ζύγθξηζε αξρηηεθηνληθώλ ύγθξηζε UCA κε ύγθξηζε κε NuRAPID_lt_pd Πξνζπάζεηα γηα βειηίσζε ηεο πνιηηηθήο NuRAPID_lt_pd (aggressive- NuRAPID_lt_pd) ύγθξηζε κε NuRAPID_pt_ld ύγθξηζε κε NuRAPID_pt_pd Πξνζπάζεηα γηα βειηίσζε ηεο NuRAPID_pt_pd(aggressive-NuRAPID_pt_pd) Αθαηξώληαο ηελ επίδξαζε ηνπ παξαιιειηζκνύ (inorder εμνκνηώζεηο) πλνπηηθή πεξηγξαθή ηεο εξγαζίαο ΒΗΒΛΗΟΓΡΑΦΗΑ

3 1 ΕΙΑΓΩΓΗ Με ηελ έιεπζε ηνπ 20 νπ αηώλα δεκηνπξγήζεθε θαη ε νινέλα απμαλόκελε αλάγθε γηα επηζηεκνληθνύο ππνινγηζκνύο, νδεγώληαο ζηελ εκθάληζε λέσλ ελλνηώλ (άιγεβξα Boole θιπ.) θαη ηελ αλάπηπμε ησλ πξώησλ ζύγρξνλσλ ππνινγηζηηθώλ ζπζηεκάησλ. εκαληηθή ζπκβνιή ζηελ αλάπηπμε ζύλζεησλ ππνινγηζηηθώλ κεραλώλ είρε ν 2 νο Παγθόζκηνο Πόιεκνο κε ηελ αλάγθε ησλ εκπιεθόκελσλ ρσξώλ γηα (από)θξππηνγξαθία ησλ δεδνκέλσλ θαη αλάιπζή ηνπο. ηελ αξρή ηεο δεθαεηίαο ηνπ 50 ε εθεύξεζε ησλ transistors νδήγεζε ζηελ θαηαζθεπή ησλ, θζελόηεξσλ θαη γξεγνξόηεξσλ, δεύηεξεο γεληάο ππνινγηζηώλ, ζέηνληαο έηζη ηε βάζε γηα ηε δεκηνπξγία ησλ νινθιεξσκέλσλ θπθισκάησλ ( integrated circuits ). Πξνο ηα ηέιε ηεο δεθαεηίαο ηνπ 70 έγηλε ε εκθάληζε ηνπ κηθξνεπεμεξγαζηή (microprocessor). Ζ ηθαλόηεηα ηνπ κηθξνεπεμεξγαζηή λα παξαθνινπζεί ηηο βειηηώζεηο ηεο ηερλνινγίαο ησλ νινθιεξσκέλσλ θπθισκάησλ νδήγεζε κεγάιν ξπζκό βειηίσζεο, πεξίπνπ 35% αλάπηπμε ζηελ απόδνζε αλά έηνο. Γύν ζεκαληηθέο αιιαγέο ζηελ αγνξά ησλ ππνινγηζηώλ (πξώηνλ, ε νπζηαζηηθή εμάιεηςε ηνπ πξνγξακκαηηζκνύ ζπκβνιηθήο γιώζζαο θαη δεύηεξνλ, ε δεκηνπξγία ηππνπνηεκέλσλ, αλεμάξηεησλ από πξνκεζεπηέο, ιεηηνπξγηθώλ ζπζηεκάησλ όπσο ηα UNIX,LINUX) βνήζεζαλ ζηελ επηηπρή αλάπηπμε, θαηά ηα πξώηα ρξόληα ηεο δεθαεηίαο ηνπ 80, ελόο λένπ ζπλόινπ αξρηηεθηνληθώλ, νη νπνίεο νλνκάζηεθαλ αξρηηεθηνληθέο Τπνινγηζηώλ Μεησκέλνπ πλόινπ Δληνιώλ (Reduced Instruction Set Computers, RISC). Οη ππνινγηζηέο απηώλ ησλ αξρηηεθηνληθώλ επηθέληξσζαλ ην ελδηαθέξνλ ησλ ζρεδηαζηώλ ζε δύν ηερληθέο θξίζηκεο γηα ηελ απόδνζε, ηελ εθκεηάιιεπζε ηνπ παξαιιειηζκνύ ζε επίπεδν εληνιήο θαη ζηε ρξήζε θξπθώλ κλεκώλ (cache memory), αξρηθά ζε απιέο κνξθέο θαη αξγόηεξα ρξεζηκνπνηώληαο πεξηζζόηεξν εθιεπηπζκέλεο νξγαλώζεηο θαη βειηηζηνπνηήζεηο. ηε ζπγθεθξηκέλε εξγαζία κειεηάηαη έλαο ηξόπνο δηαρείξηζεο ηεο θξπθήο κλήκεο γηα βειηηζηνπνίεζε ηεο απόδνζεο ησλ ππνινγηζηηθώλ ζπζηεκάησλ. 3

4 2 ΚΡΤΥΗ ΜΝΗΜΗ 2.1 Νόμορ τος Amdahl - Απσή τηρ τοπικότηταρ Ο Νόκνο ηνπ Amdahl νξίδεη ηελ επηηάρπλζε πνπ κπνξνύκε λα απνθηήζνπκε κε έλα ζπγθεθξηκέλν ραξαθηεξηζηηθό σο: Επιηάτσνζη= Απόδοζη τρηζιμοποιώνηαςηη βεληιζηοποίηζηποσ μπορούμε Απόδοζη τωρίς ηη βεληιζηοποίηζη Ζ επηηάρπλζε εθθξάδεη ην πόζν γξεγνξόηεξα ζα ηξέρεη κηα εξγαζία ρξεζηκνπνηώληαο ην κεράλεκα κε ηελ βειηηζηνπνίεζε ζε αληίζεζε κε ην αξρηθό κεράλεκα. Παξά ην γεγνλόο όηη ν Νόκνο ηνπ Amdahl είλαη έλα ζεώξεκα πνπ εθαξκόδεηαη ζε νπνηνδήπνηε ζύζηεκα, άιιεο ζεκαληηθέο παξαηεξήζεηο πξνέξρνληαη από ηηο ηδηόηεηεο ησλ πξνγξακκάησλ. Ζ πην ζεκαληηθή ηδηόηεηα ηελ νπνία ρξεζηκνπνηνύκε ζπρλά είλαη ε αξρή ηεο ηνπηθόηεηαο (locality): Σα πξνγξάκκαηα ηείλνπλ λα μαλαρξεζηκνπνηήζνπλ δεδνκέλα θαη εληνιέο πνπ ρξεζηκνπνίεζαλ πξόζθαηα. ύκθσλα κε έλα γεληθά παξαδεθηό εκπεηξηθό θαλόλα, έλα πξόγξακκα πεξλά ην 90% ηνπ ρξόλνπ εθηέιεζεο ζε κόλν 10% ηνπ θώδηθα. Απνηέιεζκα ηεο ηνπηθόηεηαο είλαη ε δπλαηόηεηα λα πξνβιέςνπκε κε ζρεηηθή αθξίβεηα πνηεο εληνιέο θαη πνηα δεδνκέλα ζα ρξεζηκνπνηεζνύλ από έλα πξόγξακκα ζην εγγύο κέιινλ, βαζηδόκελνη ζηηο πξνζβάζεηο ηνπ ζην πξόζθαην παξειζόλ. Έρνπλ παξαηεξεζεί δύν δηαθνξεηηθνί ηύπνη ηνπηθόηεηαο: ε ρσξηθή θαη ε ρξνληθή. ύκθσλα κε ηε ρσξηθή ηνπηθόηεηα, αληηθείκελα ησλ νπνίσλ νη δηεπζύλζεηο είλαη θνληηλέο κεηαμύ ηνπο ηείλνπλ λα πξνζπειάδνληαη ζε θνληηλνύο κεηαμύ ηνπο ρξόλνπο. Ζ ρσξηθή ηνπηθόηεηα εθκεηαιιεύεηαη νκαδνπνηώληαο ηα δεδνκέλα καο ζε blocks, ζεσξώληαο έηζη ην block σο ηελ ειάρηζηε 'πνζόηεηα' δεδνκέλσλ πξνο αλάγλσζε, εγγξαθή, κεηαθίλεζε θιπ, κεηαμύ ησλ κλεκώλ ηνπ ππνινγηζηηθνύ ζπζηήκαηνο. Ζ ρξνληθή ηνπηθόηεηα νξίδεη όηη αληηθείκελα ηα νπνία ρξεζηκνπνηήζεθαλ πξόζθαηα έρνπλ 4

5 κεγάιε πηζαλόηεηα λα μαλαρξεζηκνπνηεζνύλ ζην εγγύο κέιινλ. Έλαλ ηξόπν λα εθκεηαιιεπηνύκε ηε ρξνληθή ηνπηθόηεηα γηα βειηηζηνπνίεζε ηεο απόδνζεο ηνπ ζπζηήκαηνο ζα κειεηήζνπκε θαη ζηελ παξνύζα εξγαζία. 2.2 Ιεπαπσία Μνήμηρ Όπσο είλαη αληηιεπηό, δελ είλαη δπλαηό γηα έλαλ ππνινγηζηή λα ρξεζηκνπνηεί απεξηόξηζηεο πνζόηεηεο ηαρείαο κλήκεο. Μία νηθνλνκηθή ιύζε ζηελ πξνζπάζεηα ηθαλνπνίεζεο ηεο παξαπάλσ επηζπκίαο είλαη ε δεκηνπξγία κίαο ηεξαξρηθήο δνκήο κεηαμύ ησλ κλεκώλ, δηαθνξεηηθνύ κεγέζνπο, ηαρύηεηαο θαη θόζηνπο. Ζ ηεξαξρία, ινηπόλ, ηεο κλήκεο εθκεηαιεύεηαη ηελ πξναλαθεξζείζα αξρή ηεο ηνπηθόηεηαο θαη ην θόζηνο απόδνζεο ησλ ηερλνινγηώλ κλήκεο. Δθόζνλ ε ηαρεία κλήκεο είλαη αθξηβήο, κηα ηεξαξρία κλήκεο νξγαλώλεηαη ζε πνιιά επίπεδα, θαζέλα κηθξόηεξν, γξεγνξόηεξν θαη αθξηβόηεξν αλά byte απ' όηη ην ακέζσο ρακειόηεξν επίπεδν. Απώηεξνο ζηόρνο είλαη λα δεκηνπξγεζεί έλα ζύζηεκα κλήκεο κε θόζηνο ζρεδόλ ηόζν ρακειό όζν ην θζελόηεξν επίπεδν κλήκεο θαη ηαρύηεηα ζρεδόλ ηόζε όζε εθείλε ηνπ γξεγνξόηεξνπ επηπέδνπ. Σα επίπεδα ηεο ηεξαξρίαο ζπλήζσο ππνθαζηζηνύλ ην έλα ην άιιν. Όια ηα δεδνκέλα, δειαδή, ζε έλα επίπεδν βξίζθνληαη επίζεο ζην παξαθάησ επίπεδν θαη όια ηα δεδνκέλα ζ' απηό ην ρακειόηεξν επίπεδν, βξίζθνληαη θαη ζην πξνεγνύκελν παξαθάησ ηνπ θαη νύησ θαζεμήο κέρξη λα θηάζνπκε ζηνλ ππζκέλα ηεο ηεξαξρίαο. Δπίζεο πξέπεη λα ζεκεηώζνπκε πσο θάζε επίπεδν ραξηνγξαθεί δηεπζύλζεηο από κηα πην αξγή, κεγαιύηεξε κλήκε ζε κία κηθξόηεξε αιιά ηαρύηεξε κλήκε, πςειόηεξα ζηελ ηεξαξρία. Ωο κέξνο ηεο αληηζηνίρηζεο ησλ δηεπζύλζεσλ, ε ηεξαξρία κλήκεο αλαιακβάλεη ηελ επζύλε ηνπ ειέγρνπ ησλ δηεπζύλζεσλ -ζην εμήο ηα ζρήκαηα πξνζηαζίαο γηα λα ειέγρνπλ δηεπζύλζεηο είλαη επίζεο ηκήκα ηεο ηεξαξρίαο ηεο κλήκεο. Θεσξώληαο, ζε έλα απιό κνληέιν θξπθήο κλήκεο, tc ην ρξόλν πξνζπέιαζεο ηεο θξπθήο κλήκεο, tm ηνλ επηπξόζζεην ρξόλν ζε πεξίπησζε αζηνρίαο απηήο θαη h ην θιάζκα ηεο κλήκεο πνπ πξνζπειαύλεηαη επηηπρώο ζηελ θξπθή κλήκε, ηόηε ν κέζνο ή απνηειεζκαηηθόο ρξόλνο πξνζπέιαζεο κλήκεο είλαη: 5

6 Παξαηεξνύκε όηη γηα κεγάιεο ηηκέο ηνπ h, απνηειεζκαηηθή απόδνζε ηεο κλήκεο πιεζηάδεη απηή ηεο θξπθήο κλήκεο. Οη παξαθάησ είθνλεο δείρλνπλ ηε γεληθή κνξθή ηεο ηεξαξρίαο κλήκεο: Στήμα 1α 6

7 Στήμα 1β Δίλαη εύθνια παξαηεξήζηκν από ην ρήκα 1 όηη ηα κηθξόηεξα. ζε κέγεζνο θαη ρξόλν πξνζπέιαζεο, επίπεδα κλήκεο βξίζθνληαη θπζηθά πην θνληά ζηνλ επεμεξγαζηή, ελώ ηα επίπεδα κλήκεο κεγαιώλνπλ ζηα αληίζηνηρα ραξαθηεξηζηηθά όζν απνκαθξπλόκαζηε απν ηνλ επεμεξγαζηή. 2.3 Κπςυή Μνήμη (cache memory) Κξπθή κλήκε νλνκάδνπκε ην πξώην επίπεδν ηεο ηεξαξρίαο ηεο κλήκεο πνπ ζπλαληάηαη από ηελ ζηηγκή πνπ ε δηεύζπλζε αθήλεη ηελ ΚΜΔ (Κεληξηθή Μνλάδα Δπεμεξγαζίαο). Από ηελ ζηηγκή πνπ ε αξρή ηεο ηνπηθόηεηαο ηζρύεη ζε ζε πνιιά επίπεδα θαη ε εθκεηάιιεπζε ηεο ηνπηθόηεηαο γηα βειηίσζε ηεο απόδνζεο είλαη δεκνθηιήο, ν όξνο κρσυή μνήμη πιένλ απεπζύλεηαη νπνπδήπνηε 7

8 γίλεηαη εθκεηάιιεπζε ηεο κλήκεο γηα λα ρξεζηκνπνηεζνύλ ζηνηρεία πνπ ζπρλά ζπλαληώληαη. Όηαλ ε ΚΜΔ βξίζθεη έλα αηηνύκελν ζηνηρείν δεδνκέλσλ ζηελ θξπθή κλήκε, απηό νλνκάδεηαη εσστοτία κρσυής μνήμης (cache hit). Αληίζηνηρα, όηαλ ε ΚΜΔ δελ βξίζθεη έλα ζηνηρείν δεδνκέλσλ ζηελ θξπθή κλήκε έρνπκε αστοτία κρσυής μνήμης (cache miss). Καη ζηηο δύν πεξηπηώζεηο, κηα ζπγθεθξηκέλνπ κεγέζνπο ζπιινγή δεδνκέλσλ, πνπ πεξηιακβάλεη ηελ απαηηνύκελε ιέμε πνπ νλνκάδεηαη κπινθ(block), αλαζύξεηαη από ηελ θπξία κλήκε θαη ηνπνζεηήηαη ζηελ θξπθή κλήκε. Σν κέγεζνο ηνπ block είλαη ηηο ηάμεο ησλ 2 k bytes όπνπ ην k ζπλήζσο παίξλεη ηηκέο από 1 κέρξη 15. Σν κέγεζνο ηνπ block κπνξεί λα δηαθέξεη κεηαμύ ηεο κεηαθνξάο δεδνκέλσλ από ηελ θύξηα κλήκε ζηελ cache θαη ηεο κεηαθνξάο από ηελ θύξηα κλήκε ζηνλ δίζθν (ζειηδνπνίεζε εηθνληθήο κλήκεο, virtual memory page). Όπσο πξνείπακε, ζύκθσλα κε ηε ρξνληθή ηνπηθόηεηα πξνβιέπνπκε όηη ζα ρξεζηκνπνηήζνπκε μαλά ην block απηό ζην εγγύο κέιινλ, νπόηε είλαη ρξήζηκν λα ην ηνπνζεηήζνπκε ζηελ θξπθή κλήκε, όπνπ ζα είλαη γξήγνξα πξνζπειάζηκν. Δπηπιένλ, ιόγσ ηεο ρσξηθήο ηνπηθόηεηαο ππάξρεη κεγάιε πηζαλόηεηα όηη θαη ηα ηα άιια δεδνκέλα ηνπ κπινθ ζα ρξεηαζηνύλ ζύληνκα. ε πεξίπησζε αζηνρίαο ηεο θξπθήο κλήκεο ν ρξόλνο πνπ ρξεηάδεηαη εμαξηάηαη από ηελ θαζπζηέξεζε θαη από ην εύξνο δώλεο ηεο κλήκεο. Ζ θαζπζηέξεζε απνθαζίδεη ην ρξόλν απόζπξζεο ηεο πξώηεο ιέμεο ηνπ block θαη ην εύξνο δώλεο ηνλ ρξόλν απόζπξζεο ηνπ ππόινηπνπ block. Μηα αζηνρία κλήκεο ρεηξίδεηαη ην πιηθό θαη αλαγθάδεη ηνπο επεμεξγαζηέο, νη νπνίνη αθνινπζνύλ εθηέιεζε ζε ζεηξά, λα ζηακαηήζνπλ ή λα θαζπζηεξήζνπλ κέρξη λα είλαη δηαζέζηκα ηα δεδνκέλα. Οκνίσο, δελ είλαη αλάγθε λα είλαη παξόληα ζηελ θπξηα κλήκε όια ηα αληηθείκελα πνπ αλαθέξνληαη ζε έλα πξόγξακκα/ Αλ ν ππνινγηζηήο έρεη εηθνληθή κλήκε, ηόηε κεξηθά αληηθείκελα κπνξνύλ λα βξίζθνληαη ζηνλ δίζθν. Ο ρώξνο δηεπζύλζεσλ ζπλήζσο δηαηξείηαη ζε κπινθ ζηαζεξνύ κεγέζνπο, πνπ νλνκάδνληαη ζειίδεο. Οπνηαδήπνηε ζηηγκή νπνηαδήπνηε ζειίδα βξίζθεηαη είηε ζηελ κλήκε είηε ζηνλ ζθιεξό δίζθν. Όηαλ ε ΚΜΔ αλαθέξεηαη ζε έλα ζηνηρείν κέζα ζε κηα ζειίδα πνπ δελ είλαη παξνύζα ζηελ θξπθή κλήκε ή ζηελ θύξηα κλήκε, ζπκβαίλεη έλα ζθάικα ζειίδαο θαη νιόθιεξε ε ζειίδα κεηαθηλείηαη από ηνλ δίζθν ζηελ θύξηα κλήκε. Από ηελ ζηηγκή πνπ ηα ζθάικαηα ζειίδαο θαζπζηεξνύλ ηόζν πνιύ ηα ρεηξίδεηαη ινγηζκηθό θαη ε ΚΜΔ δελ ζηακαηά. Ζ ΚΜΔ ζπλήζσο ζηξέθεηαη ζε θάπνηα άιιε εξγαζία, ελώ ζπκβαίλεη ε πξνζπέιαζε ζην δίζθν. Ζ θξπθή κλήκε θαη ε θύξηα κλήκε έρνπλ ηελ ίδηα ζρέζε όπσο ε θύξηα κλήκε θαη ν δίζθνο. 8

9 2.4 Λειτοςπγία τηρ Κπςυήρ Μνήμηρ Δμαηηίαο ηεο ηνπηθόηεηαο θαη ηεο κεγαιύηεξεο ηαρύηεηαο ησλ κηθξόηεξσλ κλεκώλ, κηα ηεξαξρία κλήκεο κπνξεί νπζηαζηηθά λα βειηηώζεη ηελ απόδνζε ζεκαληηθά. Μηα κέζνδνο αμηνιόγεζεο ηεο απόδνζεο ηεο θξπθήο κλήκεο είλαη λα επεθηείλνπκε ηνλ ηύπν ηνπ ρξόλνπ εθηέιεζεο ΚΜΔ. Τπνινγίδνπκε ηνλ αξηζκό ησλ θύθισλ, ζηε δηάξθεηα ησλ νπνίσλ ε ΚΜΔ ζηακαηά πεξηκέλνληαο γηα κηα πξνζπέιαζε κλήκεο, ηνπο νπνίνπο νλνκάδνπκε θύθινπο θαζπζηέξεζεο κλήκεο. Σόηε ε απόδνζε είλαη ην γηλόκελν ηνπ ρξόλνπ θύθινπ ξνινγηνύ θαη ηνπ αζξνίζκαηνο ησλ θύθισλ ΚΜΔ θαη ησλ θύθισλ θαζπζηέξεζεο κλήκεο: Απηή ε ηζόηεηα ππνζέηεη όηη νη θύθινη ξνινγηνύ ΚΜΔ πεξηιακβάλνπλ ην ρξόλν λα ρεηξηζηνύλ κηα επζηνρία κλήκεο θαη όηη ε ΚΜE ζηακαηά ζηελ δηάξθεηα αζηνρίαο ηεο κλήκεο. Ο αξηζκόο ησλ θύθισλ θαζπζηέξεζεο κλήκεο εμαξηάηαη θαη από ηνλ αξηζκό ησλ αζηνρηώλ θαη από ην θόζηνο αλά αζηνρία, ην νπνίν νλνκάδεηαη πνηλή αζηνρίαο: ή ή ί ή ή ί ή ή ί ί ή ί κεηξεζνύλ. Σν πιενλέθηεκα ηνπ ηειεπηαίνπ ηύπνπ είλαη όηη ηα ζπζηαηηθά ζηνηρεία κπνξνύλ εύθνια λα Ο παξαπάλσ ηύπνο απνηειεί κηα πξνζέγγηζε από ηελ ζηηγκή πνπ νη ξπζκνί αζηνρίαο θαη νη 9

10 πνηλέο αζηνρίαο ζπρλά δηαθέξνπλ κεηαμύ αλαγλώζεσλ θαη εγγξαθώλ. Έηζη νη ρξόλνη ξνινγηνύ θαζπζηέξεζεο κλήκεο κπνξνύλ λα νξηζηνύλ κε δηθνύο ηνπο όξνπο: ηνλ αξηζκό πξνζπειάζεσλ κλήκεο αλά εληνιή, ηελ πνηλή αζηνρίαο (ζε θύθινπο ξνινγηνύ) γηα εγγξαθέο θαη αλαγλώζεηο θαη ηνλ ξπζκό αζηνρίαο γηα εγγξαθέο θαη αλαγλώζεηο: ή ή ί ή ή ί Απινπζηεύνληαο ηνλ παξαπάλσ ηύπν ζπλδπάδνληαο εγγξαθέο θαη αλαγλώζεηο, θαη βξίζθνληαο ην κέζν όξν ξπζκνύ αζηνρίαο θαη πνηλήο αζηνρίαο γηα αλαγλώζεηο θαη εγγξαθέο: ή ή ή ί ή ί Ο ξπζκόο αζηνρίαο είλαη κηα από ηηο πην ζεκαληηθέο παξακέηξνπο ηνπ ζρεδηαζκνύ θξπθώλ κλεκώλ, όρη όκσο θαη ε κνλαδηθή. 10

11 2.5 Βασικέρ λειτοςπγίερ cache: 1) ηνπνζέηεζε block 2) αλαγλώξηζε block 3) αληηθαηάζηαζε block 4) ζηξαηεγηθή εγγξαθήο Σοποθέτηςη block (πού μπορεί να τοποθετηθεί ένα block ςε μία cache;) Αλ θάζε κπινθ έρεη κόλν κηα ζέζε πνπ κπνξεί λα εκθαλίδεηαη ζηελ θξπθή κλήκε,ε θξπθή κλήκε νλνκάδεηαη άκεζα αληηζηνηρηζκέλε (direct mapped). Απηή ε αληηζηνίρεζε νξίδεηαη σο εμήο: (διεύθςνζη ηος μπλοκ) MOD (απιθμόρ μπλοκ ζηην κπςθή μνήμη) Αλ έλα κπινθ κπνξεί λα ηνπνζεηεζεί νπνπδήπνηε κέζα ζηελ κλήκε, ε θξπθή κλήκε νλνκάδεηαη πιήξσο ζπζρεηηζηηθή (fully associative). Αλ έλα κπινθ κπνξεί λα ηνπνζεηεζεί ζε πεξηνξηζκέλν αξηζκό ζέζεσλ ζηελ θξπθή κλήκε ηόηε ε θξπθή κλήκε είλαη ζπλνινζπζρεηηζηηθή (set associative). Έλα ζύλνιν είλαη κηα νκάδα από κπινθ ζηελ θξπθή κλήκε. Έλα block αξρηθά αληηζηνηρίδεηαη ζε έλα ζύλνιν θαη κεηά ην κπινθ κπνξεί λα ηνπνζεηεζεί νπνπδήπνηε κέζα ζε απηό ην ζύλνιν. Σν ζύλνιν επηιέγεηαη όπσο επηιέγεηαη ε ζέζε ζηελ πεξίπησζε direct mapped κλήκεο: (διεύθςνζη ηος μπλοκ) MOD (απιθμόρ ζςνόλων ζηην κπςθή μνήμη) Αν ππάξρνπλ n κπινθ ζε έλα ζύλνιν, ε ηνπνζέηεζε ζηε θξπθή κλήκε νλνκάδεηαη ζπλνινζπζρεηηζηηθή n δξόκσλ (n-way set- associative). Σν εύξνο θξπθώλ κλεκώλ από ηελ άκεζα αληηζηνηρηζκέλε κέρξη ηελ πιήξσο ζπζρεηηζηηθή είλαη ζηελ πξαγκαηηθόηεηα κηα ζπλέρεηα επηπέδσλ από ζπλνινζπζρεηηζκό. Ζ άκεζα αληηζηνηρηζκέλε είλαη κηα ζπλνινζπζρεηηζηηθή ελόο δξόκνπ θαη κηα πιήξσο ζπζρεηηζηηθή θξπθή κλήκε κε m κπινθ είλαη κηα ζπλνινζπζρεηηζηηθή m δξόκσλ. Ηζνδύλακα ε άκεζα αληηζηνηρηζκέλε 11

12 κπνξεί λα ζεσξεζεί όηη έρεη m ζύλνια θαη ε πιήξσο ζπζρεηηζηηθή όηη έρεη έλα ζύλνιν. Ζ ηεξάζηηα πιεηνςεθία ησλ θξπθώλ κλεκώλ επεμεξγαζηώλ ζήκεξα είλαη άκεζα αληηζηνηρηζκέλεο, ζπλνινζπζρεηηζηηθέο 2 ή 4 δξόκσλ. Παξάδεηγκα ησλ παξαπάλσ νξηζκώλ δίλεηαη ζην ρήκα 2 παξαθάησ: Σσήμα 2. Στήμα 2 Οι ηπειρ επιλογέρ για ηιρ caches εκθπάζονηαι από απιζηεπά ππορ δεξιά. Σηην άμεζα ανηιζηοισιζμένη, ηο block 12 από ηο σαμηλόηεπο επίπεδο μποπεί να ηοποθεηηθεί μόνο ζηο πλαίζιο ηος block 4 (12 modulo 8). Σηη ζςνολοζςζσεηιζηική, μποπεί να ηοποθεηηθεί ζε οποιοδήποηε block ζηο ζύνολο 0 (set 0) (12 modulo 4). Τέλορ, ζηην πλήπωρ ζςζσεηιζηική μνήμη, μποπεί να ηοποθεηηθεί ζε οποιοδήποηε block ηηρ cache. 12

13 2.5.2 Αναγνώριςη block (πώσ βρίςκεται ένα block αν είναι μέςα ςτην cache;) Οη θξπθέο κλήκεο έρνπλ κηα εηηθέηα δηεύζπλζεο (tag) ζε θάζε πιαίζην block ε νπνία δίλεη ηελ δηεύζπλζε ηνπ block. Ζ εηηθέηα θάζε κπινθ θξπθήο κλήκεο πνπ ζα κπνξνύζε λα πεξηέρεη ηελ επηζπκεηή πιεξνθνξία ειέγρεηαη γηα λα δνύκε αλ ηαηξηάδεη κε ηελ δηεύζπλζε ηνπ κπινθ από ηελ ΚΜΔ. Ωο θαλόλαο, όιεο νη πηζαλέο εηηθέηεο ειέγρνληαη παξάιιεια γηαηί ε ηαρύηεηα είλαη ζεκαληηθή ππόζεζε. Πξέπεη λα ππάξρεη έλαο ηξόπνο λα γλσξίδνπκε όηη έλα block cache δελ έρεη έγθπξεο πιεξνθνξίεο. Ζ ζπλεζέζηεξε δηαδηθαζία είλαη λα πξνζζέηνπκε έλα bit εγθπξόηεηαο ζηελ εηηθέηα ην νπνίν δείρλεη αλ κηα εγγξαθή πεξηέρεη κηα έγθπξε δηεύζπλζε. Αλ ην bit δελ έρεη ηεζεί δελ κπνξεί λα ππάξρεη ηαίξηαζκα ζε απηήλ ηελ δηεύζπλζε. Παξαθάησ ζην ρήκα 3 θαίλεηαη ην πσο δηαηξείηαη κία δηεύζπλζε: Σσήμα 3. (1) Ζ πξώηε ππνδηαίξεζε είλαη αλάκεζα ζηελ δηεύζπλζε ηνπ κπινθ (block address) θαη θαη ηελ απόθιηζε ηνπ κπινθ (block offset). Σν block address κπνξεί λα δηαηξεζεί πεξαηηέξσ ζε πεδίν εηηθέηαο (tag) θαη πεδίν δείθηε (index). Σν block offset επηιέγεη ην επηζπκεηό δεδνκέλν από ην κπινθ, ην index επηιέγεη ην set θαη ην tag ζπγθξίλεηαη κε απηό γηα κηα επζηνρία. Πξνθαλώο νη πιήξσο ζπζρεηηζηηθέο caches δελ έρνπλ πεδίν index. Ζ ζύγθξηζε ζα κπνξνύζε λα γίλεη πεξηζζόηεξν πάλσ ζην block address παξά πάλσ ζην tag, θάηη ηέηνην όκσο δε ρξεηάδεηαη γηα ηνπο εμήο ιόγνπο: Σν offset δελ ζα έπξεπε λα ρξεζηκνπνηείηαη ζηε ζύγθξηζε, αθνύ νιόθιεξν ην block ή είλαη παξόλ ή όρη θαη ζπλεπώο όιεο νη απνθιίζεηο έρνπλ σο απνηέιεζκα έλα ηαίξηαζκα εμ' νξηζκνύ. Σν λα ειέγρνπκε ην index είλαη πιενλάδνλ, αθνύ είρε ρξεζηκνπνηεζεί γηα λα επηιέμεη ην ζύλνιν πνπ έπξεπε λα ειεγρζεί. Μηα δηεύζπλζε απνζεθεπκέλε ζην set 0,γηα παξάδεηγκα, πξέπεη λα έρεη 0 ζην index, αιιηώο δελ ζα κπνξνύζε λα απνζεθεπζεί ζην set 0. Απηή ε βειηηζηνπνίεζε εμνηθνλνκεί πιηθό θαη ηζρύ, κεηώλνληαο ην πιάηνο ηνπ κεγέζνπο κλήκεο γηα ην tag ηεο cache. 13

14 Πξέπεη εδώ λα ζεκεησζεί, όηη ην tag ηνπ block απνζεθεύεηαη ζε δηαθνξεηηθό ζεκείν ζηελ cache από ηα δεδνκέλα ηνπ block. Σν tag απνζεθεύεηαη ζηνλ πίλαθα ησλ tags, tag array, ελώ αληίζηνηρα ηα δεδνκέλα ζην data array. Δίλαη πξνθαλέο όηη νη δύν απηέο δνκέο αιιεινζρεηίδνληαη, ώζηε λα γλσξίδνπκε πνην tag αληηζηνηρεί ζε πνηα δεδνκέλα θαη αληίζηξνθα Αντικατάςταςη block (Ποιο block θα έπρεπε να αντικαταςταθεί ςε μία αςτοχία τησ cache (cache miss);) ε έλα cache miss, ν ειεγθηήο ηεο cache πξέπεη λα επηιέμεη έλα block λα αληηθαηαζηαζεί κε ηα επηζπκεηά δεδνκέλα. Έλα πιενλέθηεκα ηεο ηνπνζέηεζεο ηεο άκεζεο αληηζηνίρηζεο είλαη όηη νη επηινγέο πιηθνύ απινπνηνύληαη ζηελ πξαγκαηηθόηεηα ηόζν πνιύ πνπ δελ ππάξρεη θακία επηινγή, κόλν έλα πιαίζην ηνπ block ειέγρεηαη γηα επζηνρία θαη κόλν απηό ην block κπνξεί λα αληηθαηαζηαζεί. Με πιήξσο ζπζρεηηζηηθή ή ζπλνινζπζρεηηζηηθή ηνπνζέηεζε, ππάξρνπλ πνιιά block λα επηιέμεη θάλεηο ζε πεξίπησζε αζηνρίαο. Τπάξρνπλ ηξεηο βαζηθέο ζηξαηεγηθέο πνπ ρξεζηκνπνηνύληαη γηα ηελ επηινγή ηνπ block πνπ αληηθαζίζηαληαη: Σπραία (Random). Γηα λα απινπνηεζεί ε θαηαλνκή νκνηόκνξθα, ηα ππνςήθηα block επηιέγνληαη ηπραία. Μεξηθά ζπζηήκαηα παξάγνπλ ςεπδνηπραίνπο αξηζκνύο block γηα λα πάξνπλ αλαπαξαγσγηθή ζπκπεξηθνξά, ε νπνία είλαη ηδηαίηεξα ρξήζηκε όηαλ ην πιηθό εθθαζαξίδεηαη από ζθάικαηα. Ληγόηεξν πξνζθάησο ρξεζηκνπνηεκέλν (least-recently used, LRU). Γηα λα κεησζεί ε πηζαλόηεηα λα απαιεηθζεί πιεξνθνξία πνπ ζα είλαη ρξήζηκε ζύληνκα, νη πξνζπειάζεηο ζηα block θαηαγξάθνληαη. Υξεζηκνπνηώληαο ζην παξειζόλ γίλεηαη κηα πξόβιεςε ηνπ κέιινληνο, ην block πνπ αληηθαζίζηαηαη είλαη απηό πνπ δελ έρεη ρξεζηκνπνηεζεί γηα ην κεγαιύηεξν ρξνληθό δηάζηεκα. Σν LRU ζηεξίδεηαη ζε έλα ζπκπέξαζκα ηεο ηνπηθόηεηαο: αλ πξόζθαηα ρξεζηκνπνηεκέλα blocks έηλαη πηζαλόλ λα ρξεζηκνπνηεζνύλ πάιη, ηόηε έλαο θαιόο ππνςήθηνο γηα απόξξηςε είλαη ην ιηγόηεξν πξνζθάησο ρξεζηκνπνηεκέλν block. Πξώην κέζα, πξώην έμσ (First in First out, FIFO). Δπεηδή ην LRU κπνξεί λα είλαη 14

15 πεξίπινθν λα ην ππνινγίζεη θαλείο, απηό πξνζεγγίδεη ην LRU αληηθαζηζηώληαο ην παιαηόηεξν block αληί γηα ην LRU Στρατηγική εγγραφήσ (Τί ςυμβαίνει ςε μία εγγραφή;) Οη αλαγλώζεηο θπξηαξρνύλ ζηηο πξνζπειάζεηο cache ηνπ επεμεξγαζηή. Όιεο νη πξνζπειάζεηο εληνιώλ είλαη αλαγλώζεηο θαη νη πεξηζζόηεξεο εληνιέο δελ γξάθνπλ ζηε κλήκε. Από ηελ θπθινθνξία δεδνκέλσλ ζηελ cache, νη εγγξαθέο είλαη 10%. Σν λα επηηαρπλζεί ε ζπλεζηζκέλε πεξίπησζε, ζεκαίλεη λα βειηηζηνπνηεζνύλ νη αλαγλώζεηο, εηδηθά αθνύ νη επεμεξγαζηέο παξαδνζηαθά πεξηκέλνπλ ηηο αλαγλώζεηο λα νινθιεξσζνύλ ελώ δε ρξεηάδεηαη λα πεξηκέλνπλ γηα ηελ νινθιήξσζε ησλ εγγξαθώλ. Δπηπρώο ε ζπλεζηζκέλε πεξίπησζε είλαη επίζεο θαη ε εύθνιε πεξίπησζε γηα λα επηηαρπλζεί. Σν block κπνξεί λα δηαβαζηεί από ηελ cache ηελ ίδηα ζηηγκή πνπ δηαβάδεηαη θαη ζπγθξίλεηαη ε εηηθέηα, έηζη ε αλάγλσζε ηνπ block μεθηλά ακέζσο κόιηο ε δηεύζπλζε ηνπ block είλαη δηαζέζηκε. Αλ ε αλάγλσζε είλαη εύζηνρε, ην αηηνύκελν θνκκάηη ηνπ block πεξληέηαη ζηελ KME ακέζσο. Δάλ είλαη κηα αζηνρία δελ ππάξρεη όθεινο αιιά νύηε δεκηά ζηνπο επεμεξγαζηέο, απιώο αγλννύλ ηελ ηηκή πνπ αλαγλώζηεθε. Ζ έκθαζε ησλ ελζσκαησκέλσλ ζηελ ηζρύ γεληθά ζεκαίλεη λα απνθεύγεη θαλείο κε απαξαίηεηε δνπιεηά, ε νπνία ζα κπνξνύζε λα νδεγήζεη ην ζρεδηαζηή λα ρσξίζεη ηα δεδνκέλα αλάγλσζεο από ηνλ έιεγρν ηεο δηεύζπλζεο, έηζη ώζηε ηα δεδνκέλα λα κε δηαβάδνληαη ζε κία αζηνρία. Σέηνηα αηζηνδνμία δελ επηηξέπεηαη ζε κία εγγξαθή. Ζ αιιαγή ζε έλα block δελ κπνξεί λα μεθηλήζεη αλ δελ ειεγρζεί ην tag γηα λα δνύκε αλ ε δηεύζπλζε είλαη εύζηνρε. Δπεηδή ν έιεγρνο ηνπ tag δελ κπνξεί λα ζπκβεί παξάιιεια, νη εγγξαθέο θπζηνινγηθά παίξλνπλ πεξηζζόηεξν ρξόλν από όηη νη αλαγλώζεηο. Μηα άιιε επηπινθή είλαη όηη ν επεμεξγαζηήο επίζεο πξνζδηνξίδεη ην κέγεζνο ηεο εγγξαθήο ζπλήζσο αλάκεζα ζε 1 θαη 8 bytes, κόλν απηό ην ηκήκα ηνπ block κπνξεί λα αιιαρζεί. Αληηζέησο νη αλαγλώζεηο κπνξνύλ λα πξνζπειάζνπλ πεξηζζόηεξα bytes από όηη είλαη απαξαίηεην άθνβα. Οη πνιηηηθέο εγγξαθώλ ζπρλά δηαθξίλνπλ ηα ζρέδηα ησλ caches. Τπάξρνπλ δπν βαζηθέο επηινγέο όηαλ γξάθεηο ζηελ cache: Γηεγγξαθή (write through). Ζ πιεξνθνξία γξάθεηαη ζην block θαη ζηελ cache θαη ζην block ζηε κλήκε ρακειόηεξνπ επηπέδνπ. Δηεξνρξνληζκέλε εγγξαθή (write back). Ζ πιεξνθνξία γξάθεηαη κόλν ζην block ζηελ 15

16 cache, ην νπνίν γξάθεηαη ζηελ θύξηα κλήκε κόλν όηαλ αληηθαζίζηαηαη. Γηα λα κεησζεί ηε ζπρλόηεηα ησλ εηεξνρξνληζκέλα εγγεγξακκέλσλ block ζηελ αληηθαηάζηαζε, έλα ραξαθηεξηζηηθό πνπ νλνκάδεηαη bit αιινίσζεο ρξεζηκνπνηείηαη ζπρλά. Απηό ην bit θαηάζηαζεο ππνδεηθλύεη αλ ην block είλαη αιινησκέλν (αιιαγκέλν ελώ είλαη ζηελ cache) ή θαζαξό (κε αιιαγκέλν). Αλ είλαη θαζαξό, ην block δελ εγγξάθεηαη εηεξνρξνληζκέλα ζηελ πεξίπησζε αζηνρίαο αθνύ ε ίδηα πιεξνθνξία κε απηή ηεο cache βξίζθεηαη ζε ρακειόηεξα επίπεδα. Σόζν ην write back όζν ην write through έρνπλ ηα δηθά ηνπο πιενλεθηήκαηα ην θαζέλα. Με ην write back, νη εγγξαθέο ζπκβαίλνπλ κε ηελ ηαρύηεηα ηεο cache θαη πνιιαπιέο εγγξαθέο κέζα ζε έλα block απαηηνύλ κόλν κία εγγξαθή ζηε κλήκε ρακειόηεξνπ επηπέδνπ. Αθνύ θάπνηεο εγγξαθέο δελ πεγαίλνπλ ζηελ κλήκε, ην write back ρξεζηκνπνηεί ιηγόηεξν εύξνο δώλεο κλήκεο θάλνληαο ην ειθπζηηθό γηα πνιπεπεμεξγαζηέο πνπ ρξεζηκνπνηνύληαη ζε εμππεξεηεηέο. Αθνύ ην write back ρξεζηκνπνηεί ην ππόινηπν ηεο ηεξαξρίαο κλήκεο θαη ηνπο δηαύινπο κλήκεο ιηγόηεξν από ην write through εμνηθνλνκεί επίζεο ηζρύ όληαο πην ειθπζηηθό γηα ελζσκαησκέλεο εθαξκνγέο. Όηαλ ε ΚΜΔ πξέπεη λα πεξηκέλεη λα νινθιεξσζνύλ νη εγγξαθέο ζηε δηάξθεηα ηνπ write through, ε ΚΜΔ ιέγεηαη όηη είλαη ζε θαζπζηέξεζε εγγξαθήο. Μηα ζπλεζηζκέλε βειηηζηνπνίεζε γηα λα κεηώζεη θαλείο ηηο θαζπζηεξήζεηο εγγξαθώλ είλαη κηα κλήκε εγγξαθώλ ε νπνία επηηξέπεη ζηνλ επεμεξγαζηή ακέζσο κόιηο ηα δεδνκέλα έρνπλ εγγξαθή ζηελ κλήκε επηηαρύλνληαο έηζη παξαιιειηζκό ζηελ εθηέιεζε ηνπ επεμεξγαζηή κε ηελ ελεκέξσζε κλήκεο. Καζώο ηα δεδνκέλα δελ ρξεηάδνληαη ζε κηα εγγξαθή, ππάξρνπλ δπν επηινγέο ζε κηα αζηνρία εγγξαθήο: Κατανομής εγγραυής (write allocate). Σν block θαηαλέκεηαη ζε κηα αζηνρία εγγξαθήο αθνινπζνύκελν από ηηο παξαπάλσ ελέξγεηεο εύζηνρεο εγγξαθήο. ε απηή ηε θπζηθή επηινγή, νη αζηνρίεο εγγξαθώλ ιεηηνπξγνύλ σο αζηνρίεο αλαγλώζεσλ. Κατανομή μη εγγραυής (no-write allocate). Απηή ε πξνθαλώο αζπλήζηζηε ελαιιαθηηθή ιύζε είλαη όηη νη αζηνρίεο εγγξαθήο δελ επεξεάδνπλ ηελ cache. Αληηζέησο, ην block αιιάδεη κόλν ζηελ κλήκε ρακειόηεξνπ επηπέδνπ. Έηζη, ηα block κέλνπλ έμσ από ηελ cache ζηελ θαηαλνκή κε εγγξαθήο κέρξη ην πξόγξακκα λα πξνζπαζήζεη λα δηαβάζεη ηα block αιιά αθόκα θαη ηα block πνπ είλαη κόλν γακκέλα ζα είλαη αθόκα ζηελ cache κε ηελ θαηαλνκή εγγξαθήο. Ζ πνιηηηθή ηεο αζηνρίαο εγγξαθήο ζα κπνξνύζε λα ρξεζηκνπνηεζεί είηε κε write through είηε κε write back. Φπζηνινγηθά νη cache ρξεζηκνπνηνύλ write back θαη θαηαλνκή εγγξαθήο, ειπίδνληαο όηη νη επαθόινπζεο εγγξαθέο ζην ίδην block ζα ζπιιεθζνύλ από ηελ cache. Οη caches πνπ ρξεζηκνπνηνύλ write through ζπλήζσο ρξεζηκνπνηνύλ θαηαλνκή κε εγγξαθήο. Ζ ινγηθή ζε απηή ηελ ηαθηηθή είλαη όηη αθόκα θη αλ ππάξρνπλ αθόινπζεο εγγξαθέο ζην ίδην block εθόζνλ νη εγγξαθέο ζε απηό ην block πξέπεη λα πάλε ζε αθόκα ρακειόηεξν επίπεδν δελ ππάξρεη νπζηαζηηθό θέξδνο. 16

17 2.6 Απόδοζη ηης cache Δίλαη ιάζνο λα πξνζπαζήζνπκε λα εθηηκήζνπκε ηελ απόδνζε ηεο ΚΜΔ ρξεζηκνπνηώληαο ηνλ αξηζκό ησλ εληνιώλ. Αληίζηνηρα είλαη ιαλζαζκέλε ε εθηίκεζε ηεο απόδνζεο ηεο ηεξαξρίαο ηεο κλήκεο από ην ξπζκό αζηνρίαο, γηαηί θαη απηόο είλαη αλεμάξηεηνο από ηελ ηαρύηεηα ηνπ πιηθνύ. Καιύηεξε κέηξεζε ηεο απόδνζεο ηεο κλήκεο απνηειεί κέζνο ρξόλνο πξνζπέιαζεο ηεο κλήκεο: ή ί ί ή ί όπνπ ρξόλνο επζηνρίαο είλαη ν ρξόλνο ηεο επζηνρίαο ζηελ cache (cache hit). Απηόλ αθξηβώο ην ρξόλν ζα πξνζπαζήζνπκε λα ειέγμνπκε θαη λα εθκεηαιιεπηνύκε ζηελ παξνύζα εξγαζία. Ο παξαπάλσ ηύπνο κπνξεί λα καο βνεζήζεη λα απνθαζίζνπκε κεηαμύ δηεξεκέλσλ θξπθώλ κλήκσλ θαη ελνπνηεκέλσλ. 2.7 Διαθοροποίηζη caches με βάζη ηην δομή ην παξαθάησ ζρήκα (ρήκα 4) θαίλνληαη ηύπνη caches δηαθνξεηηθώλ δνκώλ. Γηα λα γίλεη ην ζρήκα αιιά θαη ηα επόκελα θαηαλνεηά, πξέπεη λα δώζνπκε ηελ έλλνηα ηνπ bank. Θα κπνξνύζακε απιά λα πνύκε όηη ην bank δελ είλαη ηίπνηα παξαπάλσ από κία νκάδα από ways (ε έλλνηα ηνπ way έρεη δνζεί πξνεγνπκέλσο). Σν πόζα ways απνηεινύλ έλα bank εμαξηάηαη από ηελ αξρηηεθηνληθή ηεο εθάζηνηε cache. 17

18 Σσήμα 4. (2) Ζ βαζηθή δηαθνξά κεηαμύ ηεο UCA (Uniform Cache Access) αξρηηεθηνληθήο (Κξπθή Μλήκε Οκνηνγελνύο Υξόλνπ Πξνζπέιαζεο), θαη ηεο NUCA( Non-Uniform Cache Access) αξρηηεθηνληθήο (Κξπθή Μλήκε Αλνκνηνγελνύο Υξόλνπ Πξνζπέιαζεο), είλαη, όπσο πξνδίδεη θαη ε νλνκαζία ηνπο, είλαη όηη ζηε κελ UCA ν ρξόλνο πξνζπέιαζεο είλαη ίδηνο γηα νπνηνδήπνηε block (ή θαιύηεξα bank) ζε νπνηνδήπνηε ζεκείν ηεο cache, ελώ ν ρξόλνο πξνζπέιαζεο ζε κηα NUCA πνηθίιεη αλάινγα κε ην bank πνπ ζέινπκε λα πξνζπειάζνπκε. Απηό ζεκαίλεη πσο ηα banks ηα νπνία βξίζθνληαη θπζηθά πην θνληά ζηνλ επεμεξγαζηή, έρνπλ κηθξόηεξν, ζε θύθινπο ξνινγηνύ, ρξόλν από ηα πην απνκαθξπζκέλα από ηνλ επεμεξγαζηή banks. Ζ δηαθνξά απηή ζηελ θαζπζηέξεζε ηεο πξνζπέιαζεο νθείιεηαη ζηελ θαζπζηέξεζε ιόγσ ηνπ θαισδίνπ(wire delay). Δίλαη πξνθαλέο όηη ελώ ζηελ UCA ηα κήθε ησλ θαισδίσλ πξνο όια ηα banks είλαη ίζα κεηαμύ ηνπο ζε όια ηα ζεκεία ηεο cache, ζηε NUCA ην κήθνο θαισδίνπ ησλ θνληηλώλ banks είλαη πνιύ κηθξόηεξν από ηα απνκαθξπζκέλα banks. Έηζη θαη νη αληίζηνηρεο θαζπζηεξήζεηο είλαη κηθξόηεξεο γηα ηα θνληηλά banks. ην ζρήκα 4, ινηπόλ, βιέπνπκε: a) UCA, ηελ νπνία εμεγήζακε παξαπάλσ b)ml-uca ( multi-level UCA ). Έρνπκε πνιιά επίπεδα caches (L2 L3), κε δνκή UCA ζε θάζε επίπεδν. ηα επίπεδα ππάξρεη επηθάιπςε δεδνκέλσλ, όπσο είλαη γλσζηό από ηελ ηεξαξρία κλήκεο, δειαδή όηη ππάξρεη ζην L3 επίπεδν, ππάξρεη θαη ζηα L2,L1 (ζηα πςειόηεξα) επίπεδα. c)s-nuca-1 (static NUCA). Cache δνκήο NUCA, όπνπ ην ζε πνην bank κπνξνύλ λα ηνπνζεηεζνύλ ηα δεδνκέλα είλαη πξνθαζνξηζκέλν, βάζεη ηνπ block index (έλλνηα πνπ έρεη πξναλαθεξζεί), νπόηε θαη κπνξεί λα βξίζθεηαη ζε έλα κόλν bank ηεο cache. Σν κεηνλέθηεκα ηεο αξρηηεθηνληθήο απηήο, είλαη όηη ζε θάζε bank θηάλεη έλα μερσξηζηό θαλάιη γηα κεηαθνξά 18

19 δεδνκέλσλ, θάηη πνπ πεξηνξίδεη απζηεξά ηνλ αξηζκό ησλ banks πνπ κπνξνύλ λα ρξεζηκνπνηεζνύλ. Απηό γίλεηαη θαηαλνεηό αλ ζθεθηνύκε όηη γηα πεξηζζόηεξα banks ζα πξέπεη λα ρξεζηκνπνηεζνύλ πεξηζζόηεξα θαλάιηα, νπόηε θαη ην δίθηπν ησλ θαισδίσλ ζα απμάλεη ζεκαληηθά ηε ζπλνιηθή επηθάλεηα πνπ ζα θαιύπηεη νιόθιεξε ε κλήκε. d)s-nuca-2. Ζ αξρηηεθηνληθή απηή, πξνζπαζεί λα ιύζεη ην παξαπάλσ πξόβιεκα ρξεζηκνπνηώληαο έλα δηζδηάζηαην δίθηπν θαλαιηώλ γηα ηε κεηαθνξά δεδνκέλσλ ζηα banks, επηηξέπνληαο έηζη ηελ αύμεζε ηνπ αξηζκνύ ηνπο, θαη επνκέλσο ηελ αύμεζε ησλ πην θνληηλώλ (άξα θαη πην γξήγνξσλ) banks. e)d-nuca (dynamic-nuca). Με ηε δπλακηθή απηή αξρηηεθηνληθή, πξνζπαζνύκε εθκεηαιιεπηνύκε ην γεγνλόο όηη ηα θνληηλόηεξα banks είλαη θαη εθείλα κε ην κηθξόηεξν ρξόλν πξνζπέιαζεο. Έηζη, επηηξέπνπκε ζηα δεδνκέλα λα ηνπνζεηεζνύλ ζε πεξηζζόηεξα από έλα banks, αιιά θαη έρνπλ ηε δπλαηόηεηα λα κεηαλαζηεύνπλ από ην έλα ζην άιιν. Απηό γίλεηαη ζε κηα πξνζπάζεηα λα κεηαθέξνπκε ηα δεδνκέλα εθείλα πνπ ρξεζηκνπνηνύληαη ζπρλόηεξα από ηνλ επεμεξγαζηή, ζηα πην γξήγνξα banks. Δπίζεο, ζηελ πεξίπησζε ηνπ cache miss, ε θαιύηεξε επηινγή ηνπ block πξνο αθαίξεζε από ηελ cache είλαη, πξνθαλώο, θάπνην πνπ βξίζθεηαη ζηα απνκαθξπζκέλα banks, αθνύ είλαη έλα από ηα ζπαληόηεξα ρξεζηκνπνηεκέλα. ηε ζπγθεθξηκέλε εξγαζία, παξνπζηάδεηαη ε κειέηε θαη ε πξνζπάζεηα γηα βειηίσζε κίαο δνκήο NUCA, ρξεζηκνπνηώληαο όκσο κία παξαπιήζηα αξρηηεθηνληθή ε νπνία παξνπζηάδεηαη εθηελέζηεξα παξαθάησ. Όπσο είλαη ινγηθό, ε εξγαζία απνηειεί εμνκνίσζε ηνπ πιηθνύ πνπ παξνπζηάδεηαη, θάλνληαο ρξήζε ηνπ εμνκνησηή Simplescalar. 19

20 3 ΤΛΟΠΟΙΗΗ 3.1 Γενική πποσέγγιση Ζ θαζπζηέξεζε ηνπ θαισδίνπ, ζπλερίδεη σο ζήκεξα λα απνηειεί ηνλ θύξην παξάγνληα πνπ επεξεάδεη ηελ θαζπζηέξεζε ζηηο κεγάιεο caches. Μία ιύζε, πνπ ήδε αλαθέξζεθε, είλαη ε NUCA. Παξ όιν, όκσο, πνπ ε ηδέα ηεο NUCA είλαη ειθπζηηθή, έρεη όκσο ην κεηνλέθηεκα όηη ηαπηίδεη ηελ ηνπνζέηεζε ησλ δεδνκέλσλ(data placement) κε ηελ ηνπνζέηεζε ηνπ tag (tag placement) κέζα ζηελ cache. Απηό ζεκαίλεη όηη ππάξρεη ν πεξηνξηζκόο θάπνηνπ ζπγθεθξηκέλνπ ζπλόινπ banks (bank set) κέζα ζηα νπνία κπνξνύλ λα ηνπνζεηεζνύλ θάζε θνξά ηα δεδνκέλα, ην νπνίν ζύλνιν θαζνξίδεηαη από ην tag ηνπ block πνπ πξνζπειαύλνπκε. Δπνκέλσο, κία NUCA κπνξεί λα ηνπνζεηήζεη κεξηθά κόλν blocks ελόο set ζηα γξήγνξα ζεκεία ηεο cache, ελώ ρξεηάδεηαη έλα δίθηπν κεγάινπ εύξνπο δώλεο γηα λα γίλνπλ νη αληηκεηαζέζεηο (swaps) ησλ blocks κεηαμύ ησλ αξγώλ θαη ησλ γξήγνξσλ banks (αλάινγα κε ηε ζπρλόηεηα ρξήζεο ηνπο) έηζη ώζηε λα επηηεπρζεί πςειή απόδνζε ηεο κλήκεο. ηελ παξνύζα εξγαζία, βαζηδόκαζηε ζε κία άιιε δνκή γηα ηελ L2 cache (level 2), πνπ νλνκάδεηαη Non-uniform access with Replacement And Placement using Distance associativity, ή απιά NuRAPID (3), ζηελ νπνία πξνζπαζνύκε λα δηαρσξίζνπκε ην tag placement από ην data placement. Άζρεηα δειαδή κε ην ζε πνην set αλήθεη ην block, ηα δεδνκέλα ηνπ block, ηα νπνία θαη νπζηαζηηθά ρξεηάδεηαη ν επεμεξγαζηήο, ηνπνζεηνύληαη ζε δηαθνξεηηθό ηκήκα ηεο cache θαη δηαρεηξίδνληαη αλεμάξηεηα θαη κε δηαθνξεηηθό ηξόπν. Γηα λα γίλεη πην θαηαλνεηό ζα δνζνύλ πεξηζζόηεξεο ιεπηνκέξεηεο ζηε ζπλέρεηα. Σε ιεηηνπξγία ηεο αξρηηεθηνληθήο απηήο ζα ζπγθξίλνπκε κε cache UCA, ζπλνινζπζρεηηζηηθή, ηεο νπνίαο ε πνιηηηθή αληηθαηάζηαζεο ησλ block είλαη ε LRU (Least Recently Used). ε έλα cache miss, δειαδή, από ην cache set αληηθαζίζηαηαη ην way (block) εθείλν πνπ ρξεζηκνπνηήζεθε ιηγόηεξν πξόζθαηα, γηα λα έξζεη από ηελ θύξηα κλήκε ην block πνπ ζα πεξηέρεη ηα δεδνκέλα πνπ ζα αληηζηνηρνύλ ζηε δηεύζπλζε πνπ ζα έρεη δεηεζεί από ηνλ επεμεξγαζηή. Δπίζεο, ζθνπόο καο είλαη λα εηζάγνπκε ζην κεραληζκό NuRAPID ηελ έλλνηα ηεο πξόβιεςεο ησλ blocks πνπ ζα ρξεηαζηεί ε ΚΜΔ ζην κέιινλ θαη λα αμηνπνηήζνπκε ηελ πιεξνθνξία απηή όζν ην δπλαηό θαιύηεξα. 20

21 3.2 Εισαγυγή Ζ ζπλερήο εμέιημε ζηε CMOS ηερλνινγία νδεγεί ζε ζπλερή αύμεζε ζηελ πνζόηεηα ησλ, νινέλα θαη κηθξόηεξσλ, transistors πνπ ππάξρνπλ ζε έλα chip. Ζ αύμεζε απηή όκσο, νδεγεί κε ηε ζεηξά ηεο ζε κεγαιύηεξεο θαζπζηεξήζεηο θαισδίνπ κέζα ζην chip (wire delay), αθνύ ρξεηάδεηαη πεξηζζόηεξν πιηθό γηα ηε δηαζύλδεζή ηνπο. Παξάιιεια, ε κεγάιε δηαζεζηκόηεηα απηή ζεκαίλεη θαη κεγαιύηεξεο ζε κέγεζνο κλήκεο, έηζη ην πξόβιεκα ηνπ wire delay ζα ζπλερίζεη λα είλαη ν βαζηθόο παξάγνληαο θαζπζηέξεζεο ησλ caches. ηα ζεκεξηλά ππνινγηζηηθά ζπζηήκαηα, ε L1 cache (ην πξώην επίπεδν cache ζηελ ηεξαξρία) είλαη κηθξή, άξα γξήγνξε, ελώ βξίζθεηαη θαη θνληηλόηεξα ζηνλ επεμεξγαζηή από ηα επόκελα (ρακειόηεξα) επίπεδα caches (L2,L3..), πνπ είλαη κεγαιύηεξα ζε κέγεζνο (άξα θαη κε κεγαιύηεξεο θαζπζηεξήζεηο. ε κία ηππηθή UCA cache όια ηα ζεκεία έρνπλ ίζνπο ρξόλνπο πξνζπέιαζεο. Έηζη, ν ρξόλνο πνπ απαηηείηαη γηα ηελ πξνζπέιαζε ηνπ πην απόκαθξνπ ζεκείνπ, θαζνξίδεη ην ρξόλν πξνζπέιαζεο ησλ ππνινίπσλ. Πξνθαλώο, ινηπόλ, απηή ε νκνηνκνξθία δε κπνξεί λα εθκεηαιιεπηεί ην γεγνλόο όηη θάπνηα ζεκεία βξίζθνληαη πην θνληά ζηνλ επεμεξγαζηή, νπόηε είλαη ινγηθό λα απαηηνύκε πην κηθξό ρξόλν πξνζπέιαζεο ζε απηά. Μία ζεκαληηθή ιύζε πνπ έρεη πξνηαζεί, όπσο είδακε θαη ζην ζρήκα 4, είλαη ε NUCA, θαη εηδηθόηεξα ε D-NUCA. Ζ ηδέα είλαη αθξηβώο λα εθκεηαιιεπηνύκε απηή ηελ δπλαηόηεηα γηα πνηθηιία ζηνπο ρξόλνπο πξνζπέιαζεο πνπ παξαηεξνύκε. Έηζη, πξνο απηή ηελ θαηεύζπλζε, ζηελ αξρηηεθηνληθή απηή πξνζπαζνύκε λα ηνπνζεηνύκε ζηα θνληηλά banks, δεδνκέλα πνπ ρξεζηκνπνηνύληαη ζπρλά από ηνλ επεμεξγαζηή, ελώ ηα δεδνκέλα πνπ ρξεζηκνπνηνύληαη ζπαληόηεξα, ηνπνζεηνύληαη αληίζηνηρα ζηα καθξηλά. Ζ ηδέα απηή είλαη πνιύ θαιή, όκσο ε ζρεδίαζε κίαο NUCA αληηκεησπίδεη ηα παξαθάησ πξνβιήκαηα, πνπ καο νδήγεζαλ ζηελ επηινγή ηεο NuRAPID. Γηα λα θαηαλνήζνπκε ηα πξνβιήκαηα, πξέπεη λα έρνπκε ζην λνπ ηα εμήο: γηα ηελ αλαγλώξηζε ηνπ block δεδνκέλσλ πνπ δεηάκε, απαξαίηεην είλαη κόλν ην πεδίν tag, από ηελ πξναλαθεξζείζα δηαίξεζε ηεο δηεύζπλζεο. ε δηαρείξηζε ησλ κεγάισλ ζε κέγεζνο caches, δηαθέξεη θαηά πνιύ από εθείλε ησλ κηθξώλ. (1) Tag search(αναζήτηση tag): Δλώ ζηηο κηθξέο caches ηα tag θαη data arrays 21

22 πξνζπειαύλνληαη παξάιιεια, ζηελ αλαδήηεζε θάπνηνπ block, ζηηο κεγάιεο caches ησλ ρακειόηεξσλ επηπέδσλ είλαη ζύλεζεο λα γίλεηαη πξώηα πξνζπέιαζε ζην tag array, θαη λα αθνινπζεί πξνζπέιαζε ζην data array κόλν ζηε γξακκή εθείλε πνπ αληηζηνηρεί ζην tag πνπ επηιέρζεθε πξνεγνπκέλσο. Δπηζεκαίλνπκε εδώ, όηη ν ρξόλνο πνπ δαπαλάηαη γηα λα πξνζπειάζνπκε ην tag array είλαη ζεκαληηθά κηθξόηεξνο από ηνλ αληίζηνηρν γηα ην data array. Απηό γίλεηαη εύθνια αληηιεπηό αλ ζθεθηνύκε πόζν ιηγόηεξνο ρώξνο είλαη απαξαίηεηνο γηα ηελ απνζήθεπζε ελόο κέξνπο ηεο δηεύζπλζεο ηνπ block, ζε ζρέζε κε ηελ απνζήθεπζε όισλ ησλ δεδνκέλσλ. Δηδηθά ζηηο κεγάινπ κεγέζνπο κλήκεο, ε δηαθνξά απηή ζην κέγεζνο είλαη αθόκα κεγαιύηεξε, δεδνκέλνπ όηη απνζεθεύνληαη πεξηζζόηεξα δεδνκέλα. Ζ πξνζπέιαζε ηνπ tag array, ινηπόλ, είλαη θαηά πνιύ ζπληνκόηεξε από ηνπ data array αιιά θαη ε παξάιιειε πξνζπέιαζε ησλ πηλάθσλ ζεκαίλεη κεγάιε θαηαλάισζε ελέξγεηαο. Πξνηηκάηαη, επνκέλσο, ε δηαδνρηθή tag-data array πξνζπέιαζε ησλ πηλάθσλ, αθνύ ζεσξνύκε ακειεηέα ηελ αύμεζε ζηε ρξνληθή θαζπζηέξεζε κπξνζηά ζην πνζό ελέξγεηαο πνπ εμνηθνλνκείηαη, ζε ζύγθξηζε κε ηελ παξάιιειε πξνζπέιαζή ηνπο. Παξ' όιν, όκσο, πνπ ε NUCA πξννξηδόηαλ γηα απηέο αθξηβώο ηηο κεγάιεο, ρακεινύ επηπέδνπ caches, δελ ρξεζηκνπνηεί δηαδνρηθή πξνζπέιαζε. Αληηζέησο, είηε ειέγρεη παξάιιεια ηα ways ζε θάζε bank, είηε δηαδνρηθά κελ ηα ways (μεθηλώληαο από ην πην θνληηλό, σο ζην πην καθξηλό), αιιά γηα θάζε way παξάιιεια ηα tag θαη data arrays. Αλ ζθεθηνύκε όηη νιόθιεξν ην tag array είλαη κηθξόηεξν από κία γξακκή ηνπ data array θαηαιαβαίλνπκε πόζν θεξδίδνπκε ζε ελέξγεηα κε ην δηαδνρηθό tag-data αλ ην δεηνύκελν δεδνκέλν δε βξεζεί ζην πξώην way. Γηα λα γίλεη πην θαηαλνεηό, αο ππνζέζνπκε γηα παξάδεηγκα όηη ην δεηνύκελν δεδνκέλν βξίζθεηαη ζην δεύηεξν way. Σόηε, αλ πξνζπειαύλνπκε θάζε way ζεηξηαθά ζα πξνζπειάζνπκε δύν tag ways (δύν γξακκέο tag) θαη δύν data ways, ελώ κε ηε δηαδνρηθή tag-data πξνζπέιαζε ζα πξνζπειάζνπκε πξώηα όιν ην tag array,θαη έπεηηα ην data way πνπ ρξεηαδόκαζηε. (2) Placement ( Τοποθέτηση tag data): Όπσο όιεο νη ππόινηπεο caches, έηζη θαη ε NUCA ζπζρεηίδεη ηελ ηνπνζέηεζε ησλ data γξακκώλ κε εθείλεο ησλ γξακκώλ ηνπ tag. Αλ νξίζνπκε σο distance-group (d-group) έλα ζύλνιν data γξακκώλ κε θνηλό ραξαθηεξηζηηθό ηνλ ίδην ρξόλν πξνζπέιαζεο, ηόηε ν παξαπάλσ ζπζρεηηζκόο ζεκαίλεη, πσο κόλν έλαο κηθξόο αξηζκόο ways από έλα cache set κπνξεί λα ηνπνζεηεζεί ζην γξεγνξόηεξν d-group. Γηα παξάδεηγκα, ζε κηα 16-way ζπλνινζπζρεηηζηηθή cache ( απηό ζεκαίλεη όηη θάζε set απνηειείηαη από16 blocks ), ν κηθξόο αξηζκόο απηόο κπνξεί λα ηζνύηαη κε 2 -δειαδή, 2 από 22

23 ηα 16 ways κπνξεί λα είλαη ηνπνζεηεκέλα ζην γξεγνξόηεξν d-group. Αλ ν αξηζκόο απηόο είλαη κεγαιύηεξνο ( ή έζησ ίζνο ) από ηνλ αξηζκό ησλ πην ζπρλά ρξεζηκνπνηνύκελσλ ways, ηόηε όλησο είλαη γξήγνξε ε πξνζπέιαζε ζηα ways απηά. Αλ όκσο θάηη ηέηνην δε ζπκβαίλεη, ηόηε θαηαιαβαίλνπκε πσο δελ είλαη όιεο νη πξνζπειάζεηο γξήγνξεο, παξ' όιν πνπ ην d- group κπνξεί λα είλαη ηθαλό λα ρσξέζεη όια ηα ways ηνπ ζεη. (3) Data Array Layout (Δομή τοσ Data Array): Ζ θαιύηεξε επηινγή γηα ηηο NUCA, όζν αθνξά ηα d-groups, είλαη λα δηαηξεζεί ε cache ζε πνιιά κηθξά d-groups ( π.ρ. πνιιά 64-ΚΒ d-groups). ηηο ζπκβαηηθέο caches, ηα bits ελόο cache block δηακνηξάδνληαη ζε δηάθνξα ζεκεία ηεο κλήκεο γηα αύμεζε ηεο απνδνηηθόηεηαο ηεο επηθάλεηαο. Απηό ζεκαίλεη όηη ε θαζπζηέξεζε αλάγλσζεο ελόο block ζα πνηθίιεη, αλάινγα κε ην ζε πνην ζεκείν βξίζθνληαη ηα bits πνπ δηαβάδνπκε. Ζ NUCA πξνζπαζεί λα ιύζεη ην πξόβιεκα, κε ηελ παξαπάλσ δηαίξεζε, απιώο όκσο πεξηνξίδεη ηε δηάζπαζε ηνπ block ζε κηθξόηεξε επηθάλεηα. (4) Bandwidth (Εύρος Ζώνης): Γηα λα ππνζηεξίμεη ηελ παξάιιειε αλαδήηεζε θαη ηηο γξήγνξεο αληηθαηαζηάζεηο δεδνκέλσλ κεηαμύ ησλ banks, αθόκα θαη ζηελ θαιύηεξε πινπνίεζε κίαο NUCA ρξεηάδεηαη κία multi-banked cache (cache πνιιώλ banks), άξα θαη έλα πεξίπινθν, κεγάινπ εύξνπο δώλεο δίθηπν θαλαιηώλ γηα ηε κεηαθνξά ησλ δεδνκέλσλ. Ζ πνιππινθόηεηα απηή ηεο δνκήο ηεο NUCA δελ αληηθαηνπηξίδεη ηηο πξαγκαηηθέο απαηηήζεηο ζε εύξνο δώλεο γηα κία cache ρακεινύ επηπέδνπ, αλ ζθεθηνύκε όηη ην πξαγκαηηθό εύξνο δώλεο πνπ απαηηεί ν επεμεξγαζηήο θαζνξίδεηαη από ηελ L1 cache, από ηελ νπνία θαη κεηαθέξνληαη νπζηαζηηθά ηα δεδνκέλα ζηνπο θαηαρσξεηέο ηνπ επεμεξγαζηή. Γηα ην πξόβιεκα (1), όπσο είπακε ρξεζηκνπνηνύκε ηε δηαδνρηθή tag-data array αλαδήηεζε, κε έλα θεληξηθό tag array, ηνπνζεηεκέλν θνληά ζηνλ επεμεξγαζηή. Γηα ην πξόβιεκα (2), θάλνπκε ηε παξαηήξεζε όηη απηή αθξηβώο ε δηαδνρηθή αλαδήηεζε, δίλεη ηε δπλαηόηεηα λα απνζπλδέζνπκε ηελ ηνπνζέηεζε δεδνκέλσλ (data placement) από ηελ 23

24 ηνπνζέηεζε ηνπ tag (tag placement). ηελ ελ ιόγσ αλαδήηεζε, αθνύ πξώηα ειεγρζεί ην tag array, είκαζηε ζε ζέζε λα θαζνξίζνπκε αθξηβώο ηε ζέζε ησλ δεδνκέλσλ, αθόκα θαη αλ δελ ππάξρεη θάπνηα ζπζρέηηζε κεηαμύ ηεο ζέζεο ηνπ tag ζην tag array θαη ησλ data ζην data array αληίζηνηρα. Ζ απνζύλδεζε απηή θάλεη δπλαηή ηε ρξήζε άιιεο πνιηηηθήο γηα ηνπνζέηεζε θαη αληηθαηάζηαζε δεδνκέλσλ, νη νπνίεο ζα αλαιπζνύλ παξαθάησ. Γηα ην data placement, εηζάγεηαη ε έλλνηα distance associativity, πνπ επηηξέπεη κία πνιύ επέιηθηε επηινγή d-group, ζε αληίζεζε κε ηελ πνιύ πεξηνξηζκέλε επηινγή πνπ πξνζθέξεη ε NUCA. Έηζη, όια πηα ηα ways ελόο hot set ( set όπνπ πνιιά ways δεηνύληαη ζπρλά από ηνλ επεμεξγαζηή) κπνξνύλ λα βξίζθνληαη ζην ίδην, πηζαλόλ απηό λα είλαη θαη ην πην γξήγνξν, d-group. Γηα λα έρνπλ ηε δπλαηόηεηα όια ηα sets λα ηνπνζεηνύληαη ζην πην γξήγνξν d-group, βαζηδόκαζηε ζηελ πνιηηηθή distance replacement, ελώ ε νξηζηηθή απνκάθξπλζε ελόο block από ηελ cache βαζίδεηαη αθόκα ζηελ πνιηηηθή αληηθαηάζηαζεο ησλ tag πνπ ρξεζηκνπνηνύηαλ ζην set (πρ. LRU tag replacement). Γηα ην πξόβιεκα (3), ρξεζηκνπνηνύληαη ιίγα, κεγαιύηεξα d-groups, ελ αληηζέζεη κε ηα πνιιά θαη κηθξά πνπ αλαθέξακε όηη ρξεζηκνπνηνύληαη ζηε NUCA. Δμ' αηηίαο ηεο απμεκέλεο ρσξεηηθόηεηαο ζηα d-groups αιιά θαη ηεο επέιηθηεο ηνπνζέηεζεο δεδνκέλσλ ζε απηά, ε πίεζε πνπ δέρεηαη ην γξεγνξόηεξν d-group είλαη ζεκαληηθά ρακειόηεξε. Δπίζεο, δε ρξεηάδεηαη λα αληηκεηαζέηνπκε (swap) blocks κεηαμύ ησλ d-groups ηόζν ζπρλά όζν ζε κηα NUCA. Παξ' όιν, ινηπόλ, πνπ ηώξα ηα d-groups είλαη κεγαιύηεξα θαη άξα πην αξγά από απηά ηεο NUCA, ε θαζπζηέξεζε απηή αληηζηαζκίδεηαη από ηε κείσζε ησλ swaps. Με ηε ζεηξά ηεο, ε κείσζε απηή ηεο κεηαθνξάο δεδνκέλσλ θαη ε απνθπγή ηεο παξάιιειεο αλαδήηεζεο ζηα arrays, κεηώλεη ηηο απαηηήζεηο ηεο αξρηηεθηνληθήο ζε εύξνο δώλεο αιιά θαη ηελ πνιππινθόηεηα ηνπ δηθηύνπ θαλαιηώλ, πνπ αλαθέξακε ζην πξόβιεκα (4). 24

25 3.3 Distance Associativity Στήμα 5. (3) Όπσο θαίλεηαη ζην ζρήκα 5, ζύκθσλα κε ηε NuRAPID cache, ην data array ρσξίδεηαη ζε θάπνηα d-groups, ηα νπνία έρνπλ δηαθνξεηηθνύο ρξόλνπο πξνζπέιαζεο. ηε δηάξθεηα ελόο cache access (κηαο πξνζπέιαζεο ηεο θξπθήο κλήκεο), ην tag array πξνζπειάζεηαη πξηλ πξνζπειαζηεί ην data array. Ζ απνζύλδεζε ηεο ηνπνζέηεζεο κεηαμύ ησλ δύν πηλάθσλ, επηηξέπεη ζε όια ηα blocks ελόο set λα βξεζνύλ είηε κέζα ζην ίδην d-group, όπσο ηα block A θαη block B ζην ζρήκα, είηε ζε δηαθνξεηηθά d-groups, όπσο ηα block C θαη block D. Πξέπεη λα ζεκεηώζνπκε όηη ν όξνο distance associativity ππνδειώλεη κία ελαιιαθηηθή πνιηηηθή ηνπνζέηεζεο όζν αθνξά ηα δεδνκέλα ησλ blocks ζηελ cache θαη δελ πξέπεη λα ζπγρέεηαη κε ηελ ηνπνζέηεζε ηνπ tag, ή κε ηνλ όξν set associativity πνπ ππνδειώλεη ηε ζέζε ηνπ block κέζα ζην set ( ζε κία n-way set-associative cache κόλν n blocks από έλα set κπνξνύλ λα απνηεινύλ γξακκέο ηνπ tag array ). Παξαθάησ ζα παξνπζηάζνπκε ηελ ηνπνζέηεζε θαη αληηθαηάζηαζε ζηα d-groups κε βάζε ηε distance associativity, εμεγώληαο παξάιιεια γηαηί πξνηηκάκε λα αζρνιεζνύκε κε ηελ αξρηηεθηνληθή απηή θαη όρη κε D-NUCA. 25

26 3.3.1 Distance-Associative Placement Γηα λα έρνπκε έλα επηηπρεκέλν ζύζηεκα κλήκεο, απώηεξνο ζηόρνο είλαη λα είκαζηε ζε ζέζε λα ηνπνζεηνύκε ηα ζπρλά πξνζπειάζηκα δεδνκέλα ζε ζεκείν πνπ λα είλαη δπλαηή ε γξήγνξε πξνζπέιαζή ηνπο. ε κία ζπκβαηηθή ηεξαξρία κλήκεο, απηό πξαγκαηνπνηείηαη κε ηελ ύπαξμε ησλ δεδνκέλσλ ζην πςειόηεξν επίπεδν. ε κία D-NUCA, γηα λα δηαπηζησζεί εάλ θάπνην block έρεη ζέζε ζην γξεγνξόηεξν d-group, ηνπνζεηείηαη αξρηθά ζην ρακειόηεξν ( αξγόηεξν ) d-group θαη κεηά από δηαδνρηθέο πξνζπειάζεηο ηνπ θηάλεη ζηαδηαθά σο ην πςειόηεξν ( γξεγνξόηεξν ). Μηαο θαη ζηε NUCA είλαη πεξηνξηζκέλνο ν ρώξνο ζηα d-groups, απηόο ν ζπληεξεηηθόο ηξόπνο κεηαθίλεζεο ησλ blocks είλαη απαξαίηεηνο. Σαπηόρξνλα όκσο, θνζηίδεη αξθεηά ζε επίδνζε θαη ζε θαηαλάισζε ελέξγεηαο αθνύ αθελόο όιεο νη αξρηθέο πξνζπειάζεηο ζηα blocks έρνπλ κεγάιε θαζπζηέξεζε ( βξίζθνληαη αξρηθά ζην ρακειό d- group), αθεηέξνπ όιεο απηέο νη κεηαθηλήζεηο πξνθαινύλ απμεκέλε θαηαλάισζε. Θα κπνξνύζακε αξρηθά λα ππνζέζνπκε όηη ηνπνζεηώληαο από ηελ αξρή έλα block ζην πην γξήγνξν d-group, αληί γηα ην πην αξγό, ζα έιπλε απηά ηα πξνβιήκαηα. Με κηα δεύηεξε ζθέςε, όκσο, απηό ζα απαηηνύζε ηελ ππνβάζκηζε ελόο ζπρλά δεηνύκελνπ block ζε ρακειόηεξα d-groups ζηελ πεξίπησζε ηνπ cache miss. Καηαιαβαίλνπκε πσο είλαη ζεκαληηθό λα κε ξηζθάξνπκε ηηο ζέζεηο ηνπ γξήγνξνπ d-group ζε blocks πνπ κπνξεί λα πξνζπειαζηνύλ ιίγεο θνξέο. Αληίζεηα ζηε NuRAPID, όηαλ πξνβηβάδνπκε block δελ είλαη αλάγθε λα ππνβηβάδνπκε αληίζηνηρα θάπνην πνπ αλήθεη ζην ίδην set, αθνύ κπνξνύλ όια λα είλαη ζην ίδην d-group ηαπηόρξνλα. ηελ πξάμε, γηα ηε δεηνύκελε απνζύλδεζε ησλ tag θαη data arrays, εηζάγνπκε έλαλ κπξνζηά δείθηε ( forward pointer ), πνπ επηηξέπεη θάζε γξακκή ηνπ tag array λα δείρλεη ζε κία απζαίξεηε ζέζε ζε θάπνηνλ ππνπίλαθα ηνπ data array, όπσο θαίλεηαη θαη ζην ζρήκα 5. Γηα παξάδεηγκα, ζην ζρήκα, ην block A έρεη έλα δείθηε forward πξνο ην πιαίζην1 ηνπ d-group0 ( ζα ην ζπκβνιίδνπκε d-group0/πιαηζην1 ). Δπζηνρία ζην tag ( tag match ) ζπκβαίλεη κε ίδην ηξόπν όπσο θαη ζε κία UCA. ε έλα tag match ηώξα, εθηόο από ην ζήκα πνπ ππνδειώλεη ηελ επζηνρία, επηζηξέθεηαη θαη ν forward δείθηεο πνπ είλαη απαξαίηεηνο γηα ηελ εύξεζε ησλ αληίζηνηρσλ δεδνκέλσλ ζην data array. Ζ κόλε επίπησζε ηεο πξνζζήθεο ηνπ λένπ απηνύ δείθηε είλαη όηη ν πίλαθαο tag είλαη ειάρηζηα κεγαιύηεξνο. 26

27 3.3.2 Distance-Associative Replacement ηηο ζπλεζηζκέλεο caches, ην πξόβιεκα αληηθαηάζηαζεο επηθεληξώλεηαη ζην tag replacement, ζηελ επηινγή δειαδή ηνπ block εθείλνπ πνπ πξέπεη λα θύγεη ηειείσο από ηελ cache ζε πεξίπησζε cache miss. Ο όξνο distance associativity ( ζπζρέηηζε κε ηελ απόζηαζε από ηνλ επεμεξγαζηή ) πξνζδίδεη κία λέα δηάζηαζε πνπ αθνξά ηελ αληηθαηάζηαζε ελόο καθξηλνύ block κε έλα θνληηλόηεξν (distance replacement). Αληίζεηα κε ην tag replacement, ην distance replacement δελ απνθαζίδεη αθαίξεζε θάπνηνπ block από ηελ cache, αιιά θάλεη αληηκεηάζεζε κεηαμύ θάπνησλ. Γε ζα είρε λόεκα ν όξνο distance replacement ζε κία ζπλεζηζκέλε cache (UCA), αθνύ όια ηα blocks είλαη ηζάμηα, δεδνκέλνπ όηη ν ρξόλνο πξνζπέιαζεο είλαη παληνύ ν ίδηνο. ε κία NUCA, επίζεο, ην block πνπ αθαηξείηαη από ηελ cache είλαη εθείλν πνπ βξίζθεηαη ζην πην καθξηλό d-group. Γεδνκέλνπ όηη ην block πξνβηβάδεηαη ζε ηαρύηεξα d-groups όζν πεξηζζόηεξν ρξεζηκνπνηείηαη, θαη ππνβηβάδεηαη ζε πην αξγά όζν κέλεη αρξεζηκνπνίεην, είλαη εύθνια αληηιεπηό όηη δελ αθαηξείηαη απαξαίηεηα, κε ηε ζηξαηεγηθή απηή, πάληα ην LRU block. ην NuRAPID, όηαλ έλα block πξέπεη λα ηνπνζεηεζεί ζε θάπνην d-group, θάπνην άιιν block πξέπεη λα εθδησρζεί από ην ίδην d-group, ην νπνίν κπνξεί λα κελ αλήθεη ζην ίδην cache set κε εθείλν πνπ ζα εηζαρζεί. Αο πξνζπαζήζνπκε λα ην θάλνπκε πην θαηαλνεηό κε έλα παξάδεηγκα πνπ θαίλεηαη ζην παξαθάησ ζρήκα: Στήμα 6. (3) 27

28 Έζησ όηη ε cache έρεη 3 d-groups, ζεσξώληαο ην d-group 0 σο ην γξεγνξόηεξν. Τπνζέηνπκε όηη ζπκβαίλεη έλα cache miss θαη ην block A πξέπεη λα ηνπνζεηεζεί ζηελ cache. Πξώηνλ, πξέπεη λα δεκηνπξγεζεί ρώξνο ζην tag array γηα ην set ζην νπνίν αλήθεη ην Α. Έζησ όηη ην block πνπ πξέπεη λα θύγεη από ην ελ ιόγσ set είλαη ην Ε, ρξεζηκνπνηώληαο θάπνηα ζπλεζηζκέλε πνιηηηθή αληηθαηάζηαζεο. Γεκηνπξγείηαη έηζη θαη έλα θελό θάπνπ κέζα ζηα d-groups εδώ απηό ζπκβαίλεη ζην d-group1. ύκθσλα κε ηελ πνιηηηθή ηνπνζέηεζεο πνπ παξνπζηάζακε πξνεγνπκέλσο, ην λενεηζαρζέλ block A πξέπεη λα ηνπνζεηεζεί ζην d-group0. Δθηόο ινηπόλ θαη αλ ππάξρεη θάπνην άδεην πιαίζην ζην d-group0, θάπνην block από ην d-group0 πξέπεη λα αληηθαηαζηαζεί, ή πην ζσζηά λα κεηαθηλεζεί. Ζ πνιηηηθή αληηθαηάζηαζεο βάζεη ηεο απόζηαζεο πνπ αθνινπζείηαη (distance replacement policy) επηιέγεη απηό αθξηβώο ην block από ην d-group0, ην νπνίν κπνξεί είηε λα αλήθεη ζην ίδην set κε ην Α, είηε όρη. ' απηήλ ηελ πεξίπησζε, επηιέγεηαη γηα ππνβηβαζκό από ην d- group0 ζην d-group1 ην Β, ην νπνίν αλήθεη ζε δηαθνξεηηθό set. Γηα λα γίλεη ν ππνβηβαζκόο ηνπ Β, πξέπεη λα ελεκεξώζνπκε ηνλ forward δείθηε ηνπ λα δείρλεη ζηε λέα ηνπ ηνπνζεζία. Οπόηε βξίζθνπκε ηελ γξακκή ζην tag array πνπ αληηζηνηρεί ζην Β. ε κία ζπλεζηζκέλε cache, δελ ππάξρεη θάπνηνο δείθηεο από θάπνηα γξακκή ζην data array πνπ λα δείρλεη ζηελ αληίζηνηρε ζέζε ηνπ block ζην tag array, γηα ην ιόγν όηη ε κία ζέζε ζπλεπάγεηαη ηελ άιιε. ηε NuRAPID όκσο, αθνύ νη δύν πίλαθεο είλαη απνζπλδεδεκέλνη σο πξνο ηηο ζέζεηο, εηζάγνπκε έλαλ πίζσ δείθηε (reverse pointer) ζην θάζε πιαίζην ησλ d-groups, ν νπνίνο δείρλεη ηε ζέζε ηνπ tag ηνπ block πνπ βξίζθεηαη ζην πιαίζην απηό (ζρήκα 5). Άξα, ν reverse δείθηεο κπνξεί λα δείμεη ζε νπνηαδήπνηε ζέζε κέζα ζηνλ tag array, όπσο αθξηβώο ν forward δείθηεο κπνξεί λα δείμεη ζε νπνηνδήπνηε πιαίζην νπνηνπδήπνηε d-group. Ο ππνβηβαζκόο νινθιεξώλεηαη όηαλ ην Β ηειηθά κεηαθηλεζεί ζην θελό πηα πιαίζην ηνπ d- group1 (πνπ δεκηνπξγήζεθε κε ηελ έμνδν ηνπ Ε). Αλ δελ ππήξρε θελό πιαίζην ζην d-group1, ε πνιηηηθή ηνπ distance-replacement ζα ην δεκηνπξγνύζε ππνβηβάδνληαο θάπνην άιιν block ζην d- group2. Πνηέ όκσο, ην distance replacement πνπ αθνινπζείηαη, δε αθαηξεί block από ηελ cache. 28

29 πλνπηηθά ε παξαπάλσ δηαδηθαζία θαίλεηαη ζην ζρήκα 7: Στήμα 7. (3) Βελτιςτοποίηςη για την τοποθέτηςη και την αντικατάςταςη ςτα d-groups Θα δνύκε θάπνηεο αιιαγέο πνπ κπνξνύλ λα βειηηώζνπλ ηελ απόδνζε ηεο NuRAPID θαη λα κεηώζνπλ ηελ πνιππινθόηεηα ηεο πινπνίεζεο. Οη πνιηηηθέο ησλ distance placement θαη distance replacement πνπ παξνπζηάζηεθαλ, ππνζέηνπλ όηη έλα block αξρηθά ηνπνζεηείηαη ζε πην γξήγνξν d-group θαη ζηαδηαθά ππνβηβάδεηαη (πνιηηηθή σποβιβασμο ). Γελ ππάξρεη ε αληίζηνηρε έλλνηα ηνπ πξνβηβαζκνύ από έλα αξγό d-group ζε έλα γξεγνξόηεξν. Πξνθαλώο θάηη ηέηνην δελ είλαη ζεκηηό, αθνύ ππάξρεη ε πηζαλόηεηα έλα ζπρλά πξνζπειάζηκν block λα θνιιήζεη ζε έλα αξγό d-group. Γύν βειηηζηνπνηήζεηο κπνξνύλ λα αθνινπζεζνύλ. Next-fastest πολιτική: όηαλ έλα block ζε νπνηνδήπνηε d-group πξνζπειαύλεηαη, 29

30 πξνβηβάδεηαη ζην ακέζσο γξεγνξόηεξν d-group, ππνβηβάδνληαο αληίζηνηρα ην LRU-block ηνπ d- group απηνύ. Fastest πολιτική: κεηά ηελ πξνζπέιαζε θάπνηνπ block, ην κεηαθηλνύκε ζην γξεγνξόηεξν d-group, ππνβηβάδνληαο δηαδνρηθά blocks κέρξη ην d-group πνπ αλήθε ην block πνπ πξνζπειάζηεθε. Γεδνκέλνπ όηη ην θάζε block όηαλ εηζέξρεηαη γηα πξώηε θνξά ζηελ cache ηνπνζεηείηαη ζην γξεγνξόηεξν d-group, επηιέγνπκε ηελ next-fastest πνιηηηθή ζεσξώληαο όηη γηα λα έρεη ππνβαζκηζηεί θάπνην block ζεκαίλεη όηη έρεη πεξάζεη αξθεηό ρξνληθό δηάζηεκα από ηελ ηειεπηαία ηνπ πξνζπέιαζε. Δπνκέλσο είλαη άζθνπν λα ηνπνζεηήζνπκε ζην πην γξήγνξν d-group block πνπ δελ είλαη ζίγνπξν όηη ζα ρξεζηκνπνηεζεί, απνθεύγνληαο έηζη ηα πνιιά swaps πνπ απαηηνύληαη από ηελ fastest πνιηηηθή αληηθαηάζηαζεο. 3.4 Επιλογή πολιτικών για αντικατάσταση στην cache και αντικατάσταση μεταξύ τυν d-groups (Tag και Distance replacement) Γηα ηελ αθαίξεζε θάπνηνπ block από ηελ cache θαη ηελ αληηθαηάζηαζή ηνπ ζην cache set (tag replacement), ρξεζηκνπνηήζακε θαη ζπγθξίλακε δύν πνιηηηθέο. Ζ πξώηε είλαη ε πνιηηηθή πξαγκαηηθνύ LRU (true-lru) ε νπνία ρξεζηκνπνηείηαη ζην κεραληζκό ηνπ NuRAPID πνπ είρε πξνηαζεί παιαηόηεξα (lru tag replacement). Απηό ζεκαίλεη όηη από ηελ cache, ζε πεξίπησζε cache miss, εθδηώρλεηαη από ην set ην block εθείλν πνπ ρξεζηκνπνηήζεθε καθξηλόηεξα ζην ρξόλν από ηα ππόινηπα (LRU-block). Ζ δεύηεξε πνιηηηθή θάλεη ρξήζε ηεο πξόβιεςεο (prediction tag replacement). Υξεζηκνπνηνύκε έλα κεραληζκό, πνπ πινπνηείηαη ζε θώδηθα ζην εξγαιείν SimpleScalar, γηα λα πξνβιέςνπκε ζε πόζεο πξνζπειάζεηο ππάξρεη πηζαλόηεηα λα μαλαρξεζηκνπνηεζεί ε θάζε γξακκή. Δπηιέγνπκε αλ ζα δηώμνπκε από ηελ cache είηε ην LRU είηε εθείλν πνπ ζα ρξεζηκνπνηεζεί, όπσο πξνβιέπνπκε, αξγόηεξα ζην κέιινλ. Γηα ηελ αληηθαηάζηαζε κεηαμύ ησλ d-groups, είηε εάλ κπαίλεη ζην d-group έλα εληειώο λέν block (distance placement), είηε εάλ ην block ζα αληηθαηαζηαζεί ιόγσ swap (distance replacement), επίζεο ρξεζηκνπνηνύληαη θαη ζπγθξίλνληαη δύν πνιηηηθέο αληίζηνηρεο κε εθείλεο ηνπ tag replacement. Πξώηνλ, όπσο είρε πξνηαζεί από ην NuRAPID, από ην d-group αθαηξείηαη ε LRU 30

31 γξακκή. Ζ δεύηεξε πνιηηηθή απνηειεί κία πξνζπάζεηα γηα βειηίσζε ηεο πξνεγνύκελεο αληίζηνηρε κε εθείλε ηεο πνιηηηθήο κε πξόβιεςε ζην tag replacement. Έηζη ε επηινγή ηνπ block αληηθαηάζηαζεο έγθεηηαη ζηελ επηινγή κεηαμύ ηνπ LRU-block θαη εθείλνπ πνπ πξνβιέπνπκε όηη ζα ρξεζηκνπνηεζεί καθξηλόηεξα ζην κέιινλ. Γηα λα κπνξνύκε λα δηαρσξίδνπκε ηνπο κεραληζκνύο παξαθάησ, ζα νλνκάζνπκε δηαθνξεηηθά ηελ θάζε παξαιιαγή ηνπ NuRAPID: - Γηα lru tag replacement θαη lru data placement/replacement ζα αλαθεξόκαζηε σο - γηα prediction tag replacement θαη lru data placement/replacement σο NuRAPID_pt_ld - γηα lru tag replacement θαη prediction data placement/replacement σο NuRAPID_lt_pd - θαη γηα prediction tag replacement θαη prediction data placement/replacement σο NuRAPID_pt_pd ηα πιαίζηα ηεο εξγαζίαο απηήο κειεηήζακε ηε ζπκπεξηθνξά ησλ παξαπάλσ αξρηηεθηνληθώλ γηα ην δεύηεξν επίπεδν cache θαη ζπγθξίλακε ηηο απνδόζεηο ηνπο. Πην ζπγθεθξηκέλα ζπγθξίλακε αξρηθά κηα UCA cache κε ην κεραληζκό NuRAPID, όπσο απηόο είρε πξνηαζεί παιαηόηεξα θαη ηνλ νπνίν αλαιύζακε πξνεγνπκέλσο (), γηα λα δνύκε αξρηθά πόζε βειηίσζε ζηελ απόδνζε επηθέξεη ζε ζρέζε κε ηε UCA. Καηόπηλ, ζπγθξίλνπκε ην κε ην NuRAPID_pt_ld. Έπεηηα ην κε ην NuRAPID_lt_pd γηα λα θαηαιήμνπκε ηειηθά ζην ζηόρν ηεο εξγαζίαο, πνπ είλαη θαη λα ζπγθξίλνπκε ην κε ην NuRAPID_pt_pd θαη λα δνύκε ηειηθά ζπλνιηθά ην αλ βειηηώλνπκε ηε ιεηηνπξγία ηνπ NuRAPId_lt_ld αληηθαζηζηώληαο ηε ινγηθή LRU κε εθείλε πνπ θάλεη ρξήζε ηεο πξόβιεςεο. Ζ πινπνίεζε ησλ παξαπάλσ πνιηηηθώλ ζε θώδηθα, γηα ηελ εμνκνίσζε ηεο αξρηηεθηνληθήο πνπ κειεηάκε ζηελ παξνύζα εξγαζία, παξαηίζεηαη ζηε ζπλέρεηα. 31