Συστήματα σε Ολοκληρωμένα Κυκλώματα

Συστήματα σε Ολοκληρωμένα Κυκλώματα Κεφάλαιο 3: Δίκτυα σε Ολοκληρωμένα Κυκλώματα (Networks on Chip) Διδάσκων: Καθηγητής Οδυσσέας Κουφοπαύλου Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών

ΕΙΣΑΓΩΓΗ Παρουσιάζεται μια μεθοδολογία για το σχεδιασμό διασύνδεσης των μονάδων του συστήματος που ικανοποιεί τις απαιτήσεις για αξιόπιστο σχεδιασμό κάτω από τους περιορισμούς που τίθενται από το φυσικό σχεδιασμό

Τεχνολογικές Τάσεις Καθώς η τεχνολογία εξελίσσεται, η συχνότητα λειτουργίας και η πυκνότητα των τρανζίστορ θα συνεχίσουν να αυξάνονται κάνοντας την κατανάλωση ενέργειας και την αποβολή θερμότητας σημαντικά ζητήματα στο σχεδιασμό ολοκληρωμένων Την ίδια στιγμή η εξωτερική τάση θα μειώνεται αυξάνοντας τον παράγοντα κατανάλωσης ισχύος εξαιτίας του leakage current Οι τεχνικές της δυναμικής διαχείρισης ισχύος (dynamic power management) καλούνται να ικανοποιήσουν τους περιορισμούς σε ενέργεια του συστήματος Η τεχνολογία των συστημάτων εξελίσσεται και είναι δύσκολο να αποδοθεί η λειτουργία τους με ντετερμινιστικά μοντέλα

Νέες σχεδιαστικές προσεγγίσεις στα SoCs Ο σχεδιασμός SoC θα βασίζεται σε δεκάδες, αν όχι εκατοντάδες μονάδων επεξεργασίας πληροφορίας που θα επικοινωνούν μεταξύ τους Ο κεντρικός έλεγχος θα είναι μη λειτουργικός γιατί σε αυτή την περίπτωση θα έπρεπε να κατέγραφε την κατάσταση της κάθε μονάδας O κεντρικός έλεγχος θα αποκεντρωθεί και η συνεισφορά του θα είναι μικρή

Νέες σχεδιαστικές προσεγγίσεις στα SoCs Για την αντιμετώπιση των παραπάνω θεμάτων μπορούμε να δανειστούμε μοντέλα από το σχεδιασμό δικτύων Με άλλα λόγια, βλέπουμε το SoC σαν μια μικρογραφία δικτύου

Νέες σχεδιαστικές προσεγγίσεις στα SoCs

Νέες σχεδιαστικές προσεγγίσεις στα SoCs Τα SoCs διαφέρουν από τα μεγάλα δίκτυα εξαιτίας της εγγύτητας και επειδή είναι πολύ πιο προβλέψιμα Τα τοπικά και μεγάλης απόδοσης δίκτυα έχουν χαρακτηριστικά πιο κοντά στα SoCs

Νέες σχεδιαστικές προσεγγίσεις στα SoCs Ενώ με τη μείωση της τεχνολογίας η ενέργεια για υπολογισμούς και για αποθήκευση ελαττώνεται, η ενέργεια εξαιτίας των διασυνδέσεων δεν επηρεάζεται Επομένως η ενέργεια για επικοινωνία με άλλες μονάδες θα αποτελέσει μεγάλο θέμα στο μέλλον

Μετάδοση σήματος στα SoC Τα καλώδια (bus wire) είναι το μέσο επικοινωνίας στα SoCs Μεγάλο μέρος της ενέργειας ενός συστήματος οφείλεται στη διασύνδεση εξαιτίας της κεντρικής καλωδίωσης ενώ μπορούμε να παραλείψουμε την καλωδίωση των εσωτερικών στοιχείων Υπάρχουν δέκα επίπεδα καλωδίωσης Τα καλώδια στο πιο υψηλό επίπεδο (global wiring) είναι τα παχύτερα και τα πλατύτερα

Σηματοδοσία φυσικού επιπέδου Οι τεχνικές σηματοδοσίας σε φυσικό επίπεδο για γραμμές μετάδοσης με απώλειες έχουν μελετηθεί εδώ και χρόνια κυρίως από μηχανικούς μικροκυμάτων Μη αμελητέα αντίσταση γραμμής προκαλεί απόσβεση του σήματος και διασπορά στη συχνότητα των γρήγορων σημάτων μειώνοντας τη συνολική απόδοση Για την αύξηση του bandwidth εισάγονται καταχωρητές

Σηματοδοσία φυσικού επιπέδου Η σηματοδοσία για κεντρική επικοινωνία αναπτύσσεται τα τελευταία χρόνια Υψηλής αποδοτικότητας επικοινωνία επιτυγχάνεται μειώνοντας το voltage swing, γεγονός που χαμηλώνει την κατανάλωση ισχύος

Παράδειγμα 1 Χαμηλού swing οδηγοί και δέκτες χρησιμοποιούνται πλέον στα σύγχρονα ολοκληρωμένα κυκλώματα Οι γραμμές των (SRAM) χρησιμοποιούν διαφορικό, προφορτισμένο, lowswing σχήμα σηματοδοσίας ώστε να βελτιστοποιηθεί η απόδοση και η κατανάλωση ισχύος του συστήματος. Ο εκπομπός αποτελείται από προφορτισμένα τρανζίστορ και από το cell. O δέκτης είναι ένας αισθητήρας (sense amplifier) στο τέλος της σύνδεσης. Κατά τη διάρκεια της ανάγνωσης SRAM, το επιλεγμένο κύτταρο συνδέεται στη γραμμή και «τραβά» ένα μικρό ρεύμα εκφόρτισης. Μια μικρή διαφορική διακύμανση (e.g., 100 mv) από την προφορτισμένη τιμή των γραμμών είναι αρκετή έτι ώστε ο δέκτης να ανιχνεύσει την τιμή της πληροφορίας που αποθηκεύτηκε στο κύτταρο Ένα καλά σχεδιασμένο SRAM κύκλωμα που βασίζεται σε αυτό το σύστημα σηματοδοσίας είναι 10 φορές γρηγορότερο και περίπου δύο τάξεις μεγέθους περισσότερο ενεργειακά αποδοτικό

Παράδειγμα 2 Η δυναμική μείωση της τάσης μπορεί να εφαρμοστεί στα καλώδια διασύνδεσης με σκοπό τη μείωση του voltage swing όσο είναι δυνατό, ενώ η πληροφορία να μεταδίδεται σωστά. Οι Worm et al. σχεδίασαν ένα σύστημα ανάδρασης όπου ελέγχεται το voltage swing στα καλώδια (busses) για μια επικοινωνιακή σύνδεση παρατηρώντας τον ρυθμό λαθών της πληροφορίας. Επιπλέον το σχήμα αυτό υποστηρίζει επαναμετάδοση χαμένης πληροφορίας. Αυτή η λογική είναι χρήσιμη γιατί το voltage swing τίθεται ανάλογα με τις συνθήκες λειτουργίας του SoC

Ακεραιότητα Σήματος Στις παρούσες τεχνολογίες υποθέτουμε πως τα περισσότερα ολοκληρωμένα κυκλώματα είναι σχεδιασμένα κάτω από τη θεώρηση ότι τα ηλεκτρικά σήματα μπορούν πάντα να μεταδίδουν πληροφορία χωρίς λάθη Στο μέλλον αυτή η θεώρηση θα είναι ακόμη λιγότερο ευσταθής

Ακεραιότητα Σήματος Τα Signal swings πρόκειται να μειωθούν Το Crosstalk θα αυξηθεί Electromagnetic interference (EMI)

Αρχιτεκτονική διασύνδεσης και έλεγχος Ο σχεδιασμός δικτύων συνιστά τις προδιαγραφές των αρχιτεκτονικών δικτύου και των πρωτοκόλλων ελέγχου. Η αρχιτεκτονική συνιστά την τοπολογία και τη φυσική διασύνδεση του δικτύου ενώ τα πρωτόκολλα καθορίζουν την χρήση των πόρων των δικτύων Ενώ τα δίκτυα όσο και τα συστήματα έχουν ανάγκη για υψηλή απόδοση, τα δίκτυα δεν έχουν μεγάλη ανάγκη για χαμηλή κατανάλωση ενέργειας

SHARED-MEDIUM Δίκτυα Οι περισσότερες διασυνδέσεις πάνω σε SoC αρχιτεκτονικές ακολουθούν την τεχνική του κοινού μέσου (shared-medium class). Αυτή είναι η πιο απλή τακτική όπου όλες οι μονάδες μοιράζονται το ίδιο μέσο-κανάλι επικοινωνίας Μόνο μια συσκευή μπορεί να έχει πρόσβαση κάθε φορά

SHARED-MEDIUM Δίκτυα Κάθε συσκευή συνδέεται στο δίκτυο έχει μια διεπαφή δικτύου, ένα σύστημα αιτήσεων για πρόσβαση στο μέσο (requester), έναν οδηγό και κυκλώματα εκπομπού. Βασικό θέμα στο σχεδιασμό αρχιτεκτονικών κοινού μέσου είναι οι τακτικές διαιτησίας. Μια άλλη σημαντική ιδιότητα είναι η υποστήριξη broadcast μετάδοσης όπου λίγοι εκπομποί απευθύνονται σε πολλούς δέκτες

SHARED-MEDIUM Δίκτυα Μια κρίσιμη σχεδιαστική επιλογή για τους διαύλους των τσιπ είναι η επιλογή σύγχρονης ή ασύγχρονης λειτουργίας Στη σύγχρονη λειτουργία όλες οι διεπαφές των διαύλων συγχρονίζονται με ένα κοινό ρολόι, ενώ στην ασύγχρονη κάθε μονάδα έχει το δικό της ρολόι και πρωτόκολλα χειραψίας είναι υπεύθυνα για το συγχρονισμό. Αυτή τη στιγμή η τακτική που προτιμάται στα εμπορικά προϊόντα είναι η σύγχρονη

SHARED-MEDIUM Δίκτυα Μηχανισμοί διαιτησίας της πρόσβασης στο μέσο είναι απαραίτητοι όταν επεξεργαστες προσπαθούν την ίδια στιγμή να χρησιμοποιήσουν το δίαυλο Η μονάδα bus arbiter module είναι αυτή που δίνει δικαίωμα σε έναν επεξεργαστή κάθε φορά να προσπελάσει το μέσο.

SHARED-MEDIUM Δίκτυα Η διαιτησία όμως ώστε να ελέγχεται η πρόσβαση στο μέσο, μειώνει την απόδοση του συστήματος Μεγάλη προσπάθεια γίνεται για λύση αυτού του προβλήματος Πρωτόκολλα και μηχανισμοί του συστήματος προσπαθούν να επιλύσουν το πρόβλημα διαιτησίας χωρίς να μειώνεται η απόδοση του συστήματος

Παράδειγμα 3 Πολύ συνηθισμένο πρότυπο διαύλων είναι το AMBA 2.0 το οποίο έχει σχεδιαστεί για την οικογένεια των ARM. Το AMBA εμπεριέχει το υψηλής απόδοσης πρωτόκολλο διαύλων (AHB) το οποίο συνδέει ARM cores και on-chip RAM. Ο δίαυλος υποστηρίζει ξεχωριστές μεταδόσεις δεδομένων και διευθύνσεων Ο «διαιτητής» (arbiter) αποφασίζει για τις προτεραιότητες όταν οι αιτήσεις συγκρούονται. Επιτρέπονται πολλαπλές μεταδόσεις αλλά σε περιορισμένη κλίμακα

Παράδειγμα 4 Το Lucent Daytona chip είναι ένας multiprocessor που εμπεριέχει τέσσερις 64-bit λειτουργικές μονάδες. Αυτές οι μονάδες δημιουργούν πακέτα πληροφορίας διαφορετικού μήκους. Έχει επιλεγεί ένας δίαυλος των 128-μπιτ Οι μεταδόσεις πολλών μπιτ «κομματιάζονται» σε μικρότερα πακέτα, έτσι ώστε το bandwidth να χρησιμοποιείται καλύτερα Υποστηρίζονται πολλαπλές μεταδόσεις δεδομένων όπου η κάθε μετάδοση έχει και ένα ξεχωριστό ID. Αυτή η τακτική διατηρεί την απόδοση του συστήματος υψηλή.

DIRECT ΚΑΙ INDIRECT ΔΙΚΤΥΑ Το direct ή point-to-point δίκτυο είναι μια αρχιτεκτονική δικτύου η οποία λύνει πολλά από τα προβλήματα των δικτύων κοινού μέσου Σε αυτή την αρχιτεκτονική κάθε κόμβος συνδέεται απευθείας με ένα σύνολο γειτονικών κόμβων που ονομάζονται γειτονικοί Οι κόμβοι είναι μονάδες οι οποίες εμπεριέχουν μια ενσωματομένη διεπαφή με το δίκτυο, συνήθως καλείται router Κάθε router είναι συνδεδεμένος με τους router των γειτονικών κόμβων Όπως ο αριθμός των κόμβων αυξάνει, αυξάνει και η συνολική απόδοση του συστήματος

DIRECT ΚΑΙ INDIRECT ΔΙΚΤΥΑ Τα Indirect ή switch-based δίκτυα είναι μια εναλλακτική λύση για σχεδιασμό διασύνδεσης Σε αυτά τα δίκτυα, μια σύνδεση μεταξύ των κόμβων πραγματοποιείται με ένα σύνολο διακοπτών Μερικές φορές η διαφορά μεταξύ των routers και των διακοπτών είναι θολή

DIRECT ΚΑΙ INDIRECT ΔΙΚΤΥΑ Παράδειγμα switch-based δικτύου είναι τα FPGAs. Τα FPGAs εμπεριέχουν μεγάλο αριθμό διασυνδεδεμένων μονάδων Διαφέρουν όμως από τα SoC micronetworks εξαιτίας της μεγάλης ομοιογένειάς τους

DIRECT ΚΑΙ INDIRECT ΔΙΚΤΥΑ Η ιδέα όμως της δυναμικής επαναπροσδιορισιμότητας των FPGAs εφαρμόζεται και στο σχεδιασμό των micronetworks. Τα Reconfigurable micronetworks βασίζονται σε προγραμματιζόμενους routers ή/και switches.

DIRECT ΚΑΙ INDIRECT ΔΙΚΤΥΑ Οι μονάδες επεξεργασίας στα FPGAs υλοποιούν πράξεις σε μπιτ επίπεδο Τα επικοινωνιακά κανάλια στα FPGAs είναι ισοδύναμα με τα καλώδια που συνδέουν λογικές πύλες. Στα μελλοντικά SoCs όπου θα εμπεριέχονται πιο πολύπλοκες μονάδες επεξεργασίας η διασύνδεση θα είναι και πιο σύνθετη Οι απαιτήσεις σε επικοινωνία μεταξύ των μονάδων και η πολυπλοκότητα των ίδιων των μονάδων έχει συνέπεια και τη μεγάλη πολυπλοκότητα του δικτύου διασύνδεσης Από την άλλη η πολυπλοκότητα εισάγει μεγάλο βαθμό ελευθερίες και περιθώρια για βελτιστοποιημένη επικοινωνία

Παράδειγμα 1 Τα Xilinx SpartanII FPGA ολοκληρωμένα είναι σειρές από επαναπροσδιοριζόμενα λογικά μπλοκ (CLBs). Κάθε μπλοκ μπορεί να προγραμματιστεί ώστε να εκτελείται μια ειδική λογική συνάρτηση Τα CLBs είναι συνδεδεμένα μέσω μιας ιεραρχίας καναλιών διασύνδεσης

Παράδειγμα 1 Η αρχιτεκτονική είναι πλήρως προγραμματίσιμη η οποία αποτελείται από μικρές μονάδες επεξεργασίας με τοπική μνήμη η κάθε μια Πλήρως προγραμματίσιμη αφού τόσο οι λογικές μονάδες μπορούν να επαναπρογραμματιστούν τόσο και οι διασυνδέσεις Κάθε δομικό στοιχείο έχει ένα router. Ο compiler προγραμματίζει τους routers και αποφασίζει πιο σύνολο καλωδίων του δομικού στοιχείου είναι ενεργό κάθε κύκλο Επιπλέον ο compiler εισάγει την τεχνική του pipeline για τα καλώδια που είναι εκτεταμένα Επομένως το σύστημα αυτό είναι ένα direct δίκτυο

Παράδειγμα 1 Τα FPGAs της Xilinx VirtexII έχουν μια ποικιλία επαναπροσδιορίσιμων δομικών στοιχείων και υποστηρίζουν (DSP) σχεδιασμό. Εμπεριέχονται CLBs, RAMs, πολλαπλασιαστές, και διαχειριστές ρολογιού Η προγραματίσιμη διασύνδεση επιτυγχάνεται με τους διακόπτες των routers Κάθε προγραμματίσιμο στοιχείο συνδέεται σε ένα πίνακα διακοπτών επιτρέποντας πολλαπλές διασυνδέσεις. Οι τιμές που ελέγχουν τους routers είναι αποθηκευμένες σε στοιχεία μνήμης Έτσι το VirtexII μπορεί να το δει κανείς ως ένα indirect δίκτυο

Διασύνδεση και παράγοντες σχεδιασμού Από πλευράς κατανάλωσης ενέργειας τα direct δίκτυα είναι πιο αποδοτικά από τα δίκτυα κοινού μέσου Τa direct δίκτυα προσαρμόζουν την κατανάλωση ενέργειας ανάλογα με τη διασύνδεση Τα point-to-point δίκτυα είναι όμως λιγότερο αποδοτικά από την άποψη των πόρων επιφάνειας Σε αυτή την περίπτωση η αύξηση επιφάνειας δεν έχει ως αποτέλεσμα και αύξηση στην κατανάλωση ενέργειας

HYBRID Δίκτυα Τα Direct και indirect δίκτυα μπορούν να παρέχουν αποδοτικό έλεγχο στα συστήματα με αποτέλεσμα την υψηλή απόδοση Από τη εμπειρία των FPGAs τα συστήματα πολυεπεξεργαστών μπορούν να κερδίσουν σε απόδοση Το δίκτυο όμως διασύνδεσης για τους πολυεπεξεργαστές εξαρτάται βασικώς από το βαθμό της ομοιογένειας τους

HYBRID Δίκτυα Η ομοιογένεια εκτός από υψηλή απόδοση εισάγει στο σύστημα ευελιξία και συσχέτιση των αρχιτεκτονικών με την εφαρμογή Μολονότι τα ομοιογενείς αρχιτεκτονικές δικτύων αποτελούν την καλύτερη επιλογή για γενικού σκοπού υπολογισμούς, η ανομοιογενής αρχιτεκτονική δικτύου πολλές φορές προάγει την υψηλή απόδοση εκμεταλλευόμενη τη τοπικότητα

HYBRID ΔΙΚΤΥΑ Πολλές ετερογενής, ή hybrid αρχιτεκτονικές διασυνδέσεων, έχουν προταθεί και υλοποιηθεί. Παραδείγματα αποτελούν οι multiple-backplane οι hierarchical δίαυλοι Στις αρχιτεκτονικές αυτές χρησιμοποιείται ένα μέρος των πόρων επικοινωνίας και διασύνδεσης και επομένως και ένα μέρος της ενέργειας που απαιτείται για επικοινωνία και διασύνδεση Επομένως η αποδοτικότητα στην ενέργεια είναι σημαντικό πλεονέκτημα των hybrid αρχιτεκτονικών

Παράδειγμα 2 Το πρότυπο AMBA 2.0 ορίζει τρία πρωτόκολλα: Το υψηλής απόδοσης (high-performance bus - AHB), Το advanced system bus (ASB), και Το advanced peripheral bus (APB). Το AMBA-based σύστημα μπορεί να υποστηρίξει διαφορετικού εύρους διασυνδέσεις Διασυνδέσεις μεταξύ δύο μονάδων που λειτουργούν με διαφορετικά πρωτόκολλα υποστηρίζονται από τα στοιχεία bus bridges Τα στοιχεία Bus Bridges εκτελούν τη διασύνδεση διαφορετικών πρωτοκόλλων και το συγχρονισμό Οι γέφυρες είναι αποδοτικές και από πλευράς κατανάλωσης ισχύος.

Έλεγχος των Micronetwork Η αποδοτική χρήση των αρχιτεκτονικών διασύνδεσης εξαρτάται από τη χρήση πρωτοκόλλων Τα πρωτόκολλα διασύνδεσης μπορούν να υλοποιηθού σε software ή hardware Ο έλεγχος διασύνδεσης είναι υπεύθυνος για τη δυναμική διαχείριση των πόρων του δικτύου κατά τη διάρκεια της λειτουργάις του συστήματος

Επίπεδο Datalink Ο κύριος σκοπός των πρωτοκόλλων διασύνδεσης είναι να αυξηθεί η αξιοπιστία της διασύνδεσης δεδομένων και ο έλεγχος του φυσικού επιπέδου Μια άλλη σημαντική λειτουργία του επιπέδου διασύνδεσης είναι να ρυθμιστεί η πρόσβαση σε δίκτυο κοινού μέσου Το επίπεδο αυτό μπορεί να διαχωριστεί σε δύο υποεπίπεδα. Το χαμηλό υποεπίπεδο το οποίο είναι κοντα στο φυσικό επίπεδο (media access control- MAC), και το υψηλό υποεπίπεδο (datalink control -DLC). Το MAC ρυθμίζει την πρόσβαση στο μέσο ενώ το DLC αυξάνει την αξιοπιστία του διαύλου

Επίπεδο Datalink Οι κώδικες ανίχνευσης λαθών και οι διορθωτικοί κώδικες κάνουν την επικοινωνία πιο αξιόπιστη Όταν μόνο η ανίχνευση λάθους χρησιμοποιείται, η διόρθωση γίνεται με επαναμετάδοση του bit ή της λέξης. Όταν χρησιμοποιούνται και διορθωτικοί κώδικες κάποια λάθη μπορούν να διορθωθούν Οι ανιχνευτές λαθών και και η διορθωτές απαιτούν την εγκατάσταση κωδικοποιητών και αποκωδικοποιητών Η πολυπλοκότητα εξαρτάται από το είδος των αλγορίθμων που χρησιμοποιούνται Η εισαγωγή των κωδικοποιητών εισάγει καθυστέρηση στο σύστημα Επιπλέον εισάγονται και επιπλέον γραμμές (wires)

Παράδειγμα 3 Οι Bertozzi et al. Εφάρμοσαν κώδικες ανίχνευσης και διόρθωσης σφαλμάτων στο στάνταρ AMBA 2.0 AHB και σύγκριναν την κατανάλωση ενέργειας σε πέντε περιπτώσεις: (1) original unencoded data, (2) single-error correction (SEC), (3) single-error correction και double-error detection (SECDEC), (4) multiple-error detection (ED), και (5) parity. Χρησιμοποιήθηκε κωδικοποίηση Hamming Σε όλες τις περιπτώσεις κάποια λάθη δεν ανιχνεύτηκαν

Παράδειγμα 3 Bertozzi et al. Εξέτασε την αποδοτικότητα κωδικοποίησης στα διάφορα σχήματα κωδικοποίησης Εφαρμόστηκαν τρεις θεωρήσεις Τα καλώδια είναι αρκετά εκτεταμένα όπου η κατανάλωση ενέργειας πάνω σε αυτά ξεπερνά την ενέργεια κωδικοποίησης και αποκωδικοποίησης Το swing της τάσης μπορεί να ελαττωθεί μεχρι το όριο που καθορίζεται από τον παράγοντα MTTF (expected failure time for a given reliability distribution) Χρησιμοποιείται το μοντέλο του λευκού γκαουσιανού θορύβου

Παράδειγμα 3 Το σχήμα δείχνει τη μέση ενέργεια για κάθε χρήσιμο μπιτ ως συνάρτητηση του MTTF

Λάθη εξαιτίας της μετάδοσης σε κοινό μέσο Μια άλλη πηγή λαθών είναι ο ανταγωνισμός για το πια μονάδα θα μεταδώσει στο κανάλι Η διαδικασία αυτή είναι μη ντετερμινιστική διαδικασία Μέθοδοι πρόβλεψης συναντιόνται πολλές φορές

Τεμαχιοποίηση δεδομένων Ένας αποδοτικός τρόπος ώστε να αντιμετωπιστούν τα λάθη στην επικοινωνία είναι η τεμαχιοποίηση των δεδομένων Αν τα δεδομένα στέλνονται μέσα από μη αξιόπιστο κανάλι σε πακέτα τότε τα λάθη μπορούν να διαγνωστούν και να διορθωθούν πιο εύκολα Η επιλογή του πρωτοκόλλου και η βελτιστοποίησή του αποτελεί ένα ανοικτό θέμα