ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΕΠΙΣΤΗΜΗ ΤΩΝ ΥΠΟΛΟΓΙΣΤΩΝ

ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΕΠΙΣΤΗΜΗ ΤΩΝ ΥΠΟΛΟΓΙΣΤΩΝ Υπεφκυνοι αςκιςεων: Αν. Κακθγθτισ Δ. Σοφντρθσ Μεταδιδάκτορασ Λάηαροσ Παπαδόπουλοσ Αςκήςεισ ςτη Βελτιςτοποίηςη Δυναμικϊν Δομϊν Δεδομζνων (Dynamic Data Type Refinement DDTR) Ο ςκοπόσ τθσ άςκθςθσ είναι να βελτιςτοποιθκοφν οι δυναμικζσ δομζσ δεδομζνων δφο δικτυακϊν εφαρμογϊν: του Deficit Round Robin (DRR) και του αλγορίκμου Dijkstra, με χριςθ τθσ μεκοδολογίασ «Βελτιςτοποίθςθσ Δυναμικϊν Δομϊν Δεδομζνων» - Dynamic Data Type Refinement (DDTR). Οι δυναμικζσ δομζσ των αλγορίκμων DRR και Dijkstra κα βελτιςτοποιθκοφν ωσ προσ: o τισ προςβάςεισ ςτθ μνιμθ (memory accesses) που απαιτοφνται για να προςπελαςτουν τα δεδομζνα τουσ o και ωσ προσ τθ μζγιςτθ ποςότθτα μνιμθσ που καταλαμβάνουν (memory footprint). Για το evaluation των data structures κα χρθςιμοποιθκοφν τα εξισ εργαλεία: o Η βιβλιοθήκη DDTR. o To εργαλείο Massif τθσ Valgrind suite. o Το εργαλείο Lackey τθσ Valgrind suite. Α. Προετοιμαςία για χρήςη τησ βιβλιοθήκησ 1. To directory DDTR περιζχει: a. synch_implementations: Είναι θ DDTR library, precompiled. Μπορεί να χρθςιμοποιθκεί απευκείασ και δεν χρειάηεται να ξαναγίνει compiled. b. DRR: Η εφαρμογι Deficit Round Robin. c. dijkstra: Η εφαρμογι Dijkstra. 2. Προαπαιτοφμενα: a. Linux gcc pthreads (e.g. gcc 4.8) b. Valgind: http://valgrind.org Το Valgrind είναι ζνα εργαλείο που παρζχει πλθροφορίεσ για τθν εφαρμογι, διαβάηοντασ το εκτελζςιμο αρχείο και όχι τον source code (i.e. dynamic instrumentation profiling tool). Χρθςιμοποιείται για υπολογιςμό τθσ χριςθσ τθσ μνιμθσ (memory utilization), των προςβάςεων ςτθ μνιμθ (memory accesses), τθσ προβλθματικισ χριςθσ τθσ μνιμθσ (memory leaks), λακϊν ςε πολυνθματικζσ εφαρμογζσ (threading errors) etc. Εγκαταςτήςτε το Valgrind από τον package manager τησ ζκδοςησ linux που χρηςιμοποιείτε. Εναλλακτικά, μπορείτε να το κατεβάςετε και να το εγκαταςτιςετε από εδϊ: http://valgrind.org/downloads/current.html.

Β. Επεξήγηςη τησ διαδικαςίασ βελτιςτοποίηςησ ςτον αλγόριθμο Deficit Round Robin. Σημείωςη: Θα ςασ βοθκιςει, παράλλθλα με τθν ανάγνωςθ τθσ επεξιγθςθσ, να βλζπετε τα αρχεία drr.h και drr.c τθσ εφαρμογισ DRR. 1. To Deficit Round Robin είναι ζνασ αλγόριθμοσ δρομολόγηςησ πακζτων (packet scheduling) που τρζχει ςε routers και χρθςιμοποιείται για τθ «δίκαιθ» εξυπθρζτθςθ των πακζτων ενόσ αρικμοφ κόμβων (Nodes). Ο κϊδικασ προςομοιϊνει τθν λειτουργία του αλγορίκμου και χρθςιμοποιεί πραγματικά network trace files: http://crawdad.org/dartmouth/campus/. 2. Πιο ςυγκεκριμζνα, κάκε κόμβοσ ζχει ζνα πεδίο που ονομάηεται deficit, το οποίο αυξάνει ςε κάκε «επίςκεψθ» του δρομολογθτι (scheduler), ενϊ μειϊνεται κάκε φορά που ο scheduler προωκεί ζνα πακζτο από τον ςυγκεκριμζνο κόμβο. Ο scheduler αποφαςίηει από ποιον κόμβο κα προωκιςει ζνα ι περιςςότερα πακζτα ςυγκρίνοντασ το deficit κάκε κόμβου με το packet size του πρϊτου πακζτου του ςυγκεκριμζνου κόμβου που περιμζνει να εξυπθρετθκεί. O scheduler: a. Αυξάνει το deficit όλων των κόμβων κατά QUANTUM και ςτθ ςυνζχεια, για κάκε κόμβο: b. Αν το deficit του κόμβου ξεπερνά το μζγεκοσ του πρϊτου πακζτου ςτον ςυγκεκριμζνο κόμβο αυτό το πακζτο προωκείται. Το deficit του κόμβου μειϊνεται κατά το μζγεκοσ του πακζτου (ϊςτε οι πικανότθτεσ να προωκθκεί πακζτο από τον ίδιο κόμβο ςτθν επόμενθ «επιςκεψθ» του scheduler, να μειωκοφν). c. Αν το deficit του κόμβου είναι μικρότερo από το μζγεκοσ του πρϊτου πακζτο, ο scheduler προχωρά ςτον επόμενο κόμβο. 3. Ο κϊδικασ περιζχει δφο δομζσ (structures): Node: που είναι οι ενεργοί κόμβοι, και Packet που είναι το πακζτο που πρόκειται να προωκθκεί. 4. Οι δομζσ δεδομζνων του αλγορίκμου είναι οι εξισ: a. Μια δομι δεδομζνων ςτθν οποία είναι αποκθκευμζνοι οι Nodes: clientlist. b. Κάκε Node ζχει αποκθκευμζνθ ςε μια data structure τα πακζτα που κα προωκιςει: plist. 5. Θα δοκιμάςουμε διαφορετικζσ υλοποιήςεισ των δφο αυτϊν data structures: Απλά ςυνδεδεμζνθ λίςτα - Single Linked List (SLL), Διπλά Συνδεδεμζνθ Λίςτα - Double Linked List (DLL) και Δυναμικόσ Πίνακασ - Dynamic Array (ι vector) (DYN_ARR). Με χριςθ τθσ βιβλιοκικθσ DDTR και των εργαλείων Valgrind κα τισ κάνουμε evaluation ωσ προσ τον αρικμό των προςβάςεων ςτθ μνιμθ - memory accesses και το μζγιςτο μζγεκοσ μνιμθσ που απαιτείται - memory footprint. 6. Βήμα 1: Ειςαγωγή τησ βιβλιοθήκησ DDTR ςτην εφαρμογή:

a. Κάνουμε include τα αντίςτοιχα header files (δείτε το drr.h): i. Για τθν Απλά Συνδεδεμζνθ Λίςτα - Single Linked List (SLL): #include "../synch_implementations/cdsl_queue.h" ii. Για τθ Διπλά Συνδεδεμζνθ Λίςτα - Double Linked List (DLL): #include "../synch_implementations/cdsl_deque.h" iii. Για τον Δυναμικό Πίνακα - Dynamic Array (DYN_ARR): #include "../synch_implementations/cdsl_dyn_array.h" Σε αυτά τα 3 αρχεία βρίςκονται οι δθλϊςεισ των ςυναρτιςεων (function declarations) που μποροφν να χρθςιμοποιθκοφν ςτον κϊδικα τθσ εφαρμογισ για να αντικαταςτιςουν τθ δομι δεδομζνων τθσ εφαρμογισ με αυτζσ τθσ βιβλιοκικθσ DDTR. (δείτε το drr.h γραμμή 10) b. Αντικαθιςτοφμε τισ δηλϊςεισ (definitions declarations) των δομϊν δεδομζνων τθσ εφαρμογισ με αυτά τθσ βιβλιοκικθσ DDTR. Παραδείγματα: i. cdsl_sll *plist; (Το plist είναι ζνασ δείκτθσ (pointer) ςε μια απλά ςυνδεδεμζνθ λίςτα single linked list) ii. cdsl_dll *plist; (Το plist είναι ζνασ δείκτθσ (pointer) ςε μια διπλα ςυνδεδεμζνθ λίςτα - double linked list) iii. cdsl_dyn_array *clientlist (To clientlist είναι ζνασ δείκτθσ (pointer) ςε ζναν δυναμικό πίνακα - dynamic array). (δείτε το drr.c γραμμή 23 ή το drr.h γραμμή 31) c. Δημιουργοφμε και κάνουμε αρχικοποίηςη (initialization) τισ δομζσ δεδομζνων καλϊντασ τισ αντίςτοιχεσ cdsl_xxx_init() ςυναρτιςεισ (functions) από τθ βιβλιοκικθ. (ΧΧΧ είναι θ ςυγκεκριμζνθ υλοποίθςθ). Παραδείγματα: i. clientlist = cdsl_sll_init(); (Μία απλά ςυνδεδεμζνθ λίςτα δθμιουργείται, αρχικοποιείται και το clientlist δείχνει ςε αυτιν). ii. new_node->plist = cdsl_dll_init(); (Μία διπλά ςυνδεδεμζνθ λίςτα δθμιουργείται, αρχικοποιείται και το plist δείχνει ςε αυτιν). (δείτε το drr.c γραμμή 45 ή 125) d. Αντικαθιςτοφμε τισ ςυναρτήςεισ των λειτουργιϊν των δομϊν δεδομζνων (data structure operation functions) τησ εφαρμογήσ με αυτά τησ βιβλιοθήκησ. Οι δθλϊςεισ των αντίςτοιχων ςυναρτιςεων (function declarations) τθσ βιβλιοκικθσ βρίςκονται ςτα header files που αναφζρονται ςτο (a). Παραδείγματα: i. node->plist->enqueue(0, node->plist, (void*)packet); (Ειςαγωγι του pointer packet ςτο data structure plist). Όριςμα (Argument) 1: Ζνασ unsigned int (δεν ζχει ςθμαςία ςε μονονθματικζσ εφαρμογζσ, βάηετε ότι κζλετε) Όριςμα (Argument) 2: Δείκτθσ (pointer) ςτθ δομι δεδομζνων που επιτελοφμε τθ λειτουργία. Όριςμα (Argument) 3: Void pointer του ςτοιχείου που ειςάγουμε. ii. v->plist->dequeue(0, (v->plist)); Όριςμα (Argument) 1: Ζνασ unsigned int (δεν ζχει ςθμαςία ςε μονονθματικζσ εφαρμογζσ, βάηετε ότι κζλετε) Όριςμα (Argument) 2: Δείκτθσ (pointer) ςτθ δομι δεδομζνων που επιτελοφμε τθ λειτουργία. iii. iterator_cdsl_dyn_array it, end; Δφο iterators ςε dynamic array γίνονται defined. Το interface τουσ είναι παρόμοι με τθν STL και βρίςκεται ςτα header files του (a). (δείτε το drr.c γραμμή 131 ή γραμμή 180) 7. Compilation and Εξαγωγή αποτελεςμάτων: a. Compilation τησ εφαρμογήσ DRR: gcc drr.c -o drr -pthread -lcdsl -lm -L./../synch_implementations -I./../synch_implementations b. Αποτελζςματα αριθμοφ προςβάςεων ςτη μνήμη (Memory accesses): Δθμιουργία ενόσ trace file των προςβάςεων ςτθ μνιμθ με χριςθ του εργαλείου lackey:

Εντολι: valgrind --log-file="mem_accesses_log.txt" --tool=lackey --trace-mem=yes./drr Καταμζτρθςθ του αρικμοφ των προςβάςεων ςτθ μνιμθ από το trace file: Εντολι: cat mem_accesses_log.txt grep 'I\ L' wc -l Σημείωςη: Η διαδικαςία παραγωγισ του trace file ςυχνά κρατά αρκετό χρόνο (π.χ. 10 20 λεπτά) και το αρχείο που παράγεται είναι 5 15GB. c. Αποτελζςματα μζγιςτησ χρήςησ μνήμησ (Memory footprint): Δθμιουργία ενόσ log αρχείου και επεξεργαςία του, με χριςθ του εργαλείου massif: Εντολι: valgrind --tool=massif./drr Εντολι: ms_print massif.out.xxxxx > mem_footprint_log.txt (όπου XXXXX ο αρικμόσ που αντιςτοιχεί ςτο αρχείο που παράχκθκε). Στο mem_footprint_log.txt, το memory footprint είναι θ μζγιςτθ τιμι του άξονα y ςτο διάγραμμα. Π.χ. ςτο παρακάτω πείραμα το memory footprint είναι 980.3 ΚΒ. C. Αςκήςεισ Άςκηςη 1: Βελτιςτοποίηςη δυναμικϊν δομϊν δεδομζνων του αλγορίθμου DRR O source code του DRR ζχει ιδθ περαςμζνθ τθν βιβλιοκικθ DDTR. a) Εκτελζςτε τθν εφαρμογι με όλουσ τουσ διαφορετικοφσ ςυνδυαςμοφσ υλοποιήςεων δομϊν δεδομζνων για τη λίςτα των πακζτων και τη λίςτα των κόμβων (Σφνολο 9 ςυνδυαςμοί). Για κάκε ςυνδυαςμό καταγράψτε τα αποτελζςματά του ςχετικά με τον αρικμό των προςβάςεων ςτθ μνιμθ (memory accesses) και το μζγεκοσ τθσ απαιτοφμενθσ μνιμθσ (memory footprint). b) Βρείτε τον ςυνδυαςμό υλοποιιςεων δομϊν δεδομζνων με τθν οποία θ εφαρμογι ζχει τον μικρότερο αρικμό προςβάςων ςτθ μνιμθ (minimum number of memory accesses). c) Βρείτε τον ςυνδυαςμό υλοποιιςεων δομϊν δεδομζνων με τθν οποία θ εφαρμογι ζχει μικρότερεσ απαιτιςεισ ςε μνιμθ (smaller memory footprint).

Άςκηςη 2: Βελτιςτοποίηςη δυναμικϊν δομϊν δεδομζνων ςε εφαρμογή του Linear Regression Η μζκοδοσ linear regression μοντελοποιεί τθσ ςχζςθ μεταξφ μίασ εξαρτθμζνθσ μεταβλθτισ (y) και ενόσ ι περιςςότερων ανεξάρτθτων μεταβλθτϊν (x 1, x 2, ). H ςυγκεκριμζνθ υλοποίθςθ αφορά πολυπφρθνεσ αρχιτεκτονικζσ: Ζνασ αρικμόσ από linear regression jobs αποκθκεφονται ςε μία δομι δεδομζνων υλοποιθμζνθ ωσ πίνακα. Στθ ςυνζχεια, threads αφαιροφν jobs από τθ δομι και τα εκτελοφν. Εφαρμόςτε τθ μεκοδολογία DDTR για τθν εφαρμογι αυτι: a) Εκτελζςτε την εφαρμογή και καταγράψτε τα αποτελζςματα που παράγει. b) Ειςάγετε τη βιβλιοθήκη ςτθν εφαρμογι και αντικαταςτιςτε τθ δομι δεδομζνων τθσ, με τισ δομζσ δεδομζνων τθσ βιβλιοκικθσ. Εκτελζςτε τθν εφαρμογι και βεβαιωκείτε ότι θ βιβλιοκικθ ζχει ειςαχκεί ςωςτά, παίρνοντασ αποτελζςματα αντίςτοιχα με αυτά που παράγονται ςτο (a). Στθ ςυνζχεια, κάντε comment to PRINT_OUTPUT. c) Εκτελζςτε την εφαρμογή για τισ εξισ δυναμικζσ δομζσ δεδομζνων: Απλά Συνδεδεμζνθ Λίςτα Single Linked List (SLL), Διπλά Συνδεδεμζνθ Λίςτα Double Linked List (DLL) και Δυναμικό Πίνακα Dynamic Array (DYN_ARR). Καταγράψτε τα αποτελζςματα του αρικμοφ προςβάςεων ςτθ μνιμθ (memory accesses) και του μζγιςτου μεγζκουσ μνιμθσ που απαιτείται για κάκε υλοποίθςθ που δοκιμάηετε (memory footprint). d) Βρείτε τθν υλοποίθςθ δομισ δεδομζνων με τθν οποία θ εφαρμογι ζχει τον μικρότερο αρικμό προςβάςεων ςτθ μνιμθ (lowest number of memory accesses). e) Βρείτε τθν υλοποίθςθ δομισ δεδομζνων με τθν οποία θ εφαρμογι ζχει μικρότερεσ απαιτιςεισ ςε μνιμθ (lowest memory footprint). D. Επεξήγηςη όρων Argument Data Structure Operation Functions DDTR (Dynamic Data Type Refinement) Directory DLL (Double Linked List) DRR (Deficit Round Robin) (DYN_ARR) Dynamic Array Όριςμα μιασ ςυνάρτθςθσ Αναφζρεται ςτισ ςυναρτιςεισ που υλοποιοφν τισ λειτουργίασ μιασ δομισ δεδομζνων. Π.χ. enqueue, dequeue, insert, remove, find, etc. Η μεκοδολογία βελτιςτοποίθςθσ δυναμικϊν δομϊν δεδομζνων Κατάλογοσ του Linux Διπλά ςυνδεδεμζνθ λίςτα Αλγόρικμοσ δρομολόγθςθσ πακζτων Πίνακασ που το μζγεκόσ του αυξάνεται κατά τθ διάρκεια εκτζλεςθσ τθσ εκτζλεςθσ τθσ εφαρμογισ, ανάλογα με τον αρικμό δεδομζνων που ζχει αποκθκευμζνα. Function Συνάρτθςθ τθσ γλϊςςασ C. Function Definition Ο οριςμόσ μιασ ςυνάρτθςθσ (π.χ. int myfun(int x) { return x+1; } ) Function Declaration Η διλωςθ μιασ ςυνάρτθςθσ (π.χ. int myfun(int x); ) Initialization Αρχικοποίθςθ. Εδϊ, αναφζρεται ςτθν αρχικοποίθςθ μιασ δομισ δεδομζνων τθσ βιβλιοκικθσ DDTR. Interface Εδϊ, αναφζρεται ςτθν «επικοινωνία» ανάμεςα ςτισ δομζσ δεδομζνων τθσ βιβλιοκικθσ και ςτθν εφαρμογι. Memory Accesses Προςβάςεισ ςτθ μνιμθ Memory Footprint Μζγιςτο μζγεκοσ μνιμθσ που απαιτείται από τθν εφαρμογι SLL (Single Linked List) Απλά ςυνδεδεμζνθ λίςτα