Ε. Γαλλόπουλος Γ. Τσιρογιάννης Τμήμα Η/Υ & Πληροφορικής
Ο Επιστημονικός Υπολογισμός στηρίζεται στην πρόοδο που έχει γίνει σε πολλούς τομείς στην επιστήμη και τεχνολογία των Η/Υ ΗΥ110 (2ο εξ.): Γραμμική Άλγεβρα ΗΥ240 (4ο εξ.): Αριθμητική Ανάλυση & Περιβάλλοντα ΗΥ261 (3ο εξ.): Αρχιτεκτονική Υπολογιστών Ι ΗΥ205: Εισαγωγή στους Αλγοριθμους ΗΥ440: Παράλληλη Επεξεργασία, Παράλληλοι Αλγόριθμοι
Το μάθημα στο Web Οικοσελίδα http://scgroup.hpclab.ceid.upatras.gr/class/sc.html Περισσότερα θέματα με κωδικό όπως ανακοινώθηκε περιεχόμενα διαλέξεων, ανακοινώσεις, βαθμολογία, προβλήματα, ασκήσεις, παραδείγματα, πληροφορίες και πηγές, βιβλιογραφία, προγράμματα, κλπ.) Ημερολόγιο μαθήματος εκ των υστέρων παράθεση στοιχείων που συζήτήσαμε στο μάθημα Αξιολόγηση και βαθμολογία είναι σημαντικό να γνωρίζετε από την αρχή τους κανόνες που διέπουν το μάθημα.
Συνέχεια (sc_fun_pass)
Ημερολόγιο
Γενικά Η αξιολόγηση επίδοσης στο μάθημα θα προκύψει από τα εξής: α) Την τελική εξέταση, β) τις ασκήσεις του τρέχοντος έτους, γ) την πρόοδο (προαιρετική). Επίσης, μπορεί να συμβάλει θετικά η ενεργή συμμετοχή στο μάθημα με χρήσιμες παρεμβάσεις, ερωτήσεις και παρατηρήσεις. Οι ερωτήσεις στα διαγωνίσματα έχουν για στόχο: α) Να αναδειχτεί ο βαθμός κατανόησης των βασικών εννοιών του μαθήματος και των εργαστηριακών ασκήσεων από τους φοιτητές καθώς και η ικανότητα διαχείρισής τους. β) Να δοθεί η ευκαιρία στους φοιτητές να προετοιμαστούν στο σύνολο της ύλης με επακόλουθο το καλύτερο "δέσιμο" των εννοιών και η αναγνώριση όποιων αδυναμιών τους. Σε κάθε περίπτωση, η επιτυχής εκπλήρωση της εξέτασης πρέπει να είναι φυσικό επακόλουθο της συστηματικής παρακολούθησης του μαθήματος και όχι αυτοσκοπός.
Σχετικά με την παράδοση των εργασιών/ασκήσεων και τον τελικό βαθμό (για όλους τους φοιτητές ανεξάρτητα έτους): Όλες οι λύσεις ή τα διαγράμματα των λύσεων θα ανακοινώνονται στο Web. Για να ληφθούν υπόψη, πρέπει να παραδίδονται μέχρι την προκαθορισμένη ημερομηνία. Ο χρόνος επιστροφής είναι υπολογισμένος γενναιόδωρα. Δεδομένων των αναλογιών επιτηρητών/φοιτητών, παρατάσεις δεν είναι εφικτές και δεν θα δίδονται. Αρχίστε νωρίς! Μπορείτε να προσέλθετε στην εξέταση ακόμα και αν δεν καταθέσετε ασκήσεις (θα έχετε όμως χάσει αρκετά από την ουσία του μαθήματος). Οι ασκήσεις όσων δεν πέρασαν τον Φεβρουάριο παραμένουν αρχειοθετημένες μέχρι τον επόμενο Σεπτέμβριο. Οι ασκήσεις όσων δεν περάσουν και τότε χάνονται και πρέπει να επαναληφθούν την επόμενη φορά που θα εγγραφείτε στο μάθημα.
Σε σχέση με συνεργασίες στην προετοιμασία των ασκήσεων: Εννοείται ότι οι συζητήσεις επιτρέπονται (μερικές φορές είναι και επιθυμητές, όπως και οι συνομιλίες στο forum) αλλά: α) Οι ασκήσεις στις περισσότερες περιπτώσεις είναι σχεδιασμένες ώστε η παραγωγή ακριβώς ίδιων αποτελεσμάτων σχεδόν να απoκλείεται. Αυτό θα πρέπει να φαίνεται και στις ασκήσεις που θα καταθέσετε. β) Αν μετά την άσκηση δεν έχω το συνεργάτη μου και κάποιος με ρωτήσει σχετικά με την άσκηση, θα μπορώ να δώσω απαντήσεις αντίστοιχου "επιπέδου κατανόησης" με εκείνο που δείχνει η άσκηση που κατέθεσα; (Η απάντηση πρέπει να είναι ΝΑΙ!)
Θα διενεργηθούν 2 εξετάσεις: Πρόοδος (προαιρετική) και τελική εξέταση (υποχρεωτική). Απ' αυτές υπολογίζεται ο "Τελικός Βαθμός Εξέτασης" (ΤΒΕ) ως εξής: ΤΒΕ = max(βαθμού τελικής εξέτασης, 35% βαθμού προόδου + 65% βαθμού τελικής εξέτασης) Μετά την τελική εξέταση, αξιολογούνται οι εργασίες όσων φοιτητών έχουν λάβει ΤΒΕ μεγαλύτερο του 5/10 (μετά από στρογγύλευση, δηλ. >= 475/1000). Τον τελικό βαθμό τον υπολογίζουμε ως εξής. Θεωρώντας ότι ο μέγιστος βαθμός στην εξέταση και στις ασκήσεις είναι 10:if TBE < 5 Τελικός_Βαθμός = ΤΒΕ else Τελικός_Βαθμός = ΤΒΕ * β + Βαθμός_Ασκήσεων * (1-β) end
Σχετικά με την τελική εξέταση Όσοι προσέρχονται στην τελική εξέταση βαθμολογούνται και ο βαθμός κατατίθεται στο τελικό βαθμολόγιο. Η εξέταση διενεργείται με κλειστό βιβλίο και κλειστές σημειώσεις. Λϊγες μέρες πριν τη διεξαγωγή των 2 παραπάνω εξετάσεων θα ζητηθεί να επιβεβαιώσετε αν σκοπεύετε να προσέλθετε για να υπάρξει έγκαιρη πρόβλεψη για τις αίθουσες.
Σχετικά με τις εξετάσεις (και τις «συνεργασίες»)
Αν προβληματίζεστε Ελάτε στις ώρες γραφείου!
Γιατί; use of modern computers... has led to the inescapable conclusion that a third branch of scientific methodology has been created. It is now widely acknowledged that, along with the traditional theoretical and experimental methodologies, advanced work in all areas of science and technology has come to rely critically on the computational approach (Rheinboldt report'84)
Γιατί use of modern computers in scientific and engineering research and development over the last three decades has led to the inescapable conclusion that a third branch of scientific methodology has been created. It is now widely acknowledged that, along with the traditional theoretical and experimental methodologies, advanced work in all areas of science and technology has come to rely critically on the computational approach (Rheinboldt report'84)... dramatic increases in computing power are necessary but insufficient to making highperformance computing a reality. Necessary is also the construction of a large body of applications capable of using that computational power effectively (Alpern & Carter'94)
Γιατί use of modern computers in scientific and engineering research and development over the last three decades has led to the inescapable conclusion that a third branch of scientific methodology has been created. It is now widely acknowledged that, along with the traditional theoretical and experimental methodologies, advanced work in all areas of science and technology has come to rely critically on the computational approach (Rheinboldt report'84)... dramatic increases in computing power are necessary but insufficient to making high-performance computing a reality. Necessary is also the construction of a large body of applications capable of using that computational power effectively (Alpern & Carter'94)... computer experiments can both be a two-way bridge between Physical Experiments and Mathematical Models, as well as an independent source of physical understanding. Such experiments have a mind-bending potential for future explorations of nature's secrets, which is only vaguely recognized today (Atlee Jackson'95)
«Νέα» μεθοδολογία πείραμα θεωρία υπολογισμός «επιστήμη in silico»
Πρακτικές δυσκολίες πειραματιστικής μεθοδολογίας που επιβάλουν την υπολογιστική προσομοίωση ως ομότιμο τρόπο επιστημονικής αναζήτησης Μεγάλο κόστος πειραμάτων Δυσκολία ενοργάνωσης πειραμάτων Πειράματα απαγορεύονται ή είναι αδύνατον να γίνουν Πειράματα είναι επικίνδυνα Πειράματα αμφισβητήσιμα
Οι Η/Υ αποτελούν πλέον απαραίτητο εργαλείο στην Επιστήμη και Τεχνολογία SIMULATION AS A PEER METHODOLOGY TO EXPERIMENT AND THEORY Scientific Discovery Through Advanced Computing (SciDAC) http://www.scidac.gov/
Γιατί; Ο καθένας διατηρεί ασφαλώς την ανάμνηση των εργαστηριακών μαθημάτων στο λύκειο: έπρεπε,με βάση το προτεινόμενο πείραμα, να επαληθεύσουμε μετρήσεις, οι οποίες στη συνέχεια μεταφέρονταν σ' ένα διάγραμμα, επιτρέποντας έτσι να συμπεράνουμε το νόμο. Μ' αυτόν τον τρόπο, ελάχιστα δεδομένα επέτρεπαν να καταλήξουμε σε σπουδαία αποτελέσματα. Σήμερα, οι τεχνολογίες επαληθεύουν για μας τις παρατηρήσεις και τις μετρήσεις αυτών των παρατηρήσεων, αυτόματα και σε πραγματικό χρόνο, και στη συνέχεια καταγράφουν χωρίς περιορισμούς δυνατοτήτων αυτά τα δεδομένα. Σε σημείο που ένα πρόγραμμα συνίσταται στο να καλεί τους χρήστες υπολογιστών σ' ολόκληρο τον κόσμο για να συνδέσει περίπου δύο εκατομμύρια μηχανήματα και να μπορέσει έτσι να επεξεργαστεί τα δεδομένα. Κατά συνέπεια, αλλάζουμε επίσης επιστημονικό υπόδειγμα: η σημερινή επιστήμη δεν έχει πλέον καμία σχέση με εκείνη η οποία υπήρχε πριν από μερικές δεκαετίες. «Η επικοινωνία ενάντια στην κουλτούρα», Michel Serres, 2001
Συμπεράσματα Δυνατότητα επίλυσης προβλημάτων που «κάποτε» ήταν «απλησίαστα» Η Πρόοδος στην Επιστήμη και στην Τεχνολογία είναι άρρηκτα συνδεδεμένη με τις Υπολογιστικές Μεθόδους
Τι είναι ο ΕΥ; Scientific computing is the collection of tools, techniques, and theories required to solve on a computer mathematical models of problems in science and engineering. [Golub & Ortega]
Τι είναι ο ΕΥ; Scientific computing is the collection of tools, techniques, and theories required to solve on a computer mathematical models of problems in science and engineering. [Golub & Ortega] Ο σχεδιασμός, η ανάπτυξη, και η αποδοτική χρήση υπολογιστικών εργαλείων που βοηθούν στην πρακτική χρήση των μαθηματικών μοντέλων της επιστήμης και της τεχνολογίας.
Οι λέξεις «επιστημονικός υπολογισμός» δηλώνουν οποιοδήποτε υπολογισμό που είναι χρήσιμος στην Επιστήμη... Η φράση «Επιστημονικός Υπολογισμός» αναφέρεται συνήθως στις αριθμητικές προσομοιώσεις που χρησιμοποιούν οι μηχανικοί (βελτιστοποίηση σχήματος αεροσκαφών, θέματα πυρηνικής ασφάλειας,... ) ή οι φυσικοί (πρόγνωση καιρού, μόλυνση,...) [Pironneau et al'98]
http://iacs.epfl.ch/cmcs/newresearch/americascup2003.php3
http://news.bbc.co.uk/2/hi/technology/7021869.stm
http://news.bbc.co.uk/2/hi/programmes/click_online/7715249.stm
Κατηγορίες εφαρμογών Προσομοίωση Ανάλυση δεδομένων Υπολογιστική υποστήριξη γραφικών Εφαρμογές πραγματικού χρόνου Σχεδιασμός & υλοποίηση Ολοκλήρωση σε «πακέτα» -> προϊόντα EY
Κατηγορίες προβλημάτων ΕΥ Tx=y Άμεσα προβλήματα (direct prbs) Δίδονται T, x και πρέπει να υπολογιστεί το y Αντίστροφα προβλήματα (inverse prbs) Δίδονται T, y και πρέπει να υπολογιστεί το x Προβλήματα ταυτοποίησης (identification prbs) Δίδονται x, y και πρέπει να υπολογιστεί το T
Άμεσα προβλήματα Δίδονται T, x και πρέπει να υπολογιστεί το y Υπολογισμός τιμής/ών γνωστής συνάρτησης Πολλαπλασιασμός μητρώου με διάνυσμα Υπολογισμός μετασχηματισμών, π.χ. Fourier Αριθμητική παραγώγιση Αριθμητική ολοκλήρωση
Αντίστροφα προβλήματα Δίδονται T, y και πρέπει να υπολογιστεί το x Εύρεση ρίζας εξίσωσης Επίλυση γραμμικού συστήματος Επίλυση μη γραμμικού συστήματος Επίλυση διαφορικής εξίσωσης Προβλήματα βελτιστοποίησης
Προβλήματα ταυτοποίησης Δίδονται x,y και πρέπει να υπολογιστεί το T Συναρτησιακή παρεμβολή Προσέγγιση συναρτήσεων Νευρωνικά δίκτυα
Άτυπη ιεραρχία «δυσκολίας επίλυσης» < Άμεσα << Αντίστροφα << Ταυτοποίηση
Τμήματα κώδικα που μπορεί να αντιστοιχούν σε κάποια μαθηματική πράξη (π.χ. Λύση συστήματος ή FFT) στον οποίο αναλώνεται σχετικά μεγάλος χρόνος εκτέλεσης
Παρατηρήσεις Υπολογιστικοί πυρήνες Επικρατεί γραμμική άλγεβρα Ακόμα και στο μετασχηματισμό Fourier! Η Υπολογιστική Γραμμική Άλγεβρα θα αποτελέσει το όχημα για την παρουσίαση των τεχνικών του ΕΥ
Συνήθως οι εφαρμογές είναι μεγάλης κλίμακας,... Πολλές γραμμές πολύπλοκου κώδικα Συχνά αποτελούμενες από κώδικα σε περισσότερες από μια γλώσσες Μεγάλο μέγεθος δεδομένων Υπολογισμοί υψηλής πολυπλοκότητας Ακόμα και «μέτρια» επιτάχυνση συχνά καλούμενων υποπρογραμμάτων /υπολογιστικών πυρήνων συνήθως έχει πολλαπλασιαστικό αποτέλεσμα και επιφέρει μεγάλη συνολική επιτάχυνση
Ταχύς μετασχηματισμός Fourier Προκύπτουν συμμετρίες και ειδική δομή που αξιοποιούμε για να κατασκευάσουμε ταχύ αλγόριθμο, το FFT, που στοιχίζει O(n log2 n) πράξεις αντί για O(n2). Σχεδιάστηκε το 1962 από τους Cooley και Tuckey της IBM (που έχτισαν σε ιδέες του Gauss και Runge). Για πολλούς είναι η πιο σημαντική αλγοριθμική ανακάλυψη των τελευταίων αιώνων. Περισσότερα σε άλλα μαθήματα: (Αλγόριθμοι, Σήματα)
Παρατηρήσεις Το FFT επιτυγχάνει ασυμπτωτική βελτίωση στις πράξεις της τάξης O(n/log2 n) Όμως πρέπει να ρωτήσουμε Τι κρύβεται πίσω από την ασυμπτωτική βελτίωση; Μήπως το Ο είναι μυωπικό; Τι βελτίωση βλέπουμε στην πράξη; Πώς μεταβάλλεται η επίδοση με το n; Πώς μεταφράζεται σε χρονοβελτίωση η βελτίωση στις πράξεις; Τι υλοποιήσεις συγκρίνουμε; Διάφορες υλοποιήσεις για MV και για FFT Σημαντική πρόσφατη υλοποίηση του FFT: FFTW: The fastest FFT in the West (Matteo Frigo @ MIT) www.fftw.org χρησιμοποιείται από τη MATLAB 6.*
Θεμελιώδη προβλήματα ΑΓΑ (1/3) ΑΓΑ0: Βασικές πράξεις (άμεσα προβλήματα) ΑΓΑ1: Επίλυση γραμμικών συστημάτων ΑΓΑ2: Πρόβλημα ελαχίστων τετραγώνων
Θεμελιώδη προβλήματα ΑΓΑ (2/3) ΑΓΑ3, ΑΓΑ4: Πρόβλημα ιδιοτιμών και γενικευμένων ιδιοτιμών ΑΓΑ5: Διάσπαση ιδιαζουσών τιμών ΑΓΑ6: Υπολογισμός συναρτήσεων μητρώων
Lewis Fry Richardson (1881-1953) «Weather Prediction by Numerical Process» (1922)
Κριτήρια αξιολόγησης Να φθάσουμε γρήγορα Ταχύτητα χωρίς να τρακάρουμε Ακρίβεια με VW αντί BMW Κόστος Πόσο γρήγορα επιτυγχάνεται η λύση Υπολογιστική πολυπλοκότητα Καλή χρήση των υπολογιστικών πόρων Πόσο ακριβή είναι τα αποτελέσματα Συγκριτικά με τη «θεωρητική» λύση Σχετικά με τα δεδομένα Τι πόροι (σε υλικό, λογισμικό, ανθρωποώρες) χρειάζονται για την υλοποίηση
Η σημασία της επίδοσης As soon as an Analytical Engine exists, it will necessarily guide the future course of science. Whenever any result is sought by its aid, the question will then arise By what course of calculation can these results be arrived at by the machine in the shortest time? Charles Babbage, [Passages from the Life of a Philosopher, 1864]
Σχεδόν πάντα υπάρχουν, παράγονται και διαδίδονται αριθμητικά σφάλματα! Οι παρακάτω πράξεις είναι ισοδύναμες και το αποτέλεσμα ίσο με 10, αλλά αν τις εκτελέσετε σε ένα τυπικό επεξεργαστή (π.χ. σε MATLAB) 1020-10 1020 + 20 = 20 1020 +20 1020-10 = 20 1020 + 20-10 - 1020 = 0 1020 1020 + 20-10 = 10 ΚΑΝΕΝΑ αποτέλεσμα δεν είναι σωστό;!! Ερώτηση: Από τους 24 (=4!) τρόπους υπολογισμού παραπάνω, ποιοί επιστρέφουν σωστό αποτέλεσμα; ΓΙΑΤΙ;
Ταχύτητα Θέλουμε ταχύτερη επίλυση Τι βοηθά στην ταχύτερη επίλυση; Τι μετράμε; χρόνο αναμονής για αποτέλεσμα χρόνο χρήσης των πόρων του συστήματος χρόνο χρήσης του επεξεργαστή Αξιολόγηση επίδοσης (performance evaluation) Πως μπορούμε να προβλέψουμε την ταχύτητα;
Ακρίβεια Θέλουμε «σωστές» απαντήσεις θεωρούμε ότι δεν υπάρχουν σφάλματα λογικής στο πρόγραμμα Συνήθως τα αποτελέσματα περιέχουν λάθη! Σφάλματα εισόδου Σφάλματα διακριτοποίησης Σφάλματα στρογγύλευσης Πως μπορούμε να προβλέψουμε το σφάλμα;
Προκλήσεις Βελτιωτικές αλλαγές σε υπολογισμούς πυρήνα έχουν πολλαπλασιαστικό αποτέλεσμα. Η βελτιστοποίηση της ακρίβειας και της ταχύτητας συνήθως είναι αντικρουόμενοι στόχοι Σχηματικά ΧΡΟΝΟΣ ΥΠΟΛΟΓΙΣΜΟΥ = Ο( 1/ΑΚΡΙΒΕΙΑ ) Τίθεται το θέμα αντιστάθμισης ωστε να επιτευχθεί ικανοποιητικός συνδυασμός ταχύτητας και ακριβειας.
Έλεγχος ακρίβειας Τουλάχιστον να γνωρίζουμε την επίδραση των σφαλμάτων στα αποτελέσματα Να εξασφαλίζουμε αποδεκτό σφάλμα Να μπορούμε να ποσοτικοποιούμε το σφάλμα στο υπολογισμένο αποτέλεσμα Τα εργαλεία κρίνονται από το αν μας ενημερώνουν σχετικά με την ποιότητα των απαντήσεων
Μοντέλα@ επιστήμη& τεχνολογία Model = πρότυπο 6. Η τρισδιάστατη αναπαράσταση σε μικρογραφία ή μεγέθυνση [Λεξικό Μπαμπινιώτη] π.χ. Φυσικό ομοίωμα πλοίου, αεροπλάνου, πραγματικά φυσικά πρότυπα / τεχνουργήματα που τα συστατικά τους μέρη οι σχέσεις τους μεταξύ τους και η λειτουργία εμφανίζει αξιοσημείωτη αναλογία με κάποιο άλλο σύστημα, ώστε παρατηρώντας το τεχνουργημα, επιφέροντας σ' αυτό αλλαγές και βλέποντας τις συνεπειές τους, να μπορεί κανείς να συναγάγει συμπεράσματα για το σύστημα του οποίου το τεχνούργημα αποτελεί πρότυπο. [Λεξ. Unesco]
Μοντέλα@ επιστήμη& τεχνολογία Model πρότυπο The term mathematical model will be used for any complete and consistent set of mathematical equations which is thought to correspond to some other entity, its prototype being derived from modus (a measure) the word model implies a change of scale in its representation certain properties have been removed and simplifications made [Rutherford Aris]
Φυσικό μοντέλο Μαθηματικό μοντέλο προσέγγιση διακριτοποίηση αριθμητικοποίηση αλγόριθμος πρόγραμμα συστημα
Φυσικό μοντέλο Μαθηματικό Μαθηματικόμοντέλο μοντέλο προσέγγιση προσέγγιση διακριτοποίηση διακριτοποίηση αριθμητικοποίηση αριθμητικοποίηση Μαθηματικές απλοποιήσεις Απλοποιήσεις ειδικές για το πρόβλημα Απλοποιήσεις ειδικές για το πρόβλημα διακριτοποίηση στρογγύλευση αλγόριθμος αλγόριθμος πρόγραμμα Η/Υ εκφρασιμότητα μετασχηματισμοί μεταφραστή
Μαθηματικά μοντέλα 4π D = 4πρ, H = J, B = 0, c 1 B E + = 0 c t u P 2 + u u = + ν u t ρ C 1 C 2 2 C + rc = 0 2 σ S + rs t 2 S S 2