Σχεδίαση και Ανάλυση Αλγορίθμων

Transcript

1 Σχεδίαση και Ανάλυση Αλγορίθμων Ενότητα.0 Σταύρος Δ. Νικολόπουλος 06-7 Τμήμα Μηχανικών Η/Υ & Πληροφορικής Πανεπιστήμιο Ιωαννίνων Webpage: Ταξινόμηση Selection-Sort Bubble-Sort και Insertion-Sort Quick-Sort, Merge-Sort και Heap-Sort Counting-Sort και Radix-Sort Shell-Sort

2 Αλγόριθμοι Ταξινόμησης Selection-Sort Bubble-Sort Insertion -Sort Quick -Sort Merge Sort Heap Sort Counting Sort Bucket-Sort Radix-Sort Shell-sort

4 Ταξινόμηση Το Πρόβλημα της Ταξινόμησης Ορισμός Προβλήματος Είσοδος : ακολουθία n στοιχείων S = (α, α,..., αn). Έξοδος : αναδιάταξη (α, α,..., α n) των στοιχείων της S σε αύξουσα τάξη ( i, i n-, α i α i+). Θεμελιώδες αλγοριθμικό πρόβλημα Πολλές εφαρμογές (~0-% του υπολογιστικού χρόνου). Ταχύτατη αναζήτηση σε ταξινομημένα δεδομένα. Σημαντικές αλγοριθμικές ιδέες και τεχνικές!!!

5 Ταξινόμηση Το Πρόβλημα της Ταξινόμησης Ευσταθής Αλγόριθμος Ταξινόμησης Ο αλγόριθμος ταξινόμησης που διατηρεί η σχετική σειρά των στοιχείων με ίσες τιμές. Δηλαδή, ένας αλγόριθμος ταξινόμησης είναι ευσταθής εάν για οποιαδήποτε δύο στοιχεία x και y με την ίδια τιμή ισχύει ότι το x βρίσκεται πριν το y στην αρχική ακολουθία S, να ισχύει ότι το x βρίσκεται πριν το y στην ταξινομημένη ακολουθία S!!! Ευσταθής Ταξινόμηση Μη-ευσταθής Ταξινόμηση

6 Selection-Sort Αλγόριθμος Selection-sort Επιλογής swap Min Min (no swap) Sorted

7 Αλγόριθμος Selection-Sort Αλγόριθμος Selection-sort (Επιλογής) Ιδέα Αλγόριθμου!!! Quick-Select(S[,n], i) Το i-th τάξης στοιχείο της ακολουθίας S[,n] στη θέση i, i n. or Quick-Select(S[i,n], ) Το min της ακολουθίας S[i,n] στη θέση i (και το S[i] στη θέση του min). Ονομάζεται και Min-Sort (ή Max-Sort) i- i Ταξινομημένο Τμήμα n x x = min(s[i,n])

8 Αλγόριθμος Selection-Sort Αλγόριθμος Selection-sort (Επιλογής) Algorithm Selection-sort begin for i to n- do min τοs[i]; pos i Quick-Select(S[,n], i) Βρες min στοιχείο S[pos] for j στην i+ to n do or ακολουθία if S[j] < min then x = Min(S[i,n]) S[i,n] min S[j]; pos j και αντάλλαξέ το με το στοιχείο S[i] x Swap(S[i], S[pos]) return S i- i x Ταξινομημένο Τμήμα n x = min(s[i,n]) i- i Ταξινομημένο Τμήμα n x S[i+,n]) Ονομάζεται και Min-Sort (ή Max-Sort) Το min της ακολουθίας S[i,n] στη θέση i

9 Αλγόριθμος Selection-Sort Αλγόριθμος Selection-sort (Επιλογής) Algorithm Selection-sort begin for i to n- do min το S[i]; posστοιχείο i Βρες x = min στην for j υποακολουθία i+ to n do i- i n x Ταξινομημένο Τμήμα x = min(s[i,n]) if S[j] < min then S[i,n] min S[j]; pos j και αντάλλαξέ το με το στοιχείο S[i] x Swap(S[i], S[pos]) return S i- i Ταξινομημένο Τμήμα n x S[i+,n]) Ονομάζεται και Min-Sort (ή Max-Sort) Το min της ακολουθίας S[i,n] στη θέση i

10 Αλγόριθμος Selection-Sort Αλγόριθμος Selection-sort (Επιλογής) Algorithm Selection-sort begin for i to n- do min S[i]; pos i for j i+ to n do i- i n x Ταξινομημένο Τμήμα min j if S[j] < min then min S[j]; pos j Swap(S[i], S[pos]) return S Ορθότητα Πολυπλοκότητα Ονομάζεται και Min-Sort (ή Max-Sort) Το min της ακολουθίας S[i,n] στη θέση i

11 Bubble-Sort & Insertion-Sort Αλγόριθμοι Bubble-Sort & Insertion-Sort Φυσαλίδας και Παρεμβολής

12 Αλγόριθμος Bubble-Sort Αλγόριθμος Bubble-Sort (Φυσαλίδας) Algorithm Bubble-sort begin for i to n- do for j n downto i+ do if S[j] < S[j] S[j-] Σύγκριση καιthen S[j-] καιswap(s[j], ανταλλαγή εάνs[j-]) χρειάζεται i- i Ταξινομημένο Τμήμα i+ n x min j return S Το min της ακολουθίας S[i,n] στη θέση i

13 Αλγόριθμος Bubble-Sort Αλγόριθμος Bubble-Sort (Φυσαλίδας) Algorithm Bubble-sort begin for i to n- do for j n downto i+ do if S[j] < S[j-] then i- i i+ Ταξινομημένο Τμήμα n x min j Swap(S[j], S[j-]) return S Ορθότητα Πολυπλοκότητα Το min της ακολουθίας S[i,n] στη θέση i

14 Αλγόριθμος Insertion-Sort Αλγόριθμος Insertion-Sort (Παρεμβολής) Algorithm Insertion-sort begin for i to n do x S[i]; j Εισαγωγή i- του στοιχείου x της υποακολουθίας while j and xs[i+,n] < S[j] do S[j+] του S[j] στην σωστή θέση j j- στην υποακολουθία S[,i] S[j+] x return S Ονομάζεται και Αλγόριθμος Εισαγωγής i- Ταξινομημένο Τμήμα i n x Μη-ταξινομημένο Τμήμα

15 Αλγόριθμος Insertion-Sort Αλγόριθμος Insertion-Sort (Παρεμβολής) Algorithm Insertion-sort begin for i to n do x S[i]; j i- while j and x < S[j] do i- Ταξινομημένο Τμήμα Swap(x, S[j]) j j- S[j+] x return S Μια πρώτη υλοποίηση του Insertion-Sort! Ορθότητα Πολυπλοκότητα i n x Μη-ταξινομημένο Τμήμα

16 Αλγόριθμος Insertion-Sort Αλγόριθμος Insertion-Sort (Παρεμβολής) Algorithm Insertion-sort begin for i to n do x S[i]; j i- while j and x < S[j] do i- Ταξινομημένο Τμήμα S[j+] S[j] j j- S[j+] x return S Μια καλύτερη υλοποίηση του Insertion-Sort!!! Ορθότητα Πολυπλοκότητα i n x Μη-ταξινομημένο Τμήμα

17 Αλγόριθμος Insertion-Sort Αλγόριθμος Insertion-Sort (Παρεμβολής) Ορθότητα Insertion-sort Για τον αλγόριθμο Insertion-sort θεωρούμε την παρακάτω αναλλοίωτη συνθήκη επανάληψης: Algorithm Insertion-sort begin for i to n do εντολές return S Κατά την έναρξη κάθε επανάληψη του εξωτερικού βρόχου (for), η υποακολουθία με στοιχεία από την θέση έως την i, δηλ. S[,i], αποτελείται από τα ίδια στοιχεία που υπήρχαν αρχικά στην S στις θέσεις έως i, αλλά ταξινομημένα (κάθε στοιχείο είναι μεγαλύτερο από όλα τα αριστερά του). Θα αποδείξουμε ότι η παραπάνω πρόταση αποτελεί αναλλοίωτη συνθήκη επανάληψης : Αρχικοποίηση - Η υποακολουθία S[,] που αποτελείται από το πρώτο στοιχείο είναι ταξινομημένη. Διατήρηση - Κάθε επανάληψη του βρόχου επεκτείνει την υποακολουθία S[,i] διατηρώντας αναλλοίωτη την συνθήκη επανάληψης. Πράγματι, όταν το στοιχείο x εισάγεται στην S[,i] είναι μεγαλύτερο από το στοιχείο y στα αριστερά του. Δεδομένου ότι τα στοιχεία στα αριστερά του y έχουν ήδη ταξινομηθεί, συνεπάγεται ότι το x είναι μεγαλύτερο από όλα τα στοιχεία αριστερά του. Άρα, η υποακολουθία S[,i] παραμένει ταξινομημένη. Τερματισμός - Ο αλγόριθμος τερματίζει όταν το i = n, που σημαίνει ότι η ταξινομημένη υποακολουθία S[,i] έχει επεκταθεί και τώρα είναι η S[,n]. Άρα, η ακολουθία S είναι τώρα πλήρως ταξινομημένη.

18 Αλγόριθμος Insertion-Sort Αλγόριθμος Insertion-Sort (Παρεμβολής) Χαρακτηριστικά Αλγόριθμου Απλός (simple): Είναι απλός στην εφαρμογή του. Αποτελεσματικός (efficient): Για μικρά σύνολα δεδομένων. Αποδοτικός (efficient in practice): Πιο αποτελεσματικός στην πράξη από άλλους απλούς αλγορίθμους O(n) (selection-sort ή bubble-sort), όπου στην «καλή» περίπτωση (σχεδόν ταξινομημένα τα στοιχεία κατά την είσοδο) ο χρόνος εκτέλεσης είναι Ο(n). Σταθερός (stable): Δεν αλλάζει τη σχετική σειρά των στοιχείων που έχουν ίσα κλειδιά. Σε ίδιο χώρο (in-place): Απαιτεί μόνο μια σταθερή ποσότητα O() επιπλέον χώρο μνήμης. Άμεσος (on-line): Μπορεί να ταξινομήσει μια ακολουθία καθώς τη λαμβάνει!!!

19 Bubble-Sort & Insertion-Sort Συμπεριφορά Bubble-Sort & Insertion-Sort Κλάση Αλγορίθμων: Μετά από κάθε σύγκριση δύο στοιχείων: Κανένα στοιχείο δεν μετακινείται Ανταλλάσουν θέσεις Όλοι οι αλγόριθμοι ταξινόμησης που εκτελούν τέτοιες «περιορισμένες» και «τοπικές» ανταλλαγές στοιχείων συμπεριφέρονται το ίδιο με τους αλγορίθμους Bubble-Sort και Insertion-Sort

20 Bubble-Sort & Insertion-Sort Συμπεριφορά Bubble-Sort & Insertion-Sort Έστω μια μετάθεση A = (a, a,, an) του συνόλου Nn = {,,, n}. Ένα ζεύγος στοιχείων (ak, am) της μετάθεσης A ονομάζεται αντιστροφή (inversion) εάν για τις θέσεις τους ισχύει k < m και για τις τιμές του ak > am. k<m Το ζεύγος (3, ) είναι μια αντιστροφή ak > am

21 Bubble-Sort & Insertion-Sort Συμπεριφορά Bubble-Sort & Insertion-Sort Έστω μια μετάθεση A = (a, a,, an) του συνόλου Nn = {,,, n}. Ένα ζεύγος στοιχείων (ak, am) της μετάθεσης A ονομάζεται αντιστροφή (inversion) εάν για τις θέσεις τους ισχύει k < m και για τις τιμές του ak > am. αντιστροφές αντιστροφές

22 Bubble-Sort & Insertion-Sort Συμπεριφορά Bubble-Sort & Insertion-Sort Οποιοσδήποτε αλγόριθμος ταξινόμησης (όπως οι Bubble-Sort και Insertion-Sort) που εκτελεί «περιορισμένες» και «τοπικές» ανταλλαγές στοιχείων Με κάθε σύγκριση «διορθώνει» το πολύ μία αντιστροφή!!! Επομένως, το πλήθος των συγκρίσεων σε μια είσοδο A = (a, a,, an) είναι τουλάχιστον ίση με το πλήθος των αντιστροφών στη μετάθεση A!!! Πρόταση: Μια μετάθεση A = (a, a,, an) μήκους n έχει το πολύ πλήθος αντιστροφών.

23 Bubble-Sort & Insertion-Sort Συμπεριφορά Bubble-Sort & Insertion-Sort Οποιοσδήποτε αλγόριθμος ταξινόμησης (όπως οι Bubble-Sort και Insertion-Sort) που εκτελεί «περιορισμένες» και «τοπικές» ανταλλαγές στοιχείων Με κάθε σύγκριση «διορθώνει» το πολύ μία αντιστροφή!!!

24 Selection, Bubble-Sort & Insertion-Sort Σύγκριση Αλγορίθμων Ταξινόμησης Bubble-Sort Insertion-Sort

25 Selection, Bubble-Sort & Insertion-Sort Σύγκριση Αλγορίθμων Ταξινόμησης Bubble-Sort Selection-Sort Insertion-Sort

27 Αλγόριθμοι Ταξινόμησης Αλγόριθμοι Quick-sort και Merge-sort

28 Αλγόριθμοι Ταξινόμησης Αλγόριθμοι Quick-sort και Merge-sort Quick-sort Διαμέριση σε μικρότερα pivot μεγαλύτερα Merge-sort Συγχώνευση ταξινομημένων ακολουθιών

29 Αλγόριθμος Quick-Sort Αλγόριθμος Ταξινόμησης Quick-Sort Τεχνική Διαίρει-και-Βασίλευε Δύσκολη διαίρεση - Εύκολη συνένωση Υπο-προβλήματα Διαφορετικού μήκους Χειρίστη Πολυπλοκότητα O(n) Μέση Πολυπλοκότητα O(nlogn)

30 Αλγόριθμος Quick-Sort Αλγόριθμος Quick-Sort Ιδέα Αλγόριθμου!!! Αρχικό x βήμα i-στης επανάληψης pivot Ενδιάμεσο x x < x Διάσπαση βήμα i-στης επανάληψης i sp Τελικό Εφαρμογή της διαδικασίας < x x o τμήμα sp split x βήμα i-στης επανάληψης o τμήμα

31 Αλγόριθμος Merge-Sort Αλγόριθμος Ταξινόμησης Merge-Sort Τεχνική Διαίρει-και-Βασίλευε Εύκολη διαίρεση Δύσκολη συνένωση Υπο-προβλήματα Ίδιου μήκους Χειρίστη Πολυπλοκότητα O(nlogn) Μέση Πολυπλοκότητα O(nlogn)

32 Αλγόριθμος Merge-Sort Αλγόριθμος Merge-Sort Ιδέα Αλγόριθμου!!! ιαίρεση ακολουθίας εισόδου μήκους n σε δύο υποακολουθίες μήκους n/. Ταξινόμηση των δύο υποακολουθιών (μισού μεγέθους) αναδρομικά. Συγχώνευση των δύο ταξινομημένων υποακολουθιών σε μία ταξινομημένη ακολουθία. ιαίρεσε (divide) Ταξινόμησε (conquer) Συγχώνευσε 3 (combine)

33 Αλγόριθμος Quick-Sort Ευστάθεια Αλγορίθμων Quick-Sort και Marge-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] Algorithm Merge-Sort(A, left, right) begin if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C

34 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] pivot = S 6 splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) aux ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S i j

35 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] pivot = S 6 splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) aux ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S i j

36 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] pivot = S aux 6 splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S i j

39 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] pivot = S aux 6 splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S i j Μη-ευσταθής Αλγόριθμος

40 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] pivot = S aux 6 splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S ij Μη-ευσταθής Αλγόριθμος

41 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] pivot = S 6 aux splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S ij Μη-ευσταθής Αλγόριθμος

42 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] pivot = S 6 splitpt first split for i first+ to last do if S[i] < pivot then splitpt splitpt + x Swap(S[splitpt], S[i]) ; ; < x x x Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Μη-ευσταθής Αλγόριθμος

43 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort (in-place) pivot = Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] splitpt first S 6 split for i first+ to last do if S[i] < pivot then splitpt splitpt + sp i Swap(S[splitpt], S[i]) ; ; sp : splitpt Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Split : επί τόπου διάσπαση

44 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort (in-place) pivot = Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] splitpt first S 6 split for i first+ to last do if S[i] < pivot then splitpt splitpt + sp i Swap(S[splitpt], S[i]) ; ; sp : splitpt Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Split : επί τόπου διάσπαση

45 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort (in-place) pivot = Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] splitpt first S 6 split for i first+ to last do if S[i] < pivot then splitpt splitpt + sp i Swap(S[splitpt], S[i]) ; ; Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Split : επί τόπου διάσπαση

51 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort (in-place) pivot = Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] splitpt first S 6 split for i first+ to last do if S[i] < pivot then splitpt splitpt + sp i Swap(S[splitpt], S[i]) ; ; Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Μη-ευσταθής Αλγόριθμος Split : επί τόπου διάσπαση

52 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort (in-place) pivot = Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] splitpt first S 6 split for i first+ to last do if S[i] < pivot then splitpt splitpt + sp Swap(S[splitpt], S[i]) ; ; Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Μη-ευσταθής Αλγόριθμος Split : επί τόπου διάσπαση i

53 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort (in-place) pivot = Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] splitpt first S 6 split for i first+ to last do if S[i] < pivot then splitpt splitpt + sp Swap(S[splitpt], S[i]) ; ; Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Μη-ευσταθής Αλγόριθμος Split : επί τόπου διάσπαση

54 Αλγόριθμος Quick-Sort Ευστάθεια Quick-Sort (in-place) pivot = Algorithm Quick-Sort(S, first, last) begin () if first < last then pivot S[first] splitpt first S 6 6 split for i first+ to last do if S[i] < pivot then splitpt splitpt + Swap(S[splitpt], S[i]) ; ; Swap (S[first], S[splitpt]) () Quick-Sort(S, first, splitpt-) (3) Quick-Sort(S, splitpt+, last) return S Μη-ευσταθής Αλγόριθμος Split : επί τόπου διάσπαση

55 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C i C 6 6 j

56 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C i C 6 6 j

57 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C 6 i C 6 j

58 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) 6 Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C C 6 i j

59 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) 6 6 Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C j i C

60 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) 6 j i C 6 Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C

61 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) 6 6 Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C j i C

62 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) 6 6 Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C j i C 6

63 Αλγόριθμος Quick-Sort Ευστάθεια Merge-Sort Algorithm Merge-Sort(A, left, right) begin A if (left right) return mid = (left + right) / Merge-Sort(A, left, mid) Merge-Sort(A, mid+, right) Merge(A, left, mid, right) 6 6 Algorithm Merge() i j while (A B ) if (ai bj) προσάρτηση ai στη C και i i+ else{ai > bj}προσάρτηση bj στη C και j j+ προσάρτηση των υπόλοιπων στοιχείων της μη-άδειας ακολουθίας A ή B στη C j i C 6 Ευσταθής Αλγόριθμος

64 Αλγόριθμοι Quick-Sort & Merge-Sort Σύγκριση Αλγορίθμων Ταξινόμησης Quick-Sort Merge-Sort

65 Σύγκριση Αλγορίθμων Ταξινόμησης Αλγόριθμοι Quick-Sort & Merge-Sort

66 Αλγόριθμοι Quick-Sort & Merge-Sort Σύγκριση Αλγορίθμων Ταξινόμησης Bubble-Sort Insertion-Sort Quick-Sort

67 Αλγόριθμοι Quick-Sort & Merge-Sort Σύγκριση Αλγορίθμων Ταξινόμησης Selection-Sort Insertion-Sort Merge-Sort

68 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort

69 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Ιδέα Αλγόριθμου!!! Ο αλγόριθμος προτάθηκε από τον Williams το 96. Βασίζεται στην ιδιότητα του σωρού: το max (ή min) στοιχείο βρίσκεται στην ρίζα. Ο αλγόριθμος Heap-Sort εκτελείται σε δύο φάσεις: 6 () τη φάση της δημιουργίας του σωρού, και () τη φάση της επεξεργασίας του σωρού. 0 Σωρός Μεγίστων : 7 9 3

70 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Ιδιότητες Σωρού!!! Όλοι οι τερματικοί κόμβοι (φύλλα) του σωρού βρίσκονται στο h- και h επίπεδο. Όλες οι διαδρομές από την ρίζα σε ένα τερματικό κόμβο του h είναι αριστερά όλων των διαδρομών από την ρίζα σε ένα τερματικό κόμβο του h- επιπέδου. Ο δεξιότερος εσωτερικός κόμβος του h- επιπέδου έχει αριστερό παιδί. 6 Ιδιότητα μερικής διάταξης (partial order): Η τιμή του κλειδιού ενός κόμβου είναι μεγαλύτερη ή ίση (σωρός μεγίστων) από τις τιμές των κλειδιών των παιδιών του! Σωρός Μεγίστων :

71 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Algorithm Heap-sort begin for i to n- do min S[i]; pos i Διάγραψε τη ρίζα (x = max) του for j i+ to n do σωρού με στοιχεία if S[j] < min then S[,i] 3 7 min S[j]; pos j και την τιμή της καταχώρησε τη στη θέση i του πίνακα Α[,n] Swap(S[i], S[pos]) return S Διαγραφή Max = 9 0 6

72 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Ας θυμηθούμε Διαγραφή Max Max = 6

73 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Ας θυμηθούμε Διαγραφή Max Max = 6

74 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Ας θυμηθούμε Διαγραφή Max Αποκατάσταση Heap Η τιμή του κλειδιού ενός κόμβου είναι μεγαλύτερη ή ίση (σωρός μεγίστων) από τις τιμές των κλειδιών των παιδιών του

80 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Είσοδος Αλγόριθμου 6 Σωρός Μεγίστων

81 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα Διαγραφή Max =6

82 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα Αποκατάσταση Heap

83 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα Διαγραφή Max = 6

84 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα Αποκατάσταση Heap 7 6 3

85 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα Διαγραφή Max = 0 6

86 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα Αποκατάσταση Heap 0 6

87 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα Διαγραφή Max = 9 0 6

89 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα 3 7 Διαγραφή Max = 9 0 6

91 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Βήμα

96 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Παράδειγμα Έξοδος Αλγόριθμου 6 Ταξινομημένη ακολουθία στοιχείων

97 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Διατήρηση σωρού σε πίνακα!!! Εκτός από την χρήση δεικτών (δομή δένδρο) για την αναπαράσταση ενός σωρού Ν στοιχείων, μπορούμε να χρησιμοποιήσουμε έναν πίνακα A μήκους Ν. Οι κόμβοι του σωρού αντιστοιχούν στις θέσεις του πίνακα Η: A() είναι η ρίζα, και για κάθε κόμβο στην θέση i τα παιδιά του βρίσκονται στις θέσεις i και i+. 6 O πατέρας του κόμβου i βρίσκεται στη θέση i/. A: Heap μεγέθους N =

98 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Διατήρηση σωρού σε πίνακα!!! Διαγραφή Max Heap μεγέθους N = 0

99 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Διατήρηση σωρού σε πίνακα!!! Διαγραφή Max Αποκατάσταση Heap μεγέθους N- 6

100 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Διατήρηση σωρού σε πίνακα!!! Διαγραφή Max Αποκατάσταση Heap Αποκατάσταση Heap μεγέθους N- 6

106 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Algorithm Heap-sort begin Build-heap(A,n) heap-size(a) n for i heap-size(a) downto do Swap(A[], A[i]) heap-size(a)-build-heap(a, heap-size(a)) return Α A: Heap μεγέθους N = 0 Τα προς ταξινόμηση στοιχεία είναι καταχωρημένα στον πίνακα Α μήκος N. Εάν κάποια στιγμή ο σωρός έχει n < N στοιχεία χρησιμοποιούμε τις n πρώτες θέσεις του πίνακα A

107 Αλγόριθμος Heap-Sort Αλγόριθμος Heap-Sort Algorithm Heap-sort begin Build-heap(A,n) heap-size(a) n for i heap-size(a) downto do Swap(A[], A[i]) heap-size(a)-build-heap(a, heap-size(a)) return Α A: Heap μεγέθους N = 0 Τα προς ταξινόμηση στοιχεία είναι καταχωρημένα στον πίνακα Α μήκος N. Εάν κάποια στιγμή ο σωρός έχει n < N στοιχεία χρησιμοποιούμε τις n πρώτες θέσεις του πίνακα A. Ορθότητα Πολυπλοκότητα

108 Σύγκριση Αλγορίθμων Ταξινόμησης Αλγόριθμος Heap-Sort

111 Κάτω Φράγματα Ταξινόμησης Κάτω Φράγμα Ταξινόμησης Υπολόγισε ένα ελάχιστο πλήθος Βασικών Πράξεων (συγκρίσεων) που απαιτούνται για την επίλυση του Προβλήματος SORTING Είσοδος (x, x,..., xn) Αρχικά n! περιπτώσεις: x < x < x3 <... < xn x < x < x3 <... < xn x3 < x < x <... < xn... xn < xn- <... < x Σε κάθε σύγκριση το πλήθος των περιπτώσεων υποδιπλασιάζεται (στην καλύτερη περίπτωση) Έχουμε δείξει (Ενότητα 3): Πλήθος συγκρίσεων log(n!) (n logn)/ Οποιοσδήποτε αλγόριθμος ταξινόμησης n στοιχείων χρειάζεται Ω(n logn) συγκρίσεις Κάτω φράγμα για ταξινόμηση που χρησιμοποιεί μόνο συγκρίσεις

112 Κάτω Φράγματα Ταξινόμησης Κάτω Φράγμα Ταξινόμησης Δένδρο απόφασης Οποιοσδήποτε αλγόριθμος ταξινόμησης με συγκρίσεις, ταξινομεί n στοιχεία απαιτώντας τουλάχιστον n log n συγκρίσεις. x[i] <? x[j] x[b] <? x[c] x[f] <? x[g] x[h] <? x[i] x[d] <? x[e] x[j] <? x[k] Ω(n logn) x[l] <? x[m] n! Ύψος δυαδικού δένδρου με n! φύλλα Λήμμα 3. Για δεδομένο n, το δένδρο απόφασης για οποιοδήποτε αλγόριθμο ταξινόμησης με συγκρίσεις των στοιχείων του έχει ύψος τουλάχιστον n log n.

113 Κάτω Φράγματα Ταξινόμησης Κάτω Φράγμα Ταξινόμησης Δένδρο απόφασης Οποιοσδήποτε αλγόριθμος ταξινόμησης με συγκρίσεις, ταξινομεί n στοιχεία απαιτώντας τουλάχιστον n log n συγκρίσεις. x[i] <? x[j] x[b] <? x[c] x[f] <? x[g] x[h] <? x[i] x[d] <? x[e] x[j] <? x[k] Ω(n logn) x[l] <? x[m] n! Ύψος δυαδικού δένδρου με n! φύλλα Κάτω φράγμα ταξινόμησης:

115 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Α C B

116 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Ιδέα Αλγόριθμου!!! Ο αλγόριθμος ταξινόμησης της απαρίθμησης (Counting Sort) δέχεται ότι τα n στοιχεία εισόδου (κλειδιά) είναι ακέραιοι στο διάστημα [, k], όπου k θετικός ακέραιος. Όταν k = Ο(n), ο αλγόριθμος εκτελείται σε χρόνο O(n). Βασική ιδέα: για κάθε στοιχείο x της εισόδου υπολογίζει το πλήθος των στοιχείων που είναι μικρότερα του x. Για παράδειγμα, εάν υπάρχουν 3 στοιχεία μικρότερα του x, τότε το x θα καταλάβει τη θέση στην ταξινομημένη ακολουθία.

117 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Ιδέα Αλγόριθμου!!! Ο αλγόριθμος ταξινόμησης της απαρίθμησης (Counting Sort) δέχεται ότι τα n στοιχεία εισόδου (κλειδιά) είναι ακέραιοι στο διάστημα [, k], όπου k θετικός ακέραιος. Όταν k = Ο(n), ο αλγόριθμος εκτελείται σε χρόνο O(n). Προσοχή!!!: Οι ακέραιοι προς ταξινόμηση είναι τα κλειδιά (keys). Α: 3 6 6

118 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Ιδέα Αλγόριθμου!!! Τα n στοιχεία εισόδου είναι καταχωρημένα στον πίνακα A[..n]. Ο αλγόριθμος απαιτεί δύο ακόμα βοηθητικούς πίνακες: B[..n] για την καταχώρηση της ταξινομημένης ακολουθίας των στοιχείων. C[..k] για την καταχώρηση βοηθητικών πληροφοριών. n Α B C k

119 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Αλγόριθμος Algorithm Counting-sort begin () for i to k do C[i] 0 () for i to n do C[A[i]]++ (3) for i to k do C[i] C[i] + C[i-] () for i n downto do B[C[A[i]]] A[i] C[A[i]]- return B Είσοδος: Α C C 0 0 C Β * * * * * * * Έξοδος: B 3 3 6

120 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Παράδειγμα Α C Μέτρηση C Προθεματικά Αθροίσματα

121 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Παράδειγμα Α Αρχικοποίηση C B

122 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(0) = 6 C(6) = 0 B(0) = 6 B

123 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(0) = 6 C(6) = 0 B B(0) = 6

124 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(0) = 6 C(6) = 0 C(6) -- B B(0) = 6

125 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(9) = C() = B() = B

126 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(9) = C() = B B() =

127 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(9) = C() = C() -- B B() =

128 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 3 Παράδειγμα Α C A() = C() = 7 B(7) = B

129 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 3 Παράδειγμα Α C A() = C() = 7 B B(7) =

130 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 3 Παράδειγμα Α C A() = C() = 7 C() -- B B(7) =

131 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(7) = C() = B() = B

132 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(7) = C() = B B() =

134 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(6) = C() = 6 B(6) = B

135 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α C A(6) = C() = 6 B B(6) =

136 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα Παράδειγμα Α A(6) = C 3 6 C() = 6 9 C() -- B B(6) =

137 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 6 Παράδειγμα Α C A() = 3 C(3) = B() = 3 B

138 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 6 Παράδειγμα Α C A() = 3 C(3) = C(3) -- B B() = 3

139 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 7 Παράδειγμα Α C A() = C() = B() = B

140 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 7 Παράδειγμα Α C A() = C() = C() -- B B() =

142 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 9 Παράδειγμα Α A() = 6 C 3 6 C(6) = C(6) -- B B(9) = 6

143 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Βήμα 0 Παράδειγμα Α A() = 3 C 3 6 C(3) = 3 0 C(3) -- B B(3) = 3

144 Αλγόριθμος Counting-Sort Αλγόριθμος Counting-Sort Παράδειγμα Α A() = 3 C 3 6 C(3) = 3 0 C(3) -- B B(3) = 3 Τέλος Αλγόριθμου

145 Αλγόριθμος Radix-Sort Αλγόριθμος Radix-Sort

146 Αλγόριθμος Radix-Sort Αλγόριθμος Radix-Sort Μια εφαρμογή ταξινόμησης!!! Έστω ότι θέλουμε να ταξινομήσουμε Ν άτομα ως προς την ημερομηνία γέννησής τους (έτος-μήνας-ημέρα) κατά φθίνουσα τάξη Ένας απλός τρόπος με την χρήση του αλγόριθμου Counting-Sort!!! Ταξινομούμε αρχικά τα Ν άτομα ως προς το έτος γέννησής τους! Στη συνέχεια, άτομα με το ίδιο έτος γέννησης τα ταξινομούμε ως προς το μήνα γέννησης τους!! Τέλος, άτομα με το ίδιο έτος και μήνα γέννησης τα ταξινομούμε ως προς την ημέρα γέννησης τους!! Υπάρχει κάποια «δυσκολία» σε αυτό τον τρόπο?

147 Αλγόριθμος Radix-Sort Αλγόριθμος Radix-Sort Μια εφαρμογή ταξινόμησης!!! Έστω ότι θέλουμε να ταξινομήσουμε Ν άτομα ως προς την ημερομηνία γέννησής τους (έτος-μήνας-ημέρα) κατά φθίνουσα τάξη

151 Αλγόριθμος Radix-Sort Αλγόριθμος Radix-Sort Ιδέα Αλγόριθμου!!! Έστω ότι τα στοιχεία είναι ακέραιοι με k ψηφία καταχωρημένα σε ένα πίνακα A. Ο αλγόριθμος Radix-Sort εργάζεται ως εξής: Παράδειγμα :

156 Αλγόριθμος Radix-Sort Αλγόριθμος Radix-Sort Πολυπλοκότητα Παράδειγμα :

157 Αλγόριθμος Radix-Sort Σύγκριση Αλγορίθμων Ταξινόμησης Bubble-Sort Selection-Sort Insertion-Sort Merge-Sort Radix-Sort

158 Αλγόριθμος Bucket-Sort Αλγόριθμος Bucket-Sort

159 Αλγόριθμος Bucket-Sort Αλγόριθμος Bucket-Sort Ιδέα Αλγόριθμου!!! Ο αλγόριθμος της ταξινόμησης με κάδους (Bucket-Sort) δέχεται ότι τα n προς ταξινόμηση στοιχείων παράγονται από μια τυχαία διαδικασία η οποία κατανέμει τα στοιχεία ομοιόμορφα στο διάστημα [0, ). Τεχνική : Ο αλγόριθμος χωρίζει το διάστημα [0, ) σε n ίσου μήκους υποδιαστήματα, ή «κάδους» όπως συνηθίζονται να λέγονται, και κατόπιν να κατανέμει τα n στοιχεία στους κάδους. Τα στοιχεία των κάδων ταξινομούνται με την χρήση ενός αλγόριθμου ταξινόμησης. Ο αλγόριθμος εκτελείται σε χρόνο O(n)

160 Αλγόριθμος Bucket-Sort Αλγόριθμος Bucket-Sort Παράδειγμα: Έστω ότι θέλουμε να ταξινομήσουμε τους 3-ψήφιους ακεραίους: Πολυπλοκότητα:

161 Αλγόριθμος Shell-Sort Αλγόριθμος Shell-Sort

162 Αλγόριθμος Shell-Sort Αλγόριθμος Shell-Sort Ιδέα Αλγόριθμου!!! Η τεχνική του αλγόριθμου είναι ενδιαφέρουσα, ο αλγόριθμος προγραμματίζεται εύκολα και εκτελείται γρήγορα. Τεχνική : Ο αλγόριθμος ταξινομεί μια ακολουθία S με n στοιχεία με επιτυχή ταξινόμηση υποακολουθιών της ακολουθία S. Οι υποακολουθίες καθορίζονται από μια σειρά βημάτων προσαύξησης (increments): h, h, h3,, ht-, ht

163 Αλγόριθμος Shell-Sort Αλγόριθμος Shell-Sort Παράδειγμα h =

165 Αλγόριθμος Shell-Sort Αλγόριθμος Shell-Sort Παράδειγμα h 3 =

167 Αλγόριθμος Shell-Sort Αλγόριθμος Shell-Sort Παράδειγμα h = Ταξινομημένη Ακολουθία 7 3

168 Σύγκριση Αλγορίθμων Ταξινόμησης Αλγόριθμος Shell-Sort

169 Ευχαριστώ για τη Συμμετοχή σας!!! Σταύρος Δ. Νικολόπουλος Τμήμα Μηχανικών Η/Υ & Πληροφορικής Πανεπιστήμιο Ιωαννίνων Webpage: