Heapsort Using Multiple Heaps

Transcript

1 sort sort Using Multiple s. Λεβεντέας Χ. Ζαρολιάγκης Τµήµα Μηχανικών Η/Υ & Πληροφορικής 29 Αυγούστου 2008

2 sort 1 Ορισµός ify Build- 2 sort Πως δουλεύει Ιδιότητες 3 4 Προβλήµατα Προτάσεις Ανάλυση Κόστους 5

3 sort Το heapsort προτάθηκε το 1964 από τον Williams.

4 sort Το heapsort προτάθηκε το 1964 από τον Williams. Η σχετική έρευνα επικεντρώθηκε: Κατασκευή του heap (Build-) - [Wegener, (1993)] Επαναφορά της ιδιότητας του σωρού ify- [Schaffer and Sedgewick, (1993)] Στην δοµή του σωρού - [Edelkamp and Wegener, (2000)]

5 sort Το heapsort προτάθηκε το 1964 από τον Williams. Η σχετική έρευνα επικεντρώθηκε: Κατασκευή του heap (Build-) - [Wegener, (1993)] Επαναφορά της ιδιότητας του σωρού ify- [Schaffer and Sedgewick, (1993)] Στην δοµή του σωρού - [Edelkamp and Wegener, (2000)] Χρήση πολλών σωρών αντί για ενός.

6 sort Επικεντρωνόµαστε στην διαδικασία εξαγωγής του επόµενου στοιχείου

7 sort Επικεντρωνόµαστε στην διαδικασία εξαγωγής του επόµενου στοιχείου Παρουσιάζουµε δυο τροποποιήσεις του αλγορίθµου του Williams

8 sort Επικεντρωνόµαστε στην διαδικασία εξαγωγής του επόµενου στοιχείου Παρουσιάζουµε δυο τροποποιήσεις του αλγορίθµου του Williams Σκοπός µας είναι αλλάζοντας µικρό µέρος του κώδικα ιατήρηση της ιδιότητας ταξινόµησης in-place Ταχύτερη εξαγωγή τελικού αποτελέσµατος

9 Ορισµός sort Ορισµός ify Build- Ορισµός Ενας σωρός (min-heap) είναι ένας πίνακας στοιχείων a j, 1 j n που ικανοποιεί την µονοτονική ιδιότητα µονοπατιού (path-monotonic property): a j a j για j = 2, 3,..., n όπου x είναι το ακέραιο 2 υπόλοιπο του πραγµατικού αριθµού x

10 Παράδειγµα sort Ορισµός ify Build- Σε µορφή δέντρου: Σε µορφή πίνακα:

11 Ορισµός sort Ορισµός ify Build- Ορισµός Θεωρούµε ένα πίνακα A και τον δείκτη i. Τα υποδέντρα που έχουν ως ϱίζα τους τα παιδιά του A[i] είναι ήδη σωροί, αλλά το ίδιο το δέντρο µε ϱίζα το A[i] µπορεί να παραβιάζει την ιδιότητα του σωρού. Η διαδικασία ify κάνει τις απαραίτητες αλλαγές ώστε το δέντρο µε ϱίζα το A[i] να γίνει σωρός.

12 Παράδειγµα sort Ορισµός ify Build- Σε µορφή δέντρου: Σε µορφή πίνακα:

13 Παράδειγµα sort Ορισµός ify Build- Σε µορφή δέντρου: Σε µορφή πίνακα:

14 Παράδειγµα sort Ορισµός ify Build- Σε µορφή δέντρου: Σε µορφή πίνακα:

15 Ορισµός sort Ορισµός ify Build- Ορισµός Μπορούµε να χρησιµοποιήσουµε την συνάρτηση ify µε µια προσέγγιση από κάτω προς τα πάνω (bottom-up) ώστε να µετατρέψουµε ένα πίνακα A[1..n] σε ένα σωρό. Αφού όλα τα στοιχεία στον υποπίνακα A[ n + 1..n] είναι ϕύλλα, η build_heap επισκέπτεται 2 τους υπόλοιπους κόµβους και καλεί την ify σε κάθε έναν.

16 sort sort - Πως δουλεύει Πως δουλεύει Ιδιότητες 1 ηµιουργία ενός σωρού heap - (Build-)

17 sort sort - Πως δουλεύει Πως δουλεύει Ιδιότητες 1 ηµιουργία ενός σωρού heap - (Build-) 2 Εύρεση µικρότερης τιµής (root)

18 sort sort - Πως δουλεύει Πως δουλεύει Ιδιότητες 1 ηµιουργία ενός σωρού heap - (Build-) 2 Εύρεση µικρότερης τιµής (root) 3 Εναλλαγή µε το τελευταίο αταξινόµητο στοιχείο (ϕύλλο του σωρού)

19 sort sort - Πως δουλεύει Πως δουλεύει Ιδιότητες 1 ηµιουργία ενός σωρού heap - (Build-) 2 Εύρεση µικρότερης τιµής (root) 3 Εναλλαγή µε το τελευταίο αταξινόµητο στοιχείο (ϕύλλο του σωρού) 4 Επαναφορά της ιδιότητας του σωρού για τα υπόλοιπα αταξινόµητα στοιχεία µέσα στο array (heapify)

20 sort sort - Πως δουλεύει Πως δουλεύει Ιδιότητες 1 ηµιουργία ενός σωρού heap - (Build-) 2 Εύρεση µικρότερης τιµής (root) 3 Εναλλαγή µε το τελευταίο αταξινόµητο στοιχείο (ϕύλλο του σωρού) 4 Επαναφορά της ιδιότητας του σωρού για τα υπόλοιπα αταξινόµητα στοιχεία µέσα στο array (heapify) 5 Επανάληψη της διαδικασίας από το 2ο ϐήµα µέχρι να ταξινοµηθούν όλα τα στοιχεία του πίνακα.

21 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

22 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

23 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

24 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

25 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

26 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

27 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

28 Παράδειγµα sort Πως δουλεύει Ιδιότητες Σε µορφή δέντρου: Σε µορφή πίνακα:

29 Παράδειγµα sort Πως δουλεύει Ιδιότητες Προχωρώντας παροµοίως έχουµε σταδιακά:

30 Παράδειγµα sort Πως δουλεύει Ιδιότητες Προχωρώντας παροµοίως έχουµε σταδιακά:

31 Παράδειγµα sort Πως δουλεύει Ιδιότητες Προχωρώντας παροµοίως έχουµε σταδιακά:

32 Παράδειγµα sort Πως δουλεύει Ιδιότητες Προχωρώντας παροµοίως έχουµε σταδιακά: Και τέλος έχουµε ταξινοµηµένους τους επτά πρώτους αριθµούς

33 sort - Ιδιότητες sort Πως δουλεύει Ιδιότητες Ταξινόµηση in-place

34 sort - Ιδιότητες sort Πως δουλεύει Ιδιότητες Ταξινόµηση in-place Ταξινόµηση σε O(n log n)

35 sort - Ιδιότητες sort Πως δουλεύει Ιδιότητες Ταξινόµηση in-place Ταξινόµηση σε O(n log n) Ασυµπτωτικά ϐέλτιστο για οποιοδήποτε αλγόριθµο ταξινόµησης ϐασισµένο σε συγκρίσεις Ω(n log n)

36 - Παρατηρήσεις sort Υπάρχουν διάφοροι τρόποι που µπορούµε να εξετάσουµε έναν σωρό

37 - Παρατηρήσεις sort Υπάρχουν διάφοροι τρόποι που µπορούµε να εξετάσουµε έναν σωρό

38 - Παρατηρήσεις sort Υπάρχουν διάφοροι τρόποι που µπορούµε να εξετάσουµε έναν σωρό

39 - Παρατηρήσεις sort Αναδροµική προσέγγιση - Μετά από την αφαίρεση της ϱίζας ενός heap τα δέντρα που σχηµατίζονται αποτελούν ανεξάρτητα heaps

40 - Παρατηρήσεις sort Αναδροµική προσέγγιση - Μετά από την αφαίρεση της ϱίζας ενός heap τα δέντρα που σχηµατίζονται αποτελούν ανεξάρτητα heaps Σε µορφή δέντρου:

41 - Παρατηρήσεις sort Αναδροµική προσέγγιση - Μετά από την αφαίρεση της ϱίζας ενός heap τα δέντρα που σχηµατίζονται αποτελούν ανεξάρτητα heaps Σε µορφή δέντρου:

42 sort Αρχική ιδέα - Χρήση δυο σωρών Μετά την αφαίρεση της ϱίζας το επόµενο στοιχείο ϑα είναι η ϱίζα ενός από τα δυο heaps

43 sort Αρχική ιδέα - Χρήση δυο σωρών Μετά την αφαίρεση της ϱίζας το επόµενο στοιχείο ϑα είναι η ϱίζα ενός από τα δυο heaps Απαιτείται µόλις µια σύγκριση

44 sort Μερική Χρήση δυο σωρών Μετά την αφαίρεση της ϱίζας το επόµενο στοιχείο ϑα είναι η ϱίζα ενός από τα δυο heaps Απαιτείται µόλις µια σύγκριση

45 Παράδειγµα sort Σταδιακή επανασύσταση του σωρού

46 Παράδειγµα sort Σταδιακή επανασύσταση του σωρού

47 Παράδειγµα sort Μεταφορά τελευταίου στοιχείου στην ϱίζα

48 Παράδειγµα sort Τελευταίο ϐήµα επαναφοράς της σωρού

49 Παρατηρήσεις sort Ολες οι ιδιότητες του heapsort διατηρούνται

50 Παρατηρήσεις sort Ολες οι ιδιότητες του heapsort διατηρούνται Με µια σύγκριση, τοποθετούµε το στοιχείο στην ϱίζα ενός heap µε µικρότερο ύψος

51 Παρατηρήσεις sort Ολες οι ιδιότητες του heapsort διατηρούνται Με µια σύγκριση, τοποθετούµε το στοιχείο στην ϱίζα ενός heap µε µικρότερο ύψος Στα µισά ϐήµατα (iterations) όµως, δεν έχει αλλάξει τίποτα

52 sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Χρήση N σωρών - Πλήρης αξιοποίηση Χρήση όλων των σωρών σε όλα τα ϐήµατα του αλγορίθµου

53 sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Χρήση N σωρών - Πλήρης αξιοποίηση Χρήση όλων των σωρών σε όλα τα ϐήµατα του αλγορίθµου Σκοπός: Μεγιστοποίηση κέρδους σε απόδοση

54 sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Χρήση N σωρών - Πλήρης αξιοποίηση Χρήση όλων των σωρών σε όλα τα ϐήµατα του αλγορίθµου Σκοπός: Μεγιστοποίηση κέρδους σε απόδοση Παράπλευρο κέρδος: Εµφάνιση δυνατοτήτων παραλληλοποίησης

55 Προβλήµατα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους ιατήρηση της ιδιότητας της ταξινόµησης in-place

56 Προβλήµατα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους ιατήρηση της ιδιότητας της ταξινόµησης in-place Οργάνωση σωρών σε µορφή πίνακα

57 Προβλήµατα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους ιατήρηση της ιδιότητας της ταξινόµησης in-place Οργάνωση σωρών σε µορφή πίνακα Αποτελεσµατική εύρεση των ϕύλλων των σωρών

58 Πρώτη σκέψη sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Ο ένας σωρός µετά τον άλλο ανεξάρτητα

59 Πρώτη σκέψη sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Ο ένας σωρός µετά τον άλλο ανεξάρτητα Αποτυγχάνει

60 Πρώτη σκέψη sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Ο ένας σωρός µετά τον άλλο ανεξάρτητα Αποτυγχάνει Μένουν κενά ανάµεσα στις σωρούς

61 Προτεινόµενη Λύση sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Πολύπλεξη των σωρών

62 Προτεινόµενη Λύση sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Πολύπλεξη των σωρών Προσδιορισµός παιδιών Αριστερό παιδί: 2i + N εξί παιδί: 2i + N + 1 Γονιός: i N 2

63 Αλγόριθµος sort Προβλήµατα Προτάσεις Ανάλυση Κόστους 1 ηµιουργία N σωρών heap - (Build-)

64 Αλγόριθµος sort Προβλήµατα Προτάσεις Ανάλυση Κόστους 1 ηµιουργία N σωρών heap - (Build-) 2 Εύρεση µικρότερης ϱίζας (root)

65 Αλγόριθµος sort Προβλήµατα Προτάσεις Ανάλυση Κόστους 1 ηµιουργία N σωρών heap - (Build-) 2 Εύρεση µικρότερης ϱίζας (root) 3 Εναλλαγή µε το τελευταίο αταξινόµητο στοιχείο

66 Αλγόριθµος sort Προβλήµατα Προτάσεις Ανάλυση Κόστους 1 ηµιουργία N σωρών heap - (Build-) 2 Εύρεση µικρότερης ϱίζας (root) 3 Εναλλαγή µε το τελευταίο αταξινόµητο στοιχείο 4 Κλήση heapify µόνο στο ένα δέντρο

67 Αλγόριθµος sort Προβλήµατα Προτάσεις Ανάλυση Κόστους 1 ηµιουργία N σωρών heap - (Build-) 2 Εύρεση µικρότερης ϱίζας (root) 3 Εναλλαγή µε το τελευταίο αταξινόµητο στοιχείο 4 Κλήση heapify µόνο στο ένα δέντρο 5 Επανάληψη της διαδικασίας από το 2ο ϐήµα µέχρι να ταξινοµηθούν όλα τα στοιχεία

68 Ανάλυση Κόστους sort Προβλήµατα Προτάσεις Ανάλυση Κόστους N 1 συγκρίσεις για την εύρεση της µικρότερης ϱίζας

69 Ανάλυση Κόστους sort Προβλήµατα Προτάσεις Ανάλυση Κόστους N 1 συγκρίσεις για την εύρεση της µικρότερης ϱίζας log(n + N) log N το ύψος κάθε heap

70 Ανάλυση Κόστους sort Προβλήµατα Προτάσεις Ανάλυση Κόστους N 1 συγκρίσεις για την εύρεση της µικρότερης ϱίζας log(n + N) log N το ύψος κάθε heap Κλήση heapify µόνο στο ένα δέντρο

71 Ανάλυση Κόστους sort Προβλήµατα Προτάσεις Ανάλυση Κόστους N 1 συγκρίσεις για την εύρεση της µικρότερης ϱίζας log(n + N) log N το ύψος κάθε heap Κλήση heapify µόνο στο ένα δέντρο Κέρδος περίπου 10% σε οµοιόµορφη κατανοµή τυχαίων τιµών µε σχετικά µεγάλο πλήθος στοιχείων

72 Παράδειγµα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Σε µορφή δέντρου: Σε µορφή πίνακα:

73 Παράδειγµα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Σε µορφή δέντρου: Σε µορφή πίνακα:

74 Παράδειγµα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Σε µορφή δέντρου: Σε µορφή πίνακα:

75 Παράδειγµα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Σε µορφή δέντρου: Σε µορφή πίνακα:

76 Παράδειγµα sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Σε µορφή δέντρου: Σε µορφή πίνακα:

77 Κόστος sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Συνεχίζοντας, ϑα πάρουµε το τελικό αποτέλεσµα µε 9 συγκρίσεις και 6 εναλλαγές στοιχείων

78 Κόστος sort Προβλήµατα Προτάσεις Ανάλυση Κόστους Συνεχίζοντας, ϑα πάρουµε το τελικό αποτέλεσµα µε 9 συγκρίσεις και 6 εναλλαγές στοιχείων σύγκριση εναλλαγή 2 < < 11, 7 > < < 11, 13 > < < < 13

79 sort Κόστος Κλασικού Αλγορίθµου Προβλήµατα Προτάσεις Ανάλυση Κόστους Χρησιµοποιώντας τον κλασικό αλγόριθµο, χρειαζόµαστε 8 συγκρίσεις και 8 εναλλαγές

80 sort Κόστος Κλασικού Αλγορίθµου Προβλήµατα Προτάσεις Ανάλυση Κόστους Χρησιµοποιώντας τον κλασικό αλγόριθµο, χρειαζόµαστε 8 συγκρίσεις και 8 εναλλαγές σύγκριση εναλλαγή < 5, 11 > < 11, 5 < < < 11, 7 < <

81 sort Εισάγαµε µια νέα ιδέα

82 sort Εισάγαµε µια νέα ιδέα Επιτύχαµε επιτάχυνση στην εξαγωγή του τελικού αποτελέσµατος

83 sort Εισάγαµε µια νέα ιδέα Επιτύχαµε επιτάχυνση στην εξαγωγή του τελικού αποτελέσµατος Εισάγονται δυνατότητες παραλληλοποίησης

84 sort Εισάγαµε µια νέα ιδέα Επιτύχαµε επιτάχυνση στην εξαγωγή του τελικού αποτελέσµατος Εισάγονται δυνατότητες παραλληλοποίησης Μπορεί να χρησιµοποιηθεί και σε παραλλαγές του heapsort

85 Ευχαριστώ sort Ε Υ Χ Α Ρ Ι Σ Τ Ω