Διακριτικές Συναρτήσεις

Transcript

1 Διακριτικές Συναρτήσεις Δρ. Δηµήτριος Τσέλιος Επίκουρος Καθηγητής ΤΕΙ Θεσσαλίας Τµήµα Διοίκησης Επιχειρήσεων

2 Θερµικός χάρτης των XYZ ξενοδοχείων σε σχέση µε τη γεωγραφική περιοχή τους P. Adamopoulos New York University

3 Πολυπλοκότητα των δένδρων και Over-fitting

4 Διάφορες µορφές δένδρων και σχέση µε το Churn

5 Κλάδεµα Το κλάδεµα απλοποιεί το δένδρο αποφάσεων και αποτρέπει την εµφάνιση του over-fitting Μετά-κλάδεµα: Παίρνει ένα πλήρως ανεπτυγµένο δένδρο και απορρίπτει τα αναξιόπιστα τµήµατα του. Προ-κλάδεµα: Σταµατάει την ανάπτυξη του δένδρου όταν η πληροφορία γίνει αναξιόπιστη. Το Μετά-κλάδεµα συνήθως προτιµάται στην πράξη.

6 Μετά-κλάδεµα ενός δένδρου

7 Όρια αποφάσεων

8 Χώρος παραδείγµατος (instance)

9 Γραµµικός διαχωριστής τάξεων

10 Παράδειγµα συνάρτησης διαχωρισµού τάξεων Linear discriminant: class(x)={ + if 1.0 Age 1.5 Balance+60>0 if 1.0 Age 1.5 Balance+60 0 Η διάκριση µεταξύ του διαχωρισµού και της παλινδρόµησης έγκειται στο We εάν now η µεταβλητή have a parameterized στόχος είναι model: κατηγορηµατική the weights ή of αριθµητική. the linear function are the parameters Για τη λογιστική παλινδρόµηση, το µοντέλο παράγει µια αριθµητική εκτίµηση. The weights are often loosely interpreted as importance indicators of the features Ωστόσο, οι τιµές της µεταβλητής στόχου στα δεδοµένα είναι κατηγορηµατικές. A different sort of multivariate supervised segmentation The difference from DTs is that the method for taking multiple attributes Λογιστική into account παλινδρόµηση is to create είναι a mathematical η εκτίµηση της function πιθανότητας of them να είναι κάποιο δεδοµένο µέλος µιας τάξης (µια αριθµητική ποσότητα). η.

11 Παράδειγµα συνάρτησης διαχωρισµού τάξεων Έχουµε ένα παραµετροποιηµένο µοντέλο: τα βάρη της γραµµικής συνάρτησης είναι οι παράµετροι Τα βάρη κάποιες φορές χαλαρά ερµηνεύονται ως δείκτες σπουδαιότητας των χαρακτηριστικών. Μια διαφορετική ταξινόµηση του πολυκριτήριου επιτηρούµενου διαχωρισµού. Η διαφορά από δένδρα αποφάσεων είναι η µέθοδος για τη λήψη πολλών ιδιοτήτων για τη δηµιουργία µιας µαθηµατικής τους συνάρτησης.

12 Επιλέγοντας την «καλύτερη» γραµµή

13 Αντικειµενικές συναρτήσεις Η «καλύτερη» γραµµή εξαρτάται από την αντικειµενική συνάρτηση απώλειας. Η αντικειµενική συνάρτηση αντιπροσωπεύει το στόχο µας. Μια συνάρτηση απώλειας καθορίζει πόσο πέναλτι θα πρέπει να αποδοθεί σε µια περίπτωση βασιζόµενη στο λάθος του µοντέλου πρόβλεψης. Γραµµική παλινδρόµηση, λογιστική παλινδρόµηση και support vector machines είναι παραλλαγές της βασικής τεχνικής: Η κύρια διαφορά είναι ότι η καθεµιά χρησιµοποιεί διαφορετική αντικειµενική συνάρτηση.

14 Λογιστική παλινδρόµηση είναι ένα εσφαλµένο όνοµα Η διάκριση µεταξύ του διαχωρισµού και της παλινδρόµησης έγκειται στο εάν η µεταβλητή στόχος είναι κατηγορηµατική ή αριθµητική. Για τη λογιστική παλινδρόµηση, το µοντέλο παράγει µια αριθµητική εκτίµηση. Ωστόσο, οι τιµές της µεταβλητής στόχου στα δεδοµένα είναι κατηγορηµατικές. Λογιστική παλινδρόµηση είναι η εκτίµηση της πιθανότητας να είναι κάποιο δεδοµένο µέλος µιας τάξης (µια αριθµητική ποσότητα). Η λογιστική παλινδρόµηση είναι µοντέλο εκτίµησης της πιθανότητας µιας τάξης και όχι µια τυπική παλινδρόµηση.

15 Λογιστική παλινδρόµηση ( sigmoid ) καµπύλη

16 Άνθη- Διάκριση τάξεων

17 Επιλέγοντας την «καλύτερη» γραµµή

18 Support Vector Machines (SVMs)- Μια ιδιαίτερη περίπτωση

19 Support Vector Machines (SVMs) Γραµµική διακριτική µέθοδος Αποτελεσµατική Χρησιµοποιεί απώλεια άρθρωσης Επίσης, υπάρχουν µη γραµµικές SVMs

20 Συναρτήσεις Απώλειας Άρθρωσης Support vector machines χρησιµοποιούν την απώλεια άρθρωσης Η απώλεια άρθρωσης δεν επισύρει πέναλτι που δεν είναι στη λάθος πλευρά του περιθωρίου. Η απώλεια άρθρωσης γίνεται θετική µόνο όταν ένα παράδειγµα είναι στη λάθος πλευρά και πέρα από το περιθώριο. Η απώλεια τότε αυξάνει γραµµικά µε την απόσταση του παραδείγµατος από το περιθώριο. Επισύρει υψηλότερο πέναλτι για όσα σηµεία απέχουν περισσότερο από το όριο.

21 Συναρτήσεις απώλειας Η µηδέν-ένα απώλεια δίνει µια απώλεια ίση µε το µηδέν σε µια ορθή απόφαση και ένα σε µια λανθασµένη απόφαση. Το τετραγωνικό λάθος προδιαγράφει µια απώλεια αναλογική µε το τετράγωνο της απόστασης από το όριο. Η απώλεια τετραγωνικού λάθους συνήθως χρησιµοποιείται για πρόβλεψη αριθµητικών τιµών (παλινδρόµηση), παρά για διαχωρισµό. Ο τετραγωνισµός του λάθους έχει ως αποτέλεσµα την αύξηση του πέναλτι όταν η πρόβλεψη είναι πολύ λάθος.

22 Διάταξη περιπτώσεων και Εκτίµηση της πιθανότητας µιας τάξης Σε πολλές εφαρµογές, δεν θέλουµε απλά ένα ΝΑΙ ή ένα ΟΧΙ, αλλά θέλουµε να βρούµε ποια δεδοµένα είναι πιο πιθανό να ανήκουν σε µια τάξη λιγότερο ή περισσότερο Ποιοι πελάτες θα ανταποκριθούν περισσότερο σε µια προσφορά; Ποιοι πελάτες είναι πιο πιθανό να φύγουν όταν λήξει το συµβόλαιο τους; Διάταξη Επαγωγικά δένδρα Γραµµικές διακριτικές συναρτήσεις (π.χ., γραµµική παλινδρόµηση, λογιστική παλινδρόµηση, SVMs) Η διάταξη είναι ελεύθερη Εκτίµηση της πιθανότητας της τάξης Επαγωγικά δένδρα Λογιστική παλινδρόµηση

23 Οι πολλές πλευρές του διαχωρισµού: Classification / Probability Estimation / Ranking Αυξανόµενη δυσκολία Classification Διάταξη Πιθανότητα Διάταξη: Το αντικείµενο της εργασίας καθορίζει τον αριθµό των τάξεων ( how far down the list ) Πιθανότητα: Μπορείς να βάζεις σε σειρά/ classify αν έχεις πιθανότητες!

24 Διάταξη: Παραδείγµατα Μηχανές αναζήτησης Πότε ένα έγγραφο είναι σχετικό µε ένα θέµα/ ερώτηµα

25 Εκτίµηση πιθανότητας τάξης: Παραδείγµατα MegaTelCo Διάταξη έναντι Εκτίµησης πιθανότητας τάξης Αναγνώριση λογαριασµών και κινήσεων που είναι απάτη Ο υπεύθυνος του ελέγχου απάτης µπορεί να θέλει από τους αναλυτές να εστιάζουν όχι µόνο στον εντοπισµό της απάτης αλλά να εκτιµούν την αναµενόµενη οικονοµική απώλεια

26 Εφαρµογή της Λογιστικής Παλινδρόµησης Τα Wisconsin δεδοµένα για την πρόβλεψη του καρκίνου του στήθους

27 Wisconsin δεδοµένα για την πρόβλεψη του καρκίνου του στήθους Για καθένα από αυτά τα κύρια χαρακτηριστικά, υπολογίστηκαν 3 τιµές: ο µέσος όρος (_mean), τυπικό λάθος (_SE), και η χειρότερη ή µεγαλύτερη τιµή.

28 Wisconsin δεδοµένα για την πρόβλεψη του καρκίνου του στήθους

29 Μη γραµµικές συναρτήσεις Οι µη γραµµικές συναρτήσεις µπορούν πραγµατικά να αντιπροσωπεύουν µη γραµµικά µοντέλα, αν συµπεριλάβουµε πιο πολλά χαρακτηριστικά στις συναρτήσεις.

30 Μη γραµµικές συναρτήσεις Χρησιµοποιώντας υψηλής διάταξης χαρακτηριστικά είναι απλώς ένα κόλπο. Κοινές τεχνικές που βασίζονται στο ταίριασµα των παραµέτρων πολύπλοκων, µη γραµµικών συναρτήσεων: Η µη γραµµικότητα υποστηρίζεται από τα vector machines και τα neural networks Μη γραµµική support vector machine µε πολυωνυµικό πυρήνα χρησιµοποιεί υψηλής διάταξης συνδυασµούς των χαρακτηριστικών Τετράγωνα, γινόµενα, κλπ. Το νευρωνικό δίκτυο είναι µια στοίβα µοντέλων Στον πάτο της στοίβας είναι τα αρχικά χαρακτηριστικά Κάθε επίπεδο της στοίβας είναι ένα απλό µοντέλο που δέχεται τις εξόδους του προηγούµενου.

31 Τυπικό νευρωνικό δίκτυο

32 Γραµµικά µοντέλα έναντι Επαγωγικών Δένδρων Γιατί είναι πιο κατανοητά στους stakeholders; Κανόνες ή αριθµητική συνάρτηση; Πόσο οµαλό είναι το φαινόµενο που µοντελοποιείται; Τα δένδρα χρειάζονται πολλά δεδοµένα για να προσεγγίσουν τα καµπυλωτά όρια. Πόσο µη γραµµικό είναι το φαινόµενο που µοντελοποιείται; Αν είναι πολύ, πόσο data engineering χρειάζεται για να προσεγγιστεί γραµµικά; Πόσα δεδοµένα έχεις;;!! Υπάρχει ένα tradeoff µεταξύ της πολυπλοκότητας που µπορεί να µοντελοποιηθεί και της ποσότητας των training data που είναι διαθέσιµα. Ποια τα χαρακτηριστικά τους: τιµές που λείπουν, τύποι µεταβλητών, σχέσεις µεταξύ τους, πόσα είναι άσχετα, κλπ. Τα δένδρα είναι σχετικά ασφαλή σε σχέση µε αυτά τα θέµατα.

33 Η διεργασία της εξόρυξης δεδοµένων

34 Η σύγκριση καµπυλών µάθησης είναι ουσιώδης δουλειά

35 Η σύγκριση καµπυλών µάθησης είναι ουσιώδης δουλειά

36 Η επιλογή του αλγορίθµου δεν είναι εύκολη δουλειά!