ΜΥΕ003: Ανάκτηση Πληροφορίας. Διδάσκουσα: Ευαγγελία Πιτουρά Κεφάλαιο 11: Πιθανοτική ανάκτηση πληροφορίας.

Transcript

1 ΜΥΕ003: Ανάκτηση Πληροφορίας Διδάσκουσα: Ευαγγελία Πιτουρά Κεφάλαιο : Πιθανοτική ανάκτηση πληροφορίας.

2 Κεφ. Πιθανοτική Ανάκτηση Πληροφορίας Βασική ιδέα: Διάταξη εγγράφων με βάση την πιθανότητα να είναι συναφή με το ερώτημα Τυχαία μεταβλητή Διάταξη με βάση το P= d

3 Κεφ..2 Αρχή Πιθανοτικής Κατάταξης «Αν η απόκριση ενός συστήματος ανάκτησης πληροφορίας σε κάθε ερώτημα είναι η κατάταξη των εγγράφων κατά φθίνουσα πιθανότητα συνάφειας προς τον χρήστη που υπέβαλε το ερώτημα όπου οι πιθανότητες εκτιμώνται με τον ακριβέστερο δυνατό τρόπο βάσει των όποιων δεδομένων είναι διαθέσιμα στο σύστημα για τον σκοπό αυτό η συλλογική αποτελεσματικότητα είναι η βέλτιστη εφικτή με βάση αυτά τα δεδομένα» [van jsbegen 979] Pobablty ankng Pncle P: deceasng obablty of elevance => best oveall effectveness

4 Δυαδικό Μοντέλο Ανεξαρτησίας Bnay Indeendence Model BIP Θα αναπαραστήσουμε κάθε έγγραφο d και αντίστοιχα το ερώτημα ως ένα δυαδικό Boolean διάνυσμα M: #όρων M ανν το έγγραφο περιέχει τον όρο Υπόθεση ανεξαρτησίας όρων ndeendence assumton: Οι όροι εμφανίζονται στα έγγραφα ανεξάρτητα ο ένας από τον άλλο Επίσης η συνάφεια ενός εγγράφου είναι ανεξάρτητη από τη συνάφεια των άλλων εγγράφων ανεξαρτησία εγγράφων Κεφ..3

5 Επειδή μας ενδιαφέρει η διάταξη θα χρησιμοποιήσουμε τη σχετική πιθανότητα - odds 0 Δυαδικό Μοντέλο Ανεξαρτησίας Από τον κανόνα του Bayes Κεφ..3

6 Δυαδικό Μοντέλο Ανεξαρτησίας Κεφ Σταθερά για κάθε ερώτημα Εκ των προτέρων πιθανότητα o obablty να ανακτήσουμε συναφές μη συναφές ερώτημα Πρέπει να εκτιμήσουμε αυτήν την ποσότητα Αν έχουμε ανακτήσει ένα συναφές μη συναφές έγγραφο αυτό να έχει αναπαράσταση

7 Θα χρησιμοποιήσουμε την υπόθεση ανεξαρτησίας των όρων: η παρουσία ή απουσία ενός όρου σε ένα έγγραφο είναι ανεξάρτητη από την παρουσία ή απουσία οποιουδήποτε άλλου όρου Naïve Bayes condtonal ndeendent assumton M 0 0 Δυαδικό Μοντέλο Ανεξαρτησίας M 0 Άρα: Κεφ..3

8 Δυαδικό Μοντέλο Ανεξαρτησίας Αφού τα είναι είτε είτε 0 χωρίζουμε το γινόμενο n 0 Κεφ..3

9 Δυαδικό Μοντέλο Ανεξαρτησίας Κεφ..3 Για τον όρο ορίζουμε ως την πιθανότητα να εμφανίζεται σε συναφές έγγραφο και ως την πιθανότητα να εμφανίζεται σε μη συναφές έγγραφο 0 Έγγραφο Συναφές = Μη συναφές =0 Όρος εμφανίζεται = Όρος δεν εμφανίζεται = 0

10 Δυαδικό Μοντέλο Ανεξαρτησίας 0 Κεφ

11 0 Δυαδικό Μοντέλο Ανεξαρτησίας Αν υποθέσουμε ότι οι όροι που δεν εμφανίζονται στο ερώτημα είναι το ίδιο πιθανό να εμφανίζονται σε συναφή και σε μη συναφή έγγραφα Κεφ..3

12 Οι όροι του ερωτήματος που εμφανίζονται Οι όροι του ερωτήματος που δεν εμφανίζονται Οι όροι του ερωτήματος που εμφανίζονται στο έγγραφο Όλοι οι όροι 0 0 Δυαδικό Μοντέλο Ανεξαρτησίας Μοιράζουμε το μεσαίο όρο = στα αριστερά και δεξιά είναι οι όροι του ερωτήματος που εμφανίζονται στο έγγραφο Κεφ..3

13 Σταθερά για κάθε ερώτημα Η μοναδική ποσότητα που πρέπει να εκτιμηθεί Θα χρησιμοποιήσουμε το αυτής της ποσότητας eteval Status Value SV τιμή κατάστασης ανάκτησης SV Δυαδικό Μοντέλο Ανεξαρτησίας Κεφ..3

14 SV c SV c Τιμή Κατάστασης Ανάκτησης SV Κεφ..3

15 Τιμή Κατάστασης Ανάκτησης SV Κεφ..3 SV c c Έγγραφο Συναφές = Μη συναφές =0 Όρος εμφανίζεται = Όρος δεν εμφανίζεται = 0 Τα c odd atos έχουν το ρόλο των βαρών σε αυτό το μοντέλο αθροιστικά για κάθε όρο της ερώτησης Για έναν όρο: 0 αν eual odds - η πιθανότητα να εμφανίζεται και να μην εμφανίζεται σε συναφές μη συναφές έγγραφο είναι ½ + αν > - εμφανίζεται σε περισσότερα συναφή και < εμφανίζεται σε λιγότερα μη συναφή Πως θα τα υπολογίσουμε;

16 Κεφ..3 Θεωρητική Εκτίμηση των SV συντελεστών Για κάθε όρο κατασκευάζουμε έναν πίνακα μετρητών Έστω Ν έγγραφα στη συλλογή S συναφή και ο όρος εμφανίζεται σε συνολικά σε n έγγραφα από τα οποία τα συναφή είναι s Έγγραφα Συναφή = Μη συναφή =0 Συνολικά = s n - s n = 0 S - s N n S s N - n S N - S N Εκτιμήσεις: c s S K N n S s n N n s S s S s s N n S s Αγνοεί τους όρους που δεν εμφανίζονται

17 Κεφ..3 Εκτίμηση των SV συντελεστών στην πράξη Αν τώρα υποθέσουμε ότι τα μη συναφή έγγραφα είναι περίπου όσα όλη η συλλογή τότε το η πιθανότητα εμφάνισης του όρου σε μη συναφές έγγραφο είναι n/n N n S n s s N n n N n IDF!

18 Εκτίμηση των SV συντελεστών στην πράξη To πιθανότητά εμφάνισης σε συναφή έγγραφα είναι πιο δύσκολο να εκτιμηθεί Πιθανοί τρόποι εκτίμησης του : Από συναφή έγγραφα αν κάποια από αυτά είναι γνωστά Με μία σταθερά τότε απλώς χρησιμοποιούμε το df wth =0.5 SV Ανάλογο των εμφανίσεων του όρου στη συλλογή έχει προταθεί: /3 + 2/3 df /N N n

19 Πιθανοτική Ανάδραση Συνάφειας elevance Feedback. Υποθέτουμε κάποιες αρχικές τιμές για τα και - τις οποίες χρησιμοποιούμε για να ανακτήσουμε ένα αρχικό σύνολο συναφών εγγράφων εγγράφων με = 2. Αλληλοεπιδρούμε με το χρήστη για να βελτιώσουμε αυτές τις τιμές: οι χρήστες χαρακτηρίζουν ένα σύνολο έγγραφων V ως συναφή = και μη συναφή = 0 3. Επανα-υπολογίζουμε τα και Ή τα συνδυάζουμε με τις αρχικές μας εκτιμήσεις χρήση Bayesan o: 2 V V 4. Επαναλαμβάνουμε έως σύγκλιση κ: o weght

20 PP και BIM + Λογικές προσεγγίσεις για τις πιθανότητες - Περιοριστικές υποθέσεις: Ανεξαρτησία όρων Ανεξαρτησία συνάφειας εγγράφων Οι όροι που δεν εμφανίζονται στο ερώτημα δεν επηρεάζουν το αποτέλεσμα Δυαδική αναπαράσταση αγνοούμε tf μήκος εγγράφου κλπ

21 Στάθμιση ka BM25 BM25 Best Match 25 Αναπτύχθηκε στα πλαίσια του συστήματος ka Πιθανοτικό μη δυαδικό μοντέλο που λαμβάνει υπόψη συχνότητες όρων και μήκη εγγράφων

22 Αρχικές Εκδοχές του BM25 Εκδοχή : c BM 25v tf = c BIM tf k + tf Εκδοχή 2 απλοποίηση με IDF: c k BM 25 v2 N tf df k tf tf k tunng παράμετρος = 0 no tf

23 Στάθμιση BM25 με Κανονικοποίηση με το Μήκους Εγγράφου Μεγαλύτερα έγγραφα πιο πιθανόν να έχουν μεγάλες τιμές tf Μεγάλα έγγραφα πλεονασμός vebosty το tf που παρατηρούμε είναι πού μεγάλο γενικότερου σκοπού το tf που παρατηρούμε μπορεί να είναι ακριβές Πρέπει να σταθμίσουμε αυτά τα δύο

24 Στάθμιση BM25 με Κανονικοποίηση με το Μήκους Εγγράφου Μήκος εγγράφου dl V tf B b b dl avdl avdl: μέσο μήκος εγγράφου στη συλλογή b - Συντελεστής κανονικοποίησης μήκους Κανονικοποίηση tf tf B

25 ka BM25 SV BM 25 N df k b b k ελέγχει τη διαβάθμιση της συχνότητα όρου tem feuency scalng k = 0 δυαδικό μοντέλο; k = μεγάλο μετράει η καθαρή συχνότητα b ελέγχει την κανονικοποίηση του μήκους εγγράφου b = 0 μη κανονικοποίηση; b = είναι η σχετική συχνότητα πλήρης κανονικοποίηση Συνήθως k στο.2 2 και το b γύρω στο 0.75 tf dl avdl tf Υπάρχουν και εκδοχές του BM25 που συμπεριλαμβάνουν και βάρη στους όρους του ερωτήματος καθώς και ανάδραση συνάφειας. k

26 ΤΕΛΟΣ τμήματος Κεφαλαίου Ερωτήσεις? Χρησιμοποιήθηκε κάποιο υλικό των: Pandu Nayak and Pabhaka aghavan CS276:Infomaton eteval and Web Seach Stanfod Hnch Schütze and Chstna Loma Stuttgat II class 26