Ανάπτυξη Συστήματος Συστάσε ν Συνερ ατικής Διή ησης με ρήση Ιεραρ ικών Α ορί μ ν Κατάταξης

Transcript

1 ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΗΛΕΚΤΡΟΝΙΚΩΝ ΥΠΟΛΟΓΙΣΤΩΝ ΚΑΙ ΠΛΗΡΟΦΟΡΙΚΗΣ Μεταπτυχιακή Διπλωματική Εργασία Ανάπτυξη Συστήματος Συστάσε ν Συνερ ατικής Διή ησης με ρήση Ιεραρ ικών Α ορί μ ν Κατάταξης της Μαριάννας Κουνέ η Επι έπ ν : Κα η ητής Γιάννης Γαροφα άκης Οκτώβριος 2012

2 2

3 Πανεπιστήμιο Πατρών Τμήμα Μη ανικών Η εκτρονικών Υπο ο ιστών και Π ηροφορικής Μεταπτυχιακή Διπλωματική Εργασία Ανάπτυξη Συστήματος Συστάσε ν Συνερ ατικής Διή ησης με ρήση Ιεραρ ικών Α ορί μ ν Κατάταξης Κουνέ η Μαριάννα, A.M 687 Κα η ητής Γιάννης Γαροφα άκης Επίκουρος Κα η ητής Χρήστος Μακρής Αναπ ηρ τής Κα η ητής Ι άννης Χατζη υ ερούδης Οκτώβριος 2012

4 Copyright 2014 Μαριάννας Κουνέ η Με επιφύ αξη παντός δικαιώματος. All rights reserved. Απα ορεύεται η αντι ραφή, απο ήκευση και διανομή της παρούσας ερ ασίας, εξ ο οκ ήρου ή τμήματος αυτής, ια εμπορικό σκοπό. Επιτρέπεται η ανατύπ ση, απο ήκευση και διανομή ια σκοπό µη κερδοσκοπικό, εκπαιδευτικής ή ερευνητικής φύσης, υπό την προϋπό εση να αναφέρεται η πη ή προέ ευσης και να διατηρείται το παρόν μήνυμα. Ερ τήματα που αφορούν τη ρήση της ερ ασίας ια κερδοσκοπικό σκοπό πρέπει να απευ ύνονται προς τους συ ραφείς. Οι απόψεις και τα συμπεράσματα που περιέ ονται σε αυτό το έ ραφο εκφράζουν τους συ ραφείς και δεν πρέπει να ερμηνευτεί ότι αντιπροσ πεύουν τις επίσημες έσεις του Πανεπιστημίου Πατρών.

5 Στην οικο ένειά μου που έ ει κάνει τα πάντα ια μένα...

6

7 Ευ αριστίες Θα ή ε α να απευ ύν τις ιδιαίτερες ευ αριστίες μου σε ό ους όσους συνέ- α αν, με τον ένα ή τον ά ο τρόπο, στην εκπόνηση της μεταπτυ ιακής μου διπ ματικής ερ ασίας. Καταρ ήν, α ή ε α να ευ αριστήσ τον κα η ητή μου και επι έποντα, κ. Γιάννη Γαροφα άκη ια την πο ύτιμη κα οδή ηση και οή εια. Επίσης, α ή ε α να ευ αριστήσ τους κα η ητές κ. Χρήστο Μακρή και κ. Ι άννη Χατζη υ ερούδη που με εμπιστεύτηκαν και δέ τηκαν να συμμετάσ ουν στην τριμε ή επιτροπή αξιο ό ησης της διπ ματικής μου. Ιδιαίτερες ευ αριστίες α ή ε α να απευ ύν στον υποψήφιο διδάκτορα Α ανάσιο Ν.Νικο ακόπου ο ια την πο ύτιμη συμ ο ή του, τόσο κα ό η την διάρκεια του πειραματικού μέρους όσο και κατά τη διαδικασία της συ ραφής. Χ ρίς την απ ό ερη οή ειά του και την επιστημονική του συνδρομή, η ο οκ ήρ ση της διπ ματικής α ήταν αδύνατη. Οι ατέ ει τες ώρες, οι υποδείξεις, η προ υμία του κα ώς και η υπομονή του, οδή ησαν στην ομα ή διεκπεραί σή της. Τέ ος, οφεί να ευ αριστήσ ερμά την οικο ένειά μου και τον Πανα ιώτη που είναι δίπ α μου, ια τη στήριξη, τη συμπαράσταση και την κατανόησή τους σε ό η την διάρκεια τ ν μεταπτυ ιακών μου σπουδών.

8

9 Περί ηψη Σκοπός της παρούσας διπ ματικής διατρι ής είναι η με έτη και ανάπτυξη ενός νέου α ορι μικού π αισίου Συνεργατικής Διήθησης (CF) ια την παρα ή συστάσε ν. Η μέ οδος που προτείνουμε, ασίζεται στην εκμετά ευση της ιεραρ ικής διάρ ρ σης του ώρου αντικειμέν ν και πατά διαισ ητικά στην ιδιότητα της Σχεδόν Πλήρης Αναλυσιμότητας (NCD) η οποία είναι συνυφασμένη με τη δομή της π ειοψηφίας τ ν ιεραρ ικών συστημάτ ν. Η Συνερ ατική Διή ηση αποτε εί ίσ ς την πιο πετυ ημένη οικο ένεια τε νικών ια την παρα ή συστάσε ν. Η με ά η απή ησή της στο διαδίκτυο α ά και η ευρεία εφαρμο ή της σε σημαντικά εμπορικά περι ά οντα, έ ουν οδη- ήσει στη σημαντική ανάπτυξη της ε ρίας την τε ευταία δεκαετία, όπου μια ευρεία ποικι ία α ορί μ ν και με όδ ν έ ουν προτα εί. Ωστόσο, παρά την πρ τοφανή τους επιτυ ία οι CF μέ οδοι παρουσιάζουν κάποιους σημαντικούς περιορισμούς συμπερι αμ ανομένης της επεκτασιμότητας και της αραιότητας τ ν δεδομέν ν. Τα προ ήματα αυτά επιδρούν αρνητικά στην ποιότητα τ ν παρα όμεν ν συστάσε ν και διακυ εύουν την εφαρμοσιμότητα πο ών CF α ορί μ ν σε ρεα ιστικά σενάρια. Χτίζοντας πάν στη διαίσ ηση πίσ από τον α όρι μο NCDawareRank - μίας ενικής με όδου υπο ο ισμού διανυσμάτ ν κατάταξης ιεραρ ικά δομημέν ν ράφ ν - και της σ ετικής με αυτόν έννοιας της NCD εγγύτητας, προ αίνουμε σε μία μοντε οποίηση του συστήματος με τρόπο που φ τίζει τα ενδημικά του αρακτηριστικά και προτείνουμε έναν νέο α ορι μικό π αίσιο συστάσε ν, τον Α όρι μο 1. Στο επίκεντρο της προσέ ισής μας είναι η προσπά εια να συνδυάσουμε τις άμεσες με τις NCD, ειτονιές τ ν αντικειμέν ν ώστε να πετύ ουμε με α ύτερης ακρί ειας αρακτηρισμό τ ν πρα ματικών συσ ετισμών μεταξύ τ ν στοι εί ν του ώρου αντικειμέν ν, με σκοπό την ε τί ση της ποιότητας τ ν συστάσε ν α ά και την αντιμετώπιση της ε ενούς αραιότητας και τ ν προ ημάτ ν που αυτή συνεπά εται. Για να αξιο ο ήσουμε την απόδοση της με όδου μας υ οποιούμε και εφαρμόζουμε τον Α όρι μο 1 στο κ ασικό movie recommendation πρό ημα και παρα έτουμε μια σειρά από πειράματα ρησιμοποιώντας τo MovieLens Dataset. Τα πειράματά μας δεί νουν π ς ο Α όρι μος 1 με την εκμετά ευση της

10 ιδέας της NCD ε ύτητας καταφέρνει να πετύ ει ίστες συστάσε ν υψη ότερης ποιότητας σε σύ κριση με τις ά ες state-of-the-art με όδους που έ ουν προτα εί στη ι ιο ραφία, σε ευρέ ς ρησιμοποιούμενες μετρικές (micro- και macro-doa), αποδεικνύοντας την ίδια στι μή π ς είναι ι ότερο επιρρεπής στα προ ήματα που σ ετίζονται με την αραιότητα και έ οντας παρά η α αντα νιστικό προφί πο υπ οκότητας και απαιτήσεις απο ήκευσης. Λέξεις Κ ειδιά Συστήματα συστάσε ν, Συνερ ατική Διή ηση, Αραιότητα, Σ εδόν Π ήρης Ανα υσιμότητα, Α όρι μοι Κατάταξης, Πειράματα

11 Abstract The purpose of this master s thesis is to study and develop a new algorithmic framework for collaborative filtering (CF) to generate recommendations. The method we propose is based on the exploitation of the hierarchical structure of the item space and intuitively stands on the property of Near Complete Decomposability (NCD) which is inherent in the structure of the majority of hierarchical systems. Collaborative Filtering is one of the most successful families of recommendations methods. The great impact of CF on Web applications, and its wide deployment in important commercial environments, have led to the significant development of the theory, with a wide variety of algorithms and methods being proposed. However, despite their unprecedented success, CF methods present some important limitations including scalability and data sparsity. These problems have a negative impact of the quality of the recommendations and jeopardize the applicability of many CF algorithms in realistic scenarios. Building on the intuition behind the NCDawareRank algorithm and its related concept of NCD proximity, we model our system in a way that illuminates its endemic characteristics and we propose a new algorithmic framework for recommendations, called Algorithm 1. We focus on combining the direct with the NCD neighborhoods of items to achieve better characterization of the inter-item relations, in order to improve the quality of recommendations and alleviate sparsity related problems. To evaluate the merits of our method, we implement and apply Algorithm 1 in the classic movie recommendation problem, running a number of experiments on the standard MovieLens dataset. Our experiments show that Algorithm 1 manages to create recommendation lists with higher quality compared with other state-of-the-art methods proposed in the literature, in widely used metrics (micro- and macro- DOA), demonstrating at the same time that it is less prone to low density related problems being at the same time very efficient in both complexity and storage requirements. Keywords Recommender Systems, Collaborative Filtering, Sparsity, Near Complete Decomposability, Ranking Algorithms, Experiments

12 viii

13 Περιε όμενα Περιε όμενα Κατά ο ος σ ημάτ ν Κατά ο ος πινάκ ν Listings ix xi xiii xv I Συστήματα Συστάσε ν 1 1 Εισα ή Συστήματα Συστάσε ν Συνεισφορά/Ορ άν ση της Διπ ματικής Συστήματα Συστάσε ν Συνερ ατικής Διή ησης Συνερ ατική Διή ηση Memory-based συστήματα συστάσε ν Υπο ο ισμός Ομοιότητας Top-N Συστάσεις Π εονεκτήματα - Μειονεκτήματα Model-based συστήματα συστάσε ν Προκ ήσεις του CF Graph-based τε νικές Ομοιότητα με άση το μονοπάτι Random walk ομοιότητα II Σύστημα Συστάσε ν (Α όρι μος 1) 27 3 Α όρι μος Near Complete Decomposability: Η διαίσ ηση πίσ από τον Α όρι μο 1 29 ix

14 ΠΕΡΙΕΧΟΜΕΝΑ 3.2 Ορισμοί και Διαίσ ηση Μητρώα Α ορί μου Ο α όρι μος Πειραματική αξιο ό ηση MovieLens dataset Μετρικές απόδοσης Degree of agreement Ο Kendall s τ συντε εστής συσ έτισης Διαδικασία πειραμάτ ν και αποτε έσματα Σύ κριση του Α ορί μου 1 με ά ους rank-based α ορί μους συστάσε ν Πρό ημα αραιών δεδομέν ν Συμπεράσματα - Με οντική έρευνα 51 III Παράρτημα/Κώδικας 53 Παράρτημα Α: Κώδικας 55 Παράρτημα B: Προδια ραφές Συστήματος 63 References 65 x

15 Κατά ο ος σ ημάτ ν 1.1 Παράδει μα Συστήματος Συστάσε ν Συνερ ατική Διή ηση Amazon.com Item-based Collaborative Filtering Το μαύρο πρό ατο Μοντε οποίηση ασισμένη σε ράφους Decomposition του ώρου 6 αντικειμέν ν σε 3 NCD μπ οκ Παράδει μα υπο ο ισμού του NCD μητρώου ε ύτητας Σύ κριση μεταξύ της batch και της κ ασσικής δυναμομε όδου Επίδραση αραιότητας στην ποιότητα συστάσε ν xi

16 ΚΑΤΑΛΟΓΟΣ ΣΧΗΜΑΤΩΝ xii

17 Κατά ο ος πινάκ ν 2.1 Παράδει μα ενός user-item μητρώου Π εονεκτήματα και Μειονεκτήματα τε νικών Συνερ ατικής Διή ησης Αξιο ό ηση της ποιότητας τ ν συστάσε ν του Α ορί μου 1 (ΑΛΓ1) Αξιο ό ηση του Α ορί μου 1 στο πρό ημα της τοπικής αραιότητας.. 48 xiii

18 ΚΑΤΑΛΟΓΟΣ ΠΙΝΑΚΩΝ xiv

19 Listings 3.1 Κώδικας υπο ο ισμού Α ορί μου 1 με αξιοποίηση υπορουτίν ν BLAS Α όρι μος Κώδικας δημιουρ ίας μητρώου προτιμήσε ν Κώδικας δημιουρ ίας μητρώου H Αραιοποίηση του ώρου αντικειμέν ν Προσομοί ση νεοεισερ όμεν ν αντικειμέν ν Κώδικας υπο ο ισμού Degree Of Agreement Κώδικας υπο ο ισμού του Kendall s τ xv

20 LISTINGS xvi

21 Μέρος I Συστήματα Συστάσε ν 1

22

23 Κεφά αιο 1 Εισα ή What is the best holiday for me and my family? Which book should I buy for my next vacation? Which web sites will I find interesting? Which digital camera should I buy? Which movie should I rent? 1.1 Συστήματα Συστάσε ν Τα Συστήματα Συστάσεων (Recommender Systems, RS) είναι ερ α εία ο ισμικού, τα οποία ρησιμοποιούνται από τα περισσότερα η εκτρονικά εμπορικά καταστήματα προκειμένου να κάνουν έξυπνες και ρή ορες εξατομικευμένες συστάσεις στους ρήστες. Η ανάπτυξη τους ξεκίνησε από μια απ ή παρατήρηση: τα άτομα συ νά ασίζονται στις συστάσεις που τους παρέ ονται από ά ους, στη ήψη κα ημερινών αποφάσεών τους. Για παράδει μα, είναι σύνη ες άτομα τα οποία έ ουν να δια άσουν ένα ι ίο, να ασίζονται στις απόψεις ατόμ ν που το έ ουν ήδη δια άσει, οι ερ οδότες κατά τη διαδικασία πρόσ ηψης να υπο ο ίζουν σε επιστο ές ια την απόφασή τους, και τέ ος τα άτομα τα οποία επι υμούν να δουν μια ταινία, να δια άζουν και να ασίζονται στις κριτικές που έ ει πάρει η ταινία αυτή. Τα συστήματα αυτά μπορούν να ιδ ούν σαν μέ οδοι φι τραρίσματος π ηροφορίας και απευ ύνονται κυρί ς σε άτομα που δε δια έτουν επαρκή προσ πική εμπειρία ή την ικανότητα να αξιο ο ήσουν τον συντριπτικό αρι μό τ ν διαφορετικών αντικειμέν ν που υπάρ ουν στο διαδίκτυο. Ένα παράδει μα ενός συστήματος συστάσε ν παρουσιάζεται στο Σ ήμα 1.1. Προκειμένου να παράξουν εξατομικευμένες συστάσεις, τα RS συ έ ουν από τους ρήστες τις προτιμήσεις τους, οι οποίες είτε εκφράζονται ρητά, όπ ς είναι οι α μο ο ίες που δίνουν ια τα αντικείμενα, ή συμπεραίνονται έμμεσα από την α η επίδραση του ρήστη 3

24 1. ΕΙΣΑΓΩΓΗ Σ ήμα 1.1: Η εικόνα αυτή δεί νει ένα σύστημα συστάσεων το οποίο αποτε είται από πέντε ρήστες και τέσσερα ι ία. Οι ασικές π ηροφορίες που περιέ ονται από κά ε σύστημα συστάσε ν είναι οι σ έσεις μεταξύ τ ν ρηστών και τ ν αντικειμέν ν που μπορεί να εκπροσ πούνται από ένα διμερές ράφο. Επιπ έον, παρουσιάζει κάποιες πρόσ ετες π ηροφορίες που συ νά αξιοποιούνται κατά τη διάρκεια σ εδιασμού τ ν α ορί μ ν σύστασης, όπ ς είναι το προφί τ ν ρηστών, οι ιδιότητες που έ ουν τα αντικείμενα κα ώς και το περιε όμενό τους [50]. με το σύστημα. Για παράδει μα, ένα RS μπορεί να ε ρήσει την π οή ηση ενός ρήστη σε μια συ κεκριμένη σε ίδα ς μια έμμεση ένδειξη της προτίμησής του προς τα αντικείμενα που εμφανίζονται σε αυτή τη σε ίδα Για την παρα ή συστάσε ν έ ουν αναπτυ εί διάφορες τε νο ο ίες. Την πιο επιτυ- ημένη αποτε εί η Συνεργατική Διήθηση (Collaborative Filtering, CF) η με ά η απή ησή της στο διαδίκτυο α ά και η ευρεία εφαρμο ή της σε σημαντικά εμπορικά περι ά οντα, έ ουν οδη ήσει στη σημαντική ανάπτυξη της ε ρίας την τε ευταία δεκαετία, όπου μια ευρεία ποικι ία α ορί μ ν και με όδ ν έ ουν προτα εί [78]. Το σκεπτικό πίσ από τις CF με όδους είναι π ς αν ο ενερ ός ρήστης 1 συμφώνησε στο παρε όν με κάποιους ρήστες, τότε οι ά ες συστάσεις που προέρ ονται από αυτούς α πρέπει να είναι σ ετικές, και κοντά στα ενδιαφέροντά του. Ά ες σημαντικές τε νο ο ίες συστημάτ ν συστάσε ν, αποτε ούν η διήθηση με βάση το περιεχόμενο (content-based filtering) και η υβριδική (hybrid) προσέ ιση. Στην περίπτ ση της content-based διή ησης, το σύστημα μα αίνει να προτείνει αντικείμενα σε ένα ρήστη με άση το τι έ ει α οράσει στο παρε όν. Συ κεκριμένα, ανα ύει το περιε όμενο τ ν ήδη α μο ο ημέν ν - από αυτόν - αντικειμέν ν και τίζει το προφί του. Κατά τη διαδικασία παρα ής συστάσε ν, το content-based σύστημα ταιριάζει τα αρακτηριστικά - στα οποία συμπερι αμ άνονται οι προτιμήσεις του - που υπάρ ουν στο προφί του ρήστη με τα αρακτηριστικά του περιε ομένου τ ν αντικειμέν ν που δεν έ ει α η επιδράσει ακόμα. Στην υ ριδική προσέ ιση, τα συστήματα ασίζονται στο συνδυασμό τ ν διαφόρ ν τε- 1 σαν ενερ ός ρήστης ε ρείται αυτός που ψά νει ια συστάσεις 4

25 νικών τ ν RS. Ένα υ ριδικό σύστημα συνδυάζει την content-based και την CF ώστε να ρησιμοποιήσει τα π εονεκτήματα της μιας προκειμένου να διορ ώσει τα μειονεκτήματα της ά ης. Για παράδει μα, οι μέ οδοι συνερ ατικής διή ησης υποφέρουν από το πρό ημα τ ν νέ ν αντικειμέν ν, δη αδή οι μέ οδοι αυτοί δεν μπορούν να προτείνουν νέα αντικείμενα στους ρήστες αφού έ ουν α μο ο η εί ί ο ή και κα ό ου. Αυτό δεν ε ρείται περιορισμός ια τις content-based προσε ίσεις εφόσον η πρό εψη ια νέα αντικείμενα ασίζεται στα αρακτηριστικά τους τα οποία είναι τις περισσότερες φορές εύκο α δια έσιμα. Από την ά η μεριά, οι CF τε νικές μπορούν να προτείνουν στους ρήστες αντικείμενα με πο ύ διαφορετικό περιε όμενο - το μόνο που αρκεί είναι να έ ουν δείξει παρόμοιοι ρήστες ενδιαφέρον ι αυτά τα αντικείμενα - κάτι που δεν ισ ύει στις content-based. Σκοπός της διατρι ής αυτής είναι η με έτη και η ανάπτυξη ενός νέου α ορι μικού π αισίου ια την παρα ή συστάσε ν, που ασίζεται στη Συνερ ατική Διή ηση. Η μέ οδος που προτείνουμε, εκμετα εύεται την ιεραρ ική διάρ ρ ση του ώρου αντικειμέν ν και πατά διαισ ητικά στην ιδιότητα της Σ εδόν Π ήρους Ανα υσιμότητας (NCD), η οποία είναι συνυφασμένη με τη δομή της π ειοψηφίας τ ν ιεραρ ικών συστημάτ ν. 1.2 Συνεισφορά/Ορ άν ση της Διπ ματικής Για την παρακο ού ηση της παρούσας διπ ματικής ερ ασίας, ο ανα νώστης ε ρείται εξοικει μένος με τις κ ασσικές έννοιες ραμμικής ά ε ρας [76], ε ρίας πι ανοτήτ ν και α υσίδες Markov [65]. Στο Κεφά αιο 2 περι ράφουμε τι είναι Συνερ ατική Διή ηση, τις κατη ορίες στις οποίες ρίζεται κα ώς και τα π εονεκτήματα/μειονεκτήματα τους. Έπειτα κάνουμε μια σύντομη αναφορά στους τρόπους με τους οποίους ίνεται η επι ο ή τ ν κορυφαί ν αντικειμέν ν στη ίστα κατάταξης που προτείνονται στο ρήστη και προ ράμε στην παρουσίαση τ ν διαφόρ ν προκ ήσε ν που έ ει να αντιμετ πίσει. Τέ ος, ίνεται εκτενής αναφορά στις graph-based με όδους που αποτε ούν τον πυρήνα της προσέ ισής μας. Στο Κεφά αιο 3 παρουσιάζουμε ανα υτικά τον Α όρι μο 1 - το α ορι μικό π αίσιο Συνερ ατικής Διή ησης, που προτείνουμε. Αρ ικά, αναφερόμαστε στην έννοια της Near Complete Decomposability (NCD) κα ώς και του NCDawareRank, που εμε ιώνουν διαισ ητικά και τε νικά τη μέ οδό μας. Έπειτα, ανα ύουμε την κεντρική ιδέα της προσέ ισής μας και προ ράμε στη μα ηματική ανά υση του Α ορί μου 1 και τ ν συστατικών του. Τέ ος, παρα έτουμε τον α όρι μο υπο ο ισμού τ ν συστάσε ν και ανα ύουμε την απόδοσή του, τόσο από υπο ο ιστικής άποψης όσο και από π ευράς απο ήκευσης. Στο κεφά αιο 4 εφαρμόζουμε τον Α όρι μος 1 στο movie recommendation πρό ημα και παρα έτουμε μια σειρά από πειράματα προκειμένου να αξιο ο ήσουμε την απόδοση της 5

26 1. ΕΙΣΑΓΩΓΗ με όδου μας. Τα πειράματα αυτά πρα ματοποιούνται πάν στο MovieLens dataset. H απόδοση σύστασης του Α ορί μου 1 συ κρίνεται με την απόδοση ά ν α ορί μ ν κατάταξης. Τα πειράματά μας έδειξαν π ς ο Α όρι μος 1 υπερτερεί τ ν ά ν state-of-the-art τε νικών στις δυο ευρέ ς ρησιμοποιούμενες μετρικές απόδοσης α ορί μ ν συστάσε ν, τις micro-doa και macro-doa. Επιπ έον, ε έ ουμε την απόδοση της με όδου μας όσον αφορά τα προ ήματα που προκα ούνται εξαιτίας της αραιότητας του ώρου αντικειμέν ν, διεξά οντας έναν αρι μό από πειράματα τα οποία προσομοιώνουν το φαινόμενο αυτό. Τα πειράματα, έδειξαν π ς ο Α όρι μος 1 δεν παρουσιάζει με ά η ευαισ ησία, ακόμα και αν η αραιότητα με α ώνει. Η ίδια διαπίστ ση ίνεται και στην περίπτ ση που έ ουμε τοπική αραιότητα, η οποία συμ αίνει κατά την εισα ή νέ ν ταινιών στο σύστημα. Τέ ος, στο κεφά αιο 5, παρα έτουμε τα συμπεράσματά μας και περι ράφουμε συνοπτικά τις κατευ ύνσεις ια με οντική έρευνα. 6

27 Κεφά αιο 2 Συστήματα Συστάσε ν Συνερ ατικής Διή ησης Το παρόν κεφά αιο ακο ου εί τη διάρ ρ ση του A Survey of Collaborative Filtering Techniques [78]. Πιο ανα υτικά αναφέρουμε τι είναι η Συνερ ατική Διή ηση, σε ποιες κατη ορίες ρίζεται, τι π εονεκτήματα έ ουν α ά και τι περιορισμοί εμφανίζονται που ρήζουν αντιμετώπισης. Τέ ος, ίνεται εκτενής αναφορά στις graph-based με όδους που αποτε ούν τον πυρήνα της προσέ ισής μας. 2.1 Συνερ ατική Διή ηση Ο όρος Συνερ ατική Διή ηση (CF) επινοή ηκε από τους προ ραμματιστές που υ οποίησαν ένα από τα πρώτα συστήματα συστάσε ν, το tapestry [26] το οποίο ρησιμοποιή- ηκε ια να προτείνει έ ραφα, που προέρ ονταν από μια ομάδα συζήτησης, σε μια συ ο ή από ρήστες. Είναι ε ονός π ς αποτε εί μέ ρι στι μής την πιο επιτυ ημένη τε νο ο ία συστημάτ ν συστάσε ν και ρησιμοποιείται σε πο ούς από τους πιο επιτυ ημένους διαδικτυακούς τόπους η εκτρονικών α ορών. Η ασική παραδο ή του CF είναι ότι αν οι ρήστες u i και u j α μο ο ήσουν n αντικείμενα με παρόμοιο τρόπο ή έ ουν παρόμοιες συμπεριφορές στην α η επίδρασή τους με το σύστημα στο παρε όν, τείνουν να συμφ νήσουν ξανά στο μέ ον [27]. Οι ρήστες αυτοί ονομάζονται γείτονες και η ομοιότητα τ ν προτιμήσε ν τους υπο ο ίζεται με άση την ομοιότητα τ ν α μο ο ιών που έδ σαν ια τα αντικείμενα. Η εύρεση τ ν ειτόν ν ασίζεται στη ρήση στατιστικών τε νικών. Οι CF τε νικές ρησιμοποιούν μια άση δεδομέν ν που περι αμ άνει τις προτιμήσεις τ ν ρηστών ια τα αντικείμενα. Σε ένα τυπικό CF σενάριο, υπάρ ει μια ίστα από n ρήστες {u 1, u 2,..., u n } και μια ίστα από m αντικείμενα {v 1, v 2,..., v m } και κά ε ρήστης, u i, έ ει μια ίστα αντικειμέν ν, I uv, την οποία είτε έ ει α μο ο ήσει άμεσα είτε οι προ- 7

28 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ τιμήσεις του ια τα αντικείμενα συμπεραίνονται έμμεσα από την ό η συμπεριφορά του στο σύστημα. Με τον όρο α μο ο ίες εννοούμε είτε τις άμεσες είτε τις έμμεσες ενδείξεις: Άμεσες ενδείξεις: αποτε ούν οι περιπτώσεις στις οποίες ζητείται από το ρήστη να α μο ο ήσει ένα αντικείμενο, να ταξινομήσει μια συ ο ή αντικειμέν ν σύμφ να με την προτίμησή του, ή να δημιουρ ήσει μία ίστα αντικειμέν ν που του αρέσουν. Έμμεσες ενδείξεις: αποτε ούν η παρατήρηση τ ν αντικειμέν ν από την π οή- ηση του ρήστη τα οποία έπει σε μια συ κεκριμένη σε ίδα αντικειμένου, η δημιουρ ία ιστορικού με τα αντικείμενα που ο εκάστοτε ρήστης α όρασε, κα ώς και η ανά υση του κοιν νικού δικτύου του ρήστη ώστε να εξεταστούν παρόμοιες προτιμήσεις. Στον Πίνακα 2.1 που ακο ου εί, παρουσιάζουμε τις άμεσες α μο ο ίες που έ ουν δώσει κάποιοι ρήστες ια συ κεκριμένα αντικείμενα. Ροζ πάν ηρας Εκδικητές Μπάτμαν Τιτανικός Μονομά ος Μαρία Γιάννης Α έξης 5? Άννα Γιώρ ος Πίνακας 2.1: Παράδει μα ενός user-item μητρώου. Ο Αλέξης αποτε εί τον ενερ ό ρήστη ια τον οποίο το σύστημα πρέπει να κάνει συστάσεις. Σε κάποιες ταινίες δεν υπάρ ουν δια έσιμες α μο ο ίες από κάποιους ρήστες. Αυτό σημαίνει π ς οι ρήστες αυτοί δεν έ ουν δει ακόμα τις συ κεκριμένες ταινίες. Η διαδικασία που ακο ου εί η συνερ ατική διή ηση ια την παρα ή προ έψε ν ή συστάσε ν ια κά ε ενερ ό ρήστη, φαίνεται στο Σ ήμα 2.1. Σ ήμα 2.1: Η διαδικασία της Συνερ ατικής Διή ησης [70]. Παρατηρούμε π ς η έξοδος του συστήματος συστάσε ν αμ άνει τη μορφή είτε μιας πρόβλεψης είτε μιας σύστασης: 8

29 2. Συνερ ατική Διή ηση Πρό εψη: εκφράζεται σαν μια αρι μητική τιμή, η οποία αντιπροσ πεύει την εκτιμούμενη, κατά το σύστημα συστάσε ν, νώμη του ενερ ού ρήστη ια ένα συ κεκριμένο αντικείμενο. Η εκτιμούμενη αυτή τιμή ακο ου εί την ίδια α μο ο ική κ ίμακα (π. από 1 μέ ρι 5) με τις τιμές α μο ο ιών που έ ει ήδη δώσει ο συ κεκριμένος ρήστης [70]. Σύσταση: εκφράζεται υπό τη μορφή μιας ίστας N αντικειμέν ν τα οποία α του αρέσουν περισσότερο. Η προτεινόμενη ίστα συνή ς αποτε είται από αντικείμενα ια τα οποία ο ενερ ός ρήστης δεν έ ει εκδη εί ακόμα. Η συ κεκριμένη μορφή εξόδου τ ν CF α ορί μ ν αναφέρεται και ς Top-N συστάσεις. Η πρώτη ενιά τ ν CF συστημάτ ν, ρησιμοποιούν τις α μο ο ίες του ρήστη ια να υπο ο ίσουν την ομοιότητα 1 ή το άρος μεταξύ τ ν ρηστών ή τ ν αντικειμέν ν και στη συνέ εια κάνουν προ έψεις ή συστάσεις με άση τις υπο ο ισμένες τιμές ομοιότητας. Η πρό εψη, οιπόν, τ ν α μο ο ιών ια νέα αντικείμενα ίνεται με δυο τρόπους: User-based: Τα user-based συστήματα υπο ο ίζουν το ενδιαφέρον ενός ρήστη u ια ένα αντικείμενο v ρησιμοποιώντας τις α μο ο ίες που έ ουν δώσει οι είτονές του. Οι είτονες του ρήστη u i είναι τυπικά οι ρήστες u j, τ ν οποί ν οι α μο ο ίες που έ ουν δώσει στα κοινά αντικείμενα με τον u i, είναι πο ύ συσ ετισμένες με εκείνες που έ ει δώσει ο u i. Παράδει μα τέτοι ν συστημάτ ν αποτε εί το GroupLens [63]. Item-based: Τα item-based συστήματα προ έπουν τη α μο ο ία ενός ρήστη u ια ένα αντικείμενο v αμ άνοντας υπόψη τους τις α μο ο ίες που έ ει δώσει ο ρήστης u σε ά α παρόμοια αντικείμενα του v. Σε τέτοιες προσε ίσεις, δυο αντικείμενα είναι όμοια αν αρκετοί ρήστες του συστήματος έ ουν α μο ο ήσει αυτά τα αντικείμενα με παρόμοιο τρόπο. Παράδει μα τέτοι ν συστημάτ ν αποτε ούν το amazon.com 2 (Σ ήμα 2.2) και το Neflix 3. Οι παραπάν κατη ορίες αποτε ούν περιπτώσεις τ ν memory-based CF με όδ ν που έ ουν ρησιμοποιη εί κυρί ς σε εμπορικά συστήματα, ό του ότι είναι αποτε εσματικοί και παρά η α πο ύ εύκο οι στην εφαρμο ή τους [34, 48]. Στην επόμενη παρά ραφο αναφερόμαστε πιο ανα υτικά στα memory-based συστήματα συστάσε ν. 1 Ο υπο ο ισμός της ομοιότητας ίνεται με μη ανισμούς όπ ς ο συντε εστής συσ έτισης Pearson ή η cosine-based ομοιότητα

30 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ Σ ήμα 2.2: Το Amazon προτείνει αντικείμενα στους ρήστες εφαρμόζοντας CF τε νικές Memory-based συστήματα συστάσε ν Οι memory-based CF α όρι μοι ρησιμοποιούν ο όκ ηρη ή ένα δεί μα της user-item άσης δεδομέν ν ια την παρα ή μιας πρό εψης. Σκοπός τους είναι να ρουν τους είτονες ενός νέου ρήστη - εφαρμόζοντας στατιστικές τε νικές - και να παράξουν μια πρό εψη όσον αφορά τις προτιμήσεις του. Η διαδικασία που ακο ου ούν είναι η εξής: υπο ο ίζουν την ομοιότητα ή το άρος μεταξύ δυο ρηστών (ή δυο αντικειμέν ν) και παρά ουν μια πρό εψη παίρνοντας το στα μισμένο μέσο όρο ό ν τ ν α μο ο ιών που έ ει δώσει ένας συ κεκριμένος ρήστης (ή που έ ει πάρει ένα συ κεκριμένο αντικείμενο) [70]. Στην περίπτ ση που εξά ουν μια ίστα top-n συστάσε ν, ρίσκουν τους k πιο όμοιους ρήστες ή αντικείμενα (οι πιο κοντινοί είτονες) μετά τον υπο ο ισμό τ ν ομοιοτήτ ν, και συ κεντρώνουν τους είτονες προκειμένου να πάρουν τα top-n πιο συ νά αντικείμενα (τα οποία αποτε ούν εν τέ ει την σύσταση) Υπο ο ισμός Ομοιότητας Ο υπο ο ισμός της ομοιότητας μεταξύ αντικειμέν ν ή ρηστών είναι ένα πο ύ σημαντικό ήμα στους memory-based CF α όρι μους. Για έναν user-based CF α όρι μο, πρώτα υπο ο ίζουμε την ομοιότητα τ ν ρηστών u i και u j οι οποίοι έ ουν α μο ο ήσει - και οι δυο - τα ίδια αντικείμενα. Αντί ετα ια τους item-based CF α όρι μους, πρώτα επικεντρ νόμαστε στους ρήστες οι οποίοι έ ουν α μο ο ήσει τα αντικείμενα αυτά και 10

31 2. Συνερ ατική Διή ηση μετά κα ορίζουμε την ομοιότητα τ ν co-rated 1 αντικειμέν ν [70]. Υπάρ ουν πο ές διαφορετικές μέ οδοι ια τον υπο ο ισμό της ομοιότητας ή του άρους μεταξύ τ ν ρηστών ή τ ν αντικειμέν ν, κάποιες από τις οποίες ανα ύονται παρακάτ. Correlation-based ομοιότητα Στα item-based συστήματα ια να υπο ο ίσουμε την ομοιότητα μεταξύ δυο αντικειμέν ν v i και v j ρησιμοποιούμε διάφορες ν στές μετρικές συμπερι αμ ανομένου του συντελεστή συσχέτισης Pearson: w ij u k U (r ki r vi )(r kj r vj ) uk U (r ki r vi ) 2 uk U (r kj r vj ) 2, (2.1) όπου το r ki είναι η α μο ο ία του ρήστη u k ια το αντικείμενο v i και το r vi είναι ο μέσος όρος τ ν α μο ο ιών που έ ει πάρει το αντικείμενο v i από τους ρήστες u k U που έ ουν α μο ο ήσει και το αντικείμενο v j. Ά ες ν στές μετρικές αυτής της κατη ορίας περι αμ άνουν: τον constrained συντελεστή συσχέτισης Pearson, που αποτε εί μια παρα α ή του συντε εστή Pearson η οποία ρησιμοποιεί ένα κεντρικό σημείο αντί ια τη μέση α μο ο ία, το συντελεστή συσχέτισης της κατάταξης του Spearman, παρόμοια με τον συντε εστή Pearson, με τη διαφορά ότι αντί ια α μο ο ίες έ ουμε κατατάξεις και τον Kendall s τ συντελεστή συσχέτισης παρόμοιο με τον συντε εστή συσ έτισης της κατάταξης του Spearman, με τη διαφορά ότι αντί να ρησιμοποιη ούν οι ίδιες κατατάξεις, ρησιμοποιούνται μόνο οι σ ετικές κατατάξεις ια τον υπο ο ισμό της συσ έτισης [27, 32]. Cosine-based ομοιότητα Η vector cosine-based ομοιότητα, αρ ικά ρησιμοποιή ηκε ια τον υπο ο ισμό της ομοιότητας ανάμεσα σε αρ εία. Η ομοιότητα μεταξύ δυο αρ εί ν μπορεί να μετρη εί αν αντιμετ πίσουμε κά ε αρ είο σαν ένα διάνυσμα τ ν συ νοτήτ ν τ ν έξε ν και υπο ο ίσουμε το συνημίτονο της νίας που σ ηματίζεται από τα διανύσματα συ νότητας [67]. Ο φορμα ισμός αυτός μπορεί να υιο ετη εί και στην περίπτ ση της συνερ ατική διή ησης, όπου ρήστες και αντικείμενα αντικα ιστούν τα αρ εία, και οι α μο ο ίες τις συ νότητες τ ν έξε ν. Τυπικά, αν R είναι το n m user-item μητρώο, τότε η ομοιότητα μεταξύ δυο αντικειμέν ν, v i και v j, ορίζεται σαν το συνημίτονο τ ν m-διάστατ ν διανυσμάτ ν τα οποία 1 τα κοινά αντικείμενα που έ ουν α μο ο ήσει δυο ρήστες u i και u j. 11

32 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ αντιστοι ούν στην i-οστή και στην j-οστή στή η του μητρώου R. Ένα παράδει μα υπο- ο ισμού ια την περίπτ ση της item-based ομοιότητας, φαίνεται στο Σ ήμα 2.3. Σ ήμα 2.3: Απομόν ση τ ν co-rated αντικειμέν ν και ο υπο ο ισμός της ομοιότητας [70]. Η vector cosine ομοιότητα μεταξύ τ ν αντικειμέν ν v i και v j δίνεται από τον τύπο w ij cos( v i, v j ) v i v j v i v j (2.2) όπου το δη ώνει το εσ τερικό ινόμενο τ ν δυο διανυσμάτ ν. Οπότε ια την περίπτ ση που έ ουμε m αντικείμενα, ρειάζεται να υπο ο ίσουμε ένα m m μητρώο ομοιότητας [69]. Adjusted cosine ομοιότητα Σε πρα ματικές καταστάσεις, όπου διαφορετικοί ρήστες ρησιμοποιούν διαφορετικές κ ίμακες α μο ο ίας, η vector cosine ομοιότητα δεν ενδείκνυται. Σε τέτοιες περιπτώσεις, ρησιμοποιείται η adjusted cosine ομοιότητα στην οποία αφαιρείται ο αντίστοι ος μέσος όρος τ ν α μο ο ιών του ρήστη από κά ε corated ζευ άρι. Στην πρα ματικότητα η συσ έτιση Pearson εκτε εί την cosine ομοιότητα με κάποιο είδος κανονικοποίησης τ ν α μο ο ιών του ρήστη σύμφ να με τη δική του συμπεριφορά α μο ό ησης. Η adjusted cosine ομοιότητα δίνεται από τον τύπο: w ij u k U (r ki r uk )(r kj r uk ) uk U (r ki r uk )2 uk U (r kj r uk )2 (2.3) όπου το r ki είναι η α μο ο ία που δίνει ο ρήστης u k στο αντικείμενο v i, και το r uk είναι ο μέσος όρος τ ν α μο ο ιών του ρήστη u k. 12

33 2. Συνερ ατική Διή ηση Top-N Συστάσεις Η επι ο ή τ ν top-n αντικειμέν ν που προτείνονται στο ρήστη ίνεται με 2 τρόπους: κάνοντας user-based και item-based top-n συστάσεις. Οι τε νικές τ ν top-n συστάσε ν ανα ύουν το user-item μητρώο προκειμένου να ανακα ύψουν σ έσεις μεταξύ διαφορετικών ρηστών ή αντικειμέν ν και στη συνέ εια ρησιμοποιούν αυτές τις σ έσεις ια να υπο ο ίσουν τις συστάσεις. User-based Top-N α όρι μοι συστάσε ν Οι user-based top-n α όρι μοι συστάσε ν ανα ν ρίζουν πρώτα τους k πιο όμοιους - με τον ενερ ό - ρήστες ρησιμοποιώντας το συντε εστή Pearson ή το vector-space μοντέ ο [7, 69]. Στα μοντέ α αυτά κά ε ρήστης συμπεριφέρεται σαν ένα διάνυσμα στο m-διάστατο ώρο αντικειμέν ν και οι ομοιότητες ανάμεσα στον ενερ ό και στους ά ους ρήστες υπο ο ίζονται μεταξύ τ ν διανυσμάτ ν, όπ ς αναφέραμε προη ουμέν ς. Από τη στι μή που οι k παρόμοιοι ρήστες έ ουν ανακα υφ εί, οι αντίστοι ες ραμμές τους στο user-item μητρώο R συ κεντρώνονται ια να ανα ν ρίσουν ένα σύνο ο αντικειμέν ν, S, το οποίο α οράστηκε από παρόμοιους ρήστες. Έ οντας π έον το σύνο ο S, οι user-based CF τε νικές προτείνουν τα top-n πιο συ νά αντικείμενα του συνό ου S, ια τα οποία δεν έ ει εκφράσει ακόμα νώμη ο ρήστης. Παρά τη με ά η τους απή ηση, οι user-based top-n α όρι μοι συστάσε ν υπόκεινται σε περιορισμούς που σ ετίζονται με την επεκτασιμότητα και την real-time απόδοση [39]. Item-based Top-N α όρι μοι συστάσε ν Για την αντιμετώπιση του προ ήματος της επεκτασιμότητας που εμφανίζεται στους user-based top-n α όρι μους, αναπτύ- ηκαν οι item-based top-n α όρι μοι συστάσε ν. Οι α όρι μοι αυτοί, υπο ο ίζουν πρώτα, ια κά ε αντικείμενο, τα k πιο όμοιά του. Στη συνέ εια, προσδιορίζουν το σύνο ο, S - το οποίο αποτε είται από τα υποψήφια αντικείμενα που α προτα ούν στο ρήστη - παίρνοντας τα k πιο όμοια αντικείμενα και αφαιρώντας από αυτά το σύνο ο L i, το οποίο περιέ ει τα αντικείμενα ια τα οποία ο ρήστης έ ει εκφράσει άποψη. Έπειτα υπο ο ίζονται τις ομοιότητες μεταξύ τ ν αντικειμέν ν που υπάρ ουν στο σύνο ο S και τ ν αντικειμέν ν που υπάρ ουν στο σύνο ο L i. Το σύνο ο S που προκύπτει, το οποίο είναι ταξινομημένο με φ ίνουσα σειρά όσον αφορά τις ομοιότητες, αποτε εί την item-based top-n ίστα που α προτα εί στον ρήστη [39]. Ένα πρό ημα της με όδου αυτής είναι, π ς όταν η από κοινού κατανομή ενός συνό- ου αντικειμέν ν είναι διαφορετική από τις κατανομές τ ν μεμον μέν ν αντικειμέν ν στο σύνο ο, τότε είναι πι ανόν η παραπάν διαδικασία να οδη ήσει σε μη έ τιστες συστάσεις [78]. Για να υ εί το πρό ημα αυτό, οι Deshpande και Karypis [17] ανέπτυξαν υψη ότερης τάξης item-based top-n α ορί μους συστάσε ν, οι οποίοι ρησιμοποιούν ό ους τους συνδυασμούς τ ν αντικειμέν ν μέ ρι ένα συ κεκριμένο μέ ε ος, κατά τον κα ορισμό του 13

34 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ συνό ου τ ν αντικειμέν ν που προτείνονται στο ρήστη Π εονεκτήματα - Μειονεκτήματα Tα memory-based συστήματα είναι πο ύ εύκο α στη δημιουρ ία και πο ύ απ ά στην εφαρμο ή τους. Στην πιο απ ή τους μορφή, ο μόνος παρά οντας που ρειάζεται ρύ μιση είναι ο αρι μός τ ν ειτόν ν (αντικείμενα ή ρήστες) που α ρησιμοποιη ούν ια την εξα- ή της πρό εψης. Ένα ά ο π εονέκτημα είναι η στα ερότητα τ ν συστημάτ ν αυτών, κα ώς επηρεάζονται ε ά ιστα από την συνε ή προσ ήκη νέ ν ρηστών, αντικειμέν ν και α μο ο ιών, ε ονός που είναι πο ύ συνη ισμένο στις με ά ες εμπορικές εφαρμο ές που τα ρησιμοποιούν. Για παράδει μα, ένα memory-based σύστημα μπορεί να κάνει συστάσεις σε νέους ρήστες στηριζόμενο στις ομοιότητες τ ν αντικειμέν ν που έ ουν ήδη υπο ο ιστεί. Επιπ έον, εμφανίζουν ά α δυο σημαντικά προτερήματα που σ ετίζεται με την αποδοτικότητά τους: α) δε ρειάζεται να εκπαιδεύουν το σύστημα - διαδικασία ακρι ή και ρονο όρα ) η απο ήκευση τ ν κοντινότερ ν ειτόν ν απαιτεί πο ύ μικρή μνήμη - πρά μα πο ύ ετικό ια τις εφαρμο ές που δια ειρίζονται εκατομμύρια αντικείμενα και ρήστες. Τέ ος, ένα από τα σημαντικότερα π εονεκτήματα τ ν memory-based συστημάτ ν αποτε εί το ε ονός ότι δεν απαιτούν νώση του περιε ομένου τ ν αντικειμέν ν η νώση τ ν α μο ο ιών που έ ουν δώσει οι ρήστες σε αυτά αρκεί. Παράδει μα ενός user-item μητρώου Από την ά η μεριά, η εξάρτηση τ ν συστημάτ ν αυτών από τις α μο ο ίες τ ν ρηστών μπορεί να οδη ήσει σε μη αποτε εσματικές προ έψεις, αν οι ρήστες δεν έ ουν α η επιδράσει με αυτά. Επιπ έον, όταν τα δεδομένα τ ν α μο ο ιών είναι αραιά - ε ονός πο ύ συνη ισμένο στα συστήματα συστάσε ν - η απόδοση του συστήματος μειώνεται. Προκειμένου να ξεπεραστούν τα μειονεκτήματα τ ν memory-based CF συστημάτ ν, έ ουν αναπτυ εί οι model-based προσε ίσεις, οι οποίες ανα ύονται παρακάτ Model-based συστήματα συστάσε ν Τα model-based συστήματα ρησιμοποιούν τις α μο ο ίες τ ν ρηστών που υπάρ ουν απο ηκευμένες στο σύστημα ια να μά ουν ένα μοντέ ο προ έψε ν. Η ενική ιδέα είναι να μοντε οποιη ούν οι user-item α η επιδράσεις με παρά οντες που εκπροσ πούν τα λανθάνοντα αρακτηριστικά τ ν ρηστών και τ ν αντικειμέν ν στο σύστημα, όπ ς η κατη ορία προτιμήσε ν του ρήστη ή η κ άση στην οποία ανήκει το αντικείμενο. Το μοντέ ο αυτό εκπαιδεύεται ρησιμοποιώντας τα δια έσιμα δεδομένα και στη συνέ- εια εφαρμόζεται ια να προ έψει τις α μο ο ίες τ ν ρηστών σε καινούρια αντικείμενα. Στη ι ιο ραφία υπάρ ουν διάφορες model-based προσε ίσεις ια την σύσταση αντικειμέν ν, όπ ς είναι η Bayesian Clustering [7], η Latent Semantic Analysis(LSI) [33], η 14

35 2. Συνερ ατική Διή ηση Maximum Entropy [86], οι Boltzmann Machines [66], οι Support Vector Machines (SVM) [30] και η Singular Value Decomposition(SVD) [4, 44, 61, 79, 80]. Στα π εονεκτήματα τ ν α ορί μ ν που ακο ου ούν τη προσέ ιση αυτή κατατάσσεται η δυνατότητά τους να ειρίζονται αραιά δεδομένα ρίς να μειώνεται η αποδοτικότητα του συστήματος. Επιπ έον, με την εκπαίδευση του συστήματος, μπορεί να ε τιώνεται συνε ώς η απόδοσή του. Τέ ος, ά ο ένα π εονέκτημα είναι ότι μπορούν να δίνουν μια διαισ ητική εξή ηση τ ν συστάσε ν που κάνουν, και έτσι οι ρήστες εμπιστεύονται κα- ύτερα το σύστημα και αποδέ ονται τις προτάσεις που τους ίνονται. Από την ά η, το ασικότερο μειονέκτημά τους είναι ότι απαιτούν ανά τακτά ρονικά διαστήματα φάσεις εκπαίδευσης ια να μά ουν το μοντέ ο πρό εψης, και η διαδικασία αυτή κοστίζει ακρι ά. Επίσης, επειδή στα συστήματα αυτά ρησιμοποιούνται συ νά μέ οδοι μεί σης διαστάσε ν, ρήσιμη π ηροφορία μπορεί να α εί. Σε μια προσπά εια εκμετά ευσης τ ν π εονεκτημάτ ν τ ν δυο παραπάν με όδ ν έ ουν προτα εί στη ι ιο ραφία υβριδικές CF τεχνικές, οι οποίες συνδυάζουν τις CF με ά ες τε νικές συστάσε ν, συνη έστερα με content-based προσε ίσεις [62]. Εντούτοις, παρά τα π εονεκτήματά τους παρουσιάζουν και κάποια μειονεκτήματα συμπερι αμ ανομέν ν, της αυξημένης τους πο υπ οκότητας και της δαπάνης που απαιτείται ια την εφαρμο ή τους. Μία σύντομη επισκόπηση τ ν τε νικών του CF παρουσιάζεται στον Πίνακα 2.2. Κατη ορίες Αντιπροσ πευτικές Τε νικές Κύρια π εονεκτήματα Κύρια μειονεκτήματα Memory-based CF Model-based CF Hybrid Recommenders small Neighbor-based CF εύκο η εφαρμο ή εξάρτηση από τις α μο ο ίες (item-based/user-based CF) προσ ήκη νέ ν δεδομέν ν τ ν ρηστών α όρι μοι με συσ έτιση εύκο α μει μένη απόδοση σε Pearson/vector cosine δεν ρειάζεται εξέταση του αραιά δεδομένα Item-based/user-based περιε ομένου τ ν αντικειμέν ν ό ι συστάσεις ια νέους top-n συστάσεις κ ιμακώνεται κα ά με co-rated ρήστες και αντικείμενα αντικείμενα περιορισμένη κ ιμακοσιμότητα ια με ά α datasets Bayesian belief nets CF κα ύτερη αντιμετώπιση του ακρι ό τίσιμο μοντέ ου Clustering CF sparsity, της κ ιμακοσιμότητας trade-off μεταξύ απόδοσης MDP-based CF και ά ν προ ημάτ ν και πρό εψης κ ιμακοσιμότητας Latent Semantic CF ε τί ση απόδοσης πρό εψης απώ εια ρήσιμης π ηροφορίας sparse factor analysis δίνει μια διαισ ητική ια τε νικές μεί σης CF ρησιμοποιώντας τε νικές αιτιο ο ία ια συστάσεις διαστάσε ν μεί σης διαστάσε ν, π. SVD,PCA content-based CF ξεπερνά τους περιορισμούς αυξημένη πο υπ οκότητα recommenders, π. Fab τ ν CF και content-based δαπάνη ια την εφαρμο ή content-boosted CF ή ά ν recommenders ανά κη ια εξ τερική hybrid CF συνδυάζοντας ε τί ση απόδοσης πρό εψης π ηροφορία που δεν memory-based και model-based ξεπερνά περιορισμούς του CF είναι δια έσιμη CF α όρι μους, π. όπ ς το sparsity και το Personal Diagnosis και το gray sheep Πίνακας 2.2: Π εονεκτήματα και Μειονεκτήματα τε νικών Συνερ ατικής Διή ησης. 15

36 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ 2.2 Προκ ήσεις του CF Εξαιτίας του ε ονότος π ς τα CF συστήματα συστάσε ν είναι ευρέ ς διαδεδομένα, πο ές προκ ήσεις με τις οποίες έρ ονται αντιμέτ πα, πρέπει να εξεταστούν. Οι CF α - όρι μοι απαιτείται να έ ουν την ικανότητα να αντεπεξέ ουν με πο ύ αραιά δεδομένα, να μπορούν να προσαρμοστούν στον αυξανόμενο αρι μό τ ν ρηστών και τ ν αντικειμέν ν, να κάνουν ικανοποιητικές συστάσεις σε μικρό ρονικό διάστημα και να αντιμετ πίζουν ά α προ ήματα όπ ς είναι η συν νυμία, οι επι έσεις κακό ου ν ρηστών, ο όρυ ος τ ν δεδομέν ν και η ιδι τικότητα τ ν προσ πικών δεδομέν ν. Πριν προ ρήσουμε στην ανά υσή τους, είναι σημαντικό να επισημάνουμε πώς, συνή ς, ένα RS το οποίο πετυ αίνει ρή ορες και ακρι είς συστάσεις, μπορεί να επιφέρει ό ι μόνο την ικανοποίηση του πε άτη α ά και ετικά αποτε έσματα στις εταιρίες που το εφαρμόζουν. Συνεπώς, ια τα CF συστήματα, η παρα ή υψη ής ποιότητας προ έψε ν και συστάσε ν, εξαρτάται από το πόσο κα ά α αντιμετ πιστούν οι παρακάτ προκ ήσεις. Αραιά δεδομένα Όπ ς αναφέραμε και σε προη ούμενη ενότητα, τα συστήματα συστάσε ν συνερ ατικής διή ησης ασίζονται στις ομοιότητες μεταξύ ρηστών όπ ς αυτές προκύπτουν από τη σύ κριση τ ν α μο ο ιών τους ια τα ίδια αντικείμενα. Οι ρήστες όμ ς είναι πο ύ πι ανό να μην έ ουν α μο ο ήσει κοινά αντικείμενα ή να έ ουν α μο- ο ήσει μόνο ί α. Το user-item μητρώο συνή ς προκύπτει υπερ ο ικά αραιό κάτι που όπ ς είναι αναμενόμενο έτει σε δοκιμασία την π ειοψηφία τ ν CF συστημάτ ν. Η πρόκ ηση τ ν αραιών δεδομένων εμφανίζεται σε αρκετές περιπτώσεις: cold start: πρό ημα συμ αίνει όταν ένας νέος ρήστης ή ένα νέο αντικείμενο έ ει μό ις εισέ ει στο σύστημα. Στην περίπτ ση αυτή, είναι δύσκο ο να ρε ούν παρόμοιοι ρήστες ή αντικείμενα, επειδή δεν υπάρ ουν επαρκείς π ηροφορίες. Το cold start πρό ημα, επίσης αναφέρεται και ς πρόβλημα νέου χρήστη ή πρόβλημα νέου αντικειμένου [1, 83].Από τη μια μεριά, νέα αντικείμενα δεν μπορούν να προτα ούν μέ ρις ότου α μο ο η ούν πρώτα από κάποιους ρήστες, και από την ά η είναι αδύνατον να δο ούν κα ές συστάσεις στους ρήστες ό της έ ειψης τ ν α μο ο ιών τους και του ιστορικού τ ν α ορών τους. κά υψη (coverage): μπορεί να κα οριστεί σαν το ποσοστό τ ν αντικειμέν ν ια τα οποία ο α όρι μος α μπορούσε να παρέ ει συστάσεις. Το πρό ημα της περιορισμένης κάλυψης (reduced coverage) συμ αίνει όταν ο αρι μός τ ν α μο ο ιών που έ ουν δώσει οι ρήστες είναι πο ύ μικρός σε σ έση με τον αρι μό τ ν αντικειμέν ν που υπάρ ουν στο σύστημα. neighbor transitivity : αναφέρεται σαν ένα πρό ημα το οποίο συμ αίνει σε αραιές 16

37 2. Συνερ ατική Διή ηση άσεις δεδομέν ν, όπου δυο ρήστες με παρόμοια ούστα είναι πι ανόν να μην ανα- ν ριστούν ς παρόμοιοι, αν δεν έ ουν α μο ο ήσει και οι δυο τα ίδια αντικείμενα. Για την εξά ειψη του προ ήματος τ ν αραιών δεδομέν ν, έ ουν προτα εί στη ι- ιο ραφία μια σειρά από προσε ίσεις. Τε νικές μεί σης διαστάσε ν (dimensionality reduction), όπ ς είναι ο SVD [6], προ ά ουν τους ρήστες και τα αντικείμενα σε ένα μητρώο μει μέν ν διαστάσε ν στο ώρο, το οποίο συμπερι αμ άνει τα πιο ασικά αρακτηριστικά τους. Με αυτόν τον τρόπο, σε αυτόν τον ώρο πυκνών αρακτηριστικών, μπορούν να ρε ούν σ έσεις ακόμα και ανάμεσα σε ρήστες που δεν έ ουν α μο ο ήσει τα ίδια αντικείμενα. Η μεί ση διαστάσε ν ίνεται είτε στο user-item μητρώο, είτε στο μητρώο απο ήκευσης τ ν ομοιοτήτ ν. Μια μέ οδος η οποία ασίζεται στον SVD και ρησιμοποιείται ευρέ ς σε περιπτώσεις ανάκτησης π ηροφορίας είναι η Latent Semantic Indexing (LSI) [16, 47], όπου η ομοιότητα μεταξύ τ ν ρηστών κα ορίζεται από την αναπαράστασή τους. Οι Goldberg et al. [27] ανέπτυξαν τον Εigentaste, έναν CF α όρι μο που εφαρμόζει την PCA τε νική, η οποία περι ράφτηκε πρώτα από τον Pearson το 1901 [24], ια μεί ση διαστάσε ν. Εντούτοις, σε τέτοιες περιπτώσεις, όταν απορρίπτονται συ κεκριμένοι ρήστες ή αντικείμενα, άνονται και ρήσιμες π ηροφορίες ια συστάσεις που σ ετίζονται με αυτούς, πρά μα το οποίο συνεπά εται υπο ά μιση της ποιότητας τ ν συστάσε ν [48, 69]. Υ ριδικοί CF α όρι μοι, όπ ς ο content-boosted CF α όρι μος [51], εμφανίστηκαν στο προσκήνιο προκειμένου να αντιμετ πιστεί το πρό ημα της αραιότητας τ ν δεδομέν ν. Στις περιπτώσεις αυτές, ια την παρα ή προ έψε ν ια νέους ρήστες ή νέα αντικείμενα, ρησιμοποιούνται εξ τερικές π ηροφορίες περιε ομένου. Οι Kim και Li [42] πρότειναν ένα πι ανοτικό μοντέ ο ια την αντιμετώπιση του cold start προ ήματος, στο οποίο τα αντικείμενα ταξινομούνται σε ομάδες και οι προ έψεις που ίνονται ια τους ρήστες αμ άνουν υπόψη την Gaussian κατανομή τ ν α μο ο ιών τ ν ρηστών. Επιπ έον model-based CF α όρι μοι, έ ουν προτα εί επίσης στη ι ιο- ραφία, όπ ς είναι ο TAN-ELR [31, 77], και αντιμετ πίζουν το πρό ημα της αραιότητας παρέ οντας πιο ακρι είς προ έψεις ια τα αραιά δεδομένα. Τέ ος, ένας ά ος τρόπος ειρισμού τ ν προ ημάτ ν της περιορισμένης κά υψης και τ ν αραιών δεδομέν ν αποτε ούν οι graph-based μέ οδοι, τους οποίους ανα ύουμε σε επόμενη ενότητα, ό της συνάφειας με τον δικό μας α όρι μο. Επεκτασιμότητα Όταν ο αρι μός τ ν ρηστών και τ ν αντικειμέν ν με α ώνει υπερ- ο ικά, οι παραδοσιακοί CF α όρι μοι υποφέρουν από σο αρά προ ήματα επεκτασιμότητας, με υπο ο ιστικούς πόρους πέρα από τα πρακτικά και αποδε τά επίπεδα. Επίσης, πο ά συστήματα είναι ανά κη να αντιδράσουν άμεσα σε online απαιτήσεις και να κάνουν συστάσεις ια ό ους τους ρήστες, άσ ετα με το ιστορικό τ ν α ορών τους και τις α μο ο ίες που έ ουν δώσει στα αντικείμενα. 17

38 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ Τε νικές μεί σης διαστάσε ν, όπ ς η SVD, μπορούν σε ένα α μό να αντιμετ πίσουν το πρό ημα της επεκτασιμότητας και να παρά ουν ρή ορα κα ής ποιότητας συστάσεις. Ωστόσο, η ρήση του συνεπά εται ακρι ά ήματα προκειμένου να ίνει η παρα οντοποίηση του μητρώου. Ένας αυξητικός SVD CF α όρι μος [68] προϋπο ο ίζει την SVD ρησιμοποιώντας ήδη υπάρ οντες ρήστες. Όταν ένα νέο σύνο ο α μο ο ιών προστί εται στη άση δεδομέν ν, ο α όρι μος ρησιμοποιεί την folding-in τε νική προ ο ής [5, 16] ια να δημιουρ ήσει ένα αυξητικό σύστημα ρίς να ρειαστεί να υπο ο ίσει το αμη ών διαστάσε ν μοντέ ο από το μηδέν. Συνεπώς, το σύστημα συστάσε ν επεκτείνεται εύκο α. Επιπ έον, model-based CF α όρι μοι, όπ ς είναι οι α όρι μοι ομαδοποίησης CF, προσπα ούν να ύσουν το πρό ημα ψά νοντας ια ρήστες που α τους κάνουν συστάσεις, μέσα σε μικρότερες παρόμοιες ομάδες ρηστών και ό ι σε ο όκ ηρη τη άση δεδομέν ν [11, 59, 71, 82]. Στην περίπτ ση αυτή πρέπει να σημει εί π ς υπάρ ουν tradeoffs μεταξύ της επεκτασιμότητας και της απόδοσης της πρό εψης. Συν νυμία Η συνωνυμία αναφέρεται στην τάση που έ ουν κάποια ίδια ή πο ύ παρόμοια αντικείμενα, να έ ουν διαφορετικά ονόματα ή κατα ρήσεις στη άση δεδομέν ν. Τα περισσότερα συστήματα συστάσε ν, δεν είναι ικανά να ανακα ύψουν αυτή τη κρυμμένη συσ έτιση και ς εκ τούτου αντιμετ πίζουν αυτά τα αντικείμενα με διαφορετικό τρόπο. Για παράδει μα, τα φαινομενικά διαφορετικά αντικείμενα children movie και children film είναι στην πρα ματικότητα το ίδιο αντικείμενο, α ά τα memory-based CF συστήματα δεν μπορούν να ρουν κάποιο ταίριασμα ανάμεσά τους ώστε να υπο ο ίσουν την μεταξύ τους ομοιότητα. Είναι ε ονός π ς το πρό ημα της συν νυμίας μειώνει την απόδοση τ ν CF συστημάτ ν. Προη ούμενες προσπά ειες ια την επί υση του προ ήματος συν νυμίας, ασίστηκαν στην αυτόματη επέκταση όρου ή ακόμα και στην κατασκευή ενός ησαυρού. Το μειονέκτημα τ ν π ήρ ς αυτόματ ν με όδ ν, στόσο, είναι π ς κάποιοι προστι έμενοι όροι μπορεί να έ ουν διαφορετικές σημασίες από αυτές ια τις οποίες προορίζονται. Συνεπώς, αυτό οδη εί σε ρή ορη υπο ά μιση της απόδοσης τ ν συστάσε ν [36]. Οι SVD τε νικές, συ κεκριμένα η LSI μέ οδος, είναι ικανές να αντιμετ πίσουν προ ήματα που οφεί ονται στη συν νυμία. Η SVD παίρνει ένα με ά ο term-document μητρώο δεδομέν ν συσ έτισης και δημιουρ εί ένα σημασιο ο ικό ώρο στον οποίο όροι και έ - ραφα που είναι στενά συσ ετισμένα, τοπο ετούνται κοντά το ένα στο ά ο. Η SVD επιτρέπει την διάταξη του ώρου ια να αντικατοπτρίζει τα σημαντικά πρότυπα συσ έτισης στα δεδομένα, και να α νοεί τα μικρότερα και ι ότερο σημαντικά. Η απόδοση του LSI στην αντιμετώπιση του προ ήματος συν νυμίας είναι εντυπ σιακή σε υψη ότερα επίπεδα ανάκ ησης (recall), όπου η ακρί εια (precision) είναι συνή ς πο ύ αμη ή [16]. Τέ ος, η LSI μέ οδος, δίνει μόνο μερική ύση στο πρό ημα της πολυσημίας (polysemy), η οποία αναφέρεται στο ε ονός ότι οι πιο πο ές έξεις έ ουν περισσότερες από 18

39 2. Συνερ ατική Διή ηση μια διακριτή έννοια [16]. Gray Sheep - Black Sheep Ο όρος gray sheep αναφέρεται σε μια μικρή ή μεσσαία κοιν νία ρηστών, όπου υπάρ ουν άτομα τα οποία δεν επ φε ούνται κα ό ου από το απ ό συνερ ατικό φι τράρισμα, εξαιτίας του ε ονότος ότι οι απόψεις τους δεν έ ουν κάποια συνέπεια με τις απόψεις οποιασδήποτε ομάδας αν ρώπ ν. Τα άτομα αυτά αμ άνουν σπάνια, αν ό ι ποτέ, ακρι είς συστάσεις ακόμα και μετά από την αρ ική φάση εκκίνησης ια το ρήστη και ια το σύστημα [12]. Από την ά η μεριά, ο όρος black sheep αναφέρεται σε μια ομάδα αν ρώπ ν όπου είναι δύσκο ο να τους ίνουν συστάσεις, εξαιτίας του ε ονότος ότι δεν υπάρ ουν κα ό ου ή υπάρ ουν πο ύ ί α άτομα, τα οποία σ ετίζονται μαζί τους ό τ ν ιδιαίτερ ν προτιμήσε ν που έ ουν ( έπε Σ ήμα 2.4). Σ ήμα 2.4: Το μαύρο πρό ατο. Οι Claypool et al. [12] παρέ ουν μια υ ριδική προσέ ιση που ασίζει την πρό εψη στο στα μισμένο μέσο όρο της content-based και της CF πρό εψης. Σε αυτή την προσέ ιση, τα άρη τ ν content-based και CF προ έψε ν κα ορίζονται ια κά ε ρήστη. Επι έσεις κακό ου ν ρηστών Σε περιπτώσεις όπου ο κα ένας μπορεί να παρέ- ει συστάσεις, οι ρήστες είναι πι ανόν να δώσουν πάρα πο ές ετικές συστάσεις ια το δικό τους υ ικό και αρνητικές συστάσεις ια τους αντα νιστές τους. Συνεπώς, οι επι έσεις αυτές μπορούν να συμ ά ουν στην ενίσ υση ενός αντικειμένου ή στο αντί ετο. Είναι επι υμητό οιπόν, τα CF συστήματα να εισά ουν μέτρα ασφα είας τα οποία απο αρρύνουν τέτοιου είδους φαινόμενα [64]. Πρόσφατα, ια ένα CF σύστημα, έ ουν ανα ν ριστεί κάποια μοντέλα κακόβουλων χρηστών και η αποτε εσματικότητά τους έ ει με ετη εί. Ο Lam και Riedl [46] ρήκαν π ς 19

40 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ ένας item-based CF α όρι μος επηρεάζεται πο ύ ι ότερο από τις επι έσεις σε σ έση με τον user-based CF α όρι μο. Οι Mobasher et al. [53] έ ουν προ ρήσει στην εξέταση μοντέ ν επι έσε ν ια τα item-based CF συστήματα, και επιπ έον πιστεύουν π ς ενα ακτικά CF συστήματα, όπ ς είναι τα υ ριδικά CF και τα model-based CF συστήματα, είναι δυνατόν να παρέ ουν μερικές ύσεις στο bias injection πρόβλημα. Επιπ έον, οι O Mahony et al. [58] συνέ α αν στη ύση του προ ήματος τ ν επι έσε ν από κακό- ου ους ρήστες ανα ύοντας την ευρ στία - δη αδή την προσαρμοστικότητα ενός RS σε πι ανές κακό ου ες διαταράξεις που μπορεί να συμ ούν στο user-item μητρώο α μο ο- ιών. Ά ες προκ ήσεις Εξαιτίας του ε ονότος π ς κάποιοι άν ρ ποι δεν έ ουν οι συνή ειές τους και οι προτιμήσεις τους να είναι ευρέ ς ν στές, τα CF συστήματα εννούν επίσης την ανησυ ία ια την ιδι τικότητα τ ν προσ πικών δεδομέν ν. Οι Miller et al. [52] και Canny [10] ρήκαν τρόπους ια να διαφυ άξουν την ιδι τικότητα τ ν ρηστών στην περίπτ ση τ ν CF συστάσε ν. Ο αυξανόμενος όρυ ος είναι μια ά η πρόκ ηση, κα ώς ο π η υσμός τ ν ρηστών ίνεται πιο ποικί ος. Οι από κοινού MMMF [15] και instance selection τε νικές [84] ρέ- ηκαν ρήσιμες ια την αντιμετώπιση του ορύ ου όσον αφορά τα CF ζητήματα. Παρά το ε ονός ότι η ε ρία Dempster-Shafer (DS) [9, 72] και οι imputation τε νικές [41] έ ουν εφαρμοστεί με επιτυ ία ια να δέ ονται τα ατε ή και ορυ ώδη δεδομένα, ια την αναπαράσταση της νώσης α ά και ια ζητήματα ομαδοποίησης, εντούτοις μπορούν να ρησιμοποιη ούν και ια την επί υση του προ ήματος αυτού. Η έννοια explainability είναι μια ά η σημαντική πτυ ή τ ν συστημάτ ν συστάσε ν. Η παρα ή μιας διαισ ητικής εξή ησης, όπ ς α αρέσει σε κάποιον αυτό το ι ίο, επειδή του άρεσαν αυτά τα ι ία α είναι ε κυστική και φέ ιμη ια τους ανα νώστες, ανεξάρτητα από την ακρί εια τ ν εξη ήσε ν [44]. 2.3 Graph-based τε νικές Έναν ά ον τρόπος ειρισμού τ ν προ ημάτ ν της περιορισμένης κά υψης και τ ν αραιών δεδομέν ν, όπ ς αναφέρ ηκε προη ουμέν ς, αποτε ούν οι graph-based μέ οδοι. Στις προσε ίσεις που ανήκουν σε αυτή την κατη ορία, τα δεδομένα αναπαρίστανται με τη μορφή ράφου όπου οι κόμ οι είναι ρήστες, αντικείμενα ή και τα δυο μαζί και οι ακμές αντιστοι ούν στις σ έσεις ή στις ομοιότητες μεταξύ τ ν ρηστών και τ ν αντικειμέν ν. Για παράδει μα, στο Σ ήμα 2.5, τα δεδομένα μοντε οποιούνται με ένα διμερή ράφο, όπου τα 2 σύνο α τ ν κόμ ν αναπαριστούν ρήστες και αντικείμενα, και μια ακμή του ράφου συνδέει ένα ρήστη u με ένα αντικείμενο v, αν o ρήστης u έ ει α μο ο ήσει το αντικείμενο v. Στην ακμή αυτή είναι δυνατόν να δο εί ένα άρος, όπ ς είναι η α μο ο ία που 20

41 2. Συνερ ατική Διή ηση Σ ήμα 2.5: Διμερής ράφος. Τα άρη στις ακμές αντιπροσ πεύουν α μο ο ίες ρηστών ια τα αντικείμενα. έ ει δώσει ο ρήστης. Σε ένα ά ο μοντέ ο ράφου, όπου οι κόμ οι αναπαριστούν είτε ρήστες, είτε αντικείμενα, η ακμή που συνδέει δυο κόμ ους δη ώνει το α μό συσ έτισής τους. Οι graph-based προσε ίσεις, επιτρέπουν σε κόμ ους που δεν συνδέονται απευ είας με μια ακμή να επηρεάζουν ο ένας τον ά ον, κα ώς ε ρούν ότι η π ηροφορία μεταφέρεται στις συνδεόμενες ακμές. Όσο με α ύτερο είναι το άρος μιας ακμής, τόσο περισσότερη π ηροφορία επιτρέπεται να περάσει μέσ αυτής. Επίσης, η επιρροή ενός κόμ ου σε έναν ά - ον, μικραίνει όσο πιο απομακρυσμένοι είναι οι κόμ οι μεταξύ τους. Αυτές οι δυο ιδιότητες, ν στές ς propagation και attenuation [28, 35], παρατηρούνται συ νά σε graph-based μέτρα ομοιότητας. Η εκμετά ευση τ ν μετα ατικών σ έσε ν τ ν δεδομέν ν σε ένα ράφο μειώνει τα προ ήματα της περιορισμένης κά υψης και τ ν αραιών δεδομέν ν, αφού π έον μπορούν να εκτιμη ούν σ έσεις ανάμεσα σε ρήστες ή αντικείμενα που δεν συνδέονται άμεσα μεταξύ τους. Αυτές οι μετα ατικές σ έσεις ρησιμοποιούνται ια την σύσταση αντικειμέν ν με δυο τρόπους. Στη μια περίπτ ση, η ειτνίαση ενός ρήστη με ένα αντικείμενο στο ράφο ρησιμοποιείται απευ είας ια να εκτιμη εί η α μο ο ία που α έδινε ο ρήστης u στο αντικείμενο v [20, 28, 35]. Πρακτικά, αυτό σημαίνει ότι στον u προτείνονται τα αντικείμενα εκείνα που του είναι πιο κοντά στον ράφο. Στην δεύτερη περίπτ ση, ο α - όρι μος αμ άνει υπόψη του τη ειτνίαση δυο κόμ ν- ρηστών ή κόμ ν-αντικειμέν ν ς μέτρο ομοιότητας, και στη συνέ εια ρησιμοποιεί αυτή την ομοιότητα σαν άρη στη neighbor-based μέ οδο συστάσε ν [20, 49]. Είναι ε ονός π ς υπάρ ουν διάφοροι τρόποι υπο ο ισμού της ομοιότητας στους ράφους, κάποιοι από τους οποίους αναφέρονται παρακάτ. 21

42 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ Ομοιότητα με άση το μονοπάτι Στην ομοιότητα με άση το μονοπάτι (path-based) η απόσταση μεταξύ δυο κόμ ν, εκτιμάται ς συνάρτηση του αρι μού τ ν μονοπατιών τα οποία συνδέουν τους δυο κόμ ους και του μήκους αυτών τ ν μονοπατιών. Αρι μός μονοπατιών Ο αρι μός τ ν μονοπατιών μεταξύ ενός ρήστη και ενός αντικειμένου σε ένα διμερή ράφο μπορεί επίσης να ρησιμοποιη εί ια να υπο ο ίσει την συμ ατότητά τους [35]. Έστ R, ια ά η μια φορά, ένα U V μητρώο που περιέ ει τις α μο ο ίες που έ ουν δώσει οι ρήστες ια τα αντικείμενα. Ισ ύει ότι, το r uv ισούται με 1 αν ο ρήστης u έ ει α μο ο ήσει το αντικείμενο v, α ιώς ισούται με 0. Το μητρώο ειτνίασης Α του διμερούς ράφου μπορεί, οιπόν, να οριστεί από το μητρώο R σαν ( O Α = R Στην προσέ ιση αυτή οιπόν, η συσ έτιση ανάμεσα σε ένα ρήστη u και κάποιο αντικείμενο v ορίζεται ς το ά ροισμα τ ν αρών ό ν τ ν διαφορετικών μονοπατιών που συνδέουν τους κόμ ους u και v (επιτρέποντας στους κόμ ους να εμφανίζονται περισσότερες από μια φορά σε κά ε μονοπάτι), τ ν οποί ν το μήκος δεν είναι με α ύτερο από μια δεδομένη μέ ιστη τιμή K. Πρέπει να σημει εί ότι, εφόσον ο ράφος είναι διμερής, το K πρέπει να είναι περιττός αρι μός. Προκειμένου να μετριάσει τη συμ ο ή τ ν με α ύτερ ν μονοπατιών, το άρος που δίνεται σε ένα μονοπάτι μήκους k ορίζεται ς α k, όπου α [0, 1]. Από τη στι μή που ο αρι μός τ ν μονοπατιών, μήκους k, μεταξύ τ ν ζευ αριών τ ν κόμ ν, δίνεται από το A k, το user-item μητρώο συσ έτισης S k είναι: R T O ) K S k = α k A k k=1 = (I αa) 1 (αa α K A K ). Η μέ οδος αυτή, η οποία υπο ο ίζει αποστάσεις μεταξύ τ ν κόμ ν του ράφου, είναι ν στή ς μέτρο Katz [40]. Πρέπει να σημει εί π ς, το μέτρο αυτό είναι στενά συσ ετισμένο με το Von Neumann Diffusion kernel [22, 43, 45] K V ND = α k A k k=0 = (I αa) 1 22

43 2. Συνερ ατική Διή ηση και το Exponential Diffusion Kernel K ED = k=0 1 k! αk A k = exp(αa), όπου A 0 = I. Στα συστήματα συστάσε ν τα οποία έ ουν με ά ο αρι μό ρηστών και αντικειμέν ν, ο υπο ο ισμός αυτών τ ν τιμών συσ έτισης είναι πι ανόν να απαιτήσει πάρα πο ούς υπο- ο ιστικούς πόρους. Προκειμένου να ξεπεραστούν αυτοί οι περιορισμοί, έ ουν ρησιμοποιη εί στο [35] εκτεταμένες τεχνικές ενεργοποίησης (activation techiques) [14]. Ουσιαστικά, τέτοιες τε νικές δου εύουν ενερ οποιώντας πρώτα ένα επι ε μένο υποσύνο ο κόμ ν σαν κόμ ους εκκίνησης, και στη συνέ εια ενερ οποιώντας επανα ηπτικά τους κόμ ους τους οποίους φ άνουν οι κόμ οι που είναι ήδη ενερ οί, μέ ρι να συναντη εί ένα κριτήριο σύ κ ισης. Κοντινότερο μονοπάτι Στην περίπτ ση της συνάρτησης του μήκους τ ν μονοπατιών, η ομοιότητα υπο ο ίζεται άσει της μικρότερης απόστασής τους στον ράφο (δη αδή όσο πιο κοντά ρίσκονται 2 ρήστες στο ράφο, τόσο πιο όμοιοι είναι) [2]. Τα δεδομένα μοντε οποιούνται σαν έναν κατευ υνόμενο ράφο του οποίου οι κόμ οι είναι ρήστες, και οι ακμές του κα ορίζονται με άση τις έννοιες horting και predictability. Horting είναι μια σ έση ανάμεσα σε δυο ρήστες που ικανοποιείται όταν οι ρήστες έ ουν α μο ο ήσει όμοια αντικείμενα. Τυπικά, ένας ρήστης u i horts έναν ά ον ρήστη u j υπό την προϋπό εση ότι ικανοποιείται είτε η σ έση I ui u j α είτε η σ έση I ui u j / I uj β, όπου α, β είναι προκα ορισμένα κατώτατα όρια. Predictability, από την ά η μεριά, είναι μια ισ υρότερη έννοια, που απαιτεί οι α μο ο ίες δυο ρηστών u i και u j να είναι παρόμοιες, αφού έ ει ε ρη εί πρώτα και η διαφορά στην α μο ο ική κ ίμακα τ ν δυο ρηστών Random walk ομοιότητα Ά η μέ οδος υπο ο ισμού της ομοιότητας είναι η random walk ομοιότητα, στην οποία οι μετα ατικές σ έσεις στον ράφο ορίζονται σε ένα πι ανοτικό π αίσιο. Η ομοιότητα ανάμεσα σε δυο κόμ ους σε αυτήν την προσέ ιση εκτιμάται ς η πι ανότητα να συναντήσει κανείς αυτούς τους κόμ ους σε έναν τυ αίο περίπατο. Αυτό μα ηματικοποιείται με μια πρώτης τάξης α υσίδα Markov με μητρώο πι ανοτήτ ν μετά ασης P R n n. 23

44 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ Έστ π(t) διάνυσμα το οποίο περιέ ει την κατανομή καταστάσεων t βημάτων. Τότε η εξέ ιξη της Μαρκο ιανής α υσίδας αρακτηρίζεται από π(t + 1) = π(t)p. Επιπ έον, υπό την προϋπό εση ότι το μητρώο P είναι στο αστικό κατά ραμμές, δη αδή j p ij = 1 ια ό α τα i, η διαδικασία συ κ ίνει σε μια κατανομή ισορροπίας π( ) που αποτε εί το αριστερό ιδιοδιάνυσμα του P που αντιστοι εί στην ιδιοτιμή 1. Η διαδικασία αυτή περι ράφεται συ νά με τη μορφή ενός ράφου με άρη έ οντας έναν κόμ ο ια κά ε κατάσταση, και όπου η πι ανότητα μετά ασης από έναν κόμ ο σε έναν ειτονικό δίνεται από το άρος της ακμής η οποία συνδέει τους δυο αυτούς κόμ ους. Itemrank Μια προσέ ιση σύστασης, η οποία ασίζεται στον α όρι μο PageRank ο οποίος ρησιμοποιείται ια την ταξινόμηση τ ν σε ίδ ν του διαδικτύου [8], είναι ο Item- Rank [28]. Η προσέ ιση αυτή ταξινομεί τις προτιμήσεις ενός ρήστη u ια νέα αντικείμενα i, ς την πι ανότητα του u να επισκεφτεί το i σε ένα τυ αίο περίπατο στο ράφο όπου οι κόμ οι αντιστοι ούν στα αντικείμενα του συστήματος και οι ακμές συνδέουν αντικείμενα τα οποία έ ουν α μο ο η εί από κοινούς ρήστες. Τα άρη τ ν ακμών δίνονται από το I I μητρώο πιθανοτήτων μετάβασης P ια το οποίο το p ij = U ij / U i είναι η υπο ο- ισμένη δεσμευμένη πι ανότητα ενός ρήστη να α μο ο ήσει ένα αντικείμενο j αν έ ει α μο ο ήσει ένα αντικείμενο i. Όπ ς ίνεται στον PageRank, ο τυ αίος περιη ητής μπορεί, οποιαδήποτε στι μή t, είτε να μεταπηδήσει σε έναν ειτονικό κόμ ο ρησιμοποιώντας το μητρώο P με μια κα ορισμένη πι ανότητα α, ή να τη εμεταφερ εί σε οποιοδήποτε κόμ ο με πι ανότητα (1 α). Έστ ότι η r u είναι η u-οστή ραμμή του μητρώου α μο ο ίας R, η κατανομή πι ανότητας του ρήστη u να τη εμεταφερ εί σε ά ους κόμ ους δίνεται από το διάνυσμα d u = r u / r u. Ακο ου ώντας αυτούς τους ορισμούς, το διάνυσμα στάσιμης κατανομής 1 του ρήστη u στο ήμα t+1 μπορεί να εκφραστεί αναδρομικά ς π u (t + 1) = αp π u (t) + (1 α)d u (2.4) Για πρακτικούς ό ους, το π( ) συνή ς αποκτιέται με μια διαδικασία η οποία πρώτα αρ ικοποιεί την κατανομή ς ομοιόμορφη, δη αδή π u (0) = 1 1 n n, και στη συνέ εια επανα ηπτικά ενημερώνει την π u ρησιμοποιώντας την 2.4, μέ ρι να συ κ ίνει. Εφόσον η π u ( ) έ ει υπο ο ιστεί, το σύστημα προτείνει στο ρήστη u το αντικείμενο v ια το οποίο το σκορ κατάταξης είναι υψη ότερο. 1 Το μητρώο πι ανοτήτ ν μετά ασης σε αυτή την περίπτ ση είναι στο αστικό κατά στή ες. 24

45 2. Συνερ ατική Διή ηση Average first-passage/commute time Ά α μέτρα απόστασης, τα οποία ασίζονται στις τυ αίες περιη ήσεις, έ ουν προτα εί ια τα προ ήματα συστάσε ν. Ανάμεσα σε αυτά είναι το average first-passage time και το average commute time, τα οποία έ ουν προτα εί από τους Fouss et al. [20, 22]. Το average first-passage time ( ρόνος πρώτης προσπέ ασης) m(j i) [57] είναι ο μέσος αρι μός τ ν ημάτ ν που ρειάζονται από έναν τυ αίο περιη ητή ια να φτάσει σε έναν κόμ ο j ια πρώτη φορά, όταν ξεκινά από τον κόμ ο i j. Αν P είναι το n n μητρώο πι ανοτήτ ν μετά ασης, τότε το m(j i) μπορεί να εκφραστεί αναδρομικά ς, if i = j m(j i) = 1 + n p ik m(j k), α ιώς k=1 (2.5) Ένα πρό ημα με το average first-passage time είναι ότι δεν είναι συμμετρικό. Ένα σ ετικό μέτρο το οποίο δεν αντιμετ πίζει αυτό το πρό ημα είναι το average commute time n(i, j) = m(j i) + m(i j) [25], το οποίο αντιστοι εί στο μέσο αρι μό τ ν ημάτ ν που απαιτούνται από τον τυ αίο περιη ητή ο οποίος ξεκινά από τον κόμ ο i j να φτάσει στον κόμ ο j ια πρώτη φορά και μετά να υρίσει πίσ στον i. Το μέτρο αυτό έ ει αρκετές ενδιαφέρουσες ιδιότητες. Συ κεκριμένα, πρόκειται ια ένα α η ινό μέτρο απόστασης στον Ευκ είδειο ώρο [25] το οποίο σ ετίζεται με τη ν στή ιδιότητα τ ν αντιστάσε ν στα η εκτρικά κυκ ώματα και το ψευδό-αντίστροφο Laplacian μητρώο που παρά εται από το ράφο [20]. Στο [20], το average commute-time ρησιμοποιείται ια να υπο ο ίσει την απόσταση μεταξύ τ ν κόμ ν ενός διμερούς ράφου, οι οποίοι αναπαριστούν τις α η επιδράσεις τ ν ρηστών και τ ν αντικειμέν ν σε ένα σύστημα συστάσε ν. Για κά ε ρήστη u υπάρ ει μια κατευ υνόμενη ακμή από τον u σε κά ε αντικείμενο i I u, και το άρος αυτής της ακμής είναι απ ά 1/ I u. Παρομοί ς, υπάρ ει μια κατευ υνόμενη ακμή από κά ε αντικείμενο i σε κά ε ρήστη u U i, με άρος 1/ U i. Το average commute time μπορεί να ρησιμοποιη εί με δυο διαφορετικούς τρόπους: Πρώτον, με το να προτείνει στον u το αντικείμενο i ια το οποίο το n(u, i) είναι το μικρότερο, και δεύτερον με το να ρει τους ρήστες οι οποίοι είναι οι πιο κοντινοί στον ρήστη u, σύμφ να με την commute time distance, και μετά να προτείνει στον u τα αντικείμενα τα οποία άρεσαν περισσότερο σε αυτούς τους ρήστες. Ανακεφα αιώνοντας, παρουσιάσαμε την ιδέα της συνερ ατικής διή ησης την οποία εφαρμόζουν τα συστήματα συστάσε ν προκειμένου να παράξουν προ έψεις ή συστάσεις ια τους ρήστες που α η επιδρούν μαζί τους. Επιπ έον, αναφέραμε τις προκ ήσεις που παρουσιάζονται στα συστήματα αυτά, δίνοντας παρά η α ύσεις ια την αντιμετώπιση τους και στο τέ ος αφιερώσαμε μια ο όκ ηρη ενότητα στις graph-based με όδους, ό του ότι σε αυτές ασίζεται και η δική μας προσέ ιση. Στο επόμενο κεφά αιο παρουσιάζουμε την ανα υτική περι ραφή της με όδου μας. 25

46 2. ΣΥΝΕΡΓΑΤΙΚΗ ΔΙΗΘΗΣΗ 26

47 Μέρος II Σύστημα Συστάσε ν (Α όρι μος 1) 27

48

49 Κεφά αιο 3 Α όρι μος 1 Στο παρόν κεφά αιο προτείνουμε ένα νέο σύστημα συστάσε ν - τον Α όρι μο 1 (ΑΛΓ1) - και παρουσιάζουμε τη μοντε οποίησή του, τίζοντας πάν στη διαίσ ηση πίσ από τον α όρι μο NCDawareRank [56]. Συ κεκριμένα, υπο ο ίζουμε ένα εξατομικευμένο διάνυσμα κατάταξης, εκμετα ευόμενοι τόσο τις άμεσες συσ ετίσεις μεταξύ τ ν αντικειμέν ν όσο και την ανα υσιμότητα (decomposability) του ώρου κατάστασής τους. 3.1 Near Complete Decomposability: Η διαίσ ηση πίσ από τον Α όρι μο 1 Τα με ά α συστήματα που εμφανίζονται στη φύση, στην π ειοψηφία τους, δεν είναι τόσο σύν ετα όσο το μέ ε ός τους υπονοεί. Αντι έτ ς, ο ώρος κατάστασής τους είναι σ εδόν άδειος και τα σ ετικά μητρώα που τα περι ράφουν έ ουν την τάση να είναι αραιά, και δομημένα. Σύμφ να με τον Νομπε ίστα Herbert A. Simon [73], αυτή η ε ενής αραιότητα είναι συνυφασμένη με την εξε ικτική ι σιμότητα τ ν συστημάτ ν αυτών και την δομική τους ορ άν ση. Υποστήριξε π ς η π ειοψηφία τ ν ιεραρ ικά δομημέν ν σύν- ετ ν συστημάτ ν, μοιράζονται την ιδιότητα της σχεδόν πλήρους αναλυσιμότητας (nearly completely decomposable, NCD): οι καταστάσεις τους ορ ανώνονται σε ιεραρ ικά επίπεδα από μπ οκ, υπο-μπ οκ, υπο-υπο-μπ οκ κ.ο.κ, με τέτοιο τρόπο ώστε οι α η επιδράσεις ανάμεσα στα στοι εία που ανήκουν στο ίδιο μπ οκ να είναι πο ύ πιο ισ υρές από τις α η επιδράσεις μεταξύ στοι εί ν που ανήκουν σε διαφορετικά μπ οκ. Το ε ονός ότι ένα σύν ετο σύστημα μπορεί να κατέ ει την ιδιότητα της NCD σηματοδοτεί τα εξής: δεί νει το δρόμο προς μια κατά η η προσέ ιση μοντε οποίησης και μια μα ηματική ανά υση, η οποία τονίζει τα ενδημικά αρακτηριστικά του συστήματος, μπορεί να οη ήσει στην ανακούφιση τ ν προ ημάτ ν που προέρ ονται από την 29

50 3. ΑΛΓΟΡΙΘΜΟΣ 1 αραιότητα του υποκείμενου ώρου κατάστασής, δίνει μια α ύτερη νώση της συμπεριφοράς του και συνεπώς, παρέ ει ένα εννοιο ο ικό π αίσιο ια την ανάπτυξη τ ν α ορί μ ν και τ ν με όδ ν τα οποία εκμετα εύονται αυτή τη νώση από μια ποιοτική και υπο ο ιστική οπτική νία. Η πρώτη ανά υση NCD συστημάτ ν αποδίδεται στους Simon και Ando [74], που αναφέρ ηκαν στην ομαδοποίηση καταστάσε ν σε ραμμικά μοντέ α οικονομικών συστημάτ ν. Ωστόσο, η ευε ιξία της ιδέας του Simon έ ει επιτρέψει την εφαρμο ή της NCD με εμφανή επιτυ ία σε πο ά σύν ετα συστήματα στον τομέα της ιο ο ίας, τ ν κοιν νικών επιστημών, του management, της εξέ ιξης κ.τ.. Η εισα ή της NCD στην επιστήμη τ ν υπο ο ιστών οφεί εται στον Courtois [13], ο οποίος πέτυ ε να εμε ιώσει μα ηματικά την ιδέα, και να την εφαρμόσει με αρακτηριστική επιτυ ία στη ε ρία ουρών αναμονής και στην ανά υση απόδοσης υπο ο ιστικών συστημάτ ν. Τα τε ευταία ρόνια, η NCD έ ει ρησιμοποιη εί στο πρό ημα κατάταξης ιστοσε ίδ ν, πρώτα από υπο ο ιστικής π ευράς [19, 37, 81] και έπειτα από ποιοτικής άποψης [55, 56]. NCDawareRank Πρόκειται ια έναν α όρι μο κατάταξης ιστοσε ίδ ν, ο οποίος προτά ηκε πρόσ ετα στη ι ιο ραφία [55, 56] προκειμένου να ενικεύσει α ά και να ε τιώσει το ν στό α όρι μο PageRank [60]. Εκμετα εύομενος την NCD ιδιότητα που έ ει ο Ιστός και διατηρώντας τα - από μα ηματικής π ευράς ε κυστικά - αρακτηριστικά του PageRank, παρά ει κα ύτερα αποτε έσματα τόσο από ποιοτική όσο και από υπο ο ιστική άποψη. Επιπ έον, καταφέρνει να ύσει με με ά η επιτυ ία πο ά από τα ν στά προ ήματα του διαδικτύου συμπερι αμ ανομέν ν, του Web Spamming και της μερο ηψίας τ ν νεοεισερ όμεν ν σε ίδ ν. 3.2 Ορισμοί και Διαίσ ηση Το σύστημά μας αποτε είται από ρήστες και αντικείμενα. Το σύνο ο τ ν χρηστών συμ ο ίζεται με U = {u 1,..., u n } και το σύνο ο τ ν αντικειμένων με V = {v 1,..., v m }. Θε ρούμε μια διαμέριση {L, T } τ ν α μο ο ιών σε ένα σύνο ο εκπαίδευσης (training set) και σε ένα σύνο ο ε έ ου (test set). Για κά ε ρήστη u i, ορίζουμε το L i ς το σύνο ο τ ν ταινιών που υπάρ ουν στο training set και τις οποίες ο ρήστης έ ει α μο ο ήσει, και το T i ς το σύνο ο τ ν ταινιών που υπάρ ουν στο test set και τις οποίες ο ρήστης έ ει, επίσης, α μο ο ήσει. Πιο τυπικά: L i {v k t ik L} και T i {v l t il T } 30

51 Επιπ έον, κά ε ρήστης u i σ ετίζεται με ένα διάνυσμα ω [ω 1, ω 2,..., ω m ] του οποίου τα μη μηδενικά στοι εία περιέ ουν τις α μο ο ίες του ρήστη που περι αμ άνονται στο training set L και το οποίο είναι κανονικοποιημένο ώστε τα στοι εία του να α ροίζουν στη μονάδα. Το διάνυσμα αυτό στο εξής α αναφέρεται, διάνυσμα προτίμησης του χρήστη. Ορίζουμε, ακόμα, το R σαν ένα σύνο ο τριπ ετών, t ij = (u i, v j, r ij ), όπου το r ij είναι ένας μη αρνητικός αρι μός που αναπαριστά τη α μο ο ία που δίνει ο ρήστης u i στο αντικείμενο v j. Τα αντικείμενα αρακτηρίζονται μοναδικά από κάποιες ιδιότητες. Αν ια παράδει μα ε- ρήσουμε τις ταινίες σαν αντικείμενα, τότε οι ταινίες αρακτηρίζονται από την κατη ορία στην οποία ανήκουν (όπου μπορεί να είναι 1 ή περισσότερες), από τον σκηνο έτη τους, από τους σεναριο ράφους τους κ.ο.κ. Στη ενική περίπτ ση τ ν αντικειμέν ν, ε ρούμε μια οικο ένεια συνό ν D = {D 1, D 2,..., D K } η οποία ορίζει ένα decomposition του ώρου τ ν αντικειμέν ν, V, σύμφ να με κάποια κριτήρια, όπ ς είναι ια παράδει μα η κατη ορία μιας ταινίας. Κά ε σύνο ο D I αναφέρεται σαν ένα NCD μπλοκ. Επιπ έον ορίζουμε το X v ς το NCD σύνολο εγγύτητας (NCD-proximal σύνο ο) τ ν αντικειμέν ν v V. Το σύνο ο αυτό υπο ο ίζεται ς η έν ση τ ν NCD μπ οκ τα οποία περιέ ουν το αντικείμενο v. Τυπικά, το σύνο ο X v δίνεται από την εξίσ ση: X v v D k D k (3.1) Προκειμένου, να υποδη ώσουμε τον αρι μό τ ν διαφορετικών μπ οκ που υπάρ ουν στο X v, ρησιμοποιούμε το N v. Με ά α ό ια, ο αρι μός N v ενός αντικειμένου v είναι ίσος με τον αρι μό τ ν μπ οκ στα οποία ανήκει το αντικείμενο αυτό. Στο σημείο αυτό, είναι σημαντικό να τονιστεί π ς το decomposition που ορίζεται από το D, δεν ρειάζεται να είναι μια διαμέριση. Η μόνη απαίτηση είναι ότι V = K k=1 D k, δη αδή, ίσ ς υπάρ ουν ακέραιοι I, J τέτοιοι ώστε D I D J. Αυτό σημαίνει π ς μπορεί να υπάρ ουν αντικείμενα τα οποία ανήκουν σε παραπάν από 1 μπ οκ, όπ ς αναφέρ ηκε προη ουμέν ς. Κυρίαρ ος στό ος μας είναι να δημιουρ ήσουμε μια ίστα κατάταξης, που α περιέ ει τις προτιμήσεις κά ε ρήστη του συστήματος. Στη διαδικασία αυτή, είναι πο ύ σημαντικό το π αίσιο που προτείνουμε να μπορέσει να παράξει τη ίστα αυτή, αντιμετ πίζοντας παρά η α και την ευαισ ησία που οφεί εται στα αραιά δεδομένα. Για το ό ο αυτό, ρησιμοποιούμε τη διαίσ ηση πίσ από τον NCDawareRank α όρι μο [56] - ο οποίος υπο ο ίζει διανύσματα κατάταξης ιεραρ ικά δομημέν ν ράφ ν - εφαρμόζοντας τη σ ετική με αυτόν έννοια της NCD ε ύτητας. Ακο ού ς, παρουσιάζουμε τον τρόπο με τον οποίο εκμετα ευόμαστε την π ηροφορία που παρέ εται τόσο από τις άμεσες σχέσεις τ ν αντικειμέν ν όσο και από το decomposability του ώρου τους. Έ οντας ορίσει τις παραμέτρους του μοντέ ου μας, τώρα είμαστε έτοιμοι να εισά ουμε 31

52 3. ΑΛΓΟΡΙΘΜΟΣ 1 ένα εξατομικευμένο στο αστικό μητρώο B(ω (i) ) R m m, όπου το ω (i) αποτε εί την κατανομή προτίμησης ενός συ κεκριμένου ρήστη πάν σε ό α τα αντικείμενα. Το μητρώο αυτό πρέπει να αντανακ ά την άμεση, κα ώς επίσης και την decomposable δομή του ώρου τ ν αντικειμέν ν, προκειμένου να παρά ει εξατομικευμένες συστάσεις. Συνεπώς, το μητρώο B αποτε είται από 3 συστατικά, το μητρώο άμεσης συσχέτισης C, το μητρώο NCD εγγύτητας D και το μητρώο προτίμησης χρήστη E το οποίο προέρ εται από τις άμεσες α μο ο ίες που δίνει ο ρήστης στα αντικείμενα. Το συνο ικό μητρώο B ορίζεται επομέν ς ς εξής: B αc + βd + (1 α β)e με τα α, β να είναι ετικοί πρα ματικοί αρι μοί τέτοιοι ώστε, α + β < 1. Στην ενότητα που ακο ου εί, παρα έτουμε την ανά υση τ ν τριών αυτών συστατικών. 3.3 Μητρώα Α ορί μου 1 Στην ενότητα αυτή ανα ύονται τα 3 μητρώα τα οποία αποτε ούν το στο αστικό μητρώο B, το οποίο παρά ει εξατομικευμένες συστάσεις στους ρήστες. Μητρώο άμεσης συσ έτισης Η δημιουρ ία του μητρώου άμεσης συσ έτισης C έ ει ς σκοπό να ανακα υφ ούν οι άμεσες σ έσεις τ ν αντικειμέν ν u V. Γενικά, κά ε τέτοιο αντικείμενο α συνδέεται με μια διακριτή κατανομή c v = [c 1, c 2,, c m ] πάν στο V, η οποία αντανακ ά τη συσ έτιση μεταξύ αυτών τ ν αντικειμέν ν. Υπάρ ουν διάφοροι τρόποι ια να ορίσουμε αυτή την κατανομή, οι οποίοι εξαρτώνται από την φύση του προ ήματος, τις π ηροφορίες που είναι δια έσιμες κ.τ.. Πρέπει να σημει εί π ς, από μα ηματικής άποψης, η μόνη απαίτηση του framework μας είναι ότι το μητρώο C είναι στο αστικό κατά ραμμές και συνεπώς εδώ το κριτήριο ια την επι ο ή της κατανομής δεν παίζει ρό ο. Στην περίπτ σή μας, κα ώς και ια ό α τα πειράματα που παρουσιάζονται στην επόμενη ενότητα, ρησιμοποιούμε το στα μισμένο μέσο όρο (α) μιας ε αφριάς τροποποίησης του μητρώου συσ έτισης που ρησιμοποιείται από τον ItemRank [28] και ( ) μιας κανονικοποιημένης κατά ραμμές έκδοσης του κ ασικού adjusted cosine μητρώου ομοιότητας [70]. Τα μητρώα αυτά περι ράφονται αυστηρά παρακάτ. Αρ ικά, αξίζει να αναφέρουμε π ς επι υμούμε να εξά ουμε την ιδέα της συσ έτισης άμεσα από τις προτιμήσεις του ρήστη σαν ένα σύνο ο. Στην πρα ματικότητα, ένας ρήστης τείνει στο να έ ει αρκετές ομο ενείς προτιμήσεις ύρ από τα αντικείμενα. Συνεπώς μπορούμε πο ύ ο ικά να σκεφτούμε πώς αν το αντικείμενο v i και το αντικείμενο v j έ ουν την τάση να εμφανίζονται σε πο ές ίστες προτιμήσε ν διαφορετικών ρηστών, τότε το v i και το v j σ ετίζονται. Συνεπώς, η συσ έτιση που ψά νουμε συνδέεται με ένα co-occurrence 32

53 κριτήριο. Από τη στι μή που καταφέρουμε να εκμετα ευτούμε αυτή την π ηροφορία, τότε μπορούμε αρκετά εύκο α να υπο ο ίσουμε τις προτιμήσεις του εξαρτημένου ρήστη. Ορίζουμε, οιπόν, ένα μητρώο U, V V διαστάσε ν, του οποίου τα στοι εία είναι U ij, όπου το U ij U υποδη ώνει το σύνο ο τ ν ρηστών οι οποίοι έ ουν α μο ο ήσει και το αντικείμενο v i και το αντικείμενο v j, δη αδή: { {u k : (v i L k ) (v j L k )} αν i j U ij, (3.2) α ιώς όπου το L k είναι το σύνο ο τ ν α μο ο ιών που έ ει δώσει ο συ κεκριμένος ρήστης ια τα αντικείμενα του συστήματος. Είναι προφανές πώς το στοι είο U ii = 0 και το μητρώο U είναι συμμετρικό. Προ ράμε στην κανονικοποίηση αυτού του μητρώου, ώστε να αποκτήσουμε ένα στο αστικό κατά ραμμές μητρώο 1, Û. Το μητρώο Û ονομάζεται μητρώο συσχέτισης, και κά ε είσοδός του περιέ ει το δείκτη συσ έτισης μεταξύ τ ν ζευ αριών τ ν αντικειμέν ν. Το μητρώο αυτό μπορεί να αναπαραστα εί επίσης και σαν ράφος συσ έτισης G U. Οι κόμ οι στο ράφο G U αντιστοι ούν στα αντικείμενα που ανήκουν στο σύνο ο V και υπάρ ει μια ακμή (v i,v j ) αν και μόνο αν Ûij > 0. Επιπ έον το άρος το οποίο σ ετίζεται με την ακμή (v i,v j ) α είναι Û ij. Όμ ς από τη στι μή που το μητρώο έ ινε στο αστικό, παύει να είναι συμμετρικό. Δη αδή, το άρος της ακμής (v i,v j ) είναι διαφορετικό από το άρος της ακμής (v j,v i ). Ο ράφος συσ έτισης είναι ένα πο ύτιμο μοντέ ο ράφου, το οποίο είναι ρήσιμο ια την αξιοποίηση της συσ έτισης που υπάρ ει μεταξύ τ ν αντικειμέν ν, και η οποία φαίνεται από τα άρη που ανατί ενται στις ακμές του με άση την π ηροφορία που εξά εται από τις α μο ο ίες τ ν ρηστών. Το προκύπτον μητρώο, οιπόν, α οριστεί ς ακο ού ς: H Û + dω (3.3) όπου το d είναι ένα διάνυσμα το οποίο υποδεικνύει τις μηδενικές ραμμές του μητρώου U (δη αδή το i th στοι είο του είναι 1 αν και μόνο αν U ij = 0 ια κά ε j) και το ω είναι το κανονικοποιημένο κατά ραμμές διάνυσμα προτίμησης του ρήστη. Είναι ο ικό να υπάρ ουν οι μηδενικές ραμμές, διότι σε πρα ματικά συστήματα υπάρ ουν αντικείμενα τα οποία δεν σ ετίζονται με κάποιο ά ο αντικείμενο. Αυτό συνή ς ισ ύει ια τα καινούρια αντικείμενα που εισά ονται στο σύστημα. Συνεπώς, το τε ικό μητρώο H ίνεται ένα στο αστικό μητρώο. Όσον αφορά το δεύτερο μητρώο άμεσης συσ έτισης που ρησιμοποιούμε στην προσέ ισή μας, ια τον υπο ο ισμό της συσ έτισης τ ν αντικειμέν ν, εφαρμόζουμε την adjusted cosine ομοιότητα. Όπ ς ειπώ ηκε στην Ενότητα , σε πρα ματικές κατα- 1 στο αστικό κατά ραμμές μητρώο ονομάζεται το μητρώο του οποίου κά ε μη μηδενική ραμμή α ροίζεται στη μονάδα. 33

54 3. ΑΛΓΟΡΙΘΜΟΣ 1 στάσεις όπου διαφορετικοί ρήστες ρησιμοποιούν διαφορετικές κ ίμακες α μο ο ίας, η adjusted cosine ομοιότητα, στην οποία αφαιρείται ο αντίστοι ος μέσος όρος τ ν α μο- ο ιών του ρήστη από κά ε co-rated ζευ άρι, δίνει πιο αξιόπιστο αποτέ εσμα σε σ έση με τις ά ες cosine-based ομοιότητες. Συνεπώς, το adjusted cosine μητρώο ομοιότητας ορίζεται ακο ού ς ς: S Ĝ + d ω (3.4) όπου το μητρώο Ĝ είναι η κανονικοποιημένη κατά ραμμές έκδοση του μητρώου G, του οποίου το ij th στοι είο ορίζεται παρακάτ : G ij u k U (r ki r uk )(r kj r uk ) uk U (r ki r uk )2 uk U (r kj r uk )2 (3.5) Συ κεκριμένα, το r uk είναι ο μέσος όρος τ ν α μο ο ιών του ρήστη u k, και το r ki είναι η α μο ο ία που δίνει ο ρήστης u k στο αντικείμενο v i. Τε ικά, το συνολικό μητρώο άμεσης συσχέτισης που προκύπτει είναι: C ϕh+(1 ϕ)s, όπου ϕ είναι ετικός ακέραιος και μικρότερος από τη μονάδα. Μητρώο NCD ε ύτητας Το μητρώο NCD ε ύτητας D, ορίζει μια μεταξύ επιπέδ ν σύνδεση τ ν στοι εί ν του ώρου αντικειμέν ν. Η ασική ιδέα είναι π ς η α μο- ο ία ενός ρήστη, εκτός του ότι εκφράζει την άμεση νώμη του ια ένα συ κεκριμένο αντικείμενο, δίνει επιπ έον μια ένδειξη ύρ από τη νώμη του ια το NCD proximal σύνο ο αυτού του αντικειμένου. Για παράδει μα, αν αρέσει σε ένα ρήστη ένα αντικείμενο το οποίο ανήκει σε ένα ή περισσότερα μπ οκ, τότε είναι πι ανό να του αρέσουν και τα ά α αντικείμενα που ανήκουν σε αυτά τα μπ οκ. Συνεπώς, η εξάπ ση τ ν συνο ικών επιδράσε ν κά ε ατομικής νώμης, μέσ τ ν NCD decompositions, σε πο ά σ ετιζόμενα αντικείμενα στο ώρο τ ν αντικειμέν ν, είναι δυνατόν να συμ ά ει στον υπο ο ισμό της πρα ματικής συσ έτισης τ ν αντικειμέν ν και επίσης να οη ήσει στην αντιμετώπιση τ ν προ ημάτ ν που σ ετίζονται με τα αραιά δεδομένα. Ακο ου ώντας την κατεύ υνση αυτή, σ ετίζουμε κά ε ραμμή του μητρώου D με ένα διάνυσμα πι ανότητας d v, το οποίο κατανέμει ομοιόμορφα τη μάζα του ανάμεσα στα N v μπ οκ του X v, και στη συνέ εια ομοιόμορφα στα αντικείμενα που περι αμ άνονται σε κά ε μπ οκ. Τυπικά, η i-οστή ραμμή του μητρώου αυτού, σ ετίζει το αντικείμενο v i με κά ε ά ο αντικείμενο του συνό ου X vi όπ ς ορίζεται από τη σ έση (3.1). Το ij στοι είο του μητρώου D, το οποίο σ ετίζει το αντικείμενο v i με το αντικείμενο v j ορίζεται ς: 1 D ij N vi D k D k X vi,v j D k (3.6) 34

55 Από τους ορισμούς τ ν NCD μπ οκ και τ ν NCD proximal συνό ν, ίνεται διαισ ητικά προφανές πώς οποτεδήποτε το K < m, δη αδή ο αρι μός τ ν μπ οκ είναι μικρότερος από τον αρι μό τ ν αντικειμέν ν, το μητρώο D είναι ένα αμη ής τάξης (low rank) μητρώο. Εκμετα ευόμενοι την ιδέα πίσ από την παρα οντοποίηση του interlevel proximity μητρώου M που ρησιμοποιείται από τον NCDawareRank [56] έπουμε π ς μπορούμε να ράψουμε το μητρώο D με τρόπο ώστε να πετύ ουμε αποτε εσματική απο ήκευση και υπο ο ισιμότητα. Συ κεκριμένα, ορίζουμε ένα μητρώο συνά ροισης A R m K, του οποίου το ij th στοι- είο είναι 1, αν v i D j, α ιώς 0. Συνεπώς η παρα οντοποίηση που μπορεί να ίνει στο μητρώο D είναι η ακό ου η: D = XY (3.7) όπου το X και το Y είναι οι κανονικοποιημένες κατά ραμμές εκδόσεις του A και του A αντίστοι α. Για την διευκό υνση του ανα νώστη και την κα ύτερη κατανόηση τ ν παραπάν ορισμών, παρα έτουμε ένα απ ό παράδει μα, που φαίνεται στο Σ ήμα 3.1. D 1 D 2 D 3 N v X v v 1 1 {v 1, v 2, v 4, v 6 } v 2 2 {v 1, v 2, v 4, v 5, v 6 } v 3 1 {v 3, v 6 } v 4 2 {v 1, v 3, v 4, v 5, v 6 } v 5 1 {v 2, v 4, v 5 } v 6 2 {v 1, v 2, v 3, v 4, v 6 } Σ ήμα 3.1: Decomposition του ώρου 6 αντικειμέν ν σε 3 NCD μπ οκ Στο παράδει μα αυτό, ο ώρος τ ν αντικειμέν ν, V, αποτε είται από 6 αντικείμενα, τα οποία ίνονται ανα ύονται σε 3 NCD μπ οκ. Η τε ευταία στή η του πίνακα περιέ ει τα υπο ο ισμένα σύνο α ε ύτητας. Για παράδει μα, το σύνο ο X v2 τ ν αντικειμέν ν που είναι κοντά στο v 2 είναι D 1 D 2 {v 1, v 2, v 5, v 6 }. Ανα υτικά το παραπάν αίνει ς εξής: Παρατηρούμε ότι το αντικείμενο v 2 ανήκει σε 2 μπ οκ, στο D 1 και στο D 2. Στο D 1 μπ οκ ανήκουν όμ ς και τα αντικείμενα v 1, v 4 και v 6 και στο D 2 ανήκουν επίσης το v 4 και το v 5 εκτός από το v 2. Συνεπώς, ό α τα αντικείμενα που ανήκουν σε ένα του ά ιστον από τα 2 αυτά μπ οκ είναι τα v 1, v 2, v 4, v 5 και v 6, και αποτε ούν το σύνο ο X v2. Το αντίστοι ο μητρώο D μαζί με τα μητρώα X, Y είναι τα ακό ου α: Η διαδικασία ια τον υπο ο ισμό δυο ραμμών του μητρώου D, d v2 και d v6, απεικονίζεται στο Σ ήμα 3.2. Παρατηρούμε οιπόν π ς ια να ρούμε το στοι είο d 25 κοιτάμε σε ποια μπ οκ ανήκει το αντικείμενο v 2 και έπουμε π ς ανήκει σε 2 μπ οκ, στο D 1 και στο D 2. Για την περίπτ ση οιπόν αυτή, το N v2 = 2. Στη συνέ εια κοιτάμε σε ποιο μπ οκ 35

56 3. ΑΛΓΟΡΙΘΜΟΣ D = v 2 1/2 1/2 v 1 D 1 D 2 1/4 1/4 1/4 1/4 1/3 1/3 v 2 v 4 v 6 v 2 v 5 v 6 1/2 1/2 D 1 D 3 1/4 1/4 1/4 1/4 1/2 1/3 1/2 v v 1 v 2 v 4 v 6 v 3 v 6 Σ ήμα 3.2: Απεικόνιση του υπο ο ισμού τ ν ραμμών d v2 και d v6. ανήκει το αντικείμενο v 5 και έπουμε ότι ανήκει μόνο στο D 2. Από τη στι μή που στο μπ οκ D 2 ανήκουν τρία αντικείμενα, το ποσοστό συσ έτισης που έ ει πάρει το μπ οκ αυτό από το v 2 το μοιράζει ισοπί ανα σε αυτά. Συνεπώς, η τιμή του στοι είου d 25 είναι 1 6. Μητρώο προτίμησης ρήστη Τέ ος, όσον αφορά το μητρώο προτίμησης ενός ρήστη u i U, ρησιμοποιούμε το μητρώο τάξης-1 E eω, όπου το e είναι ένα κατά η ου με έ ους διάνυσμα που ό α του τα στοι εία είναι ίσα με 1 και το ω είναι το κανονικοποιημένο διάνυσμα τ ν α μο ο ιών που έ ει δώσει ο ρήστης ια ό α τα αντικείμενα. Από όσα αναφέρ ηκαν παραπάν, συμπεραίνουμε π ς το συνολικό εξατομικευμένο στοχαστικό μητρώο B που προκύπτει από τα μητρώα του Α ορί μου 1, προτείνει ένα μέτρο συσ έτισης τ ν αντικειμέν ν. Το διάνυσμα στάσιμης κατανομής το οποίο αποτε εί την 36

57 έξοδο του α ορί μου, αποτε εί τη ίστα κατάταξης τ ν αντικειμέν ν που α προτα ούν στο ρήστη. Στην επόμενη ενότητα ακο ου εί ο Α όρι μος Ο α όρι μος Στο σημείο αυτό, ορίζουμε το εξατομικευμένο διάνυσμα σύστασης, το οποίο παρά εται από τον Α όρι μο 1, ς το διάνυσμα στάσιμης κατανομής π της α υσίδας Markov το οποίο αντιστοι εί στο στο αστικό μητρώο, B, με αρ ική κατανομή ω. Ο Α - όρι μος 1 παρουσιάζεται παρακάτ. Algorithm 1 Α όρι μος 1 (C, D, ω, tol, maxit) 1. Έστ ότι η αρ ική προσέ ιση είναι π = ω. Θέσε k = Υπο ό ισε ˆπ := π B = απ C + βπ D + (1 α β)π ωe (3.8) 3. Κανονικοποίησε το π και υπο ό ισε r := ˆπ π 1 αν το r < tol ή το k maxit, τερμάτισε τον α όρι μο με ˆπ, α ιώς έσε το k := k + 1 και το π := ˆπ πή αινε στο ήμα 2. Προκειμένου να ρε εί η στάσιμη κατανομή, εφαρμόζουμε τη δυναμομέθοδο [75] η οποία είναι ιδιαίτερα ο ική ια με ά α αραιά μητρώα. Όπ ς φαίνεται και από τα ήματα του α ορί μου, ίνεται αρ ικοποίηση του διανύσματος της στάσιμης κατανομής με το ήδη ν στό διάνυσμα προτίμησης του ρήστη, και στη συνέ εια εφαρμόζεται η μέ οδος μέ ρι να συ κ ίνει και να επιστρέψει τη ίστα κατάταξης του εκάστοτε ρήστη. Ο α όρι μός μας, είναι πο ύ αποδοτικός και από υπο ο ιστικής π ευράς και από π ευρά απο ήκευσης. Ο Α όρι μος 1 ρειάζεται να απο ηκεύσει τα άμεσα μητρώα και το μητρώο NCD ε ύτητας. Το μητρώο C είναι ε ενώς αραιό και προσαρμόζεται πο ύ κα ά στην αύξηση του αρι μού τ ν ρηστών. Η πρόσ εση ενός νέου ρήστη στο σύστημα α μπορούσε να προκα έσει μόνο την αύξηση τ ν μη μηδενικών στοι εί ν του C, εφόσον η διάσταση του μητρώου εξαρτάται μόνο από την π η ικότητα του ώρου τ ν αντικειμέν ν, ο οποίος είναι ε ονός π ς στις περισσότερες πρα ματικές εφαρμο ές αυξάνει πο ύ αρ ά. Στην περίπτ ση του μητρώου D, αν εκμετα ευτούμε την παρα οντοποίηση που ορίζεται στη σ έση (3.7) και ά ουμε υπόψη μας το ε ονός ότι ια οποιοδήποτε ο ικό decom- 37

58 3. ΑΛΓΟΡΙΘΜΟΣ 1 position του ώρου αντικειμέν ν, το decomposition παραμένει K m, δη αδή τα μπ οκ παραμένουν ι ότερα από τα αντικείμενα, η απο ήκευση ρειάζεται να ίνει πο ύ μικρή. Επιπρόσ ετα, από υπο ο ιστικής άποψης, το πιο αρύ μέρος σε κά ε επανά ηψη στον α όρι μό μας είναι ο αραιός Μητρώο Διάνυσμα πο απ ασιασμός π C, ο οποίος συνεπά εται μό ις Ω = 2 nnz(c) ειτουρ ίες. Η παρα οντοποίηση του μητρώου NCD ε ύτητας και η υπερ ο ική αραιότητα τ ν παρα όντ ν, επι ε αιώνουν ότι το επιπρόσ ετο άρος το οποίο προκα είται από το D είναι πο ύ μικρό, και αν ά ουμε υπόψη μας το ε ονός ότι μπορεί να υπο ο ιστεί με έναν εντε ώς παρά η ο τρόπο, το άρος αυτό ίνεται σ εδόν αμε ητέο. Οι ιδιότητες αυτές είναι πο ύ ρήσιμες ιατί επιτρέπουν σε πρα ματικά σενάρια την εισα ή περισσότερ ν από μια decompositions, σύμφ να με διάφορα κριτήρια όπ ς ειπώ ηκε προη ουμέν ς, πρά μα το οποίο οδη εί σε κα ύτερες συστάσεις. Στο δικό μας μοντέ ο, η ενίκευση αυτή είναι πο ύ εύκο η. Ο ορισμός περισσότερ ν συνό ν οικο ενειών D (1), D (2),... και τ ν αντίστοι ν NCD proximal συνό ν, οδη- εί στην εισα ή περισσοτέρ ν μητρώ ν NCD ε ύτητας D 1, D 2,... και σ ετιζόμεν ν παραμέτρ ν β 1, β 2,... με ένα απ ό τρόπο. Επιπ έον, ια ό ους απόδοσης, στην υ οποίησή μας ρησιμοποιούμε μια batch προσέ ιση της δυναμομε όδου, δη αδή μια τροποποιημένη έκδοση, η οποία υπο ο ίζει το διάνυσμα κατάταξης ια ό ους τους ρήστες μαζί. Ακο ού ς, παρα έτουμε μέρος του κώδικα μας που υ οποιεί την batch προσέ ιση: Pref = s p a r s e ( Pref ) ; PI=z e r o s (m, n )+f u l l ( Pref ) ; f l a g =0; d e l t a =2; i t e r =0; r e s h i s t=z e r o s ( maxit, 1 ) ; PInew=z e r o s (m, n ) ; while i t e r <maxit && delta >t o l end PInew=a *(H * PI ) ; PInew=PInew + b *(C * PI ) ; PInew=PInew + c *( Sim * PI ) ; W = diag ( s p a r s e ( ones ( 1, n ) sum( PInew ) ) ) ; PInew = PInew + Pref *W; D_PI = PI PInew ; d e l t a=norm (D_PI, 1 ) ; r e s h i s t ( i t e r +1)=d e l t a ; i t e r=i t e r +1; PI=PInew* diag ( s p a r s e ( 1. / sum( PInew ) ) ) ; f l a g=delta >t o l ; r e s h i s t=r e s h i s t ( 1 : i t e r ) ; 38

59 f p r i n t f ( Solved BatchAlgorithm ( a=%6.5f, b=%6.5f, c=%6.5 f ) in %5i m u l t i p l i e s to %8e t o l e r a n c e \n, a, b, c, i t e r, d e l t a ) ; Listing 3.1: Κώδικας υπο ο ισμού Α ορί μου 1 με αξιοποίηση υπορουτίν ν BLAS-3 Το Pref μητρώο αποτε εί το μητρώο προτίμησης ό ν τ ν ρηστών και αποτε είται από τόσες γραμμές όσα είναι τα αντικείμενα του συστήματος και τόσες στήλες όσοι είναι οι ρήστες. Δη αδή, η πρώτη στή η του α περιέ ει το διάνυσμα προτίμησης του πρώτου ρήστη ια ό α τα αντικείμενα. Το PI αποτε εί το μητρώο κατάταξης τ ν αντικειμέν ν που α επιστραφεί από τον Α όρι μο 1, όταν η batch προσέ ιση συ κ ίνει. Αντίστοι α με το μητρώο Pref, η πρώτη στή η του PI α περιέ ει την επιστρεφόμενη ίστα κατάταξης του πρώτου ρήστη. Για την π ήρη κατανόηση του κώδικα παρα έτουμε τα εξής: Η εντο ή PI=zeros(m,n)+full(Pref); αρ ικοποιεί το μητρώο κατάταξης τ ν αντικειμέν ν με τις προσ πικές προτιμήσεις ό ν τ ν ρηστών. Με τις εντο ές W = diag(sparse(ones(1,n) - sum(pinew))); και PInew = PInew + Pref*W; προσ έτουμε το μητρώο που περιέ ει ό α τα κανονικοποιημένα διανύσματα προτίμησης τ ν ρηστών, το οποίο αποτε εί και το τρίτο συστατικό του Α ορί μου 1. Η επι ο ή της τροποποιημένης έκδοσης της δυναμομε όδου έ ινε με σκοπό να ρησιμοποιήσουμε τις BLAS-3 (πράξεις μεταξύ μητρώ ν) προκειμένου να εκμετα ευτούμε την ιεραρ ία μνήμης του συστήματός μας. Για την επι ε αί ση της ετικής επίδρασης της τροποποιημένης δυναμομε όδου, τρέ ουμε 100 φορές τον α όρι μό μας και ια τις δυο περιπτώσεις. Στην μεν πρώτη περίπτ ση - όπου ρησιμοποιούμε την κ ασσική δυναμομέ οδο - τρέ- ουμε 100 φορές τον Α όρι μο 1 ια κά ε ένα ρήστη ξε ριστά, ενώ στη δεύτερη - με την batch προσέ ιση - τον τρέ ουμε 100 φορές ια ό ους τους ρήστες μαζί. Τα αποτε έσματα του πειράματος φαίνονται στο Σ ήμα 3.3. Οι προδια ραφές του συστήματος που ίνονται τα πειράματα ρίσκονται στο Παράρτημα Β. Είναι εμφανές π ς με τη batch προσέ ιση ο Α όρι μος 1 είναι πιο αποδοτικός. Συ κεκριμένα, ο ρόνος που ρειάζεται να τρέξει ια να παράξει τη ίστα κατάταξης τ ν προτεινόμεν ν αντικειμέν ν ια ό ους τους ρήστες είναι κατά μέσο όρο ίσος με 4,75 δευτερό επτα. Ενώ με την απ ή δυναμομέ οδο ο ρόνος που ρειάζεται είναι με α ύτερος και ίσος κατά μέσο όρο με 39,09 δευτερό επτα, δη αδή ρειάζεται περίπου 0,041 δευτερό επτα ια να συ κ ίνει ια ένα μόνο ρήστη. Σε πρα ματικές καταστάσεις, όπου υπάρ ουν περισσότερα αντικείμενα και περισσότεροι ρήστες, η απαίτηση αυτή είναι πο ύ πιο σημαντική. 39

60 3. ΑΛΓΟΡΙΘΜΟΣ 1 B PM PM time (secs) Σ ήμα 3.3: Σύ κριση μεταξύ της batch και της κ ασσικής δυναμομε όδου. Έπειτα από την ανα υτική περι ραφή του μοντέ ου μας, α συνε ίσουμε στο επόμενο κεφά αιο με τη διεξα ή τ ν πειραμάτ ν πάν σε συ κεκριμένο dataset, προκειμένου να αξιο ο ήσουμε την απόδοσή του με άση κάποιες μετρικές απόδοσης. 40

61 Κεφά αιο 4 Πειραματική αξιο ό ηση Στο Κεφά αιο 4 εφαρμόζουμε τον Α όρι μο 1 στο movie recommendation πρό ημα και παρα έτουμε μια σειρά από πειράματα προκειμένου να μετρήσουμε την απόδοση της με όδου μας. Τα πειράματα αυτά πρα ματοποιούνται πάν στο MovieLens dataset 1. Αρ- ικά, η απόδοση σύστασης του Α ορί μου 1 συ κρίνεται με τα αποτε έσματα ά ν α ορί μ ν κατάταξης, τ ν οποί ν οι τιμές ρίσκονται στη ι ιο ραφία. Στη συνέ εια, προσε ίζουμε το πρό ημα της αραιότητας του ώρου τ ν αντικειμέν ν από δυο διαφορετικές όψεις. Συ κεκριμένα, στό ος μας είναι να δούμε πώς συμπεριφέρεται ο Α όρι μος 1 στην περίπτ ση που δεν υπάρ ουν πο ές δια έσιμες α μο ο ίες ταινιών α ά και κατά την εισα ή νέ ν ταινιών στο σύστημα. Για τη μέτρηση της απόδοσης ρησιμοποιούμε πο ύ ν στές μετρικές απόδοσης, όπ ς είναι το Degree Of Agreement και ο Kendall s τ συντε εστής συσ έτισης. 4.1 MovieLens dataset Το MovieLens dataset είναι μια δημοφι ής άση δεδομέν ν που δημιουρ ή ηκε από την ομάδα έρευνας GroupLens του πανεπιστημίου της Minnesota. Αυτή η άση δεδομέν ν, η οποία περιέ ει δεδομένα που έ ουν συ ε εί από ένα δημοφι ές σύστημα συστάσε ν ταινιών, έ ει αξιοποιη εί ευρέ ς σαν benchmark ια την αξιο ό ηση τ ν διαφόρ ν προτεινόμεν ν προσε ίσε ν, που υπάρ ουν στη ι ιο ραφία, ια τη δημιουρ ία συστημάτ ν συστάσε ν. Περιέ ει 100,000 α μο ο ίες από 943 ρήστες ια 1,682 ταινίες. Κά ε ρήστης έ ει α μο ο ήσει του ά ιστον 20 ταινίες, προκειμένου να υπο ο ιστεί με με- α ύτερη αξιοπιστία το προφί του. Κά ε α μο ο ία αναπαρίσταται παίρνει μια ακέραια τιμή ανάμεσα στο 1 και στο 5. Το MovieLens dataset περι αμ άνει 5 προκα ορισμένα splittings, δη αδή τα δεδομένα του dataset έ ουν ριστεί σε 5 διαφορετικά training και test set αντίστοι α, ια κα ένα

62 4. ΠΕΙΡΑΜΑΤΙΚΗ ΑΞΙΟΛΟΓΗΣΗ από τα οποία ισ ύει πώς το 80% τ ν α μο ο ιών τους αποτε εί το training set L, με άση το οποίο α μά ει ο α όρι μός μας και το 20% το test set T (όπ ς περι ράφεται στο [70]) το οποίο ρησιμοποιείται κατά τη διαδικασία ε έ ου της απόδοσής του. Επιπ έον ορίζουμε, το W i L i T i, σαν το σύνο ο τ ν ταινιών που έ ει δει ο ρήστης u i. Συνεπώς, το σύνο ο W i V αφορά ταινίες που δεν υπάρ ουν ούτε στο training set ούτε στο test set (δη αδή, ο ρήστης δεν έ ει δει αυτές τις ταινίες). Το MovieLens dataset περι αμ άνει επίσης π ηροφορίες που αφορούν και τις κατη ορίες στις οποίες ανήκει κά ε ταινία. Αυτό είναι και το κριτήριο του decomposition, όπ ς το αναφέρουμε στην Ενότητα 3.2, που ρησιμοποιούμε ια την πειραματική αξιο ό ηση της με όδους μας. Αξίζει να σημει εί, ια ακόμα μια φορά, πώς σε πρα ματικές καταστάσεις, όπου υπάρ ει περισσότερη δια έσιμη π ηροφορία ια τα δεδομένα, είναι δυνατόν να υπάρξουν περισσότερες από μια decompositions του ώρου τ ν αντικειμέν ν. 4.2 Μετρικές απόδοσης Degree of agreement Η μετρική DOA ρησιμοποιείται στη ι ιο ραφία ια την αξιο ό ηση της ποιότητας τ ν ranking-based με όδ ν σύστασης. Για τον υπο ο ισμό του DOA, οιπόν, το οποίο μετράει πόσο ακρι ής είναι η ίστα κατάταξης τ ν ταινιών ια ένα ρήστη, ακο ου είται η παρακάτ διαδικασία [20]. Έστ ένα ζευ άρι ταινιών, όπου η μια ταινία (έστ v 1 ) ανήκει στο test set ια ένα συ κεκριμένο ρήστη (ο ρήστης αυτός, δη αδή, έ ει ήδη δει την ταινία) και η ά η ταινία (έστ v 2 ) δεν ανήκει ούτε στο test set α ά ούτε και στο training set (ο ρήστης, δη αδή, δεν έ ει δει αυτή την ταινία). Η διαδικασία αυτή επανα αμ άνεται ια κά ε ένα από τα ζευ άρια ταινιών που υπάρ ουν στο dataset. Ο α όρι μός μας, οιπόν, ταξινομεί τα ζευ άρια στη σ στή σειρά αν, στη ίστα κατάταξης η οποία υπο ο ίστηκε από το training set, η ταινία v 1 προη είται της ταινίας v 2. Το ατομικό DOA είναι συνεπώς το ποσοστό τ ν ζευ αριών τα οποία ταξινομή ηκαν σε σ στή σειρά στη ίστα δια το συνο ικό αρι μό τ ν ζευ αριών. Η ιδέα πίσ από αυτή τη μετρική είναι π ς ένας κα ός α όρι μος συστάσε ν οφεί ει να προτιμήσει τις ταινίες τις οποίες ο ρήστης πρά ματι έ ει δει, με το να τις ταξινομήσει σε υψη ότερο επίπεδο από ότι ταξινομεί εκείνες που δεν έ ει δει κα ό ου. Μια τυ αία κατάταξη παρά ει ένα ποσοστό 50% του degree of agreement, το οποίο σημαίνει ότι το 50% τ ν συνο ικών ζευ αριών ταξινομή ηκαν στη σ στή σειρά και το υπό οιπο 50% στη ά ος. Ένα ποσοστό 100% του degree of agreement σημαίνει πώς η προτεινόμενη κατάταξη είναι πανομοιότυπη με την ιδανική κατάταξη. 42

63 Σύμφ να οιπόν με τα παραπάν η μετρική απόδοσης DOA ορίζεται ς ακο ού ς: DOA i v j T i v k W i [π i (v j ) > π i (v k )] T i W i όπου το π i (v j ) είναι το σκορ κατάταξης της ταινίας v j στη ίστα κατάταξης του ρήστη u i, και το [S] ισούται με 1, αν η πρόταση S είναι α η ής, α ιώς είναι 0 1. Εφόσον ορίσαμε το DOA σ ετικά με τον κά ε ρήστη u i, προσδιορίζουμε στη συνέ εια το macro-averaged DOA (macro-doa) και το micro-averaged DOA (micro-doa). Συ κεκριμένα, το macro-doa είναι ο μέσος όρος ό ν τ ν ατομικών DOA i, όπου το T i δεν είναι κενό, και δίνεται από τον τύπο: macro-doa T i 0 DOA i {T j : T j } και το micro-doa είναι ο ό ος μεταξύ τ ν συνο ικού αρι μού τ ν ζευ αριών τ ν ταινιών που είναι στη σ στή σειρά και του συνο ικού αρι μού τ ν ζευ αριών τα οποία έ ουν ε ε εί [20, 23], και δίνεται από τον τύπο: micro-doa T i 0 v j T i v k W i [π i (v j ) > π i (v k )] T i 0 T i W i Είναι προφανές πώς, το micro-doa ανα έτει ένα υψη ότερο άρος στους ρήστες τ ν οποί ν οι α μο ο ίες στο test set είναι πο ές, ενώ το macro-doa ανα έτει το ίδιο άρος σε ό ους τους ρήστες, ρίς να έ ει σημασία πόσες πο ές α μο ο ίες υπάρ ουν στο test set ια κα έναν από αυτούς Ο Kendall s τ συντε εστής συσ έτισης Ο Kendall s τ συντε εστής συσ έτισης, είναι ένα μέτρο που δεί νει τη συσ έτιση μεταξύ δυο μετα ητών. Πρόκειται ια ένα διαισ ητικό μη παραμετρικό δείκτη συσ έτισης ο οποίος έ ει ρησιμοποιη εί ευρέ ς τα τε ευταία ρόνια στην κοινότητα του Web ( ια παράδει μα [3, 38]) ια συ κρίσεις ιστών κατάταξης. Ο Kendall s τ συντε εστής συσ έτισης ορίζεται ς ακο ού ς: τ = (# ζευ αριών στη σ στή σειρά) (# ζευ αριών στη ά ος σειρά) n(n 1) 1 2 Δυο ζευ άρια ταινιών, έστ (x i, y i ) και (x j, y j ), έμε ότι είναι στη σ στή σειρά αν οι ταξινομήσεις στη ίστα κατάταξης και ια τα δυο στοι εία συμφ νούν, δη αδή αν x i > x j 1 αυτή η ρήσιμη σημειο ραφία αναφέρεται στη ι ιο ραφία σαν Iverson σημειο ραφία, έπε [29]. 43

64 4. ΠΕΙΡΑΜΑΤΙΚΗ ΑΞΙΟΛΟΓΗΣΗ και y i > y j ή x i < x j και y i < y j. Δυο τέτοια ζευ άρια είναι στη ά ος σειρά, αν x i > x j και y i < y j ή αν x i < x j και y i > y j. Αν x i = x j και y i = y j, τότε τα ζευ άρια δεν είναι ούτε στη σ στή ούτε στη ά ος σειρά. Όσον αφορά τις ιδιότητες του Kendall s τ ισ ύουν τα εξής: Ο παρονομαστής είναι ο συνο ικός αρι μός τ ν ζευ αριών, συνεπώς ο συντε εστής πρέπει να έ ει τιμή ανάμεσα στο διάστημα 1 τ 1. Αν η συμφ νία ανάμεσα στις δυο ίστες κατάταξης είναι τέ εια (δη αδή οι δυο κατατάξεις είναι ίδιες), ο συντε εστής έ ει τιμή ίση με 1. Αν η διαφ νία ανάμεσα στις δυο ίστες κατάταξης είναι τέ εια (δη αδή η μια κατάταξη είναι το αντί ετο της ά ης), ο συντε εστής έ ει τιμή ίση με -1. Αν η x και η y είναι ανεξάρτητες, τότε α περιμένουμε ο συντε εστής να είναι περίπου μηδέν. 4.3 Διαδικασία πειραμάτ ν και αποτε έσματα Στο σημείο αυτό, είμαστε σε έση να προ ρήσουμε στη διεξα ή τ ν πειραμάτ ν κα ώς και στην ανά υση τ ν αποτε εσμάτ ν της με όδου μας. Προη ουμέν ς όμ ς α αναφέρουμε ί α ό ια ια τους α ορί μους με τους οποίους συ κρινόμαστε Σύ κριση του Α ορί μου 1 με ά ους rank-based α - ορί μους συστάσε ν Αρ ικά, ο ItemRank (IR), ο οποίος περι ράφτηκε εν συντομία στην Ενότητα 2.3.2, προτά ηκε από τους Gori and Pucci [28]. Οφεί ει την έμπνευσή του στον PageRank και παρά ει ένα εξατομικευμένο διάνυσμα κατάταξης ρησιμοποιώντας το ράφο συσ έτισης τ ν αντικειμέν ν. O α όρι μος TR ο οποίος προτά ηκε από τους Zhang and Li [85] αποτε εί μια ε τί ση του ItemRank και ασίζεται σε μια topical εκδο ή του PageRank [54]. Για τον υπο ο ισμό της ίστας κατάταξης τ ν αντικειμέν ν αμ άνει, επιπ έον, υπόψη του την κατη ορία του αντικειμένου και το προφί ενδιαφέροντος του ρήστη. Οι Fouss et al. [21] ακο ου ώντας μια ραφική αναπαράσταση τ ν δεδομέν ν, και ρησιμοποιώντας μια προσέ ιση ασισμένη στους τυ αίους περιπάτους, παρουσίασαν έναν αρι μό από με όδους - ια τον υπο ο ισμό διαφόρ ν μέτρ ν ομοιότητας τ ν κόμ ν - όπ ς είναι τα average commute time (απ ό CT and PCA-CT) και ο ψευδοαντίστροφος του Laplacian μητρώου L (L ). Συ κεκριμένα, ια το average commute time (CT) το οποίο περι ράψαμε και στην Ενότητα 2.3.2, ισ ύει πώς όσο μικρότερη είναι η απόσταση ανάμεσα σε ένα ρήστη και ένα αντικείμενο, τόσο το αντικείμενο αυτό ρίσκεται πιο ψη ά 44

65 στην προτεινόμενη ίστα κατάταξης ια τον ρήστη. Η τετρα νική ρίζα του average commute time είναι μια Ευκ είδεια απόσταση. Όσον αφορά τη ασισμένη στην Ευκλείδεια commute time απόσταση PCA τεχνική (PCA CT), ισ ύει πώς από την ανά υση σε ιδιοδιανύσματα του L, είναι δυνατόν να ίνει η αντιστοί ηση τ ν κόμ ν του ράφου σε ένα νέο Ευκ είδειο ώρο, ο οποίος διατηρεί την Ευκ είδεια commute time απόσταση (ECTD). Είναι επίσης πι ανό, οι κόμ οι να προ η ούν σε ένα M-διάστατο υπο ώρο, εφαρμόζοντας τη PCA τε νική και κρατώντας ένα δεδομένο αρι μό από κύρια αρακτηριστικά. Στη συνέ εια οι αποστάσεις, οι οποίες υπο ο ίζονται μεταξύ τ ν κόμ ν στο ώρο τ ν μει μέν ν διαστάσε ν, μπορούν να ρησιμοποιη ούν ια την ταξινόμηση τ ν αντικειμέν ν ια κά ε ρήστη. Το M (δη αδή η διάσταση του υπο ώρου), είναι ο αρι μός τ ν κύρι ν συνιστ σών (principal components). Επιπρόσ ετα, το L παρέ ει ένα μέτρο ομοιότητας (sim(i, j) = l ij ) εφόσον είναι το μητρώο το οποίο περιέ ει τα εσ τερικά ινόμενα τ ν διανυσμάτ ν στον Ευκ είδειο ώρο όπου οι κόμ οι δια ρίζονται μέσ του ECTD. Εφόσον οιπόν υπο ο ιστεί το μητρώο ομοιότητας, τα αντικείμενα ταξινομούνται με άση τις ομοιότητες τους με τον ρήστη. Επιπρόσ ετα, ο Katz [40] πρότεινε μια μέ οδο υπο ο ισμού ομοιοτήτ ν αμ άνοντας υπόψη και τον αρι μό τ ν άμεσ ν α ά και τ ν έμμεσ ν συνδέσε ν μεταξύ τ ν αντικειμέν ν 1. Ο Maximum-Frequency (MaxF) α όρι μος κατάταξης, ταξινομεί απ ά τα αντικείμενα με άση τον αρι μό τ ν ατόμ ν που τα έ ουν δει. Με ά α ό ια, τα αντικείμενα προτείνονται σε κά ε ρήστη με φ ίνουσα δημοτικότητα. Συνεπώς, η ίστα κατάταξης τ ν αντικειμέν ν α είναι ίδια ια ό ους τους ρήστες, αφού δεν εξαρτάται από τις μέ ρι τώρα προτιμήσεις τους. Ο συ κεκριμένος α όρι μος μας εξυπηρετεί σαν αναφορά ια την εκτίμηση της ποιότητα τ ν ά ν α ορί μ ν κατάταξης. Τέ ος, οι Freno et al. [23] πρότειναν ένα Hybrid Random Fields μοντέ ο (HRF) το οποίο εφάρμοσαν, μαζί με έναν αρι μό από πο ύ ν στά πι ανοτικά ραφικά μοντέ α, όπ ς είναι τα Depedency Networks (DN), Markov Random Fields (MRF) και Naive Bayes (NB), ια να προ έψουν τα κορυφαία Ν αντικείμενα ια τους ρήστες. Συ κεκριμένα, ια την πρό εψη του ενδιαφέροντος ενός ρήστη u i ια ένα αντικείμενο v j, τα μοντέ α αυτά υπο ο ίζουν την υπό συν ήκη πι ανότητα ο ρήστης να δια έξει το αντικείμενο v j, το οποίο ακόμα δεν έ ει δει, με άση τα αντικείμενα τα οποία έ ει ήδη επι έξει. Η τιμή οιπόν της υπο ο ισμένης υπό συν ήκη πι ανότητας, ρησιμοποιείται σαν την τιμή του ενδιαφέροντος του ρήστη u i ια το αντικείμενο v j. Η προ επόμενη ίστα προτίμησης τ ν ρηστών προκύπτει από τη σύ κριση τ ν υπό συν ήκη πι ανοτήτ ν ό ν τ ν αντικειμέν ν. Αποτε έσματα Για τη σύ κριση της με όδου μας με τους παραπάν α ορί μους κατάταξης, ρησιμοποιούμε τις μετρικές micro-doa και macro-doa οι οποίες υπο ο ί- 1 Περισσότερες επτομέρειες ια το μέτρο Katz, παρα έσαμε στην Ενότητα

66 4. ΠΕΙΡΑΜΑΤΙΚΗ ΑΞΙΟΛΟΓΗΣΗ micro-doa macro-doa DN [18] ± 0.43 DN ± 1.23 MRF ± 0.44 HRF [23] ± 0.59 HRF ± 0.52 NB ± 0.22 IR[28] ± 0.10 IR ± 0.27 ΑΛΓ ± 0.20 ΑΛΓ ± 0.29 Katz [20, 40] ± 0.24 CT[20] ± 0.01 MRF[23] ± 0.50 L [20] ± 0.84 PCA CT [20] ± 0.76 NB[18, 23] ± 0.30 MaxF[20] ± 0.00 TR[85] ± 0.11 Πίνακας 4.1: Σύ κριση απόδοσης μεταξύ του Α ορί μου 1 και πο ών ά ν state-ofthe-art α όρι μ ν σύστασης, ρησιμοποιώντας τις μετρικές micro-doa και macro-doa. στηκαν με 5-fold cross-validation. Όπ ς αναφέρ ηκε προη ουμέν ς, ια τη διεξα ή τ ν πειραμάτ ν ρησιμοποιούμε το MovieLens dataset με τα προκα ορισμένα πέντε splittings, προκειμένου να μας επιτραπεί να συ κρι ούμε με τα διαφορετικά αποτε έσματα, τ ν παραπάν α ορί μ ν, που ρίσκονται στη ι ιο ραφία. Τα αποτε έσματα της σύ κρισης παρουσιάζονται στον Πίνακα 4.1. Παρατηρώντας, οιπόν, τα αποτε έσματα του πίνακα έπουμε π ς ο Α όρι μος 1 ξεπερνά τις ά ες state-of-the-art τε νικές, πετυ αίνοντας μια τιμή ια το macro-doa ίση με η οποία είναι περίπου 6.8% με α ύτερη από την τιμή που πετυ αίνει ο MaxF τον οποίο όπ ς αναφέραμε παραπάν τον ρησιμοποιούμε σαν αναφορά ια την εκτίμηση της ποιότητα τ ν ά ν α ορί μ ν κατάταξης. Το ίδιο ισ ύει και ια το μέτρο micro- DOA, όπου στην περίπτ ση αυτή ο Α όρι μος 1 πετυ αίνει την τιμή σε αντί εση με τους MRF και HRF όπου πετυ αίνουν τις τιμές και αντίστοι α. Επιπ έον, παρατηρούμε π ς ο Α όρι μος 1 έ ει και κα ύτερη τυπική απόκ ιση σε σ έση με τους ά ους δυο. Πο ύ κα ή τυπική απόκ ιση παρουσιάζει, επίσης, και στην περίπτ ση του macro-doa όπ ς φαίνεται και από τον πίνακα. Όσον αφορά τον MaxF η τυπική απόκ ιση είναι μηδέν, πρά μα ο ικό αφού σε ό ες τις περιπτώσεις η ίστα κατάταξης τ ν ταινιών είναι ίδια ια ό ους τους ρήστες Πρό ημα αραιών δεδομέν ν Κύριο μέ ημα της ενότητας αυτής είναι να δούμε π ς συμπεριφέρεται ο Α όρι μος 1 όταν ο ώρος αντικειμέν ν είναι αραιός. Είναι ε ονός π ς το πρό ημα της αραιότητας τ ν δεδομέν ν αποτε εί ένα μείζον έμα τ ν συστημάτ ν συστάσε ν. Εξαιτίας του ε ονότος αυτού, ανα ύουμε το πρό ημα από δυο διαφορετικές οπτικές νίες. Στην πρώτη περίπτ ση, ε ρούμε π ς δεν υπάρ ουν πο ές α μο ο ίες ταινιών στο training set και στη δεύτερη ότι στο σύστημα εισά ονται καινούριες ταινίες (τοπική αραιότητα). Η μετρικές απόδοσης που ρησιμοποιούνται είναι το DOA και ο Kendall s τ. Αραιότητα Προκειμένου να δείξουμε τα π εονεκτήματα της με όδους μας απέναντι στα προ ήματα που προκα ούνται εξαιτίας της αραιότητας του ώρου αντικειμέν ν, διε- 46

67 ξά ουμε το ακό ου ο πείραμα. Για κα ένα από τα 5 προκα ορισμένα splittings, προσομοιώνουμε το φαινόμενο της αραιότητας του ώρου αντικειμέν ν δια έ οντας με τυ αίο τρόπο το 80%, 60%, και 40% τ ν α μο ο ιών τ ν ταινιών τις οποίες συμπερι αμ άνουμε σε τρεις τε νητά αραιές εκδόσεις του. Στη συνέ εια ρησιμοποιούμε τις εκδόσεις αυτές ια να υπο ο ίσουμε το πόσο επηρεάζεται η ποιότητα τ ν συστάσε ν, από την αραιότητα. Για να απομονώσουμε τη ετική επίδραση που έ ει η εισα ή της NCD ε ύτητας και το σ ετικό μητρώο D, τρέ ουμε τον Α όρι μο 1 κα ώς και τους δυο α ορί μους που αποτε ούν τα ασικά του υπο-συστατικά (τον ItemRank και τον SimRank 1 ) και εκτιμούμε την απόδοσή τους τρέ οντας τα στάνταρ degree of agreement τεστ. Στη ραφική παράσταση του Σ ήματος 4.1, έπουμε π ς ο Α όρι μος 1 συμπεριφέρεται κα ύτερα από τους ά ους δυο α ορί μους και στις δυο μετρικές micro-doa και macro-doa, παρουσιάζοντας πο ύ κα ά αποτε έσματα ακόμα και αν μόνο το 40% τ ν α μο ο ιών είναι δια έσιμο. Τα αποτε έσματα αυτά επι ε αιώνουν τη διαίσ ηση πίσ από τον Α όρι μος 1 ακόμα και αν οι άμεσες σ έσεις μεταξύ τ ν ταινιών του dataset καταρρέουν από την αφαίρεση τόσ ν πο ών α μο ο ιών, η μεταξύ επιπέδ ν ε ύτητα που συ αμ άνεται από το μητρώο D ά εται δυσκο ότερα και ς εκ τούτου διαφυ άσσει την πιο αδρή δομή τ ν δεδομέν ν. Αυτό οδη εί σε ένα διάνυσμα κατάταξης το οποίο αποδεικνύεται ι ότερο ευαίσ ητο στην αραιότητα του ώρου τ ν αντικειμέν ν. The Effect of Sparsity Degree Of Agreement ΑΛΓ1 macro DOA ΑΛΓ1 micro DOA ItemRank macro DOA ItemRank micro DOA SimRank macro DOA SimRank micro DOA % 60% 40% Percentage of Included Ratings Σ ήμα 4.1: Η επίδραση της αραιότητας στην ποιότητα τ ν συστάσε ν ια τις τε νητά αραιές εκδόσεις του MovieLens dataset. 1 Ο SimRank είναι μια απ ή παρα α ή του ItemRank και συσ ετίζει τα αντικείμενα ρησιμοποιώντας το adjusted cosine-based μητρώο ομοιότητας που ορίζεται στη σ έση 3.4, αντί ια το μητρώο συσ έτισης που ορίζεται στη σ έση

68 4. ΠΕΙΡΑΜΑΤΙΚΗ ΑΞΙΟΛΟΓΗΣΗ Τοπική αραιότητα Μια πο ύ συ νή και ενδιαφέρουσα εμφάνιση του προ ήματος της αραιότητας προκύπτει μέσ της εισα ής νέ ν ταινιών στο σύστημα. Είναι φυσικό π ς τα αντικείμενα αυτά α έ ουν α μο ο η εί πο ύ ί ες φορές αφού είναι καινούρια, και συνεπώς η σ έση τους με τα υπό οιπα στοι εία του ώρου αντικειμέν ν δεν είναι ακόμα ξεκά αρη. Αυτό, σε πο ές περιπτώσεις, α μπορούσε να οδη ήσει σε άδικη μετα είρισή τους. Για να αξιο ο ήσουμε οιπόν την απόδοση του α ορί μου μας, έπειτα από την εισα- ή νέ ν ταινιών, διεξά ουμε το ακό ου ο πείραμα. Αρ ικά, επι έ ουμε τυ αία από το dataset έναν αρι μό από ταινίες οι οποίες έ ουν α μο ο η εί του ά ιστον 30 φορές και στη συνέ εια δια ράφουμε με τυ αίο τρόπο το 90% τ ν α μο ο ιών τους. Η ιδέα είναι π ς τα τροποποιημένα δεδομένα αναπαριστούν μια προηγούμενη έκδοση του dataset, όπου οι ταινίες αυτές είναι νέες στο σύστημα και συνεπώς έ ουν ι ότερες α μο ο ίες. Τρέ ουμε διαφορετικές περιπτώσεις του Α ορί μου 1 ια διαφορετικές τιμές του β, του οποίου οι τιμές κυμαίνονται από β = 0 (όπου το μητρώο D δεν συμπερι αμ άνεται και η ίστα κατάταξης τ ν αντικειμέν ν παρά εται από τον στα μισμένο συνδυασμό τ ν άμεσ ν υπο-συστατικών) μέ ρι β = 4, κρατώντας το ά ροισμα α + β = 0.9. Στη συνέ εια, συ κρίνουμε τις κατατάξεις που προέρ ονται από τα τροποποιημένα δεδομένα με τις αντίστοι ες αρ ικές τους καταστάσεις. Το μέτρο που ρησιμοποιούμε ια τη σύ κριση αυτή είναι ο συντε εστής συσ έτισης Kendall s τ. Υψη ή τιμή αυτής της μετρικής σημαίνει ότι οι δυο ίστες κατάταξης είναι πο ύ κοντά, το οποίο σημαίνει ότι οι νέες ταινίες που προστί ενται στο σύστημα είναι πο ύ πι ανό να ά ουν παρόμοια μετα είριση με αυτή που παίρνουν όταν συμπερι αμ άνονται ό ες οι δια έσιμες α μο ο ίες. Τέ ος, προκειμένου να έ ουμε ένα μέτρο της ποιότητας τ ν αρ ικών ιστών κατάταξης ια κά ε μια από τις περιπτώσεις του Α ορί μου 1, τρέ ουμε τις μετρικές micro-doa και macro-doa και παρουσιάζουμε τα αποτε έσματα στον Πίνακα 4.2. # Νέ ν ταινιών α = 0.9 α = 0.85 α = 0.8 α = 0.7 α = 0.6 α = 0.5 β = 0 β = 0.05 β = 0.1 β = 0.2 β = 0.3 β = macro-doa ± ± ± ± ± ± 0.25 micro-doa ± ± ± ± ± ± 0.29 Πίνακας 4.2: Απόδοση του Α ορί μου 1 όσον αφορά την τοπική αραιότητα. Τα πειράματα δεί νουν π ς η εισα ή ακόμα και ενός πο ύ μικρού β επιφέρει μια ετική επίδραση στην περίπτ ση της τοπικής αραιότητας. Αυτό έρ εται σε από υτη συμφ νία με τον τρόπο που ο Α όρι μος 1 έπει το πρό ημα. Στη μέ οδό μας, το σκορ κατάταξης ενός αντικειμένου δεν κα ορίζεται αποκ ειστικά από τις α μο ο ίες που έ ει 48

69 πάρει συμ ά ει και η κατη ορία στην οποία ανήκει ιατί σ ετίζει το νέο αντικείμενο με το NCD proximal σύνο ό του. Συνεπώς, ακόμα και αν οι α μο ο ίες δεν επαρκούν, οι νέες προστι έμενες ταινίες παίρνουν τη έση που τους αξίζει. Όπ ς ήταν αναμενόμενο η τιμή του Kendall s τ αυξάνει με το β ια ό ες τις τιμές που ε έ ξαμε. Εντούτοις, όταν η τιμή του β ίνεται 0.2 ή με α ύτερη, η ποιότητα τ ν αρ ικών συστάσε ν αρ ίζει να πέφτει, κα ώς οι άμεσες σ έσεις που υπάρ ουν μεταξύ τ ν αντικειμέν ν α νοούνται ό ο και περισσότερο. Διαισ ητικά, η κατά η η επι ο ή τ ν παραμέτρ ν εξαρτάται από το πόσο αραιός είναι ο ώρος τ ν αντικειμέν ν. Τα πειράματά μας με το MovieLens dataset προτείνουν π ς μια επι ο ή του β μεταξύ του 0.1 και του 0.15 και μια επι ο ή του α μεταξύ του 0.8 και του 0.75, δίνουν πο ύ κα ά αποτε έσματα τόσο στην ποιότητα τ ν συστάσε ν όσο και στην αν εκτικότητα απέναντι στην αραιότητα. 49

70 4. ΠΕΙΡΑΜΑΤΙΚΗ ΑΞΙΟΛΟΓΗΣΗ 50

71 Κεφά αιο 5 Συμπεράσματα - Με οντική έρευνα Στην παρούσα διπ ματική, παρουσιάσαμε ένα νέο π αίσιο Συνερ ατικής Διή ησης που φέρει το όνομα Α όρι μος 1 και προτείνει αντικείμενα στους ρήστες ενός συστήματος, υπό μορφή ίστας. Η μέ οδός μας ακο ου εί μια ραφο ε ρητική προσέ ιση. Ο Α όρι μος 1 μοντε οποιεί το πρό ημα ς ένα ράφο του οποίου οι κόμ οι εκφράζουν τα αντικείμενα και οι ακμές αναπαριστούν τις α η επιδράσεις ή τις ομοιότητες μεταξύ τ ν αντικειμέν ν. Για τον υπο ο ισμό αυτών τ ν α η επιδράσε ν ασιστήκαμε τόσο στην άμεση όσο και στην έμμεση συσ έτιση τ ν αντικειμέν ν. Όσον αφορά την έμμεση συσ έτιση πατήσαμε στη διαίσ ηση πίσ από τον NCDawareRank εκμετα ευόμενοι την ε ενώς ιεραρ ική δομή του ώρου αντικειμέν ν. Ο α όρι μός μας αποδεί τηκε π ς είναι πο ύ αποδοτικός τόσο από υπο ο ιστικής άποψης όσο και από π ευράς απο ήκευσης. Το μητρώο άμεσης συσ έτισης είναι ε ενώς αραιό και προσαρμόζεται πο ύ κα ά στην αύξηση του αρι μού τ ν ρηστών. To μητρώο NCD ε ύτητας, παρουσιάζει πο ύ μικρές απαιτήσεις απο ήκευσης, ό της παρα οντοποίησης που επιδέ εται. Επιπρόσ ετα, από υπο ο ιστικής άποψης, ο α όρι μός μας αποδεικνύεται πο ύ αποδοτικός ο πιο αρύς υπο ο ισμός κά ε επανά ηψης είναι ο Sparse Matrix-Vector (Sp- MxV) πο απ ασιασμός π C, ενώ ο αρι μός επανα ήψε ν που απαιτείται ια την εξα ή αποτε εσμάτ ν έ τιστης ποιότητας, στα πειράματα αξιο ό ησης που πρα ματοποιήσαμε, ήταν πάντα πο ύ μικρός. Συ κεκριμένα, εφαρμόσαμε τον Α όρι μο 1 στο movie recommendation πρόβλημα με ρήστη του ευρέ ς ν στού MovieLens dataset. Τα πειράματα έδειξαν, έπειτα από τη σύ κριση με τους ά ους state-of-the-art α ορί μους κατάταξης, π ς ο Α όρι μος 1 υπερτερεί στις ranking-based μετρικές απόδοσης, την micro-doa και macro-doa. Επιπ έον, ο α όρι μός μας αποδεί τηκε π ς συμπεριφέρεται κα ά ακόμα και αν ο ώρος τ ν αντικειμέν ν είναι αραιός. Σε αυτή τη διαπίστ ση οδη η ήκαμε, έπειτα από τη διεξα ή πειραμάτ ν στα οποία προσομοιώσαμε το φαινόμενο τόσο της ενικής 51

72 5. ΣΥΜΠΕΡΑΣΜΑΤΑ - ΜΕΛΛΟΝΤΙΚΗ ΕΡΕΥΝΑ όσο και της τοπικής αραιότητας. Μια πο ύ ενδιαφέρουσα ερευνητική κατεύ υνση που αξίζει να εξερευνη εί, είναι το π ς α συμπεριφερ εί το σύστημά μας κατά την εισα ή περισσοτέρ ν από μια decompositions, οι οποίες ασίζονται σε πο απ ά κριτήρια. Στη συ κεκριμένη ερ ασία, εξετάσαμε μόνο την περίπτ ση που ο ώρος τ ν ταινιών ρίζεται σε κατη ορίες. Ωστόσο, σε ρεα- ιστικές περιπτώσεις - όπου είναι δια έσιμες πο ές π ηροφορίες - μπορούν να υπάρξουν περισσότερες ομαδοποιήσεις τ ν αντικειμέν ν. Συμπερασματικά, ο Α όρι μος 1 με την αξιοποίηση τ ν NCD συνό ν ε ύτητας, ρί νει νέο φ ς στο recommendation πρό ημα και παρουσιάζει μια εύκο α ενικεύσιμη μέ οδο που παρέ ει ένα διαισ ητικά ε κυστικό και υπο ο ιστικά αποδοτικό ε ρητικό π αίσιο, ια την παρα ή ποιοτικών συστάσε ν. 52

73 Μέρος III Παράρτημα/Κώδικας 53

74

75 Παράρτημα Α: Κώδικας f u n c t i o n [ PI f l a g r e s h i s t ] = Algorithm1 ( H, D, S, Pref, a, b, c, t o l, maxit ) [m, n ] = s i z e ( Pref ) ; i f ~ e x i s t ( a, var ) isempty ( a ), a =0.0001; end i f ~ e x i s t ( b, var ) isempty ( b ), b = ; end i f ~ e x i s t ( c, var ) isempty ( c ), c = ; end i f ~ e x i s t ( d, var ) isempty ( d ), d = ; end i f ~ e x i s t ( t o l, var ) isempty ( t o l ), t o l =1e 12; end i f ~ e x i s t ( maxit, var ) isempty ( maxit ), maxit =100; end Pref = s p a r s e ( Pref ) ; PI=z e r o s (m, n )+f u l l ( Pref ) ; f l a g =0; d e l t a =2; i t e r =0; r e s h i s t=z e r o s ( maxit, 1 ) ; while i t e r <maxit && delta >t o l PI_new=a *(H * PI ) ; PI_new=PI_new + b *(D * PI ) ; PI_new=PI_new + c *(S * PI ) ; W = diag ( s p a r s e ( ones ( 1, n ) sum(pi_new) ) ) ; PI_new = PI_new + Pref *W; D_PI = PI PI_new ; d e l t a=norm (D_PI, 1 ) ; r e s h i s t ( i t e r +1)=d e l t a ; i t e r=i t e r +1; 55

76 . ΠΑΡΑΡΤΗΜΑ Α: ΚΩΔΙΚΑΣ PI=PI_new* diag ( s p a r s e ( 1. / sum(pi_new) ) ) ; % column normalize PI end f l a g=delta >t o l ; r e s h i s t=r e s h i s t ( 1 : i t e r ) ; f p r i n t f ( Solved Algorithm 1 ( a=%6.5f, b=%6.5f, c=%6.5 f ) in %5i m u l t i p l i e s to %8e t o l e r a n c e \n, a, b, c, i t e r, d e l t a ) ; end Listing 1: Α όρι μος 1 56

77 f u n c t i o n [ Pref ]= Create_Pref ( TrainSet ) [m n ] = s i z e ( TrainSet ) ; f o r i =1:n outdeg = sum( TrainSet ( :, i ) ) ; i f outdeg Pref ( :, i ) = TrainSet ( :, i ) / outdeg ; end end end Listing 2: Κώδικας δημιουρ ίας μητρώου προτιμήσε ν f u n c t i o n [H]= Create_H ( TrainSet ) B_Matrix = TrainSet >0; f p r i n t f ( Creating H... \ n ) ; m=length ( B_Matrix ( :, 1 ) ) ; H=z e r o s (m,m) ; B_Matrix_t=B_Matrix ; f o r j =2:m i f ~mod( j, ) end f o r i =1: j 1 a=f i n d ( B_Matrix_t ( :, i ) >0) ; b=f i n d ( B_Matrix_t ( :, j ) >0) ; c=i n t e r s e c t ( a, b ) ; p l i t h o s=length ( c ) ; H( i, j )=p l i t h o s ; H( j, i )=p l i t h o s ; end 57

78 . ΠΑΡΑΡΤΗΜΑ Α: ΚΩΔΙΚΑΣ end %% Making H, row s t o c h a s t i c H_t = H ; f o r i =1:m outdeg = sum(h_t ( :, i ) ) ; i f outdeg H_t ( :, i ) = H_t ( :, i ) / outdeg ; end end H = H_t ; end Listing 3: Κώδικας δημιουρ ίας μητρώου H 58

79 f u n c t i o n [ X80 X60 X40 ] = CreateSpRatings ( X, p ) [ row, c o l ] = f i n d (X) ; % the rows and the columns o f the r a t i n g s X80 = X; X60 = X; X40 = X; f o r j =1: l ength ( c o l ) i f rand <(1 p ( 3 ) ) X40( row ( j ), c o l ( j ) ) =0; end i f rand <(1 p ( 2 ) ) X60( row ( j ), c o l ( j ) ) =0; end i f rand <(1 p ( 1 ) ) X80( row ( j ), c o l ( j ) ) =0; end end end Listing 4: Αραιοποίηση του ώρου αντικειμέν ν f u n c t i o n [ X_NAM ] = CreateNAM( X, p, newmovies, t h r e s h o l d ) [m, n]= s i z e (X) ; temp = X>0; index = temp* ones (n, 1 )>t h r e s h o l d ; f u l l l i s t = f i n d ( index ) ; r a n d l i s t = unique ( randi ( [ 1 length ( f u l l l i s t ) ], newmovies, 1) ) ; l i s t = index ( r a n d l i s t ) ; length ( l i s t ) X_NAM = X; f o r i =1: l ength ( l i s t ) t e m p l i s t = f i n d (X( i, : ) ) ; f o r j = 1 : l e n gth ( t e m p l i s t ) i f rand<p X_NAM( i, t e m p l i s t ( j ) ) =0; end end end end Listing 5: Προσομοί ση νεοεισερ όμεν ν αντικειμέν ν 59

80 . ΠΑΡΑΡΤΗΜΑ Α: ΚΩΔΙΚΑΣ f u n c t i o n [ Macro_DOA, Micro_DOA, doa ] = DOA( FullSet, TestSet, PI ) [m, n ] = s i z e ( F u l l S e t ) ; Macro_DOA = 0 ; microdoa_num = 0 ; microdoa_denom = 0 ; f o r i =1:n u = ( F u l l S e t ( :, i ) >0) + ( TestSet ( :, i ) >0) ; % u_j = 2 i f f m_j \ in TestSet_ {u_i} NW = sum( F u l l S e t ( :, i )==0) ; Tu = sum( TestSet ( :, i ) >0) ; % Keep the c a r d i n a l i t y o f the Sets i f Tu == 0 continue e l s e denom = NW*Tu ; end [ s o r t e d index ] = s o r t ( PI ( :, i ), descend ) ; u = u ( index ) ; num = 0 ; count =0; f o r j =1:m i f u ( j ) == 2 num = num + NW; count = count + 1 ; end i f u ( j ) == 0 NW =NW 1; end i f NW == 0 count == Tu break end end doa ( i ) = num/denom ; Macro_DOA = Macro_DOA + doa ( i ) ; microdoa_num = microdoa_num + num; microdoa_denom = microdoa_denom + denom ; end 60

81 n=sum ( ( ones ( 1,m) * TestSet ) >0) ; Macro_DOA = Macro_DOA/n ; Micro_DOA = microdoa_num/ microdoa_denom ; end Listing 6: Κώδικας υπο ο ισμού Degree Of Agreement 61

82 . ΠΑΡΑΡΤΗΜΑ Α: ΚΩΔΙΚΑΣ f u n c t i o n [ tau, c, d, tr, ts, j, n ] = ktau ( v, v a r a r g i n ) ; i f ( nargin == 1) v1 = v ( :, 1 ) ; v2 = v ( :, 2 ) ; e l s e v1 = v ; v2 = v a r a r g i n {1}; end ; try r e s = i t. unimi. d s i. law. s t a t. KendallTau. computestats ( v1, v2, [ ] ) ; catch mypath = which ( ktau ) ; [ pathstr, filename, ext ] = f i l e p a r t s ( mypath ) ; javaaddpath ( [ p a t h s t r f i l e s e p ( ) ktau_lib f i l e s e p ( ) c o l t. j a r ] ) ; javaaddpath ( [ p a t h s t r f i l e s e p ( ) ktau_lib f i l e s e p ( ) f a s t u t i l j a r ] ) ; javaaddpath ( [ p a t h s t r f i l e s e p ( ) ktau_lib f i l e s e p ( ) mg4j j a r ] ) ; javaaddpath ( [ p a t h s t r f i l e s e p ( ) ktau_lib f i l e s e p ( ) law f i l e s e p ( ) ] ) ; r e s = i t. unimi. d s i. law. s t a t. KendallTau. computestats ( v1, v2, [ ] ) ; end ; d = double ( r e s ( 3 ) ) ; t r = double ( r e s ( 1 ) ) ; t s = double ( r e s ( 2 ) ) ; j = double ( r e s ( 4 ) ) ; n = length ( v1 ) *( l ength ( v1 ) 1) / 2 ; c = n ( t r + t s j ) d ; tau = ( n ( t r + t s j ) 2*d ) /( s q r t ( n t r ) * s q r t ( n t s ) ) ; end Listing 7: Κώδικας υπο ο ισμού του Kendall s τ Στην παραπάν συνάρτηση υπο ο ισμού του Kendall s τ, κάνουμε ρήση τ ν Java ARchives: colt.jar fastutil jar, mg4j jar. Τα αρ εία αυτά είναι κομμάτια του LAW software που αναπτύ ηκε στο Laboratory for Web algorithmics και μπορεί να ρε ούν - μαζί με τον πη αίο κώδικα - στο 62

83 Παράρτημα B: Προδια ραφές Συστήματος Τα τε νικά αρακτηριστικά του συστήματος που ρησιμοποιή ηκε ια τη διεξα ή τ ν πειραμάτ ν, έ ουν ς εξής: 63