Aueb Spam Filter. A personal spam filter for Thunderbird. Μπόχτης Δημήτρης

Μέγεθος: px

Εμφάνιση ξεκινά από τη σελίδα:

Download "Aueb Spam Filter. A personal spam filter for Thunderbird. Μπόχτης Δημήτρης"

Αἴολος Σπανός
7 χρόνια πριν
Προβολές:

1 Aueb Spam Filter A personal spam filter for Thunderbird Μπόχτης Δημήτρης

2 Το Πρόβλημα του Spam δισεκατομμύρια ημερησίως δισεκατομμύρια ημερησίως (Φεβ.) 90 δισεκατομμύρια ημερησίως (Ιουν.) 100 δισεκατομμύρια ημερησίως. 85% της εισερχόμενης αλληλογραφίας χαρακτηρίζεται ως μη επιθυμητή.

3 Κόστος εξαιτίας του Spam Κόστος που οφείλεται σε χαμένες εργατοώρες. 21,58 δισεκατομμύρια δολάρια στις ΗΠΑ (2004). 50 δισεκατομμύρια δολάρια παγκοσμίως. Σήμερα η βιομηχανία του IT διαθέτει 198 δις δολάρια για την αντιμετώπιση του Spam. Κατανομή κόστους: Αποστολέας 0,01%. Παραλήπτης το υπόλοιπο.

4 Τρόποι Αντιμετώπισης Authenrcaron and Reputaron Challenge/response systems DNS based Blacklists Greylisrng Hybrid filtering(spamassasin etc.) Starsrcal content filtering

5 Προσωπικά Φίλτρα Αντιμετώπιση Spam σε επίπεδο τελικού παραλήπτη. Κατανομή υπολογιστικής πολυπλοκότητας στους τελικούς χρήστες. Όχι άμεση απελευθέρωση δικτυακών πόρων. Προσαρμογή στις εκάστοτε ανάγκες του χρήστη Ο χαρακτηρισμός ενός μηνύματος ως spam έχει και υποκειμενικά κριτήρια. Κατάλληλο και για τον μη μέσο χρήστη. Ανάγκη για αρχική τουλάχιστον εκπαίδευση του φίλτρου. Επίτευξη μεγαλύτερης ακρίβειας και αποτελεσματικότητας.

6 Τι είναι το Aueb Spam Filter Προσωπικό φίλτρο ανεπιθύμητης ηλεκτρονικής αλληλογραφίας. Χρήση παραλλαγών απλού ταξινομητή Naïve Bayes. Υλοποιήση συστήματος «απόδειξης ανθρώπινης αλληλεπίδρασης». Ενσωμάτωση με την μορφή extension στο Mozilla Thunderbird.

7 Αueb Spam Filter Classifiers Mulrnomial Naïve Bayes with transformed TF aåributes Default Mulrnomial Naïve Bayes with TF aåributes Mulrnomial Naïve Bayes with Boolean aåributes Mulrvariate Bernoulli Naïve Bayes Σχετικά Α. Κοσμόπουλος, "Διήθηση ανεπιθύμητης ηλεκτρονικής αλληλογραφίας με διάφορες μορφές του απλοϊκού ταξινομητή Bayes και διαμοιρασμό φίλτρων μεταξύ χρηστών", μεταπτυχιακή διπλωματική εργασία, Τμήμα Πληροφορικής, Οικονομικό Πανεπιστήμιο Αθηνών, 2007.

8 Screenshot 1

9 White Lists Επιλογή εξαίρεσης των διευθύνσεων του Address Book. Μείωση υπολογιστικής πολυπλοκότητας. Εξασφάλιση παραλαβής μηνυμάτων από έγκυρους παραλήπτες. Μείωση αριθμού False posirves.

10 Training Data Από τα μηνύματα εκπαίδευσης διατηρούνται: Τα tokens Ο συνολικός αριθμός εμφανίσεων τους σε spam και legit μηνύματα. Ο αριθμός των spam μηνυμάτων που περιέχουν το token. Ο αριθμός των legit μηνυμάτων που περιέχουν το token.

11 Training Data 2 Διατίθεται επιλογή χρήσης των Ν τελευταίων μαρκαρισμένων μηνυμάτων ως σύνολο εκπαίδευσης. Διατήρηση μεγέθους του συνόλου σε μικρό και ταυτόχρονα αποτελεσματικό μέγεθος. Γρήγορη προσαρμογή σε αλλαγές των προτιμήσεων του χρήστη.

12 Filtering Levels Τέσσερεις διαθέσιμες στάθμες αυστηρότητας του φίλτρου: Low Normal High Custom Ρύθμιση του φίλτρου για πιο γρήγορη σύγκλιση.

13 Screenshot 2

14 Human Interacrve Proofs Υλοποίηση συστήματος «απόδειξης ανθρώπινης αλληλεπίδρασης». Όταν ένα μήνυμα κατατάσσεται ως Spam Τοποθετείται προσωρινά σε ένα φάκελο αναμονής. Αποστέλλεται ένα μήνυμα στον αποστολέας του με ένα challenge (ερώτηση φυσικής γλώσσας). Αναμονή μερικών ημερών για το response. Αν έχουμε σωστή απάντηση το μήνυμα χαρακτηρίζεται ως Ham, προσθήκη αποστολέα στη white list. Aν όχι το μήνυμα κατατάσσεται ως spam.

15 Human Interacrve Proofs 2 Σε πειραματικό στάδιο Προϋποθέσεις Η διεύθυνση αποστολέα να είναι έγκυρη. Να αντιστοιχεί σε άνθρωπο ώστε να μπορεί να απαντήσει στο challenge Σχετικές τεχνολογίες DKIM SenderID

16 Screenshot 3

17 Starsrcs Διατήρηση Στατιστικών Spams Marked αριθμός μηνυμάτων μαρκαρισμένων ως spam. Hams Marked αριθμός μηνυμάτων μαρκαρισμένων ως ham. False Posirves αριθμός μηνυμάτων που το φίλτρο ταξινόμησε ως spam και ο χρήστης έπειτα τα μάρκαρε ως ham. False Negarves αριθμός μηνυμάτων που το φίλτρο ταξινόμησε ως ham και ο χρήστης έπειτα τα μάρκαρε ως spam. True Posirves shows how many messages the filter had classified as spam and the user did not mark manually (did not correct) as ham. It is assumed that if the user does not correct the decision of the filter for a message, the filter has guessed the correct class of the message. True Negarves shows how many messages the filter had classified as ham and the user did not mark manually (did not correct) as spam. Δυνατότητα Αποστολής Στατιστικών μέσω e mail.

18 Screenshot 4

19 Training Data Export/Import Δυνατότητα εξαγωγής του συνόλου εκπαίδευσης και εισαγωγής στου σε άλλη εγκατάσταση του Aueb Spam Filter. Πιο εύκολη η πειραματική αξιολόγηση. Δυνατότητα διάθεσης προεκπαιδευμένων φίλτρων. Μικρότερη ανάγκη αρχικής εκπαίδευσης. Προσοχή κατά τη διάθεση τους Προστασία προσωπικών δεδομένων

20 Τεχνικά Θέματα Το extension : javascript Χρήση του Mozilla Framework Οι ταξινομητές C++ Μορφή dll Καλούνται από την javascript σαν XPCOM Components Περισσότερα στο MDC håp://developer.mozilla.org

21 Σύγκριση με Thunderbird Junk Mail Control Χρήση της συλλογής μηνυμάτων Enron Spam Αξιολογείται το σώμα του μηνύματος Αναπαράσταση σε καμπύλες ROC (spam recall, 1 ham recall) Απαλείφονται Html tags Headers (εκτός του subject) Συννημένα

22 Σύγκριση με Thunderbird Junk Mail Control 2

23 Σύγκριση με Thunderbird Junk Mail Control 3 Υπερτερεί η πολυωνυμική μορφή με μετασχηματισμένα χαρακτηριστικά TF Εξίσου υψηλά ποσοστά SR πετυχαίνει και το JMC Όμως όχι στην περιοχή όπου το 1 HR τείνει στο 0. Περιοχή που δεν ταξινομούνται legit μηνύματα ως spam Χαρακτηριστικό ιδιαίτερα βασικό για κάθε φίλτρο.

24 Επεκτάσεις Ανταλλαγή Φίλτρων Συνδυασμός με DKIM ή SenderID και πειραματική αξιολόγηση HIPs. Ανάπτυξη extension για το Mozilla Firefox Πχ. Web based φίλτρο για το gmail.

25 Περισσότερα... Bochrs, D. (2007). Development of an e mail filter for Mozilla Thunderbird. BSc thesis, Athens University of Economics and Business, Department of Informarcs. Kosmopoulos, A. (2007). E mail spam filtering with various forms of the Naive Bayes classifier and filter sharing among users. MSc thesis, Athens University of Economics and Business, Department of Informarcs. Metsis, V., Androutsopoulos, I., & Paliouras, G. (2006). Spam Filtering with Naive Bayes Which Naive Bayes? 3rd Conference on and AnD Spam. Mountain View, CA. Michelakis, E., Androutsopoulos, I., Paliouras, G., Sakkis, G., & Stamatopoulos, P. (2004). Filtron: A Learning Based Anr Spam Filter. 1st Conference on and AnD Spam. Mountain View, CA. Vassilakis, D., Androutsopoulos, I., & Mageirou, E. (2007). A Game Theorerc Invesrgaron of the Effect of Human Interacrve Proofs on Spam E mail. 4th Conference on and AnD Spam. Mountain View, CA.

26 Download/Support håp://venus.cslab.aueb.gr/forum/viewtopic.php?f=90&t=5880 håp://venus.cslab.aueb.gr/forum Ερευνητική Δραστηριότητα Aueb Spam Filter

Σχετικά έγγραφα

Οικονομικό Πανεπιστήμιο Αθηνών. Διπλωματική Εργασία Μεταπτυχιακού Διπλώματος Ειδίκευσης. Άρης Κοσμόπουλος

Οικονομικό Πανεπιστήμιο Αθηνών Διπλωματική Εργασία Μεταπτυχιακού Διπλώματος Ειδίκευσης Άρης Κοσμόπουλος Πρόβλημα ανεπιθύμητων μηνυμάτων Περισσότερα από το 60% των ηλεκτρονικών μηνυμάτων είναι ανεπιθύμητα