Βελτίωση της στρατηγικής Πρακτόρων Λογισμικού στο Χρηματιστήριο Ενέργειας με τη χρήση Τεχνικών Εξόρυξης Δεδομένων

Transcript

1 Βελτίωση της στρατηγικής Πρακτόρων Λογισμικού στο Χρηματιστήριο Ενέργειας με τη χρήση Τεχνικών Εξόρυξης Δεδομένων Αντώνης Χ. Χρυσόπουλος Ανδρέας Λ. Συμεωνίδης Περικλής Α. Μήτκας Τμήμα Ηλεκτρολόγων Μηχανικών Και Μηχανικών Ηλεκτρονικών Υπολογιστών Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης 54124, Θεσσαλονίκη ΠΕΡΙΛΗΨΗ Όπως σε κάθε άλλο περιβάλλον δημοπρασίας, οι οντότητες που συμμετέχουν στα Χρηματιστήρια Ενέργειας πρέπει να ανταγωνίζονται μεταξύ τους με στόχο την μεγιστοποίηση του κέρδους τους. Στην πορεία της επίτευξης αυτού του στόχου, αυτές οι οντότητες (άνθρωποι παίκτες ή πράκτορες λογισμικού παίκτες) μπορούν να υιοθετήσουν διαφόρων ειδών στρατηγικές από απλοϊκές έως υπερβολικά πολύπλοκες για να μπορέσουν να ανακαλύψουν το πιο κερδοφόρο συνδυασμό αγαθών, την κατάλληλη τιμή αγοράς και πώλησης κτλ, πάντα υπό την πίεση του χρόνου και των περιορισμών του εκάστοτε τύπου δημοπρασίας. Οι αποφάσεις γίνονται ακόμα πιο δύσκολες σε περιπτώσεις που λαμβάνουμε υπόψη μας τα τεράστια σε όγκο ιστορικά δεδομένα: τις τιμές των αγαθών, τις διακυμάνσεις της Αγοράς, τις ευκαιρίες αγοράς. Στο πλαίσιο αυτής της παρούσας εργασίας παρουσιάζουμε το πλαίσιο λογισμικού Cassandra, μια πολυπρακτορική πλατφόρμα που εκμεταλλεύεται τη δυναμική των τεχνικών Εξόρυξης Δεδομένων για την δημιουργία αποδοτικών μοντέλων πρόβλεψης για την Οριακή Τιμή Προσφοράς και την ποσότητα Ενεργειακού Φορτίου σε τυπικές Προθεσμιακές Αγορές Ενέργειας Της Μιας Μέρας (Day Ahead Power Markets). Γίνεται αναφορά στη λειτουργικότητα του πλαισίου Cassandra, ενώ δίνεται βάρος κυρίως στον μηχανισμό πλειοδότησης των πρακτόρων, και στον τρόπο με τον οποίον εφαρμόζονται οι τεχνικές Εξόρυξης Δεδομένων για την εξαγωγή των βέλτιστων μοντέλων πρόβλεψης. Η πλατφόρμα Cassandra δοκιμάστηκε σε πραγματικό περιβάλλον, με δεδομένα που αντλήθηκαν από το Ελληνικό Χρηματιστήριο Ενέργειας. Θεματική Περιοχή: Τεχνολογίες Πληροφορικής Λέξεις κλειδιά: Πράκτορες Λογισμικού, Εξόρυξη Δεδομένων, Χρηματιστήρια Ενέργειας, Τεχνικές Παλινδρόμησης 1. ΕΙΣΑΓΩΓΗ Η τεχνολογία των πρακτόρων λογισμικού έχει ήδη αποδείξει την αποτελεσματικότητά της σε διάφορους πτυχές του ηλεκτρονικού εμπορίου (E-commerce) και των ηλεκτρονικών αγορών (E-markets). Σε περίπλοκα περιβάλλοντα όπως τα Χρηματιστήρια (Ενέργειας), όπου οι διμερείς σχέσεις μεταξύ των παικτών απαιτούν διαπραγματεύσεις για να οδηγηθούν σε συμφωνία, η χρήση αυτόνομων και ευφυών πρακτόρων έχει πλέον γίνει μονόδρομος [1,2]. Ήδη υπάρχουν στη βιβλιογραφία αρκετές προσπάθειες με στόχο την ανάπτυξη της βέλτιστης στρατηγικής των πρακτόρων με βάση τους περιορισμούς στους οποίους υπόκεινται. Ανάμεσα στα θέματα που προκύπτουν κατά τη σχεδίαση και ανάπτυξη τέτοιων δυναμικών συστημάτων, ο υψηλός ρυθμός παραγωγής δεδομένων θεωρείται ιδιαίτερα σημαντικό πρόβλημα το οποίο πρέπει να επιλυθεί. Επιπρόσθετα, όπως σε όλα τα περιβάλλοντα πλειστηριασμών, οι αποφάσεις λαμβάνονται κάτω από πίεση χρόνου, κάνοντας δύσκολη την χρήση απλών αλγορίθμων ή/και αναλυτικών στρατηγικών. Αυτοί οι παράγοντες υποδεικνύουν ότι οι τεχνικές Εξόρυξης Δεδομένων (Data Mining, ΕΔ) θα μπορούσαν να αποτελέσουν κατάλληλη τεχνολογία για την ανάπτυξης μιας «ευφυούς» και αποδοτικής λύσης. Στα πλαίσια της εργασίας αυτής παρουσιάζουμε ένα ευέλικτο και αποδοτικό εργαλείο για την αντιμετώπιση των θεμάτων που προκύπτουν στο υπερδραστήριο και συνεχώς μεταβαλλόμενο Χρηματιστήριο Ενέργειας. Αναπτύξαμε ένα Πολυπρακτορικό σύστημα (Multi-Agent System, ΠΠΣ) ικανό να χειριστεί αποτελεσματικά τους μεγάλους όγκους διαθέσιμων δεδομένων και να συγκρίνει διάφορες τεχνικές ΕΔ, ώστε να προβλέψει αποδοτικά τις τιμές των αγαθών που μας ενδιαφέρουν. Η πλατφόρμα μας έχει δοκιμαστεί σε δεδομένα διαθέσιμα από το Ελληνικό Χρηματιστήριο Ενέργειας, το όποιο αποτελεί ένα δυναμικό, μερικώς παρατηρήσιμο περιβάλλον και το οποίο επιτρέπει την εφαρμογή διαφορετικών στρατηγικών και τον έλεγχο της αποδοτικότητάς τους. Αντιμετωπίζοντας το πρόβλημα γενικότερα, είναι γενικά αποδεκτό ότι η ανάπτυξη ενός πράκτορα που μπορεί να εκμεταλλευτεί τεχνικές ΕΔ, οδηγεί στην εξαγωγή χρήσιμων συμπερασμάτων που μπορούν να του δώσουν προβάδισμα έναντι των ανταγωνιστών του. Σε αυτή τη βάση, εφαρμόσαμε τεχνικές ΕΔ για να: α) αναλύσουμε ιστορικά δεδομένα από παρελθούσες δημοπρασίες και να προβλέψουμε τις μελλοντικές τιμές των αγαθών που μας ενδιαφέρουν και, β) εξάγουμε μοντέλα συμπεριφοράς και να τα ενσωματώσουμε σε πράκτορες, ώστε να τους δώσουμε πλεονέκτημα στις προβλέψεις τους έναντι του ανταγωνισμού. Η υπόλοιπη εργασία οργανώνεται ως εξής: η ενότητα 2 παρέχει μια γενική εποπτεία των Χρηματιστηρίων Ενέργειας και των διαθέσιμων μηχανισμών (Δημοπρασίες και Χρηματιστήριο), καθώς και μια αναφορά των υπαρχουσών υλοποιήσεων στον χώρο. Η ενότητα 3 παρουσιάζει τις αρχές σχεδίασης και τη λειτουργικότητα της πλατφόρμας που αναπτύχθηκε. Στην ενότητα 4 γίνεται λεπτομερής περιγραφή της μεθοδολογίας ΕΔ που εφαρμόστηκε για την εξαγωγή του βέλτιστου μοντέλου πρόβλεψης προσφορών, ενώ η ενότητα 5 παραθέτει ένα πιλοτικό

2 σενάριο, με στόχο την επεξήγηση της λειτουργικότητας της πλατφόρμας μας. Τέλος, η ενότητα 6 ανακεφαλαιώνει την δουλειά που έγινε και ολοκληρώνει την δημοσίευση. 2. ΧΡΗΜΑΤΙΣΤΗΡΙΟ ΕΝΕΡΓΕΙΑΣ Μέχρι πρόσφατα, στις περισσότερες χώρες της ΕΕ (συμπεριλαμβανομένου και της Ελλάδας), η παροχή ηλεκτρικής ενέργειας ήταν φυσικό μονοπώλιο. Ως επακόλουθο, η ύπαρξη μιας κρατικής ή κρατικά ελεγχόμενης υπηρεσίας, υπεύθυνης για την παραγωγή, μεταφορά και διανομή της Ηλεκτρικής Ενέργειας ήταν αναγκαία. Παρόλα αυτά, η μετάβαση σε πιο «χαλαρά» οικονομικά μοντέλα ανταγωνισμού σηματοδότησε την παύση του φυσικού μονοπωλίου, όσον αφορά την παραγωγή και την διανομή της Ηλεκτρικής Ενέργειας. Ως επακόλουθο, η απελευθέρωση της Αγοράς Ενέργειας έδωσε χώρο στην ανάπτυξη Ανοικτών Αγορών, όπου οι συμμετέχοντες θα μπορούσαν να επιλέξουν μεταξύ διαφόρων και διαφορετικών ενεργειακών προϊόντων για διαφορετικές χρονικές περιόδους και να διαπραγματευτούν για αυτά. Οι διαπραγματεύσεις αυτές γίνονται στα πλαίσια τριών κατηγοριών αγορών : Μακρόχρονη Αγορά (The Long-term Market), όπου οι συμμετέχοντες έρχονται σε συμφωνία μεταξύ τους με την μορφή μακροχρόνιων συμβολαίων. Προθεσμιακή Αγορά Της Μιας Μέρας (The Dayahead Market), όπου οι αγοραστές τοποθετούν τις προσφορές τους για 24 ωριαίες δημοπρασίες, για να εξασφαλίσουν την συμμετοχή τους στην αγορά την επόμενη μέρα. Αγορά Πραγματικού Χρόνου (The Real-time Market), όπου οι αγοραστές κάνουν προσφορές για να εξασφαλίσουν την συμμετοχή του στην αγορά την επόμενη ώρα. Λόγω του φυσικού μοντέλου του ενεργειακού δικτύου παραγωγής διανομής κατανάλωσης, η Μακρόχρονη και η Προθεσμιακή Αγορά της Μιας Μέρας είναι οι επικρατέστερες. Ωστόσο, η έλλειψη ικανότητας αποθήκευσης της Ηλεκτρικής Ενέργειας για μεγάλες χρονικές περιόδους, επιβάλλει την ανάπτυξη και ενός μηχανισμού που θα μπορεί αποτελεσματικά να ισορροπήσει την Προσφορά και την Ζήτηση Ηλεκτρικής Ενέργειας και να μπορεί να ελέγχεται άμεσα και εύκολα. Ο Διαχειριστής του Συστήματος Ενέργειας είναι κάθε φορά υπεύθυνος για την εξασφάλιση της ισορροπίας μεταξύ παραγωγής και κατανάλωσης, μέσω της χρήσης της Αγοράς Πραγματικού Χρόνου. Το μοντέλο αυτό ενέχει το μεγαλύτερο ρίσκο για τους συμμετέχοντες, καθώς μια δυσλειτουργία ενός Ηλεκτρικού Κόμβου ή το κλείσιμο μιας γραμμής μεταφοράς μπορεί να έχει ως αποτέλεσμα υπερβολική αύξηση ή μείωση του Δείκτη Τιμών. Ωστόσο, η ύπαρξή της είναι αποφασιστική για την κάλυψη της Ζήτησης, σε περίπτωση που καμία από τις υπόλοιπες δύο Αγορές δεν μπορούν να αποδώσουν αρκετή Ενέργεια. Επιπλέον, πρέπει να λάβουμε υπόψη μας ότι το μεγάλο ρίσκο συνεπάγεται και μεγιστοποίηση των κερδών των παικτών που επιλέγουν να συμμετέχουν. 2.1 Δημοπρασίες Αγοράς Ενέργειας Μια δημοπρασία ορίζεται ως ένα αυστηρά ορισμένο σύνολο κανόνων για τον καθορισμό των όρων ανταλλαγής ενός αγαθού έναντι κάποιου χρηματικού ποσού [3]. Σε κάθε δημοπρασία, ένας αριθμός από συναλλαγές πραγματοποιούνται ανάμεσα στους συμμετέχοντες, όπου κάθε συναλλαγή αποτελείται από: α) ένα πρωτόκολλο, που ορίζει τους όρους του μηχανισμού συναλλαγής καθώς και τις ενέργειες που επιτρέπονται σε έναν παίκτη (άνθρωπο ή λογισμικό) που συμμετέχει στην δημοπρασία και, β) την στρατηγική, δηλαδή τη μεθοδολογία που ακολουθεί ένας παίκτης για να πετύχει τον στόχο του. Το πρωτόκολλο μιας δημοπρασίας αποφασίζεται κατά την διάρκεια του σχεδιασμού της και ανακοινώνεται σε όλους τους συμμετέχοντες από την αρχή. Η στρατηγική των παικτών σχεδιάζεται από κάθε συμμετέχοντα και είναι άγνωστη στους υπόλοιπους. Στις Δημοπρασίες της Αγοράς Ενέργειας, δύο είναι οι πιο σημαντικές οντότητες: 1. Οι Συμμετέχοντες στην Αγορά (ή Παίκτες) 2. Ο Ανεξάρτητος Διαχειριστής Συστήματος (ΑΔΣ) Ο Παίκτης ορίζεται ως η οικονομική οντότητα που έχει πρόσβαση στην Αγορά Ενέργειας. Γενικά, αυτή η οντότητα μπορεί να έχει στην διάθεσή της μια ομάδα από Μονάδες Παραγωγής Ηλεκτρικής Ενέργειας ή/και μια ομάδα Καταναλωτών. Κάθε παίκτης που συμμετέχει στην Αγορά ως Παραγωγός πρέπει να αποστείλει την προσφορά του σε προκαθορισμένες χρονικές περιόδους. Κάθε προσφορά περιέχει τα ζεύγη των τιμών της διαθέσιμης ποσότητας Ηλεκτρικού Φορτίου καθώς και την ελάχιστη τιμή πώλησης του Φορτίου. Από την άλλη πλευρά, κάθε παίκτης που συμμετέχει στην Αγορά ως Καταναλωτής αποστέλλει την ποσότητα Ηλεκτρικής Ενέργειας που χρειάζεται, στις ίδιες προκαθορισμένες χρονικές περιόδους, μαζί με την μέγιστη τιμή που διατίθεται να πληρώσει. Ο ΑΔΣ είναι ο Διαχειριστής του Συστήματος Μεταφοράς Ενέργειας και ταυτόχρονα ο Διαχειριστής του Χρηματιστηρίου Ενέργειας. Έτσι, ο ΑΔΣ είναι υπεύθυνος για την Εκκαθάριση της Αγοράς Ενέργειας, λαμβάνοντας υπόψη τους περιορισμούς μεταφοράς του συστήματος. Ο ΑΔΣ συλλέγει τις προσφορές για κάθε ωριαία δημοπρασία και μετά πρέπει να υπολογίσει δύο καμπύλες: την μονότονα αύξουσα Καμπύλη Προσφοράς και την μονότονα φθίνουσα Καμπύλη Ζήτησης. Στην απλοποιημένη περίπτωση που δεν υπάρχουν περιορισμοί μεταφοράς, η Εκκαθάριση της Αγοράς γίνεται στο σημείο τομής των δύο προαναφερθέντων καμπυλών (Σχήμα 1). Αυτό το σημείο καθορίζει την Οριακή Τιμή της Αγοράς (ΟΤΑ) αυτή είναι η τιμή στην οποία οι Παραγωγοί πληρώνονται από τους Καταναλωτές, η παραγωγή Φορτίου κάθε Μονάδας Παραγωγής και η κατανάλωση κάθε Καταναλωτή. Σχήμα 1. Οι Καμπύλες Προσφοράς και Ζήτησης Ενέργειας Σε περίπτωση που έχουμε περιορισμούς μεταφοράς, ο ΑΔΣ πρέπει να ακολουθήσει μια πιο πολύπλοκη διαδικασία. Πρέπει να

3 λύσει ένα πρόβλημα βελτιστοποίησης που έχει ως στόχο την μεγιστοποίηση της Κοινωνικής Ευημερίας (Συνάρτηση Στόχου). Στην συνέχεια η τιμή της Ηλεκτρικής Ενέργειας, η παραγωγή κάθε Μονάδας Παραγωγής και η κατανάλωση κάθε Καταναλωτή υπολογίζονται και ανακοινώνονται στους ενδιαφερόμενους. 2.2 Βιβλιογραφική Επισκόπηση Διάφορες προσεγγίσεις έχουν υιοθετηθεί για την ανάλυση της συμπεριφοράς των Αγορών Ενέργειας, μερικές από τις οποίες χρησιμοποιούν τεχνολογίες Πρακτόρων Λογισμικού ή/και τεχνικές Εξόρυξης Δεδομένων. Τα αποτελέσματά τους είναι, κατά γενική ομολογία, πολλά υποσχόμενα. Το Ινστιτούτο Έρευνας Ηλεκτρικής Ενέργειας (Electric Power research Institute, ERPI) ανέπτυξε το σύστημα SEPIA (Simulator for Electrical Power Industry Agents), μια πολυπρακτορική πλατφόρμα για την προσομοίωση μιας πληθώρας διαφορετικών σεναρίων Αγοράς [5, 6]. Το σύστημα SEPIA εφαρμόζει δύο διαφορετικές επιλογές εκμάθησης των Πρακτόρων: μια παραλλαγή του Q-Learning αλγορίθμου [7], ο οποίος αντιστοιχεί κάθε δυνατή κατάσταση σε μια κατάλληλη ενέργεια, και το LCS (Learning Classifier System) [8], το οποίο χρησιμοποιεί ένα μοντέλο βασισμένο σε κανόνες και οι πράκτορες μαθαίνουν μέσω απλοποιημένης εκμάθησης και γενετικών αλγορίθμων. Το Argonne National Laboratory, από την άλλη πλευρά, ανέπτυξε το EMCAS (Electricity Market Complex Adaptive System) [9], μια αποτελεσματική υλοποίηση για χρήση σε Αγορές Ηλεκτρικής Ενέργειας. Μέσω του EMCAS, κάποιος μπορεί να μελετήσει τις πολύπλοκες αλληλεπιδράσεις μεταξύ των φυσικών οντοτήτων της Αγοράς, για να αναλύσει τους συμμετέχοντες και τις στρατηγικές τους. Η εκμάθηση των παικτών βασίζεται σε γενετικούς αλγορίθμους, ενώ το EMCAS υποστηρίζει συναλλαγές Χρηματιστηρίου, καθώς και διμερή συμβόλαια. χρήματα ή, β) να βρουν μια νέα στρατηγική που θα μεγιστοποιήσει το κέρδος τους. Για αυτό το σκοπό, κάθε πράκτορας έχει μοντελοποιηθεί με LCS ικανότητες εκμάθησης και αναλύεται η συμπεριφορά του. Παρατηρήθηκαν έτσι αλλαγές στην συμπεριφορά των πρακτόρων κατά την μετάβαση από ένα ομοιόμορφο σύστημα τιμολόγησης σε ένα σύστημα όπου κάθε παραγωγός πληρώνεται στην τιμή της Ζήτησης. Επιπρόσθετα, αναγνωρίστηκε ότι είναι μεγάλη η πιθανότητα της συνεργασίας μεταξύ δύο πρακτόρων όταν οι υπόλοιποι Παραγωγοί κάνουν προσφορές στο όριο του κόστους. Τέλος, οι Petrov and Sheble [11] εισήγαγαν το Γενετικό Προγραμματισμό (Genetic Programming, ΓΠ) στην εξομοίωση τους και προσπάθησαν να μοντελοποιήσουν τις διμερείς δημοπρασίες για την Αγορά Ηλεκτρικής Ενέργειας, με την χρήση πρακτόρων. Στο μοντέλο τους, ένας από τους παίκτες περιλαμβάνει γνώσεις που παρουσιάζονται σαν ένα Δέντρο Λήψης Απόφασης (Decision-Making Tree), που έχει αναπτυχθεί με ΓΠ. Οι υπόλοιποι πράκτορες-παίκτες υλοποιούν συμπεριφορές καθορισμένες από κανόνες. 3. ΑΝΕΠΤΥΓΜΕΝΟ ΣΥΣΤΗΜΑ Το σύστημα Cassandra είναι μια πολυπρακτορική πλατφόρμα σχεδιασμένη και ανεπτυγμένη για να λειτουργεί ημιαυτόνομα ή ακόμη και αυτόνομα σε Αγορές Ενέργειας. Η Cassandra χρησιμοποιεί τεχνικές ΕΔ για να προβλέψει την Οριακή Τιμή Εκκαθάρισης, όπως και το Ενεργειακό ή Ηλεκτρικό Φορτίο για Προθεσμιακές Αγορές της Μιας Μέρας. Το υλοποιημένο σύστημα μπορεί να λειτουργήσει με πλήρως αυτοματοποιημένο τρόπο και να προχωρήσει σε όσες διαδικασίες είναι απαραίτητες για τη σύναψη ενός συμβολαίου. Η αποδοτικότητα του συστήματος εξαρτάται σε μεγάλο βαθμό από τα μοντέλα που εξάγονται από τα ιστορικά δεδομένα, καθώς και μια βάση από κανόνες με υψηλό βαθμό προστασίας ρίσκου, που ορίζεται από έναν ειδικό (expert ) στις Αγορές Ενέργειας. Μέσω του γραφικού περιβάλλοντος της Cassandra, τα μοντέλα ΕΔ επαναδημιουργούνται δυναμικά, με σκοπό την μελέτη, αξιολόγηση και σύγκριση των αποτελεσμάτων και την επιλογή του μοντέλου που αντικατοπτρίζει βέλτιστα την τρέχουσα τάση της Αγοράς. Σχήμα 2. Η Αρχιτεκτονική του συστήματος Cassandra Όσον αφορά την ανάλυση πραγματικών Αγορών, ο Bagnall [10] παρουσίασε ένα απλοποιημένο μοντέλο εξομοίωσης της Αγοράς Ηλεκτρικής Ενέργειας της Μεγάλης Βρετανίας, όπου οι παραγωγοί έχουν δύο επιλογές: α) να υιοθετήσουν μια ήδη δοκιμασμένη στρατηγική που θα σιγουρέψει ότι δεν θα χάσουν 3.1 Η αρχιτεκτονική του Συστήματος Το πλαίσιο λογισμικού Cassandra ακολουθεί το IRF μοντέλο Αρχιτεκτονικής (Intelligent Recommendation Framework) [12], που ορίζει ένα λειτουργικό μοντέλο τεσσάρων στρωμάτων για το σύστημα πρακτόρων. Αυτό το μοντέλο χρησιμοποιείται πολύ συχνά στις επιχειρήσεις στον μηχανισμό διαχείρισης, καθώς μπορεί να αυτοματοποιήσει και να ολοκληρώσει όλες τις εκφάνσεις μιας επιχείρησης που παράγουν μεγάλη ποσότητα δεδομένων ή έχουν υψηλές απαιτήσεις σε δεδομένα. Παρατηρώντας καλύτερα την Αγορά Ηλεκτρικής Ενέργειας από το πρίσμα του IRF, κάποιος μπορεί να αναγνωρίσει τις εργασίες που πρέπει να γίνουν: Συλλογή ιστορικών δεδομένων από προηγούμενες δημοπρασίες και συναλλαγές. Εφαρμογή των κατάλληλων τεχνικών ΕΔ για την δημιουργία των απαραίτητων. Ολοκλήρωση των παραγόμενων μοντέλων στο Business Intelligence του συστήματος και την αξιολόγηση των αποτελεσμάτων.

4 Συνεχής εποπτεία του Χρηματιστηρίου Ενέργειας. Όπως είναι αναμενόμενο, η Cassandra ακολουθεί μια αρχιτεκτονική όπου κάθε τμήμα (module) είναι υπεύθυνο για μια από τις παραπάνω εργασίες. Η πλατφόρμα επίσης καθορίζει πλήρως τις διεπαφές ανάμεσα στα τμήματα και εξασφαλίζει επικοινωνία με τους χρήστες του συστήματος. Τα τμήματα που αποτελούν το σύστημά μας είναι: i. Data Collection Module (DCM): Είναι υπεύθυνο για την συλλογή των ιστορικών δεδομένων, είτε από τα αρχεία που παρέχουν οι χρήστες, είτε απευθείας από το διαδίκτυο. ii. Data Processing and Mining Module (DPMM): Είναι από τα κύρια τμήματα της πλατφόρμας, και είναι υπεύθυνο για την επεξεργασία των δεδομένων, την προετοιμασία των αρχείων εκπαίδευσης και την εφαρμογή των αλγορίθμων ΕΔ. iii. Decision Making Module (DMM): Συγκεντρώνει όλες τις διαθέσιμες πληροφορίες για να λάβει την βέλτιστη απόφαση σε κάθε περίπτωση. iv. Graphic User Interface Module (GUIM): Αλληλεπιδρά με τους χρήστες του συστήματος. Πρέπει να είναι φιλικό προς τον χρήστη και εύκολο στην κατανόηση. Πίνακας 1. Λειτουργικότητα του συστήματος Cassandra Είδος Χρήστη Όψεις Δικαιώματα Λειτουργικότητα ΧΠ - Παρατηρητή Κανένα - Έλεγχος Λογαριασμών - Παρατήρηση Αγοράς - www/rss Browsing - Προβολή Πινάκων ΔΣ - Παρατηρητή - Διαχειριστή ΑΣ - Παρατηρητή - Διαχειριστή - Αναλυτή Μόνο Διαχείρισης Αγοράς Όλα Όλα τα παραπάνω συν: - Χειροκίνητη Υποβολή Προσφορών - Χειρισμός Καταγραφέα Όλα τα παραπάνω συν: - Σύνοψη Πρακτόρων - Επανεκπαίδευση Μοντέλων - Ρύθμιση Μοντέλων - Στατιστικά Μοντέλων - Αξιολογητής Κόστους - Εισαγωγή Αρχείων Δεδομένων Αγορά, μπορεί να αξιολογήσει τις στρατηγικές κινήσεις του συστήματος και να αποφασίσει αν το σύστημα λειτουργεί αποδοτικά ή όχι. Έχει την δυνατότητα να παρακάμψει χειροκίνητα το σύστημα πρόβλεψης (για παράδειγμα την προτεινόμενη τιμή προσφοράς στην Οριακή Τιμή), αλλά δεν μπορεί να μεταβάλει τα μοντέλα που χρησιμοποιεί το σύστημα για πρόβλεψη (αυτό είναι αρμοδιότητα του SA). iii. Monitoring User (Χρήστης-Παρακολουθητής) O/H Monitoring User (MU) είναι ο απλός χρήστης του συστήματος. Ο MU απλώς παρατηρεί τις κινήσεις του Χρηματιστηρίου Ενέργειας και καταγράφει τις αποφάσεις του συστήματος. Σε περίπτωση που παρατηρήσει κάτι «έξω από τα συνηθισμένα» (κινήσεις που δεν έχουν τα επιθυμητά αποτελέσματα), ο MU ενημερώνει τον SM. Ο SM με την σειρά του πρέπει να ελέγξει πάλι τις παρατηρήσεις του MU, και σε περίπτωση λάθους, ενημερώνει τον SA, ο οποίος θα αντιδράσει ανάλογα για να βελτιστοποιήσει την λειτουργία του συστήματος. Για κάθε είδος χρήστη το σύστημα παρέχει την αντίστοιχη όψη, που ενεργοποιείται κατά την αυθεντικοποίηση του χρήστη. Ο Πίνακας 1 συνοψίζει τα δικαιώματα και τις δυνατότητες του κάθε τύπου χρήστη. α 3.2 Χρήστες Συστήματος Στο σύστημα Cassandra ορίζονται τρία είδη χρηστών: i. System Analyst (Αναλυτής Συστήματος) Ο/Η System Analyst (SA) είναι χρήστης-ειδικός. Είναι ο δημιουργός του συστήματος και έχει απόλυτη γνώση του προβλήματος. Είναι υπεύθυνος για την ομαλή λειτουργία (ανεμπόδιστη λειτουργία του συστήματος, ικανοποίηση των απαιτήσεων λογισμικού των χρηστών), όσο και για την αποδοτικότητα του συστήματος. Ο SA είναι ταυτόχρονα υπεύθυνος για την δημιουργία των μοντέλων ΕΔ, και την επιλογή του αποδοτικότερου. Τέλος, ο SA ελέγχει τις ρουτίνες λήψης απόφασης, ώστε να μπορεί να εντοπίσει έγκαιρα τα λάθη που μπορεί να εμφανιστούν. ii. System Manager (Διαχειριστής Συστήματος) Ο/Η System Manager (SM) είναι επίσης ένας/μια χρήστηςειδικός, αλλά όχι στις εμπλεκόμενες τεχνολογίες ανάπτυξης (πράκτορες λογισμικού, τεχνικές ΕΔ), μόνο στο Χρηματιστήριο Ενέργειας. Ο SM, χρησιμοποιώντας την εμπειρία του στην β Σχήμα 3. Μια γενική άποψη των όψεων των MU (α) και SM (β)

5 3.3 Υλοποίηση Η Cassandra παρέχει ένα πολύ-λειτουργικό γραφικό περιβάλλον για να διευκολύνει τις εργασίες των χρηστών. Έχει υλοποιηθεί σε Java 1.6 και οι πράκτορες είναι υλοποιημένοι με τη χρήση του Java Agent Development Framework (JADE) [13], που συμμορφώνεται στους κανόνες-προδιαγραφές της FIPA [14]. Το σύστημα επιτρέπει στους εγκεκριμένους χρήστες του (SAs) πλήρη έλεγχο στους πράκτορες, από την δημιουργία τους μέχρι και την διαγραφή τους. Όλα τα μοντέλα που δημιουργούνται με τεχνικές ΕΔ κατασκευάστηκαν και αξιολογήθηκαν με τη χρήση του WEKA API (Waikato Environment for Knowledge Analysis) [15]. Παρατηρώντας το Σχήμα 3β, μπορεί κανείς να αντιληφθεί ότι η Όψη του SA παρέχει αρκετά σχεδιαστικά εργαλεία και εργαλεία ανάπτυξης. Ένα από αυτά είναι ο Cost Evaluator, που υπολογίζει το κόστος Παραγωγής με την εισαγωγή των απαραίτητων παραμέτρων. Από την άλλη οι κονσόλες Agent και Data Mining Configuration (Σχήμα 4α και 4β, αντίστοιχα) επιτρέπουν πλήρη έλεγχο στην πολυπρακτορική Αρχιτεκτονική (αλλαγή στον τύπο και στον αριθμό των πρακτόρων που βρίσκονται στο στρώμα Pre-processing And Data Mining, επιλογή διαφορετικών συμπεριφορών των πρακτόρων επεξεργασίας των δεδομένων) και την δημιουργία και αξιολόγηση των μοντέλων ΕΔ (επιλογή νέων σετ δεδομένων εκπαίδευσης και ελέγχου, νέοι αλγόριθμοι, παράμετροι αλγορίθμων κτλ), αντίστοιχα. διεξαγωγή των πειραμάτων χρησιμοποιήσαμε την πλατφόρμα του WEKA, και μια πληθώρα αλγορίθμων σε πολλά σετ δεδομένων. 4.1 Εκπαίδευση Πέντε διαφορετικές τεχνικές παλινδρόμησης εφαρμόστηκαν, για να αποφασίσουμε αυτήν που αντιμετωπίζει με βέλτιστο τρόπο το πρόβλημα της πρόβλεψης της Οριακής Τιμής και του Ενεργειακού Φορτίου για την 24 η ώρα. Οι τεχνικές που εφαρμόστηκαν είναι: α) Simple Linear, β) Linear, γ) Isotonic, δ) Pace, και ε) Additive [16]. Τα μοντέλα που προήρθαν από την τεχνική Simple Linear, όπως ήταν αναμενόμενο, έδωσαν απογοητευτικά αποτελέσματα σε κάθε σετ δεδομένων που χρησιμοποιήθηκαν, καθώς είναι γνωστό ότι αποτελεί μια απλοϊκή τεχνική. Ο συντελεστής συσχέτισης (correlation coefficiency (cc)) του μοντέλου που εξάγαμε ήταν ~0.95 και ~0.98, ενώ το Σχετικό Απόλυτο Σφάλμα (Relative Absolute Error (RAE)) ήταν ~26% και ~22% για την Οριακή Τιμή και για το Ενεργειακό Φορτίο αντίστοιχα. Πραγματοποιήθηκε ένας αρκετά μεγάλος αριθμός πειραμάτων με την τεχνική Linear, σε διάφορα σετ δεδομένων (μεταβλητών μεγεθών) και διάφορους συνδυασμούς αλγοριθμικών παραμέτρων. Το cc ήταν ελαφρώς καλύτερο (0.96 και ), όπως και το RAE για την Οριακή Τιμή (24%). Για το Ενεργειακό Φορτίο, αντιθέτως, το RAE βελτιώθηκε αισθητά (10%). Σχετικό Απόλυτο Σφάλμα Οριακής Τιμής α β Σχήμα 4. Τα μενού των ρυθμίσεων των Πρακτόρων και της ΕΔ Σχετικό Απόλυτο Σφάλμα 26, , , , , ,5 26,01 Simple Linear 24,16 Linear 24,79 Isotonic Τεχνική Εξόρυξης Γνώσης 24,15 Pace Συντελεστής Συσχέτισης Οριακής Τιμής 23,33 Additive M5' 4. ΑΠΟΤΕΛΕΣΜΑΤΑ ΑΝΑΛΥΣΗΣ ΔΕΔΟΜΕΝΩΝ Πριν την ανάπτυξη του συστήματος μας, πραγματοποιήσαμε μια εκ βαθέων ανάλυση στα υπάρχοντα δεδομένα, για να δημιουργήσουμε τα μοντέλα ΕΔ που θα μπορούσαν να προβλέψουν επιτυχώς την Οριακή Τιμή και το Ενεργειακό Φορτίο σε Προθεσμιακές Αγορές της μιας Μέρας. Και τα δύο προβλήματα μοντελοποιήθηκαν σαν προβλήματα παλινδρόμησης (regression), όπου το επιθυμητό αποτέλεσμα θα είναι η πρόβλεψη της Οριακής Τιμής και του Ενεργειακού Φορτίου, με βάση τα δεδομένα από παρελθούσες δημοπρασίες. Διάφορα πειράματα και μοντέλα δημιουργήθηκαν, λαμβάνοντας υπόψη την περιοδικότητα που εμφανίζεται κατά ώρα/βδομάδα/μήνα. Χάριν επίδειξης, παραθέτουμε τα αποτελέσματα μοντέλων που δημιουργήθηκαν με βάση ένα ημερήσιο χρονικό παράθυρο (θεωρούμε ως είσοδο της 23 πρώτες ώρες μιας μέρας και ζητούμε να προβλεφθούν η Οριακή Τιμή και το Ενεργειακό Φορτίο για την 24 ώρα). Για την Συντελεστής Συσχέτισης 0,96 0,958 0,956 0,954 0,952 0,95 0,948 0,946 0,944 0,95 Simple Linear 0,96 Linear 0,95 Isotonic Pace Τεχνική Εξόρυξης Γνώσης 0,96 0,96 Additive M5' Σχήμα 5. Σύγκριση των διαφόρων τεχνικών παλινδρόμησης για την πρόβλεψη της Οριακής Τιμής Με την εφαρμογή της τεχνικής Isotonic, τα αποτελέσματα ήταν τόσο απογοητευτικά, όσο και με την Simple Linear, με μόνη αμυδρή βελτίωση του RAE για την Οριακή Τιμή (24%). Ο αλγόριθμος Pace (που δίνει

6 την δυνατότητα ρύθμισης του αλγορίθμου με αρκετές παραμέτρους), απέδωσε πολύ καλά, τόσο για το cc (0.96, 1) όσο και για το RAE (24%, 10%) και για τα δύο αγαθά. Πρέπει να αναφέρουμε ότι αυξάνοντας ή μειώνοντας τις τιμές των παραμέτρων του Estimator δεν επηρέασε το αποτέλεσμα όσον αφορά την αποδοτικότητα, ενώ σε μερικές περιπτώσεις το Μέσο Τετραγωνικό Σφάλμα (Mean Squared Error) ήταν πολύ μεγαλύτερο από τις απλούστερες τεχνικές που χρησιμοποιήθηκαν, κάτι που υπονοεί υπερεκπαίδευση των μοντέλων. Σχετικό Απόλυτο Σφάλμα Σχετικό Απόλυτο Σφάλμα Ενεργειακού Φορτίου 22,44 22,28 9,59 9,59 9, Meta Classification Εκτός από τις τεχνικές παλινδρόμησης που εφαρμόστηκαν, πειραματιστήκαμε και με διάφορες τεχνικές μέτα-ταξινόμησης, αναζητώντας την βέλτιστη απόδοση. Τεχνικές Additive δοκιμάστηκαν στα σετ δεδομένων με τη χρήση των παρακάτω αλγορίθμων: α) DecisionStamp (δημιουργία και χρήση Decision Stamps), β) REPTree (γρήγορη εκμάθηση μέσω Δέντρων Αποφάσεων(Decision Trees)) και γ) M5 classifiers. Το πρώτο σχήμα εκπαίδευσης απέδωσε χειρότερα από ότι οποιοδήποτε άλλο μοντέλο δοκιμάσαμε (cc 0.93 και 0.96, RAE 33% και 31%, αντίστοιχα). Ωστόσο, η τεχνική REPTree απέδωσε πολύ καλύτερα (cc της τάξης 0.95 και 0.99, ενώ το RAE βελτιώθηκε σε 23.21% και 14.93%, αντίστοιχα). Τέλος, η τεχνική M5 ξεπέρασε όλες τις προηγούμενες τεχνικές και αλγορίθμους, με το cc να φτάνει την μέγιστη τιμή του, 0.96 and 1, ενώ την ίδια στιγμή το RAE ήταν ~23% και ~9%, αντίστοιχα. 4.3 Αποτελέσματα Πειραμάτων ΕΔ Είναι φανερό ότι το σχήμα μέτα-ταξινόμησης Additive σε συνδυασμό με τον αλγόριθμο M5 ξεπερνάει κατά πολύ σε απόδοση όλες τις υπόλοιπες τεχνικές εκπαίδευσης που μπορούν εφαρμόστηκαν. Το βασικό πλεονέκτημα του αλγορίθμου M5 σε σχέση με τις υπόλοιπες τεχνικές που χρησιμοποιήθηκαν είναι ότι παράγει ένα απλό και συνοπτικό δενδρικό μοντέλο, σε αντίθεση με τις τεχνικές Simple και Linear, οι οποίες προσπαθούν να επιβάλλουν μια γραμμική συσχέτιση στα δεδομένα, την Isotonic, η οποία λαμβάνει υπόψη το χαρακτηριστικό (attribute) με το μικρότερο τετραγωνικό σφάλμα, και την Pace, η οποία παρουσιάζει τα καλύτερα αποτελέσματα όταν ο αριθμός των συντελεστών του γραμμικού μοντέλου τείνει στο άπειρο. Σε συνδυασμό με την Additive, που εισάγει έναν στοχαστικό παράγοντα, ο αλγόριθμος M5 καταφέρνει να βελτιώσει την ακρίβεια των προβλέψεων και να επιτύχει έτσι βέλτιστη απόδοση. Στα Σχήματα 5 και 6 γίνεται μια ποιοτική σύγκριση μεταξύ των διαφόρων τεχνικών παλινδρόμησης που εφαρμόστηκαν, συγκρινόμενες πάντα στο ίδιο σετ δεδομένων. 5. ΠΙΛΟΤΙΚΟ ΣΕΝΑΡΙΟ Με στόχο την επίδειξη της σωστής λειτουργίας του συστήματος, δημιουργήσαμε ένα πραγματικό σενάριο, βασισμένο σε ιστορικά δεδομένα από το Ελληνικό Χρηματιστήριο Ενέργειας (διαθέσιμα: το οποίο και παρουσιάζουμε. 0 Συντελεστής Συσχέτισης Simple Linear 1 0,995 0,99 0,985 0,98 0,975 0,97 0,98 Simple Linear Linear Isotonic Τεχνικές Εξόρυξης Γνώσης 1 Linear 0,98 Isotonic Pace Συντελεστής Συσχέτισης Ενεργειακού Φορτίου Pace Τεχνικές Εξόρυξης Γνώσης 1 1 Additive M5' Additive M5' Σχήμα 6. Σύγκριση των διαφόρων τεχνικών παλινδρόμησης για την πρόβλεψη του Ενεργειακού Φορτίου Σε αυτή την Προθεσμιακή Αγορά της Μιας Μέρας, οι Παραγωγοί (Producers) τοποθετούν κάθε μέρα 24 πακέτα προσφορών για τις 24 ωριαίες δημοπρασίες της επόμενης μέρας, ενώ οι Καταναλωτές (Consumers) δηλώνουν τις ανάγκες τους σε Ενεργειακό Φορτίο, μαζί με την μέγιστη τιμή που διατίθενται να πληρώσουν. Ο ΑΔΣ λαμβάνει όλες τις διαθέσιμες πληροφορίες υπόψη του και υπολογίζει τις συνολικές Καμπύλες Προσφοράς και Ζήτησης, με τις οποίες υπολογίζει την Οριακή Τιμή και το Ενεργειακό Φορτίο για κάθε μια από τις δημοπρασίες της επόμενης μέρας. Όλοι οι Παραγωγοί που έκαναν προσφορές με τιμή μικρότερη από την Οριακή Τιμή που υπολογίστηκε συμμετέχουν στην Αγορά διανέμοντας το Φορτίο τους, και πληρώνονται στην Οριακή Τιμή για κάθε MWh που πουλάνε. Οι υπόλοιποι Παραγωγοί δεν περιλαμβάνονται στις συναλλαγές της Αγοράς. Το σενάριο στο όποιο δοκιμάστηκε το σύστημα Cassandra είναι το παρακάτω: Αρχικά, προσομοιώνουμε το Χρηματιστήριο Ενέργειας διαλέγοντας 5 ημέρες τυχαία από το σύνολο των δημοπρασιών που έχουμε στην διάθεση μας από τα ιστορικά δεδομένα των προηγούμενων δημοπρασιών. Για κάθε μέρα, οι πράκτορες του συστήματος προσπαθούν να προβλέψουν την Οριακή Τιμή και το Ενεργειακό Φορτίο της 24 ης ώραςδημοπρασίας, βασιζόμενοι στις τιμές των προηγούμενων 23- ωρων δημοπρασιών. Στην συνέχεια, οι τιμές που προβλέπει το σύστημά μας συγκρίνονται με τις πραγματικές τιμές που βρίσκονται στο σετ δεδομένων. Στην περίπτωση που η Οριακή Τιμή που προβλέφθηκε είναι ίση ή μικρότερη από την πραγματική Οριακή Τιμή, θεωρούμε την πλειοδότηση επιτυχή (εντός Αγοράς) για εκείνη την ωριαία δημοπρασία. Αν όχι, την

7 θεωρούμε ανεπιτυχή. Τρία πειράματα διεξήχθησαν, το καθένα με διαφορετικό μοντέλο πρόβλεψης: 1. Το πρώτο μοντέλο πρόβλεψης ΕΔ δημιουργήθηκε με χρήση της τεχνικής Simple Linear regression σε ανεπεξέργαστα δεδομένα (χωρίς προ-επεξεργασία). Το Σχήμα 7α παρουσιάζει τα αποτελέσματα, όπου είναι φανερό ότι οι περισσότερες προβλέψεις ήταν «Ανεπιτυχείς». 2. Το δεύτερο μοντέλο εξήχθη από την τεχνική Linear regression, αυτή τη φορά σε φιλτραρισμένα (προεπεξεργασμένα) δεδομένα. Το Σχήμα 7β δείχνει τα αποτελέσματα, όπου υπάρχει μια μικρή βελτίωση. 3. Τέλος, το τρίτο μοντέλο πρόβλεψης, που είναι το προεπιλεγμένο μοντέλο του συστήματος, προέρχεται από το σχήμα Additive με χρήση M5. Το Σχήμα 7γ εμφανίζει τα αποτελέσματα, όπου φαίνεται καθαρά η βελτίωση των αποτελεσμάτων. 6. ΜΕΛΛΟΝΤΙΚΗ ΕΡΓΑΣΙΑ Στα πλαίσια της εργασίας αυτής παρουσιάσαμε την Cassandra, ένα πολυπρακτορικό σύστημα που χρησιμοποιεί αρχές ΕΔ για να αυτοματοποιήσει την διαδικασία της συμμετοχής στο Χρηματιστήριο Ενέργειας. Η Cassandra προβλέπει με μεγάλη επιτυχία τις επερχόμενες Οριακές Τιμές και τα Ενεργειακά Φορτία, επιτρέποντας στον «ιδιοκτήτη» της να κάνει προσφορές εντός της Αγοράς, μεγιστοποιώντας έτσι το κέρδος του. Το εργαλείο αυτό επιτρέπει την δυνατότητα (επανα-) σχεδιασμού του Πολυπρακτορικού συστήματος και τη δυνατότητα εφαρμογής διαφόρων τεχνικών και αλγορίθμων, ώστε να επιλεγεί το βέλτιστο μοντέλο, ενώ ταυτόχρονα παρέχει μια μεγάλη γκάμα εργαλείων για την παρακολούθηση και την ανάλυση των τάσεων της Αγοράς σε πραγματικό χρόνο. α β γ Σχήμα 7. Η ακρίβεια των τριών μοντέλων που εφαρμόστηκαν Η μελλοντική εργασία εστιάζεται σε δύο κατευθύνσεις: α) περισσότερο εκτεταμένη μελέτη της περιοδικότητας (ίδια μέρα κάθε μήνα, ίδιο σαββατοκύριακο κάθε χρόνο, κτλ), με σκοπό την αναγνώριση περισσοτέρων και αποδοτικότερων μοντέλων για να βρισκόμαστε πάντα «Εντός του πεδίου της Αγοράς», και β) την εύρεση της μέγιστης τιμής που πρέπει να πλειοδοτήσουμε για να μεγιστοποιήσουμε το κέρδος μας. Επιπρόσθετα, θα μπορούσαμε να εργαστούμε κατάλληλα ώστε να βελτιώσουμε το γραφικό περιβάλλον την εφαρμογής. Η προσθήκη περισσότερων γραφικών, πινάκων και διαγραμμάτων θα βοηθούσε στην εξαγωγή χρήσιμων πληροφοριών που παράγονται κατά την διάρκεια της λειτουργίας του συστήματος. 7. ΑΝΑΦΟΡΕΣ [1] M. He, N. R. Jennings, and H.-F. Leung. On Agent-Mediated Electronic Commerce. IEEE Transactions on Knowledge and Data Engineering, 15(4): , Jul/Aug [2] P. Stone. Learning and Multiagent Reasoning for Autonomous Agents. In Proceedings of the 20th International Joint Conference on Artificial Intelligence, pages 13 30, January IJCAI-07 Computers and Thought Paper. [3] P.R. Wurman, M. Wellman and W.W. The Michigan Internet Auction-bot: A Configurable Auction Server for Human and Software Agents, Proceedings of the Second International Conference on Autonomous Agents, [4] A.C. Tellidou, A.G. Bakirtzis, Multi-Agent Reinforcement Learning for Strategic Bidding in Power Markets, 3rd International IEEE Conference on Intelligent Systems, London UK, [5] M. Amin, D. Ballard, Defining New Markets for Intelligent Agents, IEEE IT Professional, [6] M. Amin, Restructuring the Electric Enterprise Simulating the Evolution of the Electric Power Industry with Intelligent Agents, Chapter 3 in Market Analysis and Resource Management by A. Faruqui and K. Eakin, Kluwer Publishers, [7] C.J.C.H. Watkins, Learning from Delayed Rewards. PhD thesis, Cambridge University, Cambridge, England, [8] J. H. Holland, "Using Classifier Systems to Study Adaptive Nonlinear Networks", Lectures in the Sciences of Complexity. Addison Wesley [9] G. Conzelmann, G. Boyd, V. Koritarov, T. Veselka, Multi-Agent Power Market Simulation using EMCAS, Power Engineering Society General Meeting, [10] A. J. Bagnall, G. D. Smith, Game Playing with Autonomous Adaptive Agents in a Simplified Economic Model of the UK Market in Electricity Generation, IEEE Power System Technology, [11] V. Petrov, G. Sheble, Power Auctions Bid Generation with Adaptive Agents using Genetic Programming, Department of Electrical and Computer Engineering, Iowa USA, [12] A. L. Symeonidis, P.A. Mitkas, Agent Intelligence through Data Mining, Gerard Weiss, [13] F. Bellifemine, A. Poggi, and R. Rimassa. Developing multiagent systems with JADE. Lecture Notes in Computer Science,1986:89 101, [14] T. F. Foundations. Foundation for intelligent physical agents specifications. Technical report, The FIPA Consortium, 2003.

8 [15] (WEKA official site, Last accessed 15 February 2009) [16] D. A. Freedman, Statistical Models: Theory and Practice, Cambridge University Press, 2005.