ΤΕΛΙΚΗ ΕΚΘΕΣΗ ΜΕΤΑ Ι ΑΚΤΟΡΙΚΗΣ ΕΡΕΥΝΑΣ ΜΕ ΘΕΜΑ:

Transcript

1 ΤΕΧΝΟΛΟΓΙΚΟ ΕΚΠΑΙ ΕΥΤΙΚΟ Ι ΡΥΜΑ ΥΤΙΚΗΣ ΜΑΚΕ ΟΝΙΑΣ ΣΧΟΛΗ ΤΕΧΝΟΛΟΓΙΚΩΝ ΕΦΑΡΜΟΓΩΝ ΤΜΗΜΑ ΓΕΩΤΕΧΝΟΛΟΓΙΑΣ & ΠΕΡΙΒΑΛΛΟΝΤΟΣ ΤΕΛΙΚΗ ΕΚΘΕΣΗ ΜΕΤΑ Ι ΑΚΤΟΡΙΚΗΣ ΕΡΕΥΝΑΣ ΜΕ ΘΕΜΑ: ιερεύνηση Επιπτώσεων ιαστατικότητας στην Απόδοση Τεχνητών Νευρωνικών ικτύων Κατά την Εκτίµηση Περιεκτικότητας από Ερευνητικά εδοµένα ΤΟΜΕΑΣ ΕΠΙΣΤΗΜΗΣ 007 ΓΕΩΓΡΑΦΙΑ, ΓΕΩΛΟΓΙΑ, ΩΚΕΑΝΟΓΡΑΦΙΑ ΥΠΟΤΟΜΕΑΣ ΕΠΙΣΤΗΜΗΣ 007,080 ΟΙΚΟΝΟΜΙΚΗ ΓΕΩΛΟΓΙΑ-ΚΟΙΤΑΣΜΑΤΟΛΟΓΙΑ ρ. Ιωάννης Κ. Καπαγερίδης, MSc PhD Επιβλέπων Καθηγητής: ρ. Αθανάσιος Τριανταφύλλου, MSc PhD Κοζάνη εκέµβριος 2003

2 Στη σύζυγο µου Ελένη ii

3 Πρόλογος Το πρόγραµµα µεταδιδακτορικής έρευνας που εκπονήθηκε µε την υποστήριξη του Ιδρύµατος Κρατικών Υποτροφιών είχε ως αντικείµενο την διερεύνηση τρόπων παρουσίασης ερευνητικών δειγµάτων από κοιτάσµατα και άλλες εµφανίσεις για την εκπαίδευση τεχνητών νευρωνικών δικτύων (ΤΝ ) που στην συνέχεια θα χρησιµοποιούνται για την εκτίµηση των διαφόρων παραµέτρων στον τρισδιάστατο χώρο. Ο τρόπος παρουσίασης των δεδοµένων εισόδου στα τεχνητά νευρωνικά δίκτυα είναι µια από τις κυριότερες παραµέτρους που επηρεάζει την απόδοση τους κατά τα στάδια της εκπαίδευσης και εφαρµογής. Πρόκειται ουσιαστικά για την επιλογή των διαστάσεων που αποτελούν τον χώρο εισόδου των ΤΝ (διαστατικότητα), η οποία είναι πολύ σηµαντική και εποµένως θα πρέπει να εξετασθεί η επίδραση της στην απόδοση των ΤΝ. Η διαστατικότητα είναι µια από τις κύριες πηγές προβληµάτων στην ανάπτυξη των ΤΝ. Ιδιαίτερα στα προβλήµατα εκτίµησης η διαστατικότητα καθορίζει σχεδόν εξ ολοκλήρου την πολυπλοκότητα του συστήµατος, τις απαιτήσεις σε δεδοµένα εκπαίδευσης, και την ακρίβεια των εκτιµήσεων. Σε θεωρητικό επίπεδο έχει µελετηθεί ιδιαίτερα από πολλούς διακεκριµένους επιστήµονες του χώρου της Τεχνητής Νοηµοσύνης. Η µελέτη των επιπτώσεων της διαστατικότητας στην απόδοση των ΤΝ κατά την εκτίµηση περιεκτικότητας κοιτασµάτων και άλλων εµφανίσεων έγινε διαµορφώνοντας τα διαθέσιµα δεδοµένα ώστε να σχηµατίζουν διαφορετικούς πολυδιάστατους χώρους εισόδου και εκτελώντας δοκιµές σε διαφορετικές οµάδες δεδοµένων. Τα συµπεράσµατα που προέκυψαν από τις δοκιµές οδηγούν στην καλύτερη κατανόηση της συµπεριφοράς των ΤΝ όταν αντιµετωπίζουν διαφορετικούς χώρους εισόδου από τα ίδια δεδοµένα και στην δυνατότητα επιλογής των διαστάσεων εκείνων οι οποίες οδηγούν σε καλύτερη αντιπροσώπευση των δειγµάτων κατά την ανάπτυξη των ΤΝ. Εξετάσθηκαν επίσης οι διάφορες παραδοχές που γίνονται σε κάθε διαφορετική διαµόρφωση του χώρου εισόδου κατά παρόµοιο τρόπο µε τις παραδοχές που γίνονται από τις κλασσικές µεθόδους εκτίµησης (πολυγωνικές, αντιστρόφου αποστάσεως, κλπ). iii

4 Πρόλογος...iii 1. Εισαγωγή Η ιαστατικότητα στην Ανάλυση εδοµένων Νευρωνικά ίκτυα ίκτυα Συναρτήσεων Ακτινικής Βάσης Καταλληλότητα των ικτύων RBF στην Εκτίµηση Περιεκτικότητας Εκτίµηση Περιεκτικότητας Κοιτασµάτων Στόχοι του Ερευνητικού Προγράµµατος Η ιαστατικότητα στις Εφαρµογές Τεχνητών Νευρωνικών ικτύων Γενικά περί Χώρων Πολλών ιαστάσεων Το Φαινόµενο του Κενού Χώρου Το Φαινόµενο της Συγκέντρωσης του Μέτρου Επιπτώσεις στην Εκπαίδευση των ΤΝ Εκπαίδευση µε επίβλεψη Μοντέλα Τοπικής Προσέγγισης Ανίχνευση Οµοιότητας και Ευκλείδειες Αποστάσεις Πιθανοί Τρόποι Αντιµετώπισης της ιαστατικότητας Εναλλακτικά Μέτρα Απόστασης Η Μη-Γραµµική Προβολή ως Προεπεξεργασία Η ιαστατικότητα στα ίκτυα RBF Συµπεράσµατα Χώροι Εισόδου στην Εκτίµηση Περιεκτικότητας Γενικά Χώροι Εισόδου για είγµατα υο ιαστάσεων Συντεταγµένων Χώρος Συντεταγµένων είγµατος Χ-Υ Χώρος Γειτονικών ειγµάτων Τριγωνισµού Χώρος Γειτονικών ειγµάτων Τετάρτων / Ογδόων Χώροι Εισόδου για είγµατα Τριών ιαστάσεων Συντεταγµένων Χώρος Συντεταγµένων είγµατος Χ-Υ-Ζ Χώρος Γειτονικών ειγµάτων Τριγωνισµού Πολικών Συντεταγµένων Χώρος Γειτονικών ειγµάτων Πολύεδρων iv

5 4. Μελέτες στο ισδιάστατο Χώρο Μελέτη εδοµένων Jura οκιµή στο Χώρο Συντεταγµένων Χ-Υ οκιµή στο Χώρο Γειτονικών ειγµάτων Τριγωνισµού οκιµή στο Χώρο Γειτονικών ειγµάτων Τετάρτων / Ογδόων εδοµένα Χαλκού οκιµή στο Χώρο Συντεταγµένων Χ-Υ οκιµή στο Χώρο Γειτονικών ειγµάτων Τριγωνισµού οκιµή στο Χώρο Γειτονικών ειγµάτων Τετάρτων / Ογδόων εδοµένα Σιδήρου οκιµή στο Χώρο Συντεταγµένων Χ-Υ οκιµή στο Χώρο Γειτονικών ειγµάτων Τριγωνισµού οκιµή στο Χώρο Γειτονικών ειγµάτων Τετάρτων / Ογδόων εδοµένα Ποτάσας Boulby Mine οκιµή στο Χώρο Συντεταγµένων Χ-Υ οκιµή στο Χώρο Γειτονικών ειγµάτων Τριγωνισµού οκιµή στο Χώρο Γειτονικών ειγµάτων Τετάρτων / Ογδόων Μελέτες στο Τρισδιάστατο Χώρο εδοµένα Φωσφορικού Άλατος οκιµή στο Χώρο Συντεταγµένων ΧΥΖ οκιµή στο Χώρο Τριγωνισµού Πολικών Συντεταγµένων οκιµή στο Χώρο Γειτονικών ειγµάτων Πολυέδρων εδοµένα Μολύβδου-Ψευδαργύρου Lisheen Mine οκιµή στο Χώρο Συντεταγµένων ΧΥΖ οκιµή στο Χώρο Τριγωνισµού Πολικών Συντεταγµένων οκιµή στο Χώρο Γειτονικών ειγµάτων Πολυέδρων εδοµένα Χαλκού (Las Cruces) οκιµή στο Χώρο Συντεταγµένων ΧΥΖ οκιµή στο Χώρο Τριγωνισµού Πολικών Συντεταγµένων οκιµή στο Χώρο Γειτονικών ειγµάτων Πολυέδρων Κοίτασµα Μάργας - Usje Mine v

6 5.4.1 οκιµή στο Χώρο Συντεταγµένων ΧΥΖ οκιµή στο Χώρο Τριγωνισµού Πολικών Συντεταγµένων οκιµή στο Χώρο Γειτονικών ειγµάτων Πολυέδρων Συµπεράσµατα Βιβλιογραφία Παράρτηµα εδοµένα Μελετών εδοµένα Jura εδοµένα Χαλκού (M. David) εδοµένα Σιδήρου vi

7 1. Εισαγωγή 1.1 Η ιαστατικότητα στην Ανάλυση εδοµένων Στα τελευταία έτη, η ανάλυση δεδοµένων έχει γίνει ένα συγκεκριµένο πεδίο µελέτης, µερικές φορές µακριά από τη µαθηµατική και στατιστική προέλευσή του, όπου η κατανόηση των προβληµάτων και των περιορισµών που προέρχονται από τα ίδια τα δεδοµένα είναι συχνά πολυτιµότερη από την ανάπτυξη σύνθετων αλγορίθµων και µεθόδων. Η ιδιοµορφία της σύγχρονης ανάσυρσης δεδοµένων οφείλεται στα τεράστια ποσά δεδοµένων που εξετάζονται. Υπάρχουν νέοι τοµείς όπου η ανάσυρση δεδοµένων γίνεται κρίσιµη (ιατρική έρευνα, οικονοµική ανάλυση, κ.λπ...) ενώ παράλληλα η συλλογή τεράστιας ποσότητας δεδοµένων γίνεται συχνά ευκολότερη και φτηνότερη. Οι εξελίξεις αυτές οδηγούν στην ανάγκη για αντιµετώπιση της διαστατικότητας των δεδοµένων. Ας σκεφτούµε κάθε µέτρηση δεδοµένων ως µια παρατήρηση, όπου κάθε παρατήρηση αποτελείται από ένα σύνολο µεταβλητών. Είναι πολύ διαφορετικό να αναλύσει κανείς παρατηρήσεις 3 µεταβλητών κάθε µια, από το να αναλύσει 100 παρατηρήσεις 50 µεταβλητών κάθε µια! Ένας τρόπος να αποκτηθεί κάποια αίσθηση αυτής της δυσκολίας είναι να φανταστεί κανείς κάθε παρατήρηση ως σηµείο σε ένα χώρο του οποίου διάσταση είναι ο αριθµός µεταβλητών παρατηρήσεις σε ένα τρισδιάστατο χώρο διαµορφώνουν πιθανότατα ένα δοµηµένο σχήµα ενός ή περισσότερων νεφών, από τα οποία είναι δυνατό να εξαχθούν κάποιες ουσιαστικές πληροφορίες. Αντίθετα, εκ πρώτης όψεως 100 παρατηρήσεις σε ένα 50-διάστατο χώρο δεν αντιπροσωπεύουν τίποτα συγκεκριµένο, επειδή ο αριθµός παρατηρήσεων είναι πάρα πολύ χαµηλός. Η επιτυχηµένη εφαρµογή των τεχνητών νευρωνικών δικτύων ξεκινάει από την σωστή επιλογή των διαστάσεων του χώρου εισόδου, δηλαδή του τρόπου µε τον οποίο παρουσιάζονται τα δεδοµένα στα δίκτυα. Η επιλογή των διαστάσεων και τελικά ο αριθµός τους κρίνει, όπως γίνεται έντονα αντιληπτό σε αυτή τη µελέτη, την ποιότητα των αποτελεσµάτων των Τ.Ν.. 1

8 1.2 Νευρωνικά ίκτυα Η εφαρµογή συστηµάτων Τεχνητών Νευρωνικών ικτύων (ΤΝ ) στο χώρο της µεταλλευτικής δεν είναι κάτι το καινούργιο. Ειδικά στον χώρο της εκτίµησης περιεκτικότητας και αποθεµάτων, υπάρχουν αρκετά παραδείγµατα [6, 7, 8, 10, 19, 20, 21, 22, 40, 42]. Τα ιδιαίτερα χαρακτηριστικά των ΤΝ τα καθιστούν κατάλληλα για την µοντελοποίηση της περιεκτικότητας κοιτασµάτων. Συγκεκριµένα τα ΤΝ παρουσιάζουν τις εξής ιδιότητες: Μάθηση από εµπειρία Γενίκευση από παραδείγµατα Εξαγωγή βασικών πληροφοριών από δεδοµένα µε θόρυβο Ταχύτερη ανάπτυξη λύσεων, και µε λιγότερη εξάρτηση σε ειδικές γνώσεις Προσαρµοστικότητα Με βάση τα αποτελέσµατα της διδακτορικής έρευνας που προηγήθηκε αυτής της µελέτης [21] επιλέχθηκε µια πολύ ειδική αρχιτεκτονική ΤΝ για τις δοκιµές και την εξαγωγή συµπερασµάτων. Πρόκειται για τα ίκτυα Συναρτήσεων Ακτινικής Βάσης τα οποία αναλύονται στην ενότητα που ακολουθεί ίκτυα Συναρτήσεων Ακτινικής Βάσης Τα δίκτυα συναρτήσεων ακτινικής βάσης (Radial Basis Function Networks ή RBF) αποτελούνται από τρία επίπεδα, το επίπεδο εισόδου, το κρυφό επίπεδο και το επίπεδο εξόδου τα οποία είναι πλήρως διασυνδεόµενα µεταξύ τους (Σχ. 1.1). Το επίπεδο εισόδου συνδέει το δίκτυο µε τον χώρο των διανυσµάτων εισόδου. Το µοναδικό κρυφό επίπεδο εφαρµόζει έναν µη-γραµµικό µετασχηµατισµό µεταξύ του χώρου εισόδου και του κρυφού χώρου. Στη συγκεκριµένη εφαρµογή, όπως και στις περισσότερες των δικτύων RBF, ο κρυφός χώρος είναι πολυδιάστατος. Το επίπεδο εξόδου είναι γραµµικό, δίνοντας την ανάκριση του δικτύου στα παρουσιαζόµενα διανύσµατα (σήµατα εισόδου) στο επίπεδο εισόδου. Για τη σωστή λειτουργία του δικτύου RBF είναι απαραίτητη πρώτα η κανονικοποίηση των διανυσµάτων εισόδου. 2

9 Κάθε µονάδα επεξεργασίας του κρυφού επιπέδου διαθέτει µια µη-γραµµική συνάρτηση η οποία αποτελεί µια αυθαίρετη 'βάση' για τα διανύσµατα εισόδου όταν επεκτείνονται στον χώρο του κρυφού επιπέδου. Οι συναρτήσεις αυτές ονοµάζονται συναρτήσεις ακτινικής βάσης (radial basis functions). Οι µονάδες επεξεργασίας κρυφού επιπέδου έχουν περιορισµένο δεκτικό πεδίο δηλαδή λαµβάνουν διανύσµατα από ένα τµήµα του χώρου εισόδου. Το χαρακτηριστικό αυτό των δικτύων RBF τα καθιστά ιδιαίτερα κατάλληλα για την εκτίµηση περιεκτικότητας κοιτασµάτων. Σχήµα 1.1: οµή δικτύου RBF [16]. Σε γενικές γραµµές η λειτουργία ενός δικτύου RBF έχει ως εξής: Όλες οι µονάδες επεξεργασίας κρυφού επιπέδου λαµβάνουν το n-διάστατο διάνυσµα εισόδου µετά την κανονικοποίηση του. Μια συνάρτηση µη-γραµµικής βάσης φj τοποθετείται γύρω από το διάνυσµα βάρους µj κάθε κρυφής µονάδας η οποία έχει επίσης ένα προσαρµοζόµενο εύρος επιρροής σj (εύρος δεκτικού πεδίου της συγκεκριµένης µονάδας). Η έξοδος της κρυφής µονάδας j, hj, δίνεται ως ακτινική συνάρτηση της απόστασης µεταξύ διανύσµατος εισόδου και διανύσµατος βάρους της µονάδας, 3

10 hj = φj ( x-µj / σj) [7]. Η έξοδος του δικτύου είναι προϊόν του διανύσµατος των εξόδων του κρυφού επιπέδου και του διανύσµατος βάρους κάθε µονάδας k, λk, yk (x) = Σ hj(x)λk. Κατά την διάρκεια της εκπαίδευσης, το δίκτυο RBF τοποθετεί τις συναρτήσεις βάσης σε τυχαία δείγµατα (δεδοµένα εισόδου) ή χρησιµοποιεί clustering για την επιλογή των θέσεων (κέντρων). Συχνά τα αρχικά κέντρα των συναρτήσεων επιλέγονται µέσω εκπαίδευσης του κρυφού επιπέδου χωρίς εποπτεία. Ουσιαστικά το κρυφό επίπεδο κατά το στάδιο επιλογής κέντρων συµπεριφέρεται ως επίπεδο Kohonen (αυτο-οργανώµενο). Το γεγονός αυτό αποτελεί και έναν από τους κύριους λόγους για τους οποίους χρειάζεται η κανονικοποίηση των δεδοµένων εισόδου. Στη συνέχεια της εκπαίδευσης µεταβάλλεται το δεκτικό πεδίο των συναρτήσεων µε στόχο την ελαχιστοποίηση του σφάλµατος στην έξοδο. Σηµαντικές παράµετροι στην συνολική απόδοση του δικτύου είναι: η επιλογή της συνάρτησης βάσης, το πλήθος των συναρτήσεων στο δίκτυο, η θέση τους στο διανυσµατικό χώρο εισόδου, και Το δεκτικό τους πεδίο. Τα δίκτυα RBF χρησιµοποιήθηκαν µε επιτυχία για την προσέγγιση πολύπλοκων συναρτήσεων [5, 15, 26, 28, 30]. Το µοντέλο των δικτύων αυτών εµπνεύσθηκε από τα χαρακτηριστικά πολλών τµηµάτων βιολογικών νευρικών συστηµάτων καθώς και από έρευνες για παρεµβολή µε συναρτήσεις ακτινικής βάσης [31]. 4

11 1.2.2 Καταλληλότητα των ικτύων RBF στην Εκτίµηση Περιεκτικότητας Τα δίκτυα RBF, όπως και οι περισσότερες από τις δοµές ΤΝ, έχουν ορισµένες ιδιότητες που τα καθιστούν ως φυσική επιλογή για την εκτίµηση περιεκτικότητας. Εντούτοις, τα δίκτυα RBF έχουν επίσης διάφορες πρόσθετες χρήσιµες ιδιότητες που τους δίνουν ένα πλεονέκτηµα πέρα από τις άλλες αρχιτεκτονικές ΤΝ για αυτό το συγκεκριµένο πρόβληµα. Η πρώτη από αυτές τις ιδιότητες, και ενδεχοµένως η σηµαντικότερη, είναι ότι τα δίκτυα RBF κατασκευάζουν τοπικές προσεγγίσεις στις χαρτογραφήσεις εισόδου-εξόδου. Είναι ευρέως γνωστό ότι ένα ορυκτό κοίτασµα µεταλλεύµατος είναι ένα τοπικό φαινόµενο. Η µοντελοποίηση της περιεκτικότητας ενός κοιτάσµατος στον τρισδιάστατο χώρο χρησιµοποιώντας δεδοµένα γεωτρήσεων µπορεί να θεωρηθεί ένα πρόβληµα αναδηµιουργίας της υπέρ-επιφάνειας της Υ στον τρισδιάστατο χώρο, µε την υπερεπιφάνεια αυτή να αποτελείται από διάφορες ζώνες που πρέπει να προσεγγιστούν τοπικά. Τα κοιτάσµατα παρουσιάζουν συνήθως µια τοπική συµπεριφορά, δηλαδή τα σηµεία µέσα σε µια ζώνη ενός κοιτάσµατος που βρίσκονται κοντά µεταξύ τους τείνουν να έχουν παρόµοια περιεκτικότητα. Σίγουρα, αυτή η περιοχή πολύ σπάνια επεκτείνεται σε ολόκληρη την έκταση του κοιτάσµατος και, εποµένως, η προσέγγιση της προσαρµογής RBF σε έξυπνα επιλεγµένες θέσεις µπορεί να είναι ιδιαίτερα ωφέλιµη. Αυτές οι θέσεις βρίσκονται µε τη συγκέντρωση των γεωτρητικών δεδοµένων προκειµένου να προσδιοριστούν αυτοί οι τοµείς της παρόµοιας συµπεριφοράς της περιεκτικότητας. Τα δίκτυα RBF παρέχουν µια προσέγγιση στην αντιµετώπιση ελλιπώς ορισµένων προβληµάτων λόγω των ιδιοτήτων που κληρονοµούν από τη θεωρία συστηµατοποίησης. Η εκτίµηση περιεκτικότητας είναι ένα ελλιπώς ορισµένο πρόβληµα, ακόµα κι αν το ελλοχεύον φαινόµενο - η δηµιουργία του κοιτάσµατος είναι πλήρως ορισµένο. Αυτό οφείλεται στο γεγονός ότι η εκτίµηση περιεκτικότητας, όταν αντιµετωπίζεται ως ανακατασκευή f µιας επιφάνειας στο χώρο που δηµιουργείται από τα γεωτρητικά δεδοµένα, δεν ικανοποιεί τις συνθήκες που απαιτεί ένα πλήρως ορισµένο πρόβληµα [21]. Πιο συγκεκριµένα: 1. Για οποιοδήποτε ζεύγος διανυσµάτων εισόδου x, t είναι δυνατό να έχουµε την ισότητα f(x) = f(t) ακόµα και όταν x t. ηλαδή µπορεί δυο 5

12 διαφορετικά διανύσµατα εισόδου να προβάλλονται στο ίδιο σηµείο στον χώρο εξόδου (χώρος τιµών περιεκτικότητας). Έτσι δεν ικανοποιείται η συνθήκη µοναδικότητας. 2. Είναι γνωστό ότι τα γεωτρητικά δεδοµένα καθώς και άλλα φυσικά δείγµατα από κοιτάσµατα περιέχουν δειγµατοληπτικά σφάλµατα τα οποία οδηγούν στην πιθανότητα τα ΤΝ να παράγουν µια έξοδο πέρα από τα όρια του Υ για µια συγκεκριµένη είσοδο. Αυτό σηµαίνει παραβίαση της συνθήκης συνέχειας. Η δεύτερη παραβίαση έχει πιο σηµαντικές επιπτώσεις στη λύση του προβλήµατος, καθώς έλλειψη συνέχειας σηµαίνει ότι η υπολογιζόµενη προβολή εισόδου-εξόδου δεν αντιπροσωπεύει την πραγµατική λύση. Τα ζητήµατα αυτά έχουν αντιµετωπιστεί µε διάφορες µεθόδους, εκ των οποίων η πιο σηµαντική είναι η κανονικοποίηση [27]. Τα δίκτυα RBF επιτρέπουν επίσης τον υπολογισµό µέτρων αξιοπιστίας, όπως το όριο εµπιστοσύνης και το µέτρο παρέκτασης. Λόγω της τοπικής φύσης της προσέγγισης που εκτελείται από τα δίκτυα RBF, είναι δυνατό να µετρηθεί η τοπική πυκνότητα δεδοµένων για ένα δεδοµένο σηµείο x στο χώρο εισόδου ως δείκτης της παρέκτασης [36]. Τα όρια εµπιστοσύνης της εκτίµησης µπορούν επίσης να υπολογιστούν από τα τοπικά διαστήµατα εµπιστοσύνης που αναπτύσσονται για κάθε µονάδα RBF χρησιµοποιώντας έναν σταθµισµένο µέσο όρο των τελευταίων. Αυτά τα µέτρα αξιοπιστίας θεσπίστηκαν αρχικά από τους Leonard et al. [24, 25] ενσωµατωµένα σε µια αρχιτεκτονική ΤΝ που υπολογίζει την αξιοπιστία της, την οποία ονόµασαν δίκτυο δεικτών εγκυρότητας (Validity Index network, VI). Οι Leonard et al χρησιµοποίησαν µια προσέγγιση σε δυο στάδια βασισµένη στις πυκνότητες δεδοµένων παραγόµενες χρησιµοποιώντας τα παράθυρα Parzen [29], και έναν τύπο παρεµβολής που χρησιµοποιείται για τον καθορισµό των πυκνοτήτων σε αυθαίρετα σηµεία δοκιµής. Αυτά τα µέτρα είναι πλέον τυποποιηµένα στους περισσότερους από τους εµπορικούς εξοµοιωτές νευρωνικών δικτύων που παρέχουν επιλογές ανάπτυξης δικτύων RBF. Τέλος, ένα άλλο πλεονέκτηµα των δικτύων RBF πέρα από άλλες αρχιτεκτονικές ΤΝ που προέρχεται από τις θεωρητικές ιδιότητές τους, είναι η ταχύτητα ανάπτυξής τους. Στην περίπτωση της χαµηλής διαστατικότητας εισαγωγής, η εκµάθηση των δικτύων RBF αναµένεται να είναι πολύ γρηγορότερη από οποιαδήποτε άλλη 6

13 αρχιτεκτονική ΤΝ που χρησιµοποιείται για το ίδιο πρόβληµα. Στις περισσότερες περιπτώσεις που αναφέρονται στην βιβλιογραφία η εκτίµηση περιεκτικότητας γίνεται χρησιµοποιώντας ένα διάστηµα εισαγωγής το πολύ τεσσάρων διαστάσεων, ένας αριθµός αρκετά χαµηλός ώστε τα δίκτυα RBF να αναπτύσσονται πολύ γρήγορα. 1.3 Εκτίµηση Περιεκτικότητας Κοιτασµάτων Η διαδικασία υπολογισµού της περιεκτικότητας ενός κοιτάσµατος αποτελεί ίσως το σηµαντικότερο στάδιο στον υπολογισµό των αποθεµάτων του. Τα τελευταία τριάντα χρόνια περίπου, η χρήση της γεωστατιστικής έχει καθιερωθεί ως η καλύτερη λύση στο πρόβληµα αυτό. Από το 1962 και την πρώτη εισήγηση του Γάλλου καθηγητή G. Matheron, η γεωστατιστική είχε µια ιδιαίτερη εξέλιξη στο χώρο της µεταλλευτικής δίνοντας συνεχώς νεώτερες µεθόδους προς αντιµετώπιση των πιο πολύπλοκων καταστάσεων. Η εξέλιξη αυτή όµως συνοδεύτηκε από προβλήµατα τα οποία συνεχίζουν να καθιστούν την χρήση της γεωστατιστκής ιδιαίτερα επίπονη και χρονοβόρα. Η γεωστατιστική επίσης στηρίζεται σε συγκεκριµένες υποθέσεις ως προς την κατανοµή των τιµών περιεκτικότητας οι οποίες δεν µπορούν πάντα να ανταποκρίνονται στην πραγµατικότητα. Τέλος οι ιδιαίτερες γνώσεις που απαιτούνται για την εφαρµογή της δηµιουργούν µια εξάρτηση µεταξύ της αξιοπιστίας των αποτελεσµάτων της και των ικανοτήτων του ατόµου που την εφαρµόζει. Μια εναλλακτική προσέγγιση που εξετάζεται ιδιαίτερα τα τελευταία δέκα περίπου χρόνια είναι η εφαρµογή συστηµάτων ΤΝ για την εκτίµηση περιεκτότητας κοιτασµάτων. Τα συστήµατα ΤΝ αντιµετωπίζουν την διακύµανση και την κατανοµή της περιεκτικότητας στο χώρο ως πολύπλοκες συναρτήσεις τις οποίες προσπαθούν να προσεγγίσουν τα διάφορα τµήµατα τους. Τα τµήµατα αυτά αποτελούνται από ΤΝ τύπου Radial Basis Function networks (RBF) ή Multi-Layer Perceptron (MPL). Μετά την εκπαίδευση των δικτύων µε χρήση ερευνητικών δεδοµένων, ακολουθεί η εκτίµηση της περιεκτικότητας σε άγνωστες θέσεις. Η εκτίµηση γίνεται συνήθως βάση ενός µοντέλου µπλοκ (block model) ή ενός µοντέλου πλέγµατος (grid model). Γενικά οι στόχοι ενός συστήµατος ΤΝ για την εκτίµηση της περιεκτικότητας κοιτασµάτων είναι οι εξής: ο γρήγορος και αξιόπιστος υπολογισµός της περιεκτικότητας, 7

14 η ελαχιστοποίηση των υποθέσεων για την κατανοµή της περιεκτικότητας, η ελάττωση των γνωστικών απαιτήσεων, και η απεξάρτηση των αποτελεσµάτων από τις ικανότητες του χρήστη. 1.4 Στόχοι του Ερευνητικού Προγράµµατος Το ερευνητικό πρόγραµµα είχε ως κύριο στόχο την µελέτη των επιπτώσεων που έχει η επιλογή των παραµέτρων εισόδου των ΤΝ στην απόδοση τους κατά την εκτίµηση περιεκτικότητας κοιτασµάτων. Η επιλογή των όποιων παραµέτρων εισόδου καθώς και το πλήθος αυτών των παραµέτρων συνιστούν ένα πρόβληµα γνωστό στην γλώσσα των ΤΝ ως διαστατικότητα. Ουσιαστικά οι παράµετροι εισόδου σε ένα πρόβληµα όπως αυτό της εκτίµησης περιεκτικότητας καθορίζουν τον τρόπο προσέγγισης της εκτιµώµενης τιµής. ηλαδή, καθώς τα ΤΝ κατασκευάζουν την προβολή από τον διανυσµατικό χώρο εισόδου τους προς το διάνυσµα της εξόδου κατά την εκπαίδευση, είναι εύκολα αντιληπτό ότι οι παράµετροι εισόδου καθορίζουν σχεδόν εξολοκλήρου την προβολή αυτή και την όλη προσέγγιση στο πρόβληµα. Για παράδειγµα, εάν επιλέξουµε ως παραµέτρους εισόδου τις ν συντεταγµένες των δειγµάτων, τότε η περιεκτικότητα θεωρείται συνάρτηση τους και το πρόβληµα γίνεται απλά µια προσαρµογή της επιφάνειας της περιεκτικότητας στον ν- διάστατο χώρο των συντεταγµένων. Οι διάφορες προσεγγίσεις µε ΤΝ στο πρόβληµα εκτίµησης περιεκτικότητας που δίνονται στην βιβλιογραφία παρουσιάζουν ιδιαίτερο ενδιαφέρον καθώς χρησιµοποιούν διαφορετικές παραµέτρους εισόδου, πέρα φυσικά από τις πολλές διαφορές στην αρχιτεκτονική των ΤΝ που χρησιµοποιούν και στους αλγόριθµους εκπαίδευσης. ιαφορές υπάρχουν επίσης και στο πλήθος και την ποιότητα των δεδοµένων που χρησιµοποιούνται για την εκπαίδευση και επικύρωση των ΤΝ. Οι προσεγγίσεις αυτές δίνονται στο τρίτο κεφάλαιο όπου αναλύονται οι διάφοροι χώροι εισόδου. 8

15 2. Η ιαστατικότητα στις Εφαρµογές Τεχνητών Νευρωνικών ικτύων 2.1 Γενικά περί Χώρων Πολλών ιαστάσεων Οι χώροι πολλών διαστάσεων ξεφεύγουν από τα όρια αντίληψης µας. Ότι λαµβάνουµε ως δεδοµένο σε µια, δυο και τρεις διαστάσεις, λόγω της αντίληψης µας, µπορεί στην πραγµατικότητα να µην ισχύει σε περισσότερες διαστάσεις. Παρακάτω δίνονται µερικά από τα φαινόµενα που παρουσιάζονται σε αυτούς τους χώρους Το Φαινόµενο του Κενού Χώρου Οι Scott και Thompson [33] πρώτοι παρατήρησαν κάποια χαρακτηριστικά των Ευκλείδειων χώρων πολλών διαστάσεων, και περιέγραψαν αυτό που αποκάλεσαν φαινόµενο κενού χώρου. Παρατήρηση 1. Ο όγκος µιας υπερσφαίρας µοναδιαίας ακτίνας τείνει στο µηδέν καθώς αυξάνονται οι διαστάσεις. Ο όγκος µιας σφαίρας ακτίνας r και διαστάσεων d δίνεται από την παρακάτω σχέση: d / 2 π V ( d) = r Γ( d / 2 + 1) d. Το Σχήµα 2.1α δείχνει τον όγκο για r = 1. Βλέπουµε ότι ο όγκος µειώνεται απότοµα µε το d. Οπότε, σε περισσότερες διαστάσεις, µια µοναδιαία σφαίρα είναι σχεδόν κενή. Παρατήρηση 2. Ο λόγος µεταξύ των όγκων µιας σφαίρας και ενός κύβου ίδιας ακτίνας τείνει στο µηδέν καθώς αυξάνονται οι διαστάσεις όπως φαίνεται στο Σχήµα 2.1β. Σε µια διάσταση οι όγκοι αυτοί είναι ίση, και σε δυο διαστάσεις ο λόγος είναι περίπου 0.8, αλλά σε περισσότερες διαστάσεις µπορούµε να πούµε ότι ο όγκος ενός υπερκύβου συγκεντρώνεται στις κορυφές του. Παρατήρηση 3. Ο λόγος του όγκου µιας σφαίρας µε ακτίνα 1 και 1-ε τείνει στο µηδέν δεδοµένου ότι η τιµή του είναι ίση µε (1-ε) σε δύναµη d. Με το d ίσο µε 20, και e = 0.1, µόνο 10% της αρχικής ακτίνας περιέχει 90% του όγκου της εξώτερης σφαίρας, και 9

16 έτσι ο όγκος της συγκεντρώνεται σε ένα εξώτερο περίβληµα. Το ίδιο ισχύει για υπερκύβους και υπερ-ελλειψοειδή. Σχήµα 2.1. Αριστερά (α): ο όγκος µοναδιαίας σφαίρας. εξιά (β): ο λόγος µεταξύ των όγκων της µοναδιαίας σφαίρας και του µοναδιαίου κύβου, ως προς τις διαστάσεις του χώρου Το Φαινόµενο της Συγκέντρωσης του Μέτρου Στη συνέχεια θα εξετάσουµε την συµπεριφορά της ευρέως χρησιµοποιούµενης Ευκλείδειας απόστασης όταν εφαρµόζεται σε διανύσµατα πολλών διαστάσεων. Παρατήρηση 1. Η τυπική απόκλιση του µέτρου τυχαίων διανυσµάτων τείνει σε µια σταθερή τιµή καθώς αυξάνονται οι διαστάσεις ενώ η προσδοκία του µέτρου τους αυξάνεται όπως η τετραγωνική ρίζα του αριθµού των διαστάσεων [12]. Παρατήρηση 2. Η διαφορά µεταξύ των αποστάσεων ενός τυχαίου σηµείου προς το πιο αποµακρυσµένο και το πιο κοντινό του γειτονικό σηµείο µειώνεται καθώς αυξάνεται η διαστατικότητα [1, 4]. Το συµπέρασµα που µπορούµε να βγάλουµε από αυτές τις παρατηρήσεις είναι ότι, σε χώρους υψηλής διαστατικότητας, όλα τα σηµεία τείνουν να είναι το ίδιο αποµακρυσµένα µεταξύ τους, µε βάση την Ευκλείδεια απόσταση. Καθώς αυξάνεται ο αριθµός των διαστάσεων, η παρατηρούµενη απόσταση µεταξύ δυο σηµείων τείνει σε µια σταθερή τιµή. Αυτό γίνεται αντιληπτό όταν υπολογίζονται τα ιστογράµµατα των αποστάσεων µεταξύ τυχαίων σηµείων αυξανόµενης διαστατικότητας, Φαίνεται ότι ο µέσος του ιστογράµµατος αυξάνεται ενώ η διακύµανση µειώνεται. 10

17 2.2 Επιπτώσεις στην Εκπαίδευση των ΤΝ Οι προβληµατισµοί που αναπτύχθηκαν στην προηγούµενη ενότητα έχουν σηµαντικές επιπτώσεις στην εκπαίδευση των ΤΝ. Στις επόµενες παραγράφους εξετάζονται µερικές από αυτές Εκπαίδευση µε επίβλεψη Κατά την µοντελοποίηση µιας διαδικασίας που παράγει µια έξοδο βάση των παρατηρηθεισών τιµών για συγκεκριµένες τιµές εισόδου, πρέπει κανείς να προσαρµόσει ένα επιλεγµένο µοντέλο σε ένα σύνολο δεδοµένων. Όσο πιο εκτενές είναι το σύνολο των δεδοµένων, τόσο ακριβέστερο είναι το µοντέλο. Ιδανικά, το σύνολο δεδοµένων πρέπει να καταλαµβάνει ολόκληρο το χώρο εισόδου, προκειµένου να εξασφαλιστεί ότι οποιαδήποτε εκτίµηση (δηλ. η τιµή εξόδου του µοντέλου) είναι το αποτέλεσµα µιας διαδικασίας παρεµβολής και ότι δεν έχουµε επικίνδυνες παρεκτάσεις. Σε οποιαδήποτε περίπτωση όµως θα πρέπει να αντιµετωπίσουµε το πρόβληµα της διαστατικότητας. Ο Silverman [36] εξέτασε το πρόβληµα της εύρεσης του απαραίτητου αριθµού δειγµάτων εκπαίδευσης για να προσεγγίσει µια γκαουσσιανή κατανοµή µε σταθερούς γκαουσσιανούς πυρήνες. Τα αποτελέσµατά του δείχνουν ότι ο απαραίτητος αριθµός δειγµάτων αυξάνεται εκθετικά µε τη διάσταση. Ο Fukunaga [14] πέτυχε παρόµοια αποτελέσµατα για τον ταξινοµητή Κ-nn που δείχνει ότι ενώ 44 παρατηρήσεις είναι ικανοποιητικές σε 4 διαστάσεις, περισσότερο από 3.8e 57 είναι απαραίτητες όταν η διάσταση είναι Μοντέλα Τοπικής Προσέγγισης Τα τεχνητά νευρωνικά δίκτυα τοπικής προσέγγισης συχνά θεωρούνται πιο ευαίσθητα στη διαστατικότητα από ότι τα δίκτυα ολικής προσέγγισης. Με τον όρο δίκτυα τοπικής προσέγγισης, εννοούµε τους εκτιµητές (ή τους ταξινοµητές, ή τους εκτιµητές πυκνότητας) που αποτελούνται από συνδυασµό τοπικών συναρτήσεων (για παράδειγµα οι γκαουσσιανοί πυρήνες). Πράγµατι οι γκαουσσιανές συναρτήσεις έχουν επίσης µια απροσδόκητη συµπεριφορά όταν επεκτείνονται σε χώρους πολλών διαστάσεων. Παραδείγµατα τέτοιων εκτιµητών είναι τα δίκτυα RBF και οι µέθοδοι πυρήνων. 11

18 Όταν θεωρείται µια κανονική διανοµή µε τη τυπική απόκλιση σ, η συνάρτηση πυκνότητας πιθανότητας για την εύρεση ενός σηµείου σε απόσταση r από το κέντρο της κατανοµής δίνεται από την παρακάτω σχέση [17]: r f ( r) = d 2 d 1 / / 2 r e Γ( d σ 2 / 2), η οποία είναι µέγιστη για r/σ = (n-1) 0.5. Σε µια διάσταση, είναι µέγιστη στο κέντρο της κατανοµής, όπως αναµένεται, αλλά όταν αυξάνεται η διάσταση, αποκλίνει από το κέντρο (Σχήµα 2.2α), το οποίο γίνεται σχεδόν κενό, ενώ η γκαουσσιανή κατανοµή γίνεται µέγιστη! Αυτό δείχνει ότι οι γκαουσσιανοί πυρήνες δεν είναι τοπικοί πλέον στις υψηλότερες διαστάσεις, και ότι τα πρότυπα που έχουν θεωρηθεί ως αθροίσµατα των τοπικών πυρήνων δεν συµπεριφέρονται υπό αυτήν τη µορφή στις υψηλές διαστάσεις. Σχήµα 2.2: (α) Η πυκνότητα πιθανότητας ενός σηµείου από µια κανονική κατανοµή να βρίσκεται σε απόσταση r από το κέντρο, για πολλαπλές διαστάσεις χώρου. (β) Παράδειγµα ιστογράµµατος απόστασης κατανοµές πολλαπλών πυρήνων. Αυτός ο περιορισµός στη χρήση των τοπικών προτύπων, ειδικότερα µε τους γκαουσσιανούς πυρήνες, φαίνεται αυστηρός. Εντούτοις, πρέπει να υπογραµµιστεί στο γεγονός ότι τα ολικά µοντέλα, όπως τα δίκτυα MLP (πολυστρωµατικά perceptrons), πιθανώς να υποφέρουν εξίσου. Πράγµατι, σε πολλές περιπτώσεις, τα αθροίσµατα των σιγµοειδών όπως στα MLP οδηγούν σε συναρτήσεις που παίρνουν σηµαντικές τιµές σε µια περιορισµένη περιοχή των χώρων. Ενώ από µαθηµατική άποψη είναι διαφορετικά, τα µοντέλα των δικτύων MLP και RBF συχνά συµπεριφέρονται οµοίως στην πράξη. Αυτό επιβάλλει την πεποίθηση ότι τα τοπικά και ολικά µοντέλα πάσχουν εξίσου από το 12

19 πρόβληµα της διαστατικότητας (και των σχετικών επιπτώσεων), παρόλο που αυτό είναι πιθανώς πιο δύσκολο να αποδειχθεί για τα ολικά µοντέλα Ανίχνευση Οµοιότητας και Ευκλείδειες Αποστάσεις Τα περισσότερα µοντέλα νευρωνικών δικτύων, καθώς επίσης και οι τεχνικές συγκέντρωσης, στηρίζονται στον υπολογισµό των αποστάσεων µεταξύ των διανυσµάτων. Στα δίκτυα RBF, είναι η απόσταση µεταξύ ενός δεδοµένου και κάθε κέντρου πυρήνων. Στα δίκτυα MLP, είναι το κλιµακωτό προϊόν µεταξύ ενός στοιχείου και κάθε βάρους του επιπέδου εισόδου. Και τα δύο αυτά µέτρα απόστασης µπορούν να σχετίζονται µε την αναζήτηση οµοιότητας στις τεχνικές συγκέντρωσης, που χρησιµοποιείται επίσης στην κβαντοποίηση διανυσµάτων, LVQ, στους χάρτες Kohonen κ.λπ... Η αναζήτηση οµοιότητας συνίσταται στην εύρεση σε ένα σύνολο δεδοµένων του πιo κοντινού δεδοµένου σε ένα συγκεκριµένο σηµείο. Στα πλαίσια της συγκέντρωσης για παράδειγµα, η αποδοτική συγκέντρωση επιτυγχάνεται όταν τα δεδοµένα σε µια συστάδα είναι παρόµοια (δηλ. κοντά όσον αφορά τη συνάρτηση απόστασης) και τα στοιχεία στις διαφορετικές συστάδες είναι µακριά το ένα από το άλλο. Έτσι, όταν τα στοιχεία περιέχουν συστάδες, τα ιστόγραµµα απόστασης πρέπει ιδανικά να παρουσιάζει δύο κορυφές (όπως στο Σχήµα 2.2.β): µια για τις εντός συστάδων αποστάσεις, και µια για τις αποστάσεις εκτός συστάδων. Αλλά εάν το ιστόγραµµα απόστασης περιέχει µόνο µια κορυφή, ή εάν οι κορυφές είναι κοντά, η συγκέντρωση γίνεται δύσκολη. υστυχώς, το γεγονός είναι ότι στις υψηλές διαστάσεις, οποιοδήποτε ιστόγραµµα απόστασης τείνει προς µια όλο και περισσότερο συγκεντρωµένη κορυφή, που καθιστά δύσκολη την διαδικασία συγκέντρωσης [37]. Αυτή είναι µια άµεση συνέπεια του φαινόµενου της συγκέντρωσης µέτρου. 2.3 Πιθανοί Τρόποι Αντιµετώπισης της ιαστατικότητας Οι επιπτώσεις του προβλήµατος της διαστατικότητας και των σχετικών περιορισµών στην εκπαίδευση των ΤΝ σε χώρους πολλών διαστάσεων φαίνονται αναπόφευκτες. Υπάρχουν όµως τουλάχιστον δυο διαφορετικές οδοί που µπορούν να οδηγήσουν σε λύση του προβλήµατος αυτού. 13

20 2.3.1 Εναλλακτικά Μέτρα Απόστασης Η χρήση της ευκλείδειας απόστασης µεταξύ των στοιχείων είναι συµβατική και σπάνια εξετάζεται. Εντούτοις, δεν αποκλείεται ένας άλλος καθορισµός της απόστασης να είναι πιο κατάλληλος σε µερικές περιστάσεις, και ειδικότερα στους χώρους πολλών διαστάσεων. Στην πράξη, θα µπορούσε να εξεταστεί οποιοδήποτε µέτρο απόστασης µεταξύ των διανυσµάτων x και y (µε µέτρα x i και y i ) της ακόλουθης µορφής: x y r = r d i= 1 i r i x y. υστυχώς δεν υπάρχει κανένας γνωστός τρόπος (εκτός από αριθµητικά υπολογιστικά επιχειρήµατα) για την επιλογή του κατάλληλου µέτρου σε κάθε περίπτωση και ειδικά ως προς τον αριθµό των διαστάσεων, και συνήθως γίνεται ένας συµβιβασµός µε βάση το υπολογιστικό δυναµικό και των αριθµό των δεδοµένων Η Μη-Γραµµική Προβολή ως Προεπεξεργασία Ένας άλλος τρόπος να περιοριστούν τα αποτελέσµατα της υψηλής διαστατικότητας είναι να µειωθεί η διάσταση του χώρου που εξετάζεται. Τα στοιχεία στα πραγµατικά προβλήµατα βρίσκονται συχνά κοντά σε υποπολλαπλάσια του χώρου εισόδου, λόγω του πλεονασµού µεταξύ των µεταβλητών. Ενώ ο πλεονασµός είναι συχνά συνέπεια της έλλειψης πληροφοριών για το ποιος τύπος µεταβλητής εισόδου πρέπει να χρησιµοποιηθεί, είναι επίσης χρήσιµος στην περίπτωση όπου ένα µεγάλο ποσό θορύβου είναι αναπόφευκτο σε δεδοµένα, που προέρχονται για παράδειγµα από µετρήσεις φυσικών φαινοµένων. Για να γίνει πιο πειστική αυτή η θετική παρατήρηση, ας φανταστούµε ότι η ίδια φυσική ποσότητα µετριέται από 100 αισθητήρες, ο κάθε ένας από τους οποίους προσθέτει ανεξάρτητο γκαουσσιανό θόρυβο στη µέτρηση. Ο υπολογισµός µέσου όρου των 100 µετρήσεων θα µειώσει σηµαντικά την επιρροή του θορύβου στην µέτρηση. Εποµένως η προβολή των δεδοµένων σε υποπολλαπλάσιους χώρους µπορεί να βοηθήσει. Ένα τρόπος προβολής είναι η ανάλυση κύριων στοιχείων (Principal Component Analysis ή PCA). Όµως η PCA είναι γραµµική ενώ, στις περισσότερες 14

21 περιπτώσεις, οι υποπολλαπλάσιοι χώροι είναι µη-γραµµικοί και έτσι η PCA δεν είναι κατάλληλη. Υπάρχουν εναλλακτικές µη-γραµµικές µέθοδοι για την προβολή δεδοµένων κατά µη-γραµµικό τρόπο. Παραδείγµατα τέτοιων µεθόδων είναι οι αυτο-οργανώµενοι χάρτες Kohonen, και µέθοδοι βασιζόµενες στην διατήρηση της απόστασης, όπως η πολυδιάστατη κλιµάκωση [34-35], η χαρτογράφηση του Sammon [32] κ.α. Όλες αυτές οι µέθοδοι είναι βασισµένες στην ίδια αρχή: εάν έχουµε n σηµεία δεδοµένων µέσα σε d- διάστατο χώρο, προσπαθούν να τοποθετήσουν n σηµεία στον m-διάστατο χώρο προβολής, διατηρώντας τις αµοιβαίες αποστάσεις µεταξύ οποιουδήποτε ζεύγους σηµείων αµετάβλητες µεταξύ του χώρου εισόδου και του αντίστοιχου ζευγαριού στο χώρο προβολής. Φυσικά, η ικανοποίηση αυτής της συνθήκης αυστηρά είναι αδύνατη στη γενική περίπτωση (υπάρχουν n(n - 1) όροι µε nm βαθµούς ελευθερίας). Οι µέθοδοι εποµένως σταθµίζουν τις συνθήκες έτσι ώστε εκείνες των πιο κοντινών αποστάσεων να ικανοποιηθούν αυστηρότερα από εκείνες των µεγάλων αποστάσεων. Η στάθµιση στοχεύει στη συντήρηση µιας τοπικής τοπολογίας (τοπικά, τα σύνολα σηµείων εισόδου θα αποδίδουν τα σύνολα σηµείων εξόδου). 2.4 Η ιαστατικότητα στα ίκτυα RBF Ένα πολύ κρίσιµο ζήτηµα στη χρήση των δικτύων RBF για την προσέγγιση συναρτήσεων είναι η διάσταση του χώρου εισαγωγής και της επίδρασής του στην εγγενή πολυπλοκότητα των προσεγγιζόντων συναρτήσεων. Γενικά γίνεται αποδεκτό ότι αυτή η πολυπλοκότητα αυξάνεται εκθετικά σε αναλογία mo/s, όπου το MO είναι η διαστατικότητα του χώρου εισόδου και το s είναι ένας δείκτης οµαλότητας του αριθµού περιορισµών που επιβάλλονται στην προσεγγίζουσα συνάρτηση. Εποµένως, το δίκτυο RBF για να είναι σε θέση να επιτύχει ένα λογικό ποσοστό σύγκλισης, ο δείκτης s οµαλότητας πρέπει να αυξηθεί µε τον αριθµό παραµέτρων στην προσεγγίζουσα συνάρτηση. Εντούτοις, ο χώρος των εφικτών προσεγγιζόντων συναρτήσεων µε τα δίκτυα RBF γίνεται όλο και περισσότερο περιορισµένος καθώς αυξάνεται η διαστατικότητα του χώρου εισόδου [16]. Η αυξανόµενη διαστατικότητα έχει επίσης µεγάλη επίδραση στο απαιτούµενο υπολογιστικό φορτίο που προκαλείται κατά τη διάρκεια της ανάπτυξης του δικτύου RBF. 15

22 Η διάσταση του χώρου εισόδου έχει έναν άµεσο έλεγχο της δικτυακής αρχιτεκτονικής RBF - ο αριθµός κόµβων εισαγωγής, ο αριθµός των RBF, και συνεπώς, ο αριθµός γραµµικών βαρών µεταξύ του κρυφού και του επιπέδου εξόδου. Εποµένως, οποιαδήποτε αύξηση στη διαστατικότητα της εισόδου προκαλεί µια αύξηση στις απαιτήσεις µνήµης και υπολογιστικής δύναµης, και µια σχεδόν βέβαιη αύξηση στο χρόνο ανάπτυξης. Οι πιο κοινοί τρόποι για την αντιµετώπιση της υψηλής διαστατικότητας εισόδου για ένα δεδοµένο πρόβληµα είναι να προσδιοριστούν και να αγνοηθούν οι παράµετροι εισόδου εκείνες που δεν συµβάλλουν αρκετά στην έξοδο ή να συνδυασθούν οι παράµετροι εισόδου που παρουσιάζουν υψηλό συσχετισµό. Ένας άλλος τρόπος να µειωθεί η διαστατικότητα εισόδου, που δεν είναι πάντα εφαρµόσιµος όµως, είναι να προσπαθήσουµε να αντικαταστήσουµε ένα σύνθετο πρόβληµα σε διάφορα πιο απλά προβλήµατα χαµηλότερης διαστατικότητας που µπορούν να αντιµετωπιστούν αποτελεσµατικότερα χρησιµοποιώντας τα δίκτυα RBF. 2.5 Συµπεράσµατα Οι θεωρητικές εκτιµήσεις δείχνουν ότι µπορεί να µην είναι κατάλληλη η χρησιµοποίηση των κλασσικών εννοιών στην ανάλυση στοιχείων µε νευρωνικά δίκτυα για την επεξεργασία δεδοµένων πολλών διαστάσεων. Ο λόγος είναι ότι µερικές από τις ελλοχεύουσες υποθέσεις, εν τούτοις προφανείς σε χαµηλότερη διάσταση, δεν επιβεβαιώνονται στις υψηλότερες διαστάσεις. Πράγµατι, στην πράξη, παρατηρείται µεγάλη απώλεια απόδοσης µε τους αλγορίθµους επεξεργασίας δεδοµένων όταν τα στοιχεία είναι υψηλής διαστατικότητας. Υπάρχει έτσι µια ανάγκη να προσαρµοστούν τα µοντέλα µας στην υψηλή διαστατικότητα. Ένας τρόπος είναι να σκεφτεί κανείς να εξετάσει τα νέα µέτρα οµοιότητας µεταξύ των δεδοµένων, εκτός από την κλασσική Ευκλείδεια απόσταση. Ένας άλλος τρόπος είναι να µειωθεί η διάσταση µέσω της προβολής (µη γραµµικών) υποπολλαπλάσιων χώρων. Και στις δύο περιπτώσεις απαιτείται έρευνα σε βάθος προκειµένου να προσαρµοστούν επιτυχώς τα εργαλεία επεξεργασίας δεδοµένων στα υψηλά διαστατικά δεδοµένα. 16

23 3. Χώροι Εισόδου στην Εκτίµηση Περιεκτικότητας 3.1 Γενικά Η εκτίµηση περιεκτικότητας και αποθεµάτων περιλαµβάνει συνήθως την πρόβλεψη των διάφορων παραµέτρων που χαρακτηρίζουν ένα ορυκτό κοίτασµα. Τα δεδοµένα εισόδου έρχονται συνήθως υπό µορφή δειγµάτων µε γνωστές θέσεις στο τρισδιάστατο χώρο. Η πλειοψηφία των συστηµάτων ΤΝ που αναπτύσσονται για αυτούς τους εκτιµητικούς σκοπούς είναι βασισµένη στη σχέση µεταξύ των εκτιµώµενων παραµέτρων και των θέσεων των δειγµάτων. Η πιο κοινή πρακτική κατά την ανάπτυξη των στοιχείων εκπαίδευσης για ένα ΤΝ, είναι να παραχθούν τα ζεύγη εισόδου-εξόδου µε την είσοδο να είναι η θέση των δειγµάτων και την επιθυµητή έξοδο να είναι η τιµή της εκτιµώµενης παραµέτρου σε εκείνη την θέση. Με άλλα λόγια, τα περισσότερα από τα συστήµατα ΤΝ µεταχειρίζονται τη µοντελοποίηση των άγνωστων παραµέτρων ως ένα πρόβληµα προσέγγισης συνάρτησης στο χώρο συντεταγµένων των δειγµάτων. Με βάση παραδείγµατα από την βιβλιογραφία καθώς και το διδακτορικό πρόγραµµα που είχα εκπονήσει το διάστηµα , ανέπτυξα τους παρακάτω χώρους εισόδου των Τεχνητών Νευρωνικών ικτύων: Χώροι Εισόδου για είγµατα υο ιαστάσεων Συντεταγµένων: Χώρος Συντεταγµένων είγµατος Χ-Υ: απλή περίπτωση όπου το δείγµα εκπροσωπείται από τις συντεταγµένες του. Χώρος Γειτονικών ειγµάτων Τριγωνισµού: επιλέγονται οι τιµές περιεκτικότητας τριών γειτονικών δειγµάτων µε την µέθοδο Delaunay. Χώρος Γειτονικών ειγµάτων Τετάρτων / Ογδόων: επιλέγονται οι τιµές περιεκτικότητας τεσσάρων ή οκτώ γειτονικών δειγµάτων που βρίσκονται σε αζιµουθιακά ορισµένους τοµείς καθώς και αποστάσεις τους από το σηµείο εκπαίδευσης ή εκτίµησης. Χώροι Εισόδου για είγµατα Τριών ιαστάσεων Συντεταγµένων: Χώρος Συντεταγµένων είγµατος Χ-Υ-Ζ: απλή περίπτωση όπου το δείγµα εκπροσωπείται από τις συντεταγµένες του. Ως τέταρτη διάσταση συµπεριλαµβάνεται ο όγκος του δείγµατος. 17

24 Χώρος Γειτονικών ειγµάτων Τριγωνισµού Πολικών Συντεταγµένων: επιλέγονται οι τιµές περιεκτικότητας πολλαπλών δειγµάτων τα οποία περικλείουν το σηµείο εκτίµησης. Τα δείγµατα αυτά επιλέγονται µέσω τριγωνισµού σε πολικές συντεταγµένες µε κέντρο τις συντεταγµένες του σηµείου εκτίµησης. Ως διάσταση λαµβάνεται και η απόσταση των δειγµάτων από το σηµείο εκτίµησης. Χώρος Γειτονικών ειγµάτων Πολύεδρων: Ο χώρος γύρω από το σηµείο εκτίµησης χωρίζεται σε πολύεδρα (τετράεδρα, κλπ.) και ένα δείγµα επιλέγεται από κάθε πολύεδρο. Η περιεκτικότητα και η απόσταση των επιλεγµένων δειγµάτων διαµορφώνουν τον χώρο εισόδου του ΤΝ. Εκτός από τις παραπάνω περιπτώσεις εξετάζονται και συνδυασµοί ΤΝ µε διαφορετικούς χώρους εισόδου για την καλύτερη κάλυψη των ιδιαιτεροτήτων των δεδοµένων. Οι παραπάνω χώροι εισόδου τεκµηριώνονται ως προς τις παραδοχές και την ορθότητα τους στις παραγράφους που ακολουθούν. 3.2 Χώροι Εισόδου για είγµατα υο ιαστάσεων Συντεταγµένων Σε πολλές περιπτώσεις τα δείγµατα που έχουµε στην διάθεση µας είναι µοναδικά κατά τον τρίτο άξονα συντεταγµένων, δηλαδή δεν παρουσιάζουν κάποια ιδιαίτερη µεταβολή στον άξονα Ζ. Πρόκειται συχνά για δείγµατα που προέρχονται από στρώµατα όπου οι διάφορες παράµετροι δεν παρουσιάζουν διακύµανση σε όλους τους άξονες. Για παράδειγµα, σε ένα ιζηµατογενές κοίτασµα ποτάσας η περιεκτικότητα σε χλωριούχο κάλιο δεν παρουσιάζει ιδιαίτερη µεταβολή στον άξονα Ζ. Σε αυτές τις περιπτώσεις, τα δείγµατα συνήθως τοποθετούνται στο χώρο βάση του στρώµατος στο οποίο ανήκουν και των συντεταγµένων Χ-Υ. Η εκτίµηση στη συνέχεια γίνεται µε βάση ένα µοντέλο πλέγµατος. Το µοντέλο πλέγµατος είναι µια οµάδα από δισδιάστατους πίνακες, όπου κάθε ένας αντιπροσωπεύει µια επιφάνεια ή µια µεταβλητή (Σχήµα 3.1). Οι επιφάνειες ή οι µεταβλητές αυτές είναι καθεµιά αποτέλεσµα παρεµβολής από µια οµάδα ακανόνιστα διατεταγµένων δειγµάτων σε ένα σταθερό πλέγµα ή πίνακα. Το κύριο πλεονέκτηµα της δοµής αυτού του µοντέλου είναι η ευκολία στο χειρισµό των δεδοµένων. Οι δοµές, τα πάχη και οι άλλες παράµετροι µπορούν να προστεθούν, να αφαιρεθούν ή να συγκριθούν 18

25 για να καταλήξουµε σε έναν άλλο πίνακα τιµών. Για παράδειγµα, το πάτωµα ενός στρώµατος µπορεί να αφαιρεθεί από την οροφή για να λάβουµε το πάχος του. Σχήµα 3.1: Μοντέλο πλέγµατος πλέγµα οροφής στρώµατος ποτάσας χρωµατισµένου βάση εκτιµήσεων περιεκτικότητας σε χλωριούχο κάλιο. Ας δούµε όµως πιο συγκεκριµένα τους πιθανούς χώρους εισόδου που αναπτύσσονται µε βάση δείγµατα δυο διαστάσεων συντεταγµένων Χώρος Συντεταγµένων είγµατος Χ-Υ Πρόκειται µάλλον για την πιο απλή περίπτωση όπου οι συντεταγµένες των δειγµάτων λαµβάνονται ως οι µοναδικές παράµετροι εισόδου στο ΤΝ και η τιµή της µεταβλητής που εκτιµάται ως η µοναδική παράµετρος εξόδου. ηλαδή το ΤΝ προσπαθεί να δηµιουργήσει µια προβολή από τον χώρο συντεταγµένων Χ-Υ στον χώρο της µεταβλητής εκτίµησης. Η µικρή διαστατικότητα αυτού του προβλήµατος οδηγεί αναπόφευκτα σε µια αρχιτεκτονική ΤΝ µε πολλούς κόµβους στο κρυφό επίπεδο και συχνά σε πολλαπλά κρυφά επίπεδα. Στην περίπτωση δικτύου MLP αναφερόµαστε σε µεγάλο αριθµό στοιχείων επεξεργασίας ενώ στην περίπτωση δικτύου RBF, αναφερόµαστε σε µεγάλο 19

26 αριθµό συναρτήσεων ακτινικής βάσης. Για να επιτευχθεί η ζητούµενη προβολή, το ΤΝ πρέπει να διαθέτει έναν κατάλληλο αριθµό βαρών µεταξύ επιπέδου εισόδου και κρυφού. Είναι λοιπόν απαραίτητο δεδοµένου του µικρού αριθµού παραµέτρων εισόδου (2) να έχουµε αρκετά στοιχεία στο κρυφό επίπεδο για να δηµιουργηθεί ο απαραίτητος αριθµός βαρών. Ο αριθµός αυτός είναι συνήθως άγνωστος αρχικά και µπορεί να βρεθεί µε διάφορες τεχνικές βελτιστοποίησης αρχιτεκτονικής όπως οι Γενετικοί Αλγόριθµοι. Καθώς πρόκειται για την πιο συχνά χρησιµοποιούµενη διάταξη, υπάρχουν πολλά παραδείγµατα αυτής της προσέγγισης στη βιβλιογραφία. Το πρώτο παράδειγµα είναι βασισµένο σε ΤΝ τύπου MLP που χρησιµοποιείται για την εκτίµηση περιεκτικότητας / αποθεµάτων µεταλλεύµατος που αναπτύχθηκε από τους Wu και Zhou [40]. Η δικτυακή αρχιτεκτονική, όπως φαίνεται στο Σχήµα. 3.2, είναι ένα MLP µε τέσσερα επίπεδα: το επίπεδο εισόδου, δύο κρυφά επίπεδα, και το επίπεδο εξόδου. Το δίκτυο λαµβάνει δύο εισόδους, τις συντεταγµένες Χ και Υ των δειγµάτων. Τα δύο κρυφά επίπεδα είναι ίδια και έχουν 28 µονάδες το καθένα. Είναι ένα σχετικά µεγάλο δίκτυο εξετάζοντας τη διάσταση του χώρου εισόδου (2D). Εντούτοις, οι υπεύθυνοι για την ανάπτυξη έχουν χρησιµοποιήσει έναν γρήγορο αλγόριθµο εκµάθησης αποκαλούµενο Dynamic Quick Propagation (DQP) [2] που είναι βασισµένη στον αλγόριθµο γρήγορης διάδοσης [13] και ένα σύστηµα για τον προσδιορισµό του αριθµού στοιχείων κρυφού επιπέδου αποκαλούµενο Dynamic Node Creation [41]. Επίπεδο Εισόδου: 2 x 1 1 ο Κρυφό Επίπεδο: 7 x 4 2 ο Κρυφό Επίπεδο: 7 x 4 Επίπεδο Εξόδου: 1 x 1 Σχήµα 3.2: Αρχιτεκτονική συστήµατος ΤΝ για την εκτίµηση περιεκτικότητας από δείγµατα δυο διαστάσεων από τους Wu και Zhou. 20

27 Αυτή η διάταξη ΤΝ εξετάσθηκε σε σύνθετα δείγµατα από ένα κοίτασµα χαλκού. Ένα σύνολο 51 σύνθετων δειγµάτων γεωτρήσεων χρησιµοποιήθηκε για να εκπαιδεύσει το δίκτυο σε µια περιοχή 3600 τετραγωνικών µέτρων. Τα αποτελέσµατα του εκπαιδευµένου δικτύου συγκρίθηκαν µε τα αποτελέσµατα από τη πολυγωνική µέθοδο (χειρωνακτική και βασισµένη σε υπολογιστή), την µέθοδο αντιστρόφου αποστάσεως, και το kriging. Αυτά τα αποτελέσµατα βασίστηκαν στους Hughes, Davis, και Davey [18]. υστυχώς, δεν υπήρξε καµία σύγκριση των εκτιµήσεων µε τις πραγµατικές τιµές. Αυτός ο περιορισµός τείνει να είναι ένα πολύ κοινό πρόβληµα στις περισσότερες από αυτές τις µελέτες. Παρόµοιο µε την παραπάνω αρχιτεκτονική, το σύστηµα ΤΝ που αναπτύχθηκε από τους Yama και Lineberry [42] είναι βασισµένο πάλι στην αρχιτεκτονική MLP αλλά χρησιµοποιεί τον αρχικό back-propagation αλγόριθµο εκπαίδευσης. Αυτό το δίκτυο έχει ένα κρυφό επίπεδο µε 50 στοιχεία σε αντίθεση µε τα δύο µικρότερα κρυφά επίπεδα του προηγούµενου συστήµατος. Αυτή η διαφορά επαναφέρει το θέµα της πολυπλοκότητας δικτύων, δηλαδή της χρησιµοποίησης ενός ενιαίου αλλά µεγάλου κρυφού επιπέδου ή πολλαπλών αλλά µικρών επιπέδων. Φαίνεται ότι οι περισσότεροι από τους ερευνητές στον τοµέα αυτό επιλέγουν ένα ενιαίο κρυφό επίπεδο κυρίως λόγω του µειωµένου υπολογιστικού δυναµικού που απαιτείται καθώς επίσης και του µικρότερου απαραίτητου πλήθους δειγµάτων εκπαίδευσης. Οι Yama και Lineberry χρησιµοποίησαν δεδοµένα θείου από 1152 δείγµατα από µια απόθεση άνθρακα 7315 x 4572m στη βορειοδυτική Βιρτζίνια. Πρέπει να παρατηρηθεί ότι η χρήση των πραγµατικών στοιχείων σε παρόµοιες µελέτες είναι πολύ σπάνια. Η ιδιοκτησία διαιρέθηκε σε 25 περιοχές (914 x 914m) λόγω περιορισµών στη µνήµη των υπολογιστών στην περίοδο της µελέτης. Για κάθε περιοχή, εκπαιδεύθηκε ένα δίκτυο χρησιµοποιώντας τις συντεταγµένες Χ και Υ ως εισόδους και τις τιµές θείου ως έξοδο. Σε όλες τις τιµές έγινε κανονικοποίηση προτού χρησιµοποιηθούν για την εκπαίδευση και τη δοκιµή των δικτύων. Τα δεδοµένα είχαν κανονική κατανοµή, µια ιδιότητα που οδηγεί συνήθως τα δίκτυα στο να δίνουν αποτελέσµατα κοντά στη µέση τιµή. Η παρουσίαση στο δίκτυο των δειγµάτων κοντά στις ουρές της κατανοµής συχνότερα και µε ένα υψηλότερο συντελεστή εκπαίδευσης βοήθησε να µειωθεί αυτό το φαινόµενο. Τα αποτελέσµατα που επιτεύχθηκαν από τα ΤΝ συγκρίθηκαν µε τα αποτελέσµατα από το kriging. Τα δύο µοντέλα βρέθηκαν πολύ κοντά µεταξύ τους. Οι 21

28 Clarici et al. [8] επίσης περιέγραψαν µια παρόµοια προσέγγιση ενός δικτύου ενιαίου κρυφού επιπέδου νωρίτερα. Σε εκείνη την µελέτη εν τούτοις, µόνο ένα νευρωνικό δίκτυο χρησιµοποιήθηκε για ολόκληρη την περιοχή δειγµατοληψίας Χώρος Γειτονικών ειγµάτων Τριγωνισµού Προερχόµενος από την εκτιµητική µέθοδο τριγώνων, ο χώρος γειτονικών δειγµάτων τριγωνισµού αποτελεί µια πολύ απλή προσέγγιση στην παρουσίαση δειγµάτων σε σύστηµα ΤΝ για την εκτίµηση περιεκτικότητας. Η µέθοδος τριγώνων χρησιµοποιήθηκε στο παρελθόν ως µια απλή χειρονακτική µέθοδος εκτίµησης πριν διαδοθεί η χρήση των ηλεκτρονικών υπολογιστών. Κατά την µέθοδο αυτή επιλέγονται τρία δείγµατα που περιβάλουν το σηµείο εκτίµησης και σχηµατίζουν τρίγωνο όπως φαίνεται στο Σχήµα 3.. Κάθε σηµείο εντός του τριγώνου θεωρείται ότι έχει περιεκτικότητα ίση µε τον µέσο όρο των τιµών των δειγµάτων που σχηµατίζουν το τρίγωνο. Σχήµα 3.3: Χώρος εισόδου δειγµάτων τριγωνισµού. Οι τιµές των δειγµάτων στις κορυφές του τριγώνου λαµβάνονται ως είσοδοι στο ΤΝ µε έξοδο την τιµή του δείγµατος εντός του τριγώνου. Στην περίπτωση της χρήσης ενός τέτοιου χώρου εισόδου για την εκπαίδευση ΤΝ, λαµβάνονται οι περιεκτικότητες των δειγµάτων που σχηµατίζουν το τρίγωνο ως τιµές εισόδου και η περιεκτικότητα του δείγµατος εκπαίδευσης ως η τιµή εξόδου. Τα τρίγωνα σχηµατίζονται κρατώντας το δείγµα εκπαίδευσης εκτός διαδικασίας τριγωνισµού, η οποία βασίζεται στον αλγόριθµο Delaunay. Κάθε δείγµα εκπαίδευσης περιέχεται σε ένα µοναδικό τρίγωνο το οποίο σχηµατίζει τον χώρο εισόδου. Μια ενδιαφέρουσα παραλλαγή 22

29 του χώρου αυτού λαµβάνεται δίνοντας και τις αποστάσεις των γειτονικών δειγµάτων ως εισόδους στο ΤΝ. Η χαµηλή διαστατικότητα του συγκεκριµένου χώρου οδηγεί αναπόφευκτα σε ΤΝ µε πολλά στοιχεία στο κρυφό επίπεδο, ειδικά στην περίπτωση όπου η επιφάνεια της περιεκτικότητας είναι αρκετά πολύπλοκη Χώρος Γειτονικών ειγµάτων Τετάρτων / Ογδόων Στη διάταξη αυτή, ο χώρος γύρω από το σηµείο εκτίµησης χωρίζεται σε τέσσερις ή οκτώ τοµείς µε εύρος 90 ή 45 αντίστοιχα. Από κάθε τοµέα επιλέγεται το κοντινότερο γειτονικό δείγµα (Σχήµα 3.4). Ανάλογα µε την διάταξη δειγµατοληψίας, τα δείγµατα µπορεί να βρίσκονται πάνω σε καθορισµένη κάνναβο ή σε σχετικά ακανόνιστες θέσεις. Σχήµα 3.4: Χώρος δειγµάτων σταθερού πλέγµατος. Στην περίπτωση της καθορισµένης καννάβου, ως είσοδοι στο ΤΝ λαµβάνονται µόνο οι περιεκτικότητες των τεσσάρων ή οκτώ γειτονικών δειγµάτων. Στην περίπτωση που λαµβάνονται οκτώ γειτονικά δείγµατα, αξίζει να παρατηρήσει κανείς ότι τα τέσσερα δείγµατα που βρίσκονται στις διαγώνιους βρίσκονται σε µεγαλύτερη απόσταση από τα άλλα τέσσερα που βρίσκονται στις µεσοκαθέτους. Ο συγκεκριµένος χώρος εισόδου έχει εξετασθεί στο παρελθόν από τον Burnett [6] και Καπαγερίδη (22, 21). Όπως αναµένεται από την σταθερή θέση των γειτωνικών δειγµάτων, τα αποτελέσµατα ήταν ιδιαίτερα καλά. Το πεδίο εφαρµογής όµως αυτής της διάταξης είναι πολύ περιορισµένο καθώς σπάνια αντιµετωπίζει κανείς την εκτίµηση περιεκτικότητας µε δείγµατα που βρίσκονται σε τόσο συγκεκριµένη γεωµετρικά θέση. 23

30 Στις περισσότερες περιπτώσεις, τα δείγµατα βρίσκονται σε πιο αυθαίρετες θέσεις, και ενώ µπορούµε να τα τοποθετήσουµε σε γωνιακούς τοµείς, οι αποστάσεις τους από το σηµείο εκτίµησης είναι µεταβλητές. Έτσι γίνεται απαραίτητη η χρήση της απόστασης τους από το σηµείο εκτίµησης ως µιας ακόµα εισόδου στο ΤΝ (Σχήµα 3.5). Σχήµα 3.5: Χώρος δειγµάτων τετάρτων / ογδόων. Ο συγκεκριµένος χώρος δίνει περισσότερη ελευθερία και µπορεί να χρησιµοποιηθεί σχεδόν σε κάθε περίπτωση. Παράλληλα όµως, οδηγούµαστε σε χώρο εισόδου µε εως και 16 διαστάσεις (οκτώ δείγµατα = οκτώ περιεκτικότητες + οκτώ αποστάσεις = 16 διαστάσεις) γεγονός που αυξάνει τον ελάχιστο αριθµό δεδοµένων που απαιτείται για την ανάπτυξη του ΤΝ (Σχήµα 3.6). Σχήµα 3.6: Πιθανές διατάξεις ΤΝ µε τέσσερα (αριστερά) ή οκτώ (δεξιά) δείγµατα εισόδου. Ως είσοδοι λαµβάνονται η περιεκτικότητα του κάθε δείγµατος και η απόσταση του από το σηµείο εκπαίδευσης/εκτίµησης. 24

31 Οι παραπάνω δυο διατάξεις απαιτούν την ύπαρξη δειγµάτων σε όλους τους τοµείς. Η έλλειψη δείγµατος σε έναν από τους τοµείς καθιστά αδύνατη την πλήρη απόδοση µιας σειράς δεδοµένων στο ΤΝ. Αυτό µπορεί να συµβεί λόγω διάταξης δειγµατοληψίας ή όταν εξετάζονται σηµεία εκτίµησης κοντά στα όρια του χώρου δειγµατοληψίας. Στις περιπτώσεις αυτές είναι αδύνατη η εκπαίδευση / εκτίµηση του ΤΝ στα σηµεία αυτά. Παρά τους περιορισµούς, οι παραπάνω διατάξεις χώρου εισόδου χρησιµοποιήθηκαν µε επιτυχία σε συνδυασµό µε άλλες διατάξεις ως τµήµατα ενός πολυµερούς συστήµατος ΤΝ [21]. 3.3 Χώροι Εισόδου για είγµατα Τριών ιαστάσεων Συντεταγµένων Προσθέτοντας µια ακόµα συντεταγµένη για τον καθορισµό της θέσης των δειγµάτων στον τρισδιάστατο χώρο, οδηγείται κανείς αναπόφευκτα σε πιο πολύπλοκες διατάξεις του χώρου εισόδου και του όλου συστήµατος ΤΝ. Επίσης, η εξέταση της εκτίµησης περιεκτικότητας σε τρεις διαστάσεις οδηγεί συχνά στην ανάγκη αντιµετώπισης των δειγµάτων των εκτιµήσεων ως µη σηµειακών. Τα δείγµατα και οι εκτιµήσεις αναφέρονται πλέον σε συγκεκριµένους όγκους και όχι σε σηµεία. Έτσι ο όγκος των δειγµάτων καθώς και ο όγκος των εκτιµήσεων αποτελούν παραµέτρους στον τρισδιάστατο χώρο που δεν µπορούν να αγνοηθούν αλλά θα πρέπει να συµπεριληφθούν στην διαδικασία εκπαίδευσης και εκτίµησης στα συστήµατα ΤΝ. Οι εκτιµήσεις γίνονται σε µοντέλα µπλοκ και όχι σε µοντέλα πλέγµατος. Τα µοντέλα πλέγµατος δεν έχουν την δυνατότητα να συµπεριλάβουν την έννοια του όγκου στις εκτιµήσεις σε αντίθεση µε τα µοντέλα µπλοκ τα οποία εκφράζουν όγκους από κατασκευής τους. Τα σύγχρονα προγράµµατα µοντελοποίησης µπλοκ, επιτρέπουν την δηµιουργία πολύπλοκων µοντέλων µπλοκ µε πολλούς βαθµούς ελευθερίας στην σχεδίαση και ανάπτυξη τους. Έτσι µπορούµε να µιλάµε πλέον για µοντέλα µπλοκ µε δισεκατοµµύρια µπλοκ, διαφορετικών διαστάσεων µεταξύ τους, τα οποία να περιέχουν έως 500 διαφορετικές µεταβλητές. Οι απαιτήσεις φυσικά σε µνήµη και χωρητικότητα στον 25

32 σκληρό δίσκο του υπολογιστή καµιά φορά ξεφεύγουν ακόµα και από τις δυνατότητες των ιδιαίτερα προηγµένων σύγχρονων προσωπικών υπολογιστών και σταθµών εργασίας. Άσχετα από την πολυπλοκότητα των µοντέλων µπλοκ, η βασική τους δοµή παραµένει η ίδια. Ο τρισδιάστατος χώρος διαιρείται σε µικρότερα τµήµατα (µπλοκ) τα οποία µε την σειρά τους έχουν έναν ορισµένο όγκο. Στα κανονικά µοντέλα όλα τα µπλοκ έχουν ίδιες διαστάσεις και εποµένως ίδιο όγκο. Χαρακτηριστικό των µπλοκ είναι οι συντεταγµένες του κέντρου βάρους τους (κεντροειδές), ο όγκος τους, καθώς και η σειριακή θέση τους. Το µοντέλο, όπως φαίνεται στο παρακάτω σχήµα, ορίζεται στο χώρο από τις συντεταγµένες της αρχής του, την κλίση, το αζιµούθιο, και την παράταξη των αξόνων του, τις διαστάσεις των κύριων µπλοκ, καθώς και από τον αριθµό των κύριων µπλοκ σε κάθε άξονα. Γνωρίζοντας όλα τα στοιχεία αυτά είµαστε σε θέση να τοποθετήσουµε και να οριοθετήσουµε ένα µοντέλο µπλοκ στον τρισδιάστατο χώρο (Σχήµα 3.7). Σχήµα 3.7: οµή µοντέλου µπλοκ. Η διαίρεση του µοντέλου στα κύρια µπλοκ είναι απλή υπόθεση και δεν χρειάζεται κάποιος ιδιαίτερος τρόπος για να επιτευχθεί. Η περαιτέρω διαίρεση των κυρίων µπλοκ σε υπό-µπλοκ όµως πρέπει να γίνει σύµφωνα µε κάποια λογική. Τα υπό-µπλοκ είναι απαραίτητα όπου τα κύρια µπλοκ λόγω του µεγέθους τους δεν µπορούν να ακολουθήσουν µε λεπτοµέρεια επιφάνειες µε ιδιαίτερη σηµασία, όπως το τοπογραφικό 26