ΚΑΙ ΑΣΑΦΗΣ ΛΟΓΙΚΗ (fuzzy logic)

ΕΠΕΞΕΡΓΑΣΙΑ ΣΗΜΑΤΩΝ - ΕΙΚΟΝΑΣ ΚΑΙ ΑΣΑΦΗΣ ΛΟΓΙΚΗ (fuzzy logic) ΔΠΜΣ ΗΕΠ /00

Albert Einstein Lecture to Prussian Academy 9 ΔΠΜΣ ΗΕΠ /00

Lotfi A. Zadeh ΔΠΜΣ ΗΕΠ 3/00

ΔΠΜΣ ΗΕΠ 4/00

Α. Γενικά Ασαφή σύνολα Fuzzy set Crisp set Βαθμός συμμετοχής 0.7 0.3 0 8 55 φωτεινότητα φ00 Βαθμός συμμετοχής 0 8 55 φωτεινότητα ΔΠΜΣ ΗΕΠ 5/00

κίτρινο πορτοκαλί κόκκινο μενεξεδί μπλέ ΔΠΜΣ ΗΕΠ 6/00

(αντι)παράδειγμα ΔΠΜΣ ΗΕΠ 7/00

Ένα ασαφές σύνολο ορίζεται με τη συνάρτηση συμμετοχής: μf(τ) τελικά.. ευχάριστα κρύο μ 0 5 30 35 Τ ζέστη Linguistic variables Γλωσσικές μεταβλητές Πχ. Θερμοκρασία: ζέστη, κρύο, ευχάριστα ΔΠΜΣ ΗΕΠ 9/00

Μπορεί ένα στοιχείο να ανήκει σε δύο σύνολα??? ευχάριστα ζεστά μ 0 0 5 0 5 30 35 Τ ΔΠΜΣ ΗΕΠ 0/00

Συναρτήσεις συμμετοχής Χαρακτηριστικές μορφές ασαφών συνόλων Τριγωνική Τραπεζοειδής μ 0 μ 0 ΔΠΜΣ ΗΕΠ /00

(συν.) άλλες μορφές f (x;a,c ) - f (x;a,c ) ΔΠΜΣ ΗΕΠ /00

Β. Πως παριστάνονται τα ασαφή σύνολα A ~ µ µ N µ Α(x) µ Α(x ) Α(xN) + +... + x x xn i Α (x x i i ) μ Ασαφές Σύνολο με ένα στοιχείο ονομάζεται singleton 0 0 x μ είναι ο βαθμός συμμετοχής membership function (το σύμβολο + δεν σημαίνει άθροισμα) ΔΠΜΣ ΗΕΠ 3/00

Γ. Πράξεις στα ασαφή σύνολα (Zadeh) Ενωση μα Β(x) μα(x) μβ(x) max{μ Α (x),μ Β (x)} Τομή μα Β(x) μα(x) μβ(x) min{μ Α (x),μ Β (x)} Συμπλήρωμα µ ( x) Α (x) Α µ Οι πράξεις αυτές μπορούν να ορισθούν και με άλλους τρόπους. πχ. μ μ Α Α Β Β(x) (x) μ Α μα(x) μβ(x) (x) + μ (x) μ Β Α (x) μ (x) Β ΔΠΜΣ ΗΕΠ 4/00

Τομή,ένωση, συμπλήρωμα - γραφικά ΔΠΜΣ ΗΕΠ 5/00

Ασαφείς κανόνες IF-THEN rules Είναι ένας τρόπος επεξεργασίας Αποτελείται από ένα σύνολο συνθηκών (υποθέσεων) στην είσοδο(antecedent) και μία συνθήκη (δράση-απόφαση ) στην έξοδο (consequent) H εύρεση των κανόνων συνδέεται με μεθόδους ομαδοποίησης (clustering) IF (x, A ) THEN (y,b ) IF (x, A ) AND (x,a ) THEN (y,b ) IF (x, A ) AND (x,a ) THEN (y,b 3 )......... συνήθως: AND minimum, x x OR maximum ΔΠΜΣ ΗΕΠ 6/00

Συνεπαγωγή (inference) Eιναι η διαδικασία που δίνει αριθμητικές τιμές στους ασαφείς κανόνες Οι τεχνικές συνεπαγωγής περιλαμβάνουν και την συνολική εκτίμηση των κανόνων στην έξοδο Οι πλέον γνωστές τεχνικές είναι:. max-min (Mamdani) διακριτές τιμές. max-product (Correlation product)- διακριτές τιμές 3. max-min (Mamdani) ασαφές σύνολο 4. max-product (Correlation product)- ασαφές σύνολο 5. Sugeno ΔΠΜΣ ΗΕΠ 7/00

. max-min (Mamdani)-διακριτές τιμές μ Α Α Β μ Α Α Β Input (i) Input (j) μ y ΔΠΜΣ ΗΕΠ 8/00

. max-product (Correlation product)- διακριτές τιμές μ Α Α Β μ Α Α Β Input (i) Input (j) μ y* ΔΠΜΣ ΗΕΠ 9/00

3. max-min (Mamdani)-ασαφή σύνολα μ Α Input (i) Input (j) Α Β μ Input (i) Α Input (j) Α Β μ y* ΔΠΜΣ ΗΕΠ 0/00

4. max-product (Correlation product)- ασαφή σύνολα μ Α Input (i) Input (j) Α Β μ Input (i) Α Α Input (j) Β μ y* ΔΠΜΣ ΗΕΠ /00

5. «Sugeno» συνεπαγωγή μ Α Α w z μ Α Α w Input (i) Input (j) z y*σw i z i Παρατήρηση: Στη μέθοδο Sugeno ΔΕΝ απαιτείται διαδικασία αποσαφήνισης (defuzzification) ΔΠΜΣ ΗΕΠ /00

max-min (Mamdani) συνεπαγωγή - παράδειγμα ΔΠΜΣ ΗΕΠ 3/00

max-min - ο παράδειγμα ΔΠΜΣ ΗΕΠ 4/00

συνεπαγωγή Sugeno -παράδειγμα ΔΠΜΣ ΗΕΠ 5/00

Αποσαφήνιση (defuzzyfication) Α. Μaximum μ(z*) μ(z) για κάθε z μ z* z B. Κέντρο βάρους (Centroid) z µ (z) z dz µ (z) dz μ Γ. Μέση τιμή-των μεγίστων (συνήθως σε συμμετρικά σύνολα) z µ (z) z µ (z) μ z* z z ΔΠΜΣ ΗΕΠ 6/00

Αποσαφήνιση - Παράδειγμα 0.4 0. 0 0 4 6 0.6 0.4 0. 0 0 4 6 8 0.5 0 4 6 8 0 0.8 0.6 «άθροιση» 0.4 0. 0 0 4 6 8 Κέντρο βάρους (Centroid) z µ (z) z dz µ (z) dz 3.6 4 z 3 (0.3z)zdz + (0.3)zdz + zdz +... 0 3.6 3.6 4 z 3 (0.3z)dz + (0.3)dz + dz +... 0 3.6 4.9 Μέση τιμή- (Weighted average) (0.3.5) + (0.5 5) + ( 6.5) z 0.3 + 0.5 + 5.4 ΔΠΜΣ ΗΕΠ 7/00

Καθορισμός των παραμέτρων (tuning) Οι παράμετροι συνήθως είναι αυτές που καθορίζουν την μορφή στα«ασαφή» σύνολα εισόδου - εξόδου Οι μέθοδοι που χρησιμοποιούνται βασίζονται στις γνωστές τεχνικές όπως: α) Νευρωνικά δίκτυα β) Γενετικοί αλγόριθμοι γ) Βάθμωση δ) ANFIS matlab(adaptive Neuro-fuzzy Inference System). ΔΠΜΣ ΗΕΠ 8/00

Ασαφές σύστημα - ΣΥΝΟΨΗ Ασαφοποίηση Fuzzification Συνεπαγωγή Inference Αποσαφήνιση Defuzzification ΔΠΜΣ ΗΕΠ 9/00

Ένα ερώτημα!! ΔΠΜΣ ΗΕΠ 30/00

Β Fuzzy γεωμετρία Πως θα βρούμε περίμετρο και εμβαδό?? εμβαδό ΔΠΜΣ ΗΕΠ 3/00

περίμετρος συμπαγότητα C(μ) 4π εμβαδόν (περίμετρος) ΔΠΜΣ ΗΕΠ 33/00

Β Μέτρηση της ασάφειας σε εικόνα Η ασάφεια είναι 0 εάν όλα τα μ i είναι 0 ή (π.χ. binary image). Η μέγιστη τιμή βρίσκεται όταν όλα τα μ i 0.5 ΔΠΜΣ ΗΕΠ 34/00

Εφαρμογή:Fuzzy Κατωφλιοποίηση με ελαχιστοποίηση της ασάφειας Το βέλτιστο κατώφλιο βρίσκεται με μετακίνηση της S- function και μέτρηση της «ασάφειας» ΔΠΜΣ ΗΕΠ 35/00

. Select the type of membership function and. Calculate the image histogram 3. Initialize the membership function 4. Move the threshold and calculate in each position the amount of fuzziness using a measure of fuzziness 5. Find out the position with minimum fuzziness 6. Threshold the image with the corresponding threshold ΔΠΜΣ ΗΕΠ 36/00

ο παράδειγμα αρχική εικόνα Μεθοδος Otsu ελαχιστοποίηση ασάφειας ΔΠΜΣ ΗΕΠ 37/00

ο παράδειγμα Στην η γραμμή είναι οι τρείς διαφορετικές συναρτήσεις συμμετοχής και στη η τα αντίστοιχα αποτελέσματα κατωφλιοποίησης της εικόνας (αριστερά) ΔΠΜΣ ΗΕΠ 38/00

B3 Βελτίωση του Contrast Minimization of image fuzziness Από την εργασία S.K.Pal and R.A. King Μία εικόνα που παριστάνεται με την μορφή πίνακα: IMAGE g ( n, n ) x x x x 3 N x x x x 3 N x x x x n n 3 n N n x x x x N N 3 N N N ΔΠΜΣ ΗΕΠ 39/00

Ασαφοποίηση : gray levels μ fuzzification of the gray levels by the transformation G: µ µ X µ µ 3 N / x / x / x / x 3 N µ µ µ µ 3 N / x / x / x / x 3 N µ µ µ µ n n 3n N n / x / x / x / x n n 3n N n µ µ µ µ N N 3N N N / x / x / x / x N N 3N N N 0.5600 0.5900 0.4500 0.5800 0.5700 0.5700 0.4800 0.5600 0.4700 0.5900 0.4500 0.5900 0.5900 0.5500 0.4000 0.4600 0.4700 0.4300 0.400 0.4300 0.4500 0.5400 0.5500 0.5700 0.400 ΔΠΜΣ ΗΕΠ 40/00

Τροποποίηση της συνάρτησης συμμετοχής τελεστής INT Επαναληπτική εφαρμογή και αύξηση του contrast (μ mn μ mn ) - λιγότερη ασάφεια [ ( x) ], ( μ( x) ) μ μ ( x) [ ], 0 μ 0.5 μ ( x) ( x) 0.5 μ ' mn μ mn ΔΠΜΣ ΗΕΠ 4/00

Αποσαφήνιση : μ Gray levels Εφαρμογή του αντίστροφου μετασχηματισμού G : o παράδειγμα) ΔΠΜΣ ΗΕΠ 4/00

Συνοψη της διαδικασίας του τελεστού ΙΝΤ. ασαφοποίηση µ nn G(x nn ) + ( xmax xn n ) F d F e. εφαρμογή του τελεστού ΙΝΤ µ µ εάν µ ( µ ) µ 0.5 εάν > µ > 0.5 3. αντίστροφη διεργασία x n max ( ( )) n x F d µ G F e SET F d, F e, α F d F e IN G(μ) T r (μ) G - (μ ) α OUT ΔΠΜΣ ΗΕΠ 43/00

Βελτίωση του contrast ο παράδειγμα α β γ δ ε (α) Η αρχική εικόνα, (β) το αποτέλεσμα από το histogram equalization, το αποτέλεσμα του αλγορίθμου για (γ) F e, F d 55, (δ) F e, F d 5 και (ε) F e, F d 49 ΔΠΜΣ ΗΕΠ 44/00

Αρχική εικόνα 3 ο παράδειγμα Μετά από 3 επαναλήψεις ΔΠΜΣ ΗΕΠ 45/00

4 ο παράδειγμα Τι παριστάνει αυτή η φωτογραφία?? ΔΠΜΣ ΗΕΠ 46/00

B4. Βελτίωση του contrast «με fuzzy rules» Τροποιείται το ιστόγραμμα ως εξής:. Ασαφοποίηση των τιμών των pixels. Συνεπαγωγή (πχ. IF σκοτεινό THEN g min κλπ) 3. Αποσαφήνιση (Sugeno) μσκοτεινό gmin + μγκρίζο gmid + μ g μ + μ + μ σκοτεινό γκρίζο φωτεινό φωτεινό g max σκοτεινό γκρίζο φωτεινό g min g mid g max μ μ 0 8 55 φωτεινότητα g 0 8 55 φωτεινότητα g ΔΠΜΣ ΗΕΠ 47/00

Β5 Fuzzy edge detection ΔΠΜΣ ΗΕΠ 48/00

B6 Φιλτράρισμα με ασαφή λογική Μετρούμενο Μέγεθος: διαφορές του κεντρικού pixel g mn από τα γειτονικά του g ij. x ij g ij -g mn Η έξοδος y mn αποτελεί μία «διόρθωση» της αρχικής τιμής του pixel g mn : g mn g mn +y mn ΔΠΜΣ ΗΕΠ 49/00

σύνολα εισόδου: MN (medium negative), MP (medium positive) εξόδου: SΝ (small negative), SP (small positive) και Ζ(zero) MN MP SN Z SP -L+ L- -L+ L- Συνεπαγωγή: IF x m-,n- is MP.. AND x m+,n+ is MP THEN y mn is SP IF x m-,n- is MN.. AND x m+,n+ is MN THEN y mn is SN ELSE y mn is ZE ΔΠΜΣ ΗΕΠ 50/00

os κανόνας P P P P P P P P THEN SP Σε διάγραμμα: ος κανόνας N N N N N N N N THEN SN Else THEN Z ΔΠΜΣ ΗΕΠ 5/00

B7. Οι ασαφείς κανόνες αναφέρονται σε παραμέτρους (μαυρόασπρη εικόνα) α)μοντέλο σήματος x(i,j)s(i,j)+n(i,j) β)επιθυμητό φιλτράρισμα: ομάδα : ομογενής περιοχή +Uniform θόρυβος ομάδα : ομογενής περιοχή + Normal θόρυβος ομάδα 3: ομογενής περιοχή + Exp. Θόρυβος midpoint filter mean filter median filter ομάδα 4:ακμή (λεπτομέρεια) + Uniform or Gaussianθόρυβος identity filter ομάδα 5:ακμή (λεπτομέρεια) + Impulsive θόρυβος median filter γ) παράμετροι : K(i,j)σ (i,j)/( σ n + σ (i,j)) Q α (i,j) I(i,j) x(i,j)-median(i,j) / σ n local statistics tail behavior impulse detection ΔΠΜΣ ΗΕΠ 5/00

δ) Ασαφή σύνολα ε)κανόνες If K is small and Q a is small then x(i,j) ομαδα If K is small and Q a is medium then x(i,j) ομαδα If K is small and Q a is Large then x(i,j) ομαδα3 If K is Large and I is small then x(i,j) ομαδα4 If K is large and I is Large then Εξοδος του φίλτρου: y(i, j) 5 k µ k k µ x(i,j) ομαδα5 (i, j) ω k k (i, j) (i, j) ΔΠΜΣ ΗΕΠ 53/00

B8 Εγχρωμη εικόνα - φιλτράρισμα παράμετροι: α) απόκλιση v(x) n β) Δυναμικό, "άθροισμα δυναμικού" i P( ) K Nh i h Διαχωρισμός σε 3 ομάδες (classes) Ασαφή σύνολα (fuzzy sets). N N (X i X) g( X) N X - X -p X K( X) ( ) exp - X p π / N N i P( X i ) ( ) first class v(x), g(x) large. second class v(x) large,g(x) small. third class v(x) small ΔΠΜΣ ΗΕΠ 54/00

Κανόνες Rule:IF (v,large) AND (g, Large) THEN (Class) Rule:IF (v,large) AND (g, Small) THEN (Class) Rule3:IF (v,small) THEN (Class3) μ min(μ L (v), μ L (g)) μ min(μ L (v), μ S (g)) μ 3 μ S (v) first class second class third class pixel is selected as the filter output (VMF) /3 of the total number is averaged all the pixels are selected and averaged. X Vector Μedian N/3 points Averager N points Averager Defuzzification output(x) 3 μ m m 3 m (X) y μ m m (X) (X) g(x) v(x) Fuzzy Inference output(x) Το fuzzy φίλτρο σε διάγραμμα βαθμίδων ΔΠΜΣ ΗΕΠ 55/00

(α) (β) α)εικόνα με θόρυβο: gaussian (0,6) and impulsive (%) β)η έξοδος του προτεινομένου fuzzy filter ΔΠΜΣ ΗΕΠ 56/00

Γ Ομαδοποίηση clustering- Εισαγωγικά ΔΠΜΣ ΗΕΠ 58/00

Παράδειγμα ομαδοποίηση τροχοφόρων Vehicle Top speed km/h Air resistance Weight Kg V 0 0.30 300 V 30 0.3 400 V3 60 0.9 500 V4 40 0.35 800 V5 55 0.33 950 V6 30 0.40 600 V7 00 0.50 3000 V8 05 0.60 500 V9 0 0.55 3500 ΔΠΜΣ ΗΕΠ 59/00

Ομάδες - Clusters 3500 3000 Lorries 500 Weight [kg] 000 500 Medium market cars Sports cars 000 500 00 50 00 50 300 Top speed [km/h] ΔΠΜΣ ΗΕΠ 60/00

Ορολογία Object or data point feature space 3500 label 3000 Lorries 500 cluster feature Weight [kg] 000 500 Medium market cars Sports cars 000 500 00 50 00 50 300 Top speed [km/h] feature ΔΠΜΣ ΗΕΠ 6/00

Αλγόριθμος K-Means data point k cluster centre i cluster centre j v j u ik if Xk Vi Xk Vj 0 otherwise distance v i i V i c i k C n k C u X i ik u ik k X k ΔΠΜΣ ΗΕΠ 6/00

παράδειγμα Διαχωρισμός ( κλάσσεις) Tiles are made from clay moulded into the right shape, brushed, glazed, and baked. Unfortunately, the baking may produce invisible cracks. Operators can detect the cracks by hitting the tiles with a frequency intensities 475Hz 557Hz Ok? -----+-----+--- 0.958 0.003 Yes.043 0.00 Yes.907 0.003 Yes 0.780 0.00 Yes 0.579 0.00 Yes 0.003 0.05 No 0.00.748 No 0.04.839 No 0.007.0 No 0.004 0.4 No hammer, and in an automated system the response is recorded with a microphone, filtered, Fourier transformed, and normalised. (adapted from MIT, 997). Ένα καλο site: http://www.hackchina.com/en/r/34453/kmeanstestdemo.m html ΔΠΜΣ ΗΕΠ 63/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz ΔΠΜΣ ΗΕΠ 64/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Βήμα Τυχαία επιλογή κέντρων Κάθε σημείο (data point * και o) ανατίθεται στο πλησιέστερο κέντρο ΔΠΜΣ ΗΕΠ 65/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Βήμα Υπολογίζουμε τα νέα κέντρα και Κάθε σημείο (data point * και o) ανατίθεται πάλι στο πλησιέστερο κέντρο ΔΠΜΣ ΗΕΠ 66/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Επανάληψη ΔΠΜΣ ΗΕΠ 67/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Επανάληψη3 ΔΠΜΣ ΗΕΠ 68/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Επανάληψη4 Ο αλγόριθμος τερματίζεται διότι δεν υπάρχει καμμία αλλαγή ΔΠΜΣ ΗΕΠ 69/00

Πίνακας διαμερισμού Partition matrix Κέντρο 0 0 0 0 Κέντρο 0 0 0 0 ΔΠΜΣ ΗΕΠ 70/00

Τι ελαχιστοποιήσαμε?? κλάσσεις δεδομένα v J c i J i c i k,x C k X i k V i v X k ΔΠΜΣ ΗΕΠ 7/00

VLAD : Vector of Locally Aggregated Descriptors ΔΠΜΣ ΗΕΠ 7/00

Γ Αλγόριθμος Fuzzy C-Means fcm n σημεία, c κέντρα U ik η τιμή συμμετοχής του X k στο κέντρο V i ΔΠΜΣ ΗΕΠ 73/00

fcm τα βήματα v X k U k ο βήμα: υπολογισμός των U ik U k u ik c d i ik d ik όπου : d ik V i X k c u ik γιά k,,..n 0 < u ik < n i k n v ΔΠΜΣ ΗΕΠ 74/00

fcm τα βήματα v X k ο βήμα: υπολογισμός των κέντρων V i U k U k V i n k n u k m ik u X m ik k i c v ΔΠΜΣ ΗΕΠ 75/00

FCM - σύνοψη J c n i k u m ik X k V i Xdata Nxp U partition matrix u u C u u N CN V Centroids [ V, V,..., V C ] Objective function J (t) J (t ) < ε CONTINUE STOP Επαναληπτική διαδικασία ΔΠΜΣ ΗΕΠ 76/00

fcmdemo παράδειγμα Διαχωρισμός ( κλάσεις) ΔΠΜΣ ΗΕΠ 77/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Βήμα Τυχαία επιλογή κέντρων Κάθε σημείο (data point * και o) λαμβάνει μία τιμή συμμετοχής ανάλογα με την απόσταση από τα κέντρα ΔΠΜΣ ΗΕΠ 78/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Βήμα Υπολογίζονται τα καινούρια κέντρα και στη συνέχεια οι καινούριες τιμές συμμετοχής ΔΠΜΣ ΗΕΠ 79/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Επανάληψη ΔΠΜΣ ΗΕΠ 80/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Επανάληψη 5 ΔΠΜΣ ΗΕΠ 8/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Επανάληψη 0 ΔΠΜΣ ΗΕΠ 8/00

Tiles data: o whole tiles, * cracked tiles, x centres 0 log(intensity) 557 Hz - - -3-4 -5-6 -7-8 -8-6 -4-0 log(intensity) 475 Hz Επανάληψη 3- τερματισμός ΔΠΜΣ ΗΕΠ 83/00

Πίνακας διαμερισμού (Partition matrix) U ik Κέντρο Κέντρο 0.005 0.009 0.09 0.000 0.007 0.9393 0.9638 0.9574 0.9906 0.9807 0.9975 0.9909 0.987 0.9999 0.9893 0.0607 0.036 0.046 0.0094 0.093 Τι άθροισμα έχουν οι στήλες?? ΔΠΜΣ ΗΕΠ 84/00

Πίνακας διαμερισμού (Partition matrix) Κέντρα c u u C u u N CN v v 3 v Δεδομένα Ν X k ΔΠΜΣ ΗΕΠ 85/00

Τι ελαχιστοποιήσαμε?? συνάρτηση «κόστους» - Objective function J c n i k u m ik X k V i τερματισμός του αλγορίθμου fcm J(n+)-J(n) ε ή {Uik(n + )} {Uik(n)} ε ΔΠΜΣ ΗΕΠ 86/00

Cluster Validity αξιοπιστία εγκυρότητα ομαδοποίησης Άλλα μέτρα? c N PC(c) (u ) N i j PC(c) trace U U N N i j ij { T } ik ik c N CE(c) u ln(u ) XB(c) c N ( ) i j ij ij u X V ij j i N min V V ij j i Ισοδύναμα: ΔΠΜΣ ΗΕΠ 87/00

Cluster Validity -Πίνακας διαμερισμού και. ασάφεια U ik 0.9 0.58 0.3 0.09 0.4 0.87 U ik 0.9 0.80 0.0 0.09 0.0 U ik 0.0 0 0 U ik * U T ik.84 0.4386 0.4386 0.944 U ik * U T ik.468 0.49 0.49.048 U ik * U T ik 0 0 trace/3 0.7076 Trace/30.8387 Τrace/3 ΔΠΜΣ ΗΕΠ 88/00

Ελάχιστη ασάφεια βέλτιστη ομαδοποίηση (σωστός αριθμός κλάσεων) 3.5.5.5.5 3 Τα δεδομένα (4 κλάσεις) Δείκτης ασάφειας PC 0.8 0.6 0.4 0. 0 0 5 0 5 0 Αριθμός κλάσεων c X_data[repmat([,],00,);repmat([,],00,); repmat([,],00,); repmat([,],00,)]; X_dataX_data+0.7*rand(400,);[N,p]size(X_data); plot(x_data(:,),x_data(:,),'o') Fuziness[] for k:0;[prot,u]fcm(x_data,k);fuziness(k)trace(u*u')/n ; end figure; plot(fuziness,'.-'),grid ΔΠΜΣ ΗΕΠ 89/00

FCM D Example - Eνα πρόβλημα.. compact groups spurious patterns FCM sensitivity to noisy data ΔΠΜΣ ΗΕΠ 90/00

Η λύση - Conditional fcm Ας δούμε τον U ij u ik c N u ik fk γιά k,,..n 0 < u ik < i k c j f k ( ) d d ik ij όπου : d ik Τι αλλάζει?? X i X k N Κέντρο Κέντρο 0.005 0.0046 0.009 0.0064 0.09 0.000 0.007 0.9393 0.9638 0.9574 0.9906 0.9807 0.9975 0.4594 0.9909 0.4935 0.987 0.9999 0.9893 0.0607 0.036 0.046 0.0094 0.093 f f 3 0.5 ΔΠΜΣ ΗΕΠ 9/00

Mountain clustering- Subtractive clustering Δύο τεχνικές ομαδοποίησης If you do not have a clear idea how many clusters there should be for a given set of data, Subtractive clustering, Βρίσκουν is a fast, τον one-pass αριθμό algorithm των κλάσεων for estimating the number of clusters and the cluster centers in a set of data. The cluster estimates, Χρησιμοποιούνται which are obtained και from βοηθητικά the subclust στον function, fcm can be used to (και initialize ανεξάρτητα) iterative optimization-based clustering methods (fcm) υλοποίηση ΔΠΜΣ ΗΕΠ 9/00

Mountain clustering Σε ένα grid υπολογίζω: Αφαιρώ το μέγιστο: Συνεχίζω με το επόμενο μέγιστο Έχει μεγάλο υπολογιστικό κόστος ΔΠΜΣ ΗΕΠ 93/00

Subtractive clustering D k K j e u k r u a j Για κάθε δεδομένο j θεωρούμε μία Gaussian συνάρτηση. Σε κάθε σημείο k του χώρου δημιουργείται ένα βουνό σαν άθροισμα των επί μέρους Gaussian συναρτήσεων. ΔΠΜΣ ΗΕΠ 94/00

Επίδραση της «ακτίνας» r a Δεδομένα Μεγάλη «ακτίνα» μικρή «ακτίνα» Πολύ μικρή «ακτίνα» ΔΠΜΣ ΗΕΠ 95/00

Αφαίρεση του μέγιστου «βουνού» D ' k D k D c e u k u συνέχεια (διαδοχική αφαίρεση και των υπολοίπων) r a c ΔΠΜΣ ΗΕΠ 96/00

Ένα παράδειγμα (δορυφορική εικόνα) Mountain clustering fcm ΔΠΜΣ ΗΕΠ 97/00

FCM - παράδειγμα - υπολογισμοί ΔΠΜΣ ΗΕΠ 98/00

Παράδειγμα fcm n4,c x x x x 3 4 {,3} {.5,3.} {.3,.8} {3,} 4 3 0 0 3 4 ο βήμα:υπολογισμός των U ik Θέτουμε αυθαίρετα {U (0) ik } 0 0 0 0 ο βήμα: υπολογισμός των κέντρων V i UΧ + UX + U3X3 + U4X4 X + X + X3 V U + U + U3 + U4 + + X X X3 +.5 +.3 3 + 3. +.8 + + {, } {.6,3} 3 3 3 3 3 U Χ + UX U + U + U + U X3 + U + U X X 3 4 4 4 V 3 4 {3,} ΔΠΜΣ ΗΕΠ 99/00

Ψηφιακή Επεξεργασία Εικόνας ΔΠΜΣ ΗΕΠ Σ. Φωτόπουλος ΠΑΝ. ΠΑΤΡΩΝ 00/00 Παράδειγμα fcm (συνέχεια) η επανάληψη -ο βήμα:υπολογισμός των U ik 0.0 ) ( 3) (3 d.65 3) (.6) (3 d.47 ) (.8 3) (.3 d 0. 3) (.8.6) (.3 d.66 ) (3. 3) (.5 d 0.3 3) (3..6) (.5 d.8 ) (3 3) ( d 0.6 3) (3.6) ( d 4 4 3 3 + + + + + + + + 0 0.65 d d d d μ 0.993.47 0. d d d d μ 0.986.66 0.3 d d d d μ 0.99.8 0.6 d d d d μ 4 4 4 4 4 3 3 3 3 3 + + + + + + + + 0 0.007 0.04 0.009 0.993 0.986 0.99 } {U () ik... μ 0.007... μ 0.04... μ 0.009... μ 4 3 Ομοίως:

η επανάληψη ο βήμα: υπολογισμός των κέντρων V i UΧ + UX + U3X3 + U4X4 0.99 X + 0.986 X + 0.993 X3... U + U + U + U 0.99 + 0.986 + 0.993 V 3 4 {.6,3} U Χ + UX U + U + U + U X3 + U + U X 0.009 X + 0.009 X + 0.007 X3 + X 0.009 + 0.009 + 0.007 + V 3 4 4 4... 3 4 {3,} Έλεγχος σύγκλισης () (0) () (0) {Uik Uik } max μ μ i,k ικ ik 0.034 Εάν η τιμή αυτή είναι ικανοποιητική σταματά η διαδικασία. Διαφορετικά προχωρούμε σε η επανάληψη ΔΠΜΣ ΗΕΠ 0/00