Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 2

Σχετικά έγγραφα
Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 4

HMY 799 1: Αναγνώριση Συστημάτων

y(k) + a 1 y(k 1) = b 1 u(k 1), (1) website:

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 11

Π Ο Λ Ι Τ Ι Κ Α Κ Α Ι Σ Τ Ρ Α Τ Ι Ω Τ Ι Κ Α Γ Ε Γ Ο Ν Ο Τ Α

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 5

HMY 799 1: Αναγνώριση. συστημάτων. Διαλέξεις 6 7. Συνάφεια (συνέχεια) Μη παραμετρική αναγνώριση γραμμικών

ΣΗΜΑΤΑ ΚΑΙ ΣΥΣΤΗΜΑΤΑ Ι

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 12

website:

Εφαρμοσμένα Μαθηματικά ΙΙ

Α Ρ Ι Θ Μ Ο Σ : 6.913

Εφαρμοσμένα Μαθηματικά ΙΙ

Εισαγωγή στις Τηλεπικοινωνίες. Δομή της παρουσίασης

ΣΗΜΑΤΑ ΚΑΙ ΣΥΣΤΗΜΑΤΑ Ι

(1) L{a 1 x 1 + a 2 x 2 } = a 1 L{x 1 } + a 2 L{x 2 } (2) x(t) = δ(t t ) x(t ) dt x[i] = δ[i i ] x[i ] (3) h[i, i ] x[i ] (4)

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 9

Περί ανώμαλων πινάκων συμ-μεταβλητοτήτων

Περί ανώμαλων πινάκων συμ-μεταβλητοτήτων

HY213. ΑΡΙΘΜΗΤΙΚΗ ΑΝΑΛΥΣΗ ΕΛΑΧΙΣΤΑ ΤΕΤΡΑΓΩΝΑ AΝΑΛΥΣΗ ΙΔΙΑΖΟΥΣΩΝ ΤΙΜΩΝ

2.1 Αριθμητική επίλυση εξισώσεων

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Σερρών Τμήμα Πληροφορικής & Επικοινωνιών Σήματα και Συστήματα

2. Α ν ά λ υ σ η Π ε ρ ι ο χ ή ς. 3. Α π α ι τ ή σ ε ι ς Ε ρ γ ο δ ό τ η. 4. Τ υ π ο λ ο γ ί α κ τ ι ρ ί ω ν. 5. Π ρ ό τ α σ η. 6.

Ο μαθητής που έχει μελετήσει το κεφάλαιο αυτό θα πρέπει να είναι σε θέση:

Μέθοδος μέγιστης πιθανοφάνειας

Δυναμική Μηχανών I. Διάλεξη 12. Χειμερινό Εξάμηνο 2013 Τμήμα Μηχανολόγων Μηχ., ΕΜΠ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

E[ (x- ) ]= trace[(x-x)(x- ) ]

z = c 1 x 1 + c 2 x c n x n

Αναγνώριση Προτύπων Ι


= 7. Στο σημείο αυτό θα υπενθυμίσουμε κάποιες βασικές ιδιότητες του μετασχηματισμού Laplace, δηλαδή τις

Μέρος V. Ανάλυση Παλινδρόμηση (Regression Analysis)

Συστήματα Αυτομάτου Ελέγχου 1 Ενότητα # 6: Έννοια της συνάρτησης μεταφοράς Παραδείγματα εφαρμογής σε φυσικά συστήματα

Περιεχόμενα. Πρόλογος 3

HMY 220: Σήματα και Συστήματα Ι

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Σερρών Τμήμα Πληροφορικής & Επικοινωνιών Σήματα και Συστήματα

ΕΙΣΑΓΩΓΗ ΣΤΗ ΒΕΛΤΙΣΤΟΠΟΙΗΣΗ ΣΥΣΤΗΜΑΤΩΝ

ΦΙΛΤΡΟ KALMAN ΔΙΑΚΡΙΤΟΥ ΧΡΟΝΟΥ

ΠΡΟΓΡΑΜΜΑ ΣΠΟΥΔΩΝ ΣΤΗΝ ΠΛΗΡΟΦΟΡΙΚΗ ΜΑΘΗΜΑΤΙΚΑ Ι (ΘΕ ΠΛΗ 12) ΕΡΓΑΣΙΑ 2 η Ημερομηνία Αποστολής στον Φοιτητή: 28 Νοεμβρίου 2011

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 7

HMY 799 1: Αναγνώριση Συστημάτων

Ανασκόπηση θεωρίας ελαχίστων τετραγώνων και βέλτιστης εκτίμησης παραμέτρων

Αναγνώριση Προτύπων Ι

HMY 795: Αναγνώριση Προτύπων

Παραρτήματα. Παράρτημα 1 ο : Μιγαδικοί Αριθμοί

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 10

Εισαγωγικές έννοιες. Κατηγορίες προβλημάτων (σε μια διάσταση) Προβλήματα εύρεσης μεγίστου. Συμβολισμοί

ΨΗΦΙΑΚΗ ΕΠΕΞΕΡΓΑΣΙΑ ΣΗΜΑΤΩΝ Δειγµατοληψία. Εµµανουήλ Ζ. Ψαράκης Πολυτεχνική Σχολή Τµήµα Μηχανικών Η/Υ & Πληροφορικής

ΕΛΕΓΧΟΣ ΠΑΡΑΓΩΓΙΚΩΝ ΔΙΕΡΓΑΣΙΩΝ

ΓΡΑΜΜΙΚΗ ΑΛΓΕΒΡΑ (Εξ. Ιουνίου - 02/07/08) ΕΠΙΛΕΓΜΕΝΕΣ ΑΠΑΝΤΗΣΕΙΣ

HMY 799 1: Αναγνώριση Συστημάτων

Πολυβάθμια Συστήματα. (συνέχεια)

ΗΡΑΚΛΕΙΤΟΣ ΦΡΟΝΤΙΣΤΗΡΙΟ ΜΕΣΗΣ ΕΚΠΑΙΔΕΥΣΗΣ ΗΡΑΚΛΕΙΤΟΣ ΠΑΝΕΛΛΗΝΙΕΣ ΕΞΕΤΑΣΕΙΣ Γ ΤΑΞΗΣ ΗΜΕΡΗΣΙΟΥ ΓΕΝΙΚΟΥ ΛΥΚΕΙΟΥ ΚΑΙ ΕΠΑΛ (ΟΜΑΔΑ Β') ΔΕΥΤΕΡΑ 28 ΜΑΪΟΥ 2012

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Σερρών Τμήμα Πληροφορικής & Επικοινωνιών Σήματα και Συστήματα

ΜΕΜ251 Αριθμητική Ανάλυση

ΑΝΑΠΤΥΓΜA - ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΣ FOURIER ΑΝΑΛΟΓΙΚΩΝ ΣΗΜΑΤΩΝ. Περιγράψουµε τον τρόπο ανάπτυξης σε σειρά Fourier ενός περιοδικού αναλογικού σήµατος.

Σήματα και Συστήματα. Διάλεξη 6: Ανάλυση Σημάτων σε Ανάπτυγμα Σειράς Fourier. Δρ. Μιχάλης Παρασκευάς Επίκουρος Καθηγητής

Σήματα και Συστήματα. Διάλεξη 9: Μελέτη ΓΧΑ Συστημάτων με τον Μετασχηματισμό Fourier. Δρ. Μιχάλης Παρασκευάς Επίκουρος Καθηγητής

Γραφική Λύση & Πρότυπη Μορφή Μαθηματικού Μοντέλου

ΑΝΑΛΥΣΗ ΔΙΑΚΥΜΑΝΣΗΣ. Επικ. Καθ. Στέλιος Ζήμερας. Τμήμα Μαθηματικών Κατεύθυνση Στατιστικής και Αναλογιστικά Χρηματοοικονομικά Μαθηματικά

(CLR, κεφάλαιο 32) Στην ενότητα αυτή θα µελετηθούν τα εξής θέµατα: Παραστάσεις πολυωνύµων Πολυωνυµική Παρεµβολή ιακριτός Μετασχηµατισµός Fourier

Όταν θα έχουµε τελειώσει το Κεφάλαιο αυτό θα µπορούµε να:

Εφαρμοσμένη Στατιστική

Συνδυαστική Βελτιστοποίηση Εισαγωγή στον γραμμικό προγραμματισμό (ΓΠ)

HMY 220: Σήματα και Συστήματα Ι

v a v av a, τότε να αποδείξετε ότι ν <4.

Γραµµική Αλγεβρα. Ενότητα 3 : ιανυσµατικοί Χώροι και Υπόχωροι. Ευστράτιος Γαλλόπουλος Τµήµα Μηχανικών Η/Υ & Πληροφορικής

Στοχαστικές Μέθοδοι στους Υδατικούς Πόρους Φασματική ανάλυση χρονοσειρών

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διδάσκων: Αντώνιος Τζές

Τοπογραφικά Δίκτυα & Υπολογισμοί

cos ϑ sin ϑ sin ϑ cos ϑ

Μέθοδος αιχμηρής εκτίμησης σε ασταθή γραμμικά μοντέλα

HMY 795: Αναγνώριση Προτύπων

ΣΤΟΧΑΣΤΙΚΑ ΣΗΜΑΤΑ ΚΑΙ ΕΦΑΡΜΟΓΕΣ

Διάλεξη 1: Στατιστική Συμπερασματολογία - Εκτίμηση Σημείου

< = ) Τ 1 <Ο 6? <? Ν Α <? 6 ϑ<? ϑ = = Χ? 7 Π Ν Α = Ε = = = ;Χ? Ν !!! ) Τ 1. Ο = 6 Μ 6 < 6 Κ = Δ Χ ; ϑ = 6 = Σ Ν < Α <;< Δ Π 6 Χ6 Ο = ;= Χ Α

Ανασκόπηση θεωρίας ελαχίστων τετραγώνων και βέλτιστης εκτίμησης παραμέτρων

ΚΕΦΑΛΑΙΟ 5 ο. ΓΕΩΜΕΤΡΙΚOΣ ΤΟΠΟΣ ΤΩΝ PIZΩN ή ΤΟΠΟΣ ΕVANS

HMY 429: Εισαγωγή στην Επεξεργασία Ψηφιακών Σημάτων. Διάλεξη 22: Γρήγορος Μετασχηματισμός Fourier Ανάλυση σημάτων/συστημάτων με το ΔΜΦ

Εφαρμοσμένα Μαθηματικά ΙΙ Τελική Εξέταση Ι. Λυχναρόπουλος

12. ΑΝΙΣΩΣΕΙΣ Α ΒΑΘΜΟΥ. είναι δύο παραστάσεις μιας μεταβλητής x πού παίρνει τιμές στο

ΕΝΟΤΗΤΑ 12: ΑΠΟΚΡΙΣΗ ΣΥΧΝΟΤΗΤΑΣ ΔΙΑΓΡΑΜΜΑΤΑ BODE

Εφαρμοσμένη Στατιστική: Συντελεστής συσχέτισης. Παλινδρόμηση απλή γραμμική, πολλαπλή γραμμική

ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΦΥΣΙΚΗΣ. ΘΕΩΡΙΑ ΚΥΚΛΩΜΑΤΩΝ και ΣΗΜΑΤΩΝ Σ.Δ. Φωτόπουλος 1/22

Συστήματα Αυτόματου Ελέγχου

Μαθηµατικά Θετικής και Τεχνολογικής Κατεύθυνσης ΚΕΦΑΛΑΙΟ. 1 ο :Μιγαδικοί Αριθµοί

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Σερρών Τμήμα Πληροφορικής & Επικοινωνιών Σήματα και Συστήματα

Ψηφιακός Έλεγχος. 6 η διάλεξη Σχεδίαση στο χώρο κατάστασης. Ψηφιακός Έλεγχος 1

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

Μέθοδος μέγιστης πιθανοφάνειας

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών. Διάλεξη 13

ΓΡΑΜΜΙΚΗ ΑΛΓΕΒΡΑ (ΗΥ-119)

Προσαρµοστικοί Αλγόριθµοι Υλοποίησης Βέλτιστων Ψηφιακών Φίλτρων: Ο αναδροµικός αλγόριθµος ελάχιστων τετραγώνων (RLS Recursive Least Squares)

2 Ο ΚΕΦΑΛΑΙΟ Ενότητα 5.

Απλή Γραμμική Παλινδρόμηση I

Interpolation (1) Τρίτη, 3 Μαρτίου Σελίδα 1

ΦΡΟΝΤΙΣΤΗΡΙΟ ΜΕΣΗΣ ΕΚΠΑΙΔΕΥΣΗΣ ΗΡΑΚΛΕΙΤΟΣ

Δυναμική Μηχανών I. Διάλεξη 9. Χειμερινό Εξάμηνο 2013 Τμήμα Μηχανολόγων Μηχ., ΕΜΠ

Kεφάλαιο 4. Συστήματα διαφορικών εξισώσεων. F : : F = F r, όπου r xy

Transcript:

Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Τομέας Συστημάτων και Αυτομάτου Ελέγχου ΠΡΟΣΑΡΜΟΣΤΙΚΟΣ ΕΛΕΓΧΟΣ Διάλεξη 2 Πάτρα 2008

Εμπειρικός προσδιορισμός συνάρτησης μεταφοράς j2πκ i N F Symmetric με F, = e, j = 1 i κ Σύστημα

Έχουμε: F X : Διακριτός μετασχηματισμός Fourier του διανύσματος X * 1 F F =, όπου Ν συνήθως είναι δύναμη του 2 (πχ 4,8,16 4816) N Hˆ = F Y / F X : Στοιχείο προς στοιχείο διαίρεση ( ) ( )

Υποθέτουμε ότι: ( ) 0,, 1 0 F X i = N για κάποιο i Τότε η εκτίμηση της συνάρτησης μεταφοράς στο πεδίο της συχνότητας δίνεται από την: ĥ 0 ĥ 1 Hˆ = hˆ N /2 h ˆ N /2 + 1 h ˆN 1 Επομένως:, Ĥ C, Ισχύει για X, ˆ = ˆ* N i hi h ˆi (μιγαδικός αριθμός ) : εκτίμηση της συνάρτησης μεταφοράς στο 2π i ω =, όπου η περίοδος δειγματοληψίας (αν υπάρχει) ΝΤ i h

Θεωρούμε: y( t) H ( z ) x() t v() t 1 () = 0( ) () + () σταθερή στοχαστική διαδικασία με φάσμα Φv ( ω) και Rv ( τ ) συνδιασπορά και ισχύει: [ () ( )] Evt vt τ υπόκειται στο τ ( τ) < Υποθέτουμε το ut () είναι ανεξάρτητο των () R v vt και ( ut ()) C τότε ( ) ( ω) iω iω ρ1 N = 0 ( ) + U N EHˆ ( e ) H e 2 κ h0 ( κ) ( N) κ = 0 ρ max u( t) 1 N

ˆ iω ˆ i i ξ ξ E H( e ) H 0 H( e ) H0( e ) = 1 ( ) 2 Φ V ω + ρz ( N ) αν ξ=ω U N ( ω) = ρz ( N ) 2 π αν ξ-ω = κ, κ=1,2,,ν-1 UN( ω) UN( ξ) N Cz ρz ( N) N

+Δ+ i +Δ+ i Hˆ( ω ) ˆ i = ajh( ω j) / aj j= Δ+ i j= Δ+ i ˆ iω 1 ˆ i H ( e ) H( e ) @ time t = ω M @ times t-n n= 1 a επιλογή Barlett, Parzen, Hamming windows - 1 j j i Δ

Μέθοδος ελαχίστων τετραγώνων Η μέθοδος ελαχίστων τετραγώνων (LS) είναι η βασική μέθοδος για την εκτίμηση τωνπαραμέτρωνενός(σ) (Σ). Βάσει αυτής της μεθόδου οι άγνωστες παράμετροι ενός μαθηματικού μοντέλου πρέπει να επιλεχθούν έτσι ώστε: Το αθροισμα των τετραγώνων των διαφορών μεταξύ των πραγματικών παρατηρηθέντων τιμών και των υπολογισμένων τιμών, πολλαπλασιασμένο από αριθμούς που μετρούν τον βαθμό ακριβείας, είναι ελάχιστο.

Η μέθοδος αυτή βρίσκει εφαρμογή σε πολλά προβλήματα αλλά είναι ιδιαιτέρως απλή για ένα μαθηματικό μοντέλο της μορφής: y() t = φ () t θ + φ () t θ + + φ () t θ = φ() t θ 1 1 2 2 n n όπου η παρατηρηθείσα μεταβλητή, θ 1, θ 2,,θ n είναι άγνωστες παράμετροι και φ 1, φ 2,,φ n είναι γνωστές συναρτήσεις που μπορούν να βασίζονται σε άλλες γνωστές μεταβλητές

Οι μεταβλητές φi ονομάζονται και μεταβλητές οπισθοπορείας (regression variables). Έχουμε: = [ ] και = [ ] φ () t φ () t φ () t φ () t 1 2 n θ θ1 θ n [ ] Yt () = y(1) y(2) K yt () [ ε ε ε t] Et () = (1) (2) K () όπου φ (1) Φ () t = φ () t ε () i = y() i yˆ () i = y() i φ () i θ

Το σφάλμα της μεθόδου ελαχίστων τετραγώνων μπορεί επομένως να γραφει ως εξής: t t 1 2 1 V( θ, t) = ε( i) = ( y( i) φ ( i) θ) 2 = 2 2 i= 1 i= 1 1 Τ 1 = ΕΕΕ = Ε 2 2 2 (E) όπου Ε =Υ Υ=Υ Φ ˆ θ Η λύση στο πρόβλημα ελαχίστων τετραγώνων δίνεται από το θεώρημα που ακολουθεί.

Θεώρημα Η συνάρτηση απώλειας (Ε) γίνεται ελάχιστη για παραμέτρους ˆ θ τέτοιες ώστε: ΦΦ ˆ θ = Φ Y Αν ο πίνακας ΦΦείναι ί μη ιδιάζων, τότε το ελάχιστο είναι μοναδικό και δίνεται από τη σχέση: ˆ θ ( ) 1 = Φ Φ Φ Y

Απόδειξη: Η συνάρτηση απώλειας (Ε) μπορεί να γραφεί ως: Τ ( ) ( ) 2 V( θ, t) = E E = Y Φθ Y Φ θ = Y Y Y Φθ θ Φ Y + θ Φ Φ θ Εφόσον ο πίνακας Φ Φ είναι πάντα μη αρνητικά ορισμένος, η συνάρτηση V έχει ένα ελάχιστο.

Έχουμε: 2 V( θ, t) = Y Y Y Φθ θ Φ Y + θ Φ Φθ ( ) 1 1 1 + Y Φ( Φ Φ) Φ Y Y Φ Φ Φ Φ Y ( ( ) ) θ ( ) ( ) ( θ ( ) ) 1 1 1 = Y I Φ Φ Φ Φ Y + Φ Φ Φ Y Φ Φ Φ Φ Φ Y Ο πρώτος όρος στο δεξιό μέρος είναι ανεξάρτητος του θ. Οδ δεύτερος όρος είναι πάντα θετικός. Το ελάχιστο δίδεται από: Κι επομένως το θεώρημα αποδείχθηκε. ( ) 1 θ = θˆ = Φ Φ Φ Y

Παρατηρήσεις: Η προηγούμενη εξίσωση μπορεί να γραφεί ως εξής: t 1 t t ˆ( θ t ) = φ () i φ () i φ () i y () i = P () t φ () i y () i i= 1 i= 1 i= 1 Η συνθήκη για την οποία ο πίνακας συνθήκη διέγερσης. ΦΦ είναι αντιστρέψιμος ονομάζεται

Γεωμετρική ερμηνεία Το πρόβλημα ελαχίστων τετραγώνων μπορεί να αναχθεί σε γεωμετρικό πρόβλημα. Έχουμε λοιπόν την εξίσωση E = Y Yˆ = Y Φ θ να δίδεται ως εξής: ε (1) y(1) φ1 (1) φn (1) ε (2) y(2) φ1 (2) φn (2) = θ 1 θ n ε () t y () t φ 1 () t φ n() t Ή αλλιώς: 1 2 n E = Y φ θ1 φ θ2 φ θ n Όπου τετραγώνων μπορεί να αναχθεί σε πρόβλημα εύρεσης των σταθερών:, 1 i φ είναι οι στήλες του πίνακα Φ. Συνεπώς το πρόβλημα ελαχίστων θ, θn έτσι ώστε το διάνυσμα Υ να προσεγγίζεται όσο γίνεται καλύτερα από έναν 1 2 n γραμμικό συνδυασμό των διανυσμάτων φ, φ,, φ.

Ας υποθέσουμε ότι το διάνυσμα Y ˆ προσεγγίζεται βέλτιστα από έναν 1 2 n γραμμικό συνδυασμό των φ, φ,, φ και ότι E = Y Yˆ. Y 2 φ Yˆ Τότε το διάνυσμα Ε είναι το μικρότερο δυνατόν όταν είναι ορθογώνιο σε i όλα τα διανύσματα φ. Αυτό σημαίνει ότι: 1 φ i 1 2 n ( φ ) ( θφ θ φ θnφ ) y 1 2 = 0, i = 1,., n. 1 2 n Το διάνυσμα θ είναι μοναδικό αν τα φ, φ,, φ είναι γραμμικώς ανεξάρτητα.