Πανεπιστήμιο Πατρών Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Τομέας Συστημάτων και Αυτομάτου Ελέγχου ΠΡΟΣΑΡΜΟΣΤΙΚΟΣ ΕΛΕΓΧΟΣ Διάλεξη 4 Πάτρα 2008
Ντετερμινιστικά Moving Average Μοντέλα Ισχύει: n y() t = b u( t j) = φ ( t 1) j = 1 j θ 0 όπου [ b b n ] [ ] θ,, 0 = 1 φ ( t 1) = u( t 1),, u( t n) Σε αυτήν την περίπτωση, οι συνθήκες (1) (3) που είδαμε προηγουμένως για τους διαφόρους αλγορίθμους εκφράζονται σαφώς συναρτήσει της εισόδου {u(t)}.
Για παράδειγμα η συνθήκη (3) εκφαίνεται από την ακόλουθη «ισχυρή μόνιμης διεγέρσεως» συνθήκη: Ορισμός: Το σήμα εισόδου { ut () } λέγεται πως είναι ισχυρώς μόνιμα διεγερμένο τάξης n, αν t υπάρχει ένας ακέραιος l έτσι ώστε: uk ( + n ) t+ l uk ( + n 1) ρ1i > [ u( k + n) u( k + 1) ] > ρ2i k= t uk ( + 1) Όπου ρ 1, ρ 2 >0
Η ασθενέστερη συνθήκη (2) εκφαίνεται από την ακόλουθη «ασθενή ή μόνιμης μης διεγέρσεως» συνθήκη: ήη ό ή όδ ut () λέγεται πως είναι ασθενώς Ορισμός: Το σήμα εισόδου { } μόνιμα διεγερμένο τάξεως n αν ut ( + n) N 1 ρ 1I lim u ( t + n ) u ( t + 1) 2 I N N t= 1 ut ( + 1) Όπου ρ 1, ρ 2 >0 [ ] ρ (4)
Η προηγούμενη συνθήκη έχει μια ενδιαφέρουσα ερμηνεία στο πεδίο της συχνότητας. Λήμμα: Μια στάσιμη είσοδος {u(t)} είναι ασθενώς μονίμως διεγερμένη τάξεως n, αν το δύο πλευρών φάσμα της είναι μη μηδενικό σε n (ή περισσότερα) σημεία.
Το προηγούμενο όριο (σχέση 4) στο πεδίο του χρόνου εκφράζεται στο πεδίο της συχνότητας ως: 1 jω 1 e π jω j( n 1) ω M = dfn ( ω) 1 e e 2π π j( n 1) ω e όπου Fn ( ω ) είναι η συνάρτηση φασματικής κατανομής για την { ut ()}. n Το συγκεκριμένο λήμμα δείχνει ότι ο συνδυασμός ημιτονοειδών 2 (με συχνότητες 0 ή π και τυχαία φάση) θα είναι ασθενώς μόνιμα διεγερμένος τάξεως n καθώς κάθε ημιτονοειδής κυματομορφή έχει δύο σημεία στήριξης στο δύο πλευρών φάσμα.
Deterministic AutoRegressive Moving Average Models (DARMA) Μια εναλλακτική μορφή μοντέλου όπου η τρέχουσα διανυσματική έξοδος εκφράζεται ως γραμμικός συνδυασμός των προηγούμενων εξόδων, y(t), και των προηγούμενων εισόδων u(t) είναι η εξής: n1 m1 A yt () = A yt ( j) + B ut ( j d ), t 0 0 j j= 1 j= 0 j Όπου Α 0 είναι τετραγωνικός και μη ιδιάζων πίνακας και d αναπαριστά την χρονική καθυστέρηση.
Το μοντέλο αυτό ονομάζεται DARMA και μπορεί να εκφραστεί και στην μορφή: 1 1 Aq ( ) yt ( ) = Bq ( ) ut ( ), t 0 Όπου 1 1 n1 Aq ( ) = A+ Aq + + Aq, A μη ιδι ά ζων = + + + n 1 0 1 0 1 1 m1 Bq ( ) = ( B0 + Bq 1 + + + Bm q ) q 1 d
H DARMA μορφή ενός μιας εισόδου μιας εξόδου χρονικώς αμετάβλητου συστήματος δίνεται από τη σχέση: n y ( t ) = a y ( t j ) + b u ( t j ) n j j= 1 j= 1 j Και στην συνήθη μορφή του: yt () = ϕ( t 1) θ 0 όπου το διάνυσμα ϕ( t 1) έχει την μορφή: ϕ( t 1) = [ y( t 1), y( t 2),, y( t n), u( t 1),, u( t n)]
Για αυτό το μοντέλο, ο αλγόριθμος των ελαχίστων τετραγώνων συγκλίνει στο θ 0 αν: 1. Το σύστημαείναιευσταθές ευσταθές 2. Η είσοδος { ut ()} είναι ασθενώς μόνιμα διεγερμένη τάξεως 2n 3. A q 1 1 ( ) και B( q ) είναι relatively prime
Στατιστική αναγωγή Η μέθοδος ελαχίστων τετραγώνων μπορεί να αναχθεί σε στατιστική μορφή. Για να γίνει αυτό, πρέπει να γίνουν κάποιες υποθέσεις. Υποθέτουμε λοιπόν ότι: 0 yt () = φ () tθ + et () (Α) όπου { et (), t= 1,2, } 0 θ είναι το διάνυσμα με τις αληθείς παραμέτρους και είναι μια σειρά από ανεξάρτητες, ισόποσα κατανεμημένες τυχαίες μεταβλητές με μηδενικές μέσες τιμές και 2 διασπορά σ.
Θεώρημα Στατιστικές ιδιότητες της εκτίμησης ελαχίστων τετραγώνων Θεωρούμε την εξίσωση: ˆ ( ) θ = ( ΦΦ Φ) 1 Φ Y και υποθέτουμε ότι τα δεδομένα παράγονται από την εξίσωση (Α). Αν Τ Φ Φ είναι μη ιδιάζων τότε: 0 i. Eθˆ = θ ˆ Τ ii. cov θ = σ ( ΦΦ Φ ) 2 1 iii. s = 2 V( θ, t)/( t n) (μία αμερόληπτη 2 ˆ 2 εκτίμηση του σ ) 0 όπου n είναι ο αριθμός των παραμέτρων στο θ και ˆ θ και t ο αριθμός των δεδομένων.
Μια επιθυμητή ιδιότητα μιας εκτιμώμενης τιμής είναι η δυνατότητα σύγκλισης στην σωστή παραμετρική τιμή καθώς ο αριθμός των παρατηρήσεων αυξάνει στο άπειρο. Αυτή η ιδιότητα ονομάζεται συνέπεια (consistency). Υπάρχουν πολλοί τρόποι για αντιληφθούμε την συνέπεια. Για παράδειγμα, ησύγκλισητωνμέσωντετραγώνων τετραγώνων είναι ένας τέτοιος τρόπος απλά αναλύοντας την διασπορά της εκτιμώμενης τιμής. Η δεύτερη ιδιότητα (ii) μπορεί να χρησιμοποιηθεί για να καθοριστεί πως η διασπορά της εκτιμώμενης τιμής μειώνεται καθώς αυξάνεται ο αριθμός των παρατηρήσεων. Αυτό φαίνεται καλύτερα από το επόμενο παράδειγμα.
Παράδειγμα Μείωση της διασποράς Υποθέτουμε ότι το μοντέλο (Α) έχει μόνο μία παράμετρο (n=1). Αν t είναι ο αριθμός των παρατηρήσεων, έχουμε από την (ii) ότι η διασπορά της εκτιμώμενης τιμής δίδεται από την σχέση: Var ˆ θ = t κ = 1 2 σ 2 φ ( κ ) Μπορούμε τώρα να θεωρήσουμε διάφορες περιπτώσεις βάσει Μπορούμε τώρα να θεωρήσουμε διάφορες περιπτώσεις, βάσει της ασυμπτωτικής συμπεριφοράς της φ(t) για μεγάλο t.
a) Υποθέτουμε ότι: φ () t ~ e at, a > 0. Τότε φ 2 ( κ ) συγκλίνει και η διασπορά σταθεροποιείται. β) Υποθέτουμε ότι: φ () t ~ t a, a > 0. Τότε N σταθ., a > 1/ 2 2 φ ( κ ) log N, a = 1/2 a N, a< 1/2 κ = 1 1 2
γ) Υποθέτουμε ότι: φ () t ~1, Τότε Var ( ˆ θ ) 0 για 1/t δ) Υποθέτουμε ότι: φ () t ~ t a, a > 0 Τότε Var ( ˆ θ ) 0 για t (1+ 2 a) ε) Υποθέτουμε ότι: φ () t ~ e at, a > 0 Τότε Var( ˆ θ ) 0 για 2 a/ t e Η ακρίβεια της εκτίμησης εξαρτάται από τον ρυθμό αύξησης του διανύσματος οπισθοπορείας.
Παράδειγμα Ή Ν 1 yˆ ( n) = u( n κ ) h κ κ = 0 y( n) = U ( n) H = H U ( n) [ ] U ( n) = u( n) u( n N 1) [ ] H = h0 h1 h N 1
{ 2 ( ) } = { y ( ) ( ) } E e n E y n H U n 2 e e n ( ) 2 { ( ) = E Y n H U ( n) } U ( n) H e 2 ( n) H { } { } = 0 E Y ( n) U ( n) = E H U ( n) U ( n) = = opt { ( ) ( )} H E U n U n
Ισχύει ότι: { ( ) ( )} E Y n U n P { ( ) ( )} = cross correlation (διασυσχετισμός) EUnU n = R autocorrelation (αυτοσυσχετισμός) P HoptR = Wiener Hopf 1 Hopt = R P
Επαναληπτικοί υπολογισμοί (Recursive Computations) Η λύση στην εξίσωση του προβλήματος ελαχίστων τετραγώνων ˆ 1 ( ( θ = ΦΦ) Φ Y ) γράφεται στην αναδρομική της μορφή (RLS) ως εξής: 1 1 Pt () = Pt ( 1) + φ () t φ () t (1) όπου t 1 Pt () = ( Φ () tφ ()) t = φ() iφ () i i= 1 11 Τότε η ˆ( θ t) δίνεται από την την εξίσωση: t 1 t t ˆ( θ t ) = φ () i φ () i φ () i y () i = P () t φ () i y () i i= 1 i= 1 i= 1
Επομένως προκύπτει ότι: t 1 1 i= 1 φ i y i = P t ˆ θ t = P t ˆ θ t φ t φ t ˆ θ t 1 1 ( ) ( ) ( 1) ( 1) ( ) ( 1) ( ) ( ) ( 1) Η εκτίμηση στον χρόνο t μπορεί τώρα να γραφεί ως: ˆ ˆ θ () t = θ( t 1) P() t φ() t φ () t ˆ θ( t 1) + P() t φ() t y() t ( ˆ ) = ˆ θ ( t 1) + P( t) φ( t) y( t) φ ( t) θ( t 1)
Συνεπώς: ˆ θ () t = ˆ θ( t 1) +Κ() t ε() t όπου Kt () = Pt () φ() t ε() t = y() t φ () t ˆ θ( t 1)
Λήμμα Υποθέτουμε ότι οι A, C και ιδιάζοντες δάζ τετραγωνικοί πίνακες. Τότε: C + DA Bείναι μη 1 1 ( + ) = ( + ) 1 1 1 1 1 1 1 A BCD A A B C DA B DA Εφαρμόζοντας αυτό το λήμμα στην εξίσωση (1) παίρνουμε: 1 ( φ φ ) ( φ φ ) 1 1 Pt () = () t () t = Pt ( 1) + () t () t ( ) 1 = P( t 1) P( t 1) φ() t I + φ () t P( t 1) φ() t φ () t P( t
Αυτό σημαίνει ότι: ( ) ˆ θ() t = ˆ θ( t 1) + K() t y() t φ () t ˆ θ( t 1) ( ) 1 Kt () = Pt () φ() t = Pt ( 1) φ() t I+ φ () tpt ( 1) φ() t ( φ ) Pt () = I Kt () () t Pt ( 1)
Τ Ο πίνακας P () t ορίζεται ρζ μόνο όταν ο πίνακας Φ () t Φ () t είναι μη ιδιάζων. Καθώς: Φ () t Φ () t = φ() i φ () i t i=1= 1 έχουμε ως αποτέλεσμα ο πίνακας Φ () t Φ () t να είναι πάντα ιδιάζων αν το t είναι αρκετά μικρό. Με σκοπό να αποκτήσουμε μια αρχική συνθήκη για τον P, είναι απαραίτητο να επιλέξουμε ένα t=t 0 τέτοιο ώστε Φ ( t0) Φ ( t0) να είναι μη ιδιάζων και να βρούμε τα: ( ) 1 Pt ( ) = Φ ( t) Φ( t) 0 0 0 ˆ θ ( t ) = P( t ) Φ ( t ) Y( t ) 0 0 0 0 Οι αναδρομικές εξισώσεις μπορούν τότε να χρησιμοποιηθούν για Οι αναδρομικές εξισώσεις μπορούν τότε να χρησιμοποιηθούν για t>t 0.
Όμως είναι προτιμότερο να χρησιμοποιούμε τις αναδρομικές εξισώσεις σε όλα τα βήματα. Αν P(0) = P 0 όπου P 0 είναι θετικά ορισμένος, τότε: Ο () 1 ( ) 1 0 P() t = P +Φ () t Φ () t P t μπορεί να βρίσκεται κοντά στο ( ) 1 αρκετά μεγάλο P 0. Φ () t Φ () t επιλέγοντας