{ } { } = { } ( ) { } { } { } ( v) { } { ( ) } כללי הגדרות: σ σ. ( x) ( y) E X Y ; 1. X = signal ; N = noise. ax, a X } } ( )

Transcript

1 For more please vs ( כל המשפטים הנ"ל נכונים גם עבור וקטורים בעלי יותר מ- איברים. ( אם ו- בת"ס אז: F / ( / y F( ; / ( / y ( ρ ( η( E ; ρ :Covarace - Cov η Cov( כללי הגדרות: מטריצה מוגדרת חיובית :(.D ריבועית היא מטריצה חיובית (.D אם לכל וקטור a מתקיים: a a> עבור מטריצה.D מתקיים: עבור מטריצה.D קיימת מטריצה הפיכה: הגדרת וקטור: ברירת המחדל לוקטור אצלנו בדף היא וקטור עמודה ולא וקטור שורה. הגדרת דטרמיניסטי: איבר דטרמיניסטי הוא איבר שידוע בהסתברות. מטריצה אלכסונית: מטריצה שכל אבריה אפס פרט לאלכסון הראשי (משמאל למעלה לימין למטה. הגדרת יחס אות לרעש :(SNR sgal ; N ose SNR N a -Vecor[ ] a a Ω F הגדרת מכפלה פנימית: מרחב ההסתברות: מרחב ההסתברות הוא השלשה: - (אומגה מרחב המדגם. (אוסף כל התוצאות האפשריות של הניסוי. - מרחב המאורעות (אוסף תת הקבוצות של. Ω - פונקציית ההסתברות עבור מאורע A. Ω 456 Ω F ( A (Eve Resul ; (O Resul ; (4 F A A A מאורע A הוא תת קבוצה כלשהי של אומגה. A ( / ; A ( / ; A ( /6 דוגמא: ניסוי - זריקת קוביה פעם אחת. הגדרת מאורעות זרים: B A נקראים מאורעות זרים. מאורעות המקיימים (- קבוצה ריקה תכונות של :(A ( הסתברות תמיד חיובית וקטנה מ- : A F: ( A ( הסתברות כל מרחב המדגם שווה ל- : ( Ω ( עבור מאורעות זרים (שאין ביניהם חפיפה: ( A + ( B ( A B (4 עבור מאורעות שאינם זרים (קיימת ביניהם חפיפה: ( A + ( B ( A B ( A B (5 עבור מ.א רציף: ( ξ AC B אי תלות סטטיסטית (בת"ס: סימון ל- איברים שהם בת"ס: מ.א נקראים בת"ס (בלתי תלויים סטטיסטית אמ"מ: y y מ.א נקראים בת"ס (בלתי תלויים סטטיסטית אמ"מ: ( y ( ( y ( ( / y / מ מ.א נקראים בת"ס (בלתי תלויים סטטיסטית אמ"מ: F ( y F( F ( y φ.א נקראים בת"ס (בלתי תלויים סטטיסטית אמ"מ: ( uv φ ( u φ ( v אם מ.א נקראים בת"ס (בלתי תלויים סטטיסטית אז: E g( h ( E g( E h ( משפט: אם ו.א בת"ס אז גם כל האיברים של אותם וקטורים בת"ס לשאר האיברים. (הוכחה ע"י איפוס כל האיברים בכל וקטור מלבד איבר אחד. מקדם קורלציה: מדד לכמה תלויים המ.א אחד בשני. אם מקדם הקורלציה שווה אחד אז הקשר בין המשתנים הוא לינארי. ρ a + b מ.א חסרי קורלציה: מ.א נקראים חסרי קורלציה אמ"מ: ρ מ.א אורתוגונליים: מ.א אורתוגונליים אמ"מ: E כללי אצבע: ( בת"ס >>> חוסר קורלציה. ( חוסר קורצליה + η <<< η אורתוגונליות. or ( חוסר קורלציה + גאוסיים במשותף >>> בת"ס. משתנה אקראי (מ.א מ.א הוא פונקציה ξ ( כאשר ξ. הפונקציה (ξ ( נותנת מספר ממשי עבור כל תוצאה של ניסוי. ξ- תוצאה אפשרית (אחת בלבד של הניסוי. דוגמא: Ω 456 ( ξ ξ 4 56 פונקציית פילוג מצטברת - Fuco :Dsrbuo (CDF F ( ( ξ 44 F ( מאורע A ( ( מונוטונית לא יורדת. ( F ( ; F ( F ( a lm F ( a+ ε + ε F( F( במקרה הבדיד פונקציית הפילוג המצטברת תהיה בנויה ממדרגות ומ.א יהיה בנוי מהלמים (בגובה אינסופי ובעלי שטח סופי. / ( / y (4 פונקציית פילוג מותנת עבור מ.א בדיד: (פונקציית פילוג של A בהנתן B y ( ( y משפט לבג: כל פונקציית פילוג ניתן להציג באופן הבא: F( α F ( + α F ( + α F ( כאשר : α α α ; α + α + α ( (עבור כמעט כל ערך פונקציית צפיפות פילוג: (DF robably Desy Fuco ( F( ( ( lm % ( ( + lm ( ( α α F ( ( α α F ( F ( ( ( ; F ( U( ( δ ( ( ( ( עבור מ.א בדיד: פונקציית צפיפות פילוג מותנית (חוק בייס: ( y / ( / y ( y (... ( ( / ( /... ( ( / ( / ( - פונקציית צפיפות פילוג של ערך קבוע (מ.א דטרמיניסטי היא הלם במיקום של הקבוע על ציר : / a( a δ ( a F / a U( a - בין פונק צפיפות פילוג מותנית לפונקציית פילוג מצטברת אין קשר של נגזרת. ( F / / הסבר: / ( / y lm F / ( yε y+ ε ε ( yε y+ ε ( y lm ε y ε y + ε ( y / y ( עבור מ.א בדיד - נוסחת ההסתברות השלמה: y η ( y תוחלת - Epecao ("צפי": התוחלת היא הערך שהכי סביר לקבל כאשר מגרילים מ.א. עבור מ.א. רציף: E η ( E עבור מ.א. בדיד: E cos E / / g E a + b a E + b E cos ( ( E g( g( E g( g( ( E E g g( ( ( y y שימו לב! משפט ההחלקה: E g( E E/ g( E E/ g (. רציפה באופן מוחלט לכל F ( F פונקציית מדרגות. ( F רציפה עם נגזרת אפס ( של. ( (. (. (.

2 For more please vs Var E( E ( E ( E E שונות - :Varace מומנטים: מומנט כללי: φ ( m E ( m E μ μ E E ( η η מומנט מוחלט: מומנט מרכזי: מומנט מרכזי מוחלט: E η ; V ( אם a + b וגם אז מתקיים: E aη + b V a ( עבור כל מ.א. שפונקציית צפיפות הפילוג שלו סימטרית סביב η המומנטים האי-זוגיים יתאפסו. ( עבור מ.א עם η מתקיים:. m μ (4 עבור מ.א עם η מתקיים: μ K ( η m (5 עבור (נכון לכל מ.א: μ m η + η ( פונקציה אופיינית: ( ( φ ( E ep ep φ ( φ ( a + b φ ( ep( b φ ( a הערה : זו התמרת פוריה של (. ( ( φ( ep( π ( יצירת מומנטים: מקדמי טור טיילור של הפונקציה האופיינית הם מומנטים: φ ( m! φ ( m פונקציה אופיינית שנייה: ψ ( l φ( l φ( + φ( קומולנטיים: מקדמי טור טיילור של הפונקציה האופיינית השניה נקראים קומולנטים: ψ ( C! ψ ( C C C m η C m m Var עבור תוחלת : η C m ; C m m 4 4 מ.א פונקציית פילוג מצטברת: ההסתברות המצטברת שיתקיים גם וגם y. הפונקציה F מונוטונית לא יורדת. ( y F ( y F ( y F ( F ( y F ( F ( F ( ( y פונקציית צפיפות פילוג של מ.א: F ( y y ( y y ( y y ; ( y E g( y g( y ( y y תוחלת של מ.א: וקטור אקראי (ו.א פונקציית פילוג מצטברת של ו.א: ; M M F ( F... (... F ( F ( - F ( היא פונקציה סקלרית. ( ( מונוטונית לא יורדת. ( כאשר כל ערכי הם אינסוף. (4 כאשר לפחות ערך אחד הוא מינוס אינסוף. F ( (5 הכל אינסוף פרט לערך אחד. F ( F ( (6 הכל אינסוף פרט לשני ערכים. F ( F ( (7 אם ו.א בת"ס אז גם כל האיברים של אותם וקטורים בת"ס לשאר האיברים. פונקציית צפיפות פילוג של ו.א: F ( ( ( ( ( α α α α F ( ( α α α α F ( 4444 α ללא α ( פונקציית צפיפות פילוג שולית: פונקציית צפיפות פילוג של משתנה אחד בלבד נקראת פונקציית צפיפות פילוג שולית. E η η M M η E η ( 44 ללא E η g( ( E g ( ( ( ( (4 תוחלת של ו.א: תוחלת של פונקציה של ו.א: מעבר ממע' קואורדינטות אחת לאחרת ( y Z g( ( z w.. W h( y '( z w ZW ( z w ( y J( z w/ y z J( z w/ y e z J( y/ z e y y z J( z w/ y J( y/ z w z y y מקרה פרטי של מעבר ממשתנה אחד לאחר: g( F ( y y g( y מציאת פונקציית צפיפות הפילוג של : g( - פתרונות של המשוואה :. הם פונקציה של.. g ( y J( / y g'( g( ( ( ( ( '( '( '( '( ( y g g g g ( ( (4

3 For more please vs C M O O ( η ( η C C E M מ.א גאוסיים במשותף / וקטור גאוסי (ו.ג הגדרת מ.א גאוסים במשותף: ( מ.א. יהיו גאוסיים במשותף אמ"מ: פונקציה אופיינית של ו.ג: וקטור גאוסי מוגדר ע"י וקטור התוחלת ומטריצת הקוואריאנס: N η C ( ( η C ( η ( ep e( π C φ ( ep ( η C ( y ( η ρ( η ( η ( η + ( ρ ep π ρ ( φ( y ep ( η + η ( + + זהו למעשה מקרה של וקטור גאוסי בעל איברים. ( אם מ.א ו- גאוסים ובת"ס אז הם גאוסיים במשותף (הפוך לא נכון. ( אם מ.א ו- גאוסים במשותף ו- ρ אז הם בת"ס. תכונה: עבור מ.א גאוסים במשותף עם תוחלת אפס מתקיים: E E E E E E E 4 וגם המומנט המשותף של מ.א גאוסיים שמשותף יהיה אפס עבור סכום נגזרות אי זוגי של הפונק' האופיינית המשותפת. דוגמא: E ; E E ; E פונ' הצפיפות המותנית עבור מ.א גאוסיים במשותף: (פונקציה סקלרית ( / y / π ep η ( ρ ( ρ / η + ρ ( yη / ( ρ E Var a ρ ( yη 4 וקטור גאוסי (ו.ג: - ו.א יקרא ו.ג אם עבור כל וקטור a מתקיים: מ.א גאוסי אם יש וקטור שאיבריו גאוסים ובת"ס אז הוא וקטור גאוסי. - אם יש וקטור שאיבריו גאוסיים במשותף אז הוא וקטור גאוסי. - ו.ג הוא וקטור שכל צירוף לינארי של איבריו נותן מ.א גאוסי. - וקטור שכל איבריו גאוסיים לא חייב להיות ו.ג. אבל כל ו.ג - חייב להיות בעל איברים גאוסיים. (מטריצה ו.ג אז קיימת טרנספורמציה לינארית אם - מלכסנת של (C כך שאיברי יהיו בת"ס: C C C - אם Z וקטור גאוסי אז ו- וקטורים גאוסיים. Z - כל מ.א שהוא פונקציה לינארית של מ.א גאוסים במשותף הוא גאוסי במשותף איתם. הוכחה: Z a + b גאוסים במשותף ( η ( ( η Z N a + b a + b W Z c c c W c c + c + cz c c Z c + c a + c + c b ( ( מכך נובע ש W ו.ג ולכן איבריו גאוסים במשותף. עבור C אלכסונית: ( η ( Π ep π Z Z ( z / ( y/ ( y ep e( π C פונקציית צפיפות מותנית של ו.ג: ( ( ( C C E yη η ( y η C/ ( yη / / / η η + C / C η / C C C C C l l l מומנטים משותפים מומנטים משותפים כללים: m E y ( y y m m E m η m E m η m E μ E l ( η ( η l μ μ μ μ μ μ η E R E [ R] E [ R] E R E O M E E מומנטים משותפים מרכזיים: מומנטים של ו.א מומנטים משותפים כללים: מומנט ראשון: וקטור התוחלת הוא וקטור עמודה. מומנט שני - מטריצת קורלציה: O E M E.(.D היא מטריצה חיובית R - - אם R מטריצה אלכסונית אז אברי אורתוגונליים אחד לשני. [ ] [ C ] ( η ( η η ( η ( η C E R מטריצת הקווריאנס: V A W CV A CW A.(.D היא מטריצה חיובית C - - אם C מטריצה אלכסונית אז אברי חסרי קורלציה אחד ביחס לשני. פונקציה אופיינית משותפת (פונקציה סקלרית עבור מ.א: φ ( uv E ep ( u ( + v y ( ep ( u + v y ( y y ( y ep ( ( u + v y φ ( u v uv π פונקציה אופיינית משותפת עבור ו.א: ( ( φ ( E ep ( E ep ( ep ( ( ep φ ( π φ ( v φ ( v ; φ ( u φ ( u φ( ; φ( φ ( φ ( ( יצירת מומנטים משותפים עבור ו.א: φ (... m E A + b η A η + b טרנספורמציה לינארית על ו.א: R E A R A + A η b + b η A + b b C A C A Z Z + ( ( ( ( F ( z Z z + + y Z y F y F ( y Z ( z y Z η E + η + η Z m E Z E + + מ.א מרוכבים מ.א: מ.א גאוסי קומפלקסי: Z הוא מ.א גאוסי קומפלקסי אם מ.א גאוסיים במשותף. + ; η η + η Z z ηz Z ( z ep( π + Z מ.א גאוסי קומפלקסי סירקולרי: אם Z הוא גאוסי קומפלקסי וגם מתקיים: אז Z הוא מ.א גאוסי קומלקסי. C E η

4 For more please vs פילוג גאוסי (נורמלי פילוג פואסוני שערוך ~ ( ; Ω... ~ N( η ; Ω Chael Esmaor ˆ 44 g (... ; > η F ( + er - Chael ערוץ תקשורת. ep( - Esmaor משערך.! ( η ( ep - האות המשוערך. ˆ π F ( ep( U(! הסבר: אות יוצא ממקום אחד עובר בערוץ תקשורת "אוסף α er ( ep α 44 רעשים" ומגיע למשערך. אנו משתמשים במ.א. מסוים ( π Error Fuco ( ep( δ( ובעזרתו משערכים את המ.א.! תוחלת: תוחלת: שגיאת השערוך: η E e ˆ η ( שונות: V בעיית השערוך: שונות:. סטיית תקן - Dvao :(SDV Saar יש למצוא ( g ˆ כך ששגיאת השערוך תהיה מינימלית ( ( V שערוך מסוג :MMSE פונקציה אופיינית: :MMSE שגיאת מינימלית מסוג MSE פונקציה אופיינית: ep ( ( ( φ + e (M' Mea Square Error φ( ep η פונקציה אופיינית שנייה: MSE E ( ˆ E e ψ ( ( + e פונקציה אופיינית שנייה: E e C ψ ( η משערך אופטימלי של בהנתן (במובן :(MMSE N והם בת"ס אז מתקיים: אם N N N+ N ( + מומנטים של מ.א. גאוסי: ˆ O go ( E / μ m e ˆ O O פילוג אקספוננציאלי : ~ ep( תכונות משערך אופטימלי: חוסר הטיה: η ep( E e ˆ O E O ( + η אורתוגונליות (ניצבות: ow. η ( + η ( ˆ ( E O g η ; עבור מ.א גאוסי כללי: משערך לינארי: φ ( o מרחב המשערכים הלינאריים (הכולל את המשערך הלינארי μ האופטימלי: 5 ( eve ˆ g ( A + b תכונת חוסר הזכרון של הפילוג האקספוננציאלי: ( > + / > ( > עבור מ.א גאוסי עם תוחלת : :(MMSE (במובן בהנתן אז ההסתברות משערך לינארי אופטימלי של בהנתן שמאורע שלו מחכים לא התרחש בזמן o m ˆ שהוא יקרה בזמן + שווה להסתברות שהוא יקרה בזמן (אנו 5 ( g ( η + C C ( η eve כאילו מתחילים את הניסוי מחדש בזמן. Bes ear Esmao הסדר של ב- Cy חשוב ואין לשנותו בטעות... קומולנטים של מ.א. גאוסי עם תוחלת : פילוג יוניפורמי ~ Uab [ ] C שגיאת שערוך לינארי אופטימלי במובן : MMSE C ( ˆ MSE a E C C C C F ( < < C a b מקרה פרטי של שערוך מ.א אחד מתוך מ.א אחר: C b ˆ C> ( η + ( η a g עבור מ.א גאוסי ולכל < הקומולנטיים תמיד. ( /( ba a< < b עבור מ.ג מנורמל (תוחלת ושונות : אם אין קורלציה בין מ.א אז השערוך הטוב ביותר הוא פשוט b התוחלת של (כי לא מושפע מ-. ~ N(: b a E הערות כלליות: ( ep - המשערך האופטימלי הוא הטוב ביותר מבין כל המשערכים. π ( b a - המשערך האופטימלי הלינארי הוא הטוב ביותר מבין VAR המשערכים הלינאריים בלבד. φ ( ep e eo פילוג Raylegh - עבור משערך ומשוערך גאוסיים מתקיים (המשערך ~ Raylegh : האופטמילי שווה ללינארי: e eo ep( תכונות משערך לינארי אופטימלי: ( חוסר הטיה: ow. E e ˆ E π η אורתוגונליות (ניצבות עבור שערוך אופטימלי לינארי: E ( ˆ ( a + b ; a b פילוג גאומטרי עם פרמטר ~ Geomerc ( p: p p ( ( ~ B( p: ( p ( p פילוג ברנולי עם פרמטר 4

5 For more please vs 5 η ( E ( ( ( η ( E E ( ( E E Var ( E ( η( ρ E m Var( Var( תהליכים אקראיים כללי: תהליך אקראי: מ.א שפונקציית הפילוג שלו משתנה בזמן. אם נדגום תהליך אקראי בזמן מסוים נקבל מ.א. הגדרת פונקציית פילוג: פונקציית פילוג תסומן ע"י האות. עבור זמן בדיד: ( r ( עבור זמן רציף: ( ( or F( פונקציית מדגם: פונקציית מדגם היא תהליך אקראי שכל המ.א שלו נדגמו (הוגרלו ונשארה רק תלות בזמן. ( a b; ( ( ( ( ( a b תהליך אקראי (ת.א בזמן בדיד:... ת.א בזמן בדיד יוגדר ע"י פונקציית הפילוג המשותפת של כל דגימות: (... הוא דגימה של התהליך בזמן בדיד. יכול לקבל כל ערך (לא בהכרח ערך בדיד. אך ניתן לדגום את התהליך בהפרשי זמן קבועים בלבד. ( ( ( סימונים עבור בדיד: תכונת העקביות עבור ת.א בזמן בדיד: (... (... ( ( ( מקרה פרטי: זוהי סכימה על כל ערכי האפשריים. תהליך אקראי (ת.א בזמן רציף: ת.א בזמן רציף יוגדר ע"י פונקציית הפילוג המשותפת של כל I דגימות : (... ;... ( (... (... ; יכול לקבל כל ערך (לא בהכרח ערך בדיד. אך ניתן לדגום את התהליך בהפרשי זמן שאינם בהכרח קבועים. ( ( ( ( A ep( B ; Ω : A ; B : A ; B : A ; B סימונים עבור רציף: דוגמא לת.א בזמן רציף: ( תהליך אקראי. A B מ.א. (.5 (.5 (.5 עבור נקבל מ.א עם ההתפלגות הבאה:. 5 ( e.5 e. 5 סטטיסטיקה מסדר שני של ת.א: תוחלת של ת.א: m מומנט שני של ת.א: שונות של ת.א: מקדם קורלציה של ת.א: פונקציית/מטריצת האוטוקורלציה: R ( E ( ( ( ; R ( E ( תכונות של מטריצת האוטוקורלציה: - D (חיובית מוגדרת: τ R( τ R( τ ; R( τ R( ; R( τ R( R ( E - אברי האלכסון הראשי וכל האלכסונים המקבילים במטריצת האוטוקורלציה הם בעלי ערכים קבועים (לכל אלכסון יש ערך קבוע אחר. - R ממשית וזוגית. - R היא פונק' דטרמיניסטית. - פונקציית האוטוקורלציה מוגדרת חיובית.(.D לכל ולכל וקטור a a מתקיים: aa R( ; a R a a ( השורות הן למעשה אותה הגדרה בכתיב שונה - R סימטרית אך R לא בהכרח סימטרית - תכונות אלה לא בהכרח מתקיימות עבור מטריצת קרוסקורלציה. פונקציית/מטריצת הקרוסקורלציה: R ( E ( ( ( ( ( ; ( ( y y y מקדם קורלציה בין זמנים: E ( ( ρ( ; ρ( E ( E ( פונקציית/מטריצת אוטוקווריאנס: C( ( E ( ( η( ( ( η( R( ( η( η( C ( Var ( R( η( פונקציית.מטריצת קרוסקווריאנס: C( ( ( E ( ( η( ( ( η( R ( η ( η ( ( ( תהליך אקראי גאוסי - תהליך גאוסי: תהליך אשר דגימותיו בזמנים שונים יוצרות ו.ג. - פונקציית הפילוג המשותפת של כל דגימות היא גאוסית. תהליך גאוסי מוגדר לחלוטין ע"י סטטיסטיקה מסדר שני. - תהליך גאוסי מאופיין ע"י וקטור התוחלות ומטריצת האוטוקורלציה: ( N( η ( R ( - דגימות של ת"א גאוסי הן גאוסיות במשותף. תהליך אקראי בזמן בדיד מסוג (Iepee Iecally Dsrbue סדרת משתנים אקראיים (תהליך אקראי בדיד תהיה מסוג אמ"מ מ.א מסוים בת"ס בכל קבוצה אפשרית שניתן ליצור מכל המ.א הקודמים לו ואם הפילוג השולי של כל המ.א זהה: ( ;... C C M C... דוגמת הסבר לאי-תלות סטטיסטית בקבוצה: Z + C ; ZC ; ZC ZC - אם רק ידוע לא ניתן לדעת מהו Z. - אם רק ידוע לא ניתן לדעת מהו Z. - אם גם ידוע וגם ידוע אז כן ניתן לדעת מהו Z ולכן Z תלוי ב- ו- ביחד (אך בת"ס בכל אחד מהם לחוד. עבור ת.א עם תוחלת מתקיים: ( & E ( R ( E ( δ ( כל פונקציה של סדרת היא גם. ת.א גאוסי + WSS SSS - סטציונאריות (קביעות / יציבות בזמן סטאציונאריות במובן צר :sss (Src Sese Saoary זמן בדיד : ( (... ההסתברות של תת-קבוצת מ.א עוקבים שווה להסתברות של כל תת-קבוצה אחרת בעלת אותו מספר מ.א עוקבים. בפרט - הפילוג השולי של תהליך אקראי בדיד הוא קבוע בזמן: ( ( זמן רציף : (.. ;.. (.. ;.. ( +.. ( + (.. ( בפרט - הפילוג השולי של תהליך אקראי רציף הוא קבוע בזמן: ( ; ( ; uco( - תהליך מסוג הוא SSS (ההפך לא בהכרח נכון. - פונקציה קבועה בזמן (חסרת זיכרון של SSS היא גם.SSS סטציונאריות (קביעות בזמן במובן הרחב :wss (We Sese Saoary אם הסטטיסטיקה מסדר שני של ת.א קבועה בזמן אז התהליך יקרא :wss ( η( η cos ( R( R( R( τ or cos - מתנאי נובע: ( cos - עבור תהליכים סטאציונאריים מתקיים: R( τ R( ( τ R( τ R( τ SAIONAR τ τ S NOICE - HEN NOICE - HEN R ( R ( S ( ( - - תנאים הכרחיים ומספיקים ל :WSS - תהליך. wss sss - תהליך wss לא בהכרח גורר.sss - במקרה הגאוסי wss sss (אמ"מ. - מערכת מתבדרת לא יכולה להיות סטאציונארית. - תנאים ו גוררים את קיום תנאי. - סכום של + WSS בת"ס הוא גם.WSS - תהליך שהוא פונקציה קבועה בזמן (חסרת זיכרון של WSS הוא גם.WSS - תהליך שאינו WSS אינו.SSS הגדרת JWSS (סטציונארים במשותף: (Jo We Sese Saoary ו- הם JWSS אם אם כל אחד מהם הוא WSS ופונק' הקרוסקורלציה שלהם תלויה רק בהפרש הזמנים (תאו. ת.א גאוסי + WSS SSS

6 For more please vs אם סדרת הפרשי ההגעות : סטאציונריות אסימפטוטית : עבור תנאי התחלה שלא מתואם לעירור אם מתקיימים: ; w ss α היא עם צפיפות פילוג אקספוננציאלית: ( e R ( ss τ Rm ( ss α N ( N ( N ( ( ( אז התהליך הוא סטאציונארי אסימפטוטי. הגדרה מס' (דרך קירוב תהליך בדיד עם דגימה מהירה:. היא מסוג B מ-.א בעל פילוג ברנולי. הסדרה B מקדם קורלציה של תהליך AR סטאציונארי במובן :wss wp. B R( τ τ ρ α wp. R( η or ηw תהליך פואסון כללי: משתנה פואסוני הוא מ.א בדיד (ראה פירוט בסעיף מ.א N ( B u( פואסוני העונה על השאלה - מה ההסתברות שיהיו הצלחות בפרק זמן מסוים למשל בשעה. "למדה" קצב ההגעה כמה הצלחות יהיו בממוצע בפרק הזמן N ( ( B u שנבדק. ככל ש"למדה" יותר גדול כך יש יותר הצלחות בפרק הזמן. "למדה" מגדיר למעשה גם את פרק הזמן שבו מתבצע כאשר "דלתא" תשאף ל- נקבל ציר זמן רציף בקירוב טוב. הניסוי. תהליך פואסוני הוא משתנה פואסוני עם "למדה" שמשתנה סטטיסטיקה מסדר שני: בזמן. למשל: E N ( e ( Var N ( p ( N(! ep( ( ow. r ( N (! e ( ( E N( r < + e! זהו תהליך בזמן רציף ואינו סטאציונארי (אך המשתנה הפואסוני ( N C N( הוא בדיד. תהליך "זמני הגעה": דוגמאות לתהליך פואסוני: תהליך "זמני הגעה" הוא תהליך ספירה פואסוני. כמה אנשים יש בתחנת אוטובוס במשך שעה חבילות נתונים הוא מוגדר ע"י שהיא נקודת הזמן שבה N( עובר לשרת אינטרנט. מערך - ל-. R ( m( + N( N( N( N( r r r r. N ( N ( N ( N ( N (. מרקוביות תהליך הוא מרקובי אם ההווה מגדיר באופן מלא את מצב התהליך מבחינה סטטיסטית (כלומר - אין תלות בעבר: /... / ( + ( + - ההווה. - + העתיד. תהליך אקראי אוטורגרסיבי (AR g( W ;... נתון (תנאי התחלה..( אקראי בדיד מסוג (תהליך היא סדרת W W בת"ס ב- וכן מתקיים: W W... C W CW g( W תהליך אוטורגרסיבי יכול להיות רק תהליך בדיד. תכונה: אם מתקיימות התכונות הבאות: אז מתקיים: ( / ( / α + W α α + W + W W + wp..5 wp..5 ז"א התהליך מרקובי. תהליך AR מסדר ראשון: תהליך AR מסדר ראשון הוא מרקובי. מקרה פרטי - "הילוך שיכור": סטטיסטיקה מסדר שני של תהליך :AR η E αe + E W η α η + α η W תהליך AR סטאציונארי במובן :wss תנאים מספיקים והכרחיים ל- wss של תהליך :AR ( α < ηw η cos α ( ( m R( τ ( או... Rm R α < ηw η cos α Cm ( C ( m C( τ ( או... α < ηw η cos α W cos α תנאי התחלה מתואם לערור: אם מתקיימים התנאים הנ"ל ( או או אז "תנאי ההתחלה מתואם לערור". W α תנאי התחלה לא מתואם לערור: שערוך אופטימלי עבור תהליך פואסון: > : N ˆ ( EN ( / N (... N ( ( ( E N + ( ( ( D ( + ( ( ( + ( S ( ( ( ( ( ( ; ( ( ( D ( + ( ( ( + ( S ( ( ( מקרה אחר: יש לשים לב שבמקרה השני S לא מתפלג פואסונית. תהליך ספירה (פואסוני: הגדרה מס' : ( N הוא תהליך פואסוני עם קצב הגעה אם מתקיימים התנאים הבאים: ( לכל הדגימה N( היא משתנה אקראי המתפלג פואסונית: N( osso( ( התוספת: N ( N ( ; > N (; היא בת"ס ב- מכך נובע שגם התוספות בת"ס אחת לשניה אם הן לא בתחומי זמן חופפים. שונה קיים עבור ( N (לכל.( ההסתברויות של המאורעות הבאים שוות (דרישות שקולות: N ( equvale N ( ( פונק' הפילוג של המשתנים האקראיים - שווה ולכן המשתנים האקראיים שווים. סדרת הפרשי זמני ההגעה ( היא סדרת. - דוגמא לחישוב פילוג זמן ההגעה הראשון (: r + ( lm? r aylor ( r ( r ( ( r N( N( N( r N( r N( e + N( + N( e r N + N e r r + N N + + aylor r ( lm e ' + ( ' + ( e ע"פ תכונת חוסר הזכרון של פילוג אקספוננציאלי ניתן להחליף את ב-. הכללת הדוגמא: מפני שניתן לבחור כל ' אז פונקציית הפילוג שקיבלנו נכונה עבור כל (ולא רק ל- : ( ( ' ' e סטטיסטיקה מסדר שני: ηn( E N( ; N( > : R ( + C ( R ( η( η( פיתוח: R ( E N ( N ( E N ( ( N ( + N ( E N( + E N( E N( + הגדרה מס' ("דרך זמני הגעות": תהליך ספירה N ( הוא פואסוני עם קצב הגעה. ( הוא משתנה אקראי שקובע מה ההסתברות שההצלחה מספר תהיה בזמן. 6

7 7 תהליך ברנולי הוא משתנה המקבל את הערכים או בהסתברויות שונות. U U[ ] U U U 4 U 4 תהליך Raom elegraph. ( ±.. מספר הפעמים ש חוצה את (עובר מ ל - הוא משתנה פואסוני. ( N ( EVEN cosh( ep( ( N( ODD sh( ep( R ( ep( ; E ( ; Var ( זהו תהליך.WSS תהליך ווינר - לווי - תהליך גאוסי עם ה E W( ; Var W( α ; R( α m( - זהו מקרה פרטי של "הילוך שיכור". / W ( α B ; W (~ N( α + wp. / B ; α cos wp. / ניתן להגדיר את התהליך גם בצורה רקורסיבית: - W( W(( + α B תהליך ווינר-לווי הוא מרקובי. - התוספת הן בת"ס אחת לשנייה כמו בתהליך פואסון. -. הנגזרת של תהליך ווינר-לווי היא רעש לבן מוכפל ב- α - שרשראות מרקוב כללי: - שרשרת מרקוב היא טכניקה לתיאור תהליך מרקובי. - מצב מאורע. - צעד מתאר מעבר ממצב אחד להבא וגם התקדמות ביחידת זמן אחת. שרשרת מרקוב הומוגנית: פילוג המעבר ( הוא קבוע ("אינבריינטי" בזמן / כלומר הסיכוי לעבור ממצב מסוים למצב אחר נשאר קבוע לכל זמן. g( W הערה : α + W הוא שרשרת מרקוב הומוגנית כל עוד α אינו תלוי ב. שרשרת מרקוב עם מצב סופי: קיימים J מצבים שונים ולפחות אחד מהם סופי (כלומר מרגע שהגענו אליו לא ניתן לצאת ממנו. מעתה והלאה נעסוק רק בשרשאות מרקוב הומוגניות עם מצב סופי. כלל השרשרת עבור תהליך מרקובי: (... ( Π ( / הסבר - עקב מרקוביות מתקיים: ( /... ( / ( ( ( / נוסחת צ'אפמן - קולמוגורוב: ( / ( / ( / ; < m< m m m מסקנות: סטאציונריות וארגודיות של שרשרת מרקוב: אם הפילוג השולי לא תלוי ב אז שרשרת מרקוב.SSS מטריצת פילוג המעבר : מגדירה את הסיכוי לעבור ממצב אחד לאחר ב- צעדים החל מרגע : / + J J r( + / M O M J JJ + / J J r( + / M O M J JJ + + עבור צעד אחד: סכום אברי כל שורה במטריצה הוא. - מטריצת פילוג המעבר היא אי-שלילית (כל איבריה חיוביים. - שורה נותנת את כל המידע הסטטיסטי על כל האפשרויות - למעבר ממצב מצב אחר: ( / wp.. ( / w p wp דוגמא: וקטור ההסתברות: וקטור ההסתתברות בדף זה הוא וקטור שורה ולא וקטור עמודה. פילוג שולי ברגע - מה הסיכוי להיות ברגע (לאחר צעדים במצב כשלהו: ( π ( ( ( J r r r נוסחת המעבר לפילוג שולי: ( ( π π ; ( ( π π הוא בחזקת. תמיד קיימת הסתברות סטאציונריות המקיימת: ( s ( s π π π ( מציאת : π s (פילוג סטאציונארי ( ( נדרג את המטריצה -I ע"י פעולות אלמנטריות על השורות: s π ( s ( ( I ( s π I או שנדרג את המטריצה הבאה ע"י פעולות אלמנטריות על העמודות: ( s ( s π π ( s π ( I I ( נמצא את הוקטורים העצמיים של אחת מהמטריצות. (יש דוגמא לכך בסוף דף הנוסחאות. ( ננרמל את הוקטור העצמי (נחלק כל איבר בסכום כל האיברים לקבלת וקטור / וקטורי ההסתברות של מצב עמיד. - אם יש יותר מוקטור עצמי אחד אז ההסתברות ( s הסטאציונארית π יכולה להיות כל קומבינציה לינארית של ( הוקטורים העצמיים שמצאנו (ע"י π שונה ניתן להגיע להסתברות סטאציונארית שונה. ( - נשים לב ש הוא וקטור עצמי שמתאים לערך עצמי. π s "שיכחת העבר": נאמר על שרשרת שהיא "שוכחת את העבר" אם מתקיים: ( ( π π מסקנות: ( - π הוא פילוג סטאציונרי. - השרשרת סטציונארית אסימפטוטית. - אם נרצה שתנאי זה יתקיים לכל תנאי התחלה אז השרשרת חייבת להיות סטציונארית. For more please vs חייב להיות קיים ולא תלוי בתנאי התחלה ( π הגבול - (.( π מט' ^ היא מטריצה שמתכנסת למטריצה עם שורות זהות - ועמודות קבועות. דיאגרמת טירליס ("סבכה": תיאור גרפי לשרשרת מרקובית עם מצב בדיד. שרשרת הומוגנית עם מצב סופי: סיווג מצבים: ( נגישות :(Accessble מצב נגיש ממצב אם ניתן להגיע ממצב למצב במספר צעדים כלשהם על הגרף. ( > אמ"מ מתקיים: אז מצב נגיש ממצב. סימון נגישות: קשירות :(Commucae מצבים קשירים אם נגיש מ- ו- נגיש מ-. (ניתן להגיע ממצב I למצב ובחזרה בדרך כשלהי. סימון קשירות:. - אם ו- אז מחלקה :(Class קבוצת מצבים הקשורים ביניהם ואינם קשורים למצבים אחרים. מצב נשנה Sae :(Recurre מצב הנגיש מכל המצבים הנגישים ממנו. דוגמא: אם ניתן להגיע ממצב אחד לשני אך לא ניתן להגיע מהשני לראשון אז המצב הראשון הוא חולף והשני נשנה. מצב חולף Sae :(rase מצב לא נשנה. מחזור של מחלקה או מצב: מחזור של מצב הוא המחלק הגדול ביותר של אורך כל המסלולים האפשריים ממצב בחזרה לאותו מצב. סימון: ( - אם ( אז המחלקה של מצב לא מחזורית. - כל המצבים באותה מחלקה הם או נשנים או חולפים. - כל המצבים באותה מחלקה יהיו בעלי אותו מחזור. - מחלקה נשנית: מחלקה שכל המצבים בה נשנים. - מחלקה חולפת: מחלקה שכל המצבים בה חולפים. - מחלקה אפריודית: מחלקה ללא מחזור (. - מחלקה ארגודית: מחלקה אפריודית. - שרשרת ארגודית: אם יש לה מחלקה אחת נשנית והיא ארגודית. משפטים: ההסתברות כאשר לשרשרת יש מחלקה נשנית אחת - הסטאציונרית יחידה. כאשר יש מחלקה נשנית אחת והיא ארגודית (עם מחזור - אז ההסתברות להיות בכל אחד מהמצבים תתכנס אחד להסתברות סטאציונרית: lm ( J π π... π J ( ( (4 (5 (6

8 For more please vs ארגודיות אם ניתן לקבל את כל המידע הסטטיסטי מתוך מיצוע בציר הזמן אז התהליך ארגודי. הסבר: תהליך ארגודי (במובן התוחלת הוא תהליך שאם נבצע ממוצע בזמן על כל פונקציית מדגם שלו נקבל את התוחלת של התהליך. פונקציה לינארית בפני עצמו. משערך התוחלת: (סכום של מ.א ארגודיים ובת"ס הוא ארגודי ˆ η ( o - הוא חלון המדידה. - משערך התוחלת הוא למעשה מיצוע בזמן של האות. משערך (תוחלת בלתי מוטה: E ˆ η E ( cos ; שונות של משערך התוחלת: ˆ τ VAR η C( τ τ משערך (תוחלת עקבי: אם מתקיים: VAR ηˆ τ ˆ R ( τ ( ( + τ τ o אז המשערך נקרא "משערך עקבי". משערך האוטוקורלציה: כך תחום האינטגרציה קטן יותר גדול יותר ככל ש"תאו" והמשערך גרוע יותר. τ E R ˆ ( R ( τ משערך אוטוקורלציה בלתי מוטה: ארגודיות במובן התוחלת: "משערך עקבי" + בלתי מוטה "ארגודיות בתוחלת". תנאי סלוצקי: אם התהליך WSS אז מספיק שיתקיים: VAR ˆ η lm C( τ τ כדי שהתהליך יהיה ארגודי בתוחלת. ארגודיות במובן אוטוקורלציה: התנאים הבאים אז מתקיימת ארגודיות אמ"מ מתקיימים באוטוקורלציה:. VAR R ˆ (. המשערך בלתי מוטה. תהליך מכפלה Zτ ( ( ( + τ - אם SSS ממשי אז גם SSS Z ממשי. - ארגודיות בקורלציה של שקולה לארגודיות בתוחלת של.Z - עקביות וארגודיות עבור Z יבחנו לפי נוסחאות שפותחו עבור ארגודיות בתוחלת. - ארגודי בקורלציה אמ"מ Z ארגודי בתוחלת. ספקטרום הספק ספקטרום הספק מוגדר רק עבור SSS ו-.WSS τ S ( R ( τ e τ ספקטרום הספק צפיפות הספק ספקטרלית. τ R( τ ( π S e - S דטרמיניסטית. - S ממשית וזוגית. S( - ספקטרום ההספק הוא גודל דטרמיניסטי. מעבר תהליך אקראי דרך מע' I (יציבות: מערכות I נתון : עבור מ "א: ( [ h (] ( נתון: RV. (Raom Varable ( h ( ( h( α ( α α a scalar E μ E ( μ ( E R R ( E ( ( a נחשב עבור : μ( h( μ( R ( E ( ( h( R( R ( h( h( R ( ( [ h( ] ( WSS ( h ( ( WSS τ ( ( τ ( τ τ עבור WSS נקבל: τ τ τ τ a μ aμ R a R R E ar A E μ R E R r E μ A μ R E R A R E AR A ˆ + N N h עבור ו"א: שערוך של מ"א ע"י הכפלה בקבוע: ˆ h שגיאת השערוך: Z ˆ מציאת המשערך הלינארי האופטימאלי: ˆ MSE E Z E E h ( ( ( h R + h RN (( h R + h RN h R h R + R N EN N ˆ N A Z ˆ A A R R שערוך של ו"א ע"י הכפלה במטריצה: נתון: מסקנות: התמרות לינאריות מאפשרות חשוב סטטיסטיקה מסדר - בעזרת סטטיסטיקה מסדר של אות המקור והרעש. ניתן למצוא משערך לינארי על סמך סטטיסטיקה מסדר - בלבד. אם המבוא גאוסי במשותף (כל המשתנים שנכנסים למע' אז - גם המוצא גאוסי במשותף עם המבוא. גאוסים והם בת"ס כדי N ו- במקרה שלנו מספיק ש - שהמוצא יהיה גאוסי במשותף עם המבוא. במקרה הגאוסי המשערך הלינארי הוא המשערך האופטימלי. - F h( H( קורלציה וקרוסקורלציה (עבור :(wss R( R( τ R ( τ R( τ h ( τ R( R( τ h ( τ h( τ - אם WSS אז WSS ושניהם.JWSS ת-.א גאוסי שעובר דרך מערכת I ישאר ת.א גאוסי. :(I S F R R e ספקטרום ההספק (במערכת S ( F R ( R ( e S ( H( S קרוסספקטרום הספק: τ ( R ( τ e τ S ( H ( S ( S ( R ( τ R ( τ כל הנוסחאות נכונות גם למקרה הבדיד. תכונות ספקטרום הספק ואוטורורלציה של ת"א :WSS R ( τ (. S F. ספקטרום ההספק ו- R הם גדלים דטרמיניסטים.. R היא פונקציה ממשית..4 ממשי R ממשית וסמטרית S סימטרית..5 τ R( τ ( π S e 6. S מוגדר כצפיפות ההספק של התהליך בתדר מסויים..7 S < עבור כל אומגה. R( ( π S הגדרת ההספק: "רעש לבן": R ( τ δτ ( R ( δ ( S ( - יש חוסר קורלציה בין כל זוג דגימות. - אם בנוסף הרעש הוא תהליך גאוסי אז הוא יקרא "רעש גאוסי לבן". אוטוקורלציה וספקטרום הספק של תהליך :AR ; W [ h[ ] ] α + W Ω h [ ] α U [ ] ; H( e Ω αe Ω W α R[ ] Wδ[ ] ; S( e α יחס אות לרעש - SNR בתדר: SNN ( SNR S ( sgal ; N ose 8

9 For more please vs מדידת מ"א בחלון זמן סופי: נביט על משתנה אקראי בחלון זמן. ( ( ow. ( ( e ( הוא מ"א מרוכב. אוטוקורלציה זמנית: ˆ R ( τ ( ( + τ τ ˆ Sˆ ( F R( ( τ τ ˆ E S ( R( τ e τ π פריודוגרמה: - ממשי. - אי שלילי. התמרת פורייה של מ"א בחלון זמן בסופי: היא מ"א מרוכה. ( ( לכל אומגה התמרת פורייה בחלון אם הוא SSS אז הפאזה של ( ( מתפלגת אחיד בתחום כאשר אינסופי ואומגה לא אפס. ( SSS ( U ( ππ ˆ lm E S ( S ( ( π π כלומר: קשר בין פריודגרמה וספקטרום הספק: אם ( הוא תהליך ארגודי בתוחלת אז מתקיים:.אם ( ( הם JWSS אזי גם ˆ ( ( הם. JWSS מתוך הנ"ל מתקיים: ( E Z( Cos מסננת וויינר (שערוך/סינון לינארי אופטימלי של ת"א כללי: ( ע"י מסנן (מערכת (I כלומר ע"י :( ˆ ( ( h ( המטרה - שערוך שימוש בכל הת.א. למשל שערוך ( בהנתן ( שגיאה: Z( ˆ ( ( האופטימאליות היא במובן : MMSE MSE E Z( ( ˆ ( h( α ( α α ˆ ( h ( α ( α α משערך לינארי לא סיבתי: משערך לינארי סיבתי: הנחות:. מרגע זה והלאה נדבר על משערכים לא סיבתיים.. נניח כי לכל התהליכים יש תוחלת אפס. עקרון האורטוגונליות מתקיים גם בתהליכים אקראיים. - כלומר השגיאה אורטוגונלית למדידות בכל נק' זמן. - אם המבוא של מע' לינארית (לא בהכרח (I גאוסי אז גם - המוצא גאוסי. ברעש חזק מסנן וויינר ינחית את האות: - Ho ( SNR H ( SNR<< ברעש חלש מסנן וויינר יהפוך את האות: - Ho SNR H ( SNR>> מסנן וויינר (הלא סיבתי - המשערך הלינארי האופטימלי: שערוך בהנתן : S ( H ( S ( שגיאת השערוך: e ˆ ( ( שגיאת השערוך הריבועית הממוצעת: MSE E ˆ ( ( R ( R ( + R ( ( ˆ ˆ MSE R ( h ( α R ( α α MSE ( S ( S ( H ( π τ (אין באינטגרל e כי... MSE E Z ( ( τ h עובר בערוץ רעש אדטיבי (מקרה פרטי: ηn ; ( N ( ( + N( ˆ ( ( h ( H S ( S ( ( S ( S ( + S ( NN S ( SNN ( MMSE π S ( ( + SNN S ( >> SNN ( MMSE RNN ( S ( << S ( MMSE R ( NN מערכות מרובות כניסות ויציאות (MIMO [ ] ( H( ( ( m ( ( (.. ( ( (.. ( m ( h ( ( R R ( τ... m. JWSS הם גם ( ( עבור JWSS ( נקבל ש וגם נקבל: R ( τ R ( τ h( τ S S H ( ( ( R ( τ h( τ R ( τ h( τ S H S H ( ( ( ( כדי למצוא מינימום של R מספיק למצוא מינימום על S. [ ] עיבוד מקבילי של פסי תדר: ( BF( ± ( ± אם התהליך ארגודי במובן מומנט שני אז מתקיים: E ( ( ± ( ± ( משפט: אם נקח פסי תדר לא חופפים אז הם אורתוגונאלים. 9

10 s ( lm ( שונות התמרות Z: z e + + [ ] z ( z + z [ ] + z [ ] ++ [ ] [ ] z ( z + z [ ] + z [ ] ++ z + [ ] δ[ ] δ [ ] z δ [ ] z m δ [ m] z α δ [ ] α z α δ [ ] α z α z α δ [ ] α z ( α z α δ [ ] ( α z z cos( δ [ ] cos( z cos( + z s ( δ [ ] z cos( + z r cos( δ [ ] z r cos( z r cos( + r z r s ( δ [ ] z z r s( z r cos( + r z ( η ε ε ep(!!!(! A( A ( s( ( E g( h( E g( E h( e s( ( π + π ( e e + e cos( e e sh e + e cosh cs( πa ( a πa cb π s( a b e π N ( ( ln l אי-שוויון צ'בישב: נוסחאות שימושיות: טור טיילור של אסקפ': בינום: אי שיוויון המשולש: אי שיוויון קושי-שוורץ: ( ( e ( כללי: סכום רימן: נוסחאות פיתוח טורי חזקות: e !! l( ( s ( +!! 5! 7! 4 6 ( cos (!! 4! 6! a co טור פוריה לרכבת הלמים: ( ( l ; a e δ ( l a a + + S ( a + a a a q + q S a ( q N N N q q q N q N N+ q q q q + q y + a y b ( ' ( a( ( e ( + μ cμ y b c μ ( μ( ( סדרות: סדרה חשבונית: סדרה הנדסית: מד"ר מסדר ראשון: חלוקת פולינומים: For more please vs פירוק לגורמים בשיטת השארית: חובה לבדוק שלאחר מציאת השורשים אכן מקבלים את הפולינום הרצוי. סד"פ: אם מעלת המונה גדולה או שווה למעלת המכנה מבצעים חלוקת פולינום. את השארית מפרקים לגורמים ע"פ שיטת השארית. ניתן להשתמש בנוסחה: F( s ( s s... + A( s s A ( s s +... ( A lm ( s s (! s s F( s...! לפי הגדרה. דוגמא - ללא הנוסחה: s s + s s + s + s + s + s + s + s + s + A B C + + s + s + s ( s + s s + ( s + A B C s + s + s + s s s s + ( s + s ( s + s + A ( s + s s + C s s s s s ( s + A B C s + + ( s + + ( s + ( s + s s + ( s + s ( s + A s + ( s ( s B C s s s ( s + ( s ( s + A + B + s s B s s s + s + s + s s + ( s + s s ( s + lm ( s B s + (! s ( s + ( s + lm ( s C s + (! s ( s + שימוש בנוסחה: קונבולוציה: הגדרת הקונבולוציה (רציף ובדיד: ( g( h( g( τ ( h τ τ h( τ g( τ τ [ ] g[ ] h[ ] g[ h ] [ ] h[ ] g[ ]. h h ( g + h g + h. δ ( ( (.( h ' h' h ' y ( ( אם: h ( אז: y ( h( ( עבור דובלט:. δ ' ' δ ' ( ( ( ( ( B C תכונות הקונבולוציה: ( u( ( δ( ( δ( ( [ ] ( h( ( h( h ( h( h( eq - מכפלה בזמן קונבולוציה בתדר חלקי π. - קונבולוציה בזמן כפל בתדר. - דגימה בתדר קיפול בזמן. קונבולוציה עם הלם היא שכפול של הפונקציה במיקום של ההלם. סד"פ קונבולוציה גרפית רגילה: בוחרים את h או לפי נוחות והופכים את הפונקציה על ציר.( τ (בגלל τ מזיזים את הפונקציה שהפכנו לפי ורצים על כל הערכים האפשריים של. כאשר בתחום מסוים של יש חפיפה בין הפונקציות מחשבים את אינטגרל הקונבולוציה (תחומי אינטגרציה ע"פ התחום של. מחברים את כל תוצאות האינטגרלים ע"פ התחומים השונים וזהו הפיתרון. e e e π

11 For more please vs הפיכת מטריצות: עבור מטריצה : A b a b c a A c a b e c אם מטריצה היא יותר מ והיא בנויה מבלוקים (בצורת ג'ורדן אז ניתן להפוך כל בלוק בניפרד ולהציב במטריצה. דוגמא: ; 4 4 ˆ ( g s( α sα cos( α cosα a( α aα aα coα s α + cos α + a α / cos α + co α /s α s( α sαcosα cos( α cos α s α cos α + cos( α s α cos( α a( α a α /( a α זהויות טריגונומטריות: s( α sα 4s α cos( α 4cos α cosα sα + s β s( a/ + β / cos( a/ β / sα s β s( a/ β / cos( a/ + β / cosα + cos β cos( a/ + β / cos( a/ β / cosα cos β s( a/ + β / s( a/ β / sαcos β / ( s( a + β + s( α β sαs β / ( cos( a β cos( α + β cosαcos β / ( cos( a + β + cos( α β s( α + β sαcos β + cosαs β s( α β sαcos β cosαs β cos( α + β cosαcos β sαs β cos( α β cosαcos β + sαs β a( α + β (aα + a β /( aα a β a( α β (aα a β /( + aα a β a( α + β aα a β a( α + β aα a β arcsα + arccos α π / a ac a ( c b bc b ( a c ac + b b AB - mar [ ] ab - vecor [ ] ( ; ( ( ; ( ( A B B A A+ B B + A a b a b a+ b a + b a b b a b a scalar ( מטריצות: כללי: סד"פ מציאת ו"ע של מטריצה A: Av v A v אצלנו למדה תמיד תהיה כי אנחנו מחפשים את הוקטור העצמי שמתאים לערך עצמי (למדה. ( A I v כעת נלכסן את המטריצה A I ונמצא את הוקטור העצמי. נראה דוגמא פשוטה ונתחיל ממטריצה שכבר ליכסננו. A I נתן לכל עמודה "שם" לשמאלית נקרא לאמצעית אחריו Z ולימנית W ונרשום את המשוואות שהתקבלו מהמטריצה. Z W Z ; W Z Z W W Z Z Z W W W טיפים הבנות ותזכורות שערוך: קיימים סוגי שערוך: שערוך ע"י דגימת ת.א בזמן / זמנים ספציפיים למשל שערוך ( בהנתן :( ( ( ( η ( ˆ ( η + C ( C ( ( ( C ( C ( R ( η ( η ( C ( C ( R ( η ( שערוך ע"י מסנן (מערכת (I כלומר ע"י שימוש בכל הת.א. למשל שערוך ( בהנתן ( :( ˆ ( ( h( שערוך תוחלת / אוטוקורלציה של תהליך ע"י מיצוע בזמן למשל אם התהליך ארגודי במובן התוחלת אז ניתן לשערך את התוחלת כך: ˆ η ( o ( ( עבור חישוב תוחלת: משפט ההחלקה: ( E g E E/ g E E/ g E g( E g( g( y עבור מ.א (או יותר: h( g( W( מתקיים: E g( E W( W( עבור מ.א גאוסים במשותף עם תוחלת אפס מתקיים: (או עבור ת.א גאוסי שדגימותיו הן E 4 E E E E + E E 4 4 וגם המומנט המשותף של מ.א גאוסיים שמשותף יהיה אפס עבור סכום נגזרות אי זוגי של הפונק' האופיינית המשותפת. דוגמא: E ; E ; E E עבור Z גאוסים במשותף ו- Z בעלי תוחלת אפס מתקיים: E Z ( η η E Z E Z עבור משערך לינארי אופטימלי: חוסר הטיה: E e ˆ E E אורתוגונליות (ניצבות עבור שערוך אופטימלי: ˆ ( O g אורתוגונליות (ניצבות עבור שערוך אופטימלי לינארי: E ˆ a + b ; a b ( ( עבור פונקציות צפיפות פילוג: עבור ו- גאוסיים ובת"ס ו- :Z+ N η ; N η ( ( ; ( η η Z a + b Z N a + b a + b FZ( z ( ( za b קונבולוציה φz( φ( φ( Z הם גאוסים במשותף. ( + ( + a b h c NN ( a s+ b h( c( s + s קונבולוציה: שימושי עבור אוטוקורלציה: N ( ( g (; N ( ( g (; ( wss τ ( ( τ τ R ( E ( g ( ( g ( R ( τ g( τ g( τ עבור פונקציית פילוג וצפיפות פילוג:... ( ( / ( / ( (... ( ( / ( / ( y y y y / בין פונק צפיפות פילוג מותנית לפונקציית פילוג מצטברת אין קשר של נגזרת. ( F / / כללי אצבע עבור מ.א. ויותר: - בת"ס >>> חוסר קורלציה. - חוסר קורצליה + תוחלת >>> אורתוגונליות. - חוסר קורלציה + גאוסיים במשותף >>> בת"ס. - אם מקדם הקורלציה שווה אחד אז הקשר בין המשתנים הוא לינארי. עבור גאוסיות במשותף ווקטור גאוסי: אם מ.א ו- גאוסים ובת"ס אז הם גאוסיים במשותף - (הפוך לא נכון. אם מ.א ו- גאוסים במשותף ו- ρ אז הם בת"ס. - ו.ג הוא וקטור שכל צירוף לינארי של איבריו נותן מ.א - גאוסי. אם יש וקטור שאיבריו גאוסים ובת"ס אז הוא וקטור גאוסי. - אם יש וקטור שאיבריו גאוסיים במשותף אז הוא וקטור - גאוסי. שהוא פונקציה לינארית של מ.א גאוסים כל מ.א - במשותף הוא גאוסי במשותף איתם. עבור תהליך סטאציונארי: תהליך מסוג הוא SSS (ההפך לא בהכרח נכון. - פונקציה קבועה בזמן (חסרת זיכרון של SSS היא גם -.SSS תהליך WSS SSS - תהליך WSS לא בהכרח גורר.SSS - תהליך שאינו WSS אינו.SSS - במקרה הגאוסי wss sss (אמ"מ. - ת.א גאוסי + WSS.SSS - מערכת מתבדרת לא יכולה להיות סטאציונארית. - תהליך שהוא סכום של + WSS בת"ס הוא גם.WSS - של (חסרת זיכרון תהליך שהוא פונקציה קבועה בזמן -.WSS הוא גם WSS (

12 For more please vs ( y g( y + עבור תהליך פואסוני: אם הן לא בתחומי זמן התוספות בת"ס אחת לשניה - חופפים. ניתן לקרב תהליך פואסוני לנורמלי עבור גדול: - e e! π ( עבור מטריצת מעבר : - כאשר יש מחלקה נשנית אחת והיא ארגודית (עם מחזור אחד אז ההסתברות להיות בכל אחד מהמצבים תתכנס להסתברות סטאציונרית: אם בת"ס ומתקיים: אז גאוסיים עם תוחלת ובעלי שונות זהה. עבור בת"ס ו- :Z+ - אם מתפלגים פואסונית אז Z גם מתפלג פואסונית. - אם מתפלגים גאוסית אז Z גם מתפלג גאוסית. aw o large umbers or WSS zero mea scree process: R [ ] E where aw o large umbers or whe zero mea scree process: E m δ[ m] ; < E where Wea aw o large umbers: E η E η η δ m ( ( m [ ] η where Srog aw o large umbers: E η ; E η η δ m ( ( m [ ] η where Ceral lm heorem: epee ; E η ; VAR ; ; η η z η srbuo Z Z N ( meag ha FZ ( z e π z are o couous ype he also Z ( z e π ( η or we oly ge a appromao! F ( e π ( η a are o couous ype he also ( e π שונות מאוד... מאורע אקראי: איחוד של התרחשויות Ω שמקיים תכונה רצויה. ( > 5 ( 7 < ( : ( > 5& ( 7 < חוק המספרים הגדולים: (N - aw o arge Numbers היא סדרת עם שונות סופית ותוחלת : η E התכנסות במובן "עם הסתברות ": wp. p wp. p E lm η p כל ניסוי ניתן להסב להתפלגות ברנולית. ( J lm J... π π π כלים מתמטיים שימושיים e e C C + C C ++ C C C ; C C C C C C C C C + C + C + C + C + + C + C + C + C כללים ונוסחאות מססטיסטיקה: Uo bou: U A A Borel Caell emma: a. A < b. IU A A IU A A a are epee eves Beroull's heorem: p p p > ε < ε ( ( creag R.V wh esre srbuo F ( ~ U[ ] U ~ U[ ] F ( U y F y F F y F y ( ( ( ( creag Z~N( ecely rom y~u[]..: Z l cos π ( ( Marov equaly or o-egave R.V: E α > α α Chebyshev equaly: E ε ε > Beayme equaly: E a ε a ε ε yapauov equaly: : E < E E Cauchy Schwarz equaly E E / /( /