A A A = = A = = = = { A B} P{ A B} P P{ B} P { } { } { A P A B = P B A } P{ B} P P P B=Ω { A} = { A B} { B} = = 434 מבוא להסתברות ח', דפי נוסחאות, עמוד מתוך 6 חוקי דה-מורגן: הגדרה הסתברות מותנית נוסחת בייס ) :(Bayes נוסחת ההסתברות הכוללת: הגדרה חוסר תלות סטטיסטית מאורעות יקראו בת"ס (בלתי-תלויים סטטיסטית) כאשר: P{ A B} = P{ A} P{ B} הערות q p כאשר גדול, ו p קטן אזי ניתן לקרב Bi( p, ) Pois( p) Pois( ) + Pois( ) = Pois( + ) תוחלת ( µ ) משתנים אקראיים בדידים מוכרים: כינוי; הסבר ברנולי ; הצלחה בניסוי סימון פונקצית הסתברות שונות ( ) pq pq q p p p p µ =p i i p, q, pq =,,,..., pq =,,3,... e! =,,,...! i pi!! i= Ber( p) Bi( p, ) Geom( p) Pois( ) Mult( p, ) בינומי; הצלחות מתוך ניסויים גיאומטרית; כשלונות עד הצלחה ראשונה בניסויים פואסונית מולטי-נומית http://www.techio.co.il 6 אבי בנדל
m תוחלת ( µ ) 434 מבוא להסתברות ח', דפי נוסחאות, עמוד מתוך 6 משתנים אקראיים רציפים מוכרים: כינוי מעריכית סימון פונקצית צפיפות שונות ( ) הערות! = m = (!! ) m + = ( ), µ ~ N ו µ e, >, > e π e π µ Ep ( ) N (,) (, ) N µ גאוסיאנית (נורמאלית) סטנדרטית גאוסיאנית (נורמאלית) כללית עבור,) N( Z~ מתקיים: b µ P( b) = P Z ( b a) r b+ a r, [ ab, ] b a, [ ab, ] r r e ( r! ) Uab [, ] Gamma( r, ) Γ( r, ) אחידה גאמה r פעמים קונבולוציה של ) ( Ep עם עצמו d F ( ) ( ), ( ) ( ) P f = F d משתנים אקראיים פונקצית התפלגות: צפיפות של סכום משתנים אקראיים היא קונבולוציה בין הצפיפויות שלהם: f = f u * f v f u f udu ( ) ( ) () ( ) ( ) = U+ V U V U V Γ ( r, ) +Γ ( s, ) =Γ ( r+ s, ) Pois( ) + Pois( ) = Pois( + ) Bi( p, ) + Bi( mp, ) = Bi( + mp, ) ~ Geom( p) P( > + > ) = P( > ) ~ Ep( ) P( > s+ t > t) = P( > s) תכונות: תכונת חוסר הזיכרון: : = צפיפות של משתנה מקרי שתלוי במשתנה מקרי אחר, כאשר ( )h f ( ) f( y) = h ( ) = h ( y) http://www.techio.co.il 6 אבי בנדל
434 מבוא להסתברות ח', דפי נוסחאות, עמוד 3 מתוך 6 EN [ ] p ( ) = E [ ] f ( ) d E[ f( N) ] f( ) p ( ) = [ ( )] = ( ) ( ) Eh N התוחלת הגדרה תוחלת תוחלת של משתנה אקראי בדיד תוחלת של משתנה אקראי רציף הרחבת המושג: תוחלת של פונקציה של משתנה: עבור משתנה אקראי בדיד ופונקציה ( )f: N :h( ) h f d עבור משתנה אקראי רציף ופונקציה תכונות התוחלת ותוצאות נוספות,a קבועים דטרמיניסטים: ליניאריות: עבור b. Ea [ + b] = ae [ ] + be [ ] נוסחת התוחלת הכוללת:. EA [ ] = EA [ BP ] ( B) + EA B P( B ) משפט ההחלקה:. 3 E [ ] = EE [ ] אם, בלתי תלויים (או אפילו רק חסרי קורלציה), אז. 4 E [ ] = E [ ] E [ ] לכל מ"א רציף (קיים ביטוי מקביל למשתנים בדידים): 5. E [ ] = P{ < } d= ( F ( ) ) d m ( ) E = f d ( ) :Z~ N, הגדרה מומנט מומנטים של 3... (, ) =!!, = EZ [ ] = =, = +, = + הגדרה שונות var= E ( E [ ]) E = ( E [ ]) תכונות השונות, כאשר c קבוע דטרמיניסטי (לא אקראי): var() c = var( c) = c var var( + ) = var+ cov (, ) + var= + + הגדרה סטיית התקן var http://www.techio.co.il 6 אבי בנדל
P 434 מבוא להסתברות ח', דפי נוסחאות, עמוד 4 מתוך 6 הגדרה פונקציה יוצרת מומנטים (פונקציה אופיינית) s ( () ) M s Ee M () = E = m b > a { µ > b}, P{ µ a} Eh [ ( ) ] h( E [ ]) אי שוויון צ'בישב: אי שוויון ינסן: וקטור אקראי הגדרה וקטור אקראי וקטור אקראי ממימד הוא וקטור אשר כל רכיביו הם משתנים אקראיים, ומסומן: = (,,..., ) מצפיפות משותפת של שני משתנים, ניתן לחשב את פונקצית הצפיפות השולית (של אחד המשתנים): f ( ) f ( ydy, ) = f ( y, ) = f ( ) f ( y) (, ) אי תלות קיימת אם"ם אי תלות בין רכיבי וקטור לא יכולה להתקיים אם התמך של ), y f ( לא מלבני. f ( ) ( ) y, f f ( y) = f ( y ) f ( y) Bayes f ( y) = f ( ) f ( y) f ( ydy ) התפלגות מותנית: נוסחת הצפיפות הכוללת: טרנספורמציה של וקטור אקראי f ( ) ( ),...,,...,,..., = f y= h(,..., ) : T(,..., ) ( y,..., y) y= h(,..., ) y y f,..., ( y,..., y ) = f,..., ( T ( y,..., y) ) = f y y y,...,,..., ( T ( y y )) שונות בין שני משתנים אקראיים (קו-ווריאנס): = cov (, ) E ( E [ ])( E [ ]) = E [ ] EE [ ] [ ],a קבועים דטרמיניסטים: תכונות הקווריאנס, עבור b cov (, ) = var= cov ( + a, ) = cov (, ) cov ( a+ b, ) = acov (, ) http://www.techio.co.il 6 אבי בנדל
ρ ρ =, ρ ρ = ρ,, = siga ρ ( ) a,, ρ = ρ + c,, 434 מבוא להסתברות ח', דפי נוסחאות, עמוד 5 מתוך 6 קורלציה (מקדם המתאם): תכונות: וקטור אקראי גאוסי, הצפיפות המשותפת היא עבור וקטור אקראי גאוסי כללי ( ) ep{ (( ) ( ) )} T f = µ Σ µ כאשר µ הוא וקטור התוחלות, ו Σ מטריצת הקווריאנס (תמיד סימטרית). ועבור מקרה פרטי של שלושה משתנים: Z µ fz,, ( yz,, ) = ep ( µ y µ z µ Z) Z y µ z µ Z Z Z Z, הקבוע הוא בהינתן מימד הוקטור T = ep{ µ Σ µ } ( π) Σ למציאת התוחלת של משתנה גאוסי, יש לגזור את צפיפות המשתנה ולהשוות ל, מכיוון שתוחלת משתנה גאוסי מתקבלת במקסימום המקומי שלו: f ( ) = e π µ ~ µ ולכן, כדי לקבל את וקטור התוחלות של וקטור גאוסי, נדרוש fz,, ( yz,, ) = טענה שימושית :( yz,, ) וק"ל של,Σ Z בהינתן וקטור גאוסי עם מטריצת קווריאנס u= u ( yz,, ) v= v ( yz,, ) אזי u Σ UV= ΣZ( u v ) v במשפחה הגאוסית, כלומר עבור משתנים אקראיים גאוסים המהווים חלק מוקטור אקראי גאוסי, משתנים בלתי מתואמים (חסרי קורלציה) הם גם בלתי תלויים. http://www.techio.co.il 6 אבי בנדל
434 מבוא להסתברות ח', דפי נוסחאות, עמוד 6 מתוך 6 בעזרת חזאים החזאי (משערך) האופטמלי של (פונקציה של ): ˆ = E [ ] opt החזאי (משערך) הליניארי האופטמלי של בעזרת (פונקציה ליניארית של ): cov (, ) ˆli opt= ( E ) + E במשפחה הגאוסית, כלומר עבור משתנים אקראיים גאוסים המהווים חלק מוקטור אקראי גאוסי, החזאי האופטמלי הוא החזאי הליניארי האופטמלי., S אזי לכל = i= i :( WLLN WeaLawofLargeNumbers. µ נסמן החוק החלש של המספרים הגדולים ) יהיו,,..., N משתנים אקראיים מפולגים באופן זהה ובת"ל IID ), בעלי תוחלת Idepedet Idetically Distributed ) S limp µ > ε = limf ( ) = δ ( µ =, אזי ) S :ε> בעצם, חוק זה אומר כי אם נגדיר משפט הגבול המרכזי ) LimitTheorem :( LT etral, S אזי = i= i µ ושונות. נסמן יהיו,,..., N משתנים אקראיים מפולגים באופן זהה ובת"ל IID ), בעלי תוחלת Idepedet Idetically Distributed ) S µ limp a =Φ( a).n( כאשר Φ פונקצית ההתפלגות של (, http://www.techio.co.il 6 אבי בנדל