תורת ההסתברות (1) 80420

תורת ההסתברות (1) 80420 איתי שפירא 4 באוקטובר 2017 מתוך הרצאות מהאונברסיטה העברית 2017. i.j.shapira@gmail.com

תוכן עניינים 0 מבוא והשלמות 6 0.1 נושאים מתורת הקבוצות.......................... 6 0.2 נושאים מתורת המידה........................... 10 0.3 פונקציות הפיכות.............................. 13 0.4 נושאים מקומבינטוריקה........................... 14 1 מרחב הסתברותי 17 1.1 מרחב המדגם................................ 17 1.2 מאורע.................................... 18 1.3 הסתברות.................................. 20 1.4 מרחבי הסתברות דיסקרטיים........................ 24 1.5 רציפות פונקציית הההסתברות....................... 28 2

תוכן עניינים 2 הסתברות מותנית 32 2.1 הסתברות מותנית.............................. 32 2.2 חוק בייס ונוסחת ההסתברות השלמה................... 34 2.3 אי תלות................................... 36 2.4 ניסויים חוזרים............................... 40 3 משתנים מקריים דיסקרטיים 42 3.1 משתנים מקריים והתפלגות......................... 42 3.2 התפלגות בינומית.............................. 49 3.3 התפלגות פואסון.............................. 55 3.4 התפלגות גיאומטרית............................ 57 3.5 התפלגות משותפת.............................. 59 3.6 אי תלות משתנים מקריים.......................... 62 3.7 סכום משתנים מקריים........................... 66 3.8 התפלגות מותנה............................... 67 4 תוחלת 71 4.1 הגדרת התוחלת............................... 71 4.2 לינאריות התוחלת.............................. 73 3

תוכן עניינים 4.3 השונות................................... 77 4.4 תוחלת מותנה................................ 86 4.5 פונקציה יוצרת מומנטים.......................... 89 5 אי שיוויניות 91 5.1 אי שיווין מרקוב וצ'בישב.......................... 91 5.2 אי שיווין הופדינג.............................. 96 5.3 אי שיווין ג'נסן................................ 99 5.4 אי שיווין קולמוגרוב............................. 100 6 משתנים מקריים רציפים 101 6.1 הגדרות................................... 101 6.2 ההתפלגות האחידה............................. 103 6.3 ההתפלגות הנורמלית............................ 104 6.4 ההתפלגות המעריכית............................ 106 6.5 התפלגות גאמה............................... 108 6.6 התפלגות בטא................................ 108 6.7 פונקציות של מ"מ.............................. 108 6.8 התפלגות וצפיפות משותפת......................... 109 4

תוכן עניינים 6.9 תוחלת.................................... 113 6.10 פונקציית יוצרת המומנטים......................... 114 6.11 עוד התפלגויות............................... 114 7 משפטי גבולות 115 7.1 התכנסות.................................. 115 7.2 החוק החלש של המספרים הגדולים..................... 119 7.3 החוק החזק של המספרים הגדולים..................... 119 7.4 משפט הגבול המרכזי............................ 119 5

פרק 0 מבוא והשלמות 0.1 נושאים מתורת הקבוצות 0.1.1 מושגים כללים תורת הקבוצות משחקת תפקיד מהותי בהסתברות. לכן, הקורס יתחיל בהצגה כללית של מושגים מתורת הקבוצות. לאורך הקורס נסמן ב X קבוצה כלשהי, לה נקרא מרחב שלם. האיברים ב X ייקראו נקודות. אם A X ו x נקודה ב X. אנחנו נכנה קבוצה של קבוצות בשם אוסף.(Collection) אוסף כל הקבוצות של X מסומן ב 2 X ונקרא קבוצת החזקה של X. הסימון מעיד על התכונה ש X 2 X = 2 עבור קבוצות סופיות. סדרה של קבוצות n=1 (A n ) תקרא עולה אם לכל n N מתקיים: n+1,a n A ויורדת n. וכנ"ל לגבי סדרה אם ההכלה היא בכיוון השני. אם n=1 (A n ) עולה, אז k=1 A k = A n יורדת וחיתוך. לכל x, X הקבוצה {x} X נקרא יחידון. אם שתי קבוצות חסרות נקודות משותפות, 6

מבוא והשלמות פרק 0. נאמר שהן זרות.(disjoint) איחוד של קבוצות זרות משחקת תפקיד חשוב בהסתברות ולהן שמורה הסימן. קרי: A B פירשו A B עבור = B.A 0.1.2 קבוצה משלימה הגדרה: יהי X מרחב שלם, ותהי A X קבוצה. המשלים שלה (complement) היא קבוצת כל הנקודות במרחב שלא שייכות לה A} A c = {x x המשלים מקיים: A X A A c = X A A c =.1 A X (A c ) c = A.2 c = X X c =.3 A B = B c A c.4 A X ( {A A C}) c = {A c A C}.5 A X ( {A A C}) c = {A c A C}.6 0.1.3 גבולות הגדרה: תהי 1=n A) n ) סדרה של קבוצות. הגבול העליון של הסדרה מוגדר להיות אוסף הנקודות ששיכות ל A n באופן שכיח: lim sup A n := {x k n k x A n } n הגבול התחתון של הסדרה מוגדר להיות אוסף הנקודות ששייכות ל A n כמעט תמיד: lim inf n A n := {x k n k x A n } 7

מבוא והשלמות פרק 0. הערה: ברור ש.lim inf A n lim sup A n n n הגדרה: נאמר שסדרה של קבוצות n=1 (A n ) מתכנסת אם.lim sup A n = lim inf A n נסמן n n במקרה זה את הגבול העליון והתחתון ב. lim A n n. ומכאן נקבל n=k A n = {x n k הערה: לפי בנייה, לכל k N נקבל: } n x A את השיווין: k=1 n=k A n = lim sup A n n באופן דומה: k=1 n=k A n = lim inf n A n כל סדרה מונוטונית מתכנסת = n lim A ואם n=1 (A n ) יורדת אזי n טענה: תהי n=1 (A n ) סדרה עולה, אזי n=1 A n. lim n A n = n=1 A n n=1 A n =,k N ולכן לכל k 1 n=k 0 A n = A k1 lim sup A n = n lim inf n A n = k=1 n=k k=1 n=k הוכחה: נשים לב שלכל,k 0 < k 1 N A n = n=1 A n = k=1 A n A k ומכאן: n=k A n מצד שני: קיבלנו שיווין לכן 1=n A) n ) מתכנסת, כנדרש. באופן זהה מוכחים עבור סדרה יורדת. 8

מבוא והשלמות פרק 0. דוגמאות.1 יהי.X = N נתבונן בסדרה: {n N k N 2k = n} n is even A n = {n N k N 2k 1 = n} n is odd אזי: lim sup A n = X אבל = n.lim inf A n n.2 ניקח שוב X = N ונתבונן בסדרה: N {0}}.A k = {k j j אזי: {1} = n.lim A 0.1.4 עוצמה עוצמה העוצמה של קבוצה A הוא מספר האיברים בה, ומסומן ב A. אם הקבוצה היא סופית אזי. A N קבוצה בת מנייה קבוצה A נקראת בת מנייה אם קיימת העתקה חח"ע ועל T. : N A כלומר לכל a A יש n N כך ש T (n) = a ואם (m) T (n) = T אזי.n = m באופן שקול, A היא בת מנייה אם ניתן להציגה את איבריה כסדרה. במקרה זה נסמן: A. = ℵ 0 פונקציות עבור קבוצות,A B נסמן ב B A את אוסף הפונקציות מ A ל B. כמו כן, נסמן ב 2 A את אוסף כל תתי הקבוצות של A. 9

מבוא והשלמות פרק 0. הפונקציה המציינת עבור,A B נגדיר 1 A : B B על ידי: 1 b A 1 A (b) = 0 b A לפונקציה זו נקרא הפונקציה המציינת של A. 0.2 נושאים מתורת המידה 0.2.1 אלגברה הגדרה: אוסף C של קבוצות מעל X ייקרא אלגברה של קבוצות sets) (an algebra of אם היא מקיימת: A C A c C.1 A, B C A B C.2 X C.3 הערות 1. בתורת המידה אפשר להמיר את תנאי 3 בתנאי ש C; ואכן זה שקול: אם C אזי יש A C ולכן A c C ומכאן.X = A A c C ובכיוון השני כמובן שאם תנאי 3 מתקיים אז C. 2. באופן דומה, אפשר להמיר את תנאי 3 בתנאי ש C : אם תנאי 1 מתקיים אזי.X C אם ורק אם C.3 X} C = {, A, A c, היא אלגברה 10

מבוא והשלמות פרק 0..4 X C = 2 היא אלגברה. 5. אנטי דוגמה: נניח ש X קבוצה אינסופית. אזי אוסף כל התתי קבוצות הסופיות של X איננו אלגברה וגם אוסף כל התתי קבוצות האינסופיות שלה איינו אלגברה. 0.2.2 טענות בסיסיות טענה: יהי C אלגברה של קבוצות. אזי: C.1 n N A 1,..., A n C = n i=1 A i C.2 n N A 1,..., A n C = n i=1 A i C.3 A, B C A \ B C.4 הוכחה:.1 לפי תנאי,3 C X ולכן לפי תנאי = X c C 1 2. אינדוקציה n i=1 A i = ( n i=1 Ac i )c C.3.A \ B = A B c C.4 0.2.3 סיגמה אלגברה הגדרה: תהי C אלגברה. נאמר ש C היא σ אלגברה או סיגמה אלגברה אם לכל 1=n A) n ) (סיגמה אדיטיביות). סדרה של קבוצות ב C מתקיים: n=1 A n C באופן שקול: תהי X. אוסף M 2 X לא ריק נקרא σ אלגברה אם הוא סגור למשלים ומקיים סיגמה אדיטיביות. 11

מבוא והשלמות פרק 0. הערות: 1. האוסף 2 X הוא σ אלגברה. 2. לאיברי M קוראים קבוצות מדידות. טענה: תהי Γ קבוצת אינדקסים, לאו דווקא בת מנייה. נתבונן במשפחה C γ עבור γ Γ של σ אלגברות. אזי: Γ} F = {C γ γ היא גם σ אלגברה. הוכחה: יהי n=1 (A n ) סדרה של קבוצות ב.F לפי הגדרה, A n C γ לכל.γ Γ היות. זה נכון לכל γ Γ ולכן ו C γ היא σ אלגברה, אזי: A c n C γ,x C γ ו n=1 C γ. כנדרש. n=1 A n F וגם A c n F,X F 0.2.4 סיגמה אלגברה נוצרת הגדרה: יהי X לא ריק ו S. 2 X ה σ אלגברה הנוצרת על ידי S הוא חיתוך כל ה.σ(S) והיא מסומת ב S המכילות את σ אלגבראות הערות: 1. החיתוך הזה איננו ריק כי 2 X בעצמה היא σ אלגברה המכילה את S 2. ה σ אלגברה הנוצרת היא בעצמה σ אלגברה, כי מהטענה הקודמת חיתוך לא ריק של σ אלגבראות הוא σ אלגברה 12

מבוא והשלמות פרק 0. 0.2.5 מרחב מידה הגדרה: תהי X קבוצה ו σ אלגברה M על X. הזוג (M,X) נקרא מרחב מדיד. הגדה: יהי M) (X, מרחב מדיד. פונקציה מהצורה: } {, R µ : M R := נקראת פונקציית מידה אם: = 0 ( )µ וגם לכל A n M בעלת איברים זרים בזוגות,.µ( n=1a n ) = מתקיים: n) n=1 µ(a הגדרה: השלשה (µ,x),m נקראת מרחב מידה. הערות: 1. מידה נקראת סופית אם <.µ(x) 2. אם המידה היא סופית, אז אפשר לוותר על הדרישה ש = 0 ( )µ, כי היא נובעת ישר מסיגמה אדיטיביות. 0.3 פונקציות הפיכות באינפי, בהינתן קבוצות,X, Y הגדרנו פונקציה בתור התאמה בין X ל f. : X Y Y: פונקציה כזו הייתה הפיכה אם היא חח"ע ועל ובמקרה זה הגדרנו: f. 1 : Y X בהסתברות, אנחנו נרצה לתת הגדרה רחבה יותר למושג פונקציה. בהגדרה של אינפי, הפונקציה מוגדרת לכל x X בנפרד, אך בהסתברות נרצה לתת משמעות לעצמים כמו: ) 2.f(x 1 and x בנוסף, נרצה הגדרה שתאפשר להתייחס למושג הופכי גם אם לא קיים. מכאן, בהסתברות נגדיר פונקציה כהתאמה בין תתי קבוצות של X ו Y, קרי: X f : 2 Y. ו X שמכילות את בהינתן שאי אפשר לעשות את זה, נסתפק ב σ אלגבראות 2. Y מכאן: הגדרה: בהינתן פונקציה f, : X Y נגדיר את ההפונקציה ההופכית של f בתור:. A Y f 1 (A) = {x X f(x) A} על ידי: f 1 : 2 Y 2 X 13

מבוא והשלמות פרק 0. תכונה חשובה של 1 f שהיא קומוטטיבית עם פעולות של קבוצות: טענה: A Y (f 1 (A)) c = f 1 (A c ).1 A, B Y A B = = f 1 (A) f 1 (B) =.2 f 1 (Y ) = X.3 4. אם 1=n A) n ) סדרה של תתי קבוצות של Y, אזי: f 1 ( A n ) = f 1 (A n ) n=1 n=1 הוכחה: (A) x f 1 אם ורק אם,f(x) A ולכן x (f 1 (A)) c אם ורק אם f(x) A אם ורק אם f(x) A c אם ורק אם ) c x. f 1 A) באופן דומה מראים את השאר. מסקנה: אם X, Y קבוצות ו ;f : X Y נתבונן ב σ אלגברה,F 2 Y על.Y אזי:.X על היא σ אלגברה F X = {f 1 (A) A F } 0.4 נושאים מקומבינטוריקה התורה המתמטית הדיסקרטית העוסקת במנייה של עצמים בקבוצות סופיות נקראת קומבינטוריקה. חישוב הסתברויות במקרים רבים, בפרט בשלב ההתחלתי של הקורס, מצמצמים לבעיות ספירה ומנייה, דהיינו לבעיות קומבינטוריות. נזכר בכמה מהכלים הבסיסים בתורה זו. 14

מבוא והשלמות פרק 0. 0.4.1 כלל המכפלה כלל המכפלה: אם,A B קבוצות סופיות, אזי B A. B = A באופן כללי, אם A 1,..., A r קבוצות סופיות אזי: r r A i = A i i=1 i=1 לדוגמה: נניח ומטילים מטבע ואז מטילים קובייה. כמה קומבינציות אפשרויות יש לתוצאה? מכלל המכפלה יש 12 קומבינציות אפשרויות של עץ ומספר. העוצמה של אוסף הפונקציות טענה: יהי A ו B סופיות. אזי A. B A = B הוכחה: נסמן A = n ונמספר את איברי.A := {a 1,..., a n } :A נגדיר פונקציה: H : B A n על ידי: )) n.h(f) = (f(a 1 ),..., f(a זו פונקציה חח"ע ועל j=1 B שכן אם )) n (f(a 1 ),..., f(a n )) = (g(a 1 ),..., g(a אזי.f = g זו פונקציית על שכן לכל (b 1,..., b n ) n נוכל להגדיר: g : A B על ידי g(a i ) = b i ונקבל g B A ו j=1 B.H(g) = (b 1,..., b n ) לכן שתי הקבוצות לעיל שוות עוצמה, ונקבל: n B A = B n = B = B n = B A j=1 j=1 דוגמה נוספת: מטילים קוביה 10 פעמים ומקבלים סדרה של 10 תוצאות. מהו מספר האפשרויות לקבלה סדרה כזו? אם [6] = A זה אוסף התוצאות האפשרויות בהטלה אחת, סדרת תוצאות אפשרית היא וקטור מהצורה ) 10 (x 1,..., x עבור x i A לכל 10.i 15

מבוא והשלמות פרק 0. 10 10, ולכן מכלל המכפלה: = i i=1 A לכן אוסף התוצאות האפשרויות הוא פשוט: 1=i A i. 10 i=1 A i = 6 10 0.4.2 תמורות מספר הדרכים לסדר n עצמים שונים בסדרה הינו!n. מספר תתי הקבוצות מגודל k מתוך ( n. כלומר זוהי הדרך לבחור k איברים ללא חשיבות לסדר k) קבוצה בעלת n עצמים הוא: שבו הם נבחרו, שזה פחות מכמות הדרכים עם חשיבות לסדר. היות וכל תת קבוצה כזו ניתנת לסידור, ומספר הדרכים לסדר הוא!k, נקבל שמספר הדרכים לבחירת k איברים מתוך n עם חשיבות לסדר הוא:. באופן שקול, אם B = n ו, A = k מספר n! (n k)!. n! (n k)! הפונקציות החח"ע מ A ל B הוא 16

פרק 1 מרחב הסתברותי 1.1 מרחב המדגם תיאוריית ההסתברות עוסקת במושג הקונספטואלי של ניסוי, בו אנחנו מייחסים הסתברויות לתוצאות אפשריות בניסוי. מכאן, עלינו ראשית לפתח מודל אבסטרקטי למושג ניסוי. לניסוי שני חלקיים: פעולה, כמו הטלה מטבע; ותיעוד התוצאה, למשל עץ או פלי. הניסוי ממודל על ידי קבוצה שמתייחסת לכל התוצאות האפשרווית ונקראת מרחב מדגם. לרוב נסמן קבוצה זו ב Ω. דוגמאות 1. הטלת מטבע ותיעוד הצד העליון של המטבע. מרחב המדגם מכיל את שתי התוצאות האפשריות } T Ω = {H, 2. הטלת מטבע שלוש פעמים ותיעוד הצעד העליון של המטבע עם חשיבות לסדר. מרחב המדגם מכיל את כל הטריפלטות האפשרויות: } 3 T Ω. =,H} מרחב מדגם אחר יכול להיות תיעוד מספר הפעמים שיצא פלי: {3,0},1,2 = Ω. כלומר מרחב המדגם איננו 17

מרחב הסתברותי פרק 1. ייחודי והוא תלוי באופן שאנחנו רוצים למדל את הניסוי. 3. הטלת שתי קוביות ותיעוד המספר בכל אחת מהן עם חשיבות לסדר: מרחב מדגם אפשרי היינו: 6} 2..., {1, =.Ω מרחב מדגם ללא חשיבות לסדר יהיה: j) Ω = {(i,.1 i j 6} 4. זריקת חץ על מעגל היחידה ותיעוד המרחב שלו מהראשית: [1,0] = Ω..5 זריקה אינסופית של מטבעות: Ω = {H, T } N הערה: הבחירה של Ω היא אף פעם לא ייחודית. יתרה מכך, הבחירה יכולה לשקף באיזה מידע על העולם או הניסוי אנחנו רוצים להשתמש. 1.2 מאורע נניח ואנחנו זורקים קוביה ובוחרים לתעד את החלק העליון של קוביה. מרחב מדגם אפשרי הינו: {6,...,1} = Ω. מה לגבי התוצאה "זוגי"? תוצאה זוגית איננה חלק מ Ω כפי שהוגדרה. "התוצאה היא זוגית" איננה תוצאה אלמנטרית של הניסוי, אלא הוא אוסף של תוצאות אפשריות להן אנחנו קוראים מאורעות: 1.2.1 מאורע הגדרה: יהי Ω מרחב מדגם. A Ω נקראת מאורע.(event) עבור A, Ω אם הניסוי הניב את התוצאה ω, Ω נאמר ש A התרחש אם ω. A אחרת, נאמר שהמאורע לא התרחש. 18

מרחב הסתברותי פרק 1. 1.2.2 מרחב מדיד לעיתים, במיוחד במקרים בהם Ω איננה בת מנייה, אנחנו נגביל את עצמנו לאוסף של מאורעות שהינו תת אוסף של קבוצת החזקה. יחד עם זאת, בכל מקרה נדרוש שתת אוסף זה היינו σ אלגברה. מכאן: הגדרה: הזוג הסדור ) F,Ω) עבור Ω מרחב מדגם ו F קבוצה σ אלגברה של מאורעות נקרא מרחב מדיד space).(measurable הערות: היות והגדרנו והזוג ) F,Ω) הוא מרחב מדיד, אנחנו יורשים את התכונות של מרחב מדיד: מכאן, Ω ו הם תמיד מאורעות. איחוד סופי ובן מנייה של מאורעות הן מאורע, חיתוך סופי וחיתוך בן מנייה של מאורעות הן מאורע. אם,A B מאורעות, אז A \ B הוא מאורע. דוגמאות 1. נתייחס לניסוי של זריקת קוביה שלוש פעמים. } 3 T Ω. =,H} המאורע "הזריקה השנייה היא "Head הינה:.{(H, H, H), (H, H, T ), (T, H, H), (T, H, T )} Ω 2. נתייחס לניסוי "זמן המתנה לאוטובוס". אזי: (,0) = Ω. המאורע "חיכתי בין שעה לשעתיים" היינו: Ω 2).(1, 19

מרחב הסתברותי פרק 1. 1.3 הסתברות 1.3.1 הגדרה ותכונות בסיסיות הגדרה: יהי ) F (Ω, מרחב מדיד. הסתברות על ) F (Ω, היא פונקציה P : F R שמקיימת:.1 אי שליליות: (A) A F 0 P.2 נרמול: = 1 (Ω) P.3 סיגמא אדיטיביות: תהי n=1 (A n ) סדרה כך ש A n F לכל n וגם = j A i A P ( n=1a n ) = P (A n ) n=1 לכל.i j אזי: הגדרה: לשלשה הסדורה ) P,Ω) F, נקרא מרחב הסתברות. הערות: 1. התפקיד של F בקורס זה יהיה מינימלי. ההתעקשות להגדיר מרחב הסתברות במונחים של F נועד להימנע מבעיות של תורת המידה שעלולות לעלות. קבוצה שתעלה מתוך אופרציות על אירועים תהיה אירוע בעצמה. כך, כל 2. פונקציית הסתברות היא מידה סופית. 3. אדרבא, כל מידה סופית µ, יכולה להפוך לפונקציית הסתברות על ידי הגדרת הפונקציה: µ(x) ;µ (x) = שהיא בסך הכל נרמול. µ(x) 4. מרחב הסתברות הוא מרחב מידה סופית. 20

מרחב הסתברותי פרק 1. תכונות מיידיות טענה: יהי ) P,Ω) F, מרחב הסתברות. אזי: P ( ) = 0.1 P ( n.2 לכל סדרה סופית ) n (A 1,..., A של מאורעות זרים מתקיים: = ) i i=1a n i=1 P (A i) A F P (A c ) = 1 P (A).3 A F P (A) 1.4 A, B F P (A \ B) = P (A) P (A B).5 הוכחה:.1 תהי הסדרה הקבועה = n A לכל.n N מתנאי 3 מתקיים: P ( ) = P ( n=1 ) = P ( ) = P ( ) = 0 n=1 2. מיידית מהסעיף הקודם: כל סדרה סופית 1=n A) n ) N אפשר להרחיב לסדרה אינסופית עם = n A כמעט תמיד. והטענה נובעת מהטענה הקודמת ותנאי 3. נתבונן בסדרה c.a A לכל,A F מתקיים = c.3 מיידית מהסעיף הקודם:...),,, c (A, A אזי: 1 = 2 P (Ω) = P (A A c ) = P ( A n ) = 3 P (A n ) = P (A) + P (A c ) n=1 n=1 A F P (A) 1 P (A) + P (A c ) = 1.4 P (A) = P ((A B) (A B c )) 2 = P (A B)+P (A B c ) = P (A B)+P (A\B).5 21

מרחב הסתברותי פרק 1. דוגמאות.1 הטלת מטבע הוגן: מרחב המדגם } T Ω = {H, ו.F = 2 Ω נגדיר הסתברות: = 1 2 }) ({T.P ({H}) = P זה מספיק כדי להגדיר פונקציית הסתברות מוגדרת היטב יחידה על F. 2. זריקת קוביה ותיעוד התוצאה: מרחב המדגם היינו six} Ω. = {one, two,,... ניקח:. i 6 P ({i}) = 1 6 F. = 2Ω נגדיר את הסתברות על כל היחידונים:.3 באופן כללי, אם ) F (Ω, מרחב מדיד סופי, תמיד אפשר להגדיר: = (A) A F P A. לפונקציה זו קוראים פונקציית ההסתברות האחידה. Ω 1.3.2 מונוטוניות ההסתברות מונוטוניות טענה: יהי ) P (Ω, F, מרחב הסתברות. אם A, B מאורעות כך ש A B אזי (A) P.P (B) הוכחה: אם A B אז A) B = A (B \ ולכן: (B).P (A) P (A) + P (B \ A) = P א"ש בול טענה: א"ש בול: יהי ) P (Ω, F, מרחב הסתברות. לכל (A n ) n=1 F מתקיים: ( P n=1 A n ) P (A n ) n=1 22 הוכחה: נגדיר (B n ) n=1 F סדרה של מאורעות: n 1 B 1 = A 1 B 2 = A 2 \ A 1 B 3 = A 3 \ (A 1 A 2 ),... B n = A n \ ( A k ) k=1

מרחב הסתברותי פרק 1. ( P n=1. מכאן: n=1b n = אזי n=1 (B n ) סדרה של זרים בקבוצות ו n=1 A n ) ( ) A n = P n=1 B n = P (B n ) = n=1 n=1 n 1 P (A n \ k=1 A k ) P (A n ) n=1 ( ) מונוטוניות ההסתברות. 1.3.3 נוסחת ההכלה וההדחה הסתברות האיחוד טענה: יהי ) P (Ω, F, מרחב הסתברות. לכל,A, B F נקבל: + (A) P (A B) = P P (B) P (A B) P (A B) = P ((A \ B) (B \ A) (A B)) = P (A \ B) + P (B \ A) + P (A B) ( ) ( ) = P (A \ B) + P (A B) + P (B \ A) + P (A B) P (A B) = P (A) + (P (B) P (A B) הסתברות איחוד משולש טענה: יהי ) P (Ω, F, מרחב הסתברות. לכל,A, B, C F נקבל: = C) P (A B ( ) ( ) P (A)+P (B)+P (C) + P (A B) P (A C) P (B C) +P (A B C) הוכחה: זה נובע ישירות מהטענה הקודמת. P (A B C) = P ((A B) C) = P (A B) + P (C) P ((A B) C) = P (A) + P (B) P (A B) + P (C) P ((A C)) (B C)) ואם נמשיך את הקו הזה נקבל את הדרוש. 23

מרחב הסתברותי פרק 1. עקרון ההכלה וההדחה טענה: יהי ) P (Ω, F, מרחב הסתברות.סדרה של n מאורעות i=1 (A i ) n מתקיים: n n P ( ) = P (A i A j ) + n P (A i A j A k ) +... + ( 1) n+1 P ( A i ) i=1 i=1 P (A i ) i<j i<j<k i=1 הוכחה: נובע מהסעיפים הקודמים. 1.4 מרחבי הסתברות דיסקרטיים מרחב דיסקרטי המרחבים ההסתברותיים הפשוטים ביותר הם הסופיים והבני מנייה. במקרים כאלה, אנחנו יכולים לקחת F. = 2 Ω למרחבים כאלה נקרא מרחבי הסתברות דיסקרטיים. נשים לב ש F לאו דווקא בת מנייה. הגדרת ההסתברות לפי היחידונים עבור מרחב בן מנייה, P יכולה להיות מוגדרת לחלוטין על ידי הערך שלה לכל יחידון: שכן אם נסמן: p(ω) P ({w}) = אזי כל מאורע יכול להיות להיכתב כאיחוד בן מנייה או סופי של קבוצות זרות: P (A) = P ( ω A {ω}) = ω A p(ω) וכך למעשה כל מאורע נקבל רק על סמך הגדרת המידה על היחידונים. במקרים כאלה, עבור פונקציית הסתברות [1,0] F P : אפשר לעבור לסימון: : p.ω לכל p(ω) := P ({ω}) שמוגדרת על ידי: Ω [0, 1] 24

מרחב הסתברותי פרק 1. מידה אחידה מקרה מיוחד של הגדרת הסתברות לפי היחידונים הוא כאשר < Ω ולכל ω Ω נגדיר,p(ω) =: p הסתברות אחידה לכל מאורע יחידון. 1 = P (Ω) = P ( ω Ω ω) = ω Ω p(ω) = ω Ω.P (A) = A ω A p(ω) = p A = Ω מתכונות פונקציית ההסתברות נובע ש p = Ω p = p = 1 Ω מכאן כאמור P נקבע ביחידות: 1.4.1 דוגמאות נתייחס כעת לשתי דוגמאות על מרחבי הסתברות סופיים עם הסתברות אחידה. הטלת קוביה נטיל שתי קוביות. מה ההסתברות שהסכום יהיה 7? מרחב מדגם אפשרי אחד נבנה על ידי התייחסות לשתי הקוביות כשונות ולקבחת: 6} j.ω = {(i, j) 1 i, נניח שהטלת.ω Ω לכל p(ω) = 1 36 P (A) = A 36 = קוביה מתנהגת כמו מידה אחידה ונגדיר: [1,0] Ω p : על ידי: מכאן נסמן את המאורע ב A ונקבל: {(1, 6), (2, 5), (3, 4), (4, 3), (5, 2), (1, 6) } = 1 36 6 פרדוקס יום ההולדת נניח התקהלות אקראית של n אנשים. הולדת? מה ההסתברות שאף זוג מבינהם לא חולק יום 25

מרחב הסתברותי פרק 1. אם 365 n ההסתברות היא אפס, מעיקרון שובח היונים. נניח אפוא ש < 365 n. ניקח.Ω = {i 365 i N} n קרי,. Ω = 365 n משיקולי סימטריה, נגדיר ω = 1 ({ω}) Ω. P נגדיר A n להיות המאורע בו אין לאף זוג יום הולדת משותף. מחוקי Ω An.P (A n ) = מכאן, מספיק לחשב את n. A הגודל הזה Ω ההסתברות האחידה נסיק: מייצג את כל הצירופים של תאריכים של ימי הולדת שבהם אף אחד לא חולק יום הולדת עם אף אחד אחר. מכאן: A n = 365 364... (365 n + 1) P (A n ) = A n 365 364... (365 n + 1) = Ω 365 n = 365 365 364 365 n + 1... 365 365 ( = 1 0 ) ( 1 1 ) (... 1 n 1 ) n 1 ( = 1 k ) 365 365 365 365 i=0 P (A N n ) = k=0 מכאן: באופן כללי, עבור N ימים ו n < N פרטים, נקבל: n 1 i=0 ( 1 i ) N n 1 ( ln P (A N n ) = ln 1 i ) n 1 i N N ( P (A N n ) exp i=0 ) n(n 1) 2N = n(n 1) 2N כמה קטן זה? נבחן: וממונוטוניות האקספוננט נסיק: פרדוקס על שום מה? סתם כי זה לא אינטואיטיבי. בציור ההסתברות ההפוכה (ההסתברות שכן קיים זוג שחולק יום הולדת) עבור = 365 N. בשחור מסומן 0.5. 26

מרחב הסתברותי פרק 1. בעיית המזכירה המבולבלת מזכירה מניחה באופן רנדומלי n מכתבים ל n מעטפות. מה ההסתברות שאף מכתב לא מגיע ליעדו? מה ההסתברות שבדיוק k מכתבים יגיעו ליעדם? בשלב הראשון נבנה מרחב הסתברות. נניח שהמכתבים והמעטפות ממוספרים מ 1 עד n. מרחב המדגם Ω מכילה את כל האפשרויות לנתב מכתבים למעטפות. דהיינו, מרחב המדגם מכיל את כל הפרמוטציות של {n,...,1}. כל פרמוטציה ניתן להציג בצורה: f : {1,..., n} מכאן, קיבלנו בעיה שקולה: בהינתן פונקציה.(σ(1), σ(2),..., σ(n)) {n,...,1} חח"ע ועל, מה הסיכוי שאין לה נקודת שבת? אם A הוא המאורע בו אף מכתב לא הגיעו ליעדו, המשלים A c הוא המאורע שלפחות מכתב אחד הגיע ליעדו. יהי B i המאורע שהמכתב ה i הגיעו ליעדו, אזי: n A c = i=1 B i 27

מרחב הסתברותי פרק 1. P (A c ) = n P (B i B j ) + P (B i B j B k )... מנוסחת ההכלה וההדחה: P (B i ) i=1 i<j i<j<k ( ) ( ) ( ) ( ) n n n n = P (B 1 ) P (B 1 B 2 ) + P (B 1 B 2 B 3 )... + ( 1) n+1 P (B 1... B n ) 1 2 3 n P (B 1 ) = B 1 (n 1)! = P (B 1 B 2 ) = B 1 B 2 = Ω n! Ω P (A c ) = n 1 ( ) ( ) n (n 2)! n 0! n n... + ( 1) n+1 2 n! n b! = ( 1) k+1 k! j=1 מכאן: (n 2)!... n! n 1 e 1.5 רציפות פונקציית הההסתברות 1.5.1 מונוטוניות.P ( lim n A n) = lim טענה: יהי ) P (Ω, F, ו (A n ) n=1 F מונוטונית. אזי: n) n P (A הערה: הטענה שכל סדרה מונוטונית עולה מתנכסת בעמוד 8. lim הוכחה: נראה עבור (A n ) n=1 F עולה. ראינו שעבור סדרות עולות מתקיים = n n A. נבנה את הסדרה הבאה n=1 (B n ) באופן אינדוקטיבי: ניקח.B 1 := A 1 נניח n=1 A n והגדרנו k=1 (B k ) n נגדיר:.B n+1 = A n+1 \ A n מכאן: n k=1b k = n A k = A n k=1 n=1 B n = n=1 A n 28

מרחב הסתברותי פרק 1. מכאן: P ( lim A n) = P ( A n ) = P ( n=1b n ) = P (B n ) = lim n n=1 n=1 = lim P ( n A n ) = lim P (A n) n n k=1 n n i=1 P (B k ) = lim P ( n k=1b k ) n 1.5.2 סדרות כלליות טענה: הלמה של פאטו: יהי ) P (Ω, F, ו.(A n ) n=1 F אזי: P (lim inf n A n) lim inf n P (A n) הערה: נשים לב שהגבול התחתון משמאל הוא הגבול התחתון של סדרה ב R, דהיינו הגבול החלקי הקטן ביותר; ואילו הגבול התחתון משמאל היינו הגבול התחתון של סדרת קבוצות ב F כלומר קבוצת איברי X ששיכים ל A n כמעט תמיד. ( P (lim inf A n) = P n k=1 n=k A n }{{} increasing ) = P ( lim k n=k lim ( היא סדרה עולה ולכן מתכנסת, וגבולה: = n n=k A k הוכחה: ראשית מתקיים: A n ) = lim P ( A n ) k n=k n=k A n) k=1. ( ) רציפות פונקציית ההסתברות. k=1 ( ) הסדרה ( ) n=k A n. מכאן ממונוטוניות מצד שני, יהי.k N לכל n > k מתקיים: k=n A n A n P ( k=n ( P לכל.n > k לכן: ההסתברות: ) n k=n A n) P (A A n ) inf n k P (A n) lim k lim inf n P (A n) 29

מרחב הסתברותי פרק 1. ולכן: P (lim inf A n) = lim P ( n k n=k A n ) lim inf n P (A n) כנדרש. טענה: הלמה של פאטו ההפוכה: יהי ) P (Ω, F, ו.(A n ) n=1 F אזי: lim sup n P (A n ) P (lim sup A n ) n P (lim sup n A n ) = P ( k=1 n=k A n ) = P ( lim P ( n=k k n=k A n ) sup P (A n ) n k הוכחה: מתקיים: A n ) = lim P ( A n ) k n=k מצד שני: ומשיקול זהה ללמה הקודמת נקבל את הדרוש. רציפות פונקציית ההסתברות P ( lim מסקנה: יהי ) P (Ω, F, ו (A n ) n=1 F כך ש lim A n קיים. אזי = n) n A n lim P (A n) n הוכחה: זה תוצאה מיידית של שתי הלמות של פאטו: lim sup n P (A n ) P (lim sup A n ) = P (lim inf A n) lim inf P (A n) = lim P (A n ) = P (lim A n ) n n n 30

מרחב הסתברותי פרק 1. משפט בורל קנטאלי הראשון. משפט בורל קנטלי הראשון: יהי ) P (Ω, F, ו (A n ) n=1 F כך ש < n) n=1 P (A אזי: = 0 ) n.p (lim sup A n.lim sup A n זוהי סדרה מונוטונית יורדת שמתכנסת ל.H k = n=k A n n הוכחה: נגדיר: מכאן: m N P (lim sup A n ) P (H m ) ( ) m P (A k ) 0 n k m ( ) k) k m P (A הוא זנב של טור מתכנס. 31

פרק 2 הסתברות מותנית 2.1 הסתברות מותנית הגדרה: יהי ) P (Ω, F, ו F F מאורע עם 0 ) (F.P לכל,A F ההסתברות המותנית של A בהינתן F מוגדרת ומסומנת על ידי: P (A F ) := P (A F ) P (F ) דוגמאות 1. נניח 10 כדורים לבנים, 5 צהובים ו 10 שחורים. כדור נבחר באקראיות, מה ההסתברות שהוא צהוב? התשובה ברורה 5/25. מה ההסתברות שהוא צהוב. 5 15 בהינתן שהכדור הנשלף איננו שחור? 2. נאמר ותלמיד מתלבט אם ללמוד היסטוריה או ספרות. אם ילמד היסטוריה יעבור בהסתברות של. 1 2 אם ילמד ספרות יעבור בהסתברות של. 1 3 התלמיד בוחר את 32

הסתברות מותנית פרק 2. המקצוע בהטלת מטבע. מה ההסתברות שהוא בחר היסטוריה ועבר? נגדיר את המרחב בתור: {,+} {L Ω. =,H} נגדיר את המאורע A להיות בחר בהיסטוריה: B = "עבר": B נגדיר את המאורע.P (A) = 1 2 = 1 2 A) P (B וגם = 1 3 ) c.p (B A מכאן: )} (H,.A = {(H, +), מכאן: +)} (L,.{(H, +), מכאן נתון ש P (A B) = P (A) P (B A) = 1 4 2.1.1 הסתברות מותנית היא הסתברות משפט: יהי ) P (Ω, F, מרחב הסתברות ו F F אירוע לא ריק. אזי Q : F R המוגדר על ידי ) F Q(A) = P (A היא פונקציית הסתברות מעל המרחב המדיד ) F.(Ω, הערות: 1. באופן דומה אפשר להראות ש Q היא פונקציית הסתברות גם מעל הקבוצה ה.F F = {F A A F } σ אלגברה: 2. בנוסף אם Ω סופית ו P הסתברות אחידה, אזי ) F P A) היא אחידה, הן על.(Ω, F F ) והן על (Ω, F ) הוכחה: נבדוק אם שלושת התנאים מתקיימים. A F Q(A) = P (A F ) P (F ) 0.1 Q(Ω) = P (Ω F ) P (F ) = P (F ) P (F ) = 1.2 3. תהי 1=n A) n ) סדרה של מאורעות זרים. אזי: Q( n=1a n ) = P (( n=1a n ) F ) = P ( n=1(a n F )) n=1 = P (A n F ) P (F ) P (F ) P (F ) P (A n F ) = = P (A n F ) = Q(A n ) P (F ) n=1 n=1 n=1 33

הסתברות מותנית פרק 2. 2.2 חוק בייס ונוסחת ההסתברות השלמה 2.2.1 נוסחת ההסתברות השלמה הגדרה: יהי Ω מרחב מדגם. משפחה של מאורעות ) n A) נקראת כיסוי זר של Ω אם. na n = Ω וגם i j A i A j = נוסחת ההסתברות השלמה יהי ) P.(Ω, F, נניח כיסוי זר ) n (A כך שלכל.P (A n ) > 0,n N מכאן מתקיים: P (B) = P (B Ω) = P (B ( ( ) n=1a n )) = P n=1 B A n = P (B A n ) = P (B)P (B A n ) n=1 n=1 = (B) P קוראים גם נוסחת ההסתברות השלמה. לנוסחה ) n n=1 P (B A n)p (A 2.2.2 חוק בייס טענה: יהי ) P (Ω, F, מרחב הסתברותי. אזי לכל A, B F עבור > 0 (B) P (A), P P (A B) = P (A) P (B A) P (B) מתקיים: הוכחה: אם A, B מאורעות כך ש > 0 (B) P (A), P אזי: P (B A) P (A) = P (A B) = P (A B) P (B) = P (A B) = P (A) P (B A) P (B) 34

הסתברות מותנית פרק 2. 2.2.3 מונטי הול בעיית מונטי הול נקראת על שם המגיש הקנדי יהודי מונטי הול (מוריס הלפרין, עדין חי, בן 96) שהגיש את התוכנית האמריקאית Let s Make a Deal (עדיין משודרת). בסוף התוכנית מציגים בפני השחקן שלוש דלתות. מאחורי אחת מהן מצוי פרס ומאחורי שתים מהן שום דבר. השחקן בוחר באקראי את אחת הדלתות. לאחר שהשחקן הצביע על אחת הדלתות, המנחה, שיודע מה הדלת הנכונה, פותח את אחת הדלתות הריקות מהשתים שהשחקן לא בחר. כעת מאפשרים לשחקן להחליף דלת או להשישאר בבחירתו, מה כדאי לו לעשות? פתרון שלי נמספר את הדלתות מ 1 עד 3, ובה"כ הדלת הראשונה היא הדלת עם הפרס. נסמן: 3}} {1, 2, j Ω = {(i, j) j i, 1 i, את מרחב המדגם כאשר i הוא הבחירה של השחקן ו j הדלת שפתח המנחה שהיא שונה מ i ושונה מ 1. מכאן: Ω = {(1, 2), (1, 3), (2, 3), (3, 2)} אנחנו מניחים שהבחירה של הדלת הראשונה אקראית, וכן שהבחירה איזו דלת לפתוח, אם יש אופציה, היא אקראית, ומכאן: 1 3 ω {(2, 3), (3, 2)} P ({ω}) = 1 6 ω {(1, 2), (1, 3} נסמן: A את המאורע בהם החלפה איננה כדאית, קרי השחקן בחר את הדלת הנכונה ו B החלפה כן כדאית, קרי הוא בחר את הדלת הלא נכונה (כי הדלת השנייה במקרה זה היא 3)} (1, 2), {(1, =.A לכאן: הנכונה). כלומר: 2)} (3, 3), {(2, = B P (B) = P ({(2, 3)}) + P ({(3, 2)}) = 2 3 > 1 = ({(1, 2)}) + P ({(1, 3)}) = P (A) 3 35

הסתברות מותנית פרק 2. הכד של פולייה יש כד עם שני כדורים, שחור ולבן. שולפים כדור אחד מהכד, מחזירים אותו ומוסיפים לכד כדור נוסף באותו הצבע. חוזרים על פעולה זו n פעמים. מה הסיכוי שיהיו בדיוק k כדורים שחורים בכד אחרי פעולות אלה? נסמן ב A k n את המאורע "אחרי השלב ה n יש k כדורים שחורים"; עבור {1+n k.,1},... נסמן n).p k n = P (A k בשביל שיקרה המאורע,A k n קרי k כדורים אחרי השלב ה n, צריך שיהיו k כדורים אחרי השלב ה 1 n (ובשלב ה n יצא לבן) או שיהיו 1 k שחורים.A k 1 (ובשלב ה N יצא שחור). כלומר כדי ש A k n יתרחש, צריכים להתרחש 1 n Ak או 1 n P (A k n A k n 1) = n + 1 k n + 1 P (A k n A k 1 n 1 ) = k 1 n + 1 = P (A k n) = P (A k n 1) n + 1 k n + 1 כעת נשים לב ש + P (A k 1 n 1 ) k 1 n + 1 = 1 n).p (A k באינדוקציה על :n עבור = 1,n אחרי השלב הראשון, נקבל n+1 כעת נוכיח ש = 1 2 = 1 1 P, k כי יש הסתברות זהה להוציא שחור או לבן. כעת נניח 1+1 k {1,..., n + 1} שלכל 2} {1, :k שזה נכון עבור 1 n ונראה עבור n: P (A k n) = P (A k n 1) n + 1 k + P (A k 1 n 1 n + 1 ) k 1 n + 1 = n + 1 k n(n + 1) + k 1 n(n + 1) = 1 n + 1 כנדרש. 2.3 אי תלות 2.3.1 הגדרה הגדרה: יהי,A B מאורעות במרחב הסתברות ) P,Ω). F, נאמר ש A בלתי תלוי ב במאורע B שמקיים > 0 (B),P אם (A).P (A B) = P 36

הסתברות מותנית פרק 2. הערות: 1. זה יחס סימטרי ועל כן נאמר: A ו B בלתי תלויים ונקצר ב"ת..2 לפי הגדרה, אם A לא תלוי ב B אזי (B).P (A B) = P (A) P ואכן, במקרה הכללי, גם עבור = 0 (B) P נוכל להגדיר אי תלות בין A ל B אם מתקיים A) P (B).B) = P (A) P זה לא באמת מוסיף הרבה כי אם = 0 (B) P יש אי תלות טרוויאלית. 3. אי תלות של מאורעות לא גוררת שהם בהכרח זרים ולהפך. אדרבא: מאורעות זרים לא בהסתברות אפס הם בהכרח תלויים. הבלבול פה הוא בעברית: זר (לא מחוברים,.(independent לעומת ב"ת (עצמאיים, (disjoint דוגמאות 1. קלף מחולק באופן אקראי מחפיסה של 52 קלפים. נסמן את המאורעות הבאים: A = {the card is an Ace} B = {the card is a Spade} P (A) = A 52 = 1 13 P (B) = B 52 = 1 4 הם מאורעות אלה ב"ת? נחשב: = P (A) P (B) = 1 = P (A B) 52 לכן התשובה היא כן..2 נניח וזורקים קוביה פעמיים. נסמן: 4} A = {first die is a ו n} ;B = {sum is 37

הסתברות מותנית פרק 2. עבור 12 n.2 עבור אילו ערכי A,n ו B ב"ת? 1 36 n = 2, 12 P (A) = 1 6 2 36 n = 3, 11 3 36 n = 4, 10 P (B) = 4 36 n = 5, 9 5 36 n = 6, 8 6 36 n = 7 1 36 n {5, 6,..., 10} P (A B) = 0 else עבור כל 7 n, A ו B לא ב"ת, אך עבור = 7 n הם כן. מסקנה? מושג לא אינטואטיבי. כל מאורע ב"ת במרחב ובקבוצה הריקה טענה: יהי ) P (Ω, F, ו.A F אזי A ו ;Ω ו A ו ב"ת. הוכחה: (Ω) P (A Ω) = P (A) = P (A) 1 = P (A) P ו = 0 = ( ) P P (A ) =.P (A) 0 = P (A) P ( ) אי תלות עם המשלים טענה: יהי ) P (Ω, F, ו.A, B F אם B ו A ב"ת, אז B ו A c ב"ת. 38

הסתברות מותנית פרק 2. הוכחה: B = (B A c ) (B A) = P (B) = P (B A c ) + P (B A) ולכן: P (B A c ) = P (B) P (A B) = P (B) P (A) P (B) = P (B)(1 P (A)) = P (B) P (A c ) מסקנה: אם B ו A ב"ת, אז B ב"ת ב }, c σ(a) = {Ω, A, A וזהו הקבוצה הσ אלגברה הנוצרת על ידי A קרי ה σ אלגברה הקטנה ביותר המכילה את A. 2.3.2 אי תלות קבוצתית כעת נרצה להגדיר אי תלות קבוצתית. למשל, להגדיר אי תלות בין,A,B C שלוש מאורעות. אי תלות בזוגות הגדרה: נאמר שאוסף של מאורעות C 1,,... C n הוא בלתי תלוי בזוגות אם לכל i, j n.c j ב"ת ב C i נבחן את הדוגמה הבאה כדי להראות את הבעיותיות של הגדרת אי תלות קבוצתית כאי תלות בזוגות. זורקים שתי קוביות. נסמן: A = {the sum is 7} B = {1 st die is a 4} C = {2 nd die is a 2} ראינו לעיל ש A לא תלוי ב B. באותו אופן בדיוק, A לא תלוי ב C. בנוסף ברור ש B לא תלוי ב C. אזי,A,B C לא תלויים בזוגות. אבל, לא ייתכן ש A יהיה בת"ל גם ב B וגם ב C במקביל. כלומר A לא ב"ת ב B. C 39

הסתברות מותנית פרק 2. אי תלות קבוצתית הגדרה: המאורע A בלתי תלוי בזוג במאורעות B ו C אם הוא בלתי תלוי בכל מאורע ב.σ(B, (C כלומר על ידי: C, ו B הנוצרת על ידי σ אלגברה זה נראה שיש הרבה קומבינציות שונות לבדוק, יש בדיוק = 16 22 2. אבל נראה עכשיו דרך קצרה יותר: טענה: A ב"ת ב B ו C אם ורק אם הוא בלתי תלוי ב,B C ו B. C הוכחה: כיוון אחד ברור. מכיוון שני, נניח ש A ב"ת ב B וב C כל אחד בנפרד וכן שהוא ב"ת ב B. C אנחנו צרייכם להראות ש A בלתי תלוי בכל איבר ב σ אלגברה הנוצרת על ידי B ו.C מהנתון, אפשר להסיק ש A הוא גם בלתי תלוי ב B c, C c, B c C c, Ω ו. נראה כעת עבור איבר אחד, B, C וכל השאר ינבע בצורה דומה: P (A (B C)) = P ((A B) (A C)) = P (A B) + P (A C) P (A B C) ( ) = P (A) P (B) + P (C) P (B C) = P (A)P (B C) וכאמור כל השאר נובע משם. הגדרה: נאמר ששלושה מאורעות,A,B C ב"ת קבוצתית או בלתי תלויים הדדית אם כל אחד ב"ת בשניים האחרים. 2.4 ניסויים חוזרים רק כעת שהגדרנו את המושג של אי תלות, אפשר להתחיל לדבר על ניסויים חוזרים תחת תנאים שווים. נניח מרחב הסתברות ) 0 Ω). 0, F 0, P אנחנו רוצים להשתמש במרחב ההסתברות כדי לבנות מרחב הסתברות שלם שמתכתב עם הרעיון של ניסוי חוזר n פעמים 40

הסתברות מותנית פרק 2. כאשר התוצאה של ניסוי אחד בלתי תלויה בניסוי האחר. לשם פשטות, ובעיקר, כמו ברוב הקורס, כדי להימנע מבעיות של תורת המידה, נניח שהניסוי הוא חלק ממרחב הסתברות בדיד. נתבונן בניסוי שחוזר n פעמים. נסמן: } 0.Ω = Ω n 0 = {(a 1, a 2,..., a n ) a j Ω זה מרחב בן מנייה. מכאן, פונקציית ההסתברות יכולה להיות מוגדרת על ידי היחידונים. כל יחידון ) n ω = a) 1,,... a הוא מאורע, אך גם החיתוך של n מאורעות מעל Ω. 0 היות ונניח אי תלות בין המאורעות, ההסתברות היא מכפלת ההסתברויות: n ω = (a 1,..., a n ) P ({ω}) = P 0 ({a i }) i=1 מכאן פונקציית ההסתברות כפי שמוגדרת במשוואה לעיל, מגדירה פונקציית הסתברות מעל Ω. n 0 כלומר P 0 הוא כמובן לא פונקציית הסתברות מעל Ω, n 0 אבל הנוסחה לעיל כן מגדירה פונקציה כזו. =========יש כאן טענה 55 שלא הבנתי שצריך להשלים========== 41

פרק 3 משתנים מקריים דיסקרטיים 3.1 משתנים מקריים והתפלגות 3.1.1 משתנה מקרי הקדמה מרחב הסתברות ) P,Ω) F, הוא מודל מתמטי שנועד לפרמל את הרעיון של ניסוי. כל הנקודות w, Ω מייצגות את כל התוצאות האפשרויות של הניסוי. במקרים רבים, זה לא כל כך מעניין התוצאה ω שהתקבלה כשלעצמה, אלא תכונה כלשהי שלה. בהסתברות, מרחב מדגם מגיע מתוך מבנה σ אלגברה של אירועים. לכן, כאשר אנחנו מתבוננים בפונקציה Ω S עבור איזשהו S S, צריכה לבוא ממבנה משלה σ אלגברה אחרת, אותה נסמן ב F. S הפונקציה X, : Ω S היא לא בהכרח חח"ע ולכן X היא לאו דווקא הפיכה. לעומת זאת, כמו שראינו, 1 X מוגדר היטב כתת קבוצה של ;S קרי ש Ω X 1 (A) := {w 42

משתנים מקריים דיסקרטיים פרק 3..A F S לכל X(ω) = A} פונקציה מדידה יחד עם זאת, אין שום דבר שמבטיח שלכל A, F S הקבוצה X 1 (A) Ω הוא מאורע ב F. מכאן אנחנו נצטרך להגביל את עצמנו קצת: הגדרה: יהי ) X (X, F ו ) Y (Y, F מרחבים מדידים. פונקציה f : X Y נקראת פונקציה מדידה function) (measurable אם לכל קבוצה מדידה ב A, F Y Y מתקיים כלומר מדידה ב X.,f 1 (A) F X הערות: 1. הרכבה של מדידות היא מדידה..F של היא תת σ אלגברה {X 1 (A) A F S } מ"מ אם ה σ אלגברה X.2 3. כאשר F = 2 Ω תנאי המידה מתקיים אוטומטית 4. ככל הנראה הדקויות הנוגעות ל σ אלגברה ודברים נוספים מתורת המידה לא רלוונטיים לתרגילים והמבחן. הגדרה: יהי ) P,Ω) F, מרחב הסתברות ו ) S,S) F מרחב מדיד. משתנה מקרי בעל ערכים (או משתנה מקרי על) ) S (S, F הוא פונקצית מדידה.X : Ω S הגדרה: כאשר S בת מנייה או סופית ו F = 2 S אנחנו נאמר ש X הוא משתנה מקרי דיסקרטי. דוגמה יהי A מאורע במרחב מדיד ) P,Ω). F, מאורע הוא לא משתנה מקרי, אבל תמיד אפשר ליצור משתנה מקרי (או משתנה ברנולי) מתוך משתנה בודד. יהי {1,0} = S ו F. S = 2 S 43

משתנים מקריים דיסקרטיים פרק 3. אזי I A : Ω S המוגדרת על ידי: 1 ω A ω Ω I A (ω) = 0 else נקראה הפונקציה המציינת של A והיא משתנה מקרי. 3.1.2 התפלגות כעת, בהינתן מרחב הסתברות ) P,Ω), F, אנחנו רוצים להגדיר פונקציית הסתברות על :(S, F S ) P X של X היא ההתפלגות הגדרה: יהי ) P (Ω, F, ו X משתנה מקרי על ) S.(S, F פונקציה 1] [0, S F שמוגדרת על ידי: P X (A) := P (X 1 (A)) = P ({w Ω X(ω) A}) הערה: נשים לב ש (A) X 1 הוא מאורע כי X היא פונקציה מדידה, ולכן ההגדרה מוגדרת היטב. 44

משתנים מקריים דיסקרטיים פרק 3. התפלגות כפונקצית הסתברות טענה: יהי ) P (Ω, F, ו X משתנה מקרי על ) S.(S, F אזי,P X ההתפלגות של X היא פונקציית הסתברות על ) S.(S, F הוכחה: נבחן את שלושת התנאים: 0.1 (A)) A F S P X (A) = P (X 1 כי P פונקציית הסתברות. P X (S) = P (X 1 (S)) = P (Ω) = 1.2.3 יהי (A n ) n=1 F S סדרה של מאורעות זרים. אזי: ( ) ( ( )) ( ) P X n=1 A n = P X 1 n=1 A n = P n=1 X 1 (A n ) = P (X 1 (A n )) = P X (A n ) n=1 n=1 התפלגות נקודתית הערה: בהינתן ) P (Ω, F, ו ) S (S, F S = 2 עבור S מדיד, הגדרנו X : Ω S מ"מ להיות דיסקרטית כאשר S נינתנת להימנות או סופית. במקרה זה, נשים לב ש A F S P X (A) = P X ( a A {a}) = a A P X ({a}) לכן מספיק התפלגות מוגדרת רק על סמך היחידונים שלה. הגדרה: יהי ) P (S, F S ),(Ω, F, ו X : Ω S מ"מ. אזי ההתפלגות הנקודתית של X היא פונקציה 1] [0, S p X : שמוגדרת על ידי: s S p X (s) = P X ({s}) הערה: נקראת גם.PMF : P robability mass function 45

משתנים מקריים דיסקרטיים פרק 3. דוגמאות 1. בכד יש 20 כדורים ממסורים מ 1 עד 20. מוצאים שלושה באקראי. מה ההסתברות שלפחות אחד מהם גדול מ 17? אפשר לענות על השאלה בקלות מבלי להשתמש במ"מ. ניקח: 20 k.ω = {(i, j, k) 1 i < j < לכל,ω Ω נקבל: =.p(ω) נגדיר: 20}..., {3, Ω X : על ידי:.X((i, j, k)) = k מכאן ( 1 20 3 ) ההתפלגות הנקודתית של X היא: ) ולכן: p X (k) = P X = ({k}) = P (X = k) = ( k 1 2 ( 20 ) 3 P X ({17, 18, 19, 20}) = p X (17) + p X (18) + p X (19) + p X (20) 0.508 2. בעיית אוסף הקופונים: יש N סוגים של קופונים. אוסף קופונים מקבל בכל יחידת זמן קופון באקראי. ההסתברות שלקבל כל קופון ספיצפי היא N/1. מכאן, מרחב המדגם שלנו כולל סדרה אינסופית של קופונים:.Ω = {1,..., N} N זו לא קבוצה בת מנייה ולכן לא ניתן להגדיר לו פונקציית הסתברות על ידי היחידונים. יחד עם זאת, בהינתן מאורע A Ω שתלוי רק ב k איברים ראשונים בסדרה, נוכל להגדיר פונקציית הסתברות על תחילית באורך k. למשל: P ({1, 2, 5, 17, 1, 1, 4} Ω N 0 ) = 1 N 7. מ"מ שיכול לעניין אותנו, הוא מספר יחידות הזמן T עד שאוסף הקופונים מקבל את כל סוגי הקופונים, לפחות אחד מכל סוג. זו פונקציה שהטווח שלה הוא: = S.p T (k) המטרה שלנו היא לבנות את ההתפלגות הנקודתית.{N, N + 1,...} { } ההתפלגות הנקודתית בנקודה N עצמה זה יחסית פשוט: p T (N) = P T ({N}) = P (T = N) = N! N+1 2πN N N 2 e N N N = 2πNe N שההערכה היא לפי נוסחת סטרלינג. כעת עבור איזשהו n, N נחשב את ההתפלגות הנקודתית. ננסה לחשב את ההסתברות המשלימה, שאחרי n יחידות זמן, אוסף הקופונים לא קיבל לפחות קופון 46

משתנים מקריים דיסקרטיים פרק 3. אחד מכל אחד. נגדיר: 1=j A) j ) N סדרת מאורעות כך ש A j הוא המאורע שהסוג ה j של הקופונים לא נמצא ב n קופונים הראשונים. ההסתברות של איחוד כל A: j אזי אנחנו מחפשים את P T ({k k > n}) = P ( N j=1a j ) = j P (A j ) j<k P (A j A k ) +... ( = ) i P (A j A וכן הלאה, ומכאן: ( ) n N 1 P T ({k k > n} = N N ) n ( N 2 N,P (A j ) = ( N 2 ) n N 1 N מתקיים ש )( ) n N 2 N ( )( N N j +... = ( 1) j+1 N j N נשים לב שבעיה זו מזכירה את בעיית היום הולדת שם ניסנו למצוא את ההסתברות ששני ימי הולדת יתקיימו במקביל, וכאן אנחנו מתעניניים במתי N ימי הולדת יתקיימו j=1 במקביל. ) n 3.1.3 מ"מ ש"ה הגדרה: יהי X : Ω S ו.Y : Ω S נאמר ש X ו Y שווי התפלגות אם P X = P Y הערה: ברוב המקרים, אין מה להבחין בין X ו Y אם הם ש"ה. למעשה, במידה ואלו מתארים ניסויים נפרדים, ניתן לראות בהם כשקולים. עיקר העניין בלדבר על שני מ"מ ש"ה ביחד יהיה בניסוי משותף של שניהם. A P (A) = והמ"מ: = 1 X(H) ו 2 דוגמה: הטלת מטבע הוגן, קרי } T Ω, =,H} = 0 ).X(T אזי P X היא מידה אחידה על {1,0} (באופן שקול, יכולנו להגדיר פשוט ;A = {ω ω 60} הציון האפשרי בהסתברות, נסמן: ;Ω = [0, 100] יהיה.(X = 1 H,P Y = P X אזי:.Y = 1 A נגדיר:.P (A c ) ו = 1 2 P (A) = 1 2 ונגדיר P כלשהי כך ש למרות שאין לשני המ"מ שום קשר אפריורי. 47

משתנים מקריים דיסקרטיים פרק 3. 3.1.4 פונקציית ההתפלגות המצטברת הגדרה: יהי X : Ω S R משתנה מקרי ממשי. פונקציית ההתפלגות המצטברת R [0, 1] היא פונקציה F X (CDF : Cumulative Distribution F unction) שמוגדרת להיות: F X (x) = P ({w X(ω) x)) = P (X x) = P X ((, x]) הערה: פורמלית, כדי ש F X תהיה מוגדרת היטב, המקורות של התמונה של ([x X 1, )) צריכים להיות ב F וכדי ש ([x P X, )) יהיה מוגדר אנחנו צריכים לדרוש ש [x, ) F. S זה יכול להיות כאשר S היא בת מנייה ו F. S = 2 S מבלי להיכנס לפרטים הקשורים בתורת המידה, אנחנו רק נציין שאם S, = R אזי אנחנו יכולים ליצור על σ אלגברה R שנוצרת על ידי כל הקבוצות מהצורה [x σ אלגברה, ). זו נקראת ה σ אלגברה של בורל. תכונות של התפלגות מצטברת טענה: יהי ) P,Ω) F, ו X מ"מ. אזי פונקציית ההתפלגות המצטברת F X מקיימת:.1 X F מונוטונית עולה lim F X(x) = 0.2 x lim F X(x) = 1.3 x.4 X F רציפה מימין. P X ((a, b]) = F X (b) F X (a).5 הוכחה: 48

משתנים מקריים דיסקרטיים פרק 3..1 נניח.a b אזי b].(, a] (, היות ו P X היא גם פונקציית הסתברות, נסיק: (b).f X (a) = P X ((, a]) P X ((, b]) = F X. lim מרציפות פונקציית ההסתברות.2 יהי (x n ) n=1 R סדרה כך ש = n n x עבור סדרות יורדות, נסיק: lim F X(x n ) = lim P X((, x n ]) = P X ( lim (, x n]) = P X ( ) = 0 n n n. lim אזי:.3 יהי (x n ) n=1 R כך ש = n n x lim F X(x n ) = lim P X((, x n ]) = P X ( lim (, x n]) = P X (R) n n n = P (X 1 (R)) = P (Ω) = 1, lim אזי:.4 אם n=1 (h n ) סדרה חיובית כך ש = 0 n n h lim F X(x + h n ) = lim P X((, x + h n ]) = P X ( lim (, x + h n]) = P X ((, x]) = F X (x) n n n P X ((a, b]) = P X ((, b] \ (, a]) = P X ((, b]) P X ((, a]) =.5 F X (b) F X (a) 3.2 התפלגות בינומית 3.2.1 ברנולי יעקוב ברנולי Bernoulli) (Jacob היה מתמטיקאי שוויצרי בן המאה ה 17. היה האח הגדול של מתמטיקאי מפורסם אחר, יוהאן ברנולי. 49

משתנים מקריים דיסקרטיים פרק 3. הגדרה: יהי ) P (Ω, F, מרחב הסתברות. משתנה מקרי X : Ω S נקרא משתנה ברנולי אם {1,0} = S. לפונקציית ההתפלגות של משתנה ברנולי, קוראים התפלגות ברנולי. הגדרה: תהליך ברנולי מורכב ניסוי החוזר n פעמים על ניסוי ברנולי. מרחב ההסתברות שלו ניתן לתיאור על ידי:.Ω = {0, 1} n הערה: 1. התפלגות ברנולי למעשה נקבעת על ידי ערך אחד p, X (1) =: p כי אז: = (0) X p.1 p 2. פונקציית ההסתברות על תהליך ברנולי מוגדר על ידי היחידונים של המרחב על ידי: P ({a 1,..., a n }) = p # of 1 s (1 p) # of 0 s.3 מההערה הקודמת, תהליך ברנולי מגדיר למעשה מרחב הסתברות: ) P 1} n, 2 {0,1}n, ({0, כאשר P מוגדר בההערה הקודמת. 4. אפשר לחשוב על מ"מ ברנולי בצורה הבאה: נחלק את Ω לשתי קבוצות זרות: מאורע Success ומאורע F. ailure המ"מ ברנולי הוא פונקציה שנותנת לערך Success את המספר 1 ולערך F ailure את המספר 0. 3.2.2 משתנה בינומי כאמור אפשר להבין מ"מ ברנולי כפונקציה שמחלקת את המדגם למאורע 'הצלחה' לעומת המאורע 'כשלון'. בתהליך ברנולי של n ניסויים חוזרים, טבעי לשאול: כמה פעמים קיבלנו 'הצלחה'? אם X הוא משתנה מקרי שתופס את כמות ה 'אחדים' שקיבלנו, הטווח שלו הוא {n,...,0} וההתפלגות הנקודתית שלו עבור k כלשהו הוא ההסתברות לקבל k הצלחות כפול כל הדרכים להקצות k אחדים ב n מקומות, קרי: מכאן נגדיר: p X (k) = P (X = k) = ( ) n p k (1 p) n k k 50

משתנים מקריים דיסקרטיים פרק 3. הגדרה: יהי ) P (Ω, F, מרחב הסתברות. משתנה מקרי X מעליו נקרא משתנה בינומי variable) (binomial עם פרמטרים (p,n) אם התחום שלו הוא {n,...,1} וההתפלגות הנקודתית שלו היא: p X (k) = P (X = k) = ( ) n p k (1 p) n k k אם X משתנה בינומי, נאמר שהוא מתפלג בינומית עם ערכים (p,n) ונסמן: (p X. B(n, הערות: 1. חשוב: לרוב מציינים משתנים מקריים, בפרט בינומי, מבלי לציין בכלל את מרחב ההסתברות מאחוריהם. לדוגמה: נניח וההסתברות לעבור את הקורס בהסתברות היא p ויש n תלמידים. השאלה "מה ההסתברות ש 50 אחוז לפחות לא יעברו?" למעשה מתעלמת מהמרחב ההסתברותי: F = 2 Ωn,Ω = {0, 1,..., 100} n ו P איזשהי פונקציית הסתברות; ועל המרחב המדיד הזה מגדירים: {n X : Ω,1},... על ידי i 60 X((a 1,..., a n )) = a 1 משתנה מקרי בינומי. כאן ההתפלגות הנקודתית היא כפי שמצויין בהגדרה. בשאלה, מתייחסים רק למשתנה המקרי עצמו, מבלי לתאר את ) P,(Ω, F, ושואלים לכמה שווה (50) X ;F האם זה לגיטימי? כן: (א) השלשה ) X (Ω 1 = {0, 1,..., n}, F 1 = 2 Ω1, P = P מהווים בעצמם מרחב הסתברותי. ואז בהקשר הזה המשתנה המקרי הוא פשוט.X(x) = x (ב) בנוסף, אם השאלה מתייחסת רק למשתנה X, אז אפשר לענות על השאלה לגמרי מבלי לדעת את ההתפלגות P. X העובדה שיש מרחב הסתברות לא רלוונטי לשאלה עצמה. כאשר עובדים עם משתנה מקרי לא תמיד מתייחסים למרחב ההסתברות ברקע, אלא עבור חישובים מפורשים כאשר צריך. בהרבה המקרים, כאשר נתון משתנה מקרי ופונקציית ההתפלגות המצטברת שלו, למשל, יש לנו מספיק מידע ואין צורך להתייחס למרחב ההסתברות ברקע. 2. את הסימון " " ב (p X B(n, צריך לקרוא: "מתפלג כמו" או פשוט "מתפלג...".(distributed as) 51

משתנים מקריים דיסקרטיים פרק 3. 3.2.3 דוגמאות 1. נניח ומפעל מייצר מוצר שיוצא פגום בהסתברות = 0.01 p. כל מוצר פגום או לא ללא תלות בייצור שאר המוצרים. החברה מוכרת את המוצר בחבילות של 10. הצרכן מקבל את כספו בחזרה רק אם יותר ממוצר אחד בחבילה פגום. מה ההסתברות שזה ייקרה? כל פעם שהצרכן קונה מוצר הוא משתתף בניסוי ברנלוי. מרחב המדגם הוא {1,0} כאשר 1 זה פגום ו = 0.01 (1)p. מספר המוצרים הפגומים בחבילה X מתפלג: 0.01) B(10,.X מכאן: P X ({2, 3,...10}) = 1 P X ({0, 1}) = 1 p X (0) p X (1) ( ) ( ) 10 10 = 1 0.01 0 0.09 10 0.01 1 0.99 9 0.0043 0 1 כלומר קצת פחות מ 0.5 אחוז. 2. מנוע של מטוס מתקלקל במהלך טיסה בהסתברות של p 1. מטוס נוחת בבטחה רק אם לפחות חצי ממנועיו מתפקדים. מה עדיף מבחינת סיכויי תאונה, שני מנועים או ארבעה? מספר המנועים המתפקדים הוא מ"מ בינומי (p,2)b X 1 במקרה הראשון ו.P X1 ({1, 2}) P X2 ({2, 3, 4}) במקרה השני. השאלה היא האם X 2 B(4, p) ואמנם: ( ) ( ) 2 2 P X1 ({1, 2}) = p(1 p) + p 2 = 2p(1 p) + p 2 = 2p p 2 1 2 ( ) ( ) ( ) 4 4 4 P X2 ({2, 3, 4}) = p 2 (1 p) 2 + p 3 (1 p) + p 4 = 3p 4 8p 3 + 6p 2 2 3 4 מכאן מטוס ארבעה מנועים עדיף אם ורק אם: p(3p 3 8p 2 + 7p 2) > 0 p(p 1) 2 (3p 2) > 0 וזה אם ורק אם > 2/3 p. מכאן כלל שההסתברות להתקלקלות מנוע עולה (p יורד), ככה עדיף להשתמש בפחות מנועים. 52

משתנים מקריים דיסקרטיים פרק 3. מה המסקנה? אינטואיציה לא שווה הרבה בהסתברות. האינטואציה ההתחלתית הייתה שהתפלגות המצטברת של המ"מ הזה היא לינארית ב n ו p כלומר שהיא הומוגנית מדרגה 0 ב n ו p. אבל כפי שאפשר לראות זה בכלל לא המצב. 3. אם נזרוק 100 פעם מטבע, נצפה שנקבל עץ או פלי בערך 50 פעמים. כמה זה בערך? מה ההסתברות שנקבל בדיוק 50? מטבע הוגן נזרק 2n פעמים עבור << 1 n. מה ההסתברות שנקבל בדיוק n פעמים עץ? ) 2 B(2n, 1.X ההסתברות ש X שווה ל n נתונה על ידי: מספר העץ/פלי הוא משתנה בינומי p X (n) = ( 2n n )( 1 2 ) n ( ) n 1 = (2n)! 2 (n!) 2 2 2n.p X (n) 1 πn שזו פונקציה ששואפת לאפס. עם נוסחת סטרלינג אפשר לקרוב עבור = 50 n למשל, 0.08 (50) X.p דוגמת המספרים הראשוניים כעת נוכיח בכלים הסתברותיים ש p is prime 1 p diverges הוכחה: יהי > 1 s כלשהו. נגדיר X להיות מ"מ שמקבל N עם התפלגות נקודתית: p X (k) = k s ζ(s) עבור ζ(s) פונקציית זטא של רימן (הממשית, שמוגדרת היטב עבור > 1 s). זו פונקציית הסתברות כי היא בירור אי שלילית, היא מוגדרת על יחידונים לכן מקיימת סיגמה אדיטיביות. k=1 k s ζ(s) = ζ(s) k=1 1 k וכן: = 1 s טענת עזר: = ζ(s).lim הוכחה: יהי M. R היות והסדרה ההרמונית מתבדרת, קיים s 1 n. מאריתמטיקה של גבולות: k=1 1 n > M + 1 מתקיים: n > N כך שלכל N N lim n s 1 k=1 1 k s = n k=1 1 k > M + 1 53

משתנים מקריים דיסקרטיים פרק 3..ζ(s) > M ומכאן בפרט, n לכן בסביבה קרובה מספיק של 1 נקבל ש 1=k 1 n s > M כעת נגדיר סדרת קבוצות 1=n A), n ) כך שלכל A n n, N היא סדרת השלמים שמתחלקים ב n. כעת: n N P X (A n ) = k A n p X (k) = = 1 1 ζ(s) m s n=1 k A n 1 n s = k s ζ(s) = 1 1 1 = ζ(s) k s ζ(s) k A n 1 m s n=1 1 (mn) s ( ) כי את הקבוצה A n אפשר להציג גם כ N}.{n m n כעת נראה שכל A p עבור p ראשוני הם ב"ת. נשים לב ש A p A q = A pq וגם: P X (A p A q ) = P X (A pq ) = 1 p s 1 q s = P X(A p )P X (A q ) וזה נכון באופן דומה לכל הקבוצה שמכילה את A p עבור p ראשוני. B q = p prime q A c p מכאן, נגדיר: כלומר כל הטבעיים שראשוני קטן מ q איננו מחלק שלהם. למשל, B 5 זו קבוצת כל הטבעיים p X (1) = P X ( של מתחלקים ב 3 2, ו 5. נשים לב ש B) q ) q prime היא סדרה יורדת, וכן ש q prime q prime B q = {1}. lim מרציפות פונקציית ההסתברות: לכן: {1} = q q B ) B q = lim P X(B q ) = lim q q p prime q P X (A c p) = p prime ( ) אי תלות. P X (A c p) 1 ζ(s) = 1 s ζ(s) = p X(1) = p prime P X (A c p) = p prime ( ) 1 P X (A p ) = p prime ולכן: (1 1p s ) 54

משתנים מקריים דיסקרטיים פרק 3. 1 ζ(s) = p prime (1 1p s ) כלומר: זהות זו ידועה כ נוסחת אוילר. ln ζ(s) = p prime כעת נראה התבדרות: ניקח לוג: ln (1 1p ) s כעת ידוע ש 2 p ו > 1,s ומכאן: < 0.5 s 1/p <.0 אפשר להראות בקלות שלכל ln ζ(s) 2 < 0.5 x < 0 מתקיים ש ln(1x) 2x ולכן: p prime 1 p s משאיפים את s לאחד וסיימנו. המקסימום של ההתפלגות הנקודתית של התפלגות בינומית טענה: יהי (p X. B(n, אזי (k) p X כפונקציה של k היא פונקציה עולה עד ל = k (n + 1)p ויורדת משם. p X (k) p X (k 1) = ( (n k הוכחה: נבחן את (1 k) p X (k)/p X ונבדוק מתי הוא גדול מ 1: ) ) p k (1 p) n k ( ) = ( n ) k 1 p k 1 (1 p) n k+1 p(n k + 1) (1 p)k > 1 p(n k + 1) > (1 p)k k < (n + 1)p 3.3 התפלגות פואסון סימאון דני פואסון oisson) P) היה מתמטיקאי צרפתי במחצית הראשונה של המאה ה 19. 55

משתנים מקריים דיסקרטיים פרק 3. הגדרה: משתנה מקרי X הוא בעל התפלגות פואסון עם פרמטר > 0 λ אם הוא מקבל את הערכים {0} N S = וההתפלגות הנקודתית שלו היא: λ λk p X (k) = e k! נסמן: oi(λ).x P מוגדרות היטב צריך להראות שזו אכן פונקציית התפלגות: 1. אי שליליות: ברור. 2. סיגמה אדיטיביות נובעת מעצם היכולת להגדיר את הפונקציה על היחידונים p X (N {0}) = n=0 λ λk e n! = e λ n=0 λ k n! = e λ e λ = 1 3. נרמול: מוטיבציה נניח חומר רדיואקטיבי שבכל יחידת זמן של > 0 ε שניות פולט חלקיק בהסתברות פרופרציונלית ל.λε ε, בהסתברות λε 1 אין פליטה. מבחינת פיזקלית, ההסתברות הזו בלתי תלויה בפליטות קודמות..X B(n = 1 ε מיחידה זו) הוא משתנה בינומי: λε), p = מספר הפליטות בשנייה (עבור > 0 ε קטן בהרבה ההסתברות לצפות ב k 56

משתנים מקריים דיסקרטיים פרק 3. p X (k) = ( n k ( λ k = k! )( λ n ) k ( 1 λ ) n k = λk n ) n n 1 n n...n k + 1 ( n פליטות בשנייה היא: ( n(n 1)...(n k + 1) k! n k 1 λ ) n k n ( ) n 1 λ n ( 1 λ n ) k ) 1 λ n ( ) ( λ k = 1 1 )( 1 2 ) (... 1 k 1 ) ( ( k! n n n }{{} 1 λ n 1 n ( ) n } {{ } n e λ ) k } {{ } n 1 ) n λk k! e λ מכאן, התפלגות פואסון נובעת מתוך התפלגות בינומית כאשר ההסתברות להצלחה של ניסיון אחד קטנה מאד אבל מספר הניסיונות גדול מאד כך שמכפלתם סופית וקבועה. 3.4 התפלגות גיאומטרית נניח סדרה אינסופית של תהליך ברנולי עם פרמטר p, קרי Ω. =,0} {1 N נגדיר X להיות מספר הניסויים עד להצלחה. מכאן: הגדרה: משתנה מקרי X נקרא משתנה מקרי גיאומטרי עם פרמטר p אם הערכים שהוא מקבל הם N ו.p X (k) = (1 p) k 1 p נסמן: Geo(p) X הערה: מספר הניסיונות עד לכישלון, קרי 1 X, גם נקרא משתנה מקרי גיאומטרי. דוגמה יש N כדורים לבנים ו M בקופסה. בכלב שלב מוצאים ומחזירים כדור עד שמקבלים כדור 57 שחור. מהי ההסתברות שנצטרך k ניסיונות?

משתנים מקריים דיסקרטיים פרק 3. Geo( X. ולכן התשובה לשאלה הראשונה היא: p X (k) = M M+N ( ) k 1 N M M + N M + N = N k 1 M (M + N) k מספר הנסיונות X מתפלג ) הגדרה: יהי Geo(p).X אזי לכל k N מתקיים: P (X > k) = (1 p) k הערה: זו תכונה שימושית לתרגילים. P (X > k) = 1 P (X k) = 1 P ( k n=1x = n) = 1 = 1 p k (1 p) n 1 1 (1 p)k = 1 p 1 (1 p) n=1 הוכחה: k k P (X = n) = 1 (1 p) n 1 p n=1 = (1 p)k n=1 P (X > k) = P ( n=k+1x = n) = ( = p (1 p) n 1 n=1 = (1 p) k n=k+1 (1 p) n 1 p = p k ) (1 p) n 1 = p 1 p n=1 n=k+1 (1 p) n 1 p1 (1 p)k 1 (1 p) דרך אחרת: = 1 1 + (1 p)k 3.4.1 חוסר הזיכרון של מ"מ גיאומטרי טענה: יהי X מ"מ גיאומטרי. אזי: k) P (X = n X > k) = P (X = n הערה: לדוגמה, ההסתברות שהצלחתי בפעם החמישית אחרי שהפסדתי ב 3 הניסויים הראשונים זה כמו הסיכוי להצליח בפעם השנייה. 58

משתנים מקריים דיסקרטיים פרק 3. הוכחה: P X ({n} {k + 1, k + 2,...}) = P X({n} {k + 1,...}) P X ({k + 1, k + 2...}) = P X ({n}) P X ({k + 1, k + 2,...}) = (1 p)n 1 p (1 p) k = (1 p) n k 1 p = p X (n k) 3.5 התפלגות משותפת נניח מרחב הסתברות ) P,Ω) F, וזוג של מ"מ X ו Y. כלומר שתי העתקות: (Ω, F, P ) X (S X, F X, P X ) (Ω, F, P ) Y (S Y, F Y, P Y ) נניח ויש לנו את P X ו P, Y אבל לא את P; מהי ההסתברות ש X(ω) A וגם Y (ω) B עבור A F X ו B? F Y אי אפשר לדעת, שכן מידע אודות P X מספקת מידע רק על אירועים מהצורה A} {ω Ω X(ω) עבור A F X ומידע על P Y נותן מידע על B} {ω Ω Y (ω) עבור ;B F Y אך אנחנו מתעניינם כרגע ב {ω Ω X(ω) A Y (ω) B} וזה לא האיחוד של שתי המאורעות. המידע על ההתפלגויות הנפרדות של X ו Y לא מספיק. הדרך הנכונה לחשוב על זה הוא להסתכל על זוג המ"מ כאל פונקציה ((ω) w. (X(ω), Y נתאים ל S X S Y את ה σ אלגברה של מאורעות F, X,Y ונקבל שלכל קבוצה A F X,Y יש מקור ב F. למעשה, בהינתן σ אלגברה F, X,Y ה σ אלגברה של F X היא הגבלה של :F X,Y F X = {A S X A S Y F X,Y } וכנ"ל לגבי F. Y מכאן: 59

משתנים מקריים דיסקרטיים פרק 3. הגדרה: יהי ) P (Ω, F, מרחב הסתברות. יהי X : Ω S X ו Y : Ω S Y מ"מ עבור S X ו S Y בנות מנייה. ההתפלגות המשותפת של X ו Y היא פונקציה : X,Y P 2 S X S Y שמוגדרת על ידי: [0, 1] A 2 S X S Y P X,Y (A) := P ({ω Ω (X(ω), Y (ω)) A}) ההתפלגויות של X ו Y בהקשר של התפלגות משותפת נקראים ההתפלגויות השוליות של X ו Y; והן נתונות על ידי: A F X P X (A) = P X,Y (A S Y ) A F Y P Y (A) = P X,Y (S X A) הגדרה: עבור,X Y מ"מ אם S X ו S Y בנות מנייה, ההתפלגות הנקודתית המשותפת מוגדרת להיות: p X,Y := P X,Y ({(x, y)}) = P (X = x, Y = y) וכן ההתפלגות המצטברת המשותפת מוגדר להיות: F X,Y (x, y) := P X,Y ((, x) (, y]) = P (X x, Y y) הערות: 1. אפשר בקלות להכליל את ההגדרה למקרה של n מ"מ ולא רק שניים. 2. אנחנו דורשים ששני המ"מ יהיו מעל אותו מרחב הסתברות. 60

משתנים מקריים דיסקרטיים פרק 3. דוגמאות 1. נניח ויש שלוש כדורים אדומים, ארבעה לבנים וחמישה כחולים. אנחנו מוצאים באקראי שלושה כדורים. יהי X מספר הכדורים האדומים ו Y הלבנים. מהי ההתפלגות המשותפת של X ו Y? דרך אחת לפתור את הבעיה היא למספר את הכדורים, לסדר אותם לפי הסדר האדומים, הלבנים ואז הכחולים; ולהגדיר את מרחב המדגם כשלשה שאנחנו מוציאים: Ω = {(i, j, k) 1 i < j < k 12} = 1 ({ω}).p מכאן: ( 12 3 ) (X, Y ) : Ω {(i, j) i, j 0 i + j 3} ולהגדיר P אחיד, כלומר: מכאן לדוגמה עבור 2 Ω {(5,3)},,4 כלומר המאורע שיצא הכדור האדום השלישי והכדורים הלבנים הראשון והשני, נקבל ש 2) (1, = 5) )(3, 4, Y.(X, מכאן: ( 5 p X,Y (0, 0) = 3) ) p X,Y (1, 1) = 3 4 ) 5 ( 12 3 ( 20 3.2 נתבונן ב 1} 3 {0, = Ω עם המידה האחידה. יהי 3} {0, 1, 2, Ω X : שמוגדר על ידי X(i, j, k) = i + j + k ו 1} {0, Ω Y (i, j, k) = ij Y : או פשוט {110,111} 1 = Y. ההתפלגות הנקודתית שלהם היא: 1 8 x {0, 3} 1 4 y = 1 p X (x) = p Y (y) = 3 8 x {1, 2} 3 4 y = 0 ההתפלגות המשותפת, ) Y (X, מקבלת ערכים ב 1} {0, 3}.{0, 1, 2, ההתפלגות המשותפת הנקודתית ניתנת להצגה בטבלה: 61