הסתברות והתהוות - ThermoLab

אין במודול הזה שום פיזיקה. אין אנרגיה, אין חלקיקים, אין מיכל, אין טמפרטורה — אין ולו סמל אחד שנושא יחידות. זו בחירה מכוונת. השאלה המנחה של הקורס היא כיצד התנהגות מאקרוסקופית צפויה נובעת מהתנהגות מיקרוסקופית אקראית, והדרך הנקייה ביותר לראות את המנגנון היא לסלק כל אביזר פיזיקלי ולראות אותו פועל בכל זאת.

החידה: סדר שנוצר מרעש בלבד¶

שיכור יוצא מפנס רחוב. בכל שנייה הוא עושה צעד אחד, ימינה או שמאלה, לפי הטלת מטבע הוגן. אין לו יעד, אין לו זיכרון של המקומות שבהם היה, ואין לו שום נטייה לחזור. היכן הוא נמצא אחרי אלף שניות?

התשובה הכנה היא שאיש אינו יודע. הריצו את הניסוי והוא עשוי להימצא ארבעה צעדים שמאלה, או שישים צעדים ימינה. הריצו אותו שוב ותקבלו מספר אחר. אין כאן שום ניבוי שאפשר לעשות עליו.

עכשיו העמידו עשרת אלפים שיכורים בלתי תלויים מתחת לאותו פנס ותנו לכולם ללכת. אחרי אלף שניות, ספרו כמה מהם עומדים בכל מיקום.

ההיסטוגרמה הזו זהה בכל פעם. לא דומה בערך — זהה ברמת דיוק שאפשר לכוון לפיה שעון, עקומת פעמון חלקה בעלת רוחב מוגדר, בת-שחזור עד שלוש ספרות בעבודת מחשב של אחר צהריים אחד. היא שם בין אם ההולכים מטילים מטבע, דוגמים מהתפלגות אחידה, או משתמשים בכלל עקום כלשהו שהמצאתם הבוקר.

שני דברים דורשים הסבר, והם נפרדים זה מזה. הרוחב של הענן הוא הקל מביניהם: זהו חוק המספרים הגדולים ממודול 0, נקרא בכיוון ההפוך. הצורה היא הקשה, וזהו משפט הגבול המרכזי — המשפט בעל ההשלכות הרחבות ביותר בקורס הזה, והסיבה לכך שכל השאר בו אפשרי בכלל.

לנבא לפני שמחשבים¶

התחייבו לתשובה לכל אחת מהשאלות לפני שתריצו משהו. רשמו אותן. המטרה אינה לצדוק; המטרה היא לגלות איזו מן האינטואיציות שלכם הסימולציה עומדת להפוך על פיה.

הולך עושה 100 צעדים של $\pm 1$ . באיזה מרחק בערך מפנס הרחוב אתם מצפים למצוא אותו — בערך 0, בערך 10, או בערך 100?
אחרי 500 צעדים הולך מסוים עומד בנקודה +30. האם ב-500 הצעדים הבאים שלו תהיה תנועתו מוטה בחזרה לעבר האפס?
ענן ההולכים מתרחב באופן נראה לעין ככל שהזמן עובר. האם משמעות הדבר שהמיקום הממוצע נודד?
החליפו את המטבע בצעדים הנדגמים באופן אחיד מן הקטע $[-1, 1]$ , ולאחר מכן בהתפלגות בעלת זנב כבד שמייצרת מדי פעם קפיצה גדולה. האם הצורה של ההיסטוגרמה בזמנים ארוכים משתנה?

לחקור את המודל¶

מחברת המעבדה מאפשרת לכם לקבוע את מספר ההולכים, את מספר הצעדים ואת התפלגות הצעדים, ואז לצפות בענן, בהיסטוגרמה שלו וברוחבו בו-זמנית.

הנה התופעה בתמונה אחת. תחילה הולך בודד, לבדו: קו משונן שאינו מספר לכם דבר. אחר כך הצבר על אותו שעון, ולצידו פרופיל המיקומים שבהם עומדים ההולכים שלו.

הולך אחד, ואחר כך ענן. משמאל משורטטים מאה ועשרים מסלולים — די כדי לראות ענן, ומעט די הצורך כדי עדיין לראות דרכו; הפרופיל מימין נבנה מכל ארבעת אלפים ההולכים, ומשום כך הוא חלק בהרבה ממה שהתמונה שלצידו נראית. המסלול הכהה הבודד נוכח בשתי המערכות ומתנהג בשתיהן באופן זהה: דבר בו לא השתנה כאשר הצטרפו האחרים. העקומה האדומה אינה מותאמת לפרופיל הזה — היא הגאוסית הנחזית מהתפלגות הצעדים ומהזמן שחלף בלבד, המשורטטת מעליו.

הענן מתרחב, והוא מתרחב בקצב מסוים. ההנפשה הבאה מודדת אותו: הקו הכחול הוא הפיזור של הענן, העקומה האדומה המקווקוות היא $\sqrt{t}$ , והקו הכהה הרץ לאורך התחתית הוא הממוצע של הצבר.

הרוחב וההיסט הם עובדות בלתי תלויות. הפיזור מטפס על עקומת השורש הריבועי; התוחלת נשארת שטוחה בתוך הרצועה האפורה, שהיא אי-הוודאות שלה עצמה בשלוש שגיאות תקן. ענן שמתרחב אינו ענן שזז.

והנה טענת הצורה, ולצידה דוגמת הנגד שלה. כל עקומה צבעונית היא התפלגות צעדים אחרת, מתוקננת — מוזזת ומשונתת כך שרק צורתה נותרת — ככל שמספר הצעדים גדל.

שלוש התפלגויות צעדים שאין ביניהן דבר משותף — מטבע דו-ערכי, קטע אחיד, דגימה בעלת זנב כבד — מתלכדות עם הגאוסית המקווקוות ככל שמספר הצעדים גדל. העקומה הרביעית, בסגול, היא הילוך שצעדיו מתואמים; היא מתוקננת באותה נוסחה בדיוק ונשארת רחבה מדי בעקשנות. העקומה הזו היא עיקרו של המודול לא פחות משלוש האחרות.

מפרט המודל

מערכת: $N$ הולכים בלתי תלויים על ישר בלתי חסום; כל מיקום הוא הסכום המצטבר של צעדיו של אותו הולך, והגדלים הנמדדים הם ההיסטוגרמה של הצבר, התוחלת שלה והפיזור שלה.
דינמיקה: בכל פעימה כל הולך מוסיף דגימה טרייה אחת מהתפלגות הצעדים, בלתי תלויה בין ההולכים ולאורך הזמן.
גבול: אין — הישר בלתי חסום, ו- $N$ , מספר הצעדים והתפלגות הצעדים קבועים עבור הרצה אחת.
צבר: ניסויים בלתי תלויים; כל הולך חוזר על אותו ניסוי ודבר אינו מקיים אינטראקציה עם דבר.
מוזנח: כל מה שפיזיקלי — אין מדיום, אין התנגשויות, אין אנרגיה, אין יחידות. במכוון, כדי ששום דבר פיזיקלי לא יוכל לעשות את העבודה.
תקף כאשר: הצעדים אכן בלתי תלויים ובעלי שונות סופית; מחולל מספרים פסאודו-אקראיים עם זרע מקיים את שניהם מעצם בנייתו.
אופני כישלון: צעדים מתואמים (דוגמת הנגד של המודול עצמו), צעדים בעלי שונות אינסופית כגון קושי, וכל שאלה על מסלולו הפרטי של הולך בודד מעבר להתפלגותו.

שלושה דברים ראויים לעשייה לפני שתמשיכו לקרוא:

צפו בהולך אחד במשך 1000 צעדים, ואחר כך בעשרת אלפים מהם. שימו לב מה השתנה ומה לא.
החליפו את התפלגות הצעדים מן המטבע לדגימה האחידה ובחזרה. צפו ברוחב משתנה ובצורה שאינה משתנה.
העלו את מחוון ההתמדה מ-0 ומצאו את הערך שבו העקומה מפסיקה באופן נראה לעין להתאים לגאוסית.

לגזור את התוצאה¶

כל מה שלהלן הוא מתמטיקה. דבר אינו מקורב אלא במקום שבו נאמר כך במפורש.

מערכת וגבול. הולך אחד על ישר בלתי חסום, ומאחוריו צבר של $N$ עותקים בלתי תלויים. אין גבול: דבר אינו מחזיר, אינו בולע ואינו חוסם.

משתנים בלתי תלויים. מספר הצעדים $t$ , מספר ההולכים $N$ , והתפלגות הצעדים — הנכנסת רק דרך התוחלת שלה $\mu_1$ והשונות שלה $\sigma_1^2$ .

אילוצים וקירובים. הצעדים בלתי תלויים, בעלי אותה התפלגות ובעלי שונות סופית. זו כל הרשימה, וכל פריט בה נושא משקל: פרק האימות מפר את הראשון במכוון, ודף הבעיות מפר את השלישי.

סוג הטיעון. סטטיסטי בלבד. אין כאן מוסכמת סימנים לקבוע ואין דיפרנציאל לכנות מדויק או לא מדויק, משום שאנרגיה, חום ועבודה אינם מופיעים במודול הזה כלל — וזו בדיוק הסיבה למקמו כאן, לפני שאף אחד מהם קיים.

משהוסדר זאת, מיקומו של הולך אחרי $t$ צעדים הוא

x_t = s_1 + s_2 + \cdots + s_t ,

(1)

כאשר הצעדים $s_i$ הם דגימות בלתי תלויות מהתפלגות קבועה אחת בעלת תוחלת $\mu_1$ ושונות $\sigma_1^2$ . זהו המודל כולו: מיקום הוא סכום של דגימות בלתי תלויות.

הרוחב: תוחלות ושונויות נסכמות¶

מודול 0 ביסס את שתי העובדות הדרושות לנו, ואיננו גוזרים אותן כאן מחדש.

בהחלת שתיהן על סכום של $t$ צעדים זהים ובלתי תלויים:

\langle x_t \rangle = \mu_1 t , \qquad \operatorname{Var}(x_t) = \sigma_1^2 t , \qquad \sigma_{x_t} = \sigma_1 \sqrt{t} .

(3)

הנה חוק הרוחב, והנה התשובה לניבוי 1: אחרי 100 צעדי מטבע ( $\mu_1 = 0$ , $\sigma_1 = 1$ ) המרחק הטיפוסי מנקודת המוצא הוא $\sqrt{100} = 10$ . לא 0, משום שההילוך אכן מתפשט; ולא 100, משום שהצעדים מבטלים זה את זה הרבה יותר פעמים משהם מצטרפים.

שימו לב שהתוחלת והפיזור גדלים בקצבים שונים ומסיבות שונות. עבור מטבע הוגן $\mu_1 = 0$ , ולכן הענן מתפשט מבלי ללכת לשום מקום. עבור מטבע מוטה המרכז צועד ליניארית בעוד הרוחב עדיין רק זוחל כמו $\sqrt{t}$ , ועד $t = 1000$ ההיסט השאיר את הפיזור הרחק מאחור. זו התשובה לניבוי 3: התרחבות ונדידה הן דברים בלתי תלויים, וענן יכול לעשות כל אחד מהם בלי האחר.

ההילוך אינו נמשך בחזרה

שום דבר במודל אינו מתייחס לראשית. הולך העומד בנקודה +30 דוגם את צעדו הבא מאותה התפלגות בדיוק שממנה דוגם הולך העומד בנקודה -4, ולכן תוחלת ההעתק שלו ב-500 הצעדים הבאים היא $\mu_1 \times 500$ — אפס עבור מטבע הוגן — יהיה מיקומו הנוכחי אשר יהיה. תוחלת המיקום של הענן נשארת אפס לא משום שהולכים תועים מוחזרים, אלא משום שהולכים שנודדים ימינה מאוזנים בהולכים שנודדים שמאלה. זהו ניבוי 2, והמעבדה מפריכה את החלופה ישירות: היא מתנה על ההולכים שבקצה הימני ומודדת מה הם עושים מכאן ואילך.

הילוך המטבע הוא בינומי במדויק¶

עבור צעדים של $\pm 1$ אפשר להשיג יותר משני המומנטים הראשונים ולכתוב את ההתפלגות כולה. ב- $n$ צעדים, יהי $k$ מספר הצעדים שנעשו ימינה. מיקומו של ההולך הוא

x = k - (n - k) = 2k - n ,

(4)

ו- $k$ הוא מספר ההצלחות ב- $n$ ניסויים בלתי תלויים.

המשפט האחרון ראוי לעצירה, משום שמודול 8 בנוי עליו. הסיבה לכך שאמצע ההיסטוגרמה גבוה אינה שההולך מעדיף את האמצע. כל סדרה בודדת של $n$ הטלות מטבע סבירה בדיוק כמו כל סדרה אחרת. פשוט יש אין-ספור יותר סדרות שבהן מספר הצעדים שמאלה וימינה שווה בקירוב מאשר סדרות שכולן ימינה.

מבינומי לגאוסי: דה-מואבר–לפלס¶

עצרות הן מסורבלות והן מסתירות את הצורה. קחו את הלוגריתם של $P(k)$ , פתחו אותו עד הסדר השני סביב המקסימום שלו ב- $k = np$ , והעלו בחזקה. עם $q = 1 - p$ :

\binom{n}{k} p^{k} q^{n-k} \;\approx\; \frac{1}{\sqrt{2\pi n p q}} \exp\!\left[-\frac{(k - np)^2}{2 n p q}\right] .

(6)

עבור $n = 100$ ו- $p = 1/2$ הקירוב נותן את גובה השיא

\frac{1}{\sqrt{2\pi n p q}} = \frac{1}{\sqrt{50\pi}} \approx 0.0798 ,

(7)

לעומת הערך הבינומי המדויק 0.0796 — שגיאה של רבע אחוז. חשבו את זה ביד פעם אחת; זהו המספר שהחידון מבקש, וזו הפעם הראשונה בקורס הזה שנוסחה נטולת עצרות משחזרת נוסחה קומבינטורית.

הצורה: משפט הגבול המרכזי¶

דה-מואבר–לפלס הוא סיפורה של התפלגות אחת. העובדה המרשימה היא שהתשובה אינה תלויה כלל בהתפלגות הצעדים.

משפט הגבול המרכזי

יהיו $s_1, \ldots, s_n$ משתנים מקריים בלתי תלויים, בעלי אותה התפלגות, בעלי תוחלת סופית $\mu_1$ ושונות סופית $\sigma_1^2$ , ויהי $S_n = s_1 + \cdots + s_n$ . אזי הסכום המתוקנן

Z_n = \frac{S_n - n\mu_1}{\sigma_1 \sqrt{n}}

(8)

מתכנס בהתפלגות לגאוסית סטנדרטית $\mathcal{N}(0,1)$ כאשר $n \to \infty$ .

ההנחות הן התוכן. בלתי תלויים. בעלי אותה התפלגות. בעלי שונות סופית. דבר אינו מונח על הצורה של התפלגות הצעדים, ודבר ממנה אינו שורד אל הגבול: רק $\mu_1$ ו- $\sigma_1$ מופיעים בתשובה, והם קובעים רק היכן הגאוסית יושבת ומה רוחבה.

ההוכחה — פונקציות אופייניות, או פיתוח מומנטים — חורגת מליבת הקורס; סקיצה שלה נמצאת בפרק המתקדם. מה שחשוב כאן הוא הניסוח, משום שהניסוח הוא מה שתשתמשו בו, וההנחות הן מה שתצטרכו לבדוק.

התקנון הוא כל הטריק, וכדאי לומר במפורש מה הוא עושה. החיסור של $n\mu_1$ מסלק את ההיסט; החלוקה ב- $\sigma_1\sqrt{n}$ מסלקת את הרוחב. מה שנותר הוא צורה טהורה — והמשפט אומר שהצורה היא תמיד אותה אחת.

סטייה ושגיאה הם גדלים שונים¶

עוד הגדרה אחת, קטנה ומבולבלת ללא הרף.

זהו המשפט הקושר את המודול לכל מעבדה שתבוא אחריו. כאשר מחברת מאוחרת יותר מדווחת על מדידה בצורה value ± error, השגיאה הזו היא שגיאת תקן, וה- $\sqrt{N}$ שמתחתיה מגיע מכאן.

לאמת חישובית¶

לגזור נוסחה ולתת בה אמון הם שני דברים שונים. כל בדיקה שלהלן היא גם מבחן במערך המבחנים של הפרויקט, כך שהטענות בדף הזה אינן יכולות להירקב בשקט.

1. חוק הרוחב. מדדו את הפיזור של הענן ב- $t = 4, 16, 64, 256, 1024$ והתאימו $\sigma \propto t^{\alpha}$ על צירים לוגריתמיים כפולים. המעריך המותאם הוא 0.500 בדיוק של 0.02, והמקדם יוצא $\sigma_1$ עבור כל אחת מארבע התפלגויות הצעדים — המעריך אוניברסלי, המקדם אינו.

2. תוחלת ופיזור, בנפרד. התוחלת של הצבר בהילוך ללא הטיה נשארת אפס בתוך שגיאת התקן שלה עצמה בעוד הפיזור גדל פי שמונה; הילוך מוטה נודד ליניארית בקצב $\mu_1 t$ לצד פיזור שעדיין גדל רק כמו $\sqrt{t}$ .

3. דה-מואבר–לפלס. הפער הגרוע ביותר בין הבינומית המדויקת לגאוסית שלה, נמדד על פני שלוש סטיות התקן המרכזיות, מצטמצם בהתמדה מ- $n = 25$ ועד $n = 400$ .

4. ההתלכדות. זו התשובה לחידה הפותחת.

מה ההתלכדות מודדת

סכומים מתוקננים של צעדי מטבע, צעדים אחידים וצעדים בעלי זנב כבד מושווים לגאוסית סטנדרטית לפי הפער הגדול ביותר בין ההתפלגויות המצטברות שלהם. שלושת המרחקים דועכים ככל שמספר האיברים המסוכמים גדל. מול הרצפה 0.006 שנקבעת על ידי כך שיש בידינו רק 20,000 דגימות — המרחק שבו דגימה גאוסית אמיתית בגודל כזה יושבת מן הגאוסית שממנה נדגמה — הצעדים בעלי הזנב הכבד מגיעים ל-0.004 עד $n = 256$ , הצעדים האחידים ל-0.012, והמטבע ל-0.029.

המטבע הוא המעניין, והוא אינו משתפר על ידי הוספת דגימות. הסכומים שלו חיים על סריג, ולכן ההתפלגות המצטברת שלו היא מדרגות ועקומה חלקה לעולם לא תוכל להתאים לה קרוב יותר מחצי מדרגה. השארית הזו דועכת כמו $n^{-1/2}$ — זהו אותו אפקט סריג של $n$ סופי שתיבת הקירוב שלמעלה מתארת, ולא כישלון של המשפט, ומשום כך הניסוח הכן הוא “שתי ההתפלגויות האלה הגיעו לרצפת הדגימה והשלישית עדיין צועדת לקראתה”.

שלוש התפלגויות שאין ביניהן דבר משותף מייצרות עקומה אחת. ההסכמה הזו היא מדידה, לא הוכחה; ההוכחה היא המשפט שלמעלה.

5. דוגמת הנגד. עכשיו נפר הנחה במכוון. תנו להילוך התמדה: בכל צעד הוא חוזר על הצעד הקודם שלו בהסתברות $q$ , ואחרת דוגם מחדש. הצעדים עדיין בעלי אותה התפלגות ועדיין בעלי שונות סופית; רק אי-התלות נעלמה.

אי-תלות היא הנחה, לא קישוט

מתוקנן באותה נוסחה של צעדים בלתי תלויים $\sigma_1 \sqrt{n}$ , ההילוך המתמיד ב- $q = 0.9$ יושב רחוק מן הגאוסית הסטנדרטית ונשאר שם ככל ש- $n$ גדל — המרחק מפסיק לרדת במקום להתכווץ אל רצפת הדגימה.

כדאי לדייק במה שנשבר. הצורה אינה הרוסה; ההילוך עדיין גאוסי בזמנים ארוכים. מה ששגוי הוא הרוחב, בפקטור

\frac{\operatorname{Var}(x_t)}{t} \longrightarrow \frac{1 + q}{1 - q} ,

(10)

שהוא 19 עבור $q = 0.9$ . צעדים עוקבים מתואמים, ולכן השונויות כבר אינן נסכמות פשוט והנוסחה $\sigma_1\sqrt{t}$ מעריכה את הפיזור בחסר בפקטור $\sqrt{19}$ . המשפט לא היה שגוי; הוא הוחל במקום שבו ההנחה שלו אינה מתקיימת.

להעביר את הרעיון¶

ריבוי מצבים, במודול 8. ה- $P(k)$ של הילוך המטבע הוא מנת ריבוי המצבים של שתי הקופסאות $\Omega(N, n)/2^N$ — אותה בינומית בדיוק, נקראת כספירת מיקרו-מצבים ולא כספירת מסלולים. השיא החד שגורם לגז להישאר פרוש בכל החדר, והרוחב היחסי שלו $N^{-1/2}$ , הם דה-מואבר–לפלס מוחל על חלקיקים.
לחץ, במודול 4. הלחץ היציב של גז הוא ממוצע על פני מספר עצום של התנגשויות, והרעש שלו דועך כמו $N^{-1/2}$ . המודול ההוא מדד את הרוחב; זה כאן מספק את הצורה, ואת הסיבה לכך שהצורה אינה תלויה בפרטיה של התנגשות.
דיפוזיה, במודול 18. תנו לגודל הצעד ולזמן שבין הצעדים לשאוף לאפס יחד, וצפיפות ענן ההולכים תקיים את משוואת הדיפוזיה. הפיזור $\sqrt{t}$ הוא הסיבה לכך שטיפת דיו חוצה סנטימטר בדקות ומטר בשנים.
לוח גלטון. חרוזים הנופלים דרך מערך משולש של יתדות, ופונים ימינה או שמאלה בכל אחד מהם, נערמים בעקומת פעמון בתחתית. זהו דה-מואבר–לפלס בנוי מעץ, והוא עובד בין אם מישהו הוכיח את המשפט ובין אם לאו.
כל פס שגיאה שתפגשו. סקרים, מדידות מעבדה, וכל value ± error בקורס הזה מציינים שגיאת תקן. לסקר של 1000 איש יש שוליים של כ- $3\%$ ללא תלות בגודלה של המדינה, משום ש- $1/\sqrt{1000} \approx 0.032$ .

בדקו את הבנתכם¶

הולך מבצע 400 צעדים של 1+ או 1-, כששני הכיוונים שווי סבירות. באיזה מרחק טיפוסי מנקודת המוצא נמצא אותו, בערך? חשבו את המרחק הריבועי הממוצע, sigma_1 sqrt(t), ביחידות של צעדים.
בדקו את התשובה
התשובה הנכונה: 20 (± 1)
השונות מקיימת Var(x_t) = sigma_1^2 t כאשר sigma_1 = 1, ולכן המרחק הטיפוסי הוא sqrt(400) = 20 צעדים. לא אפס — ההילוך אכן מתפשט. ולא 400 — זה המרחק שהיה עובר לו כל הצעדים היו לאותו כיוון, והצעדים מבטלים זה את זה הרבה יותר פעמים משהם מצטרפים.
לאחר 500 צעדים, הולך מסוים עומד בנקודה 30+. מהי התוחלת של ההעתק שלו מהמקום שבו הוא עומד עכשיו, במהלך 500 הצעדים הבאים?
A. אפס — 500 הצעדים הבאים שלו נדגמים בדיוק מאותה התפלגות שממנה נדגמים הצעדים של כל אחד אחר. B. בערך 30-, כך שבממוצע הוא יחזור לראשית. C. בערך 30- חלקי 500, כי החזרה מתפרשת על פני יתר הצעדים. D. בערך 30+, כי הולך שסטה ימינה הוא כנראה הולך שנוטה ימינה.
בדקו את התשובה
התשובה הנכונה: A — אפס — 500 הצעדים הבאים שלו נדגמים בדיוק מאותה התפלגות שממנה נדגמים הצעדים של כל אחד אחר.
- A. נכון. שום דבר במודל אינו מתייחס לראשית. התפלגות הצעדים אינה יודעת היכן ההולך נמצא, ולכן העתיד שלו סימטרי סביב מיקומו הנוכחי, עד כמה שהתרחק.
- B. זו תמונה של כוח מחזיר, ואין כאן כוח כלל. הולך בנקודה 30+ היה צריך לבדוק את מיקומו כדי לדעת לנוע שמאלה, ושום דבר במודל אינו מאפשר לו זאת. תוחלת המיקום של הצבר נשארת אפס משום שהולכים שסטו ימינה מאוזנים בהולכים שסטו שמאלה, ולא משום שמישהו מוחזר.
- C. אותו רעיון של כוח מחזיר, רק עם חשבון מסודר אחרת. כל תוחלת שאינה אפס הייתה מחייבת שהתפלגות הצעדים תהיה תלויה במיקום, והיא אינה תלויה בו.
- D. הצעדים בלתי תלויים ובעלי אותה התפלגות, ולכן צעדים שכבר נעשו אינם נושאים שום מידע על הצעדים הבאים. אין במודל הזה דבר כזה “הולך שנוטה ימינה” — יש רק הולך שבמקרה יצאו לו עד כה יותר צעדים ימינה.
עבור התפלגות בינומית עם n = 100 ניסויים ו-p = 1/2, חשבו את סטיית התקן של מספר ההצלחות, כלומר sqrt(n p (1-p)).
בדקו את התשובה
התשובה הנכונה: 5 (± 0.2)
sqrt(100 x 0.5 x 0.5) = sqrt(25) = 5. כלומר מספר ה"עץ" ב-100 הטלות נמצא בתחום 5 -/+ 50 בכ-68 אחוזים מהמקרים. שימו לב שמיקום ההולך הוא x = 2k - n, ולכן הפיזור שלו הוא 2 x 5 = 10 = sqrt(100), בהתאמה ל-sigma_1 sqrt(t).
איזו מהטענות הבאות אינה הנחה של משפט הגבול המרכזי כפי שנוסח במודול הזה?
A. הצעדים עצמם חייבים להיות בעלי התפלגות גאוסית. B. הצעדים חייבים להיות בלתי תלויים זה בזה. C. כל הצעדים חייבים להידגם מאותה התפלגות. D. להתפלגות הצעדים חייבת להיות שונות סופית.
בדקו את התשובה
התשובה הנכונה: A — הצעדים עצמם חייבים להיות בעלי התפלגות גאוסית.
- A. נכון — וזה כל העניין שבמשפט. אילו הצעדים היו חייבים להיות גאוסיים מלכתחילה, התוצאה הייתה טריוויאלית. הצעדים יכולים להיות מטבעות, דגימות אחידות או כל דבר אחר בעל שונות סופית; הצורה הגאוסית מופיעה בסכום בכל מקרה.
- B. זו אכן הנחה של המשפט, וזו ההנחה שההילוך המתמיד שבמודול מפר. היא זו שמאפשרת לשונויות להיסכם.
- C. זו אכן הנחה של הניסוח שהובא כאן. (קיימים ניסוחים חלשים יותר שמרפים אותה, אך אין הם מה שהמודול הזה טוען.)
- D. זו אכן הנחה של המשפט, ובעיה 8 בדף הבעיות בוחנת מה עושה להתפלגות קושי — שאין לה שונות סופית — למסקנה.
הילוך חוזר על הצעד הקודם שלו בהסתברות 0.9, ואחרת דוגם צעד חדש של 1-/1+. הסכומים המתוקננים שלו, מחולקים ב-sigma_1 sqrt(n), מושווים להתפלגות גאוסית סטנדרטית עבור n גדל והולך. מה קורה, ומדוע?
A. ההיסטוגרמה נשארת רחבה מדי בכל n, משום שאי-התלות מופרת והשונויות כבר אינן נסכמות פשוט. B. ההיסטוגרמה מתלכדת בכל זאת עם הגאוסית; דרושים רק עוד צעדים. C. ההיסטוגרמה מאבדת את צורת הפעמון — מופיעים בה שני שיאים. D. דבר אינו משתנה, שהרי הצעדים עדיין 1-/1+ בהסתברויות שוות.
בדקו את התשובה
התשובה הנכונה: A — ההיסטוגרמה נשארת רחבה מדי בכל n, משום שאי-התלות מופרת והשונויות כבר אינן נסכמות פשוט.
- A. בדיוק. הצעדים עדיין בעלי אותה התפלגות ועדיין בעלי שונות סופית; רק אי-התלות נעלמה. השונות האמיתית היא t(1+q)/(1-q) = 19t ולא t, ולכן חלוקה ב-sigma_1 sqrt(n) מחמיצה את הרוחב בפקטור sqrt(19).
- B. היא אינה מתלכדת. זהו הרפלקס “כל סכום של הרבה גורמים מקריים הוא גאוסי”, וההילוך המתמיד קיים כדי להפריך אותו. המרחק מההתפלגות הגאוסית הסטנדרטית מפסיק לרדת במקום להתכווץ אל רצפת הדגימה, ולא משנה כמה n גדל.
- C. לא הצורה היא שנשברת. בזמנים ארוכים ההילוך המתמיד עדיין גאוסי; מה שהנוסחה של צעדים בלתי תלויים טועה בו הוא הרוחב. תקנון לפי השונות הנכונה מביא להתלכדות מושלמת.
- D. ההתפלגות השולית של צעד בודד אכן אינה משתנה — וזה מה שהופך את דוגמת הנגד הזו לחדה. מה שהשתנה הוא ההתפלגות המשותפת, והמשפט הוא טענה על ההתפלגות המשותפת.
השתמשו בקירוב של משפט דה-מואבר-לפלס כדי לאמוד את ההסתברות לקבל בדיוק 50 פעמים “עץ” ב-100 הטלות של מטבע הוגן. כלומר, חשבו את 1/sqrt(2 pi n p q) עבור n = 100 ו-p = q = 1/2.
בדקו את התשובה
התשובה הנכונה: 0.0798 (± 0.0005)
1/sqrt(2 pi x 100 x 0.25) = 1/sqrt(50 pi) = 0.0798. הערך הבינומי המדויק הוא 0.0796, כך שהקירוב שוגה בכרבע אחוז — בסביבת השיא. נסו את אותה השוואה עבור k = 90 והשגיאה היחסית תהיה עצומה: זו טענה על האזור המרכזי, לא על הזנבות.
אתם צופים בענן של הולכים ללא הטיה ורואים אותו מתרחב בהתמדה. מה עושה מיקומו הממוצע?
A. נשאר אפס, בתוך אי-ודאות מסדר גודל sqrt(t/N) שגדלה אף היא. B. גדל, שהרי לענן רחב יותר חייב להיות מיקום ממוצע גדול יותר. C. גדל כ-sqrt(t), כמו הרוחב. D. אי אפשר לדעת בלי לדעת מהי התפלגות הצעדים.
בדקו את התשובה
התשובה הנכונה: A — נשאר אפס, בתוך אי-ודאות מסדר גודל sqrt(t/N) שגדלה אף היא.
- A. נכון, והסייג חשוב. הממוצע נשאר אפס, אבל האומדן שלנו עבורו טוב רק עד כדי שגיאת התקן sigma_1 sqrt(t) / sqrt(N) — ולכן ההנפשה משרטטת סביב האפס רצועה אפורה מתרחבת ולא קו חשוף.
- B. הרוחב והממוצע הם שני גדלים נפרדים. הענן גדל בסימטריה: הולכים שנודדים ימינה מאוזנים בהולכים שנודדים שמאלה, ולכן הממוצע נשאר במקומו בעוד הפיזור גדל כ-sqrt(t). הילוך מוטה מדגים את הניגוד — שם הממוצע אכן צועד, ליניארית, בעוד הרוחב עדיין רק זוחל.
- C. בהילוך ללא הטיה הממוצע אינו גדל כלל: התוחלת היא mu_1 t ו-mu_1 = 0. הגדילה כ-sqrt(t) שייכת לפיזור בלבד.
- D. התשובה נקבעת לחלוטין: התוחלת היא mu_1 t עבור כל התפלגות צעדים, ולכן “ללא הטיה” (כלומר mu_1 = 0) כבר קובע את התשובה אפס, יהיה מראה הצעדים אשר יהיה.
אתם מרבעים את מספר המדידות במדגם, מ-N ל-4N. מה קורה לסטיית התקן של הנתונים, ומה קורה לשגיאת התקן של הממוצע שלהם?
A. סטיית התקן אינה משתנה; שגיאת התקן נחצית. B. שתיהן נחצות. C. שתיהן אינן משתנות. D. סטיית התקן נחצית; שגיאת התקן אינה משתנה.
בדקו את התשובה
התשובה הנכונה: A — סטיית התקן אינה משתנה; שגיאת התקן נחצית.
- A. נכון. סטיית התקן מתארת את האוכלוסייה ואינה מושפעת מכמה ממנה הסתכלתם. שגיאת התקן, sigma_1/sqrt(N), מתארת את אי-הוודאות שלכם לגבי הממוצע, ו-sqrt(4) = 2.
- B. מדידה של חלק גדול יותר מאוכלוסייה אינה הופכת את האוכלוסייה לפחות מפוזרת. אילו כך היה, אפשר היה להפוך כל גודל למדויק פשוט על ידי מדידות רבות — והפיזור של הערכים הבודדים היה מצטמצם לעין, וזה אינו קורה.
- C. סטיית התקן אכן אינה משתנה, אבל כל תכליתו של המיצוע היא שהממוצע ייקבע טוב יותר. אילו שגיאת התקן לא הייתה מצטמצמת, לא הייתה שום סיבה לחזור על מדידה.
- D. זו בדיוק ההחלפה בין שני הגדלים. כדאי לכתוב את שתי ההגדרות זו לצד זו: האחת היא תכונה של הנתונים, והשנייה תכונה של האומדן שלכם.
עשרת אלפים הולכים בלתי תלויים מייצרים היסטוגרמה חלקה בצורת פעמון, שחוזרת על עצמה בכל הרצה. איזה הסבר למקורו של הסדר הזה נכון?
A. יש אין-ספור יותר סדרות צעדים שמגיעות לאמצע מאשר לקצוות, וכל סדרה שווה בסבירותה לכל אחרת. B. הולכים שהתרחקו יתר על המידה נמשכים בחזרה, וכך ההתפלגות נשארת ממורכזת. C. הצעדים של כל הולך מתבטלים בממוצע, ולכן כל הולך מסיים בקרבת הראשית. D. כשיש מספיק הולכים, עודף בצד אחד מתקזז בהולכים מאוחרים יותר שנוחתים בצד השני.
בדקו את התשובה
התשובה הנכונה: A — יש אין-ספור יותר סדרות צעדים שמגיעות לאמצע מאשר לקצוות, וכל סדרה שווה בסבירותה לכל אחרת.
- A. כן. הסדר הוא עובדת ספירה, לא עובדה דינמית. שום דבר אינו מכוון הולך כלשהו, ואף הולך אינו יודע על קיומם של האחרים; הצורה היא פשוט מה שמתקבל כשסופרים כמה מסלולים מגיעים לכל יעד.
- B. אין מנגנון כזה, והמעבדה מפריכה אותו ישירות: מתנים על ההולכים שעומדים בנקודה 30+ ומגלים שהתנועה שלהם מכאן ואילך סימטרית. ההתכנסות כאן פועלת בדילול, לעולם לא בתיקון.
- C. כל הולך אינו מסיים בקרבת הראשית — המרחק הטיפוסי הוא sigma_1 sqrt(t), והוא גדל ללא גבול. מה שמתייצב הוא צורת הצבר, לא מיקומו של אף פרט.
- D. ההולכים בלתי תלויים, ולכן אף הולך אינו יכול לקזז אחר; להולך מאוחר אין שום דרך ללמוד מה עשו הקודמים. זו כשלת הקיזוז ממודול 0, מועתקת מציר הזמן אל הצבר.
הולך מבצע 400 צעדים של 1-/1+, אך המטבע מוטה: p = 0.6 לכיוון ימין. חשבו את תוחלת ההעתק שלו, mu_1 t, ביחידות של צעדים.

שאלות ברמת בחינה עבור המודול הזה — אלה שכדאי לפתור בעט — מרוכזות בדף הבעיות.

להסביר במילים שלכם¶

ענו על כל אחת בכמה משפטים. שום מספר לא יציל אתכם כאן.

סטודנט אומר: “ההילוך חוזר לעבר האפס משום שצעדים שמאלה מבטלים צעדים ימינה.” חלק מן המשפט הזה נכון וחלק ממנו שגוי לחלוטין. הפרידו ביניהם.
להילוך המתמיד יש צעדים בעלי אותה התפלגות ובעלי שונות סופית, וההיסטוגרמה שלו עדיין אינה הגאוסית הנחזית. איזו הנחה של משפט הגבול המרכזי נכשלת, ומה בדיוק עולה הכישלון שלה?
שולי הטעות של עורך סקרים מצטמצמים ככל שנשאלים יותר אנשים, בעוד הפיזור הגולמי במספר הקולות הנספרים גדל. הסבירו כיצד שני הדברים יכולים להיות נכונים בו-זמנית.
הסבירו, בלי לכתוב משוואה, מדוע הצורה של ההיסטוגרמה בזמנים ארוכים אינה תלויה במראהו של צעד בודד — ונקבו בדבר האחד בצעד ששורד בכל זאת.

מתקדם: שלושה קצוות פתוחים¶

מדוע המשפט נכון. את המנגנון קל ביותר לראות דרך הפונקציה האופיינית $\varphi(k) = \langle e^{ikX}\rangle$ , ההופכת סכומים למכפלות: הפונקציה האופיינית של סכום משתנים בלתי תלויים היא מכפלת הפונקציות שלהם. תקננו כך ש- $\mu_1 = 0$ ו- $\sigma_1 = 1$ , ופתחו עבור $k$ קטן:

\varphi(k) = 1 - \tfrac{1}{2}k^2 + o(k^2) \quad\Longrightarrow\quad \left[\varphi\!\left(\frac{k}{\sqrt{n}}\right)\right]^{n} \longrightarrow e^{-k^2/2} .

(11)

הגבול הוא הפונקציה האופיינית של גאוסית סטנדרטית. קראו את החישוב אחורה ותראו בדיוק לשם מה שימשה כל הנחה: אי-התלות אפשרה לפונקציות האופייניות להיכפל, ההתפלגות הזהה אפשרה ל- $\varphi$ אחת לשרת את כל $n$ הגורמים, והשונות הסופית היא מה שגורם לאיבר $k^2$ להתקיים ולהיות המוביל. המשפט כולו הוא הטענה שרק האיבר הריבועי שורד את שינוי קנה המידה.

הילוכים בשני ממדים. תנו לכל הולך צעד בלתי תלוי ב- $x$ וב- $y$ . כל תוצאה שלמעלה חלה על כל קואורדינטה בנפרד, ולכן המרחק הריבועי הממוצע מן הראשית הוא סכום שתי תרומות זהות,

\langle r_t^2 \rangle = \langle x_t^2 \rangle + \langle y_t^2 \rangle = 2\sigma_1^2 t ,

(12)

והענן הוא גאוסית מעגלית המתרחבת כמו $\sqrt{t}$ . התמונה יפה יותר והמתמטיקה היא אותה אחת פעמיים, ומשום כך הליבה נצמדת לישר.

ההילוך המתמיד מתאושש. דוגמת הנגד שלמעלה היא רוחב שבור, לא צורה שבורה, והתיקון מדויק. לצעדים עוקבים של ההילוך המתמיד יש מתאם $q^j$ במרחק $j$ , ולכן סכימת מטריצת השונות המשותפת במקום האלכסון שלה בלבד נותנת

\operatorname{Var}(x_t) = t\left(1 + 2\sum_{j=1}^{\infty} q^{\,j}\right) = t\,\frac{1+q}{1-q}

(13)

בגבול הזמנים הארוכים. הצבת השונות הזו במקום $\sigma_1^2 t$ גורמת להיסטוגרמה המתוקננת להתלכד עם הגאוסית בכל זאת. הטענה הכללית — משפט גבול מרכזי לסדרות בעלות מתאמים דועכים — היא מה שמאפשר למכניקה הסטטיסטית להשתמש בנוסחאות פלוקטואציה גאוסיות עבור מערכות שחלקיקיהן בהחלט כן מקיימים אינטראקציה, ובלבד שהמתאמים דועכים מהר די הצורך.