אנטרופיה וריבוי מצבים - ThermoLab

החידה: שום דבר אינו אוסר את הפינה¶

פתחו שסתום בין תא מלא גז לתא זהה שרוקן, והגז נוהר דרכו עד ששני החצאים מחזיקים באותה צפיפות. חכו כמה זמן שתרצו, והוא לעולם אינו נוהר בחזרה. שחררו טיפת בושם בחדר דומם, וריחו מתפשט על פני כל החלל; הוא לעולם אינו מתכנס מעצמו בחזרה אל הבקבוק.

הנה מה שהופך את זה למוזר. כל התנגשות בין שתי מולקולות גז מצייתת לחוקי ניוטון, וחוקי ניוטון אינם אכפתיים לכיוון שבו הזמן זורם — הפכו כל מהירות בסרטון של כדורי ביליארד מתנגשים, ותקבלו סרטון תקף לחלוטין נוסף של כדורי ביליארד מתנגשים. מבחינה מיקרוסקופית, אין שום דבר האוסר על מולקולות הגז להתנגש בדרכן בחזרה אל פינה אחת, סתם כך. שום חוק מכניקה אינו מייחד את ה"התפשטות" כמצב מיוחד.

התשובה שהמודול הזה בונה אינה קשורה כלל לכך שכוחות הופכים לחד-כיווניים. היא קשורה לכמה דרכים יש לכל תוצאה לקרות. “התפשטות” אינה מיוחדת משום שהיא מועדפת מכנית — היא מיוחדת משום שיש מספר אסטרונומי של סידורי מולקולות שנראים מפוזרים, גדול בהרבה ממספר הסידורים שנראים מרוכזים בפינה. ברגע שאפשר לספור את הסידורים האלה, החידה מתמוססת לכדי חשבון פשוט.

לנבא לפני שמחשבים¶

התחייבו לתשובה לכל אחת מהשאלות הבאות לפני שתריצו משהו.

אתם מטילים 4 מטבעות. כמה מתוך $2^4 = 16$ התוצאות האפשריות מראות בדיוק 2 פעמים עץ? עכשיו הטילו 100 מטבעות: האם השבר של התוצאות עם בדיוק 50 פעמים עץ גדול או קטן מהשבר של תוצאות עם בדיוק 2 פעמים עץ מתוך 4?
$N$ חלקיקי גז מתחילים כולם בחצי השמאלי של קופסה מחוצצת. המחיצה מוסרת. עבור $N = 10$ , האם תופתעו לראות את כל 10 החלקיקים בחזרה בחצי השמאלי בתוך דקת צפייה? עבור $N = 10^{23}$ ?
שני גבישים של אותו יסוד נראים זהים תחת מיקרוסקופ: אותו סריג, אותה צפיפות, אותו צבע. האחד עשוי כולו מאיזוטופ יחיד. השני הוא תערובת של 50/50 בין שני איזוטופים של אותו יסוד, מסודרים באקראי על אותם אתרי סריג. לאיזה גביש יש אנטרופיה גבוהה יותר — או שהם שווים?
קוביית קרח נמסה בכוס מים חמימים. האם האנטרופיה של קוביית הקרח עצמה עולה או יורדת בעת ההיתוך? האם האנטרופיה של המים עולה או יורדת? ומה עם הסך הכול?

לחקור את המודל¶

המערכת כאן היא במכוון הפשוטה ביותר שמראה את התופעה: $N$ עצמים ניתנים להבחנה, כל אחד באופן בלתי תלוי באחד משני מצבים. אפשר לקרוא לזה כחלקיקים בחצי השמאלי או הימני של קופסה, כמטבעות המראים עץ או פלי, או כספינים המצביעים למעלה או למטה — הספירה זהה בכל מקרה.

מפרט המודל

מערכת: $N$ עצמים ניתנים להבחנה, כל אחד באחד משני מצבים — חלקיקים בחצי השמאלי או הימני של קופסה, מטבעות המראים עץ או פלי, ספינים למעלה או למטה.
דינמיקה: בגרסה הנדגמת (כד ארנפסט), עצם אחד שנבחר באקראי מחליף מצב בכל צעד.
גבול: סגור; $N$ קבוע לכל אורך הדרך.
צבר: מיקרו-קנוני במובן הספציפי שבו כל מיקרו-מצב מונח כשווה-הסתברות — הנחה זו היא עצמה הנושא שהמודול הזה בוחן, לא פרט רקע.
מוזנח: אינטראקציות בין העצמים, כל הפרש אנרגיה בין שני המצבים, וכל דינמיקה שהייתה מעדיפה מצב אחד על פני האחר.
תקף כאשר: שני המצבים שקולים אנרגטית והעצמים מתנהגים באופן בלתי תלוי זה בזה.
אופני כישלון: מערכות בעלות אינטראקציה (מגנט איזינג מתחת לטמפרטורת הסדר שלו), או מצבים בעלי אנרגיות שונות, שבהם גורם בולצמן — ולא משקול שווה — קובע את ההסתברויות.

הנה התופעה שפותרת את חידת הפתיחה. משמאל, מאתיים עצמים מתחילים כולם בקופסה אחת וקופצים הלוך ושוב, אחד בכל פעם, בינה לבין קופסה שנייה ריקה; שימו לב כמה מהר האכלוס מתייצב קרוב לחלוקה השווה ונשאר שם. מימין, התפלגות ריבוי המצבים $\Omega(N,n)/\Omega(N,N/2)$ עצמה, כפי שנראית כש- $N$ גדל — אותה צורה בכל פעם, רק צרה יותר.

משמאל: האוכלוסיות של שתי הקופסאות בזמן שהעצמים קופצים ביניהן אחד בכל פעם. מימין: עקבת האכלוס של הקופסה הראשונה, נסחפת מנקודת ההתחלה הקיצונית אל החלוקה השווה ונשארת שם — לא משום שמשהו אוסר עליה לנדוד בחזרה, אלא משום שכה מעטים מהמיקרו-מצבים הנגישים ממקמים אותה שם.

ריבוי המצבים היחסי $\Omega(N,n)/\Omega(N,N/2)$ כתלות בשיעור האכלוס החלקי $n/N$ , עבור $N$ גדל. העקומה נוצרת ישירות על ידי thermolab.multiplicity. ככל ש- $N$ גדל, תחום ריבוי המצבים הניכר קורס אל החלוקה השווה.

הריצו את המעבדה עכשיו, ואז חזרו לכאן. שלושה דברים שכדאי לעשות לפני שממשיכים לקרוא:

התחילו את סימולציית שתי הקופסאות מאכלוס קיצוני וצפו כמה זמן לוקח להגיע לחלוקה השווה, עבור $N = 20$ לעומת $N = 400$ .
שרטטו את $\Omega(N,n)$ עבור $N$ קטן (למשל $N=10$ ) ובדקו ביד איזה שבר מתוך $2^{10}=1024$ הסידורים הכולל יושב בשיא, $n=5$ .
צפו בהתפלגות ריבוי המצבים מצטמצמת ככל שאתם מגדילים את $N$ , ושימו לב שהיא מצטמצמת סביב אותו ערך מרכזי, $n = N/2$ , בכל פעם.

לגזור את התוצאה¶

מערכת וגבול. $N$ עצמים ניתנים להבחנה, כל אחד באופן בלתי תלוי באחד משני מצבים, מבודדים כמכלול.

משתנה בלתי תלוי. $N$ ; המאקרו-מצב מסומן על ידי $n$ , מספר העצמים במצב הראשון.

בהינתן הנחת היסוד, ההסתברות לצפות במאקרו-מצב מסוים היא פשוט השבר של כל המיקרו-מצבים השייכים אליו:

P(n) = \frac{\Omega(N,n)}{2^N} ,

(1)

משום ש- $2^N$ הוא המספר הכולל של המיקרו-מצבים (כל אחד מ- $N$ העצמים באופן בלתי תלוי באחד משני המצבים), ו- $\Omega(N,n)$ סופר כמה מהם כוללים בדיוק $n$ עצמים במצב הראשון.

ספירת ריבוי המצבים¶

הבחירה אילו $n$ מתוך $N$ העצמים נמצאים במצב הראשון היא בעיית קומבינטוריקה:

\Omega(N,n) = \binom{N}{n} = \frac{N!}{n!\,(N-n)!} .

(2)

עבור $N=10$ , ספירה ישירה נותנת $\Omega(10,0)=1$ , $\Omega(10,5)=252$ , וכן $\sum_{n=0}^{10}\Omega(10,n) = 1024 = 2^{10}$ , בדיוק כפי שצריך. המאקרו-מצב $n=5$ לבדו אחראי ל- $252/1024 \approx 24.6\%$ מכלל המיקרו-מצבים, בעוד ש- $n=0$ (כל העצמים במצב הראשון) אחראי ל- $1/1024 \approx 0.1\%$ . כבר ב- $N=10$ החלוקה השווה סבירה פי כ-250 יותר מהקיצון המסודר לחלוטין — והיחס הזה רק גדל עם $N$ .

מדוע החלוקה השווה שולטת, ובכמה¶

$\Omega(N,n)$ מקבל את מקסימומו ב- $n=N/2$ (עבור $N$ זוגי), משום שהתרחקות מהחלוקה השווה בכל אחד מהכיוונים תמיד מסירה יותר דרכים להשיג את המאקרו-מצב ממה שהיא מוסיפה — המקדמים הבינומיים דועכים באופן סימטרי מהמרכז. בקרבת השיא, פיתוח $\ln\Omega(N,n)$ עד לסדר שני ב- $n - N/2$ הופך את ההתפלגות הבדידה לגאוסית:

הגבול הגאוסי

עבור $N$ גדול מתקיים בקירוב

\dfrac{\Omega(N,n)}{2^N} \approx \dfrac{1}{\sigma\sqrt{2\pi}} \exp\!\left[-\dfrac{(n - N/2)^2}{2\sigma^2}\right]

(3)

עם $\sigma = \sqrt{N}/2$ . זהו משפט הגבול המרכזי בגרסתו הפיזיקלית ביותר: סכום של הרבה בחירות בינריות בלתי תלויות הופך לגאוסי ללא תלות בפרטים, ורוחב ההתפלגות הגאוסית נקבע על ידי $N$ בלבד. הקירוב מצוין ברגע ש- $N$ הוא כמה אלפים — הוא תואם את התוצאה הקומבינטורית המדויקת לדיוק טוב מ- $1\%$ בקרבת השיא עבור $N=4000$ — אך זהו קירוב, תקף רק בקרבת $n=N/2$ ורק עבור $N$ גדול; הוא אינו אומר דבר אמין על הזנבות הרחוקים.

הרוחב היחסי של השיא הזה — סטיית התקן שלו מחולקת במרכזו — הוא

\frac{\sigma}{N/2} = \frac{\sqrt{N}/2}{N/2} = \frac{1}{\sqrt{N}} .

(4)

זהו אותו חוק $N^{-1/2}$ ששלט בפלוקטואציות הלחץ במודול 04, המופיע כאן מהמקור החד ביותר האפשרי: קומבינטוריקה טהורה. זוהי אלגברה מדויקת בהינתן הרוחב הגאוסי שלמעלה, והיא אומרת שהשבר של המיקרו-מצבים היושבים במרחק יחסי קבוע מהחלוקה השווה מצטמצם ככל שהמערכת גדלה — וזו בדיוק הסיבה לכך שגז מבודד לעולם אינו נצפה מתקבץ בפינה. שום דבר אינו אוסר זאת מכנית; פשוט יש מעט מדי דרכים לכך שזה יקרה ברגע ש- $N$ גדול.

אנטרופיית בולצמן¶

מדוע האנטרופיה היא לוגריתם

עבור שתי תת-מערכות בלתי תלויות A ו-B, כל מיקרו-מצב של A אפשר לצרף לכל מיקרו-מצב של B, כך שריבויי המצבים מוכפלים: $\Omega_{AB} = \Omega_A \, \Omega_B$ . מהאנטרופיה התרמודינמית נדרש להיות אדיטיבית — האנטרופיה של שתי מערכות נפרדות המובאות יחד בלי אינטראקציה היא סכום האנטרופיות שלהן, בדיוק כפי ש- $N$ או $V$ מצטרפים עבור שתי מדגמות גז משולבות. פונקציה ההופכת מכפלות לסכומים היא, עד כדי קבוע, הלוגריתם. זו הסיבה ש- $S \propto \ln\Omega$ ולא, למשל, $S \propto \Omega$ : הלוגריתם אינו בחירה סגנונית, הוא הפעולה היחידה התואמת אקסטנסיביות.

האנטרופיה סופרת סידורים, לא מראה חיצוני

קחו $N=1000$ אתרים אטומיים בסריג גבישי. גביש הבנוי מאיזוטופ יחיד מקיים $n=0$ (או $n=N$ ): $\Omega=1$ ו- $S=0$ . גביש הבנוי מתערובת אקראית של 50/50 בין שני איזוטופים של אותו יסוד, על אותו סריג, הוא בלתי ניתן להבחנה כימית וחזותית מהגביש הטהור — אותו מבנה, אותה צפיפות, אותו מראה תחת כל מיקרוסקופ רגיל. אך ריבוי המצבים שלו הוא $\Omega(1000,500) \approx 2.7\times10^{299}$ — גדול מ- $\Omega=1$ של הגביש הטהור בגורם של $e^{689.5}$ — נותן $S \approx 9.5\times 10^{-21}\ \mathrm{J/K}$ לעומת אפס מדויק של הגביש הטהור. שום דבר בגביש המעורב אינו נראה מסודר פחות. יש לו אנטרופיה גדולה בהרבה משום שהאנטרופיה סופרת מיקרו-מצבים נגישים, ויש דרכים רבות באופן אסטרונומי לפזר שני איזוטופים על פני סריג תוך הפקת אותו מראה מאקרוסקופי בכל פעם.

שווה לשהות עם הדוגמה הזו לרגע. “אנטרופיה היא אי-סדר” היא תמונה מפושטת ושימושית במקרים מסוימים — לחפיסת קלפים מעורבבת אכן יש ריבוי מצבים גבוה יותר מלחפיסה מסודרת — אבל התמונה המפושטת נשברת בכל פעם שהמראה של מאקרו-מצב והריבוי שלו מתפצלים זה מזה, וערבוב איזוטופים הוא בדיוק מקרה כזה: הגביש נראה מסודר באותה מידה בשני המקרים.

קירוב סטירלינג והגבול התרמודינמי¶

חישוב ישיר של $N!$ עבור $N$ מאקרוסקופי אינו נחוץ ואינו אפשרי; התוצאות שלמעלה נשענות על $\ln N!$ , המקורב על ידי נוסחת סטירלינג:

קירוב סטירלינג

\ln N! \approx N\ln N - N + \tfrac{1}{2}\ln(2\pi N) ,

(6)

שני האיברים הראשונים הם הגרסה המצוטטת בדרך כלל בטיפולים מבואיים; האיבר השלישי, $\tfrac{1}{2}\ln(2\pi N)$ , הוא התיקון הבא, והטור האסימפטוטי המלא ממשיך עם איבר מסדר גודל $1/(12N)$ . במדידה מול הערך המדויק, הצורה בעלת שני האיברים סוטה בכ-2.1 ב- $N=10$ ונעשית גרועה יותר לאט במונחים מוחלטים ככל ש- $N$ גדל (כ-5.5 ב- $N=10^4$ , משום שהאיבר המושמט נע כמו $\tfrac12\ln(2\pi N)$ ); הצורה בעלת שלושת האיברים סוטה בכ-0.008 ב- $N=10$ ובכ- $8\times10^{-6}$ ב- $N=10^4$ , בהתאמה לגבול החזוי $1/(12N)$ . עבור כל $N$ שראוי לכנותו מאקרוסקופי, שתי הצורות מצוינות — אך רק לצורה בעלת שלושת האיברים כדאי לתת אמון עבור הפיזיקה מסדר $\ln N$ המשני שהמודול הזה עוסק בה.

החלת סטירלינג על ריבוי המצבים בשיא נותנת את הצורה האסימפטוטית המדויקת

\ln \Omega(N, N/2) = N \ln 2 - \tfrac{1}{2}\ln\!\left(\frac{\pi N}{2}\right) + O(1/N) .

(7)

האיבר המוביל, $N\ln 2$ , הוא אקסטנסיבי — הוא מוכפל כש- $N$ מוכפל, בדיוק כפי שאנטרופיה אמורה להתנהג. איבר התיקון אינו כזה: הוא גדל רק לוגריתמית, ולכן הוא נעשה זניח ביחס לאיבר המוביל כש- $N\to\infty$ , אך הוא לעולם אינו אפס מדויק עבור $N$ סופי.

אקסטנסיביות היא טענה על הגבול התרמודינמי

פיצול מערכת של $2N$ עצמים (מאקרו-מצב $n=N$ , כלומר החלוקה השווה) לשני חצאים זהים של $N$ עצמים כל אחד (כל אחד גם הוא בחלוקה השווה שלו) אמור, אילו האנטרופיה הייתה אקסטנסיבית באופן מדויק, לתת $S(2N,N) = 2\,S(N,N/2)$ . בחישוב ישיר, הפער היחסי בין שני הצדדים הוא כ- $0.9\%$ ב- $N=200$ , כ- $0.13\%$ ב- $N=2000$ , כ- $0.017\%$ ב- $N=20{,}000$ , וכ- $0.0022\%$ ב- $N=200{,}000$ — מצטמצם בדיוק כפי שהתיקון $\tfrac12\ln(\pi N)$ שלמעלה חוזה. אקסטנסיביות אינה מובנית בתוך ההגדרה של האנטרופיה; זהו דבר שהקומבינטוריקה מספקת רק בגבול של $N$ גדול, וההתקרבות לגבול הזה ניתנת למדידה, לא מונחת מראש.

אימות חישובי¶

1. קומבינטוריקה עבור $N$ קטן. $\Omega(N,n)$ מהמימוש בעזרת לוג-גמא תואם ל- $\binom{N}{n}$ המחושב באמצעות אריתמטיקה שלמה מדויקת, עבור כל $n$ ב- $N=1,2,10,25$ .

2. השיא יושב בחלוקה השווה. עבור $N=100$ , המאקרו-מצב הממקסם את $\Omega(100,n)$ מבין כל 101 הערכים של $n$ הוא בדיוק $n=50$ .

3. הגבול הגאוסי. ב- $N=4000$ , הקירוב הגאוסי ל- $\Omega(N,n)/2^N$ מתאים לערך הקומבינטורי המדויק לדיוק טוב מ- $1\%$ לאורך הטווח $n \in [1700, 2300]$ .

4. גבול השגיאה של סטירלינג. שגיאת הקירוב בעל שלושת האיברים נשארת מתחת ל- $1.01/(12N)$ ב- $N=10,100,1000$ — בדיקות הקוד מודדות את הגבול הזה במקום להניח אותו כאקסיומה.

5. כד ארנפסט מוצא את החלוקה השווה ונשאר בה. כאשר מתחילים עם כל העצמים בצד אחד, מערכת של $N=400$ עצמים שנדגמה למשך $40{,}000$ צעדים מגיעה לשיעור אכלוס מאוחר בתוך $2\%$ ממחצית מדויקת, עם פיזור מאוחר מתחת ל- $5\%$ מ- $N$ — והיא נשארת שם במקום לעבור דרכה ולהמשיך הלאה.

מהיכן מגיעה ההתנגדות להתקבצות בפינה

ב- $N=100$ , מאקרו-מצב הרחוק $10\%$ מהחלוקה השווה ( $n=60$ במקום $n=50$ ) עדיין סביר בכ- $13.6\%$ מהשיא — לא נדיר כלל. ב- $N=10{,}000$ , אותו עודף יחסי של $10\%$ ( $n=6000$ במקום $n=5000$ ) מוחלש בגורם של בערך $3.6\times10^{-88}$ ביחס לשיא. שום דבר בדינמיקה הבסיסית לא השתנה בין שני המקרים האלה — רק $N$ השתנה. זוהי התשובה הכמותית לחידת הפתיחה: הגז לעולם אינו מתקבץ בפינה, לא משום שהדבר אסור, אלא משום שמספר הדרכים לכך, ביחס למספר הדרכים להיות מפוזר, דועך מהר יותר מכל תהליך פיזיקלי שיכול אי פעם לחקור בזמן העומד לרשותו.

להעביר את הרעיון¶

אותו מבנה בדיוק — לספור את המיקרו-מצבים, לשים לב שלמאקרו-מצב אחד יש מהם יותר באופן מכריע, ולקרוא ללוגריתם של אותה ספירה “אנטרופיה” — חוזר הרחק מעבר למערכות דו-מצביות.

התפשטות חופשית ודיפוזיה. גז המשוחרר לתוך נפח גדול יותר, או טיפת דיו המתפזרת במים, הם אותה תופעה כמו מערכת שתי הקופסאות: מספר אסטרונומי גדול יותר של מיקרו-מצבים תואם ל"מפוזר" מאשר ל"מרוכז", ולכן התפשטות היא מה שקורה, בכל פעם, בלי שום כוח המניע אותה.
אנטרופיית ערבוב. שני גזים שונים (או, כמו שלמעלה, שני איזוטופים על סריג) המעורבבים יחד יש להם יותר אנטרופיה מאשר לכל אחד מהם בנפרד, אך ורק מהקומבינטוריקה של השזירה ביניהם — אותה ספירת $\Omega(N,n)$ , המיושמת על מולקולות במקום על הטלות מטבע.
אלסטיות אנטרופית. רצועת גומי מתוחה נמשכת בחזרה לא בעיקר משום שמתיחת שרשראות הפולימר שלה עולה באנרגיה, אלא משום שלשרשרת מתוחה יש הרבה פחות תצורות זמינות מאשר לשרשרת רפויה ומפותלת — כוח אנטרופי, כאשר הנטייה לחזור מגיעה בדיוק מאותה ספירת “יותר דרכים להיות טיפוסי” המשמשת לאורך המודול הזה.
אנטרופיית המידע של שאנון. המדד של קלוד שאנון לתוכן המידע של הודעה, $H = -\sum_i p_i \log p_i$ , יש לו אותה צורה מתמטית בדיוק כמו האנטרופיה שהמודול הזה גוזר, מאותה סיבה בדיוק: זהו המדד היחיד, עד כדי קבוע, שהוא אדיטיבי על פני בחירות בלתי תלויות.

בדקו את הבנתכם¶

גז מבודד, המשוחרר מפינה קטנה של הכלי שלו, מתפשט למלא את כל הנפח, ולעולם אינו נצפה מתכנס מעצמו בחזרה אל הפינה. חוקי ניוטון הפיכים בזמן באופן מדויק. מה פותר את המתח הנראה לעין?
A. שום דבר במכניקה אינו אוסר התכנסות מחדש; פשוט יש כל כך הרבה יותר מיקרו-מצבים המתאימים ל"מפוזר" עד שהתכנסות מחדש לעולם אינה נצפית בפועל. B. התנגשויות בין מולקולות הגז אינן אלסטיות, ולכן אנרגיה קינטית הולכת לאיבוד והגז אינו יכול להתכנס בחזרה. C. סימטריית היפוך הזמן היא רק בקירוב בסולם המולקולרי, ולכן התהליך ההפוך אסור מכנית. D. ברגע שהגז מגיע לשיווי משקל, המולקולות מפסיקות לנוע, כך שאין יותר מה להתכנס בחזרה.
בדקו את התשובה
התשובה הנכונה: A — שום דבר במכניקה אינו אוסר התכנסות מחדש; פשוט יש כל כך הרבה יותר מיקרו-מצבים המתאימים ל"מפוזר" עד שהתכנסות מחדש לעולם אינה נצפית בפועל.
- A. נכון. האי-סימטריה חיה כולה בספירה, לא בחוקי התנועה. מסלול הפוך-בזמן שמתכנס בחזרה עם הגז תקף מכנית בדיוק כמו זה שמפזר אותו — הוא פשוט נמצא במיעוט מוחץ.
- B. המודל של המודול הזה אינו מניח פיזור אנרגיה כזה, ובכל מקרה התנגשויות מולקולריות אמיתיות משמרות אנרגיה קינטית בממוצע בגז בשיווי משקל. אובדן אנרגיה אינו מה שמונע התכנסות מחדש — הספירה היא זו שמונעת.
- C. סימטריית היפוך הזמן של המכניקה הבסיסית אינה קירוב כאן — הפכו כל מהירות במסלול תקף ותקבלו מסלול תקף נוסף. התהליך ההפוך אינו אסור; הוא פשוט מיוצג על ידי שבר זעיר של המיקרו-מצבים הנגישים.
- D. המולקולות לעולם אינן מפסיקות לנוע; שיווי משקל הוא טענה על ממוצע מאקרוסקופי, לא על תנועה פרטנית. זו אותה נקודה שמודול 04 מעלה לגבי כך שהלחץ לעולם אינו מתאפס בשיווי משקל.
“כל מיקרו-מצב נגיש של מערכת מבודדת הוא שווה-הסתברות.” איזה סוג טענה זו, במסגרת שהמודול הזה בונה?
A. הנחת יסוד — הבסיס שעליו נבנה שאר המודול, המוצדקת בהתאמה בין תוצאותיה לניסוי, ולא נגזרת מדבר יסודי יותר. B. משפט, המוכח מחוקי ניוטון המיושמים על העצמים המתנגשים. C. קירוב התקף רק בטמפרטורה גבוהה. D. ניסוח מחדש של שימור האנרגיה.
בדקו את התשובה
התשובה הנכונה: A — הנחת יסוד — הבסיס שעליו נבנה שאר המודול, המוצדקת בהתאמה בין תוצאותיה לניסוי, ולא נגזרת מדבר יסודי יותר.
- A. נכון, וכדאי להיות מדויקים בעניין. שום דבר במודול הזה אינו מוכיח הסתברות שווה מחוקי ניוטון או מכל דבר אחר; היא מונחת, וכל מה שבא אחריה — ריבוי מצבים, אנטרופיה, שליטת החלוקה השווה — הוא תוצאה של אותה הנחה יחידה.
- B. לא ניתנת כאן הוכחה מחוקי ניוטון, ואף לא קיימת הוכחה כזו באופן כללי; ההנחה היא הנחת יסוד של המכניקה הסטטיסטית, לא משפט נגזר. בלבול בין השניים מסתיר בדיוק את מה שמונח.
- C. להנחת היסוד אין שום תלות בטמפרטורה במודל של המודול הזה — אין מלכתחילה הפרשי אנרגיה בין שני המצבים. הטמפרטורה נכנסת למכניקה הסטטיסטית במקום אחר, לא כאן.
- D. שימור האנרגיה הוא טענה נפרדת (ובמודל של המודול הזה, כל המיקרו-מצבים חולקים את אותה אנרגיה מעצם הבנייה, כך ששימור אינו אומר דבר על איזה מהם תפוס). הסתברות שווה היא הנחה נוספת ובלתי תלויה.
מספר העצמים N במערכת דו-מצבית מוכפל פי ארבעה, כאשר כל השאר נשאר קבוע. מה קורה לרוחב היחסי של שיא ריבוי המצבים, sigma / (N/2)?
A. הוא נחצה, מכיוון שהרוחב היחסי מתנהג כמו N^(-1/2), והכפלת N פי ארבעה חוצה את 1/sqrt(N). B. הוא נעשה רבע, מכיוון ש-N מופיע בחזקה ראשונה בנוסחת ריבוי המצבים. C. הוא מוכפל, משום שיש יותר עצמים ולכן יותר דרכים לסטות מהחלוקה השווה. D. הוא אינו משתנה, משום שהחלוקה השווה n = N/2 תמיד שולטת ללא תלות ב-N.
בדקו את התשובה
התשובה הנכונה: A — הוא נחצה, מכיוון שהרוחב היחסי מתנהג כמו N^(-1/2), והכפלת N פי ארבעה חוצה את 1/sqrt(N).
- A. בדיוק. הרוחב היחסי הוא 1/sqrt(N) באופן מדויק, כך ש-N -> 4N הופך את 1/sqrt(N) ל-1/sqrt(4N) = (1/2) * 1/sqrt(N) — השיא נעשה חד פי שניים, באופן יחסי.
- B. הרוחב היחסי מתנהג כמו N^(-1/2), לא כמו N^(-1). הכפלת N פי ארבעה משנה את 1/sqrt(N) בגורם של 1/sqrt(4) = 1/2, לא 1/4.
- C. אכן יש יותר דרכים לסטות במונחים מוחלטים, אך יש עוד יותר דרכים לשבת בקרבת השיא, והיחס — וזה בדיוק מה ש"רוחב יחסי" מודד — יורד, לא עולה, ככל ש-N גדל.
- D. שליטת החלוקה השווה נכונה בכל N, אך “שליטה” נעשית קיצונית יותר ככל ש-N גדל — החידוד הזה הוא בדיוק מה שהרוחב היחסי המצטמצם מתאר. הרוחב אינו בלתי תלוי ב-N.
עבור מערכת דו-מצבית של N = 1,000,000 עצמים, השתמשו בחוק N^(-1/2) כדי להעריך את הרוחב היחסי של שיא ריבוי המצבים, sigma / (N/2). תנו את התשובה כשבר עשרוני.
בדקו את התשובה
התשובה הנכונה: 0.001 (± 0.0002)
sigma / (N/2) = N^(-1/2) = 1/1000 = 0.001, כלומר 0.1%. אותו חוק שנתן למול גז פלוקטואציית לחץ בלתי ניתנת לגילוי במודול 04 נותן לשיא ריבוי מצבים בסדר גודל של מול רוחב יחסי של כ-1.3e-12 — הסיבה לכך שמערכות מאקרוסקופיות לעולם אינן נודדות רחוק מהחלוקה השווה.
שני גבישים של אותו יסוד נראים זהים תחת מיקרוסקופ: אותו מבנה סריג, אותה צפיפות. האחד הוא איזוטופ יחיד. השני הוא תערובת אקראית של 50/50 בין שני איזוטופים של אותו יסוד, על אותו סריג. השוו את האנטרופיות שלהם.
A. לגביש המעורב יש אנטרופיה גבוהה בהרבה, משום שהאנטרופיה סופרת את מספר המיקרו-מצבים הנגישים, ויש דרכים רבות באופן אסטרונומי לסדר שני איזוטופים על פני אתרי הסריג — אף על פי ששום דבר במראה אינו משתנה. B. יש להם אנטרופיה שווה, מכיוון שאף אחד מהגבישים אינו נראה בלתי מסודר, והאנטרופיה היא מדד לאי-סדר נראה לעין. C. לגביש הטהור יש אנטרופיה גבוהה יותר, משום ששמירה על טוהר איזוטופי דורשת יותר סדר מבני. D. אי אפשר להשוות אנטרופיה בין שני הגבישים אלא אם אחד מהם מבולגן באופן נראה לעין יותר מהשני.
בדקו את התשובה
התשובה הנכונה: A — לגביש המעורב יש אנטרופיה גבוהה בהרבה, משום שהאנטרופיה סופרת את מספר המיקרו-מצבים הנגישים, ויש דרכים רבות באופן אסטרונומי לסדר שני איזוטופים על פני אתרי הסריג — אף על פי ששום דבר במראה אינו משתנה.
- A. נכון. ריבוי המצבים(1000, 500) הוא כ-2.7e299 עבור הגביש המעורב לעומת Omega=1 עבור הטהור, מה שנותן לגביש המעורב כ-690 k_B של אנטרופיה שלגביש הטהור פשוט אין. שום דבר באף אחד מהגבישים אינו נראה “בלתי מסודר” יותר — ההבדל טמון כולו במספר המיקרו-מצבים החולקים את המאקרו-מצב הנראה לעין.
- B. זוהי בדיוק האינטואיציה שהדוגמה הזו נועדה לשבור. האנטרופיה היא k_B ln Omega, ספירה של מיקרו-מצבים, לא מדד למידת הבלגן הנראית לעין. שני הגבישים נראים מסודרים באותה מידה ובעלי אנטרופיות שונות מאוד.
- C. זה הופך את ההשוואה על פיה, ובנוסף מייבא את מושג ה"סדר" כאילו הוא מכריע את השאלה. לגביש הטהור יש בדיוק מיקרו-מצב אחד (Omega = 1, S = 0); לגביש המעורב יש מספר עצום מהם.
- D. האנטרופיה מוגדרת היטב עבור שני המאקרו-מצבים ללא תלות במראה — היא מחושבת מריבוי המצבים של כל אחד מהם, לא מבדיקה חזותית. ההשוואה בשאלה הזו היא בדיוק מהסוג שנוסחת בולצמן נועדה לבצע.
שתי תת-מערכות בלתי תלויות, A ו-B, הן חלק ממערכת מבודדת גדולה אחת. במרוצת הזמן, האנטרופיה של תת-מערכת A יורדת בעוד זו של B עולה בכמות גדולה יותר, כך שהאנטרופיה המשולבת S_A + S_B עולה. האם זה עקבי עם החוק השני כפי שפותח במודול הזה?
A. כן — החוק השני כאן מגביל רק את האנטרופיה הכוללת של המערכת המשולבת המבודדת; הוא אינו מטיל שום דרישה על האנטרופיה של אף תת-מערכת בודדת. B. לא — האנטרופיה של כל תת-מערכת חייבת לעלות בנפרד, ולכן התרחיש הזה בלתי אפשרי מבחינה פיזיקלית. C. לא, אלא אם A ו-B מחליפות אנרגיה, ובמקרה כזה כל שינוי מותר. D. כן, אבל רק משום שהאנטרופיה הכוללת ירדה בסך הכול, מה שמפצה על כך.
בדקו את התשובה
התשובה הנכונה: A — כן — החוק השני כאן מגביל רק את האנטרופיה הכוללת של המערכת המשולבת המבודדת; הוא אינו מטיל שום דרישה על האנטרופיה של אף תת-מערכת בודדת.
- A. נכון. מכיוון ש-Omega_AB = Omega_A * Omega_B עבור תת-מערכות בלתי תלויות, האנטרופיות מצטרפות באופן מדויק: S_AB = S_A + S_B. שום דבר באדיטיביות הזו אינו מחייב שכל איבר ינוע באותו כיוון — רק הסכום שלהם מוגבל לעלות (בדרך כלל) עבור השלם המבודד.
- B. זו התפיסה השגויה שהדוגמה הזו נועדה להפריך. מקרה מחושב בסעיף המתקדם של המודול נותן מספרים קונקרטיים: האנטרופיה של תת-מערכת A יורדת בכ-0.17 k_B בעוד זו של B עולה בכ-133.8 k_B, והסך הכול עולה. שום דבר בגזירה אינו אוסר על האנטרופיה של תת-מערכת לרדת.
- C. ההיתר אינו תלוי בהחלפת אנרגיה באופן ספציפי — הוא נובע ישירות מאדיטיביות האנטרופיה על פני תת-מערכות בלתי תלויות, המתקיימת בכל פעם ש-Omega_AB = Omega_A * Omega_B, ללא תלות במה שמוחלף.
- D. ההנחה קובעת במפורש שהאנטרופיה המשולבת עולה, לא יורדת. העקביות כאן אינה דורשת שום ירידה מפצה במקום אחר — היא דורשת רק שסכום האנטרופיות של שתי תת-המערכות לא ירד.
לפני קריאת הגזירה: גודלה N של מערכת דו-מצבית גדל פי עשרה. נבאו מה קורה (א) לריבוי המצבים של החלוקה השווה, Omega(N, N/2), (ב) לרוחב היחסי של שיא ריבוי המצבים, ו-(ג) להסתברות של המאקרו-מצב הקיצוני המסודר לחלוטין, n = 0.
בדקו את התשובה
Omega(N, N/2) גדלה באופן עצום — הלוגריתם שלה גדל בקירוב באופן ליניארי ב-N (ln Omega ~ N ln 2), כך ש-Omega עצמה גדלה אקספוננציאלית עם N, הרבה יותר מהר מפי עשרה. הרוחב היחסי של השיא מצטמצם בגורם של sqrt(10) ~ 3.16, בהתאם לחוק N^(-1/2). ההסתברות של הקיצון המסודר לחלוטין, P(0) = 1/2^N, קורסת: הכפלת N פי עשרה מכפילה את המעריך פי עשרה, כך ש-P(0) מועלה בקירוב בחזקה העשירית של עצמה — מספר שכבר זעיר נעשה קטן מעבר לכל תפיסה. אם ניבאתם ששלושת הגדלים ישתנו בכמויות דומות, “בסביבות פי עשרה,” שימו לב עד כמה שונה בפועל התגובה של שלושת הגדלים האלה לאותו שינוי ב-N; ההבדל הזה הוא כל תוכן המודול הזה.
בשניים-שלושה משפטים, הסבירו מדוע גז מבודד לעולם אינו מתקבץ מעצמו בפינה אחת, באופן שלא ינבא גם (בטעות) שעשר מולקולות גז לעולם לא יכולות להימצא מקובצות באזור אחד במקרה.
בדקו את התשובה
תשובה טובה מזהה את המנגנון כספירה: למאקרו-מצב “מפוזר” יש באופן מכריע יותר מיקרו-מצבים נגישים מאשר ל"מקובץ", ומטילה את העבודה על גודלו של N, מכיוון שהשליטה היחסית של המאקרו-מצב המפוזר גדלה עם N ואינה מוחלטת. עבור עשר מולקולות, המאקרו-מצבים ה"מקובצים" אינם נדירים באופן זניח כלל — מערכות קטנות מפגינות תנודות נראות לעין לכיוון תצורות לא טיפוסיות. תשובות האומרות “זה אסור” או “זה פשוט מה שגזים עושים” בלי להתייחס ל-N אינן מבחינות בין שני המקרים וכדאי לדרוש מהן יותר.
ככל ש-N גדל, איך מתנהג הפער היחסי בין S(2N, N) לבין 2 S(N, N/2) — המבחן לשאלה האם אנטרופיית בולצמן אקסטנסיבית באופן מדויק?
A. הוא מצטמצם לעבר אפס ככל ש-N גדל, אך אינו אפס מדויק עבור שום N סופי. B. הוא אפס מדויק עבור כל N, מכיוון שהאנטרופיה אקסטנסיבית מעצם ההגדרה. C. הוא גדל ללא גבול ככל ש-N גדל, מכיוון שלמערכות גדולות יותר יש יותר דרכים לסטות. D. הוא תלוי רק בשאלה האם N זוגי או אי-זוגי, לא בגודלו של N.
בדקו את התשובה
התשובה הנכונה: A — הוא מצטמצם לעבר אפס ככל ש-N גדל, אך אינו אפס מדויק עבור שום N סופי.
- A. נכון. הפער נקבע על ידי האיבר המשני, הלוגריתמי, בקירוב סטירלינג, בקירוב (1/2) ln(pi N), מחולק באיבר המוביל האקסטנסיבי, N ln 2. היחס הזה יורד עם N אך לעולם אינו מגיע בדיוק לאפס עבור N סופי — אקסטנסיביות היא טענה על הגבול התרמודינמי, לא זהות.
- B. אקסטנסיביות אינה מובנית בתוך ההגדרה S = k_B ln Omega; זהו דבר שהקומבינטוריקה מספקת רק בקירוב, כאשר הקירוב משתפר ככל ש-N גדל. במדידה ישירה, הפער הוא כ-0.9% ב-N=200 וכ-0.002% ב-N=200,000 — קטן, אך לא אפס.
- C. ההפך הוא מה שנמדד: הפער מצטמצם ככל ש-N גדל, משום שהאיבר המוביל באנטרופיה (הפרופורציוני ל-N) גדל מהר יותר מהתיקון המשני (הפרופורציוני ל-ln N).
- D. הפער נקבע על ידי גודלו של N דרך איבר התיקון הלוגריתמי, לא על ידי זוגיות. הוא מצטמצם באופן שיטתי וצפוי ככל ש-N גדל.

שאלות ברמת בחינה עבור המודול — אלה שכדאי לפתור עם עט — מרוכזות בדף השאלות.

להסביר במילים שלכם¶

ענו על כל אחת בכמה משפטים.

סטודנט אומר: “גזים מתפשטים משום שהתפשטות היא הכיוון הטבעי של הזמן.” נסחו זאת מחדש כך שיהיה נכון באמת, ואמרו במדויק מה היה שגוי במקור.
שני גבישים נראים זהים לעין אך בעלי אנטרופיות שונות מאוד. הסבירו כיצד הדבר אפשרי בלי לסתור את הרעיון שהאנטרופיה מודדת “כמה מפוזרת” מערכת.
האנטרופיה של תת-מערכת יורדת בעוד האנטרופיה הכוללת של המערכת המבודדת שאליה היא שייכת עולה. האם זוהי הפרה של משהו שלמדתם במודול הזה? נמקו את תשובתכם באמצעות האדיטיביות של $\Omega$ עבור תת-מערכות בלתי תלויות.
הסבירו, בלי לכתוב משוואה, מדוע הכפלת מספר הטלות המטבע גורמת לשבר הנוחת בדיוק על $50\%$ עץ להצטמצם ביחס לתוצאות הקרובות, אף על פי שמספר הדרכים לנחות על $50\%$ עץ גדל באופן עצום.

מתקדם: מעבר לתמונה הפשוטה¶

האנטרופיה של תת-מערכת יכולה לרדת בעוד הסך הכול עולה. קחו בחשבון שתי אוכלוסיות דו-מצביות בלתי תלויות, $L$ ו- $R$ , כל אחת עם $N=300$ עצמים, כך שהאנטרופיה המשולבת שלהן אדיטיבית באופן מדויק: $S_{LR} = S_L + S_R$ . נניח ש- $L$ מתחילה בדיוק בשיא שלה, $n_L=150$ ( $\ln\Omega_L \approx 204.87$ ), בעוד $R$ מתחילה הרחק משיאה, ב- $n_R=280$ ( $\ln\Omega_R \approx 71.09$ ). כעת תנו לצימוד ביניהן להזיז מעט את $L$ הרחק משיאה, ל- $n_L=145$ ( $\ln\Omega_L \approx 204.70$ , ירידה של כ- $0.17\,k_B$ ), בעוד $R$ נרגעת עד לשיא שלה עצמה, $n_R=150$ ( $\ln\Omega_R \approx 204.87$ , עלייה של כ- $133.77\,k_B$ ). האנטרופיה של תת-מערכת $L$ ירדה ממש. הסך הכול, $\Delta S_{LR}/k_B \approx -0.17 + 133.77 \approx 133.6$ , עלה ממש. שני המשפטים הם תוצאות מדויקות של אותה קומבינטוריקה המשמשת לאורך המודול הזה. החוק השני, כפי שהמודול הזה גזר אותו, מגביל את האנטרופיה של מערכת מבודדת שלמה; הוא אינו מטיל דרישה כזו על שום חלק של אותה מערכת הנשקל בפני עצמו.

קראו את הדוגמה הזו כפי שהיא: הדגמה אריתמטית לכך ששני המשפטים עולים בקנה אחד, ולא תיאור דינמי של הסיבה שבגללה $L$ תזוז. במודל הדו-מצבי הזה, שאין בו אנרגיה, שום דבר אינו מצמד את $L$ ל- $R$ , ולכן ההזזה של $L$ היא הנחה ולא תוצאה. מנגנון דורש גודל נשמר שתת-המערכות אכן מחליפות ביניהן — אנרגיה במודול 11, חלקיקים במודול 13 — ואז כיוון ההחלפה נקבע מן הדרישה שריבוי המצבים הכולל יגדל. האריתמטיקה שלמעלה היא מה שמותיר מקום למקרר: אנטרופיה של תת-מערכת רשאית לרדת, ובלבד שמשהו אחר משלם יותר מן ההפרש.

הטור המלא של סטירלינג. הקירוב בעל שלושת האיברים ששימש לעיל הוא תחילתו של טור אסימפטוטי:

\ln N! = N\ln N - N + \tfrac12\ln(2\pi N) + \tfrac{1}{12N} - \tfrac{1}{360N^3} + \cdots

(8)

הטור אינו מתכנס כש- $N\to\infty$ עבור מספר קבוע של איברים — זהו פיתוח אסימפטוטי, שימושי משום שקיטועו אחרי כמה איברים נותן שגיאה קטנה מהאיבר הראשון שהושמט, וזה בדיוק הגבול שאותו משקף הערך $1/(12N)$ שהוזכר לעיל.

הפרדוקס של לושמידט וחזרתו של פואנקרה. אם הדינמיקה המיקרוסקופית הפיכה בזמן באופן מדויק, נובעת ממנה התנגדות עקרונית: לכל מסלול המתפשט יש תאום הפוך-בזמן המתקבץ בחזרה, אז כיצד יכולה ההתפשטות להיות טיפוסית? הפתרון כמותי לחלוטין, והמודול הזה כבר חישב את המספר הרלוונטי: ב- $N=10{,}000$ , מצב הרחוק רק $10\%$ מהחלוקה השווה מוחלש בגורם של 10^-88 ביחס לשיא. לגז מאקרוסקופי יש $N \sim 10^{23}$ , שם גורם ההחלשה המקביל קטן עוד יותר, מעבר לכל תפיסה. משפט החזרה של פואנקרה מבטיח שמערכת מבודדת, חסומה ומשמרת אנרגיה אכן חוזרת בסופו של דבר קרוב באופן שרירותי לכל מצב קודם, כולל מצב של “התקבצות בפינה אחת” — אך עבור $N$ מאקרוסקופי, זמן ההמתנה הצפוי עולה בהרבה סדרי גודל על גיל היקום. ההפיכות של הדינמיקה הבסיסית והאי-הפיכות המעשית של העולם המאקרוסקופי שתיהן נכונות בו-זמנית; המספרים שלמעלה הם אלה המיישבים ביניהן.

הפרדוקס של גיבס, בקצרה. דוגמת ערבוב האיזוטופים שלמעלה הסתמכה על כך ששני האיזוטופים הם מינים ניתנים להבחנה באמת — אנטרופיית הערבוב שנספרה לעיל אמיתית וניתנת למדידה. לעומת זאת, ערבוב שני מדגמים של אותו החומר ממש אינו מייצר שום עלייה בריבוי המצבים, משום שהחלפה בין שני חלקיקים זהים אינה יוצרת מיקרו-מצב חדש. התייחסות לחלקיקים זהים כאילו היו ניתנים להבחנה היא בדיוק הטעות שהולידה היסטורית את הפרדוקס; התיקון הוא לחלק את הספירה הנאיבית באי-ההבחנה של החלקיקים, תיקון שהמודל של המודול הזה עוקף על ידי שמירה על $N$ העצמים שלו ניתנים להבחנה במפורש (חלקיקים לפי קופסה, מטבעות לפי הטלה) לאורך כל הדרך.