מפתח תשובות · יחידה 6

מידע וקודים.

שאלות התרגול של כל שיעור, התשובות הנכונות שלהן והטעויות שהן מזהות. תשובות שנקראות מהסצנה משתמשות באותה הגדרה שהלומדים רואים.

קטלוג הטעויות הנפוצות

מפתח תשובות 5

שיעור 1 מתוך 5 · כ־20 דקות

הפתעה שנמדדת בסיביות

מה המילה מידע אומרת במדעי המחשב: כמה ספק הודעה מסירה, למה הטלה של מטבע הוגן נושאת סיבית אחת, ולמה תוצאה נדירה מפתיעה יותר.

לפתוח את השיעור

5 השלבים והתשובות שלהם

שלב 1 מתוך 5
לפתוח את השלב
מה זה מידע
תרגול · בחרו
השאלה
שתי הודעות מגיעות אליכם. בראשונה כתוב „השמש זרחה הבוקר”. בשנייה כתובה התוצאה של הטלת מטבע הוגן. איזו מהן נושאת יותר מידע, במובן של שאנון?

התשובה הנכונה
- נכונה התוצאה של הטלת המטבע
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
50 %
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
מטבעות
האפשרויות
מוצגות בסדר אקראי.
- נכונה התוצאה של הטלת המטבע
- שגויה ההודעה על השמש, כי היא על משהו חשוב יותר
  טעות נפוצה: Takes information to be how important or meaningful a message is, not how much uncertainty it removes.
  משוב מהקטלוג
  במדעי המחשב מידע לא מודד חשיבות או משמעות. הוא מודד כמה ספק ההודעה מסירה: כמה לא ידעתם לפני שהגיעה. הודעה שידעתם מראש, חשובה ככל שתהיה, נושאת $0$ ⁠ סיביות. תוצאה של הטלת מטבע הוגן, שאין לה שום חשיבות, נושאת סיבית אחת שלמה, כי לא יכולתם לנחש אותה.
- שגויה שתיהן אותו דבר: כל הודעה היא הודעה אחת
  משוב
  מידע לא נמדד במספר ההודעות אלא בכמה ספק כל הודעה מסירה. את ההודעה על השמש יכולתם לכתוב בעצמכם עוד לפני שהגיעה.
משוב לתשובה נכונה
את זה שהשמש זרחה ידעתם לפני שקראתם, ולכן ההודעה לא מסירה שום ספק: $0$ ⁠ סיביות. את תוצאת המטבע לא יכולתם לנחש, וההודעה מסירה ספק של סיבית אחת שלמה.

רמז
לפני שההודעה הגיעה, עד כמה הייתם בטוחים במה שכתוב בה?

פתרון מלא
1. מידע מודד כמה ספק ההודעה מסירה, לא כמה היא חשובה.
2. שהשמש זרחה היה ודאי מראש: ההסתברות $1$ ⁠, וההפתעה $0$ ⁠ סיביות.
3. את תוצאת מטבע הוגן אי אפשר לנחש: לכל צד הסתברות $\tfrac12$ ⁠, וההודעה נושאת סיבית אחת.
4. לכן הודעת המטבע נושאת יותר מידע.
אם בחרתם בשמש, מדדתם חשיבות. מבחינת שאנון, הודעה שידעתם מראש לא מספרת לכם דבר, חשובה ככל שתהיה.
שלב 2 מתוך 5
לפתוח את השלב
סיבית אחת
תרגול · חשבו
השאלה
המטבע הוגן: הסיכוי לעץ קבוע על 50%. ההפתעה של תוצאה בהסתברות $p$ ⁠ היא $-\log_2 p$ ⁠ סיביות. כמה סיביות של הפתעה נושא עץ?

התשובה הנכונה
1 ± 0.01
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
50 %קבוע
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
מטבעותקבוע
מתקבלת בטווח
± 0.01
מחושבת מהסצנה בהגדרה של השלב
Surprise of a heads, −log₂ p, in bits (infinite when heads cannot happen)/nodes/stream/outputs/surpriseHeads
תשובות שגויות שהשאלה מזהה
- 0.5 ± 0.01
  טעות נפוצה: Gives the probability itself as the surprise or the entropy, instead of −log₂ p.
  משוב מהקטלוג
  ההסתברות היא לא ההפתעה. ההפתעה של תוצאה בהסתברות $p$ ⁠ היא $-\log_2 p = \log_2 \tfrac{1}{p}$ ⁠ סיביות: כמה פעמים צריך לחצות את הסיכוי מ־ $1$ ⁠ כדי להגיע אליו. לתוצאה בהסתברות $\tfrac12$ ⁠ יש סיבית אחת, ולא $0.5$ ⁠; לתוצאה בהסתברות $\tfrac14$ ⁠ יש שתי סיביות, ולא $0.25$ ⁠. ההסתברות היא מספר בין $0$ ⁠ ל־ $1$ ⁠, וההפתעה גדלה ככל שההסתברות קטנה.
משוב לתשובה נכונה
$-\log_2 \tfrac12 = \log_2 2 = 1$ ⁠: סיבית אחת בדיוק, תשובה אחת לשאלת כן או לא. זו גם הסיבה שהסרט מקדיש לכל הטלה סיבית אחת.

רמז
$-\log_2 \tfrac12 = \log_2 2$ ⁠: בכמה צריך להעלות את $2$ ⁠ כדי לקבל $2$ ⁠?

פתרון מלא
1. ההסתברות לעץ: $p = \tfrac12$ ⁠.
2. ההפתעה: $-\log_2 p = \log_2 \tfrac{1}{p}$ ⁠.
3. הצבה: $\log_2 2 = 1$ ⁠, כי $2^1 = 2$ ⁠.
4. עץ נושא סיבית אחת.
אם עניתם $0.5$ ⁠, נתתם את ההסתברות עצמה. ההפתעה היא הלוגריתם של אחד חלקי ההסתברות.
שלב 3 מתוך 5
לפתוח את השלב
מטבע מוטה
תרגול · נבאו, ואז הסתכלו
השאלה
עכשיו המטבע מוטה: הוא נופל על עץ ב־90% מההטלות. איזה צד נושא יותר הפתעה? בחרו, ואחר כך הסצנה תעביר את מדידה ודחיסה לאנטרופיה ותראה את ההפתעה של כל צד.

התשובה הנכונה
- נכונה פלי, התוצאה הנדירה
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %קבוע
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
מטבעותקבוע
האפשרויות
- נכונה פלי, התוצאה הנדירה
- שגויה עץ, כי הוא מופיע הרבה יותר
  טעות נפוצה: Thinks the likely outcome carries more information, because it turns up more often.
  משוב מהקטלוג
  ההפתעה של תוצאה תלויה בכמה היא לא צפויה: $-\log_2 p$ ⁠. ככל שההסתברות קטנה, ההפתעה גדולה. כשמטבע נופל על עץ ב־90% מההטלות, עץ נושא רק $0.15$ ⁠ סיביות, כי ניחשתם אותו מראש. הפלי הנדיר נושא $3.32$ ⁠ סיביות. נכון שעץ מופיע יותר פעמים, אבל כל הופעה שלו מספרת מעט.
- שגויה שניהם אותו דבר, כי כל הטלה נרשמת כסיבית אחת
  משוב
  הסרט אכן מקדיש לכל הטלה סיבית אחת, אבל זה אורך הרישום, לא כמות המידע. עץ שניחשתם מראש מספר לכם פחות מפלי שלא ציפיתם לו.
אחרי נעילת הניבוי הסצנה משתנה
מדידה ודחיסה
אנטרופיהקבוע
ואז הסצנה מראה: 3.322 · Surprise of a tails, −log₂ (1 − p), in bits (infinite when tails cannot happen)/nodes/stream/outputs/surpriseTails
ניבוי אף פעם לא נחשב כישלון: בכל מקרה הלומדים רואים את התוצאה ואת ההסבר.
משוב לתשובה נכונה
פלי נושא $-\log_2 0.1 \approx 3.32$ ⁠ סיביות, ועץ רק $-\log_2 0.9 \approx 0.15$ ⁠. כשהמטבע נופל על עץ כמעט תמיד, עץ הוא חדשות קטנות ופלי הוא חדשות גדולות.

רמז
איזה צד הייתם מנחשים לפני ההטלה? ההפתעה היא מה שלא ניחשתם.

פתרון מלא
1. הסיכוי לעץ $0.9$ ⁠, ולפלי $0.1$ ⁠.
2. ההפתעה של עץ: $-\log_2 0.9 \approx 0.15$ ⁠ סיביות.
3. ההפתעה של פלי: $-\log_2 0.1 = \log_2 10 \approx 3.32$ ⁠ סיביות.
4. לפלי, התוצאה הנדירה, יש הפתעה גדולה בהרבה.
אם בחרתם בעץ, ספרתם כמה פעמים כל צד מופיע. ההפתעה של תוצאה אחת תלויה בכמה היא לא צפויה.
שלב 4 מתוך 5
לפתוח את השלב
כל חצייה היא סיבית
תרגול · חשבו
השאלה
הסיכוי לעץ קבוע עכשיו על 25%. כמה סיביות של הפתעה נושא עץ?

התשובה הנכונה
2 ± 0.01
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
25 %קבוע
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
מטבעותקבוע
מתקבלת בטווח
± 0.01
מחושבת מהסצנה בהגדרה של השלב
Surprise of a heads, −log₂ p, in bits (infinite when heads cannot happen)/nodes/stream/outputs/surpriseHeads
תשובות שגויות שהשאלה מזהה
- 0.25 ± 0.01
  טעות נפוצה: Gives the probability itself as the surprise or the entropy, instead of −log₂ p.
  משוב מהקטלוג
  ההסתברות היא לא ההפתעה. ההפתעה של תוצאה בהסתברות $p$ ⁠ היא $-\log_2 p = \log_2 \tfrac{1}{p}$ ⁠ סיביות: כמה פעמים צריך לחצות את הסיכוי מ־ $1$ ⁠ כדי להגיע אליו. לתוצאה בהסתברות $\tfrac12$ ⁠ יש סיבית אחת, ולא $0.5$ ⁠; לתוצאה בהסתברות $\tfrac14$ ⁠ יש שתי סיביות, ולא $0.25$ ⁠. ההסתברות היא מספר בין $0$ ⁠ ל־ $1$ ⁠, וההפתעה גדלה ככל שההסתברות קטנה.
- 4 ± 0.01
  טעות נפוצה: Gives the number of equally likely outcomes, 1/p, instead of the bits it takes to tell them apart, log₂ (1/p).
  משוב מהקטלוג
  $\tfrac{1}{p}$ ⁠ הוא מספר התוצאות השוות: לתוצאה בהסתברות $\tfrac14$ ⁠ יש ארבע אפשרויות שוות. כדי להבחין בין ארבע אפשרויות מספיקות שתי סיביות, $00$ ⁠, $01$ ⁠, $10$ ⁠ ו־ $11$ ⁠, כי כל סיבית מכפילה את מספר האפשרויות. לכן ההפתעה היא הלוגריתם: $\log_2 4 = 2$ ⁠, ולא $4$ ⁠. שמונה אפשרויות דורשות שלוש סיביות, ואלף בערך עשר.
משוב לתשובה נכונה
$-\log_2 \tfrac14 = \log_2 4 = 2$ ⁠ סיביות. כל חצייה של הסיכוי מוסיפה סיבית אחת: $\tfrac12$ ⁠ נושא סיבית, $\tfrac14$ ⁠ שתיים, $\tfrac18$ ⁠ שלוש.

רמז
כמה פעמים צריך לחצות את $1$ ⁠ כדי להגיע ל־ $\tfrac14$ ⁠?

פתרון מלא
1. $p = 0.25 = \tfrac14$ ⁠.
2. ההפתעה: $-\log_2 \tfrac14 = \log_2 4$ ⁠.
3. $2^2 = 4$ ⁠, ולכן $\log_2 4 = 2$ ⁠.
4. עץ נושא $2$ ⁠ סיביות.
אם עניתם $4$ ⁠, חישבתם $\tfrac{1}{p}$ ⁠ בלי הלוגריתם: זה מספר האפשרויות השוות, לא מספר הסיביות שצריך כדי להבחין ביניהן. אם עניתם $0.25$ ⁠, נתתם את ההסתברות.
שלב 5 מתוך 5
לפתוח את השלב
חדשות נדירות
תרגול · הגיעו למטרה
השאלה
פלי במטבע של 90% נושא $\log_2 10 \approx 3.32$ ⁠ סיביות. שנו את הסיכוי לעץ עד שעץ נושא בדיוק אותה הפתעה, ולחצו על בדיקה.

המטרה
- 3.32 ± 0.01
  בתחילת השלב: 1
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
50 %
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
אנטרופיהקבוע
נקרא מהסצנה בנקודה
Surprise of a heads, −log₂ p, in bits (infinite when heads cannot happen)/nodes/stream/outputs/surpriseHeads
הגדרה אחת שמגיעה למטרה
הסיכוי לעץ
10 %
משוב לתשובה נכונה
ב־10%: עכשיו עץ הוא התוצאה הנדירה, אחת מעשר, ו־ $-\log_2 0.1 \approx 3.32$ ⁠. ההפתעה לא תלויה בשם של הצד, רק בהסתברות שלו.

משוב לתשובה שגויה
עוד לא. חפשו את הסיכוי שבו עץ יוצא פעם אחת מכל עשר הטלות.

רמז
ההפתעה תלויה רק בהסתברות של התוצאה. באיזה סיכוי לעץ יש לעץ הסתברות של $0.1$ ⁠?

פתרון מלא
1. רוצים $-\log_2 p \approx 3.32 = \log_2 10$ ⁠.
2. לכן $\tfrac{1}{p} = 10$ ⁠, כלומר $p = 0.1$ ⁠.
3. קבעו את הסיכוי לעץ על 10%.
אם הלכתם לכיוון 90%, הגדלתם את הסיכוי לעץ, ואז עץ נעשה צפוי יותר ומפתיע פחות.

שיעור 2 מתוך 5 · כ־20 דקות

אנטרופיה

ההפתעה הממוצעת של מקור: איך מחשבים אותה, למה היא מגיעה לשיא במטבע הוגן ויורדת לאפס כשהתוצאה ודאית, ולמה רעש אקראי מלא מידע.

לפתוח את השיעור

5 השלבים והתשובות שלהם

שלב 1 מתוך 5
לפתוח את השלב
ההפתעה הממוצעת
תרגול · חשבו
השאלה
הסיכוי לעץ קבוע על 90%. עץ נושא $0.15$ ⁠ סיביות של הפתעה, ופלי $3.32$ ⁠. מה האנטרופיה של המטבע, ההפתעה הממוצעת להטלה, בסיביות?

התשובה הנכונה
0.469 ± 0.01
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %קבוע
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
מטבעותקבוע
מתקבלת בטווח
± 0.01
מחושבת מהסצנה בהגדרה של השלב
Shannon entropy of one flip, H(p), in bits: the average surprise and the least any code can spend per flip/nodes/stream/outputs/entropy
תשובות שגויות שהשאלה מזהה
- 1.74 ± 0.02
  טעות נפוצה: Averages the surprises (or codeword lengths) as if every outcome were equally likely, without weighting each by its probability.
  משוב מהקטלוג
  אנטרופיה, וגם עלות ממוצעת של קוד, הן ממוצע משוקלל: כל ערך נספר לפי ההסתברות שלו. במטבע של 90%, עץ מופיע בתשע מתוך עשר הטלות ופלי באחת, ולכן $H = 0.9 \times 0.15 + 0.1 \times 3.32 \approx 0.47$ ⁠, ולא $\tfrac{0.15 + 3.32}{2} \approx 1.74$ ⁠. ממוצע רגיל מתייחס לפלי הנדיר כאילו הוא מופיע בחצי מההטלות.
- 0.9 ± 0.01
  טעות נפוצה: Gives the probability itself as the surprise or the entropy, instead of −log₂ p.
  משוב מהקטלוג
  ההסתברות היא לא ההפתעה. ההפתעה של תוצאה בהסתברות $p$ ⁠ היא $-\log_2 p = \log_2 \tfrac{1}{p}$ ⁠ סיביות: כמה פעמים צריך לחצות את הסיכוי מ־ $1$ ⁠ כדי להגיע אליו. לתוצאה בהסתברות $\tfrac12$ ⁠ יש סיבית אחת, ולא $0.5$ ⁠; לתוצאה בהסתברות $\tfrac14$ ⁠ יש שתי סיביות, ולא $0.25$ ⁠. ההסתברות היא מספר בין $0$ ⁠ ל־ $1$ ⁠, וההפתעה גדלה ככל שההסתברות קטנה.
משוב לתשובה נכונה
$H = 0.9 \times 0.15 + 0.1 \times 3.32 \approx 0.47$ ⁠ סיביות להטלה. ברוב ההטלות מגיעה הפתעה קטנה, ורק באחת מעשר הפתעה גדולה, ולכן הממוצע נמוך מחצי סיבית.

רמז
ממוצע משוקלל: כפלו כל הפתעה בסיכוי שלה, וחברו.

פתרון מלא
1. עץ: הסתברות $0.9$ ⁠, הפתעה $0.152$ ⁠. פלי: הסתברות $0.1$ ⁠, הפתעה $3.32$ ⁠.
2. אנטרופיה היא ממוצע משוקלל של ההפתעות: $H = p \cdot (-\log_2 p) + (1-p) \cdot (-\log_2 (1-p))$ ⁠.
3. הצבה: $H = 0.9 \times 0.152 + 0.1 \times 3.32 \approx 0.137 + 0.332 = 0.469$ ⁠.
4. האנטרופיה: כ־ $0.47$ ⁠ סיביות להטלה.
אם יצא לכם $1.74$ ⁠, חישבתם ממוצע רגיל, $\tfrac{0.15 + 3.32}{2}$ ⁠, כאילו פלי מופיע בחצי מההטלות. אבל הוא מופיע רק בעשירית מהן.
שלב 2 מתוך 5
לפתוח את השלב
העקומה
תרגול · נבאו, ואז הסתכלו
השאלה
הסמן על העקומה מראה $0.47$ ⁠ סיביות למטבע של 90% עץ. עכשיו הופכים את ההטיה: המטבע ייפול על עץ רק ב־10% מההטלות, ועל פלי ב־90%. מה תהיה האנטרופיה שלו?

התשובה הנכונה
- נכונה אותה אנטרופיה, $0.47$ ⁠ סיביות
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %קבוע
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
אנטרופיהקבוע
האפשרויות
- נכונה אותה אנטרופיה, $0.47$ ⁠ סיביות
- שגויה נמוכה יותר, כי עכשיו עץ, התוצאה שנרשמת כ־1, נדיר
  משוב
  הסרט כותב $1$ ⁠ לעץ ו־ $0$ ⁠ לפלי, אבל זו רק מוסכמה. האנטרופיה תלויה בהסתברויות, לא בשמות או בספרות של הצדדים.
- שגויה גבוהה יותר, כי עכשיו התוצאה הנדירה היא עץ
  משוב
  עדיין יש תוצאה אחת נפוצה, $0.9$ ⁠, ותוצאה אחת נדירה, $0.1$ ⁠. רק השמות התחלפו.
אחרי נעילת הניבוי הסצנה משתנה
הסיכוי לעץ
10 %קבוע
מדידה ודחיסה
אנטרופיהקבוע
ואז הסצנה מראה: 0.469 · Shannon entropy of one flip, H(p), in bits: the average surprise and the least any code can spend per flip/nodes/stream/outputs/entropy
ניבוי אף פעם לא נחשב כישלון: בכל מקרה הלומדים רואים את התוצאה ואת ההסבר.
משוב לתשובה נכונה
אותה אנטרופיה, $0.47$ ⁠ סיביות. הנוסחה לא משתנה כשמחליפים בין $p$ ⁠ ל־ $1-p$ ⁠, ולכן העקומה סימטרית סביב 50%: מטבע שמוטה לפלי צפוי בדיוק כמו מטבע שמוטה באותה מידה לעץ.

רמז
כתבו את שתי ההסתברויות ואת שתי ההפתעות של המטבע החדש. מה השתנה?

פתרון מלא
1. במטבע של 10% לעץ, עץ נושא $3.32$ ⁠ סיביות ופלי $0.15$ ⁠: אותן שתי הפתעות, בתפקידים הפוכים.
2. גם המשקלות מתחלפים: $H = 0.1 \times 3.32 + 0.9 \times 0.15 \approx 0.47$ ⁠.
3. האנטרופיה זהה לזו של מטבע של 90%.
מה שקובע את האנטרופיה הוא עד כמה קל לנחש את ההטלה, לא לאיזה צד המטבע נוטה.
שלב 3 מתוך 5
לפתוח את השלב
מטבע ודאי
תרגול · נבאו, ואז הסתכלו
השאלה
מה תהיה האנטרופיה כשהמטבע ייפול תמיד על עץ? כתבו מספר בסיביות להטלה, ואחר כך הסיכוי לעץ יעבור ל־100%.

התשובה הנכונה
0 ± 0.01
ניבוי מספרי נחשב נכון בטווח ± 0.01
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %קבוע
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
אנטרופיהקבוע
אחרי נעילת הניבוי הסצנה משתנה
הסיכוי לעץ
100 %קבוע
מדידה ודחיסה
אנטרופיהקבוע
ואז הסצנה מראה: 0 · Shannon entropy of one flip, H(p), in bits: the average surprise and the least any code can spend per flip/nodes/stream/outputs/entropy
ניבוי אף פעם לא נחשב כישלון: בכל מקרה הלומדים רואים את התוצאה ואת ההסבר.
משוב לתשובה נכונה
אפס. כשהתוצאה ודאית אין שום ספק להסיר: עץ נושא $-\log_2 1 = 0$ ⁠ סיביות, ופלי לא קורה לעולם. מטבע כזה לא מספר לכם כלום, גם אחרי מאה הטלות.

משוב לתשובה שגויה
הסרט אכן מדפיס סיבית לכל הטלה, אבל את כל הסרט אפשר היה לכתוב מראש, בלי להסתכל על המטבע. כמה הפתעה יש בזה?

רמז
אם הייתם יודעים את כל הסרט עוד לפני ההטלה הראשונה, כמה הוא היה מספר לכם?

פתרון מלא
1. $p = 1$ ⁠: עץ בכל הטלה.
2. ההפתעה של עץ: $-\log_2 1 = 0$ ⁠, כי $2^0 = 1$ ⁠.
3. פלי לא קורה לעולם, ולכן התרומה שלו לממוצע היא $0$ ⁠.
4. $H = 1 \times 0 + 0 = 0$ ⁠ סיביות להטלה.
אם כתבתם $1$ ⁠, חשבתם שכל הטלה נושאת סיבית כי הסרט מדפיס סיבית לכל הטלה. זה אורך הרישום, לא המידע.
שלב 4 מתוך 5
לפתוח את השלב
באמצע הדרך
תרגול · הגיעו למטרה
השאלה
שנו את הסיכוי לעץ עד שהאנטרופיה של המטבע היא $0.81$ ⁠ סיביות להטלה, ולחצו על בדיקה.

המטרה
- 0.811 ± 0.005
  בתחילת השלב: 1
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
50 %
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
אנטרופיהקבוע
נקרא מהסצנה בנקודה
Shannon entropy of one flip, H(p), in bits: the average surprise and the least any code can spend per flip/nodes/stream/outputs/entropy
הגדרה אחת שמגיעה למטרה
הסיכוי לעץ
25 %
משוב לתשובה נכונה
ב־75% (או ב־25%): $0.75 \times 0.415 + 0.25 \times 2 \approx 0.81$ ⁠. מטבע שנופל על עץ בשלוש מתוך ארבע הטלות עדיין מפתיע למדי: ארבע חמישיות סיבית להטלה.

משוב לתשובה שגויה
עוד לא. הזיזו את הסמן לאורך העקומה עד שהגובה שלו $0.81$ ⁠.

רמז
האנטרופיה יורדת ככל שמתרחקים מ־50%. נסו מטבע שנופל על עץ בשלוש מתוך ארבע הטלות.

פתרון מלא
1. רוצים $H(p) \approx 0.81$ ⁠.
2. נסו $p = 0.75$ ⁠: עץ נושא $-\log_2 0.75 \approx 0.415$ ⁠, ופלי $-\log_2 0.25 = 2$ ⁠.
3. $H = 0.75 \times 0.415 + 0.25 \times 2 \approx 0.311 + 0.5 = 0.811$ ⁠.
4. קבעו את הסיכוי לעץ על 75%. גם 25% מתאים, כי העקומה סימטרית.
שלב 5 מתוך 5
לפתוח את השלב
רעש אקראי מלא מידע
תרגול · בחרו
השאלה
שני סרטים של סיביות, באותו אורך. סרט א נראה אקראי לגמרי: אפסים ואחדות בערך באותה כמות, בלי שום דפוס. סרט ב כמעט כולו אחדות. באיזה סרט האנטרופיה לסיבית גבוהה יותר?

התשובה הנכונה
- נכונה סרט א, האקראי
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
50 %
גודל גוש הקוד
4 הטלותברירת מחדלמוסתר
מדידה ודחיסה
אנטרופיה
האפשרויות
מוצגות בסדר אקראי.
- נכונה סרט א, האקראי
- שגויה סרט ב, כי בסרט אקראי אין שום מסר
  טעות נפוצה: Thinks a random-looking stream with no pattern carries little information, because it means nothing.
  משוב מהקטלוג
  ההפך הוא הנכון. מידע במובן של שאנון הוא אי־ודאות, ורצף אקראי בלי דפוס הוא הדבר הכי פחות צפוי שיש: אי אפשר לנחש בו את הסיבית הבאה, ולכן כל סיבית מפתיעה. האנטרופיה שלו קרובה לסיבית אחת לכל סיבית, המקסימום. רצף שכמעט כולו אחדות קל לנחש, והאנטרופיה שלו קרובה לאפס. לכן גם קובץ דחוס או מוצפן נראה כמו רעש: כל הצפוי כבר הוצא ממנו.
- שגויה שניהם אותו דבר, כי שניהם באותו אורך
  משוב
  אורך הסרט אומר כמה סיביות כתובות בו, לא כמה מידע הן נושאות. את סרט ב אפשר לנחש כמעט כולו בלי לקרוא אותו.
משוב לתשובה נכונה
סרט א. כשאי אפשר לנחש את הסיבית הבאה, כל סיבית מפתיעה, וזו בדיוק אנטרופיה גבוהה: קרוב לסיבית אחת לכל סיבית. בסרט ב הניחוש „אחת” כמעט תמיד צודק, ולכן כל סיבית מספרת מעט.

רמז
באיזה סרט קשה יותר לנחש את הסיבית הבאה?

פתרון מלא
1. אנטרופיה מודדת כמה קשה לנחש את הסמל הבא.
2. בסרט א כל סיבית היא כמו הטלה של מטבע הוגן: האנטרופיה קרובה ל־ $1$ ⁠ סיבית לסיבית.
3. בסרט ב הניחוש „אחת” כמעט תמיד צודק: האנטרופיה קרובה ל־ $0$ ⁠.
4. לכן בסרט א האנטרופיה גבוהה יותר.
אם בחרתם בסרט ב, חשבתם שסרט אקראי לא נושא מידע כי אין בו משמעות. מידע במובן של שאנון הוא אי־ודאות, ורעש אקראי הוא הדבר הכי פחות צפוי שיש.

שיעור 3 מתוך 5 · כ־25 דקות

דחיסה

איך קוד האפמן מקצר נתונים צפויים: מילים קצרות לגושים נפוצים, למה מטבע הוגן לא נדחס, ולמה שום קוד לא יורד מתחת לאנטרופיה.

לפתוח את השיעור

5 השלבים והתשובות שלהם

שלב 1 מתוך 5
לפתוח את השלב
מילים קצרות למה שנפוץ
תרגול · חשבו
השאלה
הסיכוי לעץ 90% וגודל גוש הקוד שתי הטלות. קוד האפמן נותן לכל זוג מילת קוד: עץ־עץ 0, עץ־פלי 10, פלי־פלי 110, פלי־עץ 111. ההסתברויות של הזוגות הן $0.81$ ⁠, $0.09$ ⁠, $0.01$ ⁠ ו־ $0.09$ ⁠, באותו סדר. כמה סיביות עולה זוג, בממוצע?

התשובה הנכונה
1.29 ± 0.01
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %קבוע
גודל גוש הקוד
2 הטלותקבוע
מדידה ודחיסה
דחוסקבוע
מתקבלת בטווח
± 0.01
מחושבת מהסצנה בהגדרה של השלב
Average codeword length, in bits, for one block of blockSize flips/nodes/stream/outputs/bitsPerBlock
תשובות שגויות שהשאלה מזהה
- 2.25 ± 0.01
  טעות נפוצה: Averages the surprises (or codeword lengths) as if every outcome were equally likely, without weighting each by its probability.
  משוב מהקטלוג
  אנטרופיה, וגם עלות ממוצעת של קוד, הן ממוצע משוקלל: כל ערך נספר לפי ההסתברות שלו. במטבע של 90%, עץ מופיע בתשע מתוך עשר הטלות ופלי באחת, ולכן $H = 0.9 \times 0.15 + 0.1 \times 3.32 \approx 0.47$ ⁠, ולא $\tfrac{0.15 + 3.32}{2} \approx 1.74$ ⁠. ממוצע רגיל מתייחס לפלי הנדיר כאילו הוא מופיע בחצי מההטלות.
משוב לתשובה נכונה
$0.81 \times 1 + 0.09 \times 2 + 0.01 \times 3 + 0.09 \times 3 = 1.29$ ⁠ סיביות לזוג, במקום $2$ ⁠ בסרט העליון. זה $0.645$ ⁠ סיביות להטלה: הקוד חוסך יותר משליש.

רמז
כפלו את האורך של כל מילת קוד בהסתברות של הזוג שלה, וחברו.

פתרון מלא
1. אורכי מילות הקוד: $1$ ⁠, $2$ ⁠, $3$ ⁠ ו־ $3$ ⁠ סיביות.
2. ההסתברויות של הזוגות: $0.81$ ⁠, $0.09$ ⁠, $0.01$ ⁠ ו־ $0.09$ ⁠.
3. ממוצע משוקלל: $0.81 \times 1 + 0.09 \times 2 + 0.01 \times 3 + 0.09 \times 3 = 0.81 + 0.18 + 0.03 + 0.27 = 1.29$ ⁠.
4. זוג עולה בממוצע $1.29$ ⁠ סיביות.
אם יצא לכם $2.25$ ⁠, חישבתם ממוצע רגיל של האורכים, $\tfrac{1 + 2 + 3 + 3}{4}$ ⁠. אבל הזוג עץ־עץ, עם המילה הקצרה ביותר, מופיע ב־81% מהפעמים, וזה כל הסוד של הדחיסה.
שלב 2 מתוך 5
לפתוח את השלב
אין על מה להמר
תרגול · נבאו, ואז הסתכלו
השאלה
המטבע הוגן, והקוד קורא גושים של ארבע הטלות. כשתפתחו את הסרט הדחוס, כמה סיביות להטלה הוא יעלה?

התשובה הנכונה
- נכונה סיבית אחת להטלה בדיוק, כמו הסרט העליון
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
50 %קבוע
גודל גוש הקוד
4 הטלותקבוע
מדידה ודחיסה
אנטרופיהקבוע
האפשרויות
- נכונה סיבית אחת להטלה בדיוק, כמו הסרט העליון
- שגויה פחות מסיבית, כי קוד טוב תמיד חוסך משהו
  טעות נפוצה: Thinks any data can be squeezed below its entropy: with a cleverer code, longer blocks, or by compressing the compressed result again.
  משוב מהקטלוג
  שאנון הוכיח שאף קוד שלא מאבד מידע לא יכול להסתפק בממוצע בפחות סיביות מהאנטרופיה. במטבע של 90% הגבול הוא $0.47$ ⁠ סיביות להטלה: גושים ארוכים מקרבים את הקוד אליו, אבל לא עוברים אותו. מטבע הוגן, עם אנטרופיה של $1$ ⁠, אי אפשר לדחוס בכלל. וסרט שכבר נדחס נראה כמו מטבע הוגן, ולכן דחיסה שנייה לא חוסכת עוד כלום.
- שגויה יותר מסיבית, כי הקוד מוסיף מילות קוד ארוכות
  משוב
  קוד האפמן לעולם לא עולה יותר מהרישום הפשוט: כשאין על מה להמר, הוא נותן לכל גוש מילה באורך שווה.
אחרי נעילת הניבוי הסצנה משתנה
מדידה ודחיסה
דחוסקבוע
ואז הסצנה מראה: 1 · Average bits per flip the Huffman code over blocks of blockSize spends (1 for the bare tape)/nodes/stream/outputs/bitsPerFlip
ניבוי אף פעם לא נחשב כישלון: בכל מקרה הלומדים רואים את התוצאה ואת ההסבר.
משוב לתשובה נכונה
בדיוק סיבית אחת. במטבע הוגן כל אחד מ־ $16$ ⁠ הגושים מופיע באותה הסתברות, $\tfrac{1}{16}$ ⁠, ולכן אף גוש לא ראוי למילה קצרה: כולם מקבלים ארבע סיביות, והסרט התחתון ארוך בדיוק כמו העליון. האנטרופיה היא $1$ ⁠ סיבית להטלה, ואין מה לחסוך.

רמז
במטבע הוגן, האם גוש אחד של ארבע הטלות סביר יותר מגוש אחר?

פתרון מלא
1. במטבע הוגן לכל גוש של ארבע הטלות הסתברות $\left(\tfrac12\right)^4 = \tfrac{1}{16}$ ⁠.
2. כשכל $16$ ⁠ הגושים שווים, הקוד הטוב ביותר נותן לכל אחד ארבע סיביות: $\log_2 16 = 4$ ⁠.
3. ארבע סיביות לארבע הטלות: סיבית אחת להטלה.
4. זו גם האנטרופיה של מטבע הוגן, הגבול שאי אפשר לרדת מתחתיו.
דחיסה היא הימור על מה שסביר. כששום דבר לא סביר יותר מדבר אחר, אין על מה להמר.
שלב 3 מתוך 5
לפתוח את השלב
גושים ארוכים יותר
תרגול · הגיעו למטרה
השאלה
הסיכוי לעץ קבוע על 90%. בגושים של הטלה אחת הקוד לא חוסך כלום: סיבית להטלה. שנו את גודל גוש הקוד עד שהקוד עולה בערך $0.49$ ⁠ סיביות להטלה, ולחצו על בדיקה.

המטרה
- 0.49 ± 0.005
  בתחילת השלב: 1
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %קבוע
גודל גוש הקוד
1 הטלות
מדידה ודחיסה
דחוסקבוע
נקרא מהסצנה בנקודה
Average bits per flip the Huffman code over blocks of blockSize spends (1 for the bare tape)/nodes/stream/outputs/bitsPerFlip
הגדרה אחת שמגיעה למטרה
גודל גוש הקוד
4 הטלות
משוב לתשובה נכונה
בגושים של ארבע: $0.49$ ⁠ סיביות להטלה, קרוב מאוד לגבול של $0.47$ ⁠. ככל שהגוש ארוך יותר, יש לקוד יותר הסתברויות שונות לעבוד איתן, והעלות מתקרבת לאנטרופיה מלמעלה.

משוב לתשובה שגויה
עוד לא. בגושים של שתיים הקוד עולה $0.645$ ⁠, ובשלוש $0.53$ ⁠. המשיכו.

רמז
נסו גושים ארוכים יותר, אחד אחרי השני, והסתכלו על הספירה מתחת לסרט התחתון.

פתרון מלא
1. גוש של הטלה אחת: שתי מילות קוד בנות סיבית אחת, $1$ ⁠ סיבית להטלה.
2. גושים של $2$ ⁠: $0.645$ ⁠. גושים של $3$ ⁠: $0.533$ ⁠.
3. גושים של $4$ ⁠: $0.49$ ⁠.
4. קבעו את גודל גוש הקוד על $4$ ⁠. בחמש ובשש העלות ממשיכה לרדת לאט, אל $0.47$ ⁠.
הטלה בודדת לא נדחסת, כי מילת קוד לא יכולה להיות קצרה מסיבית אחת.
שלב 4 מתוך 5
לפתוח את השלב
אף מילה אינה התחלה של אחרת
תרגול · בחרו
השאלה
בקוד האפמן לגושים של ארבע הטלות של מטבע 90%, הגוש ארבעה עץ, הנפוץ מכולם, מקבל מילת קוד של סיבית אחת. מה מקבל הגוש ארבעה פלי, הנדיר מכולם?

התשובה הנכונה
- נכונה מילת קוד ארוכה מארבע סיביות
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %קבוע
גודל גוש הקוד
4 הטלותקבוע
מדידה ודחיסה
דחוס
האפשרויות
מוצגות בסדר אקראי.
- נכונה מילת קוד ארוכה מארבע סיביות
- שגויה ארבע סיביות, כמו בסרט העליון
  משוב
  אילו כל הגושים חוץ מאחד קיבלו ארבע סיביות, לא היה מקום למילה של סיבית אחת: מילה כזאת „תופסת” חצי מכל המילים האפשריות, כי אף מילה אחרת לא יכולה להתחיל בה.
- שגויה גם הוא סיבית אחת
  משוב
  לשני גושים לא יכולה להיות אותה מילת קוד, אחרת המקלט לא יידע איזה מהם נשלח.
משוב לתשובה נכונה
עשר סיביות. כדי שאף מילת קוד לא תהיה ההתחלה של מילה אחרת, המילים הקצרות של הגושים הנפוצים „תופסות” מקום, והגושים הנדירים משלמים במילים ארוכות. הגוש ארבעה פלי נדיר כל כך, בהסתברות $0.0001$ ⁠, שהמחיר כמעט לא מורגש בממוצע.

רמז
מילה של סיבית אחת היא ההתחלה של חצי מכל המילים האפשריות. מי משלם על זה?

פתרון מלא
1. בקוד שבו אף מילה אינה התחלה של מילה אחרת, אפשר לקרוא את הסרט בלי רווחים.
2. המילה 0 של ארבעה עץ פוסלת כל מילה אחרת שמתחילה ב־0: חצי מכל המילים.
3. $15$ ⁠ הגושים האחרים חייבים להתחיל ב־1, ולכן חלקם מקבלים מילים ארוכות מארבע סיביות.
4. הגושים הנדירים ביותר, ובהם ארבעה פלי, מקבלים את הארוכות: עשר סיביות.
קוד טוב לא נותן לכל גוש אותו אורך. הוא נותן מילים קצרות למה שנפוץ, וארוכות למה שנדיר.
שלב 5 מתוך 5
לפתוח את השלב
הגבול
תרגול · בחרו
השאלה
מטבע של 90% עץ. מישהו מציע קוד חכם שרושם את ההטלות שלו, בלי לאבד אף אחת, ב־ $0.4$ ⁠ סיביות להטלה בממוצע, על פני מיליוני הטלות. מה דעתכם?

התשובה הנכונה
- נכונה זה בלתי אפשרי: האנטרופיה, $0.47$ ⁠ סיביות להטלה, היא הגבול
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
הסיכוי לעץ
90 %
גודל גוש הקוד
6 הטלות
מדידה ודחיסה
דחוס
האפשרויות
מוצגות בסדר אקראי.
- נכונה זה בלתי אפשרי: האנטרופיה, $0.47$ ⁠ סיביות להטלה, היא הגבול
- שגויה אפשרי, אם רק לוקחים גושים ארוכים מספיק
  טעות נפוצה: Thinks any data can be squeezed below its entropy: with a cleverer code, longer blocks, or by compressing the compressed result again.
  משוב מהקטלוג
  שאנון הוכיח שאף קוד שלא מאבד מידע לא יכול להסתפק בממוצע בפחות סיביות מהאנטרופיה. במטבע של 90% הגבול הוא $0.47$ ⁠ סיביות להטלה: גושים ארוכים מקרבים את הקוד אליו, אבל לא עוברים אותו. מטבע הוגן, עם אנטרופיה של $1$ ⁠, אי אפשר לדחוס בכלל. וסרט שכבר נדחס נראה כמו מטבע הוגן, ולכן דחיסה שנייה לא חוסכת עוד כלום.
- שגויה אפשרי: דוחסים את הסרט הדחוס פעם נוספת
  טעות נפוצה: Thinks any data can be squeezed below its entropy: with a cleverer code, longer blocks, or by compressing the compressed result again.
  משוב מהקטלוג
  שאנון הוכיח שאף קוד שלא מאבד מידע לא יכול להסתפק בממוצע בפחות סיביות מהאנטרופיה. במטבע של 90% הגבול הוא $0.47$ ⁠ סיביות להטלה: גושים ארוכים מקרבים את הקוד אליו, אבל לא עוברים אותו. מטבע הוגן, עם אנטרופיה של $1$ ⁠, אי אפשר לדחוס בכלל. וסרט שכבר נדחס נראה כמו מטבע הוגן, ולכן דחיסה שנייה לא חוסכת עוד כלום.
משוב לתשובה נכונה
שאנון הוכיח שאף קוד שלא מאבד מידע לא יכול להסתפק בממוצע בפחות סיביות מהאנטרופיה. גושים ארוכים מקרבים את הקוד ל־ $0.47$ ⁠, אבל לא מתחת. וסרט דחוס כבר נראה אקראי, עם אנטרופיה של כסיבית לסיבית, ולכן דחיסה שנייה לא נותנת כלום.

רמז
מה אמר שאנון על האנטרופיה ועל כל קוד שלא מאבד מידע?

פתרון מלא
1. האנטרופיה של מטבע של 90%: $H \approx 0.47$ ⁠ סיביות להטלה.
2. לפי שאנון, כל קוד שלא מאבד מידע עולה בממוצע $H$ ⁠ סיביות להטלה לפחות.
3. $0.4 < 0.47$ ⁠, ולכן ההצעה בלתי אפשרית.
גם הדרכים „לעקוף” את הגבול לא עובדות: בגושים של שש הטלות הקוד עולה $0.47$ ⁠, ממש על הגבול, וסרט שכבר נדחס כמעט לא נדחס עוד.

שיעור 4 מתוך 5 · כ־20 דקות

סיבית זוגיות

קו רועש הופך סיביות: כמה גושים מגיעים שגויים, איך סיבית זוגיות אחת מגלה היפוך, ומה היא לא יכולה לגלות.

לפתוח את השיעור

5 השלבים והתשובות שלהם

שלב 1 מתוך 5
לפתוח את השלב
קו רועש
תרגול · חשבו
השאלה
סיכוי להיפוך סיבית קבוע על 5%. כל גוש נושא ארבע סיביות, וכל סיבית מתהפכת בלי קשר לאחרות. מה הסיכוי שגוש יגיע עם שגיאה אחת לפחות? ענו באחוזים.

התשובה הנכונה
18.55 ± 0.2
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
5 %קבוע
בדיקה ותיקון
סיביות גולמיותקבוע
מתקבלת בטווח
± 0.2
מחושבת מהסצנה בהגדרה של השלב
Chance a block of four bare data bits arrives wrong (0..1)/nodes/link/outputs/rawBlockError
תשובות שגויות שהשאלה מזהה
- 20 ± 0.2
  טעות נפוצה: Adds the chances of independent events (4 × 5% = 20%) instead of working out the chance through the complement, 1 − (1 − p)ⁿ.
  משוב מהקטלוג
  חיבור של סיכויים מתאים רק למאורעות זרים, שלא יכולים לקרות יחד. היפוכים של סיביות שונות יכולים לקרות יחד, ולכן החיבור סופר פעמיים את הגושים שבהם התהפכו שתי סיביות, ועם מספיק סיביות היה עובר את 100%. דרך המשלים: גוש מגיע תקין רק אם כל הסיביות שורדות, $(1-p)^n$ ⁠, והסיכוי לשגיאה אחת לפחות הוא $1 - (1-p)^n$ ⁠. לארבע סיביות ו־5%: $1 - 0.95^4 \approx 18.5\%$ ⁠, ולא 20%.
משוב לתשובה נכונה
$1 - 0.95^4 \approx 0.185$ ⁠, כלומר כ־18.5%: בערך גוש אחד מכל חמישה. גוש תקין רק אם כל ארבע הסיביות שורדות, $0.95^4 \approx 0.815$ ⁠, וכל השאר שגוי.

רמז
קל יותר לחשב את המשלים: מה הסיכוי שכל ארבע הסיביות שורדות?

פתרון מלא
1. כל סיבית שורדת בסיכוי $1 - 0.05 = 0.95$ ⁠.
2. הסיביות בלתי תלויות, ולכן כל ארבע שורדות בסיכוי $0.95^4 \approx 0.815$ ⁠.
3. המשלים: שגיאה אחת לפחות בסיכוי $1 - 0.815 = 0.185$ ⁠.
4. התשובה: כ־18.5%.
אם יצא לכם 20%, חיברתם $4 \times 5\%$ ⁠. החיבור סופר פעמיים את הגושים שבהם התהפכו שתי סיביות, ולכן הוא גדול מדי.
שלב 2 מתוך 5
לפתוח את השלב
סערה
תרגול · נבאו, ואז הסתכלו
השאלה
עכשיו סערה מכה בקו: סיכוי להיפוך סיבית עולה ל־15% לכל סיבית. בערך כמה מהגושים של ארבע סיביות יגיעו שגויים?

התשובה הנכונה
- נכונה כמחצית: בערך 48%
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
5 %קבוע
בדיקה ותיקון
סיביות גולמיותקבוע
האפשרויות
- נכונה כמחצית: בערך 48%
- שגויה 60%: ארבע פעמים 15%
  טעות נפוצה: Adds the chances of independent events (4 × 5% = 20%) instead of working out the chance through the complement, 1 − (1 − p)ⁿ.
  משוב מהקטלוג
  חיבור של סיכויים מתאים רק למאורעות זרים, שלא יכולים לקרות יחד. היפוכים של סיביות שונות יכולים לקרות יחד, ולכן החיבור סופר פעמיים את הגושים שבהם התהפכו שתי סיביות, ועם מספיק סיביות היה עובר את 100%. דרך המשלים: גוש מגיע תקין רק אם כל הסיביות שורדות, $(1-p)^n$ ⁠, והסיכוי לשגיאה אחת לפחות הוא $1 - (1-p)^n$ ⁠. לארבע סיביות ו־5%: $1 - 0.95^4 \approx 18.5\%$ ⁠, ולא 20%.
- שגויה 15%, כמו הסיכוי של סיבית אחת
  משוב
  גוש שגוי אם אחת מארבע הסיביות שלו התהפכה, ולכן הוא נפגע בתדירות גבוהה יותר מכל סיבית לבד.
אחרי נעילת הניבוי הסצנה משתנה
סיכוי להיפוך סיבית
15 %קבוע
ואז הסצנה מראה: 0.478 · Chance a block of four bare data bits arrives wrong (0..1)/nodes/link/outputs/rawBlockError
ניבוי אף פעם לא נחשב כישלון: בכל מקרה הלומדים רואים את התוצאה ואת ההסבר.
משוב לתשובה נכונה
$1 - 0.85^4 \approx 1 - 0.52 = 0.48$ ⁠. כמעט כל גוש שני מגיע עם שגיאה, ובלי קוד המקלט לא יודע אילו מהם.

רמז
חשבו את הסיכוי שגוש שורד: $0.85^4$ ⁠.

פתרון מלא
1. כל סיבית שורדת בסיכוי $0.85$ ⁠.
2. כל ארבע שורדות בסיכוי $0.85^4 \approx 0.522$ ⁠.
3. שגיאה אחת לפחות: $1 - 0.522 \approx 0.478$ ⁠, כלומר כ־48%.
אם בחרתם 60%, חיברתם את הסיכויים. עם שבע סיביות החיבור היה נותן 105%, יותר מוודאות, וזה מראה שהוא לא יכול להיות נכון.
שלב 3 מתוך 5
לפתוח את השלב
קו שקט יותר
תרגול · הגיעו למטרה
השאלה
שנו את סיכוי להיפוך סיבית עד שבערך גוש אחד מכל עשרה, 10%, מגיע עם שגיאה, ולחצו על בדיקה.

המטרה
- 0.1 ± 0.01
  בתחילת השלב: 0.3439
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
10 %
בדיקה ותיקון
סיביות גולמיותקבוע
נקרא מהסצנה בנקודה
Chance a block of four bare data bits arrives wrong (0..1)/nodes/link/outputs/rawBlockError
הגדרה אחת שמגיעה למטרה
סיכוי להיפוך סיבית
2.5 %
משוב לתשובה נכונה
בערך 2.5% לסיבית: $1 - 0.975^4 \approx 0.096$ ⁠. כשהסיכוי קטן, החיבור $4 \times 2.5\% = 10\%$ ⁠ קרוב לאמת, כי כמעט אף גוש לא נפגע פעמיים. ככל שהרעש גדל, הפער בין החיבור לבין החשבון הנכון גדל.

משוב לתשובה שגויה
עוד לא. חפשו סיכוי לסיבית שבו $1 - (1-p)^4 \approx 0.1$ ⁠.

רמז
גוש נפגע בערך פי ארבעה יותר מסיבית, כשהסיכויים קטנים.

פתרון מלא
1. רוצים $1 - (1-p)^4 \approx 0.1$ ⁠, כלומר $(1-p)^4 \approx 0.9$ ⁠.
2. $1 - p \approx 0.9^{1/4} \approx 0.974$ ⁠, ולכן $p \approx 0.026$ ⁠.
3. על הסליידר, בצעדים של חצי אחוז: 2.5% נותן $1 - 0.975^4 \approx 0.096$ ⁠.
4. קבעו את סיכוי להיפוך סיבית על 2.5%.
שלב 4 מתוך 5
לפתוח את השלב
לספור אחדות
תרגול · בחרו
השאלה
שולחים את ארבע הסיביות 1 0 1 1, ומוסיפים להן סיבית זוגיות כך שמספר האחדות בחמש הסיביות יהיה זוגי. מה סיבית הזוגיות?

התשובה הנכונה
- נכונה $1$ ⁠
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
5 %
בדיקה ותיקון
סיביות גולמיותקבוע
האפשרויות
- נכונה $1$ ⁠
- שגויה $0$ ⁠
  משוב
  ב־1 0 1 1 יש שלוש אחדות. עם סיבית זוגיות $0$ ⁠ נשארות שלוש, ושלוש הוא מספר אי־זוגי.
משוב לתשובה נכונה
ב־1 0 1 1 יש שלוש אחדות, וסיבית זוגיות $1$ ⁠ מביאה את הספירה לארבע. אם סיבית אחת תתהפך בדרך, הספירה תהיה אי־זוגית, והמקלט יידע שמשהו השתבש.

רמז
ספרו את האחדות בארבע הסיביות. כמה צריך להוסיף כדי שהספירה תהיה זוגית?

פתרון מלא
1. ספרו את האחדות ב־1 0 1 1: שלוש.
2. שלוש הוא מספר אי־זוגי, ולכן חסרה עוד אחת.
3. סיבית הזוגיות היא $1$ ⁠, והגוש 1 0 1 1 1 מכיל ארבע אחדות.
סיבית הזוגיות לא אומרת כלום על הנתונים עצמם. היא רק משלימה את הספירה למספר זוגי, כדי שהיפוך אחד יבלוט.
שלב 5 מתוך 5
לפתוח את השלב
מה זוגיות לא רואה
תרגול · בחרו
השאלה
גוש של ארבע סיביות נתונים ועוד סיבית זוגיות יוצא לדרך, ובדרך מתהפכות שתיים מהסיביות שלו. מה המקלט רואה כשהוא סופר את האחדות?

התשובה הנכונה
- נכונה הספירה זוגית: הבדיקה עוברת, והשגיאה לא מתגלה
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
5 %
בדיקה ותיקון
סיביות גולמיותקבוע
האפשרויות
מוצגות בסדר אקראי.
- נכונה הספירה זוגית: הבדיקה עוברת, והשגיאה לא מתגלה
- שגויה הספירה אי־זוגית: הבדיקה נכשלת
  טעות נפוצה: Thinks a parity bit catches every error, however many bits flip.
  משוב מהקטלוג
  סיבית זוגיות בודקת רק אם מספר האחדות זוגי. כל היפוך משנה את הספירה באחד, ולכן היפוך אחד, או שלושה, הופך אותה לאי־זוגית והבדיקה נכשלת. אבל שני היפוכים משנים אותה בשניים, והספירה נשארת זוגית: הבדיקה עוברת, והגוש השגוי מתקבל כתקין. בדיקת זוגיות אחת מגלה כל מספר אי־זוגי של היפוכים, ומפספסת כל מספר זוגי.
- שגויה הבדיקה נכשלת ומראה אילו שתי סיביות התהפכו
  טעות נפוצה: Thinks a failing parity check shows which bit flipped.
  משוב מהקטלוג
  בדיקת זוגיות אחת עונה רק על שאלה אחת, כן או לא: האם מספר האחדות זוגי. כשהיא נכשלת, כל אחת מהסיביות בגוש יכולה להיות האשמה, כולל סיבית הזוגיות עצמה, והמקלט יכול רק לבקש את הגוש שוב. כדי למצוא איפה השגיאה צריך כמה בדיקות חופפות, כמו בקוד המינג: התשובות שלהן יחד מצביעות על מקום אחד.
משוב לתשובה נכונה
כל היפוך משנה את הספירה באחד, ושני היפוכים משנים אותה בשניים: מספר זוגי נשאר זוגי. סיבית זוגיות אחת מגלה כל מספר אי־זוגי של היפוכים, ומפספסת כל מספר זוגי.

רמז
בכמה משתנה ספירת האחדות כשסיבית אחת מתהפכת? ומה קורה כששתיים מתהפכות?

פתרון מלא
1. לפני השליחה מספר האחדות בגוש זוגי.
2. כל היפוך מוסיף אחת או מוריד אחת, כלומר משנה את הזוגיות.
3. שני היפוכים משנים את הזוגיות פעמיים, והיא חוזרת להיות זוגית.
4. הבדיקה עוברת, והגוש השגוי מתקבל כתקין.
גם כשבדיקת זוגיות נכשלת, היא לא אומרת איזו סיבית אשמה. היא עונה רק על שאלה אחת: זוגי או לא.

שיעור 5 מתוך 5 · כ־25 דקות

קוד המינג

שלוש בדיקות זוגיות חופפות מוצאות איזו סיבית התהפכה ומתקנות אותה: איך קוראים אותן כמספר בבסיס 2, מה קורה כששתי סיביות מתהפכות, ומה המחיר.

לפתוח את השיעור

6 השלבים והתשובות שלהם

שלב 1 מתוך 6
לפתוח את השלב
שלוש בדיקות חופפות
תרגול · נבאו, ואז הסתכלו
השאלה
הקו שקט לגמרי, אבל הסיבית התקולה היא 6: בכל גוש הסיבית במקום 6 מתהפכת. אילו מהבדיקות A, B ו־C ייכשלו? בחרו, ואחר כך מבט פנימה יעבור לבדיקות זוגיות.

התשובה הנכונה
- נכונה B ו־C
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
0 %קבוע
הסיבית התקולה
6קבוע
סיביות גולמיות / מתוקן
סיביות גולמיות
האפשרויות
- נכונה B ו־C
- שגויה A ו־B
  טעות נפוצה: Reads the failing checks A B C as a binary number with A as the highest digit, instead of C B A.
  משוב מהקטלוג
  בקוד המינג בדיקה A מכסה את המקומות שבהם סיבית ה־ $1$ ⁠ של המספר דולקת, B את סיבית ה־ $2$ ⁠, ו־C את סיבית ה־ $4$ ⁠. לכן A היא הספרה הנמוכה: קוראים את הבדיקות בסדר C B A. כש־B ו־C נכשלות ו־A עוברת, כותבים 1 1 0, כלומר $4 + 2 = 6$ ⁠. קריאה בסדר A B C נותנת 0 1 1, כלומר $3$ ⁠, והמקלט היה הופך סיבית תקינה.
- שגויה שלושתן, כי היפוך מקלקל את כל הגוש
  משוב
  כל בדיקה סופרת רק את המקומות שהיא מכסה. בדיקה שלא מכסה את מקום 6 לא מרגישה בהיפוך שלו.
אחרי נעילת הניבוי הסצנה משתנה
סיביות גולמיות / מתוקן
בדיקות זוגיות
ואז הסצנה מראה: 6 · The failing checks read as the binary number C B A (0 when all pass): the position of a lone flip/nodes/link/outputs/syndrome
ניבוי אף פעם לא נחשב כישלון: בכל מקרה הלומדים רואים את התוצאה ואת ההסבר.
משוב לתשובה נכונה
B ו־C. מקום 6 נמצא בבדיקה B (מקומות 2, 3, 6, 7) ובבדיקה C (מקומות 4, 5, 6, 7), אבל לא ב־A. קראו את הבדיקות בסדר C B A: 1 1 0, וזה 6 בבסיס 2.

רמז
A מכסה את 1, 3, 5, 7; B את 2, 3, 6, 7; C את 4, 5, 6, 7. באילו מהן מופיע 6?

פתרון מלא
1. כתבו את 6 בבסיס 2: $6 = 4 + 2$ ⁠, כלומר 110.
2. סיבית ה־ $4$ ⁠ דולקת: בדיקה C מכסה את מקום 6 ונכשלת.
3. סיבית ה־ $2$ ⁠ דולקת: בדיקה B מכסה אותו ונכשלת.
4. סיבית ה־ $1$ ⁠ כבויה: בדיקה A לא מכסה אותו ועוברת.
אם בחרתם A ו־B, קראתם את 110 משמאל לימין כ־A B C. אבל A היא הספרה הנמוכה, ספרת האחדות.
שלב 2 מתוך 6
לפתוח את השלב
לקרוא את הבדיקות
תרגול · חשבו
השאלה
תקלה חדשה בקו, והפעם לא מראים לכם איפה. בכל גוש בדיקות A ו־B נכשלות, ובדיקה C עוברת. באיזה מקום הסיבית מתהפכת?

התשובה הנכונה
3 ± 0.1
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
0 %קבוע
הסיבית התקולה
3מוסתר
סיביות גולמיות / מתוקן
סיביות גולמיותקבוע
מתקבלת בטווח
± 0.1
מחושבת מהסצנה בהגדרה של השלב
The failing checks read as the binary number C B A (0 when all pass): the position of a lone flip/nodes/link/outputs/syndrome
תשובות שגויות שהשאלה מזהה
- 6 ± 0.1
  טעות נפוצה: Reads the failing checks A B C as a binary number with A as the highest digit, instead of C B A.
  משוב מהקטלוג
  בקוד המינג בדיקה A מכסה את המקומות שבהם סיבית ה־ $1$ ⁠ של המספר דולקת, B את סיבית ה־ $2$ ⁠, ו־C את סיבית ה־ $4$ ⁠. לכן A היא הספרה הנמוכה: קוראים את הבדיקות בסדר C B A. כש־B ו־C נכשלות ו־A עוברת, כותבים 1 1 0, כלומר $4 + 2 = 6$ ⁠. קריאה בסדר A B C נותנת 0 1 1, כלומר $3$ ⁠, והמקלט היה הופך סיבית תקינה.
משוב לתשובה נכונה
מקום 3: הוא היחיד שנמצא ב־A וב־B ולא ב־C. בסדר C B A הבדיקות כותבות 0 1 1, כלומר $2 + 1 = 3$ ⁠. המקלט הופך את הסיבית הזאת, והגוש מתוקן.

רמז
כתבו $1$ ⁠ לכל בדיקה שנכשלה ו־ $0$ ⁠ לכל בדיקה שעברה, בסדר C B A.

פתרון מלא
1. C עברה, B נכשלה, A נכשלה: בסדר C B A זה 0 1 1.
2. בבסיס 2: $0 \times 4 + 1 \times 2 + 1 \times 1 = 3$ ⁠.
3. בדיקה: מקום 3 נמצא ב־A (מקומות 1, 3, 5 ו־7) וב־B (מקומות 2, 3, 6 ו־7), ולא ב־C (מקומות 4, 5, 6 ו־7).
4. הסיבית מתהפכת במקום 3.
אם עניתם 6, קראתם את הבדיקות בסדר A B C, 1 1 0. מקום 6 נמצא ב־B וב־C, ולא ב־A.
שלב 3 מתוך 6
לפתוח את השלב
גם סיבית זוגיות מתהפכת
תרגול · הגיעו למטרה
השאלה
שנו את הסיבית התקולה עד שרק בדיקה C נכשלת, ו־A ו־B עוברות. לחצו על בדיקה.

המטרה
- 0 ± 0.1
  בתחילת השלב: 0
- 0 ± 0.1
  בתחילת השלב: 0
- 1 ± 0.1
  בתחילת השלב: 0
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
0 %קבוע
הסיבית התקולה
0
סיביות גולמיות / מתוקן
בדיקות זוגיותקבוע
נקרא מהסצנה בנקודה
1 when check A (positions 1 3 5 7) fails for a block whose only flip is at fault, else 0/nodes/link/outputs/checkA
נקרא מהסצנה בנקודה
1 when check B (positions 2 3 6 7) fails for a block whose only flip is at fault, else 0/nodes/link/outputs/checkB
נקרא מהסצנה בנקודה
1 when check C (positions 4 5 6 7) fails for a block whose only flip is at fault, else 0/nodes/link/outputs/checkC
הגדרה אחת שמגיעה למטרה
הסיבית התקולה
4
משוב לתשובה נכונה
מקום 4, 100 בבסיס 2: הוא נמצא רק בעיגול C, וזו סיבית הזוגיות של C. גם סיבית זוגיות יכולה להתהפך בדרך, והקוד מוצא אותה כמו כל סיבית אחרת.

משוב לתשובה שגויה
עוד לא. הסתכלו על העיגולים האדומים בלוח: צריך שרק C יהיה אדום.

רמז
איזה מקום נמצא בעיגול C ובשום עיגול אחר?

פתרון מלא
1. רוצים את הדפוס C B A = 1 0 0.
2. בבסיס 2 זה $4$ ⁠.
3. מקום 4 נמצא בבדיקה C (מקומות 4, 5, 6 ו־7) בלבד.
4. קבעו את הסיבית התקולה על $4$ ⁠.
מקומות 1, 2 ו־4, החזקות של 2, הם בדיוק המקומות שנמצאים בעיגול אחד בלבד. לכן שם יושבות סיביות הזוגיות: כל אחת שייכת לבדיקה שלה.
שלב 4 מתוך 6
לפתוח את השלב
שני היפוכים
תרגול · בחרו
השאלה
בגוש אחד מתהפכות שתי סיביות, במקומות 3 ו־5. מה עושה המקלט?

התשובה הנכונה
- נכונה בדיקות B ו־C נכשלות, והוא הופך את מקום 6, שהיה תקין: הגוש יוצא עם שלוש שגיאות
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
5 %
הסיבית התקולה
0קבוע
סיביות גולמיות / מתוקן
מתוקן
האפשרויות
מוצגות בסדר אקראי.
- נכונה בדיקות B ו־C נכשלות, והוא הופך את מקום 6, שהיה תקין: הגוש יוצא עם שלוש שגיאות
- שגויה הוא מוצא את שתי השגיאות ומתקן את שתיהן
  טעות נפוצה: Thinks a Hamming code repairs any number of flipped bits in a block.
  משוב מהקטלוג
  קוד המינג (7,4) מתקן היפוך אחד בגוש. כשמתהפכות שתי סיביות, הבדיקות שנכשלות הן אלה של היפוך אחד או של השני אבל לא של שניהם, והדפוס מצביע על סיבית שלישית, שהייתה תקינה. המקלט הופך אותה בצייתנות, והגוש יוצא עם שלוש שגיאות. לכן גם עם הקוד חלק מהגושים מגיעים שגויים: בקו של 5% לסיבית, כ־4.4% מהם.
- שגויה כל הבדיקות עוברות, והוא לא נוגע בגוש
  משוב
  בבדיקה A, שמכסה גם את 3 וגם את 5, שני ההיפוכים אכן מבטלים זה את זה. אבל B מכסה רק את 3, ו־C רק את 5, ולכן שתיהן נכשלות.
משוב לתשובה נכונה
A מכסה את 3 ואת 5, ושני ההיפוכים מבטלים זה את זה בה. B מכסה רק את 3, ו־C רק את 5, ולכן הן נכשלות: C B A = 1 1 0, כלומר 6. המקלט הופך את מקום 6, שהיה תקין. הקוד מניח היפוך אחד לכל היותר בגוש, וכשההנחה לא מתקיימת הוא טועה.

רמז
לכל בדיקה בנפרד: כמה מהמקומות 3 ו־5 היא מכסה? מספר זוגי של היפוכים לא מכשיל אותה.

פתרון מלא
1. בדיקה A (מקומות 1, 3, 5 ו־7) מכסה את 3 ואת 5: שני היפוכים, הספירה נשארת זוגית, A עוברת.
2. בדיקה B (מקומות 2, 3, 6 ו־7) מכסה רק את 3: B נכשלת.
3. בדיקה C (מקומות 4, 5, 6 ו־7) מכסה רק את 5: C נכשלת.
4. C B A = 1 1 0 = 6, והמקלט הופך את מקום 6.
5. עכשיו שגויות שלוש סיביות: 3, 5 ו־6.
קוד המינג (7,4) מתקן היפוך אחד בגוש. כדי לתקן שניים צריך קוד עם יותר סיביות זוגיות.
שלב 5 מתוך 6
לפתוח את השלב
כמה פעמים הקוד נכשל
תרגול · חשבו
השאלה
סיכוי להיפוך סיבית קבוע על 5%, והקוד מתקן. גוש מקודד מגיע שגוי רק אם שתיים או יותר משבע הסיביות שלו התהפכו. מה הסיכוי לכך? ענו באחוזים.

התשובה הנכונה
4.438 ± 0.1
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
5 %קבוע
הסיבית התקולה
0קבוע
סיביות גולמיות / מתוקן
מתוקןקבוע
מתקבלת בטווח
± 0.1
מחושבת מהסצנה בהגדרה של השלב
Chance a Hamming (7,4) block takes two or more flips and is decoded wrong (0..1)/nodes/link/outputs/codedBlockError
תשובות שגויות שהשאלה מזהה
- 0 ± 0.1
  טעות נפוצה: Thinks a Hamming code repairs any number of flipped bits in a block.
  משוב מהקטלוג
  קוד המינג (7,4) מתקן היפוך אחד בגוש. כשמתהפכות שתי סיביות, הבדיקות שנכשלות הן אלה של היפוך אחד או של השני אבל לא של שניהם, והדפוס מצביע על סיבית שלישית, שהייתה תקינה. המקלט הופך אותה בצייתנות, והגוש יוצא עם שלוש שגיאות. לכן גם עם הקוד חלק מהגושים מגיעים שגויים: בקו של 5% לסיבית, כ־4.4% מהם.
משוב לתשובה נכונה
בערך 4.4%: $1 - 0.95^7 - 7 \times 0.05 \times 0.95^6 \approx 1 - 0.698 - 0.257 = 0.044$ ⁠. בלי הקוד 18.5% מהגושים מגיעים שגויים; הקוד מוריד את זה פי ארבעה, במחיר של שלוש סיביות נוספות לכל ארבע.

רמז
חשבו את המשלים: אף היפוך, $0.95^7$ ⁠, או היפוך אחד בדיוק, $7 \times 0.05 \times 0.95^6$ ⁠.

פתרון מלא
1. גוש מקודד מתוקן אם התהפכו בו אפס סיביות או סיבית אחת.
2. אף היפוך: $0.95^7 \approx 0.698$ ⁠.
3. היפוך אחד בדיוק: $7$ ⁠ מקומות אפשריים, $7 \times 0.05 \times 0.95^6 \approx 0.257$ ⁠.
4. שני היפוכים או יותר: $1 - 0.698 - 0.257 \approx 0.044$ ⁠, כלומר כ־4.4%.
אם עניתם $0$ ⁠, חשבתם שהקוד מתקן הכול. הוא מתקן היפוך אחד בגוש, ושני היפוכים מטעים אותו.
שלב 6 מתוך 6
לפתוח את השלב
המחיר
תרגול · חשבו
השאלה
ההודעה HELLO היא חמש אותיות, שמונה סיביות לכל אות, ונשלחת בגושים של ארבע סיביות. כמה סיביות עולה עותק אחד שלה על הקו עם קוד המינג?

התשובה הנכונה
70 ± 0.1
הגדרות, אפשרויות ומשוב
הסצנה בשלב הזה
סיכוי להיפוך סיבית
5 %קבוע
הסיבית התקולה
0קבוע
סיביות גולמיות / מתוקן
מתוקןקבוע
מתקבלת בטווח
± 0.1
מחושבת מהסצנה בהגדרה של השלב
Bits one copy of the message takes on the line with the code: seven for every four, fourteen per character/nodes/link/outputs/codedBits
תשובות שגויות שהשאלה מזהה
- 40 ± 0.1
  טעות נפוצה: Forgets that the parity bits travel down the line too, and counts only the message's own bits.
  משוב מהקטלוג
  סיביות הזוגיות לא מגיעות בחינם: הן נשלחות על הקו כמו כל סיבית אחרת. בקוד המינג (7,4) כל ארבע סיביות נתונים יוצאות לדרך כשבע סיביות, ולכן אות אחת, שמונה סיביות, תופסת על הקו ארבע־עשרה. זה המחיר של התיקון: שלוש מכל שבע סיביות לא נושאות שום חלק מההודעה.
משוב לתשובה נכונה
$70$ ⁠ סיביות: $40$ ⁠ סיביות נתונים הן $10$ ⁠ גושים, וכל גוש יוצא לדרך כשבע סיביות. $30$ ⁠ מהן סיביות זוגיות, שלא נושאות שום חלק מההודעה. זה המחיר של התיקון: הקו מעביר נתונים בקצב של $\tfrac47$ ⁠ בלבד.

רמז
כמה גושים של ארבע סיביות יש בהודעה, וכמה סיביות יוצאות לדרך בכל גוש?

פתרון מלא
1. ההודעה: $5 \times 8 = 40$ ⁠ סיביות נתונים.
2. בגושים של ארבע: $\tfrac{40}{4} = 10$ ⁠ גושים.
3. כל גוש מקודד הוא $7$ ⁠ סיביות: $10 \times 7 = 70$ ⁠.
4. עותק אחד עולה $70$ ⁠ סיביות על הקו.
אם עניתם $40$ ⁠, ספרתם רק את סיביות ההודעה. סיביות הזוגיות נשלחות על הקו כמו כל סיבית אחרת.

בכל היחידה · 13 טעויות נפוצות

קטלוג הטעויות הנפוצות

כל טעות נפוצה שהיחידה מזהה, בכמה מילים. פתחו טעות כדי לראות מה הלומדים קוראים כשהתשובה מתאימה לה, ואיפה היא נשאלת.

תוכן העניינים

הפתעה שנמדדת בסיביות

מה זה מידע

השאלה

התשובה הנכונה

הסצנה בשלב הזה

האפשרויות

רמז

פתרון מלא

סיבית אחת

השאלה

התשובה הנכונה

הסצנה בשלב הזה

תשובות שגויות שהשאלה מזהה

רמז

פתרון מלא

מטבע מוטה

השאלה

התשובה הנכונה

הסצנה בשלב הזה

האפשרויות

אחרי נעילת הניבוי הסצנה משתנה

רמז

פתרון מלא

כל חצייה היא סיבית

השאלה

התשובה הנכונה

הסצנה בשלב הזה

תשובות שגויות שהשאלה מזהה

רמז

פתרון מלא

חדשות נדירות

השאלה

המטרה

הסצנה בשלב הזה

הגדרה אחת שמגיעה למטרה

רמז

פתרון מלא

אנטרופיה

ההפתעה הממוצעת

השאלה

התשובה הנכונה

הסצנה בשלב הזה

תשובות שגויות שהשאלה מזהה

רמז

פתרון מלא

העקומה

השאלה

התשובה הנכונה

הסצנה בשלב הזה

האפשרויות

אחרי נעילת הניבוי הסצנה משתנה

רמז

פתרון מלא

מטבע ודאי

השאלה

התשובה הנכונה

הסצנה בשלב הזה

אחרי נעילת הניבוי הסצנה משתנה

רמז

פתרון מלא

באמצע הדרך

השאלה

המטרה

הסצנה בשלב הזה

הגדרה אחת שמגיעה למטרה

רמז

פתרון מלא

רעש אקראי מלא מידע

השאלה

התשובה הנכונה

הסצנה בשלב הזה

האפשרויות

רמז

פתרון מלא

דחיסה

מילים קצרות למה שנפוץ

השאלה

התשובה הנכונה

הסצנה בשלב הזה

תשובות שגויות שהשאלה מזהה