יחידה 6
מידע וקודים.
כמה מידע יש בהודעה: הפתעה בסיביות, אנטרופיה, הגבול של דחיסה, וקודים שמתקנים שגיאות.
לפני היחידה הזאת
- ביטים ונתונים
- הסתברות מתמטיקה
היחידה, שיעור אחר שיעור
שיעורים
5 שיעורים · 26 שאלות תרגול · כשעתיים
הפתעה שנמדדת בסיביות
מה המילה מידע אומרת במדעי המחשב: כמה ספק הודעה מסירה, למה הטלה של מטבע הוגן נושאת סיבית אחת, ולמה תוצאה נדירה מפתיעה יותר.
אנטרופיה
ההפתעה הממוצעת של מקור: איך מחשבים אותה, למה היא מגיעה לשיא במטבע הוגן ויורדת לאפס כשהתוצאה ודאית, ולמה רעש אקראי מלא מידע.
דחיסה
איך קוד האפמן מקצר נתונים צפויים: מילים קצרות לגושים נפוצים, למה מטבע הוגן לא נדחס, ולמה שום קוד לא יורד מתחת לאנטרופיה.
סיבית זוגיות
קו רועש הופך סיביות: כמה גושים מגיעים שגויים, איך סיבית זוגיות אחת מגלה היפוך, ומה היא לא יכולה לגלות.
קוד המינג
שלוש בדיקות זוגיות חופפות מוצאות איזו סיבית התהפכה ומתקנות אותה: איך קוראים אותן כמספר בבסיס 2, מה קורה כששתי סיביות מתהפכות, ומה המחיר.