היסטוריה של תורת ההסתברות – הבדלי גרסאות

תוכן שנמחק תוכן שנוסף
אין תקציר עריכה
שורה 300:
{{ערך מורחב|תורת האינפורמציה}}
 
בשנת [[1948]] פרסם המתמטיקאי ה[[אמריקאי]] [[קלוד שאנון]] את מאמרו "תאוריה מתמטית של תקשורת" (ב[[אנגלית]]: "A Mathematical Theory of Communication"), בו הוא הציג מודל מתמטי של [[מערכת תקשורת]].{{הערה|C.E. Shannon, "[http://cm.bell-labs.com/cm/ms/what/shannonday/shannon1948.pdf A Mathematical Theory of Communication]", '''Bell System Technical Journal''' (1948), vol. 27, pages 379–423, 623-656.}} במאמר זה הגדיר שאנון את ה[[סיבית]] כיחידת מידע ואת ה[[אנטרופיה (סטטיסטיקה)|אנטרופיה]] של מקור מידע, אותה ניתן לתאר ככמות הביטים המינימלית הנדרשת כדי לקודד מסר שיוצר מקור המידע. כמו כן סיפק שאנון הגדרה מתמטית כללית של [[ערוץ תקשורת]] כקשר סטטיטיסטטיסטי, ותיאר את המעבר של מידע דרך ערוץ "רועש", כלומר שיש בו הפרעות אקראיות שאת התפלגותן ניתן לנתח ובכך לנסות לשחזר את המידע המקורי. מתוך עבודה זו צמחה [[תורת האינפורמציה]] שנחקרת עד ימינו בתחומים מדעיים שונים.
 
מאמרו של שאנון הוא אחד המאמרים המשפיעים ביותר על המדע במאה ה-20, ונכון ל-2016 הוא מצוטט מעל 85 אלף פעמים.{{הערה|1=על פי [http://scholar.google.co.il/scholar?q=A+Mathematical+Theory+of+Communication Google Scholar]}}. בעקבותיו פותחו שיטות לחישוב קיבול של ערוצי תקשורת תאורטיים ומעשיים שונים, ו[[חסם|חסמים]] על קצבי שגיאות בשיטות קידוד ופענוח שונות. לעבודתו של שאנון יש גם השלכות תאורטיות, וכך למשל מושג ה[[אנטרופיה (סטטיסטיקה)|אנטרופיה הסטטיסטית]] שפיתח שאנון השפיע על תחומים מתמטיים אחרים, כדוגמת [[מערכת דינמית|מערכות דינמיות]] ו[[התורה הארגודית]].