תורת האינפורמציה – הבדלי גרסאות

תוכן שנמחק תוכן שנוסף
תיקון קישור לפירושונים
שורה 3:
שיטות וטכניקות שמקורן בתורת האינפורמציה נמצאים כיום בשימוש בתחומי ידע מגוונים, בהם [[הסקה סטטיסטית]], [[אינטליגנציה מלאכותית]], [[קריפטוגרפיה]], [[ביולוגיה]], [[מדעי המוח]] ו[[בלשנות]]. רעיונות ומודלים שמקורם בתחום נכנסו לשימוש גם בתחומי [[מדעי החברה]] כגון [[חינוך]], [[פסיכולוגיה קוגניטיבית]] ו[[תקשורת המונים]].
 
==היסטוריה==
אבי תורת האינפורמציה הוא המדען ה[[ארצות הברית|אמריקאי]] [[קלוד שאנון|קלוד אלווד שאנון]]. ב-1948 פרסם שאנון את המאמר המכונן "A Mathematical Theory of Communication"{{הערה|C.E. Shannon, "[http://cm.bell-labs.com/cm/ms/what/shannonday/shannon1948.pdf A Mathematical Theory of Communication]", '''Bell System Technical Journal''', vol. 27, pp. 379–423, 623-656, July, October, 1948}}, אשר יצר לראשונה את הבסיס המתמטי עבור [[מערכת תקשורת|מערכות תקשורת]]. במאמר זה הגדיר שנון את ה[[סיבית]] כיחידת מידע ואת ה[[אנטרופיה (סטטיסטיקה)|אנטרופיה]] של מקור מידע, שניתן לתארה ככמות הביטים המינימלית הנדרשת כדי לקודד מסר שיוצר מקור המידע, וכן סיפק הגדרה מתמטית כללית של [[ערוץ תקשורת]] כקשר סטטיסטי בין הודעות כאשר הן נשלחות מהמקור לאותן הודעות כאשר הן מגיעות אל היעד. שאנון הראה לראשונה כי בעזרת פעולות [[קידוד תווים|קידוד]] מתאימות על ההודעות, ניתן להגיע ל'''תקשורת אמינה''' (קצב שגיאות קטן כרצוננו), כל עוד קצב העברת המידע (הנמדד בסיביות לשנייה) קטן מ[[אינפורמציה הדדית|האינפורמציה ההדדית]] בין המקור והיעד שאותה משרה הערוץ, גודל המוגדר כ'''קיבולת הערוץ''' (Channel capacity). לעומת זאת, העברת מידע בקצב גבוה מקיבולת הערוץ אינה אפשרית - קצב השגיאות יהיה גבוה עד כדי אובדן קשר סטטיסטי בין ההודעות הנשלחות והמתקבלות. תוצאה זו הייתה מפתיעה ולא שוערה לפני כן, אך היא הוכחה בפועל במערכות תקשורת רבות מספור בעקבות עבודתו של שאנון.
 
שורה 9:
 
==יישומים==
היישום המעשי של תורתו של שאנון היה לתחום עיקרי ב[[הנדסת מערכות תקשורת]] שבמסגרתה פותחו שיטות ל[[אפנון]], [[קידוד תווים|קידוד]], [[דחיסת נתונים]], [[מקלט רדיו|קליטה]] ו[[קוד תיקון שגיאות|תיקון שגיאות]] שאיפשרו תקשורת אמינה על פני ערוצים מעשיים, החל מקווי [[טלפון]] ו[[טלגרף]], דרך אפיקי [[רדיו]] ועד [[סיב אופטי|סיבים אופטיים]] ו[[דיסק קשיח|מדיה מגנטית]] ו[[תקליטור|אופטית]].
 
התפתחות טכנולוגיות התקשורת אפשרה העברת מידע מסוגים שונים ומגוונים, כגון מלל, דיבור, מוזיקה, וידאו, וצירופים שלהם (כפי שניתן לעשות כיום במערכות [[דואר אלקטרוני]], [[מסרים מידיים]] ושרותי [[Web]]). תורת האינפורמציה והטכנולוגיות שנבנו על בסיסה אינן עוסקות ב[[משמעות]] של המידע{{הערה|שם=פרדוקס|Denning, P. J., & Bell, T. (2012). The Information Paradox. American Scientist, 100(6), 470-477.}}. משמעות מוקנית להודעות העוברות בין אנשים או מכונות על ידי תהליכי [[חשיבה]], העושים שימוש ביכולת הבנה והתנסחות ובמאגרי ידע ושליפת פרטים מתוכם. נושאים אלה הם בתחומי הדיסציפלינות של פסיכולוגיה קוגניטיבית ו[[אינטליגנציה מלאכותית]], בהם למושג "אינפורמציה" יש משמעויות אחרות.