עיגול (אריתמטיקה) – הבדלי גרסאות

תוכן שנמחק תוכן שנוסף
שורה 26:
 
==עיגול במחשב==
מתן חברבר
בחומרת החומר
 
, בדרך כלל לא משתמשים בעיגול אלא בקיצוץ של ה[[סיבית|סיביות]] האחרונות בתוצאה. כך לא יתקבל 1 כתוצאת החישוב של 3*(1/3), וזאת מכיוון שזכרונו ה[[בסיס בינארי|בינארי]] של המחשב - סופי (ניתן להגדיל את צריכת הזיכרון ובכך להקטין את השגיאה). ניתן לטפל בבעיה זו, במידה מסוימת, באמצעות שכלול האלגוריתם של החילוק. בהתאם לכך נמצא [[מחשבון]] שבו הפעולה 3*(1/3) תיתן 0.999999999999999, ומחשבון אחר שבו פעולה זו תיתן את התוצאה 1.