אופטימיזציה (מתמטיקה) – הבדלי גרסאות

תוכן שנמחק תוכן שנוסף
הרחבה קלה מוויקיפדיה האנגלית
מ הורדת מילה ״של״ מכיוון שלא חיונית במקום הנ״ל., תקלדה
שורה 21:
{{הפניה לערך מורחב|שיטה איטרטיבית}}
 
שיטות איטרטיביות נפוצות לפתרון בעיות [[תכנון לא-לינארי]], וניתן לסווג אותן על פי התבססותן על ערך הפונקציה בלבד, על ה[[גרדיאנט]] של הפונקציה או על [[הסיאן]] שלה. שיטות המבוססות על הגרדיאנט או על הסיאן עשויות להתכנס מהר יותר עבור פונקציות שיש להן כאלו, אך לעתים החישוב של שלהם מורכב חישובית.
 
אחת מאמות המידה החשובות בהקשר של שיטות איטרטיביות הוא מספר הפעמים שנדרשים לשערך את ערך הפונקציה, שכן שערוך הפונקציה עשוי להיות יקר. עבור פונקציה בעלת N משתנים, שערוך של הנגזרת עשוי להיות כרוך ב-N+1 שערוכים של הפונקציה, ואילו שערוך של הנגזרת השנייה (לצורך מטריצת ההסיאן) עשוי להיות כרוך בסדר גודל של <math>N^2</math> שערוכים של הפונקציה. לדוגמה [[שיטת ניוטון]] המתבססת על נגזרת שנייה מצריכה בכל איטרציה לשערך את הפונקציה בסדר גודל של <math>N^2</math> פעמים, ולעומתה שיטה המתבססת על הגרדיאנט בלבד מצריכה סדר גודל של N שערוכים של הפונקציה. יחד עם זאת, שיטות מבוססות גרדיאנט ידרשו לרוב יותר איטרציות עד להתכנסות.