פרמטרים

core

המספרים הפנימיים (משקלים) שרשת נוירונים מכיילת במהלך האימון — הידע הנלמד שלה, מאוחסן כמיליארדי ערכים. גודל מודל נמדד בפרמטרים: למודל 8B יש 8 מיליארד כאלה. יותר פרמטרים בדרך כלל אומר יותר יכולת, אבל אינפרנס איטי ויקר יותר. ליוצרים, מספר הפרמטרים הוא אינדיקציה גסה לאיכות בהשוואת מודלים, לא ערובה — ארכיטקטורה ודאטת אימון חשובות לא פחות. דוגמה: מודל תמונות קטן ומאומן היטב יכול לנצח מודל מנופח, ולכן בנצ'מרקים ופרומפטי בדיקה משלכם תמיד מנצחים דפי מפרט.

מונחים קשורים