הזיה (הלוצינציה)
כשמודל AI קובע בביטחון משהו שגוי או מייצר פרטים שלא קיימים — עובדות מומצאות, ציטוטים מזויפים, פיזיקה בלתי אפשרית או ידיים עם שש אצבעות בתמונות. זה קורה כי מודלים גנרטיביים חוזים פלט סביר, לא אמת מאומתת. הגנות מעשיות: לאמת טענות עובדתיות של LLM, להשתמש ב-RAG כדי לעגן תשובות במסמכים אמיתיים, ובתמונות — לבדוק פרטים קטנים (טקסט, ידיים, לוגואים) שבהם ההזיות מתרכזות. דוגמה: LLM שממציא דגם מצלמה משכנע אך לא קיים לפרומפט שלכם — לא נורא באמנות, מסוכן בדף מפרט של מוצר.