תשובה של מודל שפה שנשמעת סבירה ובטוחה, אך אינה נכונה.
זו אינה תקלה נקודתית אלא תכונה של האופן שבו המודל עובד: הוא מייצר את ההמשך הסביר ביותר, ולא בהכרח את הנכון. ככל שהשאלה נוגעת במידע ספציפי שאין לו, הסיכון גדל.
ההגנות המעשיות הן שלוש: להצמיד מקורות ידע אמיתיים, לדרוש ציטוט, ולהגדיר מפורשות שמותר לומר "אין לי את המידע הזה".
לקוח שואל צ׳אט של חנות אם יש משלוח חינם לאילת. אין למודל מידע על זה, אבל "כן, משלוח חינם מעל 200 ₪" נשמע סביר, והוא עונה כך בביטחון מלא. הלקוח מגיע לקופה ומגלה חיוב של 29 ₪.
אחרי התיקון הצ׳אט מחובר למסמך המשלוחים ומצטט אותו. כשהנושא לא מופיע שם, הוא עונה "אין לי את המידע הזה" ומעביר לנציג.
הערך הבא במילון
מה שלא נענה כאן נשלח ב-WhatsApp לחבר צוות, עם שם המונח, וחוזר עם תשובה של מי שעובד עם זה כל יום.