# Hallucination (Hallucination)

> תשובה של מודל שפה שנשמעת סבירה ובטוחה, אך אינה נכונה.. זו אינה תקלה נקודתית אלא תכונה של האופן שבו המודל עובד: הוא מייצר את ההמשך הסביר ביותר, ולא בהכרח

העמוד המלא: https://oversight.co.il/glossary/hallucination

## ההסבר

זו אינה תקלה נקודתית אלא תכונה של האופן שבו המודל עובד: הוא מייצר את ההמשך הסביר ביותר, ולא בהכרח את הנכון. ככל שהשאלה נוגעת במידע ספציפי שאין לו, הסיכון גדל.

ההגנות המעשיות הן שלוש: להצמיד מקורות ידע אמיתיים, לדרוש ציטוט, ולהגדיר מפורשות שמותר לומר "אין לי את המידע הזה".

## מונחים קשורים

- [LLM](https://oversight.co.il/glossary/llm.md): מודל שפה גדול: מודל שאומן על כמויות עצומות של טקסט ויודע לייצר תשובה בשפה טבעית.
- [RAG](https://oversight.co.il/glossary/rag.md): שיטה שבה מודל שפה שולף תחילה מידע רלוונטי ממאגר הידע של הארגון, ורק אז מנסח תשובה לפיו.
- [סוכן AI](https://oversight.co.il/glossary/ai-agent.md): מערכת מבוססת מודל שפה שמסוגלת לא רק לענות אלא גם לבצע פעולות: לחפש, לעדכן מערכת ולהפעיל תהליך.
- [Prompt](https://oversight.co.il/glossary/prompt.md): ההוראה שנמסרת למודל שפה, וקובעת מה הוא יעשה, באיזה סגנון ובאילו גבולות.

## פתרונות

- [הטמעת AI](https://oversight.co.il/solutions/ai-integration.md)
- [בניית סוכני AI](https://oversight.co.il/solutions/ai-agents.md)