RAG (Retrieval-Augmented Generation) | מילון

בהרחבה

מה זה RAG בפועל?

בלי RAG, מודל עונה מתוך מה שאומן עליו, ולכן הוא לא מכיר את המחירון שלך, את המדיניות שלך ואת הקטלוג שלך. עם RAG, כל תשובה נשענת על מסמך אמיתי שאפשר להצביע עליו.

זה גם מה שהופך תשובה לניתנת לביקורת: אפשר לדרוש שהסוכן יצטט את המקור, וכך לזהות מיד מתי הוא ענה על סמך מסמך שגוי או ישן.

LLM סוכן AI Hallucination Prompt חיפוש סמנטי Token אוטומציה השלמה אוטומטית מסד נתונים

ריחוף או מעבר במקלדת על מונח במפה מציג את ההגדרה שלו

LLM מודל שפה גדול: מודל שאומן על כמויות עצומות של טקסט ויודע לייצר תשובה בשפה טבעית.

סוכן AI מערכת מבוססת מודל שפה שמסוגלת לא רק לענות אלא גם לבצע פעולות: לחפש, לעדכן מערכת ולהפעיל תהליך.

Hallucination תשובה של מודל שפה שנשמעת סבירה ובטוחה, אך אינה נכונה.

Prompt ההוראה שנמסרת למודל שפה, וקובעת מה הוא יעשה, באיזה סגנון ובאילו גבולות.

חיפוש סמנטי חיפוש שמבין את המשמעות של מה שהוקלד ולא רק את המילים עצמן, ולכן מוצא תוצאות רלוונטיות גם כשהניסוח שונה מהאופן שבו המידע נשמר.

Token יחידת הטקסט הבסיסית שמודל שפה מעבד (בדרך כלל חלק ממילה), והיחידה שלפיה נמדדת העלות.

אוטומציה תהליך עסקי שרץ מעצמו לפי כללים שהוגדרו מראש, במקום שאדם יבצע אותו שוב ושוב.

השלמה אוטומטית הצעות שמופיעות בשדה חיפוש תוך כדי הקלדה ומשלימות את מה שהמשתמש התחיל לכתוב, כך שהוא מגיע לתוצאה בפחות הקשות ובפחות טעויות.

מסד נתונים המקום שבו המידע של המערכת נשמר בצורה מסודרת שמאפשרת לחפש בו, לעדכן ולקשר בין פריטים.

דוגמה

צ׳אט של חנות שנשאל על החזרת נעליים

לקוח שואל צ׳אט של חנות ספורט אם אפשר להחזיר נעליים אחרי 20 יום. בלי RAG המודל מנחש מדיניות סבירה, למשל 30 יום. עם RAG המערכת שולפת קודם את סעיף ההחזרות מהמסמך של החנות, שמגביל ל-14 יום, ומעבירה אותו למודל יחד עם השאלה.

התשובה מצטטת את הסעיף, ומי שבודק אותה רואה בדיוק מאיפה היא באה.

מונחים קשורים