LLM (Large Language Model) | מילון

בהרחבה

מה זה LLM בפועל?

זהו המנוע שמאחורי כלי ה-AI שרובנו פוגשים. הוא אינו מאגר ידע ואינו מנוע חיפוש. הוא מייצר את התשובה הסבירה ביותר, ולכן הוא יכול להישמע בטוח גם כשהוא טועה.

כדי שמודל יענה נכון על מידע ספציפי של עסק, מצמידים לו את מקורות הידע של אותו עסק. זה בדיוק מה ש-RAG עושה.

RAG סוכן AI Prompt Hallucination Token חיפוש סמנטי אוטומציה השלמה אוטומטית מסד נתונים

ריחוף או מעבר במקלדת על מונח במפה מציג את ההגדרה שלו

RAG שיטה שבה מודל שפה שולף תחילה מידע רלוונטי ממאגר הידע של הארגון, ורק אז מנסח תשובה לפיו.

סוכן AI מערכת מבוססת מודל שפה שמסוגלת לא רק לענות אלא גם לבצע פעולות: לחפש, לעדכן מערכת ולהפעיל תהליך.

Prompt ההוראה שנמסרת למודל שפה, וקובעת מה הוא יעשה, באיזה סגנון ובאילו גבולות.

Hallucination תשובה של מודל שפה שנשמעת סבירה ובטוחה, אך אינה נכונה.

Token יחידת הטקסט הבסיסית שמודל שפה מעבד (בדרך כלל חלק ממילה), והיחידה שלפיה נמדדת העלות.

חיפוש סמנטי חיפוש שמבין את המשמעות של מה שהוקלד ולא רק את המילים עצמן, ולכן מוצא תוצאות רלוונטיות גם כשהניסוח שונה מהאופן שבו המידע נשמר.

אוטומציה תהליך עסקי שרץ מעצמו לפי כללים שהוגדרו מראש, במקום שאדם יבצע אותו שוב ושוב.

השלמה אוטומטית הצעות שמופיעות בשדה חיפוש תוך כדי הקלדה ומשלימות את מה שהמשתמש התחיל לכתוב, כך שהוא מגיע לתוצאה בפחות הקשות ובפחות טעויות.

מסד נתונים המקום שבו המידע של המערכת נשמר בצורה מסודרת שמאפשרת לחפש בו, לעדכן ולקשר בין פריטים.

דוגמה

שאלה על מדיניות החזרות ושתי תשובות שונות

כלי AI כללי נשאל מה מדיניות ההחזרות של חנות מסוימת, והמודל עונה בביטחון: 14 יום. בפועל החנות מאפשרת החלפה תוך 30 יום, והמודל פשוט ניחש תשובה נפוצה.

אחרי חיבור לדף המדיניות של החנות (RAG), אותה שאלה מקבלת תשובה של 30 יום, עם הפניה לסעיף שממנו נלקחה. המודל לא למד דבר מחדש: הוא קיבל מסמך נכון לפני שענה.

מונחים קשורים