המונח סוכן AI נכנס לשימוש רחב, ולא כל מי שמשתמש בו מתכוון לאותו דבר. עבור בעל עסק, ההגדרה שחשובה היא מעשית: מה המערכת מסוגלת לעשות בלי שאדם יכווין כל צעד, מול אילו מערכות, ומה קורה כשהיא טועה. המאמר עונה על השאלות האלה לפי הסדר.
מה ההבדל בין סוכן לצ'אטבוט
חברת Anthropic, בהנחיות הפיתוח שלה, מבדילה בין שני סוגי מערכות. בתהליך עבודה (workflow) מודל ושאר הכלים מתוזמרים בנתיב שנקבע מראש בקוד. בסוכן המודל מכוון בעצמו את התהליך ואת השימוש בכלים, ושומר שליטה באופן שבו המשימה מתבצעת. ההבדל הזה הוא לב העניין: בתהליך קבוע הצעדים ידועים מראש, ובסוכן הם נקבעים תוך כדי עבודה.
- צ'אטבוט מבוסס כללים: עוקב אחרי עץ שאלות ותשובות. צפוי, זול, ומוגבל למה שנכתב בו.
- צ'אטבוט מבוסס מודל שפה: מנסח תשובות גמישות על בסיס חומר שנמסר לו. טוב לשאלות ותשובות, אבל לא פועל במערכות.
- סוכן AI: מסוגל לקרוא נתונים, להפעיל כלים ולבצע פעולות בהתאם להרשאות שניתנו לו. מתאים למשימות שמשתנות.
ההבדל המלא מפורט בהשוואה בין צ'אטבוט לסוכן AI, ומי שרוצה להבין את הצד הרחב יותר ימצא אותו במאמר על שירות לקוחות עם AI בישראל. אצלנו הנושא נבנה במסגרת סוכני AI לעסק ושל צ'אטבוטים ונציגים דיגיטליים.
בפועל רוב העסקים נתקלים בשלושת המצבים גם יחד: חלק מהפניות פשוטות ומתאימות לתסריט, חלק דורשות חיפוש מידע, וחלק דורשות פעולה במערכת. לכן ארכיטקטורה נבונה משלבת בין השלושה, ומפעילה סוכן רק במקום שבו הוא באמת נדרש.
1/6 פרקים מאחוריכם · נותרו כ-5 דק'
לאילו משימות סוכן מתאים
סוכן מתאים כשהמשימה דורשת לקרוא מכמה מקורות, להחליט מה הצעד הבא ולבצע אותו. ארבע משימות מייצגות:
- שירות לקוחות: מענה לשאלות על סמך מאגר ידע, בדיקת סטטוס הזמנה במערכת, ופתיחת קריאה לנציג כשהמקרה חורג.
- מיון והעשרת לידים: קריאת פנייה, השלמת פרטים ממקורות פנימיים, הערכת התאמה ושיוך לנציג.
- עבודה פנימית: איתור מסמכים, סיכום שיחות ופגישות, והכנת טיוטות על בסיס נתוני הארגון.
- תפעול: מעקב אחרי חריגות, איסוף נתונים ממערכות והכנת דוחות או התראות.
מה שמשותף לכולן הוא שהן מערבות חומר לא מובנה (טקסט חופשי, מסמכים, שיחות), ושאפשר להגדיר מה נחשב הצלחה. משימה שאי אפשר למדוד אינה מתאימה כנקודת פתיחה.
2/6 פרקים מאחוריכם · נותרו כ-5 דק'
איך מחברים סוכן למערכות העסק
סוכן שאינו מחובר לנתונים של העסק יודע לשוחח, אך לא לעזור. החיבור נעשה בשתי שכבות. הראשונה היא ידע: שימוש בטכניקת RAG, שבה המודל שולף מידע ממאגר המסמכים והנתונים של העסק לפני שהוא עונה, ובכך מצמצם את הסיכון ל-Hallucination, כלומר תשובה שנשמעת סבירה ואינה נכונה. את הרעיון הזה מפרט המאמר על RAG על הנתונים שלכם.
השכבה השנייה היא פעולה: כלים (tools) שהסוכן רשאי להפעיל, כל אחד דרך ממשק מוגדר, למשל חיפוש לקוח ב-CRM, בדיקת מלאי או יצירת משימה. את הכלים בונים כך שכל אחד עושה דבר אחד, מוגבל להרשאות מינימליות, ומחזיר תוצאה ברורה. כאן נעשית עבודת האינטגרציה: ממשקי API, הרשאות, ויומן פעולות. החיבור למערכות CRM וליתר מערכות הליבה הוא החלק שקובע אם הסוכן יהיה שימושי או רק מרשים.
ערוץ המגע הוא החלטה נפרדת. הסוכן יכול לשרת את הלקוח באתר, ב-WhatsApp או במייל, ויכול לשרת רק את הצוות הפנימי. כדאי להתחיל בערוץ פנימי: הוא פחות חשוף, ומאפשר ללמוד איך הסוכן מתנהג לפני שהוא פוגש לקוחות.
מה נדרש מהעסק עצמו: בעלים לסוכן, שאחראי על איכות התשובות והפעולות ועל עדכון הידע; חומרי ידע מעודכנים, כי סוכן שנשען על מסמכים ישנים ייתן תשובות ישנות; והגדרה ברורה של מתי עוברים לאדם. פרויקטים של סוכנים נתקעים בדרך כלל על הנתונים והבעלות, לא על המודל.
3/6 פרקים מאחוריכם · נותרו כ-4 דק'
בקרה ואבטחה
ככל שהסוכן מקבל יותר יכולת פעולה, צריך יותר בקרה. פרויקט OWASP, שמפרסם את עשרת הסיכונים המרכזיים באפליקציות מבוססות מודלי שפה, כולל בין היתר Prompt Injection, שבו קלט משנה את התנהגות המודל, ו-Excessive Agency, שבו המערכת מקבלת יותר אוטונומיה מהנדרש. שני הסיכונים האלה הם בדיוק מה שצריך לתכנן מולם בכל סוכן שפועל במערכות.
- הרשאות מינימליות: הסוכן יכול לקרוא ולכתוב רק מה שהמשימה דורשת, ולא לגשת למערכת שלמה.
- אישור אנושי לפעולות רגישות: החזר כספי, מחיקה או שליחה ללקוח עוברים לאישור אדם. ההנחיות של Anthropic מתארות סוכן שעוצר לקבל משוב אנושי בנקודות ביקורת או כשהוא נתקל בחסם.
- תנאי עצירה: מגבלה על מספר הצעדים ועל זמן הריצה, כדי שסוכן לא ייכנס ללולאה.
- בדיקות לפני הפעלה: ההנחיות ממליצות על בדיקות מקיפות בסביבת בדיקה סגורה, וכדאי לכלול בהן תרחישים מייצגים ותרחישים עוינים.
- יומן ומדידה: תיעוד כל קריאה לכלי, כדי שאפשר יהיה לבדוק למה הסוכן החליט כפי שהחליט.
- הגנת נתונים: הגבלת המידע האישי שנשלח למודל, ובדיקת הסכמי הפרטיות עם ספק המודל.
ההנחיות של Anthropic מדגישות גם את המחיר: מערכות סוכניות מחליפות לעיתים זמן תגובה ועלות בביצועים טובים יותר, והאוטונומיה שלהן עלולה להצטבר לטעויות. זו הסיבה שבקרה אינה תוספת, אלא חלק מהתכנון.
4/6 פרקים מאחוריכם · נותרו כ-3 דק'
מתי לא צריך סוכן
לא כל בעיה דורשת סוכן. ההנחיות של Anthropic ממליצות להתחיל בפתרון הפשוט ביותר ולהוסיף מורכבות רק כשצריך, ומציינות שלעיתים קריאה בודדת למודל עם שליפת מידע ודוגמאות מספיקה. תהליכי עבודה קבועים נותנים ביטחון וצפיות במשימות מוגדרות היטב, וסוכן עדיף כשנדרשת גמישות והחלטות המבוססות על המודל בהיקף גדול.
- התהליך קבוע וצעדיו ידועים: אוטומציה רגילה זולה, יציבה וקלה לבדיקה. ראו את עשרים התהליכים שכדאי להפוך לאוטומטיים.
- השאלות חוזרות על עצמן ויש להן תשובה מוגדרת: צ'אטבוט עם מאגר ידע מספיק.
- אין נתונים נגישים וארוזים: סוכן ללא ידע מהימן ימציא, ולכן קודם מארגנים את הנתונים.
- המחיר של טעות גבוה ואין מי שיאשר: לא מפעילים סוכן אוטונומי במצב כזה.
כדאי לשים לב גם לתחזוקה: מודלים מתעדכנים, מערכות משתנות ושאלות הלקוחות מתחלפות, ולכן סוכן אינו פרויקט חד-פעמי. מי שמפעיל סוכן צריך תהליך קבוע של בדיקת שיחות לדוגמה, תיקון ידע והתאמת הנחיות, בדומה לניהול נציג שירות חדש בשנה הראשונה.
שיקול נוסף הוא עלות ההפעלה. כל פעולה של סוכן כוללת קריאות למודל, ולעיתים כמה קריאות למשימה אחת, ולכן כדאי למדוד את העלות לכל משימה ולא רק את הצלחתה. סוכן שמפעיל עשרות קריאות על שאלה פשוטה הוא סימן שאפשר לפשט את התהליך.
כדאי גם לשאול את הספק או הצוות שבונים את הסוכן שלוש שאלות: איך נמדדת איכות התשובות, מה קורה כשהסוכן אינו בטוח, ואיך אפשר לעצור אותו מיד. תשובות מעורפלות לשלוש אלה הן סימן אזהרה, כי הן מעידות על מערכת שנבנתה להדגמה ולא לשימוש יומיומי בעסק.
5/6 פרקים מאחוריכם · נותרו כ-2 דק'
איך מתחילים
התחלה נכונה קטנה ומוגדרת. בוחרים משימה אחת בעלת נפח סביר ותוצאה שאפשר למדוד, מאגדים את מקורות הידע שלה, ומגדירים מה הסוכן רשאי ולא רשאי לעשות. מפעילים בתצורה שבה אדם מאשר, מודדים אחוז תשובות נכונות ואחוז הפניות לנציג, ומרחיבים את האוטונומיה רק לפי הנתונים. כך מתקדמים בלי להמר על הכול בבת אחת.
שורה תחתונה לבעל עסק: סוכן AI הוא כלי חזק כשיש משימה מתאימה, נתונים מסודרים ובעלים אחראי. כשחסר אחד מהם, פתרון פשוט יותר ייתן תוצאה טובה יותר, מהר יותר ובסיכון נמוך יותר. ההחלטה הנכונה מתקבלת אחרי אפיון קצר של המשימה, ולא לפני.
מה ההבדל בין סוכן AI לצ'אטבוט?
צ'אטבוט עונה בתוך תסריט או מאגר ידע, וסוכן מחליט בעצמו אילו כלים להפעיל ובאיזה סדר, ופועל במערכות העסק בהתאם להרשאות. לכן סוכן גמיש יותר, אבל גם דורש יותר בקרה.
האם סוכן AI יכול לטעות?
כן. מודלי שפה עלולים להמציא מידע (Hallucination) ולפעול לא נכון במצבים חריגים. מצמצמים את הסיכון באמצעות חיבור לנתוני העסק, הרשאות מצומצמות, אישור אנושי לפעולות רגישות ובדיקות לפני הפעלה.
האם כל עסק צריך סוכן AI?
לא. עסק שהתהליכים שלו קבועים ושאלות הלקוחות שלו חוזרות על עצמן יסתפק לרוב באוטומציה או בצ'אטבוט עם מאגר ידע. סוכן מתאים כשהמשימות משתנות ודורשות החלטות, ויש נתונים נגישים שעליהם אפשר לבסס אותו.




