Observability הוא המפתח למעבר AI מ-POC ל-Production
הפער בין POC ל-Production הוא לא פער טכנולוגי. הוא פער של אמון, ואמון נבנה על נראות. מודל שנכשל לא מחזיר שגיאה, הוא מחזיר תשובה רהוטה, בטוחה בעצמה ושגויה. כדי לעלות לאוויר צריך לדעת לראות, למדוד ולשפר: Tracing מקצה לקצה, הערכה רציפה, זיהוי Drift, תיעוד מלא של כל פעולה ושליטה בעלות. Observability הוא לא תוספת אחרי ההשקה, הוא התנאי להשקה.
המרחק בין POC ל-Production
כמעט כל ארגון בישראל הריץ בשנתיים האחרונות POC של GenAI. הדמו עבד, ההנהלה התלהבה, ואז הפרויקט נתקע. לא בגלל שהמודל לא היה טוב מספיק, אלא כי אף אחד לא ידע להתחייב שזה עובד גם מחר.
בשנים האחרונות, אני רואה את הדפוס הזה חוזר שוב ושוב, מסטרטאפים ועד ארגוני אנטרפרייז. הפער בין POC ל-Production הוא לא פער טכנולוגי. הוא פער של אמון, ואמון נבנה על נראות.
AI לא נכשל כמו קוד שכתבנו
קוד שנופל מחזיר שגיאת 500, ומישהו מקבל התראה. מודל שפה שנכשל מחזיר תשובה רהוטה, בטוחה בעצמה ושגויה, עם קוד 200. זה כשל שקט, ומערכת ניטור קלאסית לא תתריע.
הרשימה ארוכה: הזיות, תשובות שסוטות ממדיניות החברה, RAG ששולף את המסמך הלא נכון, סוכן שנכנס ללולאה ושורף טוקנים, ותשובות שסוטות עוד ועוד עד שהמודל כבר לא איכותי כפי שהיה (Drift). כל אחד מהם יכול להפיל פרויקט, וכולם בלתי נראים בלי הכלים הנכונים.
ויש גם את העלות. ב-POC שילמתם על אלף קריאות, ב-Production אתם משלמים על מיליונים. השאלות של משתמשים אמיתיים לאורך זמן ב-Production שונות מהשאלות ב-POC. מי שלא מנטר עלות לבקשה מגלה את זה בחשבונית.
Observability בעולם ה-Agentic AI
Observability לסוכני AI הוא לא דשבורד של CPU וזיכרון, וגם לא רק לוג של פרומפט ותשובה. סוכן מקבל מטרה, מתכנן, מקבל החלטות ומבצע פעולות בעצמו מול מערכות אמיתיות. לכן לא מספיק לדעת מה הוא ענה. צריך לראות איך הגיע לתשובה ומה עשה בדרך. Observability כאן היא היכולת לנטר באופן רציף ובזמן אמת את ההחלטות, הפעולות והמהימנות של הסוכנים ושל המערכת כולה. הבסיס נשען על חמישה רכיבים:
- Tracing של מסלול הסוכן מקצה לקצה: כל הרצה מתועדת, מהמטרה שהתקבלה דרך שלבי התכנון וההחלטות ועד התוצאה הסופית. התיעוד כולל את השליפות מהזיכרון וממאגר הידע, את הקריאות לכלים ול-APIs עם הפרמטרים והתוצאות שלהן, ואת ההעברות בין סוכנים. בכל צעד נרשמים זמנים, טוקנים ועלות. כך אפשר להבין לא רק מה הסוכן עשה, אלא גם למה.
- הערכה רציפה (Evals) של התהליך ולא רק של התוצאה: בדיקה אוטומטית על תעבורה אמיתית, כולל LLM-as-a-judge על מסלולים שלמים. בודקים אם הסוכן השלים את המשימה, אם בחר בכלי הנכון ובפרמטרים הנכונים, ואם הגיע לתוצאה במספר צעדים סביר. המדדים כוללים הצלחה במשימה, דיוק בשימוש בכלים, נאמנות למקור, בטיחות ו-Compliance.
- Drift והתנהגות חריגה: התראה כשמסלולי הסוכן מתחילים לסטות מהדפוס הצפוי, למשל לולאות, ריבוי ניסיונות חוזרים, שימוש בכלים לא צפויים או החלטות שמשתנות אחרי עדכון מודל. התראה גם כשהשאלות, הנתונים, ה-Embeddings או התשובות של הכלים החיצוניים סוטים מהבסיס שעליו בניתם.
- פעולות, הרשאות ו-Audit: סוכן לא רק מייצר טקסט, הוא גם פועל: שולח מיילים, מעדכן רשומות ומבצע טרנזקציות. לכן צריך תיעוד מלא של כל פעולה שבוצעה בשם המשתמש. צריך גם לראות אילו פעולות דרשו אישור אנושי, מה נחסם על ידי Guardrails, והתראה מיידית על כל ניסיון לפעול מחוץ להרשאות.
- עלות וביצועים: סוכן שנתקע בלולאה יכול לשרוף תקציב בתוך דקות. לכן מודדים עלות לכל משימה שלמה ולא רק לכל קריאה למודל, וגם את מספר הצעדים, ה-Latency מקצה לקצה והשימוש בטוקנים לפי סוכן, כלי, פיצ'ר, לקוח ומודל. חשוב להגדיר גם תקרות תקציב והתראות על חריגות.
צ'טבוט שטועה מחזיר תשובה שגויה, וסוכן שטועה מבצע גם פעולה שגויה: מעדכן רשומה ב-CRM, שולח מייל ללקוח, מאשר החזר כספי או מריץ שאילתה על מסד נתונים ב-Production.
סוכן הוא לא קריאה אחת למודל, אלא שרשרת של החלטות: תכנון, בחירת כלי, קריאה ל-API, קריאת התוצאה והחלטה מה הלאה, לפעמים עשרות צעדים לכל משימה. תשובה סופית תקינה יכולה להסתיר מסלול בעייתי בדרך, וטעות בצעד השלישי מתגלגלת לכל מה שאחריו.
לכן Observability לסוכנים צריך לענות על שאלות שלא היו קיימות קודם:
- למה הסוכן בחר בדרך הזו: Trace מלא של כל צעד, כולל ההחלטה, הכלי שנבחר, הפרמטרים שנשלחו והתוצאה שחזרה.
- האם הוא משתמש בכלים נכון: זיהוי בחירה בכלי הלא נכון, פרמטרים שגויים, או קריאות חוזרות שמעידות על לולאה.
- האם המסלול עצמו תקין: הערכה של המסלול כולו ולא רק של התשובה הסופית, כולל מספר הצעדים, הצלחת המשימה ועמידה בגבולות ההרשאה.
- כמה זה עולה: סוכן שנתקע בלולאה יכול לשרוף בדקות תקציב של יום שלם. התראות על עלות ועל מספר צעדים למשימה הן לא מותרות.
- מה קורה כשסוכנים מדברים עם סוכנים: במערכות Multi-agent צריך לעקוב אחרי הבקשה גם כשהיא עוברת בין סוכנים, ולא רק בתוך כל אחד מהם.
ויש גם צד של ממשל תאגידי. מי שמאפשר לסוכן לפעול בשם הארגון חייב לדעת בדיעבד מה הוא עשה ולמה, ולכן Observability הוא גם תשתית ה-Audit וה-Compliance של Agentic AI. ארגון שלא יודע להסביר החלטה של סוכן לא יאשר לו לפעול לבד, ובצדק.
AWS כבסיס
הבשורה הטובה: מי שבונה על AWS מתחיל עם תשתית חזקה. Amazon Bedrock נותן גישה מנוהלת למודלים מובילים, כולל המודלים של Anthropic, יחד עם Guardrails ויכולות הערכה מובנות. Amazon Bedrock AgentCore מביא ניטור מובנה לסוכנים דרך Amazon CloudWatch, ו-Amazon SageMaker מכסה את ניטור המודלים בעולם ה-ML הקלאסי.
אבן היסוד כאן היא OpenTelemetry. AWS מאמצת את התקן הפתוח, ולכן ה-Traces שלכם לא נעולים בכלי אחד: אוספים פעם אחת ושולחים לאן שצריך.
השכבה שחסרה: AI Observability ייעודי
ובכל זאת, כלי ה-Native נותנים בסיס ולא תמונה מלאה. צוותי Data Science ומהנדסי AI צריכים סביבה שבנויה סביב השאלות שלהם: למה התשובה הזו נכשלה, איזה סוג שאלות מייצר הזיות, ואיך גרסת הפרומפט החדשה השפיעה על האיכות.
כאן נכנסות פלטפורמות AI Observability ייעודיות, שיושבות מעל AWS ומתחברות בטבעיות ל-Bedrock, ל-SageMaker ולסוכנים. הטובות שבהן בנויות על OpenTelemetry ועל קוד פתוח. הן מאפשרות לחקור כל Trace, להריץ Evals אוטומטיים על תעבורה אמיתית, לזהות Drift ב-Embeddings ולסגור את הלולאה בין Production לפיתוח.
יש גם יתרון עסקי: כשפלטפורמה כזו זמינה ב-AWS Marketplace, הרכישה עוברת דרך חשבון ה-AWS הקיים. במקרים רבים היא גם נספרת במסגרת התחייבות השימוש של הארגון מול AWS, כך שהשאלה אינה תקציב חדש אלא שימוש נכון בתקציב קיים.
ארבעה שלבים מ-POC לפרודקשן
- מכשירים מהיום הראשון. Instrumentation נכנס ב-POC, לא אחרי. אם אין Traces בדמו, לא תדעו למה הוא עבד.
- מגדירים מה זה "טוב". סט הערכה מוסכם עם הביזנס: מדדי איכות, סף קבלה ועלות מקסימלית לבקשה. בלי זה אין קריטריון יציאה מה-POC.
- עולים בהדרגה, עם ניטור רציף. Shadow mode או קבוצת משתמשים מצומצמת, Evals על תעבורה אמיתית, והתראות על איכות ועלות ולא רק על זמינות.
- סוגרים את הלולאה. כל כשל ב-Production נכנס לסט ההערכה, וכל שינוי של פרומפט או מודל נבדק מולו לפני שהוא עולה.
מי שמודד, עולה לאוויר
המודלים כבר מספיק טובים. מה שמפריד בין ארגון שתקוע בשלב הניסויים לבין ארגון שמפיק ערך מ-AI הוא היכולת לראות, למדוד ולשפר. Observability הוא לא תוספת אחרי ההשקה, הוא התנאי להשקה.
ב-YouCC INNO אנחנו רואים את זה בכל פרויקט Data & AI שאנחנו מלווים על AWS: הפרויקטים שעולים לאוויר הם אלה שבנו נראות מהיום הראשון. אם ה-AI שלכם עדיין חי במצגת, תפסיקו לשאול "האם המודל טוב מספיק" ותתחילו לשאול "האם אנחנו יודעים לראות מה הוא עושה".
