סוכן AI הוא לא עוד כלי. הוא עובד דיגיטלי שמקבל הרשאות, ניגש למידע, מפעיל מערכות ומוציא כסף, ואין לו מנהל ישיר. ארגון שרוצה להפיק ממנו ערך צריך לדעת בכל רגע שלושה דברים: אילו סוכנים קיימים, מה מותר להם לעשות וכמה הם עולים. בלי התשובות האלה, גם האבטחה וגם ה-FinOps הן ניחוש.
מה השתנה: מצ'אט לסוכן
לפני שנתיים השאלה בהנהלות הייתה אם לאפשר לעובדים להשתמש ב-ChatGPT. היום השאלה אחרת לגמרי. עובד בונה סוכן ב-Copilot Studio בעשר דקות, מחבר אותו ל-SharePoint ולמערכת ה-CRM, ומשתף אותו עם כל המחלקה. מפתח מריץ סוכן קוד שקורא את כל ה-repository ומפעיל פקודות בעצמו.
מאחורי כל סוכן כזה יש זהות, הרשאות, חיבורים למערכות וחשבון שמתעדכן כל שעה. ההבדל המהותי: צ'אט עונה על שאלה. סוכן פועל.
שאלה ראשונה: מי הסוכנים שלנו?
ברוב הארגונים שאני פוגש, אף אחד לא מחזיק רשימה אחת של כל הסוכנים, ה-GPTs המותאמים, האוטומציות וכלי הקוד שעובדים בפועל. הם מפוזרים בין Microsoft, OpenAI, Anthropic, GitHub ופלטפורמות Low-code. כל אחד מהם נמצא בקונסולה אחרת ובאחריות של צוות אחר. את מה שלא רואים, אי אפשר לאבטח ואי אפשר לתקצב.
שאלה שנייה: מה מותר להם לעשות?
סוכן שנבנה "רק כדי לסכם מיילים" מקבל לעיתים קרובות הרשאת קריאה לכל תיבות הדואר. סוכן ששותף "לכל הארגון" חושף את מקורות המידע שלו לכל מי שמדבר איתו. ומעל הכול עומד Prompt Injection: מסמך או מייל שמכיל הוראות נסתרות יכולים לגרום לסוכן לפעול נגד הארגון, בהרשאות שקיבל באופן לגיטימי.
העיקרון לא חדש, Least Privilege, אבל צריך ליישם אותו על זהות שאינה אדם.
שאלה שלישית: כמה הם עולים, ולמי?
עלויות AI כבר לא מסתכמות במנוי אחד. יש מושבים, קרדיטים, טוקנים, תשלום לפי שימוש מעבר למכסה, וכל ספק מודד אחרת. מושב שאיש לא השתמש בו חודשיים, או סוכן שנכנס ללולאה ושורף טוקנים כל הלילה, לא יופיעו בשום דוח עד שתגיע החשבונית.
חשוב לא פחות לדעת לאיזה צוות כל עלות שייכת. בלי זה אין שיחה אמיתית על החזר השקעה.
למה אבטחה ועלות הן אותה בעיה
קפיצה פתאומית בצריכת טוקנים של סוכן אחד יכולה להיות תקלה. היא יכולה להיות גם ניצול לרעה. ובכל מקרה היא כסף. סוכן שאיש לא מכיר הוא גם סיכון אבטחה וגם סעיף תקציבי פתוח.
לכן אני לא מאמין בצוות אחד שבודק הרשאות ובצוות אחר שבודק חשבוניות, כל אחד בכלי משלו. שניהם צריכים לעבוד מאותה תמונה: מלאי אחד של סוכנים ומשתמשים, עם הרשאות, שימוש ועלות לכל אחד.
רשימת בדיקה מעשית לסוכני AI
- יש רשימה אחת של כל הסוכנים, ה-GPTs וכלי ה-AI בארגון, כולל מי יצר כל אחד ומי הבעלים שלו.
- כל סוכן ששותף מחוץ לצוות שלו עבר בדיקה של מקורות המידע שלו.
- אף סוכן לא מחזיק הרשאה רחבה יותר ממה שהמשימה שלו דורשת.
- מפתחות API וחיבורים של סוכנים נשמרים בכספת ולא בתוך הקוד או ההגדרות.
- ידוע כמה עולה כל כלי AI בחודש, ברמת צוות ולא רק ברמת חשבונית.
- מושבים לא פעילים נבדקים ומשוחררים באופן קבוע.
- חריגה בצריכה או בהתנהגות של סוכן מעוררת התראה ולא מתגלה בסוף החודש.
שאלות נפוצות
מה ההבדל בין AI Security ל-Agentic Security?
המונח AI Security עוסק בעיקר במה שנכנס למודל ויוצא ממנו: דליפת מידע בפרומפטים ותוכן לא ראוי. המונח Agentic Security עוסק במה שהסוכן עושה: לאילו מערכות הוא ניגש, אילו פעולות הוא מבצע ובאילו הרשאות.
האם הפתרון הוא לחסום כלי AI?
לא. חסימה רק מעבירה את השימוש למקומות שלא רואים אותם. עדיף לאפשר שימוש עם נראות, מדיניות ובעלות ברורה.
איך מתחילים FinOps ל-AI כשכל ספק מודד אחרת?
מתחילים ממלאי: מי משתמש, באיזה כלי ובאיזה סוג רישוי. אחרי זה מנרמלים לחודש קלנדרי ומשייכים כל עלות לצוות. האופטימיזציה באה רק אחרי שיש תמונה אמינה.
