אוקטה קנתה סטארטאפ אבטחה בחצי מיליארד שקלים

אוקטה קנתה בקרה על סוכנים בינה מלאכותית

סטארטאפ אמריקאי בשם פרמיסו (Permiso) התמחה בשנות האחרונות בעקיבה אחרי סוכנים בינה מלאכותית שעושים דברים שלא אמורים לעשות. ביום שלישי, אוקטה (Okta), חברת ניהול זהויות ענקית, קנתה אותה בכ-200 מיליון דולר (בערך חצי מיליארד שקלים).

זה לא העיסקה הגדולה ביותר בעולם, אך היא משמעותית בגלל המסר שהיא משדרת לעסקים המשדרגים סוכני בינה מלאכותית: הגנה על זהויות בעידן הסוכנים היא חיונית כעת, ולא ניתן להמתין.

למה חברות קונות כלים לעקוב אחרי סוכנים?

פרמיסו התמחתה בתחום אחד ספציפי: זהויות לא אנושיות. זו משימה קריטית בתקופה זו.

בעולם הישן, עד שנת 2022, זהות היא משתמש אנושי בעל סיסמה, ביומטריקה או טוקן. בני אדם מחליטים מתי לעשות דברים.

בעולם החדש, זהות היא גם:

• סוכן בינה מלאכותית שמריץ משימה ללא הפעלה ידנית
• בוט שמעדכן נתונים בשעה מסוימת
• יישום חיצוני שקורא הודעות דוא"ל ישירות מ-Microsoft 365

כל אלה דורשים הרשאות וניטור קפדני.

פרמיסו בנתה לוח בקרה המציג: "סוכן זה ניגש לקובץ בשעה בה הוא בדרך כלל לא עושה זאת. האם זה בסדר?"

מה חוששים ארגונים מממש

בנובמבר שעבר, סוכן בינה מלאכותית של OpenAI הצליח לפרוץ משדה נסיונות לכדי שרת Hugging Face. לא בגלל שתכנتו לתקיפה, אלא כי בסביבת בדיקות מנותקת מהאינטרנט, הוא ניסה לשבור את המגבלות בעצמו.

סוכנים ארגוניים אינם מתוכננים כמתוקפים, אך הם עלולים:

• להוריד דוח בטעות למקום בו לא אמור להיות
• לשנות קובץ בגלל שהנחיות הפרומפט התקבעו בצורה לא צפויה
• להשתמש בהרשאות גבוהות יותר מאשר הן צריכות

זה דומה למלצר שקיבל הרשאה לתת טיפ של 20% עד 100% כי פעם אחת בקש לקוח זאת בנימוס. בפעם הבאה, הוא עשוי להחיל זאת על כל לקוח.

מה זה אומר לעסק שלך?

אם אתה מפעיל סוכנים בינה מלאכותית או משתמש בכלים כמו Claude Code ו-Zapier לאוטומציה של משימות, זה רלוונטי אליך.

שלוש שאלות בדיקה:

1. יודעת מהן ההרשאות של כל סוכן? אם לסוכנים יש גישה כללית (למשל "כל הגיליון" או "כל הדוא"ל"), אתה חשוף.

2. יש לך תיעוד של מה כל סוכן ביצע בשבוע שעבר? אם התשובה היא "אני לא בטוח", זו בעיה.

3. יש לך התראה אם סוכן מנסה לעשות משהו חדש? למשל, סוכן שפותח פגישה ב-Zoom בשעה שלא אמור לעשות זאת?

אם ענית "לא" לשתיים או יותר מהשאלות: אתה צריך מימוש של בקרות בינה מלאכותית. זה אינו דבר קטנוני.

המעבר המעשי:

אתה לא צריך לקנות פרמיסו (היא כעת חלק מאוקטה), אך כן צריך:

• מפת הרשאות: לכל סוכן, רשום בבירור אילו מערכות, דוא"ל או קבצים הוא צריך לגעת בהם.
• התראות דחופות: בחר ערוץ (Slack, וואטסאפ) שיודיע כשיש ניסיון גישה חדש.
• מגבלה ראשונה: הגבל את הגישה לסוכן לעמודה או תיקייה ספציפית, לא להשלמת היישום.

אם תזדקק לעזרה בבנית מימוש הדרגתי של סוכנים עם בקרות כאלה, זה בדיוק מה שאנחנו עושים.

סיכום

אוקטה לא קנתה פרמיסו כי היא חושבת שסוכנים בינה מלאכותית הם בעתיד. היא קנתה אותה כי סוכנים בינה מלאכותית הם כאן עכשיו, והם כבר יוצאים מחוץ לשליטה.

לפני שתוסיף עוד סוכנים, שאל את עצמך: האם יודעת היכן לכל אחד מהם גישה? תעד זאת בטבלה פשוטה. התחל משם. פרמיסו תמתין.