54% מהחברות נפגעו מתקריות אבטחה עם סוכני AI, והגנתן חלשה

תקרית סוכני AI בחברתכם, זה קרוב יותר מהשאתם חושבים

מחקר חדש של VentureBeat בחן 107 חברות שהחלו להשתמש בסוכני AI אוטונומיים בתהליכים קריטיים, מכירות, עיבוד נתונים וכיו"ב. התוצאות מעוררות דיווגה.

54% מהחברות חוו כבר תקרית אבטחה או קרוב-תקרית עם סוכן AI.

התקריות אינן תמיד גדולות, אך הן מוכיחות משהו חיוני: תשתיות ההגנה הארגוניות לא תוכננו עבור סוכנים אוטונומיים המבצעים פעולות ללא פיקוח אנושי בכל שלב.

מה בדיוק הלך לא כשורה?

סוכנים, מי שמוקדשים למכירות ועד אלו שניהלו דוחות חשבונאיים, קיבלו גישה ישירה למערכות ארגוניות קריטיות: CRM, דוא"ל, דוחות פיננסיים וקובצי שותפים.

הבעיה היא שרוב הסוכנים שיתפו את אותו אישור (שם משתמש וסיסמה או API key) עם סוכנים אחרים או אפילו משתמשים אנושיים.

על פי המחקר, רק 33% מהחברות הקצו לכל סוכן זהות נפרדת, כלומר אישור מוגבל לאותו סוכן בלבד.

התוצאה? סוכן שייעודו היה לסנן מועמדים למשרות היה יכול בעצם לגשת לתיקיות אישיות של מנהלים, הוראות קבע בנק, או אפילו לנתוני שכר.

פער החישוב ופער אבטחת הסוכנים

המחקר חשף גם משהו משמעותי נוסף: חברות קונות תשתית AI הרבה יותר מהר מאשר הן מצליחות לנהל ולשלוט בה.

בעיה נוספת שהופיעה בנתונים: רוב החברות אינן יודעות בבירור מה עלות ה-AI שלהן. מעבדי GPU יושבים בתחזוקה של 50% או פחות, כלומר כסף מבוזבז.

כשמוסיפים סוכנים לתמונה, הוצאה זו גדלה, וכך גם הסיכון.

למה זה חשוב לעסק הישראלי?

הבעיה אינה מוגבלת לחברות גדולות בעמק הסיליקון. היא רלוונטית לכל ארגון ישראלי המתחיל להשתמש בסוכני AI, בין אם לאוטומציה של פילוח לידים, ניהול לקוחות או ניתוח דוחות פיננסיים.

Claude Code של Anthropic, סוכנים שבנויים מ-Zapier או Make, כולם יכולים לחשוף את האבטחה לסיכון אם לא מתוכננים כראוי.

הנקודה המרכזית: מודלים כמו Claude או ChatGPT בטוחים ברמתם, אך הסוכנים שבנויים עליהם הם כמו כל תהליך ארגוני אחר. הם זקוקים לשכבות הגנה משלהם.

איך משמרים על עצמכם?

1. קבעו מדיניות לסוכני AI, הגדירו מי רשאי לבנות סוכנים, מה הם יעשו ומי יאשר. הסוכנים שלעתים בתחומים של רפואה, פיננסים או שכר צריכים אישור של CTO או CISO.

2. הקצו זהות נפרדת לכל סוכן, במקום שכולם יעבדו עם אותו API key, כל סוכן צריך את שלו. כלים כמו MCP יכולים לעזור בניהול גישה.

3. בודדו סוכנים בסיכון גבוה, סוכנים המטפלים במערכות קריטיות (CRM, ניהול חשבונות, משאבי אנוש) צריכים סביבת עבודה מופרדת עם גישה מוגבלת וניטור צפוף.

4. עקבו אחרי עלויות וביצועים, אם אינכם יודעים כמה עולה לכם כל סוכן ומה הוא בעצם מייצר (כמה לידים? כמה שעות חסכון?), לא תוכלו לשלוט.

5. לא הכל צריך להיות סוכן, לעתים קרובות, עוזר ממודל LLM בודד (כמו Claude) עם פרומפט טוב מספיק. רבים קופצים ישר לסוכנים אוטונומיים ללא צורך.

משמעות הדברים

סוכנים אוטונומיים יהיו במנוע של עולם העסקים בשלוש השנים הקרובות. אך הם כלי דו-קצוות: אם מחוברים נכון עם הרשאות מתוך שיקול ביטחוני, הם כוח עצום. אם משתמשים בהם בחוסר זהירות, הם וקטור סיכון.

המשמעות לעסק שלכם: לפני הצבת סוכן בחברה, שאלו: מה הוא יעשה? אילו הרשאות יהיו לו? מי יפקח עליו? אם אינכם יכולים לענות בבירור, עדיין לא מוכנים.

אם כבר הצבתם סוכנים ללא תכנון כראוי, זה לא מאוחר: התחילו עכשיו באודיט של מדיניות, הרשאות וניטור.