סוכני AI חדשים = סיכוני אבטחה ישנים: Neo גוזלת 100 מיליון דולר

סוכני AI: מן הרעיון למציאות הסיכונים

אם עברת על זה, סוכן AI הוא כלי שעובד משהו בשבילך, מטפל בהודעות, מנתח נתונים, משפר תהליכים, לעיתים קרובות ללא התערבות אנושית מתמדת. וזה בדיוק המקום שבו מתחיל הסיכון.

רק השבוע, [לפי שלוש מקורות טכנולוגיים][1], סטארטאפ בשם Neo Security, שהוקם על ידי מייסדים בעלי ניסיון עמוק בסייבר מ־SentinelOne, גיוס 100 מיליון דולר כדי להגן על סוכנים אלה בחברות.

השאלה שכל מנהל צריך לשאול: האם זה סוכן שמסתכן בעצמו, או שזה זיהוי סיכון לפני שהוא מתפוצץ?

מה בעצם הוא סוכן AI ולמה הוא בעיה?

סוכן שמבוסס על Claude או ChatGPT Work, למשל, יכול להיות מופעל כדי:

• לקרוא דוחות מ־Google Drive או Salesforce
• לכתוב עדכונים ישירים לבסיס הנתונים שלך
• לשלוח דוא״ל ב־Gmail בשם המנהל
• לבצע תשלומים דרך API לספק

בעצם עצמו, זה מאוד שימושי. אבל ללא מסגרת אבטחה, דבר שהצוות של Neo מעודד, הסוכן עלול:

• לחרוג מהרשאות: לגשת לקבצים שלא צריך
• להריץ פעולות ללא בקרה: לשנות תנאי חוזה או להפיץ דוחות שגויים
• לדלוף נתונים: ללא רישום של מי בקש מה ומתי
• להיות מנוצל: אם מישהו (מבפנים או מבחוץ) חוטף את חשבון ה־API

למה Neo מקבלת השקעה כל כך גדולה?

ברור שהמשקיעים מאמינים שסוכני AI בקנה־מידה ארגוני הם העתיד הקרוב. וגם כי אוטומציה ללא בקרה = אסון.

נקודות חשובות:

1. הצוות יודע על הנושא: מייסדי Neo בנו את SentinelOne, כלי הגנה קודם שהגן על מחשבי עובדים. עכשיו הם מגנים על סוכנים.
2. המשתמשים הולכים להיות בכל מקום: אם עובד בארגון שלך משתמש ב־Claude בעבודה, הארגון צריך לדעת מה הוא עושה.
3. הסיכון גדל במהירות: מהנדסים משחררים סוכנים ללא בקרה בקוד פתוח, ואז שואלים למה הנתונים נשמרו בלילה בשירות של צד שלישי.

האמת הקשה: העיתוי של החלטה

לפי סקרים של סוכני AI במהלך 2025:

• כ־70% מהחברות שהטמיעו סוכני AI עשו זאת ללא אדם ייעודי לאבטחה שיפקח עליהם
• 54% מהחברות דיווחו על לפחות אירוע אבטחה אחד (דליפה, משימה לא מתאימה או גישה מוגזמת) תוך 3 חודשים
• ברוב המקרים הם לא יודעים אפילו שלסוכן שלהם יש בעיה עד שמישהו קורא על זה במקום אחר

מה זה אומר לעסק בישראל?

אם בנית סוכן (עם Claude Code, Lovable, Replit Agent, או כלי אחר):

1. תעדוף הרשאות

גם עם Claude Code בלבד, קבע בהנמקה מה הסוכן צריך לדעת ומה לא. אם הוא צריך דוח מ־ERP, אל תן לו גישה לנתוני משכנתאות של עובדים.

2. בקרת מעקב

אם אתה משתמש ב־MCP (Model Context Protocol) כדי לחבר Claude לכלים שלך, תעד כל פעולה. מודלים מתעדים "נעקבים" אם מי בצע פעולה, אבל רק אם בנית את הקישור בזהירות.

3. בדיקות בזמן אמת

אל תן לסוכן לעדכן נתונים בסכום גדול מסכום "נורמלי" ללא אישור אנושי. אם אתה משתמש ב־Zapier או n8n, דרוש ביצוע ידני לפני שהסוכן מבצע פעולה.

4. הדרכת הצוות

מנהלי מחלקות צריכים לדעת איך עובד הסוכן ומה הוא בטוח לעשות. אם לא, סביר שמישהו יגיד "ההשקעה לא הצליחה" לפני שיש בכלל בעיה.

5. בחר כלים עם מעקב מובנה

זו הסיבה ל־Neo. אם החברה שלך גדולה, שקול:

• סוכני AI עם MCP, כיוון ש־MCP יוצר רישום של חיבורים
• Anthropic's Skills, אלה מוקצים בחלקים ואתה שולט בהרשאות
• Zapier/n8n עם התראות, יש להם לוגיקת בקרה שלב־אחרי־שלב

למה זה לא "פתור" רק עם בינה מלאכותית?

נקודה חשובה: גם אם Claude Code או ChatGPT Work יכול לפעול בבטחון גבוה, מכיוון שהוא מודל, הוא לא קורא מחשבות. אם ההנמקה שלך אומרת "אל תעשה זאת" אבל מכילה סתירה, המודל עשוי ליצור סוכן שכן עושה זאת.

AI בעל מסגרת צריך מערכת ערכים, סט מנוהל של "מתי אני מורשה לעשות את זה?" זה בדיוק מה שכלים כמו Neo עוזרים לפתור.

שורה תחתונה

סוכנים הם גל ראשון של אוטומציה בארגונים. אבל אוטומציה ללא בקרה היא פגיעה עצמית.

100 מיליון דולר לחברה בחזית הזו מצביע על כך שהעולם מבין את הבעיה. אם אתה בונה סוכנים, בנה, בדוק ותעד. אם אתה זקוק ל־ייעוץ בתחום ה־AI או הדרכת צוות, בקש להקדיש חצי מהזמן לשכבת האבטחה כמו לסוכן עצמו.

Neo עשתה את ההיסטוריה כדי שלא תצטרכו לעשות את זה בדרך הקשה.