אפווינד רוכשת את Aegis: כשסטארטאפ ישראלי מזניק מעבדה של AI

סוכנות AI פתוחות להתקפות, ועכשיו יש כלים לעצור אותן

סטארטאפ ישראלי בשם Aegis בדק וחיפש חולשות בסוכני AI שמיועדים ליישומי עסקים. לפני שבועות, אפווינד החברה הגדולה, רכשה את Aegis ופתחה מעבדת מחקר להמשך פיתוח כלים כאלו.

בעיקרון, הנושא פשוט: סוכנות AI הפכו מכלי ניסיוני לציוד פעיל בעסקים. הם שולחים דוא״ל, מעבדים החזרים, יוצרים חוזים, משלחים הצעות מחיר ואוספים נתונים מאתרים, הכול ללא התערבות אדם.

וכל פעילות חדשה מובילה לסיכונים חדשים.

איפה מתחיל הסיכון

סוכן AI עשוי להתפקד בצורה מושלמת, אך אם מישהו יודע איך לעקוב אחריו או להשפיע עליו, הוא יכול:

• להשתמש בו לשליחת הודעות הטרדה ללקוחותיכם
• להעתיק דוא״ל או נתונים רגישים
• לשנות הצעות מחיר או חוזים לפני חתימה
• להמציא ראיות לחיובים או עסקאות שלא התרחשו
• לשלוף כסף מחשבון הארגון

אלו אינן תחזוקות תיאורטיות. חברות גדולות כבר בודקות סוכנים בפועל וחושפות בעיות בדיוק בתחומים אלו.

מה עשתה Aegis

Aegis בנתה סביבת בדיקה שבה אתה מעלה את הסוכן שלך, והוא מבצע בפועל:

1. ניסיונות התקפה מתוכננים, הם שולחים לסוכן פקודות שנראות אמיתיות אך מעוצבות כדי לגרום לו לחרוג מסמכויותיו
2. בדיקת יציאה מגבולות, האם הסוכן יכול להיות משוכנע לבצע פעולות אסורות?
3. סדרה של תרחישים, לא בדיקה חד-פעמית אלא עשרות סצנריוים שונים

למה זה חשוב לעסק שלכם

אם אתם בונים או משתמשים בסוכן AI בארגון שלכם (וקרוב לודאי שתעשו זאת בעתיד הקרוב), אתם צריכים:

1. בדיקת ביטחוני לפני הפעלה

לא כל סוכן זקוק לבדיקה מעמיקה, אך אם הוא עובד עם נתונים פנימיים, מערכות תשלום או תקשורת עם לקוחות, בדיקה היא חיוני.

אפווינד מספקת דוח בדיקה מלא.

2. הגדרת הרשאות מדויקת

משמעות הדבר שצריך להגדיר בבירור אילו מערכות הסוכן יכול לגשת אליהן. לא רק "מה הוא יכול לעשות" אלא גם "מה המגבלות שלו בתוך התשתיות שלנו".

3. מעקב וגלילה

סוכנות אינם זוכרים הכל (וזה למעשה טוב). אך מה שהם כן זוכרים חייב להיות מנוטר בקפדנות.

האמת על אפווינד ו-Aegis

אפווינד הוקמה בישראל בשנת 2022 והגייסה 100 מיליון דולר בשנה הראשונה בלבד. הם אינם סטארטאפ קטן. רכישת Aegis מגידה לנו משהו שאנחנו כבר יודעים:

סוכנות AI הם כעת איום ביטחוני שטרם נפתר בתעשייה. אתה יכול להפעיל סוכן לתכנון, ניהול משימות או בדיקות, אך אינך יכול להפעילו ללא בקרה ביטחונית.

כך אפווינד פועלת:

1. אפווינד מציעה כלי ביטחוני לחברות שרוצות להגן על סוכני AI
2. Aegis בודקת סוכנות לפני הפעלה
3. אפווינד אוספת נתונים ידע מכל בדיקה על איומים חדשים

מה זה אומר לעסק ישראלי

אם אתם בונים סוכן AI בארגון שלכם, שלוש נקודות חיוניות:

1. קבלו בדיקת ביטחוני לפני הפעלה

בדיקה פנימית פשוטה יכולה להצילכם מבעיות רבות. בקשו מאדם שיודע "לשבור דברים", בדרך כלל מישהו מ-IT או מאבטחת המידע.

2. הגדירו הרשאות בבירור

אם הסוכן צריך לשלוח דוא״ל, הוא לא צריך גישה לחשבונאות, ניהול חוזים או נתוני לקוחות. כל דבר בדיוק.

3. עקבו אחרי סוכנים שלא בניתם

אם משתמשים בסוכן שנבנה על ידי צד שלישי, בדקו את ביטחונו, או לפחות הכרו את הסיכון שאתם קבלים.

סיכום

אפווינד רכשה את Aegis משום שהיא מבינה משהו שחברות רבות עדיין לא קיבלו: סוכנות AI חזקים מדי כדי להשתמש בהם ללא בדיקה ביטחונית.

בישראל, יש כעת חברה המבינה בעיה זו וגם את הפתרון. זה לא רק חדשות טכנולוגיות, זה שינוי בדרך בה אנחנו בונים ומטמיעים סוכנות בעסקים בעתיד.

אם אתם מתכננים להשקיע בסוכן AI, זה הרגע הנכון לתכנן בדיקה ביטחונית מראשית.