מכינים את הדף בשבילך
מיקרוסופט משיקה מודל AI ראשון לאבטחה ומערכת הגנה בסוכני AI. הבחירה להתפרש לאבטחה פנימית חשיפה ל-עמית עסקים ישראלים צריכים לדעת.
סוכני AI הם היעד החדש של האקרים, מיקרוסופט משיקה כלים להגנה עליהם לפני שהם הפכו לחלק בלתי נפרד מהעסק.
מיקרוסופט הודיעה השבוע על שני דברים חשובים:
מודל בינה מלאכותית ייעודי לאבטחה בסייבר, המודל הראשון של מיקרוסופט שנועד לזיהוי התקפות על סוכנים בינה מלאכותית וכלים, ולא רק על רשתות מחשבים.
פלטפורמה הגנה אגנטית, מערכת שמנתקת סוכנים בינה מלאכותית כשהם מזהים פעילות חשודה, ללא הפרעה לעבודה הרגילה.
המהלך משמעותי מכיוון שהוא מגדיר סוג חדש של איום: לא רק שרת שנפרץ, אלא סוכן בינה מלאכותית שנשלט על ידי תוקף ויכול להעניק נזק ממשי.
סוכנים בינה מלאכותית הם בדרך להיות חלק בלתי נפרד מהעסקים בשנה הקרובה:
אם סוכן כזה נפרץ, תוקף יכול לשלוח מיילים זדוניים, להתחזות לנציג הארגון, או להוציא נתונים רגישים.
עד כה, מקצועות האבטחה בסייבר לא היו מוכנים לאיום הזה. הם חושבים "רשת, שרתים, אפליקציות", ולא "סוכן עצמאי שפועל לבדו".
ברבעון הקרוב, עוד ועוד עסקים ירצו להטמיע סוכנים. אפילו חברות קטנות שמשתמשות ב-Claude Code או Zapier צריכות להשתמש בסוכנים.
בדומה לשאלה "יש לכם אימות חד-שלבי?" שנשאלת היום, בעוד שנה תוקפים יתחילו לשאול "מה קורה אם הסוכן שלכם נשלט?"
לכן, התיאום של מיקרוסופט עם חברות נוספות בתחום האבטחה משמעותי. הוא מקבע בארגון שלכם: סוכן בטוח = סוכן שעומד בתקנים של אבטחה.
רוב הסוכנים בארגונים ישראליים בנויים על Claude או ChatGPT וחלקם פועלים בעברית. מערכות אבטחה כמו המודל של מיקרוסופט צריכות להבין עברית גם כן.
אם יש לכם סוכן לדיוק לידים או סוכן שירות לקוחות ב-Claude Code או Zapier, לאן הוא מחובר? למייל? למסד נתונים? לחשבון בנק?
חשוב לתעד:
אם אתם משתמשים ב-Zapier או ב-Claude Code, שאלו את הספק:
רוב הספקים עדיין לא יודעים להשיב. זה תקני. השאלה עצמה תגרום להם להתחשב בנושא.
אתם לא צריכים מודל של מיקרוסופט בו-זמנית. אך אתם צריכים:
מיקרוסופט לא בודדה. גם Nvidia וחברות נוספות הודיעו על 联盟Open Secure AI Alliance, קבוצה של חברות (ללא OpenAI, Google ו-Anthropic כרגע) שבונות כלים בקוד פתוח להגנה על סוכנים.
זה אומר:
סוכני בינה מלאכותית כאן כדי להישאר. הם הולכים להיות כמו שרתים בשנות ה-2000. בדומה לזה שהחברות הבינו "צריך firewall", גם כולם יבינו בהדרגה "צריך להגן על סוכנים".
מיקרוסופט ואחרים כבר התחילו. אתם? עכשיו זה הזמן לחשוב על זה, ולא לאחר מכן כשיש בעיה.
אם אתם בונים סוכן בינה מלאכותית כעת בעסק שלכם, שאלו את עצמכם: "מה יקרה אם מישהו יתפוס את הסוכן הזה?" התשובה צריכה להיות "לא כל כך רע", ולא "סיוט מוחלט".
מרצה AI מוביל בישראל, מטמיע בינה מלאכותית בארגונים מ-2021. מייסד LazySEO AI ומכללת צדק אקדמי, מוביל קהילות עם מעל 100,000 חברים. שותף רשמי של Meta, Google, Canva ו-TikTok.
עוד עליי ←