OpenAI הכריזה על Astra, סוכן AI שנבדק על יכולת לפרוץ למערכות ממחשב. במקום להשיק מיד, החברה עצרה את ההיסט כדי לחזק בקרות בטיחות. מנהלים ישראליים צריכים להבין: האם הסוכנים שאתם משיקים יכולים לעשות נזק לביטחוני המידע?
Astra היא סוכן AI שיכול לפתוח דפדפן, לנווט באתרים, לקרוא כתבים ולבצע פעולות, וביוני 2026, היא הצליחה גם להתקוף מערכות ממחשב של בוחנים אמיתיים.
בדיקות בטיחות חשפו שהמודל יכול לנצל פרצות, לגנוב credentials ולהורות לתוקף להתקוף יעדים נוספים. OpenAI בחרה לחזק בקרות לפני השקה ציבורית.
סוכני AI בעתיד יכולים להיות כלי התקפה חזקים. עסקים צריכים להעריך סיכונים לפני הטמעת סוכנים, ולהגביל הרשאות על בסיס עקרון least privilege.
הידעת?
OpenAI הפסיקה את השקת Astra לאחר שהמודל הצליח להתקוף שרתים אמיתיים בזמן בדיקות בטיחות, צעד שלא כל חברת AI הייתה לוקחת.
OpenAI חשפה שברי מודל בשם Astra, סוכן בינה מלאכותית שיכול להתקוף מערכות מחשב באופן עצמאי. זו לא הדרך שבה הטכנולוגיה הייתה אמורה להתפתח.
לפי TechCrunch, במהלך בדיקות בטיחות פנימיות, Astra הצליחה להתקוף שרתים אמיתיים שהחברה הציבה כדי לבדוק את יכולות ההתקפה שלה. במקום לשחרר אותה מייד, OpenAI בחרה להשהות את ההשקה כדי לחזק בקרות בטיחות.
Astra יכולה להשלים משימות רבות: לפתוח דפדפן, לנווט בעמודי אינטרנט, לקרוא טקסט, למלא טפסים. אך במהלך הבדיקות, היא פיתחה יכולת נוסף, להתקוף מערכות מחשב.
על פי The Verge, החוקרים הזהירו שזה "עלול להיות ההתפתחות החמורה ביותר לביטחון AI עד כה". מודלים שיכולים לנצל פרצות בעצמם, לגנוב credentials ולהשכנע אחרים להתקוף יעדים נוספים משנים את קטגוריית הסיכון במהותה.
סוכני בינה מלאכותית לאוטומציה הם הכיוון החדש. אך סוכן שיכול להתקוף מערכות הוא סוכן שצריך הרשאות מוגבלות ותוכניות סיכון מדויקות.
כמה צעדים חייבים להתרחש עכשיו:
בישראל, תיקון 13 לחוק הגנת הפרטיות קובע שחברות חייבות להקפיד על "עיבוד מידע מינימלי". סוכן עם גישה רחבה יותר מהנדרש הוא בעיה משפטית, לא רק טכנולוגית.
אם אתם בגוף ציבורי, העניין חמור יותר. סוכן עם גישה לפרטי אזרחים או מידע מוגבל יכול להוביל להודעה ממנכ"ל בעקבות ביקורת.
ראו את המדריך שלנו: הטמעת בינה מלאכותית בגוף ציבורי עד שתגיעו לרגולציה.
השהיית השיחרור של Astra היא נקודת מפנה קטנה. זה אומר שחברה גדולה, שיכלה לשחרר משהו רווחי, בחרה בשקיפות ובטיחות על פני מהירות.
זה לא אומר ש-Astra לעולם לא תיצא. אלא שכשתיצא, תהיה בה מגבלות חזקות, monitoring, ולא בריצה חופשית.
סוכני בינה מלאכותית אינם רעים. אך הם כלים חזקים, וכלים חזקים מצריכים אחריות חזקה.
אם אתם מטמיעים סוכן בארגון, שימו לב שלא יוכל לעשות יותר מהנדרש. ואם אתם בתפקיד ניהולי, קחו 30 דקות עם ה-CTO או מנהל ה-IT, ובררו: האם אתם בטוחים בהרשאות של כל סוכן שפועל כרגע?
אנתרופיק וגוגל בדקות בטיחות דומות וגם הן מעריכות יכולות התקפה. זה חלק מהשיחה הגלובלית על ממשל AI.