אמזון חשפה חולשה בקלוד, וזה הובילה להשעיית מודלים בארה״ב

מה קרה בדיוק?

ביום שישי 13 ביוני, אנתרופיק קיבלה הוראה ממשלתית מעת ה-FBI וה-CISA (וכנראה מוגבלות אמריקאיות נוספות). ההוראה הייתה ברורה: השעו את גישתם של כל משתמשים בחו״ל (וגם עובדיכם) למודלי Fable 5 ו-Mythos 5.

החברה פעלה במהירות. בתוך שעות, המודלים החדשים, שהיו לחי דקות קודם לכן, היו אפלים כחדשות מדיום ערב.

מי עמד מאחורי ההחלטה?

על פי דוח ב-Wall Street Journal (שדווח על ידי TechCrunch וThe Verge):

1. מחקר אבטחה באמזון, צוות הסייברנטיקה של אמזון גילה חולשות באבטחת המודלים החדשים
2. שיחות עם הבית הלבן, Andy Jassy, מנכ"ל אמזון, הובא לשיחות עם גורמי ממשלה
3. צו פיקוח על יצוא, הממשלה הודיעה שמודלים כאלה חזקים מדי כדי להיות זמינים בחו״ל

מה זה אומר?

ברמה טכנית

החולשה שאמזון גילתה כנראה קשורה ל-jailbreak vulnerability, טכניקה להוציא AI מן הגדרות הבטיחות שלו. כאשר מודל חזק מאוד (Fable 5 / Mythos 5), קשה יותר להפעיל שליטה עליו בלא לפגוע בביצועיו.

זה סוג של trade-off בתחום AI:

• מודלים חלשים יותר → קל יותר לשלוט בהם → פחות טהירים
• מודלים חזקים יותר → קשה יותר לשלוט בהם → יותר סכן

ברמה עסקית

לתשחקנים בעולם: זה אות נח כי ממשלות כבר לא רק מדברות על AI, הן פועלות. קנוניות המגבלות תתחזקנה, והזמינות של כלים חדשים עלולה להיות חסומה בשנייה.

לאנתרופיק: החברה זה עתה איבדה שלוש ימים של הצגה של המודלים החדשים שלה (שהיו אמורים להיות breakthrough). זה מכה לעתיד שלהם.

ברמה גיאופוליטית

זה חלק מרחוב גדול יותר:

• ארה״ב מנסה להקדים את סין בתחום AI
• ארה״ב אינה רוצה שמודלים חזקים מאוד יוצאו מהמעבורת שלה
• אם סין תשיג גישה למודלים כאלה, זה יוכל להאיץ את היכולות שלהם באופן משמעותי

המשמעות לעסקים בישראל

1. תסתכלו על הרגולציה כחלק מהסיכון

כשאתם בוחרים כלי AI עבור הארגון, כלא רק על יכולות וציבור, אלא גם על עמידות רגולטורית. מודלים שפועלים בחו״ל עלולים להיות חסומים או מושעים בשנייה.

2. אל תהיו תלויים בטוב אחד בלבד

ראו את המקרה של אנתרופיק כתרגיל: אם תלויים רק ב-Claude, ודברים השתנו בחודש הבא? משתתפים אחרים (OpenAI, Google, Mistral) הם חוסן קריטי.

3. בטיחות לא נגמרת

העובדה שאמזון גילתה חולשה בקלוד 5 מעניינת כי זה מראה שגם החברות המובילות בעולם עדיין מקדחות בעמודי הבטיחות שלהם. עסקים צריכים להיות זהירים.

מדוע זה משנה בעכשיו?

הקונטקסט: שבוע שעבר, ממשלת ארה״ב כבר הורתה לאנתרופיק להשעות את פייבל 5 ומיתוס 5. עכשיו אנחנו יודעים הסיבה, אמזון זינקה למערכת הבטיחות.

זה חוזר לנושא שדיברנו עליו קודם: כשה-AI מנתח את AI, האם זה אמין? תשובה: לא תמיד. אך כאן, מחקר אבטחה של אמזון היה מספיק כדי להפעיל מנגנון ממשלתי שלם.

שורה תחתונה

הממשלה האמריקאית עדכנה את הנוהל שלה בנוגע לעזרה בינה מלאכותית: חזקים מדי = חסום. לא משנה כמה טובים המודלים, אם הממשלה חושבת שהם סיכון, הם יוצאים מהשחקה.

לאנתרופיק, זה היה הוקע. לאמזון, זה מעלה כוח. לעסקים בעולם, זה פחות מעיד: הרגולציה בוודאות שם יותר בחזקה על כלים חדשים מאשר בעבר.

אם אתם עושים השקעה בAI, עדכנו את תוכניתכם החמש שנתית.