אנתרופיק תוקפת את עלי בaba על שכפול Claude, ההשלכות לעסקים

התקפה שחשפה חולשה בהגנה על בינה מלאכותית

אנתרופיק חשפה כי עלי בaba, ענקית הטכנולוגיה הסינית, ערכה התקפה מתוכננת על מודל Claude שלה. לפי Ars Technica, התקפה זו כללה 25,000 חשבונות מזויפים ו־28.8 מיליון חילופי שיחה. בניסיונות אלה ניסתה עלי בaba לשכפל את יכולות ההנדסה של מודל Claude.

זו לא התקפת סייבר מסורתית. זה jailbreaking בהיקף ענק, טכניקה שבה משתמשים בשאלות אסטרטגיות כדי לחלץ מידע רגיש מ־AI תוך עקיפת תנאי השימוש.

איך התקפה זו עבדה בפועל

עלי בaba לא הייתה צריכה להכנס לשרתי אנתרופיק. היא יכלה:

1. ליצור חשבונות מזויפים בפלטפורמת Claude (חשבונות תשלום חוקיים)
2. לערוך שיחות מתוכננות המעוצבות כך שמודל Claude מצוי בחסמיו, אך בנתוניהן אפשר לאתר דפוסים בהתנהגותו
3. לאסוף 28.8 מיליון חילופי שיחה, כמות גדולה מספיק כדי לשחזר בקירוב את הלוגיקה הפנימית של המודל

התוצאה? עלי בaba יכלה ליצור מודל דומה ללא צורך בחוקרים מקוריים או משאבים רבים.

למה אנתרופיק פנתה לממשלה

אנתרופיק לא נשארה שקטה. היא פנתה לממשלת ארה״ב וטענה כי:

• עלי בaba הפרה סנקציות יצוא על טכנולוגיה גדולת־יכולות (ייתכן שהמודל לא היה צריך להיות זמין בסין)
• ההתקפה נמשכה שנים ללא גילוי, מה שמצביע על תוכנית שיטתית
• זו גניבת קניין רוחני, תחום המשמש כנשק בויכוחי המסחר בין ארה״ב וסין

השלכות לעסקים בישראל

1. בטיחות מודלים דורשת השקעה מתמדת

אם אתם משתמשים ב־Claude, ChatGPT או בכל מודל אחר, עליכם להבין שהספק חייב להיות פעיל בהגנת המודל. תוקפים אחרים עלולים לנצל "דלתות צד" כדי להנגיש את הטכנולוגיה לתחרויות.

2. התחרויות בעולם יהפכו זולות יותר

אם סין תשתמש בעותק של Claude, היא תוכל לבנות מודלים זולים יותר. זה יוביל להנמכת מחירים בעולם, עדיף לחברות קטנות, אך בעייתי לעלויות הטכנולוגיה שלכם.

3. רגולציה אמריקאית תתחזק

הממשלה האמריקאית תגיב. צפו:

• חוקים חדשים נגד גניבת קניין רוחני בתחום הבינה המלאכותית
• דרישות אישור ביטחוני לשימוש בטכנולוגיה AI
• ביקורות חוקיות לפני שימוש בחשבונות בחו״ל

מה עלי בaba אומרת

עלי בaba לא פרסמה תגובה רשמית עדיין. אך בהתחשב בלחץ הסחר האמריקאי, סביר להניח כי התגובה תהיה:

• שלילה מלאה (הטכנולוגיה היא שלנו)
• או חקירה פנימית (נבדוק אם זה באמת קרה)

שורה תחתונה

התקפת עלי בaba על Claude חושפת בעיה מבנית בבטיחות בינה מלאכותית: ספקים גדולים יכולים להיות מועתקים על ידי מתחרים בעזרת טכניקות זולות. לעסקים שלכם זה אומר:

1. בחרו ספקים שמתייחסים לבטיחות ברצינות, אנתרופיק פעלה כך, וזה חיובי
2. היו מודעים לתלות במודל יחיד, בדקו אלטרנטיבות
3. עקבו אחר החדשות הרגולטוריות, ממשלות תערבנה בקרוב

זו עוד הוכחה כי בינה מלאכותית איננה רק כלי, היא משאב דיפלומטי וביטחוני מדרגה ראשונה.

צריכים עזרה בבחירת מודל AI או בניית אסטרטגיית בטיחות? צרו קשר לייעוץ.