אנתרופיק תוקפת את עלי בaba על שכפול Claude, ההשלכות לעסקים
אנתרופיק חשפה התקפה מסיבית של עלי בaba על מודל Claude שלה, תוך שימוש ב-25,000 חשבונות. התקפה זו מעלה שאלות משמעותיות על בטיחות מודלי AI, הגנת IP ורגולציה בתחום.
אנתרופיק חשפה התקפה מסיבית של עלי בaba על מודל Claude שלה, תוך שימוש ב-25,000 חשבונות. התקפה זו מעלה שאלות משמעותיות על בטיחות מודלי AI, הגנת IP ורגולציה בתחום.
עלי בaba ערכה 28.8 מיליון שיחות עם Claude דרך 25,000 חשבונות כדי לחלץ את הליבה של המודל, טכנולוגיה, ידע והנחות העיצוב שלו. זה דומה לרצות להבין איך מנוע מכוניות עובד על ידי שאלה אלפי שאלות.
אם המודלים שאתם משתמשים בהם יכולים להיות מעתקים, רמת ההבחנה והאמינות שלכם בשוק נפגעת. בנוסף, הגנה על ה-IP של הספקים שלכם עלולה להתדרדר, וזה משפיע על העלות והיציבות של הפתרונות שאתם משתמשים בהם.
אנתרופיק הודיעה לממשלת ארה״ב על ההתקפה וקראה לעונש. זו לא דיפלומטיה, זו תביעה משפטית פוטנציאלית על גניבת IP.
הידעת?
עלי בaba ערכה 28.8 מיליון חילופים עם Claude דרך 25,000 חשבונות כדי לכפות את המודל, טכניקה שנקראת 'jailbreaking' בהיקף חסר תקדים.
אנתרופיק חשפה כי עלי בaba, ענקית הטכנולוגיה הסינית, ערכה התקפה מתוכננת על מודל Claude שלה. לפי Ars Technica, התקפה זו כללה 25,000 חשבונות מזויפים ו־28.8 מיליון חילופי שיחה. בניסיונות אלה ניסתה עלי בaba לשכפל את יכולות ההנדסה של מודל Claude.
זו לא התקפת סייבר מסורתית. זה jailbreaking בהיקף ענק, טכניקה שבה משתמשים בשאלות אסטרטגיות כדי לחלץ מידע רגיש מ־AI תוך עקיפת תנאי השימוש.
עלי בaba לא הייתה צריכה להכנס לשרתי אנתרופיק. היא יכלה:
התוצאה? עלי בaba יכלה ליצור מודל דומה ללא צורך בחוקרים מקוריים או משאבים רבים.
אנתרופיק לא נשארה שקטה. היא פנתה לממשלת ארה״ב וטענה כי:
אם אתם משתמשים ב־Claude, ChatGPT או בכל מודל אחר, עליכם להבין שהספק חייב להיות פעיל בהגנת המודל. תוקפים אחרים עלולים לנצל "דלתות צד" כדי להנגיש את הטכנולוגיה לתחרויות.
אם סין תשתמש בעותק של Claude, היא תוכל לבנות מודלים זולים יותר. זה יוביל להנמכת מחירים בעולם, עדיף לחברות קטנות, אך בעייתי לעלויות הטכנולוגיה שלכם.
הממשלה האמריקאית תגיב. צפו:
עלי בaba לא פרסמה תגובה רשמית עדיין. אך בהתחשב בלחץ הסחר האמריקאי, סביר להניח כי התגובה תהיה:
התקפת עלי בaba על Claude חושפת בעיה מבנית בבטיחות בינה מלאכותית: ספקים גדולים יכולים להיות מועתקים על ידי מתחרים בעזרת טכניקות זולות. לעסקים שלכם זה אומר:
זו עוד הוכחה כי בינה מלאכותית איננה רק כלי, היא משאב דיפלומטי וביטחוני מדרגה ראשונה.
צריכים עזרה בבחירת מודל AI או בניית אסטרטגיית בטיחות? צרו קשר לייעוץ.
ממשלת ארה״ב בודקת את הפרת הפיקוח על יצוא של Claude. עלי בaba לא הגיבה רשמית עדיין.