למה OpenAI לא תומכת בפומבי בתוכנית הבטיחות של Nvidia

מה קרה בדיוק?

TechCrunch דיווחה שOpenAI (OpenAI) אינה תומכת בפומבי בפלטפורמה Open Agent Safety Platform של Nvidia, פלטפורמה שנוצרה כדי להגביל סוכני AI החורגים מהרשאותיהם ופועלים באופן בלתי מפוקח.

אך זהו רק חלק מהסיפור: OpenAI כן עובדת עם Nvidia על כך בשקט. היא חברה בפורום, אך לא הודיעה על הדבר לציבור.

למה OpenAI שותקת?

שלוש הסברים אפשריים:

1. עמדה תחרותית. אם OpenAI תומכת בפלטפורמה של Nvidia, זה עשוי להיראות כאילו מיקרוסופט (Microsoft) השקעה (בעלת השליטה בעקיפין) קובעת את סטנדרטי הבטיחות לסוכני AI. זו תמונה גרועה למותג.

2. משאלה להשתמעות עצמאות. כנראה ש-OpenAI רוצה להראות שהיא קובעת סטנדרטים עצמאיים, ולא מוכתבת מבחוץ. בתעשיית ה-AI, בטיחות היא סוגיה פוליטית.

3. המתנה למוודאות. הפלטפורמה עדיין חדשה. OpenAI מחכה לראות אם היא תשרוד והשתרשות לפני שמצהירה על תמיכה רשמית.

מהי פלטפורמה Open Agent Safety Platform של Nvidia?

זו פלטפורמה משותפת שבה חברות AI מדווחות על תקלות בטיחות: סוכנים ששלחו הודעות ללא הסכמה, גישו מערכות שלא הוסמכו, או ביצעו משימות שלא ביקשו.

בתאוריה, זו תשתית דומה לגיטהב (GitHub) אך לבטיחות סוכנים. בפועל, זו עוד ועדה שחברות משתמשות בה כדי להציג התחייבות, אך פועלות לפי חוקיהן שלהן.

מה פירוש הדבר לעסק הישראלי?

1. אין עדיין סטנדרט בינלאומי

התעשייה עדיין לא הסכימה כיצד להבטיח שסוכנים לא יחרגו מטווח הפעולה שלהם. אם יש לכם סוכן AI בחברה, אתם תלויים בהערכתכם שלכם.

צעד יישומי: אל תמחכו לנורמליזציה. צריך לכתוב פרוטוקול התמודדות עם אירועי AI כבר עכשיו. מי סוקר את הלוגים של הסוכן? מי מגיב כשהוא עושה משהו בלתי צפוי? מה השלבים בהשבתה? המדריך המלא כאן.

2. גם OpenAI היא בחוסר וודאות

אם OpenAI עצמה לא מצהירה היכן היא עומדת בנושא בטיחות, ברור שחברות אחרות גם מתלבטות. זו סיבה להנהלה שלכם לבקש הבהרה.

צעד יישומי: כשאתם קובעים משימה לסוכן AI, תיעדו בבירור: אילו מערכות הוא יכול לגשת? אילו פעולות מותרות? אני משתמש בתבנית להרשאות סוכן AI שעוזרת בתכנון זה.

3. חברות עם פרוטוקול מראש יהיו בעדיפות

כמו בכל תחום בטיחות (סייבר, משפטי, פיננסי), חברות שכבר מוכנות עם נוהל לא יתגברו עליהן דרישות פתאום.

צעד יישומי: קבעו רמות תגובה ברורות: אם סוכן קורא נתונים רגישים, זה אזעקה? אם הוא שולח דוא"ל ללא אישור, מי מעצר את התהליך? מנהל הפרויקט? מנהל ה-IT?

למה OpenAI בחרה בשתיקה?

כנראה שהיא רוצה להראות התחייבות חוויונית לבטיחות, לא פקודה משרדית. זה טקטיקת שיווק. חברות כמו Anthropic (Anthropic) ו-Google עשו אותו הדבר.

השיעור לעסקים: אל תמחכו לצו משרדי או ממספק ה-AI שלכם. קבעו את הסטנדרט שלכם.

מסקנה

OpenAI עובדת עם Nvidia על בטיחות סוכנים, אך לא פרסמה זאת. זה מעיד על מחלוקת שקטה בתעשייה בנושא ניהול סוכני AI עצמיים.

בעסקים בישראל, לא תוכלו להמתין. פרוטוקול התמודדות עם אירועי AI וערכי בטיחות צריכים להיות מתועדים והכרוזים כבר עכשיו:

1. מי מקבל הרשאות לסוכן? (מנהל יחיד או ועדה?)
2. מי בודק את הלוגים? (יומי? שבועי?)
3. מה רמות הכיבוי? (עצירה מיידית, או דיווח תחילה?)

אני מלמד זאת בכל סדנת AI לארגונים. אם צריכים עזרה בתיעוד זה, אני כאן.