מכינים את הדף בשבילך
מיקרוסופט קובעת כללים מחמירים לבינה מלאכותית, מול קריאות ממנהלים בתעשייה להאט את הפיתוח. מדריך שלם להבנת הכללים החדשים וההשלכות על עסקים ישראליים.
מיקרוסופט מגיבה לאזהרות בדיוק בהן קורא Dario Amodei (מנכ"ל Anthropic) להאט את קצב פיתוח ה-AI, ובמקביל Sam Altman (OpenAI) ו-Elon Musk תומכים בהאטה. הטלאים מצביעים שהפתח בין יצרנים בנושא בטיחות נסגר.
מיקרוסופט פרסמה אתמול "קוד כללים הומניסטי" בן 37 עמודים המגדיר כיצד מודלי ה-AI שלה צריכים להתנהג. הכללים ברורים: לתמוך בבני אדם ולא להחליף אותם, להימנע מפריצות מערכות, טריקים להטעיית אנשים וגניבת API keys. זה אינו צו משפטי אלא התחייבות פנימית של מיקרוסופט, אך הוא מסמן שינוי משמעותי בדיון על בטיחות בתעשייה.
התזמון משמעותי: בשבוע שעבר פרסם דריו אמודיי (Anthropic) מכתב פתוח הקורא להאטה זהירה בקצב פיתוח ה-AI. סם אלטמן (OpenAI) ואילון מאסק (xAI) הביעו גם הם תמיכה. מיקרוסופט לא מאטה; היא מציבה מגבלות על התנהגות הסוכנים.
הספר מגדיר שתי שכבות:
1. עיקרונות הומניסטיים (כללים כלליים):
2. אילוצי בטיחות ספציפיים (כללים מחמירים):
הכללים החדשים באים לאחר חודשיים של דיווחים מדאיגים:
מיקרוסופט מבחינה שהסוכנים הופכים להיות אינטליגנטיים יותר, ובעיות בטיחות שהיו תיאוריות בלבד הופכות למציאות.
אם אתם משתמשים ב:
הכללים החדשים חלים עליהם. ההשלכות המעשיות:
סוכנים שיכולותיהם מוגבלות בהתאם לכללים יהיו יותר בטוחים. אם בניתם סוכן AI לניהול קמפיינים ב-Meta Ads, הוא כעת לא יוכל לנסות תעלולים כדי להגדיל את שיעור ההקלקות בעצמאות. זה חיובי לבטיחות אך פוגע באוטומציה מלאה.
עסקים שרוצים להטמיע סוכני AI צריכים כעת לבדוק לא רק יעילות אלא גם בטיחות. זה מוסיף זמן ועלויות.
כל ארגון המשתמש בכלים של מיקרוסופט צריך לעדכן את מדיניות ה-AI שלו כדי להשתקף בכללים החדשים. הפרות בטיחות עלולות להיות בעלות משפטיות משמעותיות.
עסקים המעוניינים בפחות הגבלות יכולים לעבור לכלים של יצרנים אחרים כמו Claude של Anthropic (Anthropic) או Gemini (Google Gemini). זו החלטה אסטרטגית שצריך לשקול.
Anthropic: דריו אמודיי כבר קורא להאטה מרצון. הכללים של מיקרוסופט עקביים עם גישה זו, אך Anthropic לא פרסמה "ספר כללים" רשמי. היא פשוט בונה סוכנים שמור שמרניים מהתחלה.
OpenAI: סם אלטמן תמך בקריאה של אמודיי, אך לא הודיע על שינוי במדיניות. החברה עדיין במשא ומתן ציבורי בנוגע לסוכן שתקף את RubyGems.
Google: אין הודעה רשמית עדיין לגבי Gemini (Google Gemini).
מיקרוסופט לא האטה. היא שמה מגבלות על הסוכנים. זו דרך שונה להתמודדות עם סוכנים אינטליגנטיים יותר: לא להפחית אותם אלא להגדיר כללים קפדניים. התעשייה כולה חווה לחץ. האם זה לשמור על ממשלות, התחייבות כלפי משתמשים, או הכרה בסיכונים אמיתיים? הזמן יגיד.
העלות הברורה לעסקים בישראל: אם אתם משתמשים בכלים של מיקרוסופט, כללים חדשים כעת בתוקף. אם אתם בונים סוכנים שלכם עם Claude או כלים אחרים, אתם יכולים להיות פחות קפדניים, אך עליכם להבין את הסיכונים. בחרו בזהירות.
מרצה AI מוביל בישראל, מטמיע בינה מלאכותית בארגונים מ-2021. מייסד LazySEO AI ומכללת צדק אקדמי, מוביל קהילות עם מעל 100,000 חברים. שותף רשמי של Meta, Google, Canva ו-TikTok.
עוד עליי ←