סודות עולם המודלים: מה חברות בינה מלאכותית לא מספרות

בעיית אי-השקיפות בתחום מודלי העולם

תחום מודלי העולם (World Models) בבינה מלאכותית עומד בהצומת מעניינת. הוא מקבל השקעות ניכרות וציפיות גבוהות מחברות טכנולוגיה וממשלות, שרוצות לראות בינה מלאכותית שיודעת לפעול בעולם הפיזיקלי, ולא רק לכתוב, לצייר או לענות על שאלות.

אך החברות בתחום הן בעצם שקטות כמו עיר ריקה.

מי נמצא בקו החזית?

החברות הגדולות (OpenAI, Google DeepMind, אנתרופיק (Anthropic), Meta, xAI) כולן בונות מודלים שאמורים להבין דינמיקה פיזיקלית, לתכנן מהלכים, ללמוד מסימולציה. לחלק מהן גם רובוטים בשדה לבדיקה.

אבל:

• לא משתפים דוחות עצמאיים על ביצועים בעולם האמיתי
• נתוני אימון נשמרים בחסות מלא: הנתונים, הטכניקות וגם היסודות
• Benchmarks ציבוריים מעטים, והחלק שכן קיים מתבסס על סביבות סימולטיביות בלבד
• טווח ההסתרה ארוך: כשחברה משיקה מודל, עברו חודשים או שנים של מחקר בחסיון

מדוע ההסתרה הזאת?

ראשית: התחרות. אם OpenAI תחשוף את הנתונים שלה על יכולות רובוטיות, Google DeepMind תוכל להתכנן בטוב יותר. אם אנתרופיק תפרסם את התוצאות שלה, Nvidia תדע בדיוק על מה להשקיע בשבב הבא.

שנית: זה לא עובד כמו הם רוצים שנחשוב. מודלי העולם טובים בסימולציה ובלבד. בעולם אמיתי, עם הפרעות, רעש חיישנים וחוסר ודאות שלא כלולים בנתוני האימון, הם הרבה פחות יעילים. חברות יודעות שהפער בין סימולטור לפיזיקה גדול, ולא רוצות שזה יהיה ידוע לציבור.

שלישית: ההשקעה בשיפור עדיין לא מבושלת. לא מפתיע שאף חברה לא הודיעה בהצהרת עיתונות שמודלה סגור בתוך סביבות מוגדרות בלבד. זה בדיוק מה שהדוחות הפנימיים אומרים.

מה זה אומר לעסקים בישראל?

אם אתה מנהל בישראל ושוקל להשקיע בסוכני בינה מלאכותית לתהליכים מורכבים, כגון תכנון, קריאת שטח משתנה וניווט בתנאים לא מוגדרים מראש, הנה שלוש עצות קונקרטיות:

1. בקש הוכחת קונספט קודם לכל, ולא הצעות שיווק. מספיק לשמוע "מודל העולם שלנו אומן על 10 מיליון סרטוני סימולציה". התקשר לספק ותבקש: "אני רוצה שתפעילו את הסוכן בתנאים הדומים לשלי: משימה ספציפית, עם הפרעות כמו בעולם האמיתי. כמה זמן עובר עד לכישלון, וכמה עד להתאוששות?"

לא תקבל תשובה כללית, וזו בדיוק הבדיקה שתעזור לך מההתחלה.

2. בנה סדרת בדיקות שלך. אם המודל צריך לעבוד בעסק שלך, הוא צריך לעבור בדיקה בתנאים שלך. בחר שלושה תסריטים מהחיים האמיתיים, הרץ אותם דרך הסוכן, וראה איפה הוא נכשל. זו לא מדע תיאורטי, זו בדיקה מעשית.

3. שמור על פיקוח אנושי למשימות קריטיות. עד שחברות כמו OpenAI יפרסמו דוח עצמאי על ביצועים בעולם אמיתי (לא סימולציה), סוכן מודל-עולם צריך לעבוד תחת פיקוח אנושי. אם המשימה דורשת החלטות ללא בדיקה, הסוכן עדיין לא מבושל מספיק.

כדי ללמוד כיצד להטמיע בינה מלאכותית בשלבים בתוך ארגונך, קרא את המדריכים שלנו על הטמעת בינה מלאכותית

מה קורה בחזית?

ממידע שהוצא בנסתר, אנחנו יודעים ש:

• Google DeepMind הרצה סימולציות רובוטיקה מורכבות שהראו התקדמות, אך לא השיקה מודל ציבורי עדיין
• OpenAI בנתה מודל עם יכולות חזון, בנוסף לטקסט ותמונה, אך היא טוענת שהוא "עדיין לא מבושל מספיק לשימוש ציבורי"
• Meta היא השקופה ביותר בשיתוף משקל מודל וקוד פתוח, אך היא גם מאחור ביותר מבחינת ביצועים בפועל
• אנתרופיק התחילה בגישה דומה: סודות, ואז הדלף כמה מידע ממוקד בדוחות זריקה

הסתרה זו אינה מנוקדת כי אף גוף חיצוני לא יכול לבדוק אותה. ל-OpenAI אין חובה להציג דוח לרגולטור (כי אין רגולטור עדיין). ל-Google אין חובה להתאים להערות משקיעים (כי העסק הוא סודי). וכשאחד מהם משיק מודל, כל השאר עוקב עם "שלנו גם טוב", אך ללא הוכחה אמיתית.

הממצא העיקרי

מודלי העולם הם בעלי ערך משמעותי, אך התחום עדיין בשלבים מוקדמים, וחברות מסתירות את הכישלונות שלהן. כחברה בישראל, הדעה שלך לא יכולה להיות "זה עובד כי OpenAI אמרה שזה עובד", אלא "זה עובד במקרה שלי, מפני שהוכחתי זאת בבדיקה אמיתית".

כשהתחרות תכונה עמוקה מספיק, יתברר שהמנצחים הם אלה שבנו הגנות שלהם בעצמם.