תוך 48 שעות אותו מסר הגיע משלושה כיוונים שונים: מתוך OpenAI, מהרגולציה האירופית, ועכשיו מהאו״ם. נציב זכויות האדם קרא לקווים אדומים מחייבים, נקב בשמות של ארבע חברות, ואמר שהוא מתכוון לפנות אליהן ישירות. במקביל, דד-ליין בינלאומי לקווים אדומים נמצא במרחק ארבעה חודשים ושום הסכם כזה לא קיים.
ב-7 בספטמבר 2026, במועצת זכויות האדם בז׳נבה, אמר וולקר טירק (Volker Türk) ש-AI מתקדם עלול להוות סיכון קיומי לאנושות. הוא קרא למדינות שמארחות פיתוח AI להסכים על קווים אדומים בינלאומיים, כלומר על מה שהטכנולוגיה לעולם לא תורשה לעשות, והתייחס גם לנשק אוטונומי ולשימושים צבאיים ללא שליטה אנושית מספקת.
האיש שעיצב חלק מרכזי ממדיניות ה-AI של בריטניה וארגן את פסגת בטיחות ה-AI של 2023 עובר לאנתרופיק. ולסוכנות שהוא עמד בראשה יש רישיון מסחרי עם אותה חברה. זו לא רכילות פוליטית מלונדון, זו שאלה שכל ארגון שבוחר ספק AI צריך לשאול את עצמו.
המודל שמתכנן ומאמת תוך כדי נכנס לזרימת העבודה של המפתחים, בכל סביבות הפיתוח ובכל המסלולים העסקיים. הנה איך בוחרים אותו בפועל, מה עושים כשהוא לא מופיע ברשימה, ואיך בודקים בעצמכם אם הוא באמת מפחית טעויות או רק מכריז שהוא סיים.
הידעת?
היוזמה שנקראת Global Call for AI Red Lines הושקה בעצרת הכללית של האו״ם בספטמבר 2025, ונחתמה על ידי יותר מ-200 אישים כולל 10 חתני פרס נובל. היא ביקשה שממשלות יסכימו על מגבלות מחייבות עד סוף 2026, עם גוף עצמאי לאכיפה. הדד-ליין הזה נמצא כרגע במרחק כארבעה חודשים, ושום הסכם כזה לא קיים.
נציב זכויות האדם של האו״ם עלה אתמול לבמה בז׳נבה ואמר את שתי המילים שדיפלומטים כמעט אף פעם לא אומרים על טכנולוגיה: סיכון קיומי.
אחר כך הוא עשה משהו נדיר עוד יותר. הוא נקב בשמות של ארבע חברות ספציפיות.
ואז הוא אמר שהוא מתכוון לפנות אליהן ישירות, בלי לעבור דרך הממשלות.
בקצרה: ב-7.9.2026 קרא וולקר טירק (Volker Türk), נציב זכויות האדם של האו״ם, לקבוע קווים אדומים בינלאומיים ל-AI. הוא הזכיר בשמן את מטא (Meta), אופן-איי-איי (OpenAI), גוגל (Google) ואנתרופיק (Anthropic), ואמר שהן מחזיקות בכוח כמעט בלתי מוגבל על כיוון הטכנולוגיה. הוא גם התייחס לנשק אוטונומי ולשימושים צבאיים ללא שליטה אנושית מספקת. במקביל, דד-ליין בינלאומי לקווים אדומים מחייבים נמצא במרחק כארבעה חודשים, ושום הסכם כזה לא קיים.
הידיעה כפי שפורסמה באתר החדשות של האו״ם, 7.9.2026. קרדיט: UN News
טירק דיבר במועצת זכויות האדם, והמסר שלו לא היה מנוסח כאזהרה עתידנית אלא כדרישה מבצעית: מדינות שמארחות על אדמתן פיתוח AI מתקדם צריכות להסכים ביניהן על מה שהטכנולוגיה לעולם לא תורשה לעשות.
זו נקודה שקל לפספס. הוא לא ביקש עקרונות, לא ביקש הצהרת כוונות ולא ביקש ועדה. הוא ביקש רשימת איסורים.
הציטוט שממנו אפשר להבין את כל הגישה: "AI שבורח מסביבת הבדיקה שלו, או סוחט מפתחים כדי למנוע את כיבויו, הוא AI חזק מדי."
שימו לב למבנה המשפט. הוא לא אומר שההתנהגות הזו מסוכנת וצריך לנהל אותה. הוא אומר שמערכת שמסוגלת לזה כבר חצתה קו, ולכן היכולת עצמה אסורה. זה ההבדל בין ניהול סיכון לבין קו אדום.
טירק הוסיף גם התייחסות לנשק אוטונומי ולשימושים צבאיים ללא שליטה אנושית מספקת, נושא שכבר שנים תקוע בין ועדות פירוק נשק בלי הכרעה.
מטא, אופן-איי-איי, גוגל ואנתרופיק. ארבע חברות, בשם מלא, מעל דוכן של האו״ם.
הנימוק שלו: הן מחזיקות בכוח כמעט בלתי מוגבל על הכיוון שאליו הטכנולוגיה הזו הולכת. לא על השימוש בה, על הכיוון שלה.
וכאן מגיע החלק שהוא באמת חריג. טירק אמר שהוא מתכוון לפנות ישירות לחברות, בעקיפת הדיפלומטיה הרגילה בין ממשלות. גוף של האו״ם שמדלג על המדינות ופונה לתאגידים כאילו הם השחקן הריבוני הרלוונטי בזירה הזו.
אפשר לקרוא את זה בשתי דרכים. אחת, כהודאה שהמסלול הבין-ממשלתי איטי מדי ולא יספיק. שתיים, כהכרה בכך שהיכולת לעצור התפתחות מסוימת יושבת היום אצל חמישה עשר אנשים בקליפורניה ולא אצל 193 מדינות. שתי הקריאות מובילות לאותה מסקנה.
וזו גם הסיבה שנקיבת השמות אינה קוריוז רטורי. ברגע שגוף בינלאומי מפסיק לדבר על התעשייה ומתחיל לדבר על שחקנים מזוהים, הוא מייצר כתובת. לכתובת אפשר לשלוח דרישה, ואת מי שלא ענה אפשר לצטט בדוח הבא.
כי הפעם זו לא אזהרה בודדת. זו הצטברות.
תוך 48 שעות אותו מסר בדיוק הגיע משלושה כיוונים שאין ביניהם קשר ארגוני:
מבפנים. המדען הראשי של OpenAI תיאר את המודלים כמשהו שקשה להבין מבפנים, במילים שמעטים בתעשייה מרשים לעצמם להשתמש בהן בפומבי.
מהרגולציה. באירופה, דיווח אירוע רשמי הפך את הדיון מהצהרתי למעשי. ברגע שקיים מנגנון דיווח, קיימת גם שאלה מי היה אמור לדווח ומתי.
מהאו״ם. קריאה לקווים אדומים מחייבים, עם שמות ועם דד-ליין.
שלושה קולות, שלושה סוגי סמכות, אותה נקודה: מ״עקרונות״ אל אכיפה. וזה שינוי מסוג אחר לגמרי. עקרונות אף אחד לא נדרש להוכיח. דרישות אכיפה מגיעות עם ראיות.
בשלוש השנים האחרונות ראינו עשרות מסמכי אתיקה של AI. כולם דיברו על שקיפות, הוגנות ואחריותיות. אף אחד מהם לא הגדיר מה קורה למי שלא עומד בהם, ולכן אף אחד לא באמת שינה התנהגות בגללם. ההבדל בין המסמכים ההם לבין מה שנאמר השבוע הוא בדיוק ההבדל בין המלצה לבין דרישה שמישהו יבדוק.
זו הנקודה שהכי הרבה אנשים מפספסים, והיא טכנית לגמרי.
רוב הרגולציה שקיימת היום בנויה על מדרג סיכון. אתה מסווג שימוש כנמוך, בינוני או גבוה, ולפי הסיווג אתה מקבל רשימת חובות: תיעוד, בקרה, בדיקות, פיקוח אנושי. הכל ניתן למשא ומתן, הכל תלוי הקשר, ולכל דרישה יש מסלול חריגים.
קו אדום עובד הפוך. הוא לא שואל באיזה הקשר, לא מציע פיצוי בבקרה נוספת, ואין לו ועדת חריגים. הוא אומר: היכולת הזו אסורה, נקודה.
ולכן הדוגמה שטירק בחר היא כל כך מדויקת. מערכת שיוצאת מסביבת הבדיקה שלה, או שפועלת כדי למנוע את כיבויה, היא לא מקרה שצריך לנהל בזהירות מוגברת. אין הקשר שבו זה בסדר. וברגע שמגדירים משהו ככה, השאלה הרגולטורית משתנה: לא איך מפקחים על זה, אלא איך מוודאים שזה בכלל לא נבנה.
בספטמבר 2025 הושקה בעצרת הכללית של האו״ם יוזמה בשם Global Call for AI Red Lines. עליה חתמו יותר מ-200 אישים, בהם 10 חתני פרס נובל.
הבקשה שלה הייתה ספציפית: שממשלות יסכימו על מגבלות מחייבות עד סוף 2026, ושיוקם גוף עצמאי שיאכוף אותן.
עכשיו תעשו את החשבון. סוף 2026 נמצא במרחק כארבעה חודשים. הסכם כזה לא קיים. אין טיוטה מוסכמת, אין גוף אכיפה, ואין מדינה שהתחייבה.
הנאום של טירק הוא בדיוק מה שקורה כשדד-ליין מתקרב ואף אחד לא זז. מי שרוצה לנחש מה יקרה בהמשך, הכיוון הסביר הוא לא הסכם בינלאומי בזמן, אלא גל של רגולציות מקומיות שמנסות למלא את החלל. וזה בדיוק המצב שהכי יקר לארגונים, כי במקום סטנדרט אחד מקבלים שבעה.
התשובה הקצרה: כרגע כלום, ובעוד שנה הכל.
מה שמעניין ארגון ישראלי הוא לא ההצהרה עצמה. הצהרות של האו״ם לא מחייבות אף אחד. מה שמעניין זה מה שנגזר ממנה בהמשך השרשרת.
כי קווים אדומים בינלאומיים לא נשארים בז׳נבה. הם מתגלגלים בסדר קבוע: הצהרה, אחר כך רגולציה אזורית, אחר כך תקן, ובסוף סעיף בחוזה שספק חייב לחתום עליו כדי למכור לכם.
ואת הסעיף הזה תפגשו הרבה לפני שתפגשו את החוק. כשלקוח ארגוני ישאל אתכם במכרז אם יש לכם אישור אנושי על פעולות רגישות. כשמבטח ישאל איפה הלוגים. כשגוף ציבורי יבקש להראות מי אישר מה.
זה כבר קרה פעם אחת, בדיוק באותו סדר. תקני אבטחת מידע לא הגיעו לחברות קטנות דרך המחוקק, אלא דרך שאלון ספקים של לקוח גדול שסירב לחתום בלעדיהם. מי שהיה מוכן חתם על החוזה. מי שלא, בילה חודשיים בבניית מסמכים במקום בעבודה.
שלוש שאלות שכדאי שתדעו לענות עליהן היום, בלי להתכונן:
אחת, מי מאשר. אילו פעולות סוכן AI אצלכם מבצע בלי אישור אנושי, ואילו לא. אם אין רשימה כזו, זו הרשימה הראשונה לכתוב.
שתיים, מה נשמר. האם יש לוג שמראה מה המערכת עשתה, מתי, ועל סמך מה. לא מסך אנליטיקס, לוג. מי שנשאל בדיעבד ואין לו לוג, התשובה שלו היא ניחוש.
שלוש, איך עוצרים. יש לכם דרך להשבית סוכן בפעולה, בלי להפיל את כל המערכת. אם התשובה היא לפנות לספק, אין לכם דרך.
מי שכבר היום מנהל הרשאות, לוגים ואישור אנושי, לא יצטרך לרוץ אחורה כשהדרישות יגיעו. מי שלא, יגלה שהוא בונה את התשתית הזו תחת לחץ של מכרז, וזה תמיד יוצא גרוע יותר ויקר יותר.
אם אתם רוצים מסגרת מסודרת לשלוש השאלות האלה, כתבתי פלייבוק לאירוע חריג של סוכן AI שמפרק בדיוק את זה לתהליך. ואם אתם לא בטוחים איפה אתם עומדים בכלל, סריקת ה-AI שלנו מציגה תמונת מצב תוך כמה דקות.
הפער בין ארגון שמנהל AI לבין ארגון שמשתמש ב-AI הוא בסוף פער של יכולת מעשית: לבנות, לתעד, לשלוט.
ב-16.9.2026 בשעה 21:00 אני מעביר מפגש קלוד קוד, שלוש שעות, בלי צורך ברקע בתכנות. יוצאים משם עם היכולת לבנות כלים אמיתיים לארגון, כולל את שכבת הבקרה שדיברנו עליה כאן. נרשמים דרך העמוד.
טירק לא גילה שום דבר חדש על הטכנולוגיה. כל מי שעוקב יודע שהמודלים חזקים, שהם משתפרים מהר, ושאף אחד לא מבין אותם עד הסוף.
מה שהוא כן עשה זה להזיז את הדיון ממקום אחד לשני: מהשאלה מה AI מסוגל לעשות, לשאלה מה מותר לו לעשות. הראשונה היא שאלה של הנדסה. השנייה היא שאלה של מי מחליט.
ובארבעת החודשים הקרובים, כשהדד-ליין של 2026 יעבור בלי הסכם, השאלה השנייה תהפוך לחמה מאוד. הארגונים שיצאו מזה טוב הם אלה שכבר יש להם תשובות כתובות, לא כוונות טובות.
מקורות: Reuters, UN News, The Next Web.
מטא (Meta), אופן-איי-איי (OpenAI), גוגל (Google) ואנתרופיק (Anthropic). לדבריו הן מחזיקות בכוח כמעט בלתי מוגבל על כיוון הפיתוח של הבינה המלאכותית. טירק אמר שהוא מתכוון לפנות אליהן ישירות, בעקיפת הדיפלומטיה הרגילה בין ממשלות.
יוזמה שהושקה בעצרת הכללית של האו״ם בספטמבר 2025 ונחתמה על ידי יותר מ-200 אישים, בהם 10 חתני פרס נובל. היא קראה לממשלות להסכים על מגבלות מחייבות עד סוף 2026, ולהקים גוף עצמאי שיאכוף אותן. נכון להיום ההסכם הזה לא קיים, והדד-ליין קרוב.
לא ישירות ולא מיד. אבל קווים אדומים בינלאומיים מתורגמים בסוף לסעיפי רכש ולדרישות חוזיות מספקים: מי מאשר פעולה רגישה, איפה נשמרים הלוגים, אילו הרשאות יש לסוכן, ואיך עוצרים אותו. ארגון שמנהל את שלושת אלה כבר היום לא יצטרך לרוץ אחורה.
זו דוגמה שטירק נתן ליכולת שצריכה להיות אסורה מראש, ולא מנוהלת בדיעבד: מערכת שיוצאת מגבולות סביבת הבדיקה שהוגדרה לה, או שפועלת כדי למנוע את כיבויה. ההיגיון הוא שיש התנהגויות שאין דרך בטוחה לאשר אותן בשום הקשר, ולכן הן צריכות איסור גורף ולא ועדת חריגים.
כמעט כל יצרן מודלים גדול הכריז החודש שהוא פותח משהו, והתכוון לקובץ משקולות. IFM עשה משהו אחר: פרסם שישה מודלים ואיתם את נתוני האימון עצמם. פירקתי מה ההבדל בפועל, למי הוא באמת רלוונטי, ולמה לרוב הארגונים בישראל זה עדיין לא ישנה מחר בבוקר.