KPMG משכה דוח על AI, שהתברר כמלא בהזיות של בינה מלאכותית

ענקית ייעוץ פרסמה דוח על AI, שהתברר כמלא בהזיות של AI

חברת הייעוץ KPMG משכה דוח שפרסמה על אימוץ בינה מלאכותית בארגונים, אחרי שבדיקה חיצונית גילתה שחלק ניכר מהמקורות, הציטוטים ומקרי-המבחן שבו פשוט הומצאו. האירוני: זהו דוח שמשבח את היתרונות של AI, ושנכתב, ככל הנראה, בעזרת AI.

לפי דיווח של TechCrunch, קבוצת המחקר GPTZero בדקה את הדוח וגילתה שמתוך 45 ההפניות שבו, רק חמש הצביעו נכון על המקור שצוטט. השאר היו משובשות, מטעות, או מומצאות לחלוטין.

מה בדיוק קרה?

הדוח, שפורסם בסוף 2025, כלל מקרי-מבחן שיוחסו לגופים מוכרים, בנק UBS, שירות הבריאות הבריטי (NHS), רשות התחבורה של לונדון ורכבת שווייץ. בבדיקה התברר שחלק מהמקרים האלה לא תועדו מעולם בצורה שבה הוצגו.

מה זאת "הזיה" של AI?

"הזיה" (Hallucination) היא מצב שבו מודל בינה מלאכותית מייצר מידע שנשמע סמכותי ומשכנע, שם, ציטוט, מספר או מקור, אבל הוא פשוט לא נכון. המודל לא "משקר" בכוונה; הוא מנבא טקסט סביר, וכשאין לו עובדה אמיתית הוא ממציא אחת שנראית הגיונית.

KPMG מסרה בתגובה שהיא מצפה מעובדיה לפעול לפי הנחיות השימוש האחראי ב-AI, כולל פיקוח אנושי שמאמת תוכן ומוודא מקורות עצמאיים. היא לא היחידה: בערך באותה תקופה משכה גם EY דוח שכלל הערות-שוליים שהתגלו כשגויות.

הלקח לעסקים בישראל

הסיפור הזה הוא לא סיבה להפסיק להשתמש ב-AI, הוא תזכורת איך להשתמש בו נכון:

• AI מנסח, אדם מאמת. כל עובדה, מספר או ציטוט שמגיע ממודל חייב אימות אנושי מול מקור מקורי לפני פרסום.
• ככל שהסיכון גבוה יותר, הבדיקה הדוקה יותר. דוח חיצוני, מסמך משפטי או חומר שיווקי, שם טעות עולה ביוקר.
• בנו תהליך, לא הסתמכות. הטמעת AI בארגון טובה מגדירה מראש מי בודק מה, ואיפה עוצרים.

מי שמטמיע AI עם בקרת איכות ואתיקה נהנה מהמהירות בלי להסתכן במפלה ציבורית.

שורה תחתונה

דוח של אחת מארבע חברות הייעוץ הגדולות בעולם נפל בדיוק במלכודת שעליה הזהיר. המסקנה לעסקים: אמצו AI בלב שלם, אבל אל תוותרו על שלב האימות האנושי, הוא ההבדל בין כלי שמייעל לכלי שמביך.