ביטוח בריאות: עלייה של 942 מיליון דולר בעלויות בגלל בינה מלאכותית

בינה מלאכותית בבתי חולים: תעודה של חוסר יעילות שגבר

Blue Cross Blue Shield הציבה נושא זה במרכז הדיון העולמי בנושא החזר על השקעה בבינה מלאכותית. התוצאה: שימוש בכלי בינה מלאכותית בבתי החולים האמריקאיים הוביל להוצאה נוספת של 942 מיליון דולר בתקופה של שנתיים (2023-2024).

זה לא סיפור של כשל טכנולוגי. זהו סיפור של בחירה שלא מודעת להשקעה בעלויות גלויות כדי להימנע מסיכון שעדיין קיים.

למה בדיוק עלו העלויות ולא ירדו?

הטיה אלגוריתמית כממכפיל עלויות

כלי הבינה המלאכותית בבתי החולים לא בדקו את עמידותם מול שגיאות שיטתיות. כאשר מודל סיווג תביעות (claim classification model) שגה, הבחור בטיפול משמר:

• סינון שגוי: התביעה הועברה למעבד אנושי "כדי להיות בטוחים"
• דוחות משוקללים: כל "אזור קטגוריזציה" שיצר דוח נוסף לרופא המאשר
• בדיקות ידניות: צוות כלכלי בבית החולים החל לבדוק כל החלטה של הבינה המלאכותית

תוצאה: עבודה מיותרת שמעסיקה כוח עבודה אנושי שמתגונן מפני "חוסרי הישר" של הבינה המלאכותית.

הפחד שהפך לעלות ממשית

בארגונים מערביים, כאשר ארגון מטמיע כלי בינה מלאכותית שמשליח החלטה ברפואה (עלולה להיות השלכה משפטית אם שגויה), הקשר הופך להיות:

1. רופא משדר תביעה לבינה המלאכותית
2. בינה המלאכותית מחזירה החלטה
3. רופא חוזר על העבודה בעצמו כ"בדיקת בדיקה"
4. רופא כותב הערה: "אישרתי לפי דעתי, הבינה המלאכותית הציעה בטעות"

כל שלב כזה הוא עלות. כשיש אלפי תביעות, מתקבל 942 מיליון דולר.

מה זה אומר לעסק בישראל?

למה זה קשור אליכם

אם אתם ארגון בישראל שבוחנים הטמעת בינה מלאכותית:

• אל תספרו רק את השעות של עובדים שחסכו; ספרו גם את שעות הבדיקה שהוספתם
• אל תמדדו "מהירות" לבדה; מדדו "דיוק" ו"רמת ביטחון של המודל"
• אם תטמיעו בינה מלאכותית ללא שיתוף העובדים, הם יתגוננו בעבודה כפולה שתבלה את החזר ההשקעה

זה רלוונטי בעיקר אם אתם:

• מחלקת משאבי אנוש (סינון קורות חיים עם בינה מלאכותית = בדיקות ידניות מיותרות אם הצוות לא בטוח במודל)
• אגף כספים (סיווג חשבוניות, טיפול בחשבונות = עלויות בדיקה תחת הטיה אלגוריתמית)
• שירות לקוחות (סוכן בינה מלאכותית שלא יודע איך הגיב, עובד אנושי עוזר מאחורי הקלעים)

המסגרת שמביאה הצלחה

לפני הטמעת בינה מלאכותית, שקלו את המודל הזה:

1. זיהוי העלות הסמויה: כמה שעות "בדיקת ביטחון" יוציא הצוות כשהם לא יבטחו בכלי?
2. בחירת מודל מתאים: עדיף מודל שגם 5% יותר איטי אבל בטוח 15% יותר, מאשר מודל שמהיר אבל יוצר פניות משפטיות
3. מדדים ברורים: "הקטנת עלויות" אינו מדד מספיק. "הקטנת עלויות עם דיוק של 95% לפחות", זה כן

המדע אינו תלוי בגודל הארגון

חלק משמעותי מהעלויות של Blue Cross נבע מהתנגדות הצוות. הצוות לא האמין בכלי, ולכן הוסיף בדיקות. זה קורה גם בסטארטאפ קטן בישראל:

• סוכן בינה מלאכותית שמטפל בליידים, אבל מנהל המכירות בודק כל ליד בעצמו
• סוכן בינה מלאכותית שכותב דוא"ל, אבל כל אחד קורא ומשנה את הנוסח "בדיקה סופית"

העבודה לא נעלמה; היא הוסיפה שכבה.

צעדים מעשיים להיום

אם אתם בתהליך הטמעת בינה מלאכותית בארגון שלכם, שקלו:

1. כלים עם הגבלות בטוחות, אל תתחילו עם מודל ללא מדד בטיחות ברור. חברות כמו Anthropic (אנתרופיק) מאפשרות להגדיר הרשאות וגבולות, לא רק "תן לי תשובה"

2. הטמעה שלבית ודרגתית, התחילו בפרויקט קטן (צוות אחד), מדדו את עלויות הבדיקה ולא רק "חיסכון מהיר"

3. הדרכה ממוקדת לצוות, לא סדנה כללית "הבינה המלאכותית היא למעננו", אלא הדרכה ספציפית: "הנה הכלי, הוא עלול לטעות בדרכים אלה, הנה איך אתם בודקים"

4. היקף בדיקה מראש, הגדירו "כמה בדיקות הן בסדר"? אם התשובה היא "כל אחת", אז אתם לא משתמשים בסוכן; אתם מתנגדים לסוכן

מניסיוננו בארגונים

ראיתי זאת פעמים רבות: חברה קנתה כלי בינה מלאכותית, הטמיעה אותו, ואח"כ התלוננה שהעלויות עלו. כשחקרתי יותר, התברר שהצוות "בדק בעצמו כל פלט כי הבינה המלאכותית חושדת בעצמה".

הפתרון לא היה "בינה מלאכותית טובה יותר". זה היה בנייה של אמון בסיסי דרך שקיפות קטנה:

• "הנה המקרים שבהם הבינה המלאכותית טעתה"
• "הנה המקרים שבהם הבינה המלאכותית צדקה"
• "הנה ההסכמה: אתה בודק רק אם הבינה המלאכותית נתנה ניקוד בטווח 70, 80%, אחרת היא מטפלת"

תוך שבועות, הבדיקות ירדו ב-70%.

השורה התחתונה

942 מיליון דולר בשנתיים אינה בדיקה בכשל הבינה המלאכותית. זו בדיקה בכשל ההנהלה להבין שהטמעת בינה מלאכותית היא משאלת תרבות, לא של קוד.

אם אתם מנהלים בישראל, קחו זאת ברצינות: כל דולר שאתם חוסכים בשכר עובדים בגלל בינה מלאכותית הוא דולר שאתם עלולים להוסיף בשכר של "בודקים" שיאמתו את הפלט. אם הצוות לא מאמין בכלי, הצוות הוא הבעיה, לא הכלי.