בינה מלאכותית יוצרת הטיות בגיוס, והארגונים לא מהירים מספיק לתקן זאת

הבעיה: בינה מלאכותית לא רק משקפת הטיות, היא יוצרת אותן

במשך שנים חברות משאבי אנוש אמרו: "כן, בינה מלאכותית עלולה להיות מוטה, כי הנתונים ההיסטוריים מוטים." זה נכון. אך מחקר חדש מ-MIT Technology Review חושף משהו הרבה יותר חמור: מודלי בינה מלאכותית לא רק משקפים הטיות אנושיות, הם מחזקים ויוצרים אותן.

כשחוקרים בדקו מודלים גדולים של שפה (LLMs) בעת בחירת קורות חיים, הם מצאו שלמודלים היו הטיות חמורות יותר מלבני אדם. לא קטנות יותר. חמורות יותר.

הבעיה לא מוגבלת למין או גזע. המודלים הראו הטיה קשה בהקשר לתעסוקות (למשל, מהנדסים לעומת מזכירות), ובמקרים כמעט שלא היו קשורים ישירות לתשומות בקלט.

מה בדיוק קרה?

חוקרים אימנו מודלי שפה על נתונים היסטוריים מתהליכי גיוס קיימים, כמו שעושה כל ארגון. הם ציפו שהמודל יעתיק את הנתונים. אך מה שקרה היה הרבה יותר בעיתי:

המודל למד קשרים שלא קיימו באופן ברור, או שקיימו רק במידה מינורית:

• אם רוב המהנדסים שנשכרו היו גברים, המודל לא רק העדיף גברים (זה יהיה עתק של הנתונים). הוא הגביר את ההעדפה הזו.
• אם רוב המנהלות היו נשים, המודל יצר קשר חזק מלאכותי בין "תפקיד ניהול" ו"מין נקבה" שלא קיים בתוך הנתונים.

זו לא בעיה בנתונים בלבד. זו בעיה בדרך שבה מודלים מכלימים תבניות.

מה זה אומר לעסקים בישראל?

אם אתם משתמשים בבינה מלאכותית לגיוס (או שוקלים זאת), הנה מה שצריך לדעת:

1. גיוס בעזרת בינה מלאכותית אינו "יעיל יותר", הוא יוצר סיכונים משפטיים

בישראל אין חוק ספציפי נגד הטיה בגיוס בתוך בינה מלאכותית, אך:

• חוק ה-AI של האיחוד האירופי מסווג כלים להעסקה כ-"גבוהי סיכון" ודורש בדיקות הטיה שוטפות.
• חברות ישראליות שעובדות עם לקוחות באירופה כבר מושפעות.
• תביעות בגין "הבחנה עקיפה" (indirect discrimination) יכולות להיות מוגשות אם מודל מסנן באופן מטופל.

2. בדקו את המודל שלכם, כעת

אל תסמכו על הבטחות של ספק הכלי. ערכו בדיקות בעצמכם:

• בצעו בדיקה שיטתית של קורות חיים מייצגות (דמיוניות או אמיתיות) עם משתנים שונים: מין, מוצא, גיל, מוצא גיאוגרפי.
• מדדו את שיעור ה"קבלה" של כל קבוצה. אם יש הבדל משמעותי (יותר מ-10%), קיימת בעיה.
• תיעדו את כל התוצאות. אם תידרשו להיות משפטית, התיעוד הזה עשוי להציל אתכם או להשמיד אתכם.

3. השתמשו בבינה מלאכותית לסינון ראשוני בלבד

אתם יכולים להשתמש בבינה מלאכותית כדי לסנן קורות חיים על בסיס קריטריונים שקופים וברורים:

• חוויה בפרויקטים דומים.
• יכולת בכלים ספציפיים (אם רלוונטי).
• שפות.

אך לעולם אל תשתמשו בבינה מלאכותית כדי להעדיף מועמדים. השתמשו בה כדי לחסוך זמן בשלב הראשוני. לאחר מכן, בני אדם צריכים לסנן, לראיין ולהחליט.

4. שקיפות בקריטריונים, זו ההגנה הטובה ביותר

אם קריטריוני הגיוס שלכם ברורים ותיעודיים, קל יותר להצדיק החלטות:

• "בחרנו במועמד A ולא במועמד B כי ל-A היה יותר ניסיון בתחום X."
• "הקריטריון היה מוגדר מראש: לפחות 3 שנות ניסיון בתחום."

אם הקריטריון היה "המודל כך הוחליט", זה הרבה יותר מסוכן.

שלב נוסף: אימוץ בינה מלאכותית בהוגנות

אם אתם רוצים להעמיק בנושא:

בנו מדיניות AI ברורה. ארגונים בעלי מדיניות מוגדרת ל-AI, כולל בדיקות הטיה, שקיפות ותיעוד, נמצאים במצב משפטי ותרבותי הרבה יותר טוב. ארגונים שלא עושים זאת נראים כמי שיש להם משהו להסתיר.

כשמדובר בבינה מלאכותית בגיוס, עדיף לשאול את הספקים:

• כיצד אני יכול לבדוק הטיות במודל?
• אילו שלבי שקיפות קיימים בתהליך ההחלטה?
• כיצד מתודגמת התוצאות?

הנקודה החשובה ביותר

בינה מלאכותית בגיוס אינה רעה בעצמה, אם משתמשים בה בחוכמה. אך "בחוכמה" פירושו:

1. אל תסמכו על מודל בעיוור. בדקו הטיות בעצמכם.
2. שמרו על בני אדם בתהליך. בינה מלאכותית מסננת; אנשים מחליטים.
3. תיעדו כל שלב. שקיפות היא ההגנה הטובה ביותר שלכם.
4. תעקבו אחר חוקים בחו"ל. חוק ה-AI של האיחוד האירופי כבר משפיע על חברות ישראליות.

וחשוב מכל: גיוס הוגן הוא יתרון תחרותי. חברה שמקבלת את המועמדים הטובים ביותר, ללא הטיות, תנצח בשוק.