קנגרם חוקרת: האם ניתן לגלות תוכן שנכתב בעזרת בינה מלאכותית?

הבעיה בדיוק

כשאתה קורא עבודת מחקר, קורות חיים או דוח בנקאי, אתה לא באמת יודע אם מי שכתב זאת היה אדם או בינה מלאכותית שנוצרה לפני יום בחינם.

קנגרם (Kangram), סטארטאפ שהוקם על ידי מקס ספרו (Max Spero), לקחה את הבעיה הזו קדימה. אם בינה מלאכותית יכולה ליצור תוכן, למה לא בינה מלאכותית תגיד לך שזהו תוכן כזה? זה נשמע פשוט עד שמנסים לעשות זאת בפועל.

האתגר האמיתי: דיוק לא מושלם

ספרו מסביר שהבעיה היא לא בגילוי עצמו, אלא בדרך בה אנחנו חושבים עליו. "זה לא כן או לא," הוא אומר. "זה הסתברות, חוקים שונים למודלים שונים, וודאי שיש שקיפות בנתונים."

כלומר:

• ChatGPT? ניתן לזהות אותו כמעט בוודאות.
• Claude? קצת יותר קשה.
• מודלים מותאמים אישית או מעובדים עם התערבות אנושית? אנחנו כמעט חזרנו להתחלה.

הבעיה המשפטית היא לא פחות משמעותית. כשטרנד יוביל לעובדות מזויפות או עדויות כוזבות בבית משפט, מי אחראי: המשתמש שהשתמש בו, הבינה המלאכותית שיצרה את התוכן, או שניהם?

מה זה אומר לעסק בישראל

לעסקים בישראל יש אתגר משלהם:

1. התנהגות רשומה, כבר עכשיו

חברות משפטיות מקבלות תביעות שנכתבו בעזרת בינה מלאכותית. רואי חשבון משנים דוחות שנוצרו על ידי בינה מלאכותית ללא בסיס כלשהו. מחלקות משאבים אנושיים מקבלות קורות חיים שלמים שנכתבו על ידי Claude בלילה לפני הראיון.

לא תמיד ניתן להבחין בהבדל, וזו בדיוק הבעיה.

2. אימות יסודי של מסמכים

אם אתה עורך עסקה, מבקש משכנתא או נושא תביעה משפטית, עליך לוודא את אמינות המסמכים. לא רק את הנושא, אלא גם את המקור.

3. מדיניות פנימית

חברות גדולות כבר קובעות מדיניות בנוגע לשימוש בבינה מלאכותית, המגדירה איזה תוכן עובר דרכה. הטמעת בינה מלאכותית בארגון כוללת גם הגדרת גבולות.

לעסקים קטנים: אולי אין צורך בכלי גילוי מתוחכם. אולם הגבלה ברורה של מי כותב מה, הרבה יותר יעילה.

כיצד תוכלו לפעול עכשיו?

בקיצור:

1. למסמכים קריטיים, יש צורך בחתימה דיגיטלית ורישומי ביקורת, לא רק בכלי בינה מלאכותית.
2. לצוותים, הבהירו מתי משתמשים בבינה מלאכותית ומתי לא. כלים כמו Balmas בודקים מסמכים רגישים לפני עיבודם.
3. לתהליכים, אם אתה מקבל קובץ מצד שלישי, יש לך תהליך אימות. בינה מלאכותית היא רק שלב בתהליך, לא החלופה שלו.

קנגרם עשתה דבר חשוב: היא הכירה בכך שהבעיה אינה טכנית בלבד, אלא גם משפטית ואתית. בישראל, בעוד לחברות גדולות יש משאבים, עסקים קטנים ובינוניים עדיין חסרי כלים.

השורה התחתונה

גילוי תוכן שנכתב בעזרת בינה מלאכותית אמנם מתפתח, אך דיוק של 70, 80% משאיר שדה של ספקות. עדיף להשקיע בתהליך שעוצר את בעיית המקור (מי כתב זאת?) מאשר לנסות להחזיר את השעון לאחור.

אם אתה מנהל בישראל וקיבלת בקשה ואתה לא בטוח אם אדם או בינה מלאכותית כתבו אותה, זו אות גדולה שיש לך בעיה המצריכה התייחסות.