קנגרם חוקרת: האם ניתן לגלות תוכן שנכתב בעזרת בינה מלאכותית?
כשתוכן AI זולל את האינטרנט, קנגרם (Pangram) משחקת משחק תופעל. בתחריות ביקורות, מועמדויות עבודה ותביעות ביטוח, כלי הזיהוי הם כבר לא אופציה, הם הכרח. אבל גם הם נופלים.
כשתוכן AI זולל את האינטרנט, קנגרם (Pangram) משחקת משחק תופעל. בתחריות ביקורות, מועמדויות עבודה ותביעות ביטוח, כלי הזיהוי הם כבר לא אופציה, הם הכרח. אבל גם הם נופלים.
קנגרם בנתה מערכת לגילוי טקסטים שנוצרו על ידי AI, תמונות מזויפות וקבצים משוספחים. היא מנתחת דפוסים שלא ניתן לראות בעין בשר, סטטיסטיקה של בחירות מילים, משקל מילים ודפוסי ניסוח.
כל חברה שמקבלת מסמכים מחוץ (קורות חיים, הצעות מחיר, דוחות, טענות) צריכה לדעת אם הם אמיתיים. AI בעבודה לא ממש פוגמת, אבל ביטחוןסייבר, HR וחוק דורשים ודאות.
לא בצורה חברתית עדיין, אבל לחברות גדולות בתחומים מסוכנים (משפט, בנקים, ביטוח) יש שנים כבר מערכות פנימיות. עבור SMB, עדיין בשלב ה-POC.
הידעת?
79% מהעסקים בישראל עדיין בלי תהליך מגנטי (vetting) לתוכן שמודפס בשמם, ולא יודעים איך להבדיל בין כתוב אדם לכתוב AI.
כשאתה קורא עבודת מחקר, קורות חיים או דוח בנקאי, אתה לא באמת יודע אם מי שכתב זאת היה אדם או בינה מלאכותית שנוצרה לפני יום בחינם.
קנגרם (Kangram), סטארטאפ שהוקם על ידי מקס ספרו (Max Spero), לקחה את הבעיה הזו קדימה. אם בינה מלאכותית יכולה ליצור תוכן, למה לא בינה מלאכותית תגיד לך שזהו תוכן כזה? זה נשמע פשוט עד שמנסים לעשות זאת בפועל.
ספרו מסביר שהבעיה היא לא בגילוי עצמו, אלא בדרך בה אנחנו חושבים עליו. "זה לא כן או לא," הוא אומר. "זה הסתברות, חוקים שונים למודלים שונים, וודאי שיש שקיפות בנתונים."
כלומר:
הבעיה המשפטית היא לא פחות משמעותית. כשטרנד יוביל לעובדות מזויפות או עדויות כוזבות בבית משפט, מי אחראי: המשתמש שהשתמש בו, הבינה המלאכותית שיצרה את התוכן, או שניהם?
לעסקים בישראל יש אתגר משלהם:
חברות משפטיות מקבלות תביעות שנכתבו בעזרת בינה מלאכותית. רואי חשבון משנים דוחות שנוצרו על ידי בינה מלאכותית ללא בסיס כלשהו. מחלקות משאבים אנושיים מקבלות קורות חיים שלמים שנכתבו על ידי Claude בלילה לפני הראיון.
לא תמיד ניתן להבחין בהבדל, וזו בדיוק הבעיה.
אם אתה עורך עסקה, מבקש משכנתא או נושא תביעה משפטית, עליך לוודא את אמינות המסמכים. לא רק את הנושא, אלא גם את המקור.
חברות גדולות כבר קובעות מדיניות בנוגע לשימוש בבינה מלאכותית, המגדירה איזה תוכן עובר דרכה. הטמעת בינה מלאכותית בארגון כוללת גם הגדרת גבולות.
לעסקים קטנים: אולי אין צורך בכלי גילוי מתוחכם. אולם הגבלה ברורה של מי כותב מה, הרבה יותר יעילה.
בקיצור:
קנגרם עשתה דבר חשוב: היא הכירה בכך שהבעיה אינה טכנית בלבד, אלא גם משפטית ואתית. בישראל, בעוד לחברות גדולות יש משאבים, עסקים קטנים ובינוניים עדיין חסרי כלים.
גילוי תוכן שנכתב בעזרת בינה מלאכותית אמנם מתפתח, אך דיוק של 70, 80% משאיר שדה של ספקות. עדיף להשקיע בתהליך שעוצר את בעיית המקור (מי כתב זאת?) מאשר לנסות להחזיר את השעון לאחור.
אם אתה מנהל בישראל וקיבלת בקשה ואתה לא בטוח אם אדם או בינה מלאכותית כתבו אותה, זו אות גדולה שיש לך בעיה המצריכה התייחסות.