אפליקציית Savi תלחם בהונאות AI, כך היא עובדת

הונאות AI כבר כאן, גם בישראל

עד לפני זמן קצר דיברנו על סוכנים בינה מלאכותית ותהליכים אוטומטיים. היום הם משמשים לרמיית אנשים.

לפי TechCrunch, סטארטאפ בשם Savi השיק זה עתה אפליקציה המזהה הונאות מסוג זה. האפליקציה מזהה:

• וידאוהי deepfake של בעלים המבקשים העברות כסף
• הודעות SMS המחקות בנקים או שירותים חוקיים
• הקלטות קול מזויף של בני משפחה בצרה
• כל תוכן אחר שנוצר בבינה מלאכותית לצורך הונאה

Savi נתמכה בהשקעה חזקה: 7 מיליון דולר בסיבוב Seed, שהצליחה לפתח מנוע גילוי מתקדם. האפליקציה תושק ביום שלישי בעבור iPhone ו-Android.

איך עובדת Savi?

המנגנון פשוט וכנראה יעיל:

1. המשתמש מקבל הודעה חשודה, וידאו, קול או טקסט שנראה מדומה.
2. הוא שולח אותה ל-Savi דרך האפליקציה.
3. המודל של Savi מנתח את התוכן תוך שניות.
4. התשובה: "זו הונאה" או "נראה בטוח".

על פי המידע שהתפרסם, Savi משתמשת בטכנולוגיה שמזהה סימנים ספציפיים של בינה מלאכותית generative. לדוגמה: חוסרים ויזואליים בוידאוהי deepfake, אי-רציפויות בטון הקול, או תבניות טקסט שונות מאלו המשמשות בני אדם בדרך כלל.

מה המשמעות לעסקים בישראל?

הונאות AI כבר לא אפשרות עתידית. הן קורות כרגע, וכל עסק בישראל צריך להכיר את הסיכון.

סיכון ראשי: הונאת דמויות AI

ההונאה השכיחה ביותר היא הונאת כופר בדמויות מדומות: התוקף מתחזה לבעל חברה או למנהל כספים ושולח וידאו (או הקלטת קול) משכנעת המבקשת העברת כסף דחופה. בניגוד לתרמיל דיוג רגיל, שיעור ההצלחה של דרך זו גבוה במיוחד. בעסקים בישראל עם בקרות מתאימות, זה יכול להוביל להפסד של עשרות או מאות אלפים.

גם עובדים בסיכון

הונאות וידאו/קול יכולות להתמקד גם בעובדים בדרגות נמוכות יותר, למשל, פקיד בנק שיקבל "הודעה ממנהל" להעביר כסף. מכיוון שההודעות כתובות בעברית ולעיתים משקללות הקשר מקומי, הן עלולות להיראות משכנעות במיוחד.

צעדים מעשיים

1. הורידו את Savi לחלק מהצוות
בחרו בחברי צוות חשופים (מנהלים, עובדים בתחום הכספים) והורו להם להוריד את האפליקציה. כשהם מקבלים בקשת כסף החשודה בהיותה דמויה, הם יכולים להשתמש בכלי בתוך שניות. זה עלול לחסוך מיליונים.

2. קבעו פרוטוקול אימות כפול
Savi היא כלי עוזר בלבד, לא פתרון שלם. עבור משימות כספיות:

• בקשות להעברת כסף חייבות לעבור אימות טלפוני ישיר מהאדם המבקש (לא רק וידאו או הודעה).
• קבעו סף כספי, בקשות שעולות על סכום מסוים חייבות לעבור שכבות אישור נוספות.
• העלו את המודעות של הצוות, ערכו סדנה קטנה על סוגי הונאות AI וסימנים של התרמול (קול מוגבל, וידאו עם רעידות קלות, דפוסי דיבור חריגים).

3. שקלו ייעוץ סייברנטי מיוחד
הונאות AI הן תחום חדש יחסית. אסטרטגיית ההגנה צריכה להיות מותאמת לכל עסק. התייעצו עם מומחה סייברנטי בישראל (בעל ניסיון בתחום threat intelligence) כדי להעריך את הסיכון הספציפי שלכם.

לסיכום

הונאות AI כבר לא עניין עתידי. הן קיימות כאן, הן יעילות, והן יחטפו את העסקים שלכם, במיוחד אלה עם תקשורת פנימית חלשה או בקרות כספיות רופפות. Savi היא כלי חשוב בחבילת הגנה רחבה יותר, אך היא לא מספיקה לבדה. צפו אימות אנושי, הדרכת צוות וממשקים משמעתיים. וכשאתם משתמשים בבינה מלאכותית כדי להאיץ תהליכים בעסקכם, זכרו: לא כל שימוש בAI הוא לטובתכם.