Savi חוסמת הונאות AI, כיצד היא עובדת

כאשר הונאות AI גדלות, פתרון חדש קופץ להגנה

לפני כמה שנים, "שיחה מזויפת" הייתה משהו שרואים בחדשות או בטיקטוק. היום, היא חדרה לבתים שלנו ולהתקפות טלפוניות של פושעי סייבר.

TechCrunch דיווחה הבוקר ש-Savi גייסה 7 מיליון דולר ב-seed funding כדי להילחם בתופעה זו. מדובר באפליקציית סמארטפון שמטרתה לזהות, בזמן אמת, אם הקול או הטקסט שמגיע אליך נוצר בבינה מלאכותית.

העובדה: הונאות AI כבר אינן קיימות רק בעולם האקדמי. הן כבר חלק מתקפות סדורות של סייבר, ונמצא שהן מצליחות בשיעור של 80% ויותר עם קרבנות מבוגרים שחושבים שהם שומעים את קול נכדם או קרוב משפחה.

מה זה Savi?

Savi היא אפליקציית iOS ו-Android המשתמשת בזיהוי קול ודפוסי דיבור מבוססי AI כדי לזהות קולות מעובדים בתוך שיחה. היא עובדת בזמן אמת, אתה לא צריך לשמור קובץ, לצלם צילום מסך, או להמתין שעות לתוצאה.

היכולות העיקריות של Savi:

• זיהוי קול דיגיטלי: הזהרה על עיוותים, חוסרי טבעיות בדיבור, וסימנים טכניים המצביעים על deepfake בקול.
• ניתוח טקסט: אם אתה מקבל הודעת WhatsApp או מייל מ"הבנק שלך" בדחיפות חונקת, Savi משווה לעומדות קודמות, דפוסי כתיבה ודומיינים של משלחים.
• דירוג בזמן אמת: האפליקציה מחזירה דירוג של "סביר שמזויף" או "סיכון גבוה" כדי שתוכל להחליט אם להשיב או לחסום.

מדוע זה נחוץ עכשיו?

הונאות AI גדלות בקצב חזק.

למשל, לפי TechCrunch, פושעי סייבר כבר משתמשים בקולות וטקסטים מזויפים כדי להתחזות לקרובי משפחה בצרה, לחברים בבעיות, או אפילו לשוטרים, כדי לדחוף קרבנות להעביר כסף תוך 48 שעות.

האם זה עובד? למעשה, כן, משתי סיבות:

1. הקול או הטקסט כמעט בלתי אפשר להבחין בהם כמזויפים לרוב האנשים.
2. הקבוצות הפגיעות ביותר (מבוגרים, אנשים פחות מיומנים בטכנולוגיה) חסרות כלים כדי לקבוע בודאות אם הקול אמיתי.

Savi מנסה לפתור את הבעיה השנייה.

איך זה יכול לשנות את המשחק לעסקים

אולי אתה חושב: "אנחנו עסק, האם זה רלוונטי לנו?" כן, בהחלט.

ההשלכה על עסקים בישראל

בישראל, גם חברות וגם פרטים סובלים מהונאות סייבר מבוססת AI. כאשר מדובר בקולות מזויפים של מנהלים עם בקשות להעביר כסף או מידע רגיש, או הודעות דוא"ל מזויפות שנראות כמו פניות בנקאיות, ההנזק יכול להיות משמעותי. חברות כבר מאבדות מיליונים בתקפים כאלה.

מה עסקים צריכים לעשות:

1. הטמעת בדיקות בזמן אמת: אם אתה שולח הוראות לעובדים, שקול מדיניות שמזהירה לגבי הודעות וקולות שלא נראים נכונים. אפילו שיחה מהירה עם השולח כדי לוודא יכולה להציל את היום.

2. הכשרת צוות: הדרכה בנושא זיהוי הונאות חשובה. לא מדובר בלחץ מופרז, אלא בהוראה לעובדים לא להסתמך על קול או טקסט בלבד, במיוחד אם יש דחיפות.

3. כלים פנימיים: אם אתה חושב על שכבת הגנה נוספת, שקול סוכן סינון AI משלך או השתמש בכלים קיימים כדי לנתח הודעות שלך. Claude או Gemini יכולים לעזור לזהות הודעות מדומות.

4. מדיניות דיגיטלית חזקה: בארגון, החייבו כל עובד שמטפל במידע רגיש או בהיתרים להשתמש באימות דו-שלבי. VPN, 2FA, ואימות בשיחה נפרדת לעסקאות כספיות רגישות.

מה בעתיד?

Savi עדיין לא היא "פתרון מוחלט". זהו כלי בשכבה אחת מתוך כמה הנדרשות. אך סטארטאפים שמגייסים 7 מיליון דולר מראים שהשוק דורש זאת, והדבר יתגבר.

אתה צפוי לראות עוד מוצרים כמו זה. בנקים חדשניים כבר שולחים הודעות על קולות וטלפונים מזויפים. עסקים צריכים להיות ערים ומעודכנים.

הדבר העיקרי

הונאות AI תהיה הידיעה המגדירה של העשור הקרוב, צפוי שהן יתחזקו ויהיו יותר מתחכמות. Savi היא חלק אחד מתוך מספר פתרונות שיהיו הכרחיים.

למנהלים בישראל, ההודעה ברורה: אם לא תעדכנו את אמצעי ההגנה שלכם כדי להתמודד עם קולות מזויפים, טקסטים מזויפים ודחיפויות, אתם בסיכון משמעותי. עדכנו את מדיניות ה-AI שלכם, הדרכו עובדים, וחסמו כל מה שאתם יכולים.