אנתרופיק חושפת: כיצד קלוד מוכיח שהטקסט שלו אמיתי

סימני מימי בטקסט: המדע שמאחוריהם

לפני שבועות ספורים, אנתרופיק (Anthropic) פרסמה כי היא משתמשת בטכנולוגיית סימני מימי (watermarks) בטקסט שנוצר על ידי קלוד (Claude), כלי לזיהוי תוכן מלאכותי. כעת החברה חשפה מה זה בדיוק, כיצד הוא עובד ומדוע זה חשוב לעסקים בישראל.

סימן המימי של אנתרופיק אינו סימן דיגיטלי גדול המופיע על המסך. זה משהו הרבה יותר עדין: סטטיסטי ובלתי נראה. קלוד בוחר מילים, סדר פסקאות או דפוסי שפה בדרך שמשתמש רגיל לא יבחין בה, אבל כלי זיהוי של אנתרופיק יכול לתפוס זאת.

איך זה עובד בפועל?

כשמבקשים מקלוד לכתוב מסמך או מאמר, הוא אינו רק יוצר תוכן, אלא משתמש באלגוריתם שקובע מה הוא יגיד ובאיזה סדר. האלגוריתם הזה מוטמע בטקסט בצורה כל כך עדינה שהיא בלתי מורגשת לעין או לאוזן.

כשמנתח זיהוי של אנתרופיק סורק את הטקסט, הוא מחזיר דוח סטטיסטי ואומר: "זה קלוד. סיכוי של 95% או יותר."

עמידות: המאפיין המרכזי

מה שמעניין במיוחד היא העמידות. אנתרופיק טוענת שהסימן המימי שלה עומד מול:

• תרגום, אפילו לשפות אחרות
• עריכה קטנה, שינוי כמה מילים או משפטים
• עיצוב מחדש, סדר פסקאות שונה
• הסרה חלקית, הסרת קטעים מנקודות שונות

זה אינו מושלם. אם תשכתבו את כל הטקסט מחדש או תסירו 70% ממנו, הסימן יתמעמע. אבל עבור עורכי תוכן שמנסים להסתיר את מקורו, זה משמעותי.

מה זה אומר לעסק הישראלי?

בישראל, שלושה סוגי עסקים צריכים לשים לב:

1. הוצאות וגופי פרסום

סוכנויות פרסום ומודיעים משתמשים ב-AI ליצירת תוכן בכמויות גדולות. סימני המימי הללו עוזרים להם לוודא האם מתחרה "העתיק" תוכן באמצעות קלוד או כתבו משלהם. זה כלי חוקי לתביעות זכויות יוצרים.

2. חברות טק וסטארטאפים

סטארטאפ ישראלי המשתמש בקלוד לעבודה פנימית (דוחות, בדיקת קוד, ניתוח) יכול להשתמש בכלי זה לאימות: האם הטקסט שהגיע מעובד מסוים נכתב באמת על ידי קלוד, או הוא כתבו ידנית? זה חשוב במריבות פנים על קרדיט או בדיקת ביצוע עבודה.

3. מערכות חינוך וגופי משפט

כשמטלות סטודנטים וטענות משפטיות כתובות על ידי AI, כלי זה הופך לעדות. זיהוי של סימן מימי של אנתרופיק במטלה או בתזה היא כמעט הוכחה שקלוד כתב את זה (או חלק ממנו).

למה זה לא מעמיק בקוד?

סימני מימי לא מוטמעים בקוד שנוצר על ידי קלוד. אם אנתרופיק הכניסה סימנים שונים ללולאות או משתנים, הקוד היה מתקלקל.

לכן קלוד משתמש בסימנים בטקסט חופשי בלבד: מאמרים, דוחות, מיילים וטענות משפטיות. קוד נשאר קוד.

מדוע עכשיו?

תוכן מזויף הולך וגדל. מדיניות של מפרסמים ומנועי חיפוש דורשת כעת היכולת להוכיח אם משהו נכתב על ידי AI. חוקי בינה מלאכותית בעולם (כולל הנורמות בישראל) מתחילים לדרוש שקיפות בנושא.

אנתרופיק הבהירה שהכלי שלהם חינם ופתוח לכל אחד, ללא צורך בכרטיס אשראי. זה חלק מהמדיניות שלהם להיות שקופים בנושא זיהוי AI.

מה כדאי לעשות בארגון שלכם?

1. אם אתם משתמשים בקלוד לתוכן ציבורי (חדשות, מאמרים, מדריכים): התחשבו בסימנים הללו כחלק מתהליך האימות שלכם.

2. אם אתם עורכי דין או בעסק שבו אימות קשור לעבודה: דעו על כלי זה בעת חקירה של טענות זויפות.

3. אין צורך לדאוג: סימנים אלו לא משפיעים על איכות הטקסט או הקוד שלכם, והם שקופים לחלוטין למשתמש הסופי.

שורה תחתונה

סימני המימי של אנתרופיק הם צעד נוסף בכיוון של שקיפות בעידן AI. הם לא מושלמים ויכול לעקוף אותם בעורך או בשכתוב מוחלט, אבל הם עושים את העבודה: עוזרים לזהות תוכן AI בהצלחה. בעולם שבו תוכן מזויף הוא בעיה גוברת, זה כלי בעל ערך.