אמזון הורסת ספרים נדירים לאימון בינה מלאכותית
אמזון מגלה שספרים נדירים הם כנז לאימון מודלי AI. החברה סורקת, מאמנת ומחסלת. יש כאן בעיית אתיקה וחוק שכל מנהל צריך להבין.
אמזון מגלה שספרים נדירים הם כנז לאימון מודלי AI. החברה סורקת, מאמנת ומחסלת. יש כאן בעיית אתיקה וחוק שכל מנהל צריך להבין.
ספרים נדירים יכולים להכיל ידע, שפה היסטורית או טרמינולוגיה יוניקית שלא קיימת באינטרנט. זה הופך אותם לנתוני אימון בעלי ערך גבוה עבור מודלי שפה. לעומת זאת, טקסטים רגילים כבר נסרקו ומעלה גם לרשת (בחלקם בחוקיות, בחלקם לא).
חוקית גם יש מבוך. בארה״ב, 'fair use' עשוי להגן על אימון מודלים, אך בחלק מהמדינות (כמו בריטניה ואירופה) דן הביטול בבעיה. במקרים מסוימים נחתמו הסכמים שקטים בין הוצאות ספרים לחברות AI כדי לפתור את זה, אך אמזון לא כל כך בהירה בעניין.
הידעת?
אמזון פעם מכרה ספרים, היום היא משתמשת בהם כדי ללמד מכונות. הצד השני של הסטוריה: כמה מהספרים הנדירים שהיא מחסלת הם עותקים יחידים שלא קיימים בשום מקום אחר.
זה אירוני: החברה שהחלה בהוצאת ספרים כדי להרוויח בשנות ה-90 כעת הורסת אלפים מהם לאימון מכונות. לפי TechCrunch, עובד של אמזון גילה (בעזרת AirTag שהטמין בספר) שהחברה סורקת ספרים נדירים לאימון מודלי בינה מלאכותית שלה, ואחר כך משליכה את העותקים הפיזיים לפסולת.
הפרט המעניין: הספרים הנדירים מכילים שפה, טרמינולוגיה היסטורית וידע שאינו קיים באינטרנט. אמזון בוחרת בהם דווקא מפני שהם נדירים, כלומר נתוני אימון בעלי ערך גבוה.
למודלי שפה גדולים (LLM) רעבון גדול על נתונים ייחודיים. טקסטים מהאינטרנט כבר נשמשו לשנים, OpenAI (OpenAI), גוגל (Google), Meta (Meta) וכל השאר כבר "הוקצו" על ויקיפדיה, בלוגים ועוד.
ספרים נדירים, לעומת זאת:
זהו בדיוק מה שהופך אותם לחזקים לאימון, וזו גם בדיוק הבעיה.
השאלה המשפטית איננה ברורה, אך מתחדדת:
בארה"ב: "fair use" דומה עשוי להגן על אימון בינה מלאכותית, אך משפטנים עדיין דנים בכך. אין פסק דין סופי.
באירופה: תיקון 13 של הנחיית זכויות יוצרים בסביבה דיגיטלית (CDSM) מאפשר אימון בינה מלאכותית "רק אם לא מתערבים בדרך מסחרית עם העבודה המקורית". דרישה שאמזון כרגע לא עומדת לה.
בפרקטיקה: חברות כמו OpenAI, Google ו-Meta חתמו הסכמים עם הוצאות ספרים. אמזון לא כמעט.
הנה שתי זוויות חשובות:
אם בעסק שלכם יש:
הם כנראה כבר נסרקו על ידי חברות בינה מלאכותית כלשהן, ללא רשות. אם העברו דרך הענן (Google Drive, OneDrive), הם בוודאות נסרקו.
מה לעשות:
גם הזהירות צריכה להיות בכיוון השני. אם אתם בוחרים מודל בינה מלאכותית לעסק, שאלו:
אמזון סורקת ספרים מכיוון שאיננה יכולה לבנות מודל בגודל ChatGPT או Gemini ללא נתונים "טריים". מודלים בגודל כזה צורכים מיליארדים של דוגמאות. האינטרנט רווי. לכן החיפוש אחרי ספרים, תמלילים, מסמכים מוסדיים.
הבעיה: ספרים הם הטבעת האחרונה של המילון הייחודי.
אך תן לי להיות ישיר: גם בישראל יש מי שעושים כן. סטארטאפים שלנו סורקים מסמכים ממשלתיים או ספריות ללא רשות. זה לא ייחודי לאמזון, זה ייחודי לבינה מלאכותית.
שורה תחתונה: אם נתוניכם חשובים לכם, התחילו להגן עליהם כמו שמשפחה שומרת על מורשתה: בשקיפות, בבחינה זהירה, ובהסכם כתוב.
אם לעסק שלכם יש ספרייה דיגיטלית, ארכיון טקסטים או בסיס ידע יוניקי, הוא כבר בעל ערך גבוה כנתוני אימון. כדאי להגן עליו: תנו רשות מפורשת למודלים מסוימים בלבד, אם בכלל; ושמרו עותקים בצפנה או בענן פרטי. יתכן שכל הטקסטים שלכם כבר סורקו ללא ידיעתכם.
באופנים דומים וגם שונים. OpenAI שתקה יותר על מקורות הנתונים שלה; גוגל יותר פומבית ודנה בחוקיות. כולן מסרקות: ספריות, אתרים, בלוגים וכן, ספרים. ההבדל הוא בתקשורת וברצון לשלם או לתת קרדיט.