Google DeepMind משחררת את DiffusionGemma, מודל מקומי שרץ פי 4 מהר יותר
DiffusionGemma מביא טכניקת דיפוזיה לטקסט ומאיץ הרצת AI מקומית פי 4. מודל פתוח שמחזק את האופציה של AI על-גבי תשתית פרטית, בלי לשלוח נתונים החוצה.
DiffusionGemma מביא טכניקת דיפוזיה לטקסט ומאיץ הרצת AI מקומית פי 4. מודל פתוח שמחזק את האופציה של AI על-גבי תשתית פרטית, בלי לשלוח נתונים החוצה.
מודל AI פתוח חדש של Google DeepMind, שמשתמש בטכניקת דיפוזיה כדי להריץ פלט טקסט מקומית מהר יותר, לפי הדיווח, פי 4 מהר יותר ממודלים מקבילים.
כשהמודל רץ על התשתית שלך (ולא בענן של ספק חיצוני), הנתונים לא יוצאים החוצה, יתרון משמעותי לפרטיות, אבטחה ועמידה ברגולציה, ולעיתים גם לעלות.
לארגונים עם דרישות פרטיות גבוהות (בריאות, פיננסים, משפט) או נפח שימוש גדול, שמעדיפים להריץ AI על שרתים שלהם במקום לשלם פר-שימוש לספק ענן.
הידעת?
טכניקת דיפוזיה נפוצה בעיקר ביצירת תמונות, אבל לפי Ars Technica, ב-DiffusionGemma היא משמשת להאצת פלט טקסט, ומאפשרת הרצה מקומית מהירה פי 4.
Google DeepMind השיקה את DiffusionGemma, מודל AI פתוח חדש שמריץ פלט מקומית פי 4 מהר יותר. לפי Ars Technica, המודל משתמש בטכניקת דיפוזיה, נפוצה בעיקר ביצירת תמונות, כדי להאיץ דווקא את ייצור הטקסט.
הוא מביא שיפור מהירות משמעותי להרצה מקומית של AI. במקום לשלוח כל בקשה לענן של ספק חיצוני, ארגונים יכולים להריץ את המודל על התשתית שלהם, מהר יותר ובשליטה מלאה.
מה זה מודל פתוח (Open Source)? מודל ש-Google משחררת באופן פתוח, כך שכל אחד יכול להוריד אותו, להריץ אותו על שרתים פרטיים ולהתאים אותו, להבדיל ממודל סגור שזמין רק כשירות ענן.
כי הנתונים לא יוצאים החוצה. עבור ארגונים עם דרישות פרטיות ואבטחה גבוהות, בריאות, פיננסים, משפט, היכולת להריץ AI על שרתים פנימיים היא קריטית לעמידה ברגולציה ולשמירה על מידע רגיש.
בנוסף, בנפחי שימוש גדולים, הרצה מקומית יכולה להוזיל עלויות לעומת תשלום פר-בקשה לספק ענן. כאן נכנס הערך של אוטומציות AI שבנויות נכון על תשתית מתאימה.
זו החלטה אסטרטגית שתלויה ברגישות הנתונים, בנפח ובתקציב. הטמעת AI מקצועית עוזרת לבחור את הארכיטקטורה הנכונה ולחבר את הכלים (למשל דרך MCP) בצורה מאובטחת.
DiffusionGemma מחזק מגמה חשובה: AI חזק שרץ מקומית, מהר ובפרטיות. עבור עסקים בישראל עם נתונים רגישים, זו אופציה ששווה לבחון, והצעד הראשון הוא להבין אילו תהליכים מתאימים להרצה פנימית. אפשר להיוועץ במומחה בינה מלאכותית לבחירת הדרך.