SambaNova גייסה מיליארד דולר, מה זה אומר לתעשיית ה-AI
SambaNova, יצרנית שבבי AI, הגיעה להערכה של 11 מיליארד דולר בהנפקת סדרה F בהשקעה של מיליארד דולר. זו השקעה מעניינת שמרמזת על שינוי בדינמיקה של שוק החומרה.
SambaNova, יצרנית שבבי AI, הגיעה להערכה של 11 מיליארד דולר בהנפקת סדרה F בהשקעה של מיליארד דולר. זו השקעה מעניינת שמרמזת על שינוי בדינמיקה של שוק החומרה.
כי היא מאתגרת את הדומיננציה של Nvidia בשוק שבבי ה-AI. SambaNova בנתה ארכיטקטורה מיוחדת שמאפשרת הסקה (inference) בעלות נמוכה יותר, דבר קריטי לעסקים שרוצים להשתמש ב-AI בגדול.
inference היא הפעלת מודל AI כבר מעורך. זה שונה מהאימון (training). רוב העסקים צריכים inference, הם לוקחים מודל שכבר קיים ומריצים אותו. כל פעם שאתה משתמש ב-ChatGPT, זה inference. העלות של inference אוכלת נתח בלתי מבוער מתקציב ה-AI של חברות.
הידעת?
SambaNova הוקמה בשנת 2017 בידי מוקדמים מ-Stanford ו-Twitter, והיא עוסקת בפיתוח שבבים וארכיטקטורה מיוחדת לביצוע מודלי AI בעלות נמוכה יותר מ-Nvidia.
חברת ה-AI chips SambaNova הגיעה להערכה של 11 מיליארד דולר בגיוס סדרה F בשיעור של מיליארד דולר. זו תנועה משמעותית, במיוחד בהתחשב בכך שלפני חמישה חודשים בלבד גיסה החברה סדרה קודמת בהערכה נמוכה הרבה יותר.
עד לפני זמן קצר, Intel ניסתה כנראה לרכוש את SambaNova תמורת 1.6 מיליארד דולר. אינו ברור האם העסקה התרחשה, אך ברור שהחברה בחרה בגיוס הון מציבור בניירות ערך במקום להיות רכושה.
SambaNova הוקמה בשנת 2017והתמחתה בפיתוח שבבים וארכיטקטורת חומרה מיוחדת להפעלת מודלי בינה מלאכותית. צוות ההנהלה מגיע מאוניברסיטת סטנפורד וטוויטר.
עד כה, Nvidia שלטה בשוק הבלעדי של שבבי AI. כל חברה שרוצה להריץ ChatGPT או מודל ענק אחר הייתה חייבת להשתמש בכרטיסי H100 או A100 של Nvidia. המחירים גבוהים, הזמינות נמוכה, וחלופות כמעט ואין.
SambaNova בנתה חלופה. השבבים שלהם מעוצבים באופן ספציפי למשימות AI, בעיקר ל-inference (הפעלה) ולא ל-training (הדרכה).
בעולם ה-AI יש שני שלבים:
Training (הדרכה), חברה לוקחת מיליארדי מילים, משתמשת בכרטיסי Nvidia A100, וגורמת למודל "ללמוד" מהנתונים. זה קורה פעם אחת או מספר פעמים בשנה.
Inference (הפעלה), מיליוני משתמשים משתמשים בו מדי יום. כל פעם שמישהו שוחח עם ChatGPT, יוצר תוכן עם Claude או משתמש בכל שירות AI אחר, inference מתרחש. זה קורה כל הזמן, בעלות נמוכה יחסית, והוא החלק החשוב בעסקים.
Inference הוא ליבת המשחק העסקי של הפעלת AI בקנה מידה גדול. זה גם הליבה של השוק:
SambaNova טוענת שהשבב שלה מפחית עלויות inference באופן משמעותי. זה משנה הכל.
שתי סיבות עיקריות:
SambaNova לא רק מדברת. לחברה יש כבר לקוחות שמפעילים את השבבים שלה בפועל. היא יכלה להראות ל-venture capitalists נתונים אמיתיים, הוכחות לתשואה, ו-pipeline של לקוחות עתידיים.
Nvidia עדיין המלכה, אך גם היא מתקשה. עם התנופה המעטה של ציפיות בינה מלאכותית (כל דבר קצת פחות מדהים מהצפוי), וחברות שבונות פתרונות משלהן, הביקוש לחלופות גדל. SambaNova היא חלופה שגם עובדת וגם זולה יותר.
אם אתה משתמש ב-API של OpenAI, Anthropic, Google או כל חברת AI אחרת, יש סיבה טובה להרחיב את השימוש שלך. כלומר, עם יותר תחרות בשוק החומרה ויותר יכולת להפעיל inference בזול, לאותן חברות יהיה יותר מרווח. זה אומר שמחירי ה-API עשויים לרדת או לפחות להישמר במקום לעלות.
אם אתה תוכנן להשתמש ב-AI בארגון שלך, זה הזמן. עלויות החומרה יגדלו פחות מהצפוי, מה שהופך את AI להשקעה סבירה יותר גם לחברות קטנות.
הבן את עלויות ה-API שלך. אם אתה משתמש ב-Claude או ChatGPT בעסק, בדוק כמה אתה משלם. כל שיפור בחומרה יוצר הזדמנות להחזיר השקעה.
חקור מודלים קטנים יותר. אם עד כה היית חייב להשתמש ב-GPT-4 או Claude Opus כי הם היחידים שעבדו, כעת יש לך אפשרויות נוספות. מודלים קטנים יותר (Sonnet, Haiku) יכולים לעשות עבודה טובה ובמחיר נמוך יותר כשהם רצים על חומרה יעילה.
התחל לבחון אפשרויות "on-premise" או היברידיות. אם אתה שוקל להטמיע סוכן AI בארגון שלך, שקול אם תוכל להריץ אותו במערכות שלך ולא דרך API של צד שלישי. עם יותר יכולות בחומרה זולה, זה הופך למעשי יותר.
SambaNova בהערכה של 11 מיליארד דולר אינה רק עוד חדשות venture. זו אות שהשוק מתחיל להבין שהדומיננציה של Nvidia אינה נצחית, ועלויות הפעלת AI יכולות לרדת. לעסקים, זה חדשות טובות: מחירי ה-API ירדו או יתערערו, חלופות מתפתחות, וההשקעה ב-AI הופכת לסבירה יותר.
אם עדיין לא התחלת עם AI בעסקך, זה הרגע. אם כבר התחלת, זו ההזדמנות לחדד את האסטרטגיה: מצא איפה אתה יכול להקטין עלויות ואיפה אתה יכול להרחיב.
כי השוק ראה עדויות טובות יותר לגבי הטכנולוגיה שלה. בשנים האחרונות נתנו הם הוכחות שהשבב שלהם עובד בפועל, שגדלו הלקוחות, והביקוש לחלופות ל-Nvidia בוער. ההערכה קפצה.
טוב על טווח ארוך. זה אומר שיהיו יותר אפשרויות לחומרה מתחרה, המחירים של חומרה AI יחזרו לקרקע, והעסקים הישראליים שמשתמשים ב-AI יוכלו לעשות זאת בעלות נמוכה יותר.