SambaNova גייסה מיליארד דולר, מה זה אומר לתעשיית ה-AI

מה קרה בדיוק?

חברת ה-AI chips SambaNova הגיעה להערכה של 11 מיליארד דולר בגיוס סדרה F בשיעור של מיליארד דולר. זו תנועה משמעותית, במיוחד בהתחשב בכך שלפני חמישה חודשים בלבד גיסה החברה סדרה קודמת בהערכה נמוכה הרבה יותר.

עד לפני זמן קצר, Intel ניסתה כנראה לרכוש את SambaNova תמורת 1.6 מיליארד דולר. אינו ברור האם העסקה התרחשה, אך ברור שהחברה בחרה בגיוס הון מציבור בניירות ערך במקום להיות רכושה.

מי היא SambaNova?

SambaNova הוקמה בשנת 2017והתמחתה בפיתוח שבבים וארכיטקטורת חומרה מיוחדת להפעלת מודלי בינה מלאכותית. צוות ההנהלה מגיע מאוניברסיטת סטנפורד וטוויטר.

עד כה, Nvidia שלטה בשוק הבלעדי של שבבי AI. כל חברה שרוצה להריץ ChatGPT או מודל ענק אחר הייתה חייבת להשתמש בכרטיסי H100 או A100 של Nvidia. המחירים גבוהים, הזמינות נמוכה, וחלופות כמעט ואין.

SambaNova בנתה חלופה. השבבים שלהם מעוצבים באופן ספציפי למשימות AI, בעיקר ל-inference (הפעלה) ולא ל-training (הדרכה).

מה זה inference ולמה זה חשוב?

בעולם ה-AI יש שני שלבים:

1. Training (הדרכה), חברה לוקחת מיליארדי מילים, משתמשת בכרטיסי Nvidia A100, וגורמת למודל "ללמוד" מהנתונים. זה קורה פעם אחת או מספר פעמים בשנה.

2. Inference (הפעלה), מיליוני משתמשים משתמשים בו מדי יום. כל פעם שמישהו שוחח עם ChatGPT, יוצר תוכן עם Claude או משתמש בכל שירות AI אחר, inference מתרחש. זה קורה כל הזמן, בעלות נמוכה יחסית, והוא החלק החשוב בעסקים.

Inference הוא ליבת המשחק העסקי של הפעלת AI בקנה מידה גדול. זה גם הליבה של השוק:

• OpenAI ו-Anthropic משלמות מיליארדים בשנה להפעלת שרתי inference.
• טוקנים, היחידות שבהן חברות כמו OpenAI מחייבות, הם בעצם עלות ה-inference.
• כל עלייה של 10% בעלות inference מגבירה את הוצאות ה-AI בעסק ב-10%.

SambaNova טוענת שהשבב שלה מפחית עלויות inference באופן משמעותי. זה משנה הכל.

מדוע זה קרה עכשיו?

שתי סיבות עיקריות:

1. ההשקעים רואים שהטכנולוגיה עובדת

SambaNova לא רק מדברת. לחברה יש כבר לקוחות שמפעילים את השבבים שלה בפועל. היא יכלה להראות ל-venture capitalists נתונים אמיתיים, הוכחות לתשואה, ו-pipeline של לקוחות עתידיים.

2. Nvidia עדיין לא מצאה תשובה

Nvidia עדיין המלכה, אך גם היא מתקשה. עם התנופה המעטה של ציפיות בינה מלאכותית (כל דבר קצת פחות מדהים מהצפוי), וחברות שבונות פתרונות משלהן, הביקוש לחלופות גדל. SambaNova היא חלופה שגם עובדת וגם זולה יותר.

מה זה אומר לעסקים בישראל?

בטווח הקצר, ההשפעה על העסק שלך כעת

אם אתה משתמש ב-API של OpenAI, Anthropic, Google או כל חברת AI אחרת, יש סיבה טובה להרחיב את השימוש שלך. כלומר, עם יותר תחרות בשוק החומרה ויותר יכולת להפעיל inference בזול, לאותן חברות יהיה יותר מרווח. זה אומר שמחירי ה-API עשויים לרדת או לפחות להישמר במקום לעלות.

אם אתה תוכנן להשתמש ב-AI בארגון שלך, זה הזמן. עלויות החומרה יגדלו פחות מהצפוי, מה שהופך את AI להשקעה סבירה יותר גם לחברות קטנות.

בטווח הבינוני, תוכנית ל-6 החודשים הבאים

1. הבן את עלויות ה-API שלך. אם אתה משתמש ב-Claude או ChatGPT בעסק, בדוק כמה אתה משלם. כל שיפור בחומרה יוצר הזדמנות להחזיר השקעה.

2. חקור מודלים קטנים יותר. אם עד כה היית חייב להשתמש ב-GPT-4 או Claude Opus כי הם היחידים שעבדו, כעת יש לך אפשרויות נוספות. מודלים קטנים יותר (Sonnet, Haiku) יכולים לעשות עבודה טובה ובמחיר נמוך יותר כשהם רצים על חומרה יעילה.

3. התחל לבחון אפשרויות "on-premise" או היברידיות. אם אתה שוקל להטמיע סוכן AI בארגון שלך, שקול אם תוכל להריץ אותו במערכות שלך ולא דרך API של צד שלישי. עם יותר יכולות בחומרה זולה, זה הופך למעשי יותר.

שורה תחתונה

SambaNova בהערכה של 11 מיליארד דולר אינה רק עוד חדשות venture. זו אות שהשוק מתחיל להבין שהדומיננציה של Nvidia אינה נצחית, ועלויות הפעלת AI יכולות לרדת. לעסקים, זה חדשות טובות: מחירי ה-API ירדו או יתערערו, חלופות מתפתחות, וההשקעה ב-AI הופכת לסבירה יותר.

אם עדיין לא התחלת עם AI בעסקך, זה הרגע. אם כבר התחלת, זו ההזדמנות לחדד את האסטרטגיה: מצא איפה אתה יכול להקטין עלויות ואיפה אתה יכול להרחיב.