- Baseten, סטארטאפ ה-AI inference, גייסה $1.5 מיליארד בהערכה של $13 מיליארד. מה חשוב לדעת על מהפכת ההנעות.
Baseten יכולה להריץ את אותו מודל בעלות שהיא אחוזים ממה שעולה דרך ChatGPT API. התרחיש הזה משנה את כל המשחק למי שבונה עוזרים AI למיליוני משתמשים.
הבעיה שלא סיפרו עליה קודם
בתחום הבינה המלאכותית יש סוד שלא כולם מדברים עליו: האימון הוא חד-פעמי. ההנעה היא לנצח.
הכשרת מודל שלוקחת שנתיים ועולה עשרות מיליוני דולרים היא השקעה כבדה, אך סופית. אבל כשהמודל שלך צריך מיליוני קריאות API בחודש, וכל קריאה עולה סנטים, פתאום קיימת בעיה בעלויות.
לפי TechCrunch, Baseten הן החברה שנועדה לפתור בעיה של מיליארדים בעלויות הנעה לא הכרחיות. החברה גייסה 1.5 מיליארד דולר בסבב Series D כדי להחזיק את הרעיון הזה למימדים.
מה זו Baseten?
Baseten היא פלטפורמה המאפשרת להריץ מודלי בינה מלאכותית (בעיקר קוד פתוח) בעלות נמוכה משמעותית. החברה מייעלת את כל ההיבטים של ההנעה:
- קנייה חכמה של חומרה: השימוש בצ'יפים המתאימים לכל מודל ועומס עבודה.
- קנה מידה דינמי: גדילה בשעות הביקוש השיא וכיווץ כשהביקוש יורד.
- אופטימיזציה של מודלים: הרצת גרסאות מודל שהן מהירות וזולות יותר.
- חלופות חזקות: במקום להריץ מודל מלא, ניתן להשתמש בעיבוד קל, בקריאות בקרה לצפויים קטנים או בשיטות אחרות.
ההשלכות על עסקים
1. עלויות הנעה מתפוצצות
מי שבנה מוצר עם בינה מלאכותית בשנים האחרונות ראה את העלויות עולות. OpenAI ו-Anthropic גובות בחישוב של טוקנים. למוצר עם מיליוני משתמשים, זה יכול להשתלוט על התקציב כולו.
Baseten וחברות דומות עשויות לשנות זאת באופן משמעותי. הן יכולות להוזיל עלויות עד 90% משום שהן מתמקדות בעלויות פיזיות בלבד, חומרה וחשמל, ללא שולי רווח גדולים.
2. יותר סטארטאפים יכולים להשתמש ב-AI
לעסקים קטנים וסטארטאפים, זו חדשות טובה. עלויות הנעה נמוכות יותר משמעות שניתן להתחיל להשתמש בתהליכים מלאי AI או בסוכנים ללא שריפת תקציב הקמת החברה.
3. התחרות מתגברת
OpenAI משחקת במחירים, Anthropic משפרת הנעות, ו-AWS משדרגת את SageMaker. העלויות בתחום יורדות. זו רק שאלה של זמן.
מה קורה אחרי 1.5 מיליארד דולר?
Baseten כבר ממלאת תפקיד בעסקים גדולים. בהערכה של 13 מיליארד דולר, החברה יש הוכחת קונספט. כעת היא בונה פלטפורמה בקנה מידה גלובלי שתכול לתמוך במיליארדי פעולות הנעה בשנה.
אף אם Baseten לא תגיע לכל הציפיות, התחום בוודאות יגיע. השוק דורש הנעות זולות. זה לא אפשרות. זו הכרח.
המסקנה
אם אתה בונה עוזר AI, צ'אטבוט או כל כלי שמריץ מודלים בתדירות גבוהה, כדאי לך להסתכל ב-Baseten, בתחרותיה ובתשתית כללית למודלים. הימים בהם משלמים לחברה אחת גדולה להריץ את כל ה-AI שלך אחיוניים בדעיכה. התחרות כאן גדלה, וזה יעבוד לטובתך.
קורס במתנה עם ברכה אישית מכם, מסירה מיידית או בתאריך שתבחרו, וגישה לכל החיים.
קישורים רלוונטיים
שאלות נפוצות
יעקב צדק
מרצה AI מוביל בישראל, מטמיע בינה מלאכותית בארגונים מ-2021. מייסד LazySEO AI ומכללת צדק אקדמי, מוביל קהילות עם מעל 100,000 חברים. שותף רשמי של Meta, Google, Canva ו-TikTok.
עוד עליי ←