סטארטאפ צ'יפים AI משנה את משחק ה-GPU וזה משפיע עליכם
Etched הציגה AI cluster שהרשים את Jane Street כל כך, שהובילה לסבב גיוס ענק. השיטה שלהם: GPU מותאם תכנית שחוסך מיליארדים בעלויות חישוב. זה אומר שעידן ה-GPU הכללי של Nvidia עשוי להשתנות.
Etched הציגה AI cluster שהרשים את Jane Street כל כך, שהובילה לסבב גיוס ענק. השיטה שלהם: GPU מותאם תכנית שחוסך מיליארדים בעלויות חישוב. זה אומר שעידן ה-GPU הכללי של Nvidia עשוי להשתנות.
בנתה GPU מותאמת תכנית (ASIC) שמטבעה מותאמת להרצת Anthropic Claude במהירות ובעלות נמוכה בהרבה מ-GPU כללי של Nvidia. היוצר: לא צריך לחכות שהעבודות יתחרו על משאבים כלליים.
Jane Street, ענק בתחום המסחר האלגוריתמי, צריכה inference בעלות מינימלית בעוצמה גדולה. Etched מציעה בדיוק את זה. הם התרשימו כל כך שהובילו סבב של מיליארד דולר.
לא בהכרח. Nvidia עדיין שולטת בהכשרת מודלים (training). אבל בהרצה (inference) של מודלים ספציפיים, GPU מותאמות עלולות לגנוב חלק משוק. זה כמו אופטימיזציה בקרן אטומית.
הידעת?
Etched יצרה GPU שעובד על מודל יחיד (Claude) בעלות 90% נמוכה מ-Nvidia הכללי. זה כמו לקנות מכונית ספורט כשכל מה שאתה צריך הוא עגלה.
Etched (Etched), סטארטאפ בתחום צ'יפי AI מגיית סילิקון, הצליח להכפיל את שווייתו מ-10.5 מיליארד ל-21 מיליארד דולר תוך חודש בודד. המפתח הוא GPU שנבנתה כדי להריץ את Claude בעלות אופטימלית.
לפי TechCrunch, Jane Street (קרן מסחר קוונטיטטיבית גדולה) התרשימה כל כך מביצועי Etched שהובילה את סבב הגיוס החדש. זה אות חשובה.
Etched יצרה ASIC (Application-Specific Integrated Circuit) שמותאמת לתכנה כדי להריץ את Claude של אנתרופיק (Anthropic). בעוד שנווידיה (Nvidia) בנתה GPU כללית שפועלת עם כל מודל, Etched בחרה בדרך אחרת: "אנחנו משתמשים Claude כל הזמן, בואו נבנה בדיוק מה שאנחנו צריכים."
התוצאה היא עלויות inference נמוכות בכ-90% בהשוואה ל-GPU כללית.
רוב החברות שמטמיעות Claude בארגון לא שוקלות עלות של inference משום שהיא מצטברת לאט. אבל אם אתם מריצים אלפי שאילתות Claude יומיות (סוכני AI, דוחות יומיים, ניתוח מסמכים), העלויות הופכות ממשיות.
דוגמה:
עם Etched, זה היה 1,800 דולר.
למעלה מעשור, נווידיה היתה "בחורה היחידה בנשף." כל דבר בתחום AI רץ על נווידיה. אבל Reuters מדווח שEtched לא יחידה. גם Groq, SambaNova וחברות אחרות בנות GPU מותאמות. זה הרבעון של התמחות.
Etched הוקמה על ידי ויטליק בוטרין (Vitalik Buterin), ממציא Ethereum, ותמים נוספים בשנת 2024. הם מתמקדים בבעיה ספציפית: הרצת מודלים גדולים בעלות נמוכה.
הגישה שלהם כוללת:
בטווח קצר: לא. נווידיה שולטת בהכשרה (training). בניית מודלים גדולים עדיין דורשת GPU של נווידיה.
בטווח בינוני: חלקית. Inference עלול להזוז לחברות מיוחדות. זה דומה למה שקרה עם אינטל (Intel): כולם רצו כל דבר על Xeon, עד שלא, ואז CPU מותאמות הפכו נורמה.
בטווח ארוך: זה אומר ש-GPU כלליות עלולות להניב שיעור נמוך יותר של הרווח. אבל נווידיה תראה זאת מגיעה. היא כבר השקיעה מיליארדים בפיתוח שלה.
אם אתם משתמשים Claude דרך API של אנתרופיק, אתם משלמים תמיד את המחיר הזה. Etched לא משפיעה עליו כרגע.
אם בניתם סוכן עם Claude, וודאו שיש לכם אפשרות לעבור לחלופה כמו ChatGPT או מודל אחר אם העלויות יעלו. גיוון הוא תכנית בטיחות.
אם משקיעים גדולים כמו Jane Street נכנסים, זה אומר שהמחיר של inference פרטי או מקומי עלול לרדת. זה טוב לחברות שמטפלות במידע רגיש (בנקאות, רפואה, ממשל).
עם עלויות inference המתנמנמות כעת, הרבעון הבא של שיפור יהיה בשיטות אוטומציה חכמות יותר. צוותים צריכים ללמוד כיצד לכתוב סוכנים יעילים, לא רק "להשתמש ב-Claude".
Etched הכפילה את שווייתו משום שפתרה בעיה אמיתית: עלויות inference אינן מתרחבות בקנה מידה. כל ארגון שרוצה להשתמש ב-Claude בהיקף גדול צריך חלופה זולה יותר.
לעסקים בישראל, זה לא חדשות שמשנה חיים היום. אבל זה אזהרה להעתיד: בעוד שנה, עלול לעלות מחיר API שלכם, או תצטרכו להעביר סוכנים לענן משלכם.
ההשלכה? התחילו לחשוב כעת איך סוכני ה-AI שלכם צריכים להיות יעילים יותר, לא רק חזקים יותר.
אם הארגון שלכם משתמש Claude באופן כבד, עלויות ה-inference עלולות להיות מעוקה. שום דבר פה לא סדור עדיין, אבל המגמה ברורה: חברות יתחילו לדרוש GPU מותאמות למודלים שלהן.