סטארטאפ צ'יפים AI משנה את משחק ה-GPU וזה משפיע עליכם

GPU מותאם משנה את המשחק בעלויות AI

Etched (Etched), סטארטאפ בתחום צ'יפי AI מגיית סילิקון, הצליח להכפיל את שווייתו מ-10.5 מיליארד ל-21 מיליארד דולר תוך חודש בודד. המפתח הוא GPU שנבנתה כדי להריץ את Claude בעלות אופטימלית.

לפי TechCrunch, Jane Street (קרן מסחר קוונטיטטיבית גדולה) התרשימה כל כך מביצועי Etched שהובילה את סבב הגיוס החדש. זה אות חשובה.

מה בדיוק בנו?

Etched יצרה ASIC (Application-Specific Integrated Circuit) שמותאמת לתכנה כדי להריץ את Claude של אנתרופיק (Anthropic). בעוד שנווידיה (Nvidia) בנתה GPU כללית שפועלת עם כל מודל, Etched בחרה בדרך אחרת: "אנחנו משתמשים Claude כל הזמן, בואו נבנה בדיוק מה שאנחנו צריכים."

התוצאה היא עלויות inference נמוכות בכ-90% בהשוואה ל-GPU כללית.

למה זה משנה לעסקים בישראל?

עלויות inference הן בעיה קריטית

רוב החברות שמטמיעות Claude בארגון לא שוקלות עלות של inference משום שהיא מצטברת לאט. אבל אם אתם מריצים אלפי שאילתות Claude יומיות (סוכני AI, דוחות יומיים, ניתוח מסמכים), העלויות הופכות ממשיות.

דוגמה:

• סוכן Claude יבצע 10,000 שאילתות ביום
• כל שאילתה עולה בערך 0.5¢
• זה 50 דולר ביום, או 1,500 דולר בחודש
• במשך שנה: 18,000 דולר על inference בלבד

עם Etched, זה היה 1,800 דולר.

סימן אזהרה למונופול של נווידיה

למעלה מעשור, נווידיה היתה "בחורה היחידה בנשף." כל דבר בתחום AI רץ על נווידיה. אבל Reuters מדווח שEtched לא יחידה. גם Groq, SambaNova וחברות אחרות בנות GPU מותאמות. זה הרבעון של התמחות.

מי היא Etched?

Etched הוקמה על ידי ויטליק בוטרין (Vitalik Buterin), ממציא Ethereum, ותמים נוספים בשנת 2024. הם מתמקדים בבעיה ספציפית: הרצת מודלים גדולים בעלות נמוכה.

הגישה שלהם כוללת:

1. ניתוח דפוסי החישוב של Claude
2. עיצוב צ'יפ המותאם לדפוסים אלה
3. ייצור ASIC שיכול להריץ את Claude בעוצמה מלאה בעלות מינימלית

האם זה סכנה לנווידיה?

בטווח קצר: לא. נווידיה שולטת בהכשרה (training). בניית מודלים גדולים עדיין דורשת GPU של נווידיה.

בטווח בינוני: חלקית. Inference עלול להזוז לחברות מיוחדות. זה דומה למה שקרה עם אינטל (Intel): כולם רצו כל דבר על Xeon, עד שלא, ואז CPU מותאמות הפכו נורמה.

בטווח ארוך: זה אומר ש-GPU כלליות עלולות להניב שיעור נמוך יותר של הרווח. אבל נווידיה תראה זאת מגיעה. היא כבר השקיעה מיליארדים בפיתוח שלה.

מה זה אומר לעסק בישראל?

1. עלויות Inference לא יורדות בקרוב

אם אתם משתמשים Claude דרך API של אנתרופיק, אתם משלמים תמיד את המחיר הזה. Etched לא משפיעה עליו כרגע.

2. סימן זהירות: תלות בספק יחיד

אם בניתם סוכן עם Claude, וודאו שיש לכם אפשרות לעבור לחלופה כמו ChatGPT או מודל אחר אם העלויות יעלו. גיוון הוא תכנית בטיחות.

3. הזדמנות: ענן פרטי

אם משקיעים גדולים כמו Jane Street נכנסים, זה אומר שהמחיר של inference פרטי או מקומי עלול לרדת. זה טוב לחברות שמטפלות במידע רגיש (בנקאות, רפואה, ממשל).

4. הכשרה פרטית או סדנאות AI הן הזדמנות

עם עלויות inference המתנמנמות כעת, הרבעון הבא של שיפור יהיה בשיטות אוטומציה חכמות יותר. צוותים צריכים ללמוד כיצד לכתוב סוכנים יעילים, לא רק "להשתמש ב-Claude".

מה עומד לקרות בהמשך

1. חברות אחרות יחקו: אנתרופיק עצמה עלולה לבנות משלה. OpenAI בוודאי צריכה.
2. מחיר GPU מותאמות יקטן: כמו כל טכנולוגיה חדשה, סף הכניסה יירד.
3. נווידיה תענה: היא לא תשב בצד. היא כנראה תקנה או תבנה משלה.
4. עלויות Inference עלולות להישאר גבוהות: זה לא "זה יהיה זול עכשיו" אלא "זה יהיה פחות יקר לחברות שרוצות infrastructure משלהן".

שורה תחתונה

Etched הכפילה את שווייתו משום שפתרה בעיה אמיתית: עלויות inference אינן מתרחבות בקנה מידה. כל ארגון שרוצה להשתמש ב-Claude בהיקף גדול צריך חלופה זולה יותר.

לעסקים בישראל, זה לא חדשות שמשנה חיים היום. אבל זה אזהרה להעתיד: בעוד שנה, עלול לעלות מחיר API שלכם, או תצטרכו להעביר סוכנים לענן משלכם.

ההשלכה? התחילו לחשוב כעת איך סוכני ה-AI שלכם צריכים להיות יעילים יותר, לא רק חזקים יותר.