שבב AI שהכפיל את ערכו בחודש: מה זה אומר לעסקים בישראל

סטארטאפ שבבים שהפך לכוכב בשוק ההשקעות

ביום שני בתוך חודש אחד, Etched (אטצ'ד) עלתה מ-10.5 מיליארד דולר ל-21 מיליארד דולר בהערכה. זו לא הודעה שנקלטה בשקט. Jane Street (ג'יין סטריט), קרן מסחר בעלת מומחיות מקדימה, לא משקיעה מיליארדים בטכנולוגיה סתם כדי להשתתף. היא משקיעה כי ראתה בעיניה את השבב עובד בפועל במאות משימות סוכנות.

מה Etched בעצם עושה?

Etched לא בנתה שבבים כלליים המתחרים עם Nvidia על ה-A100 וה-H100 שלה. הם בנו משהו שונה לגמרי: שבב ייעודי לסוכני AI.

כל שנייה, סוכן AI צריך לעשות פעולות זהות שוב ושוב:

• חיפוש וקטורי בבסיס ידע
• קריאה לכלים חיצוניים (API calls)
• ניתוח תבניות טקסט חוזר ונשנה

Etched זיהתה את החסרונות של יחידת עיבוד גרפי רגילה (GPU) עבור עומס עבודה כזה ובנתה שבב שמעביר עומסים שלא דורשים כוח GPU מלא, וממקדת את הכוח החישובי בסוכנות.

למה Jane Street השקיעה בגדול

Jane Street הנחיתה אשכול של שבבים של Etched וביחנה בדיוק:

• עלות חישוב לשעה
• דיוק התשובות של סוכנים
• אחוז העבודות שהשבב החדש מבצע באופן שווה או טוב יותר מ-GPU

התוצאה: זה עובד.

וזה עובד כל כך טוב שהם השקיעו סכום נוסף, לא בסבב בודד אלא בהשקעה משנית. זה בדיוק מה שמנבא סבב מימון שני רציני.

מה זה אומר לעסקים בישראל?

בפרט: ל-CTO וקבוצות Infrastructure

אתם כנראה בתוך תוכנית הערכת סוכנות AI לשנה הבאה. אתם בודקים עלויות, שוקלים היכן להריץ את המערכות, איזה ענן וביצוע מחשב.

החדשות: אתם לא צריכים להחליט עכשיו.

Etched לקחה את הדור הנוכחי של שבבים והציגה דיוק סוכנות שצפוי להשתפר עם כל דור חדש. אך חשוב יותר: סוגים אחרים של שבבים עלולים להופיע בתור.

משמעות:

• חוזים עם ספקי ענן צריכים לכלול סעיף על גמישות infrastructure, המעניק לכם את הזכות להחליף שבבים ללא עונש בתוך 6, 12 חודשים
• אל תנעלו עצמכם בעלויות כפולות של Nvidia
• בדקו שהחוזה שלכם מאפשר גם יחידות עיבוד גרפי חלופיות: AWS Trainium (טריניום), Intel Habana (האבנה), או אפשרויות עתידיות כמו Etched

האמת על Infrastructure AI בישראל

בהרבה חברות בישראל, ה-Infrastructure של AI עדיין תקני: AWS ו-PyTorch ו-Nvidia GPUs, וכולם משתדלים. לפעמים ה-CPU הפך לצוואר בקבוק, ואז קוראים לתמיכה ב-AWS. לפעמים זה מספיק.

אך אם אתם מנהלים עומס גדול של סוכנות (agents):

• תגובה בזמן אמת
• עשרות משימות בשניה
• משתמשים מרובים

אז ההפרש בין שבב רגיל לשבב מותאם יכול לחסוך 40, 60% בעלויות.

וזה לא יתרחש בחודש אחד. זה יתרחש בשנה:

• 100,000 דולר לחודש → 60,000 דולר לחודש בהוצאות infrastructure
• חיסכון של 480,000 דולר בשנה

מה לעשות עכשיו

שלב 1: בדקו את החוזה שלכם

בדקו מה כתוב בחוזה הענן שלכם. האם יש לכם זכות לבחור בשבבים חלופיים, או שנתון בידי Nvidia בלבד?

שלב 2: הערכו מחדש את סוכנות AI שלכם

אם עדיין לא בניתם סוכנות, בדקו זאת עכשיו. זה לא נדחה ל-6 חודשים מהיום. זה כעת.

שלב 3: התייעצו עם מומחה בינה מלאכותית

אם בניית סוכנות היא על סדר היום הקרוב שלכם, שוחחו עם מומחה בתחום שיכול להעריך את עלות החזקה לאורך זמן (TCO) של סוכנות בשרתיים שלכם. הדבר עלול להחסוך מיליונים בשנה הקרובה.

שורה תחתונה

Etched הכפילה את הערכתה כי פתרה בעיה אמיתית: שבבי GPU רגילים מכילים יותר כוח ודורשים יותר חשמל מאשר נחוץ לסוכנות. Jane Street אמרה בפה מלא, "זה פתור," בעזרת השקעה נוסף.

אם אתם מפעילים סוכנות אוטונומיות בחברה שלכם, זו לא רק שאלה טכנית. זו הודעה שעתידו של Infrastructure לא יהיה "חזק ויקר," אלא "מותאם וחכם." בנו את הגמישות הזו עכשיו, כדי שלא תצטרכו לשכתב מחדש בשנה הבאה.