General Compute: מודל תחרותי המאיים על כדור הבזל של Nvidia

מי זאת General Compute?

General Compute היא סטארטאפ שנוסדה על ידי צוות שעבד בתשתיות GPU במשך שנים. הרעיון הבסיסי: Nvidia שולטת בשוק לא משום שהשבבים שלה הם הטובים ביותר לכל משימה, אלא משום שאין חלופה טובה.

בסדרה A שסגרה אתמול, General Compute גייסה 100 מיליון דולר מערכאות מובילות, כולל Index Ventures (Index Ventures) ו-Craft Ventures (Craft Ventures), כדי לבנות:

1. שכבת תרגום שמתרגמת מודלים מ-CUDA (שפת התכנות של Nvidia) לשבבים אחרים
2. ספרייה של תבניות שפועלות עם שבבים מ-Intel (Intel), Amazon Web Services (AWS), Graphcore (Graphcore) ועוד
3. סביבת בדיקה שמוודאת שהביצועים לא קטנים

מה קורה בשוק כרגע?

שבבי Nvidia A100 ו-H100 עולים עשרות אלפים דולרים. כל יחידת GPU צורכת 1.5 קילוואט חשמל. חברות כמו Meta (Meta), Google (Google) ו-OpenAI (OpenAI) שילמו מיליארדים על מחסומים של השבבים הללו. הבעיה: הביקוש גדול יותר, וזמן ההמתנה הוא 6 עד 8 חודשים.

בינתיים, Intel משיקה את Gaudi 3 (Gaudi 3), Amazon Web Services מוציאה את Trainium (Trainium), וGraphcore יושבת על עתודה של כסף. כל אלה חזקים להסקה, אבל אף אחד לא מוכן לחכות להם, משום שNvidia הפכה למעשה לתקן התעשיה.

General Compute אומרת: "זה לא צריך להיות כך." היא בנתה שכבת תרגום המאפשרת לכל קוד להרוץ על Gaudi כמעט ללא שינויים, בשל שהוא רץ על Nvidia.

מה משתנה לעסקים בישראל?

קישור פנימי, כיצד להטמיע בינה מלאכותית בארגון בעלות נמוכה

1. עלויות נמוכות יותר על סוכני בינה מלאכותית

אם אתם בונים סוכן בינה מלאכותית הפועל כל היום, עלות ההסקה היא הגדולה ביותר. General Compute יכולה להנמיך את העלויות שלכם, בתנאי שאתם צריכים הסקה בלבד ולא הכשרה.

2. יכולת בנייה מהירה יותר

אם אתם שוקלים להשקיע בשרתי בינה מלאכותית פרטיים, General Compute מאפשרת לכם להתחיל עם Gaudi או Trainium ללא תלות בספק יחיד.

3. ניהול סיכונים

Nvidia היא חברה רגישה מבחינה גיאופוליטית. אם המתח בין ארצות הברית לסין מתגבר, קיים סיכון לסנקציות על ייצוא. General Compute מנתקת את התלות הזו.

האם זה באמת עובד?

General Compute עדיין בשלב הוכחת קונספט. היא בדקה עם Meta, Discord (Discord) ו-Vised (Vised), וכולם דיווחו שהביצועים היו בתוך 10 אחוז מ-Nvidia (כלומר, קרובים מאוד). לעומת זאת, התעשייה שמורה ספקנות.

הבעיה מאתמול: חברה בשם Neocloud (Neocloud) ניסתה לעשות משהו דומה וכשלה. תחזוקת הקוד לכל שבב היא כבדה. General Compute טוענת שהשיפרה זאת, אך זה עדיין סיכון.

סיכום

General Compute היא שחקן אמיתי בסיפור שינוי בתעשיית הבינה מלאכותית. היא לא תחליף את Nvidia בלילה, משום שNvidia כבר מבוססת וחזקה.

אבל לארגון שמתחיל בבינה מלאכותית או המחפש מודל עלות נמוך יותר, General Compute מציעה דרך חדשה ומשמעותית. היא אומרת: "הקוד שלך הוא שלך, לא של Nvidia."

זה מה שיפתח את הדלת הבאה בתעשיית הבינה המלאכותית.