- OpenAI הכריזה על Jalapeño, שבבה הראשון לשרתי inference. מה זה אומר לעלויות הטכנולוגיה שלכם ולתחרות ב-AI.
Jalapeño היא עברית ASIC המיועדת בדיוק לשרתי inference, לא לאימון. זה אומר שעלויות הפעלת מודלים יורדות, ופחות כסף שלכם יוצא על GPU Nvidia יקר.
מה קרה, בקצרה
OpenAI חשפה את Jalapeño, שביב ASIC חדש שנבנה בשיתוף עם Broadcom. השביב מעוצב למטרה ספציפית אחת: הפעלת מודלים בשרתי inference, כלומר, כשמשתמשים משדרגים בקשות למודל ChatGPT או Claude, ו-OpenAI צריכה להחזיר תשובה במהירות וביעילות.
זה לא שביב לאימון מודלים (זה עדיין עבודה של Nvidia). זה שביב להפעלת מודלים שכבר קיימים, מה שנקרא "inference".
למה זה חשוב לעסקים
1. עלויות נמוכות יותר להפעלה
השביב מעוצב בעלויות אנרגיה נמוכה. זה אומר ש-OpenAI תוכל להפעיל את המודלים שלה בעלות נמוכה יותר. כתוצאה מכך, וקרוב לוודאי, יכולה להיות ירידה במחיר ה-API.
לעסקים שמשתמשים ב-ChatGPT API או בשירותי OpenAI, זה יכול להיות הבדל משמעותי בתוצאה הכספית.
2. תחרות חדשה עם Nvidia
Nvidia צורכת כיום את רוב שוק ה-GPU, ומחיריה גבוהים. כשחברות כמו OpenAI, Google ו-Meta בונות שביבים משלהן, הן מפחיתות תלות ב-Nvidia.
זה טוב לעסקים בטווח הארוך, כי זה מעודד תחרות וירידת מחירים בשוק ה-AI infrastructure.
3. סימן להאצת ההתאמה בעצמיות ב-AI
חברות גדולות בונות כעת את השביבים שלהן. OpenAI עושה זאת, Meta עושה זאת, Google עושה זאת. זה אומר ש-AI הופך להיות עוד יותר משולב בתוך הארגונים, חברות בונות את כל התשתית שלהן בעצמן.
איך זה יכול להשפיע ישירות על העסק שלכם
אם אתה משתמש ב-OpenAI API
ברוב הסבירות, המחירים ירדו בקרוב. Jalapeño יכול להוריד את עלויות ה-inference של OpenAI בעד 30-50%, תלוי בשימוש. זה יכול להיות משמעותי למפתחים וחברות הרוצות לשמור על עלויות נמוכות.
אם אתה בונה מודלים מותאמים
אם יש לך צורך במודלים מותאמים או ב-LLMs מכוונים, זה יכול להיות הזמן להערכה: האם עלי להשקיע בחומרה משלי, או ה-API של OpenAI עדיין זול יותר?
אם אתה עובד בתחום Infrastructure או DevOps
שביבים מותאמים דורשים תמיכה ותשתית שונה מ-GPU סטנדרטי. עליך להיות מוכן להתאים את ה-deployment שלך אם אתה רוצה להשתמש בזה.
מה זה אומר לעסקים קטנים?
אין עדיין השפעה ישירה (אתה לא קונה Jalapeño בעצמך). אך בעקיפין, כשOpenAI מוריד עלויות, ה-API יזול, והשימוש ב-AI הופך לאפשרות מעשית יותר לעסקים בכל גודל.
אתה יכול להקים סוכן AI למכירות או לשירות לקוחות בעלות נמוכה יותר.
שורה תחתונה
Jalapeño היא צעד של OpenAI להיות פחות תלויה ב-Nvidia ולשלוט יותר בעלויותיה. זה טוב לתחרות בשוק ה-AI, וקרוב לוודאי שיוביל ל-API שלהם להיות זול יותר.
לעסקים שמשתמשים ב-AI כיום, זה סימן חיובי. המחירים צריכים ליפול. לעסקים שעדיין לא השקיעו ב-AI, זו דחיפה נוספת למה כדאי להתחיל עכשיו.
קורס במתנה עם ברכה אישית מכם, מסירה מיידית או בתאריך שתבחרו, וגישה לכל החיים.
קישורים רלוונטיים
שאלות נפוצות
יעקב צדק
מרצה AI מוביל בישראל, מטמיע בינה מלאכותית בארגונים מ-2021. מייסד LazySEO AI ומכללת צדק אקדמי, מוביל קהילות עם מעל 100,000 חברים. שותף רשמי של Meta, Google, Canva ו-TikTok.
עוד עליי ←