סטארטאפ טוענת שפתרה בעיה שעצרה את התקדמות ה-AI למשך עשור
סטארטאפ מבוססת מיאמי חשפה פתרון למחסום מתמטי שהשפיע על אדריכלות מודלי שפה למשך כמעט עשור. התגלית יכולה לשנות את המשחק בבניית AI יעיל יותר.
סטארטאפ מבוססת מיאמי חשפה פתרון למחסום מתמטי שהשפיע על אדריכלות מודלי שפה למשך כמעט עשור. התגלית יכולה לשנות את המשחק בבניית AI יעיל יותר.
מחסום ריבועי (quadratic bottleneck) בחישוב תשומת לב (attention mechanism) במודלי Transformer, המנוע של כל מודל שפה מודרני. הבעיה גדלה מעריכית עם אורך הקלט.
אם Subquadratic צדקה, זה יכול להוריד עלויות נדלן (inference), להגביר קצב עיבוד, וליצור מודלים יותר זולים, משנה את ה-ROI של AI בארגונים.
Subquadratic התחילה לשתף ראיות, אך זה עדיין proof-of-concept. התעשייה ממתינה ללימוד מלא ולאימות עצמאי.
הידעת?
מחסומי מתמטיים בסיסיים ב-AI יכולים להשפיע על מיליארדים בהשקעות וביכולות הארגוני
סטארטאפ שבסיסה בפלורידה יצאה מ"מצב סודי" בחודש שעבר עם טענה שנראית קרוב לבלתי אפשרית: היא פתרה בעיה מתמטית בסיסית שחסמה את התקדמות חוקרי ה-AI למשך שנים רבות.
המחסום הוא מחסום ריבועי במנגנון תשומת הלב (attention mechanism), הליב של כל מודל שפה מודרני, מ-ChatGPT ל-Claude ל-Gemini. כאשר אתם כותבים הנחיה, המודל צריך לחשב את הקשרים בין כל מילה לכל מילה אחרת. כשהטקסט מתארך, הדרישה החישובית גדלה באופן ריבועי. זה הופך את העיבוד ליקר וקטן לאט.
זו לא בדיקה תיאורטית פשוטה. חוקרים בעולם ניסו פתרונות דומים למשך שנים, אך לא משהו שעבד בפועל בקנה מידה גדול עם מודלים ענקיים כמו Claude 3 או GPT-4.
ההשלכות:
המייסדים הציגו "ראיות", בדיקות ביצועים המראות שהפתרון שלהם:
אך טרם עברו סקירה עמיתים מלאה, וחוקרים עצמאיים עדיין בוחנים את הטענות.
אם הטענות יתבררו כנכונות:
כל ארגון המשתמש בה-API של OpenAI, Anthropic או Google, ישלם פחות עבור בקשות ארוכות. עבור סטארטאפים בתחום שירות לקוחות או ניתוח מסמכים, זה עלול להיות משמעותי.
חברות המפעילות סוכני AI או מודלים מקומיים, סביר שיראו שיפור בביצועים ללא צורך בשדרוג חומware.
מודלים עם חלון הקשר גדול יותר (context window) יכלו להיות זולים יותר. תארו לעצמכם: סקירת קובץ בן 100,000 מילים עם מודל אחד, ללא חלוקה לחלקים מרובים.
אם Subquadratic תאפשר לחברות או לספקיות ה-API ליישם את הפתרון, עלול להיות לחץ על התמחור. מי שיאמץ זאת ראשון עלול לתפוס חלק שוק.
השלב הבא: סקירה עמיתים ויישום על ידי ספקיות גדולות (OpenAI, Anthropic, Google). אם הן יאמצו זאת, במשך חודשים. אם לא, זה עלול להישאר כ"מחקר מעניין" שלא משנה הרבה.
Subquadratic טוענת שפתרה בעיה שעצרה את עולם ה-AI למשך שנים. אם היא צדקה, זה יוכל לשנות את חישוב העלויות והביצועים של בינה מלאכותית. עבור מנהלים, עקבו אחרי סקירת העמיתים. אם היא תאומת, זה יכול להיות חדשות בעלות השפעה על העסק שלכם תוך חצי שנה.
אם מאומתת, הטכנולוגיה יכולה להיות משולבת למודלים חדשים, סביר שנראה אותה בחדשות מודלים בחודשים הקרובים.