הצעה חדשה מספקת ארכיטקטורת מיזוג ייחודית שמופעלת על ידי חלוצי AI מובילים בתעשייה כמו Cohere, CoreWeave ו- NVIDIA כדי לספק רווחי ביצועים פריצת דרך ולהפחית את דרישות התשתית עבור אימון AI מסיבי ועומסי עבודה של ההשפעה
פריז וקמפבל, קליפורניה, 9 ביולי 2025 /PRNewswire/ — מפסגת RAISE 2025: WEKA חשפה את NeuralMesh Axon, מערכת אחסון פורצת דרך שמשתמשת בארכיטקטורת היתוך חדשנית שתוכננה להתמודד עם האתגרים הבסיסיים של הפעלת יישומי AI ועמקי עבודה בקנה מידה גדול. NeuralMesh Axon מתמזגת בצורה חלקה עם שרתי GPU ומפעילי AI כדי לייעל יישומים, להפחית עלויות ולשפר באופן משמעותי את יכולת התגובה והביצועים של עומס העבודה של AI, תוך שינוי משאבי GPU לא מנוצלים היטב לשכבה תשתית מאוחדת בעלת ביצועים גבוהים.
מתוך בנייה על החברה מערכת אחסון NeuralMesh שהוכרזה לאחרונה, ההצעה החדשה משפרת את ארכיטקטורת המיקרו-שירותים במכולות שלה עם פונקציונליות משובצת חזקה, ומאפשרת לחלוצי AI, ספקי שירותי AI ו- neocloud להאיץ את פיתוח מודל AI בקנה מידה קיצוני, במיוחד כאשר משולבים עם NVIDIA AI Enterprise ערימות תוכנה לאימון מודלים מתקדמים ולאופטימיזציה של ההשלכה. NeuralMesh Axon תומך גם בהיגיון בזמן אמת, עם שיפור משמעותי בזמן-לטוקן הראשון ונתון הנתונים הכולל של טוקן, המאפשר ללקוחות להביא חידושים לשוק מהר יותר.
מכשולים בתשתית AI מורכבים באקסא-סקייל
ביצועים הם להיות-או-לחדול עבור אימון מודל שפה גדול (LLM) והעומס העבודה ההשלכה, במיוחד כאשר פועל בקנה מידה קיצוני. ארגונים שמפעילים עומסי עבודה עצומים של AI על ארכיטקטורות אחסון מסורתיות, המסתמכות על גישות כבדות לשכפול, מבזבזות את קיבולת NVMe, מתמודדות עם חוסר יעילות משמעותי, ומתמודדות עם ביצועים בלתי צפויים והקצאת משאבים.
הסיבה? ארכיטקטורות מסורתיות לא נועדו לעבד ולאחסן כמויות עצומות של נתונים בזמן אמת. הם יוצרים עיכוב וצרכי בקבוק בצינורות נתונים וזרמי עבודה של AI שיכולים לפגוע בהפצצות AI בקנה מידה גבוה. שרתי GPU לא מנוצלים וארכיטקטורות נתונים מיושנות הופכים חומרה פרימיום להון פנוי, וכתוצאה מכך זמן הפסקות יקר עבור עומסי עבודה אימונים. עומסי עבודה של ההשפעה מתמודדים עם מחסומים הקשורים לזיכרון, כולל מקבצים מפתח-ערך (KV) ונתונים חמים, וכתוצאה מכך מופחתת היעילות והעלאת עומס התשתית. קיבולת הפלה מוגבלת של KV מטמון יוצרת צווארי בקבוק בגישה לנתונים ומסבכת את הקצאת המשאבים להודעות הנכנסות, ומשפיעה ישירות על הוצאות התפעול ועל זמן הביקורת. ארגונים רבים עוברים לשרתי חישוב מואצים של NVIDIA, בשילוב עם תוכנת AI Enterprise של NVIDIA, כדי להתמודד עם אתגרים אלה. עם זאת, ללא שילוב אחסון מודרני, הם עדיין נתקלים במגבלות משמעותיות ביעילות הצינור ובשימוש כללי ב-GPU.
נבנה עבור סביבות החישוב המואצים הגדולות ביותר והדרישות ביותר בעולם
כדי להתמודד עם האתגרים הללו, טקסט האחסון הגמיש, בעל הביצועים הגבוהים של NeuralMesh Axon מתמזג ישירות עם שרתי חישוב מואצים על ידי ניצול NVMe מקומי, ליבות CPU חלופיות ותשתית הרשת הקיימת שלה. שכבת חישוב ואחסון מאוחדת זו, המוגדרת על ידי תוכנה, מספקת עיכוב עקבי של מיקרו שניות עבור עומסי עבודה מקומיים ומרוחקים, העולה על פרוטוקולים מקומיים מסורתיים כמו NFS.
בנוסף, בעת ניצול יכולת רשת הזיכרון המוגבר של WEKA, היא יכולה לספק מהירויות קרוב לזיכרון עבור עומסי מאגר KV בקנה מידה מסיבי. שלא כמו גישות כבדות העתקה שמבזבזות קיבולת מצטברת ומתמוטטות תחת כישלונות, עיצוב הצופן הייחודי של NeuralMesh Axon סובל עד ארבעה אובדן צמתים בו זמנית, שומר על יעילות מלאה במהלך בנייה מחדש, ומאפשר הקצאת משאבים מוגדרת מראש על פני NVMe הקיימים, גרעיני CPU ומשאבי רשת – מה שהופך את הדיסקים המבודדים לאגף אחסון דמוי זיכרון בקנה מידה אקסא-סקייל ומעבר לו תוך מתן גישה קבועה עם עיכוב נמוך לכל הנתונים שניתן לפנות אליהם.
ספקי שירותי ענן וחדשני בינה מלאכותית הפועלים בקנה מידה גדול דורשים פתרונות תשתית שיכולים להתאים את הצמיחה האקספוננציאלית במורכבות המודל ובגודל קבוצות הנתונים. NeuralMesh Axon מיועד במיוחד לארגונים הפועלים בחוד החנית של חדשנות בינה מלאכותית הדורשים ביצועים מיידיים בקנה מידה קיצוני ולא בקנה מידה הדרגתי לאורך זמן. זה כולל ספקי ענן AI ו- neoclouds הבונים שירותי AI, מפעלי AI אזוריים, ספקי ענן גדולים המפתחים פתרונות AI ללקוחות ארגוניים, וארגונים ארגוניים גדולים המפרסמים את פתרונות ההשפעה וההכשרה הנדרשים ביותר של AI שחייבים להגדיל ולשפר את ההשקעות שלהם בתשתית AI כדי לתמוך במחזורי חדשנות מהירים.
מתן ביצועים שמשנים את המשחק עבור חדשנות AI מואצת
מאמצים מוקדמים, כולל Cohere, חברת AI הארגונית המובילה בתחום האבטחה, כבר רואה תוצאות טרנספורמציוניות.
Cohere הוא בין הלקוחות הראשונים של WEKA לפרוס NeuralMesh Axon כדי להפעיל את אימון מודל AI ואת עומסי העבודה של ההשפעה. בהתמודדות עם עלויות חדשנות גבוהות, קשיים בהעברת נתונים ו-GPUs לא מנוצלים, Cohere העבירה לראשונה את NeuralMesh Axon בענן הציבורי כדי לאחד את ערימת AI שלה ולהשדרג את הפעולות.
“בשביל בוני מודלים של AI, מהירות, אופטימיזציה של GPU ויעילות עלויות הן קריטיות למשימה. זה אומר להשתמש פחות חומרה, לייצר יותר טוקנים, ולהפעיל יותר מודלים מבלי לחכות ליכולת או להעביר נתונים”, אמר Autumn Moulder, סגן נשיא ההנדסה ב-Cohere. “הטמעת NeuralMesh Axon של WEKA לתוך שרתי ה-GPU שלנו אפשרה לנו למקסם את השימוש ולהאיץ כל שלב של צינורות AI שלנו. רווחי הביצועים שינו את המשחק: הפריסה של ההשערה שהייתה לוקחת חמש דקות יכולה להתרחש תוך 15 שניות, עם בדיקת צ’ק פוינט מהירה פי 10. הצוות שלנו יכול כעת לחזור על עצמו ולהביא מודלים AI חדשים מהפכניים, כמו צפון, לשוק במהירות חסרת תקדים.”
כדי לשפר הכשרה ולעזור לפתח את Northפלטפורמת סוכני AI מאובטחת של Cohere, החברה מפעילה את NeuralMesh Axon של WEKA על ענן CoreWeave יצירת בסיס מוצק לתמוך בהיגיון בזמן אמת ולהעניק חוויות יוצאות דופן ללקוחות הסופיים של Cohere.
“אנחנו נכנסים לעידן שבו התקדמות בינה מלאכותית עולה על חישוב גולמי בלבד – היא משוחררת על ידי עיצוב תשתית אינטליגנטי. CoreWeave מגדירה מחדש מה אפשרי לחלוצי AI על ידי חיסול המורכבות המגבילות את AI בקנה מידה”, אמר Peter Salanki, מנהל טכנולוגיות ראשי ומייסד שותף ב-CoreWeave. “עםNeuralMesh Axon של WEKA המשולב בצורה חלקה בתשתית הענן AI של CoreWeave, אנו מביאים כוח עיבוד ישירות לנתונים, משיגים עיכובים של מיקרו שניות המפחיתים את זמן ההמתנה I/O ומספקים יותר מ –30 GB/שנייה לקרוא, 12 GB/שנייה לכתוב, ו-1 מיליון IOPS לשרת GPU פרטי. גישה פורצת דרך זו מגבירה את ניצול ה-GPU ומעצימה את Cohere עם קרן הביצועים הדרושה להם כדי לשבור מחסומי מהירות ההשפעה ולספק פתרונות AI מתקדמים ללקוחותיהם.”
“מפעלים AI מגדירים את עתיד תשתית AI המבוססת על חישוב מואץ של NVIDIA והמערכת האקולוגית שלנו של NVIDIA Cloud שותפים”, אמר Marc Hamilton, סגן נשיא הארכיטקטורה וההנדסה של פתרונות ב-NVIDIA. “על ידי אופטימיזציה של ההשפעה בקנה מידה והטמעת אחסון NVMe בעל עיכוב נמוך ביותר קרוב ל-GPU, ארגונים יכולים לפתוח רוחב פס רב יותר ולהרחיב את זיכרון ה-GPU הזמין עבור כל קיבולת. פתרונות שותפים כמו NeuralMesh Axon של WEKA שפורסמו עם CoreWeave מספקים בסיס קריטי להשלכה מואצת תוך הפעלת שירותי AI של הדור הבא עם ביצועים יוצאי דופן ויעילות עלויות.”
היתרונות של מיזוג אחסון וחישוב עבור חדשנות AI
NeuralMesh Axon מספקת שיפורים מיידיים וניתנים למדידה עבור מפתחי AI וספקי שירותי ענן הפועלים בקנה מידה גדול, כולל:
- זיכרון מורחב עם פריסה מואצת של טוקן: מספק שילוב הדוק עם טכנולוגיית רשת זיכרון מוגברת של WEKA, מרחיב את זיכרון ה-GPU על ידי ניצולו כמחסן טוקן. זה הביא לשיפור של 20x בזמן לביצועים הראשונים של טוקן במספר יישומים של לקוחות, ומאפשר חלונות קונטקסט גדולים יותר ושיפור משמעותי ביעילות עיבוד טוקן עבור עומסי עבודה אינטנסיביים. יתר על כן, NeuralMesh Axon מאפשרת ללקוחות להתאים באופן דינמי משאבי חישוב ואחסון ולתמוך בצורה חלקה בהכשרה בדיוק בזמן ובהשכלת בדיוק בזמן.
- גיוס GPU עצום ורווח יעילות: לקוחות משיגים שיפורים דרמטיים בביצועים ובשימוש ב-GPU עם NeuralMesh Axon, עם עומסי עבודה של אימון מודל AI העולים על 90% – שיפור פי שלושה על פני ממוצע התעשייה. NeuralMesh Axon גם מפחיתה את דרישות החלל, החשמל והקירור הנדרשים במרכזי נתונים מקומיים, ומסייע להפחית את עלויות התשתית ואת המורכבות על ידי ניצול משאבי השרת הקיימים.
- קנה מידה מיידי עבור זרימת עבודה מאסיבית של AI: מיועד לחדשני AI הזקוקים למידה קיצונית מיידית, במקום לגדול עם הזמן. ארכיטקטורת המיקרו-שירותים המובחרת של NeuralMesh Axon ועיצוב הענן הילידי מאפשרים לארגונים להגדיל את ביצועי האחסון ואת היכולת באופן עצמאי תוך שמירה על מאפייני ביצועים עקביים בסביבות היברידיות ומולטי-ענן.
- מאפשר לצוותים להתמקד בבניית AI, לא בתשתית: פועל בצורה חלקה על פני סביבות היברידיות וענן, משלב עם Kubernetes קיימים וסביבות מכולה כדי לחסל את הצורך בתשתית אחסון חיצונית ולהפחית את המורכבות.
“אתגרים התשתית של AI אקסא-סקייל אינם דומים לשום דבר שהתעשייה התמודדה איתו בעבר. ב-WEKA, אנו רואים ארגונים נאבקים עם ניצול GPU נמוך במהלך הכשרה והעומס יתר של GPU במהלך ההשפעה, בעוד העלויות של AI עולות בספירלה למיליונים לכל מודל וסוכן”, אמר Ajay Singh, מנהל המוצר הראשי ב-WEKA. “זו הסיבה שהנדסנו את NeuralMesh Axon, שנולד ממוקדנו העמוק באופטימיזציה של כל שכבה של תשתית AI מ-GPU למעלה. עכשיו, ארגוני AI-לפני הכל יכולים להשיג את הביצועים ואת יעילות העלות הדרושות לחדשנות AI תחרותית כאשר פועלים בקסאסקל ומעבר.”
זמינות
NeuralMesh Axon זמינה כעת במהדורה מוגבלת עבור AI ארגונית בקנה מידה גדול ולקוחות neocloud, עם זמינות כללית המתוכננת לסתיו 2025. למידע נוסף בקרו באתר:
- דף מוצר: https://www.weka.io/product/neuralmesh-axon/
- סיכום פתרון: https://www.weka.io/resources/solution-brief/weka-neuralmesh-axon-solution-brief
- פוסט בלוג: https://www.weka.io/blog/ai-ml/neuralmesh-axon-reinvents-ai-infrastructure-economics-for-the-largest-workloads/
אודות WEKA
WEKA משנה את האופן שבו ארגונים בונים, מפעילים ומשפרים את זרימת העבודה של AI באמצעות NeuralMesh™, מערכת האחסון האינטליגנטית והאדפטיבית שלה. בניגוד לתשתית הנתונים המסורתית, שהופכת להיות שבירה יותר ככל שמסביבות AI מתרחבות, NeuralMesh הופכת להיות מהירה יותר, חזקה יותר ויעילה יותר ככל שהיא מתרחבת, גדלה עם סביבת AI שלך כדי לספק בסיס גמיש לחדשנות AI ארגונית וסוכני AI. נאמן על ידי 30% מ-Fortune 50 ו-neoclouds בעולם וחדשני AI, NeuralMesh ממקסם את ניצול ה-GPU, מאיץ את הזמן לטוקן הראשון ומוריד את העלות של חדשנות AI. למידע נוסף בקרו בכתובת www.weka.io, או צרו איתנו קשר ב- LinkedIn ו- X.
WEKA והלוגו W הם סימנים מסחריים רשומים של WekaIO, Inc. שמות מסחריים אחרים המשמשים במסמך זה עשויים להיות סימנים מסחריים של בעליהם המתאימים.
תמונה – https://mma.prnewswire.com/media/2726225/WEKA_og_pr_wire_neuralmesh_axon.jpg
לוגו – https://mma.prnewswire.com/media/1796062/WEKA_v1_Logo_new.jpg
