מודל שפה קונטקסטואלי (CLM) מנצל את פלטפורמת הנתונים WEKA כדי להפעיל שימוש בטוח, מדויק ויעיל יותר ב-AI ארגוני
קמפבל, קליפורניה, 7 באוגוסט, 2024 /— /PRNewswire WekaIO (WEKA), חברת פלטפורמת הנתונים מקורית AI, הודיעה היום כי היא עובדת עם Contextual AI, החברה בונה AI כדי לשנות את האופן שבו העולם עובד, כדי לספק את תשתית הנתונים העומדת בבסיס מודלים השפה הקונטקסטואליים שלה (CLMs). CLM של Contextual AI מאומנים באמצעות RAG 2.0, גישה ייחודית של הדור הבא (RAG) שפותחה על ידי Contextual AI, כעת מופעלת על ידי פלטפורמת הנתונים WEKA® . CLMs מעצימים יישומי AI בטוחים, מדויקים ואמין עבור חברות Fortune 500 על פלטפורמת Contextual AI.
פיתוח הדור הבא של מודלים AI ארגוניים
נוסדה בשנת 2023, Contextual AI מספקת פלטפורמה מובנית לבניית יישומי AI ארגוניים המונעים על ידי טכנולוגיית RAG 2.0 המתקדמת שלה. בניגוד לצינורות RAG המסורתיים, אשר מרכיבים יחד מודל קפוא להטמעות, מסד נתונים וקטורי לאחזור, ומודל ייצור תיבה שחורה, RAG 2.0 מספק מערכת משולבת אחת מקצה לקצה, המאפשרת דיוק גבוה יותר, עמידה טובה יותר, פחות הזיות, ואת היכולת לייחס תשובות בחזרה למסמכים המקוריים.
לעומסי עבודה של AI גנראטיבי יש ביצועים משמעותיים, ניהול נתונים ודרישות כוח חישוביות שיכולות להפוך אותם לזמן—ולמשאב אינטנסיבי לאימון ושירות. Contextual AI מנצלת קבוצות נתונים גדולות ומגוונות כדי לאמן את ה-CLM שלה. החברה נתקלה בתחילה בצווארי בקבוק בביצועים ובאתגרים בקנה מידה שגרמו לניצול לקוי של GPU ועיכבו את זמני הפיתוח של מודל ה-AI שלה.
ארכיטקטורת מערכת ניהול נתונים כדי למקסם את ניצול ה-GPU
הגדלת ניצול GPU היא קריטית כדי להבטיח מערכות AI והעומס העבודה פועלים ביעילות שיא. הארכיטקטורה המפותחת של AI-מקורי של פלטפורמת הנתונים WEKA בנויה במיוחד כדי להאיץ כל שלב של צינור ה-AI, ויצרה צינורות נתונים ללא חיכוך שממלאים את ה-GPU בנתונים כדי להבטיח שהם פועלים בצורה יעילה יותר כך עומסי העבודה של AI פועלים מהר יותר ובאופן בר קיימא יותר. פתרון התוכנה של WEKA, שאינו תלוי בחומרה ובענן, נועד להיות מיושם בכל מקום, וארכיטקטורה שלו של אפס העתקים ואפס התאמות תומכת באופן דינמי בכל פרופיל עומס עבודה של AI – ניהול פעולות מטא-נתונים על פני מיליוני קבצים קטנים במהלך אימוני מודל וביצועי כתיבה מסיביים במהלך פעולות נקודת בדיקת מודל – בפלטפורמת נתונים אחת.
Contextual AI פרסמה את פלטפורמת הנתונים WEKA ב-Google Cloud כדי ליצור שכבת תשתית נתונים בעלת ביצועים גבוהים שמנהלת את כל מערכות הנתונים שלה – 100 טרה-בייט בסך הכל – עבור אימון מודל AI. פלטפורמת WEKA הביאה לקפיצה משמעותית ביצועי הנתונים שקשורה ישירות להגדלת פרודוקטיביות המפתחים והאצת זמני האימון של המודלים.
בנוסף לתנועה מהירה של נתונים מאחסון למאיץ, פלטפורמת WEKA סיפקה ל-Contextual AI יכולות ניהול מתקדמות של מטא-נתונים, נקודות בדיקה ועיבוד מראש של נתונים אשר חיסלו את צווארי הבקבוק בתהליכי ההכשרה שלה, שיפרו את ניצול ה-GPU ועזרו להוריד את עלויות הענן שלה.
“הכשרה של מודלים AI בקנה מידה גדול בענן דורשת פתרון ניהול נתונים מודרני שיכול לספק ניצול GPU גבוה ולהאיץ את זמן שעון הקיר לפיתוח מודל”, אמר Amanpreet Singh, CTO ומייסד שותף של Contextual AI. “עם פלטפורמת הנתונים של WEKA, יש לנו כעת את צינורות הנתונים החזקים הדרושים כדי להפעיל GPUs של הדור הבא ולבנות פתרונות AI גנראטיביים מתקדמים בקנה מידה. זה עובד כמו קסם כדי להפוך אחסון מהיר, ארעי לתוך נתונים מתמשכים, במחיר סביר.”
תוצאות מרכזיות שהושגו באמצעות פלטפורמת הנתונים של WEKA:
- פי 3 שיפור ביצועים: השיג גידול פי שלושה ביצועים עבור מקרים חשובים של שימוש ב- AI הודות לגידול משמעותי בשימוש ב- GPU.
- בדיקת דגמי בינה מלאכותית מהירה פי 4: ביטול עיכובים בהשלמת נקודת הביקורת של המודל כדי להשיג שיפור פי 4 בתהליכי הביקורת, שיפור דרמטי של פרודוקטיביות המפתחים.
- 38% הפחתת עלויות: עלויות אחסון ענן קשורות ירדו ב-38 אחוזים לכל טרה-בייט.
“AI גנראטיבי מחזיק בפוטנציאל כמעט בלתי מוגבל לפתוח תובנות ויצירת ערך חדש עבור ארגונים, אך רבים עדיין מתמודדים עם האתגר של איפה להתחיל ואיך להזיז את פרויקטי ה-AI שלהם קדימה”, אמר Jonathan Martin, נשיא WEKA. Contextual AI מחדשת את עתיד הבינה המלאכותית הארגונית על ידי יצירת פתרונות בינה מלאכותית גנרטיביים מתקדמים המסייעים לארגונים לנצל את הפוטנציאל של בינה מלאכותית הרבה יותר מהר. WEKA גאה לעזור ל- Contextual AI להתגבר על אתגרים קריטיים בניהול נתונים כדי להאיץ את ההכשרה של מודלים AI אמינים ואמינים שיקדמו את מהפכת ה-AI.”
כדי ללמוד עוד על איך Contextual AI עובדת עם WEKA כדי להפעיל את פתרונות AI הארגוניים שלה, בקרו בכתובת: .https://www.weka.io/customers/contextual-ai/
על Contextual AI
המשימה של Contextual AI היא לשנות את הדרך שבה העולם עובד באמצעות AI. על פי ההכרה מ-Fortune 500, החברה אוטומטית משימות מורכבות, ומאפשרת לעובדי ידע להתמקד בפעילויות בעלות ערך גבוה. מייסד שותף ומנכ”ל Douwe Kiela, אשר הינו חלוץ ביישום טכניקת RAG המקורית בתעשייה, מוביל את צוות המומחים המובילים שלנו לצד מייסד שותף ומנכ”ל טכנולוגיה Amanpreet Singh. הצוות מקדם יישומי AI גנראטיבי מותאמים אישית עם טכנולוגיית RAG 2.0 מתקדמת ולימוד מכונה קצה לקצה עבור ארגונים במקרי שימוש מרובים ובענפים רבים, כולל בנקאות, חצי מוליכים, מדיה ועוד. המטה שלה ממוקם במאונטיין ויו, עם משרדים בניו יורק ובלונדון, Contextual AI מעסיקה מעל 30 אנשים. למד עוד ב .https://contextual.ai
אודות WEKA
WEKA מעצבת גישה חדשה לערימת הנתונים הארגונית שנבנתה עבור עידן AI. פלטפורמת הנתונים של ®WEKA קובעת את הסטנדרט עבור תשתית AI עם ארכיטקטורה מקומית לענן ו-AI שניתן לפרוס בכל מקום, ומספקת ניידות נתונים חלקה על פני סביבות מקומיות, ענן וסביבות קצה. הוא הופך מצבורי נתוני מורשת לצינורות נתונים דינמיים המאיצים את GPUs, אימוני מודל AI וההשלכה, ועומסי עבודה אינטנסיביים לביצועים אחרים, ומאפשרים להם לעבוד ביעילות רבה יותר, לצרוך פחות אנרגיה ולהפחית את פליטות הפחמן הקשורות. WEKA מסייעת למאות מהמפעלים המובילים בעולם ולארגוני מחקר מובילים להתגבר על אתגרי נתונים מורכבים כדי להגיע לגילויים, תובנות ותוצאות מהר יותר – כולל 12 מ-.Fortune 50 בקרו בכתובת www.weka.io ללמוד עוד, או התחברו עם WEKA ב- LinkedIn, Xו .Facebook
ראו מדוע WEKA זכתה להכרה כחברה בעלת חזון במשך שלוש שנים ברציפות בMagic Quadrant™ של Gartner® בתחום של מערכות קבצים מבוזרות ואחסון עצמים – קבלו את הדו״ח.
WEKA והלוגו של WEKA הם סימנים מסחריים רשומים של WekaIO, Inc.. שמות מסחריים אחרים המשמשים במסמך זה עשויים להיות סימנים מסחריים של בעליהם המתאימים.
לוגו – https://mma.prnewswire.com/media/1796062/WEKA_v1_Logo.jpg
