מחשב העל Israel-1, מבוסס על פלטפורמת NVIDIA Spectrum-X החדשה שפותחה בישראל, וישמש למחקר ופיתוח פנימי ועם שותפי החברה. בהמשך, הוא יושק בישראל כחלק משירות מחשוב העל ל-AI בענן, NVIDIA DGX Cloud * באותו אירוע היא גם הכריזה על מחשב על ייעודי ליישומי בינה מלאכותית
אנבידיה הכריזה על סוג חדש של מחשבי-על עתירי זיכרון עבור משימות בינה מלאכותית גדולות ומורכבות – מחשב על מסדרת NVIDIA DGX המבוסס על סופר-שבבים מדגם NVIDIA Grace Hopper Superchips וטכנולוגיית התקשורת NVIDIA NVLink Switch System, שנוצרו כדי לאפשר את פיתוח הדור הבא של מודלי בינה מלאכותית יוצרת גדולים במיוחד עבור יישומי שפה, מערכות המלצה ומשימות ענק לניתוח ועיבוד נתונים.
ל-NVIDIA DGX GH200, שצפוי להיות זמין לקראת סוף השנה, יש היקף זיכרון עצום. הוא משתמש בטכנולוגיית NVLink עם מערכת מתגי NVLink כדי לשלב 256 שבבי-על מסוג Grace Hopper Superchips, שפועלים יחד כ-GPU ענק אחד. השילוב הייחודי הזה מספק 144 טרהבייט של זיכרון – פי 500 מאשר במערכת NVIDIA DGX A100.
“בינה מלאכותית יוצרת, מודלי שפה גדולים (LLMs), ומערכות המלצה, הם המנועים הדיגיטליים של הכלכלה המודרנית”, אמר ג’נסן הואנג, מייסד ומנכ”ל NVIDIA. “מחשבי העל לבינה מלאכותית DGX GH200 משלבים את טכנולוגיות המחשוב המואץ והתקשורת המתקדמות ביותר של NVIDIA, כדי להרחיב את גבולות ה-AI”.
הסופר-שבבים מדגם GH200 מייתרים את הצורך בחיבורי PCIe מסורתי בין מעבדים מרכזיים (CPU) למעבדים גרפיים (GPU) במערכות מחשוב, בכך שהם משלבים בין מעבד מרכזי מסוג NVIDIA Grace ובין מעבד גרפי מסוג NVIDIA H100 Tensor Core באותה האריזה, תוך שימוש בחיבור NVIDIA NVLink-C2C. החיבור המתקדם מגדיל את רוחב הפס שבין GPU ו-CPU פי שבע בהשוואה לטכנולוגיית ה-PCIe העדכנית ביותר, מקצץ בצריכת החשמל של החיבוריות בשיעור של יותר מפי חמש, ובכך מספקת את אבני הבניין של מחשבי-העל DGX GH200, עם GPU של 600 גיגה-בייט בארכיטקטורת Hopper החדשנית.
ה-DGX GH200 הוא מחשב-העל הראשון ששידך בין שבבי-העל מסוג Grace Hopper למערכתNVIDIA NVLink Switch System, טכנולוגיית חיבוריות חדשה שמאפשרת לכל המעבדים הגרפיים ב-DGX GH200 לעבוד כמעבד גרפי אחד ענק. הדור הקודם של המערכת, לשם השוואה, אפשר רק לשמונה מעבדים גרפיים לעבוד כאחד ללא פשרה בביצועים.
גוגל, מטא ומיקרוסופט הן בין החברות הראשונות שקיבלו גישה ל-DGX GH200 לצורך מחקר ופיתוח של מודלי בינה מלאכותית גדולים מאוד.
NVIDIA Helios
כדי להניע את פעילות צוותי המחקר והפיתוח שלה, NVIDIA מקימה את מחשב העל NVIDIA Helios שיבוסס על DGX GH200. מחשב העל NVIDIA Helios יורכב מ-4 מערכות DGX GH200, המחוברות האחת לשנייה באמצעות NVIDIA Quantum-2 InfiniBand, טכנולוגיית התקשורת שפותחה בישראל ומציעה רוחב פס של עד ל-400 גיגה-ביט בשנייה. Helios יכלול בסך הכל 1,024 שבבי-על מסוג Grace Hopper וצפוי להתחיל לעבוד עד לסוף השנה.
מחשב העל ISRAEL1
אנבידיה הודיעה היום על הקמתו של Israel-1, מחשב העל החזק ביותר בישראל לחישובי AI, שישמש את החברה לשיתוף פעולה עם התעשייה, למו”פ פנימי, וכן כתבנית לבניית מחשבי על מבוססי פלטפורמת Spectrum-X. בהמשך הדרך, הוא יהיה זמין כחלק משירות מחשוב העל בענן NVIDIA DGX Cloud, ויספק את העוצמה של תשתית AI בענן לאקוסיסטם המקומי.
כאשר תושלם הקמתו, Israel-1 ישלב 256 מערכות HGX H100 מבית Dell Technologies, הכוללות 2,048 מעבדים גרפיים מסוג NVIDIA H100 80GB עם יותר מ-34 מיליון ליבות CUDA ולמעלה ממיליון ליבות Tensor מהדור הרביעי. כמו כן, ישלב מחשב העל 2,560 מעבדים מסוג BlueField-3 DPU ו-80 מתגי Spectrum-4 – כולם פותחו בישראל.
Israel-1, שנחשף בכנס Computex, צפוי לספק ביצועי AI של עד 8 אקסה-פלופס (Exaflops), מה שיהפוך אותו לאחד ממחשבי העל המהירים ביותר בעולם לחישובי בינה מלאכותית. בנוסף, הוא צפוי לספק ביצועים של יותר מ-135 פטהפלופס (Petaflops) במשימות מחשוב-על קלאסיות.
מחשב העל, ששוויו מוערך במאות מיליוני דולרים, צפוי להיכנס לשימוש ראשוני עד סוף השנה.
“בינה מלאכותית היא הכוח הטכנולוגי החשוב ביותר בחיינו, ו-NVIDIA מחויבת לשמירה על ההובלה שלה בחזית ה-AI”, אמר גלעד שיינר, סגן-נשיא בכיר למחשוב על ותקשורת באנבידיה. Israel-1 מייצג השקעה עצומה עבור אנבידיה, שתאפשר לנו להניע חדשנות בישראל ובעולם כולו”, הוא הוסיף.
מחשב העל החדש יתבסס על פלטפורמת NVIDIA Spectrum-X שהוכרזה זה עתה ב-Computex, ומייצגת סוג חדש של טכנולוגיות תקשורת מסוג Ethernet שפותח על מנת לשפר ולהאיץ את הביצועים של ענן מבוסס אתרנט לחישובי בינה מלאכותית (AI Clouds).
הפלטפורמה מונעת באמצעות השילוב הצמוד של שבבי NVIDIA BlueField-3 DPU ומתגי Spectrum-4, שמביאים יחדיו לשיפור של עד פי 1.7 בביצועי בינה מלאכותית וביעילות צריכת האנרגיה. Spectrum-X כוללת גם את סט פתרונות תוכנה מבית אנבידיה שיאפשרו למפתחים לבנות יישומי AI חדשים ומותאמים לעבודה בענן.
הענקת יכולות בינה מלאכותית מקצה לקצה מפחיתה את זמני ההרצה של מודלי בינה מלאכותית יוצרת (Generative AI) מבוססי Transformer, ומאפשרת למהנדסים, מדעני נתונים וספקיות הענן להגיע לתוצאות מדויקות ולקבל החלטות מושכלות במהירות.
