رونمایی انویدیا از تراشه هوش مصنوعی GH200 با ۳ برابر حافظه بیشتر
انویدیا یک نسخه بازنگری شده از پلتفرم قدرتمند Grace Hopper Superchip با حافظه HBM3e برای هوش مصنوعی و محاسبات با عملکرد بالا معرفی کرد. این نسخه جدید GH200 Grace Hopper همون CPU Grace و GPU محاسباتی GH100 Hopper رو داره، اما با حافظه HBM3e با ظرفیت و پهنای باند بیشتر ارائه میشه. تا آخر این خبر با بنچفا همراه باشید.
مشخصات تراشه GH200 Grace Hopper
سوپرتراشه GH200 Grace Hopper بر اساس ۷۲ هسته CPU Grace با ۴۸۰ گیگابایت حافظه ECC LPDDR5X و GPU محاسباتی GH100 تولید شده که با ۱۴۱ گیگابایت حافظه HBM3E همراهه. این حافظه از ۶ استک ۲۴ گیگابایتی تشکیل شده و از رابط حافظه ۶,۱۴۴ بیتی استفاده میکنه. اگرچه انویدیا ۱۴۴ گیگابایت حافظه فیزیکی نصب میکنه، اما فقط ۱۴۱ گیگابایت از اون قابل دسترسیه تا بهرهوری بهتری داشته باشیم.
در مقابل، GH200 Grace Hopper Superchip فعلی انویدیا با ۹۶ گیگابایت حافظه HBM3 ارائه شده که پهنای باند زیر ۴ ترابایت بر ثانیه داره. اما مدل جدید حدود ۵۰% حافظه و بیش از ۲۵% پهنای باند رو افزایش میده. این بهبودهای عظیم به این پلتفرم جدید امکان اجرای مدلهای بزرگتر هوش مصنوعی رو از نسخه اصلی میده که باعث میشه پیشرفته های چشمگیری داشته باشه.
انویدیا میگه که پلتفرم GH200 Grace Hopper با HBM3 هم اکنون در مرحله تولیده و از ماه آینده به صورت تجاری در دسترس خواهد بود. در مقابل، پلتفرم GH200 Grace Hopper با HBM3e هم اکنون در مرحله نمونهبرداری قرار داره و در یک چهارم سال ۲۰۲۴ انتظار میره که در دسترس قرار می گیره. انویدیا تأکید داره که پلتفرم جدید GH200 Grace Hopper از همون CPU Grace و GPU GH100 استفاده میکنه که تو نسخه اصلی وجود داره، بنابراین شرکت نیازی به افزایش تغییرات یا ویرایشهای جدید نداره.
انویدیا اعلام کرده که نسخه اصلی GH200 با HBM3 و نسخه بهبود یافته GH200 با HBM3E همزمان در بازار وجود دارن، به این معنی که نسخه دوم به دلیل حافظه پیشرفتهتر و عملکرد بالاترش با قیمت بیشتری عرضه میشه.
با توجه به تقاضای فزاینده برای تولید هوش مصنوعی، مراکز داده نیاز به پلتفرمهای محاسباتی با نیازهای ویژه دارن. اینو جنسن هوانگ، مدیر عامل نویدیا میگه. پلتفرم جدید GH200 Grace Hopper Superchip با فناوری حافظه و پهنای باند استثنایی این امکان رو ارائه میده که عملکرد بهبود یافتهای داشته باشیم و امکان اتصال GPUها به منظور افزایش عملکرد رو فراهم میکنه.
پلتفرم نسل بعدی انویدیا Grace Hopper Superchip با HBM3e کاملاً سازگار با مشخصات سرور MGX انویدیاست و به همین دلیل به طور کامل با طراحیهای سرور موجود سازگاره.