استاندارد حافظه HBF معرفی شد؛ ناجی جدید شتاب‌دهنده‌های هوش مصنوعی!

شتاب‌دهنده‌های هوش مصنوعی این روزها با یه چالش خیلی جدی روبه‌رو هستن: اختلاف عملکرد و سرعت شدید بین حافظه‌های رم HBM (High Bandwidth Memory) و اس‌اس‌دی‌ها (SSD). برای حل این مشکل، شرکت‌های SK hynix و SanDisk با همکاری هم یه راهکار جذاب و استاندارد جدید به اسم HBF (High Bandwidth Flash) یا همون فلش با پهنای باند بالا رو معرفی کردن. هدف اصلی این دو غول حافظه اینه که یه اکوسیستم یکپارچه بسازن تا شرکت‌های مختلف بتونن محصولات سازگار با این فناوری رو توسعه بدن.

حافظه HBF دقیقاً چیه و چه جایگاهی داره؟

به طور خلاصه، استاندارد HBF مشخصاتی داره که بهش اجازه میده دقیقاً تو فضای خالی بین حافظه‌های فوق‌سریع HBM و حافظه‌های ذخیره‌سازی اینترپرایز (Enterprise SSDs) قرار بگیره. حافظه HBF هم مثل HBM از روی هم قرار گرفتن چند دای (Die) حافظه ساخته میشه، اما یه فرق اساسی داره؛ اینجا به جای استفاده از درام (DRAM)، از NAND flash استفاده شده تا ظرفیت ذخیره‌سازی به شکل چشمگیری بالا بره.

وظیفه اصلی این حافظه جدید این نیست که جای HBM رو بگیره، بلکه قراره محدودیت‌های ظرفیتی اون رو جبران کنه. تو پردازش مدل‌های زبانی بزرگ (LLM)، اون بخش از داده‌هایی که برای پردازش‌های فوری و در لحظه نیاز هستن میرن تو حافظه HBM، و حافظه HBF با ظرفیت خیلی بیشترش، وظیفه نگهداری و ذخیره اطلاعات حجیم‌تر رو به دوش می‌کشه.

• ساختار و ظرفیت: مشخصات HBF به شکلیه که تو یه پیکربندی واحد می‌تونه تا ۵۱۲ گیگابایت ظرفیت داشته باشه. این ظرفیت با روی هم چیدن دای‌های NAND تو ۸ یا ۱۶ لایه به دست میاد.
• پهنای باند: بر اساس جدیدترین مشخصات اعلام شده توسط SK hynix و SanDisk، پهنای باند این حافظه می‌تونه عددی بین ۰.۴ تا ۳ ترابایت بر ثانیه باشه!

این فناوری چطور به درد هوش مصنوعی می‌خوره؟

برای اینکه بهتر درک کنیم این تکنولوژی چطور قراره عملکرد استنتاج هوش مصنوعی (AI inference) رو بهتر کنه، یه مثال می‌زنیم. فرض کنید یه مدل هوش مصنوعی داریم که ۵۰۰ میلیارد پارامتر داره. اگه هر یک گیگابایت بتونه یک میلیارد پارامتر رو تو خودش جا بده، ما به ۵۰۰ گیگابایت فضا نیاز داریم. از اونجایی که ذخیره کل این مدل روی حافظه‌های گرون‌قیمت HBM اصلاً منطقی و مقرون‌به‌صرفه نیست، شرکت‌ها می‌تونن از حافظه‌های HBF برای ذخیره این مدل‌های سنگین استفاده کنن.

انعطاف‌پذیری بالا با پشتیبانی از UCIe

حافظه‌های High Bandwidth Flash از استاندارد UCIe (Universal Chiplet Interconnect Express) هم پشتیبانی می‌کنن. این یعنی HBF می‌تونه به راحتی به انواع پردازنده‌های مرکزی (CPU) و پردازنده‌های گرافیکی (GPU) وصل بشه و یه لایه کامل از انعطاف‌پذیری رو به سیستم اضافه کنه.

در همین رابطه، کیم چون-سونگ (Kim Chun-sung)، مدیر توسعه راهکارها در شرکت SK hynix می‌گه:

«ما مرزهای بین حافظه و فضای ذخیره‌سازی را گسترش خواهیم داد و به ساخت معماری‌های جدیدی که کارایی کلی سیستم را افزایش می‌دهند، کمک خواهیم کرد.»

سامسونگ بی‌کار ننشسته؛ رقابت بر سر استانداردهای آینده

در حالی که SK hynix و SanDisk دارن تمام تلاششون رو می‌کنن تا استاندارد HBF رو تو بازار جا بندازن و محبوبش کنن، رقیب دیرینه‌شون یعنی سامسونگ هم در حال ایجاد یه رابطه استراتژیک و قدرتمند با شرکت‌هایی مثل انویدیا (NVIDIA) برای توسعه و تولید انبوه راهکارهای CMX هست.

غول کره‌ای یعنی سامسونگ قصد داره با تولید حافظه‌های فلش NAND مدل V10 و V11 خودش که می‌تونن تا ۵۰۰ لایه روی هم قرار بگیرن، نیازهای ذخیره‌سازی فوق‌سریع سرورهای هوش مصنوعی رو هدف قرار بده. این سرورها برای دسترسی سریع به داده‌ها و کاهش بار پردازشی GPU به این سرعت بالا نیاز دارن که در نهایت باعث بهبود چشمگیر عملکرد هوش مصنوعی میشه.

حالا باید منتظر بمونیم و ببینیم تو ماه‌های آینده کدوم یکی از این استانداردها می‌تونه گوی سبقت رو از بقیه بدزده و به استاندارد اول بازار تبدیل بشه!