اگه دنبال یه ابرکامپیوتر هوش مصنوعی مخصوص خودت میگردی، انویدیا هواتو داره! این شرکت سازنده چیپ، تو نمایشگاه CES اعلام کرد که قراره یه ابرکامپیوتر هوش مصنوعی شخصی به اسم Project Digits رو عرضه کنه.
مغز متفکر انویدیا Digits، چیپ جدید GB10 Grace Blackwell Superchip هست که قدرت پردازشی کافی برای اجرای مدل‌های پیچیده هوش مصنوعی رو داره، در عین حال به اندازه کافی کوچیکه که بتونی روشو بذاری و با یه پریز برق معمولی کار کنه (اینجور قدرت پردازشی قبلا به سیستم‌های خیلی بزرگ‌تر و پرمصرف‌تری نیاز داشت). این سیستم رومیزی میتونه از پس مدل‌های هوش مصنوعی با حداکثر ۲۰۰ میلیارد پارامتر بربیاد و قیمتش از ۳۰۰۰ دلار شروع میشه. خود محصول هم خیلی شبیه مک مینی هست.
جیسون هوانگ، مدیرعامل انویدیا، تو یه بیانیه مطبوعاتی گفت: «خب، هوش مصنوعی قراره تو همه برنامه‌ها و همه صنایع، عادی و رایج بشه. با Project Digits، گریس بلک‌ول سوپرچیپ به دست میلیون‌ها توسعه‌دهنده میرسه، گذاشتن یه ابرکامپیوتر هوش مصنوعی روی میز هر دانشمند داده، محقق هوش مصنوعی و دانشجو، بهشون این قدرت رو میده که با عصر هوش مصنوعی درگیر بشن و اون رو شکل بدن.»
مشخصات ابرکامپیوتر انویدیا Digits
هر سیستم Project Digits با ۱۲۸ گیگابایت حافظه یکپارچه و یکدست (در مقایسه، یه لپ‌تاپ خوب ممکنه ۱۶ یا ۳۲ گیگابایت رم داشته باشه) و تا ۴ ترابایت فضای ذخیره‌سازی NVMe عرضه میشه. برای برنامه‌های کاربردی حتی پیچیده‌تر، میشه دو سیستم انویدیا Digits رو به هم وصل کرد تا از پس مدل‌هایی با حداکثر ۴۰۵ میلیارد پارامتر بربیان (بهترین مدل متا، Llama 3.1 ،۴۰۵ میلیارد پارامتر داره).
چیپ GB10 تا ۱ پتافلاپ عملکرد هوش مصنوعی رو ارائه میده (یعنی میتونه در هر ثانیه ۱ کوادریلیون محاسبه هوش مصنوعی انجام بده) با دقت FP4 (که با ایجاد تقریب‌ها، به سرعت بخشیدن به محاسبات کمک میکنه) و این سیستم دارای هسته‌های CUDA نسل جدید و هسته‌های تنسور نسل پنجم انویدیا هست که از طریق NVLink-C2C به یک پردازنده Grace متصل شده که شامل ۲۰ هسته کارآمد مبتنی بر Arm هست. مدیاتک، که به خاطر طراحی چیپ‌های مبتنی بر Arm شناخته شده، در توسعه GB10 برای بهینه‌سازی مصرف انرژی و عملکردش همکاری کرده.
کاربرا همچنین به کتابخانه نرم‌افزار هوش مصنوعی انویدیا، از جمله کیت‌های توسعه، ابزارهای هماهنگی و مدل‌های از پیش آموزش‌دیده که از طریق کاتالوگ Nvidia NGC در دسترس هستند، دسترسی خواهند داشت. این سیستم روی سیستم‌عامل Nvidia DGX مبتنی بر لینوکس اجرا میشه و از فریم‌ورک‌های محبوب مثل PyTorch، پایتون و دفترچه‌های یادداشت Jupyter پشتیبانی میکنه. توسعه‌دهندگان میتونن با استفاده از فریم‌ورک Nvidia NeMo مدل‌ها رو ریز‌تنظیم کنن و با استفاده از کتابخانه‌های Nvidia RAPIDS، گردش کارهای علم داده رو سرعت ببخشند.
کاربرا میتونن مدل‌های هوش مصنوعی خودشون رو به صورت محلی روی پروژه دیجیتس توسعه و آزمایش کنن و سپس با استفاده از همون معماری Grace Blackwell و پلتفرم نرم‌افزاری Nvidia AI Enterprise، اون‌ها رو روی سرویس‌های ابری یا زیرساخت مرکز داده مستقر کنن.
انویدیا طیف وسیعی از دستگاه‌های مشابه رو با همین سبک دسترسی ارائه میده – در ماه دسامبر، این شرکت نسخه ۲۴۹ دلاری کامپیوتر Jetson خودش رو برای کاربردهای هوش مصنوعی، با هدف علاقه‌مندان و استارتاپ‌ها، با نام Jetson Orin Nano Super اعلام کرد (این دستگاه از مدل‌هایی با حداکثر ۸ میلیارد پارامتر پشتیبانی میکنه).
