نکته اصلی اینه که انویدیا بین ۷۵ تا ۹۰ درصد از بازار چیپ‌های هوش مصنوعی رو تو دستاش داره. اما به خاطر همین تسلط زیادش تو بازار، رقبای بزرگ تو حوزه تکنولوژی و شرکت‌های بزرگ دارن سخت‌افزار و شتاب‌دهنده‌های خودشون رو توسعه میدن تا یه تیکه از این امپراتوری هوش مصنوعی انویدیا رو برای خودشون بردارن. حالا مایکروسافت آماده‌ست که جزئیات اولین چیپ سفارشی هوش مصنوعی خودش رو معرفی کنه. تا آخر این خبر با بنچفا همراه باشید.
مایکروسافت اولین شتاب‌دهنده هوش مصنوعی خودش رو که مایا ۱۰۰ نام داره، توی کنفرانس Hot Chips امسال رونمایی کرد. این شتاب‌دهنده از یه معماری خاص استفاده می‌کنه که توش بردهای سرور، رک‌ها و نرم‌افزارهای سفارشی به کار رفته تا یه راهکار اقتصادی و قدرتمند برای پردازش‌های مبتنی بر هوش مصنوعی ارائه بده. ردموند (همون مایکروسافت) این شتاب‌دهنده رو طراحی کرده تا مدل‌های OpenAI رو توی دیتاسنترهای خودشون تو Azure اجرا کنه.
این چیپ‌ها با تکنولوژی ۵ نانومتری TSMC ساخته شدن و به‌صورت قطعات ۵۰۰ واتی طراحی شدن، ولی می‌تونن تا ۷۰۰ وات هم پشتیبانی کنن.
طراحی مایا می‌تونه یه عملکرد بالا ارائه بده و همزمان مصرف برق کلی پردازش‌های هدف رو بهینه مدیریت کنه. این شتاب‌دهنده ۶۴ گیگابایت حافظه HBM2E داره، که یه مقدار کمتر از حافظه ۸۰ گیگابایتی H100 انویدیا و ۱۹۲ گیگابایتی HBM3E تو B200 هست.
به گفته مایکروسافت، معماری SoC مایا ۱۰۰ یه واحد تنسور پرسرعت (۱۶xRx16) داره که برای پردازش سریع تو آموزش و استنتاج طراحی شده و از انواع داده‌ها، حتی اونایی که دقت پایین دارن مثل فرمت MX مایکروسافت، پشتیبانی می‌کنه.
یه موتور سوپراسکالر (پردازشگر برداری) هم تو این چیپ هست که با ISA سفارشی ساخته شده و از انواع داده‌ها، از جمله FP32 و BF16 پشتیبانی می‌کنه. همچنین یه موتور Direct Memory Access داره که می‌تونه شاردینگ تنسورهای مختلف رو پشتیبانی کنه و سمفورهای سخت‌افزاری برای برنامه‌نویسی غیرهمزمان هم داره.
شتاب‌دهنده مایا ۱۰۰ یه کیت توسعه هم به اسم Maia SDK برای توسعه‌دهنده‌ها داره. این کیت ابزارهایی داره که به توسعه‌دهنده‌های هوش مصنوعی کمک می‌کنه تا مدل‌هایی که قبلاً تو Pytorch و Triton نوشته بودن رو سریعاً منتقل کنن.
این SDK شامل یهپارچه‌سازی با فریم‌ورک‌ها، ابزارهای توسعه‌دهنده، دو مدل برنامه‌نویسی و کامپایلرهاست. همچنین هسته‌های محاسباتی و ارتباطی بهینه‌سازی شده، Runtime مایا برای هاست/دستگاه، یه لایه انتزاع سخت‌افزاری برای تخصیص حافظه، راه‌اندازی هسته‌ها، زمان‌بندی و مدیریت دستگاه رو هم داره.
مایکروسافت اطلاعات بیشتری درباره این SDK، پروتکل شبکه بک‌اند مایا و بهینه‌سازی‌هاش توی پست وبلاگ Inside Maia 100 ارائه داده که خوندنش برای توسعه‌دهنده‌ها و علاقه‌مندان به هوش مصنوعی خالی از لطف نیست.
