نکته اصلی اینه که انویدیا بین 75 تا 90 درصد از بازار چیپهای هوش مصنوعی رو تو دستاش داره. اما به خاطر همین تسلط زیادش تو بازار، رقبای بزرگ تو حوزه تکنولوژی و شرکتهای بزرگ دارن سختافزار و شتابدهندههای خودشون رو توسعه میدن تا یه تیکه از این امپراتوری هوش مصنوعی انویدیا رو برای خودشون بردارن. حالا مایکروسافت آمادهست که جزئیات اولین چیپ سفارشی هوش مصنوعی خودش رو معرفی کنه. تا آخر این خبر با بنچفا همراه باشید.
مایکروسافت اولین شتابدهنده هوش مصنوعی خودش رو که مایا 100 نام داره، توی کنفرانس Hot Chips امسال رونمایی کرد. این شتابدهنده از یه معماری خاص استفاده میکنه که توش بردهای سرور، رکها و نرمافزارهای سفارشی به کار رفته تا یه راهکار اقتصادی و قدرتمند برای پردازشهای مبتنی بر هوش مصنوعی ارائه بده. ردموند (همون مایکروسافت) این شتابدهنده رو طراحی کرده تا مدلهای OpenAI رو توی دیتاسنترهای خودشون تو Azure اجرا کنه.
این چیپها با تکنولوژی 5 نانومتری TSMC ساخته شدن و بهصورت قطعات 500 واتی طراحی شدن، ولی میتونن تا 700 وات هم پشتیبانی کنن.
طراحی مایا میتونه یه عملکرد بالا ارائه بده و همزمان مصرف برق کلی پردازشهای هدف رو بهینه مدیریت کنه. این شتابدهنده 64 گیگابایت حافظه HBM2E داره، که یه مقدار کمتر از حافظه 80 گیگابایتی H100 انویدیا و 192 گیگابایتی HBM3E تو B200 هست.
به گفته مایکروسافت، معماری SoC مایا 100 یه واحد تنسور پرسرعت (16xRx16) داره که برای پردازش سریع تو آموزش و استنتاج طراحی شده و از انواع دادهها، حتی اونایی که دقت پایین دارن مثل فرمت MX مایکروسافت، پشتیبانی میکنه.
یه موتور سوپراسکالر (پردازشگر برداری) هم تو این چیپ هست که با ISA سفارشی ساخته شده و از انواع دادهها، از جمله FP32 و BF16 پشتیبانی میکنه. همچنین یه موتور Direct Memory Access داره که میتونه شاردینگ تنسورهای مختلف رو پشتیبانی کنه و سمفورهای سختافزاری برای برنامهنویسی غیرهمزمان هم داره.
شتابدهنده مایا 100 یه کیت توسعه هم به اسم Maia SDK برای توسعهدهندهها داره. این کیت ابزارهایی داره که به توسعهدهندههای هوش مصنوعی کمک میکنه تا مدلهایی که قبلاً تو Pytorch و Triton نوشته بودن رو سریعاً منتقل کنن.
این SDK شامل یهپارچهسازی با فریمورکها، ابزارهای توسعهدهنده، دو مدل برنامهنویسی و کامپایلرهاست. همچنین هستههای محاسباتی و ارتباطی بهینهسازی شده، Runtime مایا برای هاست/دستگاه، یه لایه انتزاع سختافزاری برای تخصیص حافظه، راهاندازی هستهها، زمانبندی و مدیریت دستگاه رو هم داره.
مایکروسافت اطلاعات بیشتری درباره این SDK، پروتکل شبکه بکاند مایا و بهینهسازیهاش توی پست وبلاگ Inside Maia 100 ارائه داده که خوندنش برای توسعهدهندهها و علاقهمندان به هوش مصنوعی خالی از لطف نیست.
