نتایج جدید منتشر شده توسط انویدیا در تاریخ ۱۶ نوامبر ۲۰۲۶، از بنچمارک MLPerf Endpoints v1.0، نویدبخش جهشی بزرگ در عملکرد سیستمهای استنتاجی برای هوش مصنوعی عاملی (Agentic AI) است. این نتایج provisional نشان میدهد که پلتفرم NVIDIA Vera Rubin NVL72 قادر است بیش از ۱۰ برابر توان عملیاتی به ازای هر کیلووات مصرف انرژی را نسبت به NVIDIA GB300 NVL72 ارائه دهد، در حالی که حداقل سطح تعامل پایانبهپایان (E2E interactivity) ۵۰ توکن بر ثانیه به ازای هر کاربر را حفظ میکند. این دستاورد در مدلهای مختلفی از جمله Kimi K3، DeepSeek-V4.1-Flash و Qwen3.6-35B-A3B مشاهده شده است.
معیار جدید MLPerf و برتری Vera Rubin در AI عاملی
بار کاری هوش مصنوعی عاملی به سیستمهای استنتاجی (inference systems) فشار فزایندهای وارد میکند. عوامل هوش مصنوعی، تاریخچه گفتگوی رو به رشدی را در طول تعاملات خود حفظ میکنند و ترکیبی از استدلال، فراخوانی ابزار و پاسخها را تولید میکنند. نیاز به پشتیبانی از کاربران در مقیاس بزرگ با حفظ پاسخگویی فوری، چالش اصلی این سیستمها است. MLPerf Endpoints v1.0 برای ارزیابی این تعادل بین ظرفیت سرویسدهی و پاسخگویی طراحی شده است و از گردشهای کاری کدنویسی و سازمانی از طریق endpoints API استفاده میکند. در طول اجراهای عملکرد، فراخوانیهای ابزار تولید شده و قصد گردش کار در برابر مقادیر مرجع بررسی میشوند، که این خود تضمین میکند سرعت بالاتر منجر به کاهش کیفیت مدل نمیشود.
همانطور که نتایج موقت (provisional) بنچمارک MLPerf Endpoints v1.0 نشان میدهد، NVIDIA Vera Rubin NVL72 با ۳۲ شتابدهنده در مقایسه با NVIDIA GB300 NVL72 با ۴۸ شتابدهنده، به ازای هر کیلووات انرژی مصرفی، توان عملیاتی قابل توجهی را ارائه میدهد. برای مثال، در مدل Kimi K3، Vera Rubin NVL72 بیش از ۱۰ برابر توان عملیاتی به ازای کیلووات بیشتری را به نمایش گذاشته است و در مدلهای DeepSeek-V4.1-Flash و Qwen3.6-35B-A3B نیز این نسبت بین ۵ تا ۱۰ برابر بوده است. علاوه بر این، در سطح همزمانی (concurrency) یکسان، Vera Rubin NVL72 تعامل پایانبهپایان (E2E interactivity) ۳ تا ۵ برابر بالاتری را نسبت به GB300 NVL72 نشان میدهد که به معنای تجربه کاربری بسیار روانتر و سازندهتر است.
نوآوریهای سختافزاری و نرمافزاری
عملکرد چشمگیر Vera Rubin NVL72 نتیجه طراحی مشترک سختافزار و نرمافزار پیشرفته است. پردازندههای گرافیکی NVIDIA Rubin دارای حافظه HBM4، هستههای Tensor و نسل ششم NVLink هستند. حافظه HBM4 دسترسی سریع به وزنهای مدل و وضعیت مکالمه را فراهم میکند، هستههای Tensor عملیات ماتریسی را سرعت میبخشند و NVLink ارتباط بین پردازندههای گرافیکی را پشتیبانی میکند. این ویژگیها برای پاسخگویی به نیازهای حجیم و پیچیده استنتاج عاملی ضروری هستند.
در کنار پیشرفتهای سختافزاری، بهینهسازیهای نرمافزاری نیز نقش حیاتی ایفا میکنند، از جمله تکنیکهای سرویسدهی آگاه از بافت (context-aware serving) مانند ذخیرهسازی پیشوند (prefix caching)، استفاده مجدد از حالت (state reuse) و مسیریابی NVIDIA Dynamo. این تکنیکها محاسبات تکراری را کاهش داده و بار سرویسدهی را بین بارهای کاری عاملی متعادل میکنند. علاوه بر این، بهینهسازیهای خاص مدل مانند هسته MegaMoE در DeepSeek و پیشبینی چند توکنی به همراه تأیید Tensor Core در Qwen، حرکت دادهها و گامهای رمزگشایی ترتیبی را کاهش میدهند و به افزایش کارایی و پاسخگویی سیستم کمک میکنند.
ملاحظات عملیاتی و نتیجهگیری
پیامدهای عملی: توان عملیاتی بالاتر به ازای هر کیلووات برای مراکز داده به معنی اجرای همزمان تعداد بیشتری از عوامل هوش مصنوعی با بودجه انرژی یکسان است. این امر به کاهش هزینههای عملیاتی و بهینهسازی استفاده از منابع منجر میشود. همچنین، با توجه به نیاز روزافزون به هوش مصنوعی عاملی در کاربردهای سازمانی و کدنویسی، پاسخهای سریعتر در همزمانی پایین، تجربه کاربری را به شکل قابل توجهی برای کارهای حساس به تأخیر افزایش میدهد.
محدودیتها: مهم است به یاد داشته باشیم که نتایج عملکرد Vera Rubin NVL72 در MLPerf Endpoints v1.0 هنوز حالت موقت (provisional) دارند و تا زمان تأیید نهایی توسط MLCommons Association ممکن است دستخوش تغییر شوند. مقایسهها بر اساس سختافزار نسل قبلی (GB300 NVL72) انجام شدهاند و باید با این ملاحظات در نظر گرفته شوند.
نتیجهگیری: پلتفرم Vera Rubin انویدیا از طریق طراحی مشترک دقیق سختافزار، معماری سیستم و نرمافزار سرویسدهی، توانسته است به توانمندیهای پیشرو در زمینه هوش مصنوعی عاملی دست یابد. این پیشرفتها نه تنها نیازهای چالشبرانگیز بارهای کاری هوش مصنوعی عاملی را برطرف میکنند، بلکه ظرفیت و پاسخگویی سیستمها را برای خدمترسانی به کاربران و مقیاسپذیری برنامهها به طور قابل توجهی افزایش میدهند. این تحول برای آینده برنامههای مبتنی بر هوش مصنوعی عاملی و گسترش کاربردهای آن در صنایع مختلف حیاتی خواهد بود.
منبع و تاریخ خبر
NVIDIA Vera Rubin NVL72 Leads Agentic Inference Performance on MLPerf Endpoints v1.0 — 2026-11-16
دیدگاهها ۰
هنوز دیدگاهی ثبت نشده؛ اولین نفر باشید!