هوش مصنوعی

Rebellions با NVLink Fusion، NPU خود را به NVIDIA وصل می‌کند

DevNA | devna.ir
۱ از ۶

همکاری سه‌جانبه

NVIDIA، Rebellions و SK Telecom در ۱۷ آبان (۸ نوامبر) همکاری برای زیرساخت هوش مصنوعی حاکمیتی کره با NVLink Fusion را اعلام کردند. وزارت علوم و فناوری اطلاعات کره حمایت می‌کند.

۲ از ۶

NPU کنار GPU

Rebellions با NVLink Fusion، NPUهای Rebel R200 را به پلتفرم NVIDIA وصل می‌کند و سیستم‌های رک‌مقیاس را روی معماری NVIDIA MGX می‌سازد.

۳ از ۶

تقسیم کار در استنتاج

برنامه این است که GPUهای NVIDIA مرحله prefill و NPUهای Rebellions مرحله decode را اجرا کنند تا توان عملیاتی و بازده انرژی بهتر شود.

۴ از ۶

استقرار در SK Telecom

SK Telecom قرار است سیستم‌ها را در مرکز داده هوش مصنوعی خود به مدل‌هایی مانند A.X K2 وصل کند. آماده‌سازی سیستم‌های R200 برای ۲۰۲۸ انتظار می‌رود.

۵ از ۶

چهار مدل کره‌ای

NVIDIA برای A.X K2، K-EXAONE 2.0، Solar Open 2 و Motif-3 دستورالعمل استقرار مبتنی بر Dynamo برای GPU مدل B200 منتشر کرده است.

۶ از ۶

«تا دو برابر»؛ نسبت به چه؟

NVIDIA از «up to 2x» عملکرد از همان ابتدا (out of the box) صحبت می‌کند، اما مبنای مقایسه را اعلام نکرده است. تا روشن شدن آن، عدد را با احتیاط بخوانید.

ماجرای کامل را در DevNA بخوانید

NVIDIA، Rebellions و SK Telecom با NVLink Fusion برای هوش مصنوعی کره همکاری دارند؛ GPU برای prefill، NPU برای decode. آمادگی سیستم‌ها برای ۲۰۲۸ انتظار می‌رود.

خواندن مطلب کامل