۱۴۰۵ آبان ۲۶, سه‌شنبه
دلار آمریکا۲۶۶٬۸۹۵▼ ۰٫۶۸٪یورو۲۹۴٬۳۶۰▼ ۰٫۶۹٪درهم امارات۷۲٬۷۲۵▼ ۰٫۶۸٪سکه امامی۲۵۱٬۴۹۰٬۰۰۰▲ ۰٫۳۷٪طلای ۱۸ عیار (گرم)۲۴٬۶۶۶٬۶۰۰▲ ۰٫۴٪انس طلا۳٬۸۷۰ $▲ ۰٫۱۴٪تتر۲۶۹٬۵۴۰▲ ۰٫۰۵٪بیت‌کوین۶۴٬۲۰۰ $▼ ۱٫۵۶٪اتریوم۱٬۷۸۷ $▼ ۲٫۰۸٪سولانا۷۲٫۵۵ $▲ ۱٫۴۷٪اپل۳۵۱٫۶۹ $▼ ۰٫۳۱٪انویدیا۱۵۴٫۹۴ $▼ ۰٫۷۷٪مایکروسافت۴۹۹٫۶۵ $▼ ۳٫۵۴٪آلفابت (گوگل)۲۸۰٫۴۰ $▼ ۱٫۱۷٪تسلا۳۷۹٫۶۲ $▼ ۰٫۰۳٪شاخص نزدک۲۴٬۲۴۶ $▼ ۱٫۰۸٪
نرخ ارز

گوگل TPU 8tx برای استنتاج محرمانه و TPU 8i Max را معرفی کرد

گوگل دو سیستم تازه نسل هشتم TPU را معرفی کرد: TPU 8tx برای استنتاج محرمانه و TPU 8i Max با دو تراشه در یک بسته؛ قیمت و تاریخ عرضه اعلام نشده است.

رندر رسمی گوگل از دو برد پردازشی روی زمینه تیره: برد کوچک‌تر TPU 8tx در سمت چپ و برد بزرگ‌تر TPU 8i Max با چهار ماژول در سمت راست.
رندر رسمی گوگل از دو برد پردازشی روی زمینه تیره: برد کوچک‌تر TPU 8tx در سمت چپ و برد بزرگ‌تر TPU 8i Max با چهار ماژول در سمت راست.
فهرست مطالب
  1. چهار سیستم TPU در یک سال
  2. TPU 8tx: استنتاج امن
  3. TPU 8i Max: دو برابر سیلیکون در همان رک
  4. به‌روزرسانی‌های نرم‌افزاری
  5. چه چیزی هنوز معلوم نیست

گوگل روز ۱۸ آبان ۱۴۰۵ (۹ نوامبر ۲۰۲۶) دو سیستم دیگر از نسل هشتم TPU را معرفی کرد: TPU 8tx برای استنتاج محرمانه و TPU 8i Max با دو تراشه در یک بسته. امین وحدت (Amin Vahdat)، معاون ارشد و فناور ارشد هوش مصنوعی و زیرساخت گوگل، این خبر را در وبلاگ رسمی گوگل منتشر کرد. قیمت و تاریخ عرضه اعلام نشده است.

چهار سیستم TPU در یک سال

در پست گوگل آمده که TPU حالا علاوه بر آموزش و اجرای مدل‌های Gemini، به مشتریان Google Cloud و اخیراً به دیتاسنترهای متعلق به مشتری هم رسیده است. گوگل می‌گوید نزدیک به ۱۰۰ مشتری دارد، از جمله آزمایشگاه‌های پیشرو، شرکت‌های معاملاتی، خرده‌فروش‌ها و دانشگاه‌ها.

در آوریل گوگل در پست مربوط به Cloud Next دو تراشه TPU 8t (آموزش در مقیاس بزرگ) و TPU 8i (استدلال بلادرنگ) را معرفی کرده بود. طبق همان پست، TPU 8i حافظه پهن‌باند (HBM) ۲۸۸ گیگابایتی و ۳۸۴ مگابایت SRAM روی تراشه دارد. گوگل ادعا می‌کند نسبت عملکرد به قیمتش ۸۰ درصد بهتر از نسل قبل است. هر دو تراشه طبق آن پست «در ادامه امسال» عمومی می‌شوند.

TPU 8tx: استنتاج امن

TPU 8tx روی همان سیلیکون TPU 8t ساخته شده و میزبان آن پردازنده AMD EPYC نسل پنجم است. گوگل می‌گوید حفاظت سخت‌افزاری، داده‌های حساس و وزن‌های مدل را هنگام پردازش جدا نگه می‌دارد.

هدف اصلی استنتاج محرمانه است، اما گوگل آن را برای آموزش در مقیاس کوچک هم مناسب می‌داند. طبق پست، تیم‌ها می‌توانند روی داده خصوصی، بدون جابه‌جایی میان کلاسترها، تنظیم دقیق (fine-tuning)، تقطیر (distillation) و یادگیری تقویتی (Reinforcement Learning) انجام دهند. شبکه کم‌تأخیر Boardfly در این سیستم تا دو برابر تأخیر کمتر از TPU 8t ارائه می‌کند؛ این عدد ادعای گوگل است و مستقل بررسی نشده.

TPU 8i Max: دو برابر سیلیکون در همان رک

هر بسته TPU 8i Max دو تراشه TPU 8i دارد. گوگل می‌گوید توان محاسباتی و پهنای باند SRAM و HBM نسبت به TPU 8i دو برابر می‌شود و کاربرد هدف آن پنجره‌های متنی بسیار بزرگ و بارهای چندعاملی است. به گفته گوگل، دو برابر سیلیکون در همان فضای رک جا می‌شود و تراکم محاسبه به‌ازای هر متر مربع و هر وات بالا می‌رود.

به‌روزرسانی‌های نرم‌افزاری

گوگل همراه با سخت‌افزار چند ابزار نرم‌افزاری هم اعلام کرد:

  • TorchTPU: متن‌باز شد تا مدل‌های PyTorch و Hugging Face به‌صورت بومی روی TPU اجرا شوند.
  • مجموعه ایجنت TPU (پیش‌نمایش): با ابزارهای کدنویسی کار می‌کند و در راه‌اندازی، تشخیص گلوگاه‌ها و بهینه‌سازی کرنل کمک می‌کند.
  • XLA Serving Engine: موتور سرو متن‌باز.
  • Agent Compute Engine: نشست‌های بیکار ایجنت را متوقف و دوباره راه‌اندازی می‌کند.
  • TPU Sync: به ادعای گوگل، تأخیر انتقال KV و زمان رسیدن اولین توکن را بیش از ۹۰ درصد کم می‌کند.
  • Cloud Pathways و GKE dynamic slicing: هر دو در GKE عمومی شدند. گوگل می‌گوید dynamic slicing شروع کار را تا ۵ برابر و بازیابی از خطا را تا ۴٫۵ برابر سریع‌تر می‌کند.

چه چیزی هنوز معلوم نیست

پست گوگل قیمت و تاریخ دقیق عرضه TPU 8tx و TPU 8i Max را نمی‌گوید. معیارهای مستقل هم منتشر نشده و همه عددها ادعای گوگل‌اند. پیش‌تر درباره آزمایش TPU در مدار هم نوشته‌ایم: Suncatcher گوگل با چهار TPU به مدار رفت.

دیدگاه‌ها

۰/۲٬۰۰۰

دیدگاه‌ها پس از بررسی تحریریه منتشر می‌شوند. توهین، تبلیغ و لینک‌های بی‌ربط حذف می‌شوند؛ نقد فنی و مستند همیشه خوش‌آمد است.

$ comments --count۰

هنوز کسی چیزی ننوشته. اولین دیدگاه را شما ثبت کنید.

مطالب مرتبط