۱۴۰۵ آبان ۲۶, سه‌شنبه
دلار آمریکا۲۶۸٬۷۰۵• ۰٪یورو۲۹۶٬۳۱۰▼ ۰٫۰۳٪درهم امارات۷۳٬۲۲۷▲ ۰٫۰۱٪سکه امامی۲۵۲٬۴۲۵٬۰۰۰▲ ۰٫۷۵٪طلای ۱۸ عیار (گرم)۲۴٬۶۹۰٬۹۰۰▲ ۰٫۵٪انس طلا۳٬۸۶۷ $▲ ۰٫۰۶٪تتر۲۷۰٬۲۵۸▲ ۰٫۳۲٪بیت‌کوین۶۴٬۲۳۵ $▼ ۱٫۵۱٪اتریوم۱٬۸۱۴ $▼ ۰٫۵۶٪سولانا۷۲٫۲۲ $▲ ۱٫۰۱٪اپل۳۵۲٫۷۸ $▼ ۰٫۹۸٪انویدیا۱۵۶٫۱۴ $▼ ۴٫۱۲٪مایکروسافت۵۱۷٫۹۹ $▼ ۱٫۱۲٪آلفابت (گوگل)۲۸۳٫۷۲ $▼ ۴٫۰۷٪تسلا۳۷۹٫۷۴ $▼ ۲٫۶۹٪شاخص نزدک۲۴٬۵۱۰ $▼ ۲٫۴۹٪
نرخ ارز

ذخیره‌سازی Habitat در OpenAI: خواندن از ۱۲۰ به ۱۰ میلی‌ثانیه

OpenAI در بخش دوم روایت ذخیره‌سازی Habitat می‌گوید با کش، تکثیر منتخب داده و بازنویسی سرویس با Rust، میانه زمان خواندن سراسری را ۱۲ برابر کاهش داده است.

اسلاید گرافیکی تیره با عدد بزرگ ۱۲ برابر و نشان OpenAI برای کاهش زمان خواندن در سامانه ذخیره‌سازی Habitat
اسلاید گرافیکی تیره با عدد بزرگ ۱۲ برابر و نشان OpenAI برای کاهش زمان خواندن در سامانه ذخیره‌سازی Habitat
فهرست مطالب
  1. ذخیره‌سازی Habitat در یک نگاه
  2. سه مشکل کانتینر پیش‌فرض
  3. کانتینر جدا و هزینه‌اش
  4. کش، CDC و عدد ۱۲ برابر
  5. همکاری مشترک با Azure
  6. درس‌ها برای تیم‌های بک‌اند و DevOps

OpenAI در بخش دوم روایت مهندسی خود درباره ذخیره‌سازی Habitat، سامانه آنلاین محصولاتش، می‌گوید میانه (p50) زمان خواندن سراسری را از حدود ۱۲۰ میلی‌ثانیه به حدود ۱۰ میلی‌ثانیه رسانده است؛ بهبودی ۱۲ برابری. این شرکت می‌گوید در کنار این پیشرفت، مسیر چندمستاجری (multi-tenancy) در Azure Cosmos DB را هم با همکاری نزدیک تیم Azure اصلاح کرده است.

ذخیره‌سازی Habitat در یک نگاه

طبق بخش اول، Habitat بیش از ۷۰ میلیون درخواست در ثانیه را پاسخ می‌دهد، محصولاتی با بیش از یک میلیارد کاربر هفتگی را پشتیبانی می‌کند، در حدود ۴۰ منطقه جغرافیایی فعال است و بیش از ۵۰۰ پتابایت داده نگه می‌دارد. لایه ذخیره‌سازی آن Azure Cosmos DB است.

Habitat عمداً API محدودی دارد: مدل داده بر پایه شیء و یال است و الهام‌گرفته از TAO، و SQL دلخواه یا پیمایش عمومی گراف ندارد. OpenAI می‌گوید این محدودیت هزینه هر درخواست را قابل‌پیش‌بینی نگه می‌دارد.

سه مشکل کانتینر پیش‌فرض

در ابتدا همه بارها روی یک کانتینر پیش‌فرض در هر حساب Cosmos DB می‌نشستند و سه مشکل پیش آمد:

  • برخورد کلید پارتیشن: کلیدهای رایجی مثل user_id یا workspace_id در کاربردهای مختلف تکرار می‌شدند و سقف توان پردازشی همان کلید را تقسیم می‌کردند.
  • همسایه پرسروصدا: چون سقف‌ها در سطح پارتیشن فیزیکی اعمال می‌شود، بار قابلیت‌های جانبی می‌توانست مسیرهای حیاتی مثل ورود و ثبت‌نام را مختل کند.
  • پارتیشن ضعیف: با رشد داده، پارتیشن‌ها تقسیم می‌شدند ولی توان کل ثابت می‌ماند؛ پس سهم هر پارتیشن کم می‌شد، حتی وقتی ترافیک تغییری نکرده بود.

کانتینر جدا و هزینه‌اش

OpenAI برای کاربردهای حیاتی تازه کانتینرهای جدا ساخت. این کار به گفته خودش جلوی بسیاری از قطعی‌های سراسری را گرفت و آسیب را به یک قابلیت یا سرویس محدود کرد. اما تیم‌ها باید ظرفیت را از پیش تنظیم می‌کردند و گاهی این کار را فراموش می‌کردند؛ نتیجه، اتاق‌های حادثه در روز عرضه برای بالا بردن ظرفیت بود.

برای برگشت به چندمستاجری، OpenAI و تیم Azure چند راه‌حل ساختند: محدودسازی داغ‌ترین کلیدها، اولویت‌بندی درخواست‌ها (QoS) تا بارهای آفلاین مثل درج انبوه زودتر کند شوند، و حالت serverless تازه‌ای که هر پارتیشن فیزیکی را تا ۱۰ هزار RU/s بالا می‌برد و تقسیم را به مصرف RU هم وابسته می‌کند. OpenAI می‌گوید حالا یک کانتینر مشترک دارد و در ماه‌های پس از آن، حادثه‌ای از جنس تنظیم ظرفیت یا همسایه پرسروصدا نداشته است.

کش، CDC و عدد ۱۲ برابر

بیش از ۹۰ درصد درخواست‌های Habitat خواندن است. OpenAI چند لایه به کار برده: نگه‌داری داده نزدیک کاربر هر جا ظرفیت اجازه بدهد، تکثیر گسترده فقط برای کوچک‌ترین و حساس‌ترین مجموعه‌داده‌ها، و برای بقیه یک کش lookaside توزیع‌شده روی سرورهای Valkey نزدیک محل پردازش (برای مبانی این الگو، راهنمای کش با Redis را ببینید).

باطل‌سازی کش از راه ثبت تغییرات داده (CDC) و change feed در Cosmos DB انجام می‌شود، رویکردی که به گفته OpenAI از سیستم TAO در متا الهام گرفته و باطل‌سازی را در عرض چند ثانیه در سراسر جهان می‌رساند. بازنویسی سرویس با Rust هم سربار پراکسی را کم کرده است. مجموع این تغییرات، رقم ۱۲۰ به ۱۰ میلی‌ثانیه را ساخته است. همین CDC بیش از صد موضوع Kafka را برای شاخص‌های ثانویه، انتقال داده و تحلیل آفلاین هم تغذیه می‌کند.

OpenAI تأکید می‌کند کندترین درخواست‌ها هنوز باید داده کش‌نشده را از ذخیره‌ساز، گاه در منطقه‌ای دور، بخوانند.

همکاری مشترک با Azure

OpenAI می‌گوید یک قطعی برق در منطقه اصلی و قطعی بعدیِ حین بازگشت به آن منطقه نشان داد «مدیریت‌شده» بودن سرویس در این مقیاس کافی نیست. حالا تیم‌های Habitat و Azure داشبورد و آزمون مشترک دارند، با هم SDK را آزمایش می‌کنند و راه ارتباط مستقیم دارند.

درس‌ها برای تیم‌های بک‌اند و DevOps

  1. ایزولیشن مجانی نیست: کانتینر جدا خرابی را محدود می‌کند، اما هزینه‌اش برنامه‌ریزی ظرفیت برای هر تیم است.
  2. رشد داده ظرفیت را تغییر می‌دهد: تقسیم پارتیشن‌ها بدون افزایش ترافیک هم سهم هر پارتیشن را کم می‌کند.
  3. کش بدون باطل‌سازی خوب کافی نیست: TTL میان تازگی و نرخ برخورد مصالحه می‌کند؛ باطل‌سازی مبتنی بر CDC این مصالحه را کم می‌کند.
  4. مرزها را پلتفرم نگه دارد: وقتی تصمیم ظرفیت به هر تیم سپرده شود، حادثه‌های روز عرضه تکرار می‌شوند.

OpenAI در پایان از سیستم ذخیره‌سازی آنلاین درون‌سازمانی در مقیاس اگزابایت خبر می‌دهد که هنوز در حال توسعه است.

$ devna rate --article

—
هنوز رأیی ثبت نشده
  1. ۵۰
  2. ۴۰
  3. ۳۰
  4. ۲۰
  5. ۱۰

این مطلب چقدر به کارتان آمد؟

روی ستاره‌ها بزنید

واکنش شما

اولین نفری باشید که واکنش نشان می‌دهد.

پرسش‌های پرتکرار

Habitat چیست؟

Habitat سامانه ذخیره‌سازی آنلاین OpenAI است که محصولات این شرکت برای دسترسی سریع به داده از آن استفاده می‌کنند. لایه پایه‌اش پایگاه داده Azure Cosmos DB است.

عدد ۱۲ برابر چه چیزی را می‌سنجد؟

میانه (p50) زمان خواندن سراسری در Habitat را؛ طبق OpenAI از حدود ۱۲۰ به حدود ۱۰ میلی‌ثانیه رسیده است. این بهبود حاصل مجموعه‌ای از تغییرها، از جمله کش، تکثیر منتخب داده و بازنویسی سرویس با Rust است، نه کش به‌تنهایی.

OpenAI چرا به یک کانتینر مشترک برگشت؟

کانتینرهای جداگانه جلوی بسیاری از قطعی‌های سراسری را گرفتند، اما برنامه‌ریزی ظرفیت را روی دوش همه تیم‌های محصول انداختند. با قابلیت‌های تازه‌ای که تیم Azure ساخت، OpenAI دوباره به یک کانتینر مشترک برگشت.

منابع

  1. OpenAI: Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)
  2. OpenAI: Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part I)

خطایی در این مطلب دیدید؟ به تحریریه گزارش دهید؛ اصلاحیه‌ها طبق اصول تحریریه ثبت می‌شوند.

دیدگاه‌ها

۰/۲٬۰۰۰

دیدگاه‌ها پس از بررسی تحریریه منتشر می‌شوند. توهین، تبلیغ و لینک‌های بی‌ربط حذف می‌شوند؛ نقد فنی و مستند همیشه خوش‌آمد است.

$ comments --count۰

هنوز کسی چیزی ننوشته. اولین دیدگاه را شما ثبت کنید.

مطالب مرتبط