ذخیرهسازی Habitat در OpenAI: خواندن از ۱۲۰ به ۱۰ میلیثانیه
OpenAI در بخش دوم روایت ذخیرهسازی Habitat میگوید با کش، تکثیر منتخب داده و بازنویسی سرویس با Rust، میانه زمان خواندن سراسری را ۱۲ برابر کاهش داده است.

فهرست مطالب
OpenAI در بخش دوم روایت مهندسی خود درباره ذخیرهسازی Habitat، سامانه آنلاین محصولاتش، میگوید میانه (p50) زمان خواندن سراسری را از حدود ۱۲۰ میلیثانیه به حدود ۱۰ میلیثانیه رسانده است؛ بهبودی ۱۲ برابری. این شرکت میگوید در کنار این پیشرفت، مسیر چندمستاجری (multi-tenancy) در Azure Cosmos DB را هم با همکاری نزدیک تیم Azure اصلاح کرده است.
ذخیرهسازی Habitat در یک نگاه
طبق بخش اول، Habitat بیش از ۷۰ میلیون درخواست در ثانیه را پاسخ میدهد، محصولاتی با بیش از یک میلیارد کاربر هفتگی را پشتیبانی میکند، در حدود ۴۰ منطقه جغرافیایی فعال است و بیش از ۵۰۰ پتابایت داده نگه میدارد. لایه ذخیرهسازی آن Azure Cosmos DB است.
Habitat عمداً API محدودی دارد: مدل داده بر پایه شیء و یال است و الهامگرفته از TAO، و SQL دلخواه یا پیمایش عمومی گراف ندارد. OpenAI میگوید این محدودیت هزینه هر درخواست را قابلپیشبینی نگه میدارد.
سه مشکل کانتینر پیشفرض
در ابتدا همه بارها روی یک کانتینر پیشفرض در هر حساب Cosmos DB مینشستند و سه مشکل پیش آمد:
- برخورد کلید پارتیشن: کلیدهای رایجی مثل
user_idیاworkspace_idدر کاربردهای مختلف تکرار میشدند و سقف توان پردازشی همان کلید را تقسیم میکردند. - همسایه پرسروصدا: چون سقفها در سطح پارتیشن فیزیکی اعمال میشود، بار قابلیتهای جانبی میتوانست مسیرهای حیاتی مثل ورود و ثبتنام را مختل کند.
- پارتیشن ضعیف: با رشد داده، پارتیشنها تقسیم میشدند ولی توان کل ثابت میماند؛ پس سهم هر پارتیشن کم میشد، حتی وقتی ترافیک تغییری نکرده بود.
کانتینر جدا و هزینهاش
OpenAI برای کاربردهای حیاتی تازه کانتینرهای جدا ساخت. این کار به گفته خودش جلوی بسیاری از قطعیهای سراسری را گرفت و آسیب را به یک قابلیت یا سرویس محدود کرد. اما تیمها باید ظرفیت را از پیش تنظیم میکردند و گاهی این کار را فراموش میکردند؛ نتیجه، اتاقهای حادثه در روز عرضه برای بالا بردن ظرفیت بود.
برای برگشت به چندمستاجری، OpenAI و تیم Azure چند راهحل ساختند: محدودسازی داغترین کلیدها، اولویتبندی درخواستها (QoS) تا بارهای آفلاین مثل درج انبوه زودتر کند شوند، و حالت serverless تازهای که هر پارتیشن فیزیکی را تا ۱۰ هزار RU/s بالا میبرد و تقسیم را به مصرف RU هم وابسته میکند. OpenAI میگوید حالا یک کانتینر مشترک دارد و در ماههای پس از آن، حادثهای از جنس تنظیم ظرفیت یا همسایه پرسروصدا نداشته است.
کش، CDC و عدد ۱۲ برابر
بیش از ۹۰ درصد درخواستهای Habitat خواندن است. OpenAI چند لایه به کار برده: نگهداری داده نزدیک کاربر هر جا ظرفیت اجازه بدهد، تکثیر گسترده فقط برای کوچکترین و حساسترین مجموعهدادهها، و برای بقیه یک کش lookaside توزیعشده روی سرورهای Valkey نزدیک محل پردازش (برای مبانی این الگو، راهنمای کش با Redis را ببینید).
باطلسازی کش از راه ثبت تغییرات داده (CDC) و change feed در Cosmos DB انجام میشود، رویکردی که به گفته OpenAI از سیستم TAO در متا الهام گرفته و باطلسازی را در عرض چند ثانیه در سراسر جهان میرساند. بازنویسی سرویس با Rust هم سربار پراکسی را کم کرده است. مجموع این تغییرات، رقم ۱۲۰ به ۱۰ میلیثانیه را ساخته است. همین CDC بیش از صد موضوع Kafka را برای شاخصهای ثانویه، انتقال داده و تحلیل آفلاین هم تغذیه میکند.
OpenAI تأکید میکند کندترین درخواستها هنوز باید داده کشنشده را از ذخیرهساز، گاه در منطقهای دور، بخوانند.
همکاری مشترک با Azure
OpenAI میگوید یک قطعی برق در منطقه اصلی و قطعی بعدیِ حین بازگشت به آن منطقه نشان داد «مدیریتشده» بودن سرویس در این مقیاس کافی نیست. حالا تیمهای Habitat و Azure داشبورد و آزمون مشترک دارند، با هم SDK را آزمایش میکنند و راه ارتباط مستقیم دارند.
درسها برای تیمهای بکاند و DevOps
- ایزولیشن مجانی نیست: کانتینر جدا خرابی را محدود میکند، اما هزینهاش برنامهریزی ظرفیت برای هر تیم است.
- رشد داده ظرفیت را تغییر میدهد: تقسیم پارتیشنها بدون افزایش ترافیک هم سهم هر پارتیشن را کم میکند.
- کش بدون باطلسازی خوب کافی نیست: TTL میان تازگی و نرخ برخورد مصالحه میکند؛ باطلسازی مبتنی بر CDC این مصالحه را کم میکند.
- مرزها را پلتفرم نگه دارد: وقتی تصمیم ظرفیت به هر تیم سپرده شود، حادثههای روز عرضه تکرار میشوند.
OpenAI در پایان از سیستم ذخیرهسازی آنلاین درونسازمانی در مقیاس اگزابایت خبر میدهد که هنوز در حال توسعه است.




دیدگاهها
دیدگاهها پس از بررسی تحریریه منتشر میشوند. توهین، تبلیغ و لینکهای بیربط حذف میشوند؛ نقد فنی و مستند همیشه خوشآمد است.
هنوز کسی چیزی ننوشته. اولین دیدگاه را شما ثبت کنید.