دواپس و کلاد

ذخیره‌سازی Habitat در OpenAI: خواندن از ۱۲۰ به ۱۰ میلی‌ثانیه

DevNA | devna.ir
۱ از ۶

Habitat چیست؟

سامانه ذخیره‌سازی آنلاین OpenAI؛ طبق بخش اول، بیش از ۷۰ میلیون درخواست در ثانیه و بیش از ۵۰۰ پتابایت داده برای بیش از یک میلیارد کاربر هفتگی.

۲ از ۶

۱۲۰ به ۱۰ میلی‌ثانیه

OpenAI می‌گوید میانه زمان خواندن سراسری از حدود ۱۲۰ به حدود ۱۰ میلی‌ثانیه رسیده است؛ بهبودی ۱۲ برابری.

۳ از ۶

کش Valkey

یک کش lookaside روی سرورهای Valkey نزدیک محل پردازش نگه‌داری می‌شود و با تغییرات Cosmos DB در عرض چند ثانیه باطل می‌شود.

۴ از ۶

هزینه جداسازی

کانتینر جدا برای هر سرویس جلوی بسیاری از قطعی‌های سراسری را گرفت، اما همه تیم‌ها را درگیر برنامه‌ریزی ظرفیت کرد.

۵ از ۶

بازگشت به کانتینر مشترک

با محدودسازی کلیدهای داغ، اولویت‌بندی درخواست‌ها و حالت serverless تازه، OpenAI دوباره به یک کانتینر مشترک رسید.

۶ از ۶

درس برای شما

ایزولیشن بدون مدیریت ظرفیت، بار را روی تیم‌ها می‌اندازد. مرزها را در پلتفرم بگذارید، نه در تصمیم هر تیم.

ماجرای کامل را در DevNA بخوانید

OpenAI در بخش دوم روایت ذخیره‌سازی Habitat می‌گوید با کش، تکثیر منتخب داده و بازنویسی سرویس با Rust، میانه زمان خواندن سراسری را ۱۲ برابر کاهش داده است.

خواندن مطلب کامل