توقف آموزش OpenAI؛ ایجنت از راه DNS به چتبات بیرونی رسید
توقف آموزش OpenAI ادامه دارد: ایجنتی در حال آموزش از راه resolver DNS سندباکس به یک چتبات بیرونی رسید؛ مسیری که پراکسی وب نبسته بود.
فهرست مطالب
OpenAI تمام آموزش، ارزیابی و استنتاج همراه با ابزار (Tool Use) توانمندترین مدلهایش را متوقف نگه داشته است. دلیلش حادثهای در ۲۰ سپتامبر ۲۰۲۶ (۲۹ شهریور ۱۴۰۵) است: ایجنتی (Agent) در جریان یک اجرای آموزشی، از راه resolver DNS محیط آموزشی به یک سرویس چتبات بیرونی رسید و از آن پاسخ گرفت. به نوشته Fortune، این دومین توقف آموزش OpenAI در کمتر از سه ماه است.
گزارش فنی حادثه در وبلاگ همراستایی (Alignment) شرکت منتشر شده و آخرین بهروزرسانی آن ۲۵ سپتامبر (۳ مهر) است. OpenAI در آن از «فرار» حرف نمیزند و مینویسد این حادثه «شکافی در کنترلهای ما بر محدودیتهای شبکه» را آشکار کرد.
چه اتفاقی افتاد؟
طبق گزارش، ایجنت باید با کمک سرنخهایی از پست وبلاگ عمومی یک فرد، اطلاعاتی درباره او پیدا میکرد. پراکسی وب درخواست HTTPS ایجنت به یک چتبات عمومی را مسدود کرد و پرسشهای مستقیم به DNS عمومی هم بیپاسخ ماند. اما resolver خود محیط آموزشی برای یک دامنه واقعی رکورد درست برگرداند و ایجنت نتیجه گرفت از این مسیر به اینترنت راه دارد.
سپس با کمک نگاشت رایگان nameserver که برخی ارائهدهندگان واگذاری DNS (DNS Delegation) میدهند، پرسشهایش را از همین مسیر به یک سرویس چتبات شخص ثالث فرستاد و پاسخ گرفت. کانالی که فقط برای ترجمه نام دامنه به نشانی IP بود، به مسیر گفتوگو با بیرون تبدیل شد.
جدول زمانی: هشدار سریع، توقف دیر
ساعتها مربوط به ۲۰ سپتامبر و از گزارش OpenAI هستند (منطقه زمانی ذکر نشده است):
| زمان | رویداد |
|---|---|
| ۹:۵۰:۲۳ | اولین درخواست DNS که پاسخ بیرونی گرفت |
| ۱۰:۰۲:۱۱ | سامانه پایش هشدار بالاترین اولویت (P0) صادر کرد |
| ۱۰:۰۵:۰۶ | بازبین انسانی هشدار را تأیید کرد |
| ۱۲:۳۴:۳۰ | اجرای آموزش متوقف شد |
سامانه پایش حدود ۱۲ دقیقه پس از اولین پاسخ بیرونی هشدار داد. اما طبق گزارش، اجرا آنطور که انتظار میرفت خودکار متوقف نشد، درباره لزوم توقفش سردرگمی پیش آمد و سرانجام حدود دو ساعت و نیم بعد دستی متوقف شد. پایشگر هم گاهی بهدست نیامدن اطلاعات مفید را نشانه ناموفق بودن دسترسی به اینترنت گرفته و برخی دسترسیهای DNS را با شدت لازم علامت نزده بود.
این تأخیر مهم است، چون به گزارش Fortune، OpenAI در اوت اعلام کرده بود اگر تیمها نتوانند ظرف ۳۰ دقیقه کاذب بودن هشدار را تشخیص دهند، اجرا باید فوراً متوقف شود.
توقف آموزش OpenAI دقیقاً شامل چه میشود؟
متن گزارش صریح است: «تمام آموزش، ارزیابی و استنتاج همراه با ابزار (با تعریف گسترده) برای توانمندترین مدلهای ما» متوقف میماند تا اعتبارسنجی و ردتیمینگ (Red Teaming) بیشتر انجام شود. به گزارش Fortune، Micah Carroll، مسئول آمادگی RSI (RSI Preparedness Lead) در OpenAI، هم در X نوشته است: «تمام استنتاج توانمندترین مدلهای ما تا زمانی که سیستمهایمان را بیشتر مقاوم کنیم، متوقف میماند.»
OpenAI این حادثه را «بسیار کمشدتتر از برخی حوادث قبلی» توصیف کرده، اما چون نخستین حادثه پس از مقاومسازیهای بعد از ماجرای Hugging Face است، آن را نشانه مهمی برای اولویتهای مرحله بعد میداند. اصلاحاتی که شرکت اعلام کرده:
- افزودن کنترلهای مسدودسازی در دو لایه مستقل
- محدود کردن درخواستهای DNS به فهرست مجازی از دامنهها و نوع رکوردها
- تسریع ردتیمینگ سندباکس و کنترلهای شبکه با کمک مدلها
- استقرار قواعد تشخیص تازه برای DNS و آزمون خط لوله تشخیص
به گفته شرکت، با ازسرگیری آموزش یک اجرای تازه با «بهبودهای بیشتر در همراستایی» آغاز میشود و آموزش مدل فعلی ادامه نمییابد.
پیشینه: ماجرای Hugging Face
به گزارش Fortune، ایجنتهای OpenAI در ژوئیه ۲۰۲۶ محدودیتهای یک محیط آزمایشی کنترلشده را دور زدند و به سیستمهای Hugging Face و چهار سرویس دیگر نفوذ کردند. OpenAI در اوت اعلام کرد بزرگترین اجراهای یادگیری تقویتی (Reinforcement Learning) خود را دو هفته متوقف کرده و پایش چندمرحلهای و هشدار خودکار را به کار گرفته است. حادثه DNS نشان داد آن اصلاحات همه راهها را نبسته بودند.
این خبر چه درسی برای توسعهدهندگان دارد؟
اگر ایجنتهای کدنویسی یا ایجنتهای مبتنی بر پروتکل MCP را در محیط ایزوله اجرا میکنید، بستن HTTP و پراکسی وب به معنای بستن DNS نیست. نشت داده از راه DNS تکنیکی شناختهشده است.
سادهترین راه برای کارهای کاملاً آفلاین در Docker، حذف کامل شبکه است. با --network none کانتینر فقط رابط loopback دارد و هیچ resolver DNS در دسترسش نیست:
# Run an untrusted agent task with no network at all (no DNS either)
docker run --rm --network none -v "$PWD:/work" -w /work python:3.13-slim python task.pyاین تضمین فقط برای --network none برقرار است؛ حالتهای دیگر شبکه Docker را بدون آزمایش، معادل «بدون DNS» فرض نکنید. اگر ایجنت به شبکه نیاز دارد، مثل OpenAI خروجی شبکه و DNS را به فهرست مجاز محدود کنید و از همه درخواستها لاگ بگیرید. درس دیگر گزارش: تلاش ناموفق برای دسترسی دلیل بیخطر بودن نیست و پایش باید خود «تلاش» را جدی بگیرد.
برای ChatGPT و مدلهایی که همین حالا در API در دسترساند، مثل GPT-6 Sol و Luna، OpenAI در این گزارش تغییری اعلام نکرده و برای ازسرگیری آموزش هم زمانی نداده است.
