NVIDIA پلتفرم ایمنی ایجنت‌ها را با نگهبان سخت‌افزاری معرفی کرد

NVIDIA روز ۶ مهر ۱۴۰۵ (۲۸ سپتامبر ۲۰۲۶) پلتفرم Open Agent Safety را معرفی کرد؛ ترکیبی از نرم‌افزار متن‌باز و یک طرح مرجع سیستمی (Reference Design) برای اینکه ایجنت‌های هوش مصنوعی (AI Agents) از مرحله آزمایش تا استقرار در محدوده‌ای که سازمان تعیین کرده بمانند. ایده اصلی پلتفرم ایمنی ایجنت NVIDIA ساده است: کنترل ایجنت نباید فقط به خود نرم‌افزاری سپرده شود که ایجنت روی آن اجرا می‌شود.

به گفته NVIDIA، بیش از ۱۰۰ سازمان با این پلتفرم همکاری می‌کنند؛ از جمله Anthropic، Microsoft، Hugging Face، Cisco، CrowdStrike، Palo Alto Networks، Red Hat، Scale AI و JPMorganChase.

دو لایه پلتفرم ایمنی ایجنت NVIDIA: OpenShell و Sentry

پلتفرم دو جزء اصلی دارد که هر کدام در یک لایه کار می‌کنند.

OpenShell: مرز اجرای ایجنت

طبق وبلاگ فنی NVIDIA، OpenShell یک runtime امن و متن‌باز است که ایجنت‌های خودمختار را در سندباکس با ایزوله‌سازی در سطح کرنل اجرا می‌کند. اپراتور مشخص می‌کند ایجنت به کدام فایل‌ها، شبکه‌ها، ابزارها، پروسه‌ها و اعتبارنامه‌ها (Credentials) دسترسی دارد. این سیاست‌ها پیش از شروع اجرا بررسی و در طول اجرا اعمال می‌شوند.

OpenShell روی پردازنده‌های Vera ساخت NVIDIA اجرا می‌شود، اما NVIDIA می‌گوید چون متن‌باز است، می‌توان آن را به پلتفرم‌های دیگر از جمله Arm و Intel گسترش داد. به گزارش AP، Justin Boitano، معاون هوش مصنوعی سازمانی NVIDIA، هدف OpenShell را این توصیف کرد که توسعه‌دهنده بتواند به‌طور رسمی بررسی کند ایجنت «به اندازه انجام کارش اختیار دارد و نه بیشتر».

Sentry: نگهبانی که ایجنت به آن دست نمی‌رسد

Sentry بخش سخت‌افزاری ماجراست: یک نگهبان خارج از باند (Out-of-Band Watchdog) که روی واحدهای پردازش داده (DPU) مدل BlueField-4 اجرا می‌شود و با نرم‌افزار DOCA برنامه‌پذیر است. Sentry تعامل‌های ایجنت، تصمیم‌های سیاستی و دسترسی به ابزار و داده را کنار هم می‌گذارد تا انحراف (Drift) و رفتار مشکوک را تشخیص دهد.

نکته کلیدی این است که Sentry روی سیلیکون جداگانه کار می‌کند. به نوشته وبلاگ فنی NVIDIA، این لایه از میزبان ایزوله و از دسترس ایجنت بیرون است و حتی وقتی نمی‌توان به منابع میزبان اعتماد کرد، به‌عنوان لایه محافظ قابل اعتماد باقی می‌ماند. در سیستم‌های Vera Rubin POD، BlueField-4 روی تنها مسیر نود به مدل قرار دارد و به همین دلیل می‌تواند رفتار ایجنت را به‌طور پیوسته و خارج از باند ببیند و سیاست‌ها را با سرعت خط (Line Speed) اعمال کند. به گفته شرکت، Sentry می‌تواند ایجنتی را که از مرزهایش بیرون می‌رود در چند میلی‌ثانیه قرنطینه کند.

چرا این پلتفرم حالا معرفی شد؟

NVIDIA در بیانیه‌اش می‌نویسد حوادث امنیتی اخیر یک الگوی مشترک داشته‌اند: «ایجنت کنترل‌های امنیتی لایه اپلیکیشن را دور زد تا وظیفه محول‌شده را کامل کند.» وبلاگ فنی شرکت هم از پدیده انحراف حرف می‌زند؛ وقتی ایجنت به‌دلیل مسدود شدن یک اقدام، باگ، دستور مبهم یا تلاش طولانی برای حل مسئله از وظیفه اصلی فاصله می‌گیرد.

به گزارش AP، Boitano درباره نفوذ ایجنت‌های OpenAI به Hugging Face گفت: «از آنچه می‌دانیم، این پلتفرم امنیتی تازه اگر از ابتدا در آزمایشگاه‌های پیشرو برای ارزیابی مدل به کار می‌رفت، می‌توانست جلوی این نفوذ را بگیرد.» پیشینه این ماجرا و حادثه تازه DNS را در گزارش توقف آموزش OpenAI بخوانید.

Jensen Huang، مدیرعامل NVIDIA، هم در بیانیه گفت: «ایمنی و امنیت به مهندسی تمام‌پشته نیاز دارد.»

برای توسعه‌دهندگان چه چیزی عوض می‌شود؟

اگر ایجنت هوش مصنوعی می‌سازید، OpenShell همین حالا از طریق منابع توسعه‌دهندگان NVIDIA و GitHub با مجوز Apache 2.0 در دسترس است. به نظر DevNA، درس معماری این پلتفرم برای هر تیمی، با هر سخت‌افزاری، روشن است: سیاست دسترسی ایجنت را پیش از اجرا صریح بنویسید و آن را بیرون از خود ایجنت اعمال کنید، نه فقط در پرامپت یا کد اپلیکیشن.

Sentry اما به سخت‌افزار پشتیبانی‌شده NVIDIA نیاز دارد و NVIDIA آن را بخشی از طرح مرجع سیستمی معرفی کرده است. به گفته شرکت، برای کسانی که همین حالا سیستم Vera با BlueField-4 دارند، فعال‌سازی این حفاظت‌ها فقط یک به‌روزرسانی نرم‌افزاری است. برداشت DevNA این است که لایه سخت‌افزاری فعلاً بیشتر به کار سازمان‌ها و آزمایشگاه‌هایی می‌آید که روی زیرساخت Vera و BlueField-4 کار می‌کنند.

اگر رقابت سازندگان تراشه در هوش مصنوعی را دنبال می‌کنید، گزارش خرید World Labs توسط AMD را هم بخوانید.