NVIDIA در ۶ مهر (۲۸ سپتامبر) پلتفرم Open Agent Safety را معرفی کرد تا ایجنت‌های هوش مصنوعی از آزمایش تا استقرار در محدوده مجاز بمانند.
runtime متن‌باز OpenShell ایجنت را در سندباکس با ایزوله‌سازی در سطح کرنل اجرا می‌کند و دسترسی به فایل، شبکه، ابزار و اعتبارنامه‌ها را محدود می‌کند.
Sentry روی DPUهای BlueField-4 رفتار ایجنت را خارج از دسترس میزبان پایش می‌کند و به گفته NVIDIA ایجنت متخلف را در چند میلی‌ثانیه قرنطینه می‌کند.
به گفته NVIDIA، در حوادث اخیر الگو یکی بوده است: ایجنت کنترل‌های امنیتی لایه اپلیکیشن را دور زده تا وظیفه‌اش را تمام کند.
Anthropic، Microsoft، Hugging Face، CrowdStrike، Palo Alto Networks و Scale AI از جمله بیش از ۱۰۰ سازمانی‌اند که به گفته NVIDIA با این پلتفرم همکاری می‌کنند.
OpenShell با مجوز Apache 2.0 روی GitHub است. جزئیات معماری و پیامدهایش را در گزارش کامل DevNA بخوانید.
Open Agent Safety، پلتفرم ایمنی ایجنت NVIDIA، معرفی شد: OpenShell متن‌باز مرز اجرای ایجنت را می‌بندد و Sentry روی BlueField-4 رفتارش را جدا از میزبان می‌پاید.