Anthropic در ۲۳ مهر اعلام کرد به شش نفر از سازمان غیرانتفاعی METR برای ارزیابی ریسک مدلهایش دسترسی شبهکارمندی داده است.
این تیم سختافزار شرکت، فضای دفتر و دسترسی به ابزارها و سیستمهای داخلی دارد؛ تقریباً همتراز تیمهای ارزیابی ریسک خود Anthropic.
METR تحلیلش را منتشر میکند و Anthropic نمیتواند جلویش را بگیرد؛ فقط داده مشتریان، اطلاعات محرمانه حقوقی و معماری مدل قابل حذف است.
بقیه کارکنان METR، حتی پژوهشگرانی که در پروژههای دیگر با Anthropic کار میکنند، از کار این تیم جدا نگه داشته میشوند.
داریو آمودی در شهریور این تعهد را مطرح کرد و سم آلتمن نوشت OpenAI هم همین کار را خواهد کرد.
جدا از METR، سازمان SecureBio فصل سلاحهای شیمیایی و زیستی گزارش ریسک اوت Anthropic را بازبینی میکند.
Anthropic به شش ارزیاب METR سختافزار شرکت، فضای دفتر و دسترسی به ابزارهای داخلی داد؛ METR بدون حق وتوی Anthropic یافتههایش را منتشر میکند.