هوش مصنوعی

Anthropic به شش ارزیاب مستقل METR دسترسی شبه‌کارمندی داد

DevNA | devna.ir
۱ از ۶

ارزیاب‌ها داخل آزمایشگاه

Anthropic در ۲۳ مهر اعلام کرد به شش نفر از سازمان غیرانتفاعی METR برای ارزیابی ریسک مدل‌هایش دسترسی شبه‌کارمندی داده است.

۲ از ۶

سخت‌افزار، دفتر، ابزار داخلی

این تیم سخت‌افزار شرکت، فضای دفتر و دسترسی به ابزارها و سیستم‌های داخلی دارد؛ تقریباً هم‌تراز تیم‌های ارزیابی ریسک خود Anthropic.

۳ از ۶

بدون حق وتو

METR تحلیلش را منتشر می‌کند و Anthropic نمی‌تواند جلویش را بگیرد؛ فقط داده مشتریان، اطلاعات محرمانه حقوقی و معماری مدل قابل حذف است.

۴ از ۶

دیوار داخل METR

بقیه کارکنان METR، حتی پژوهشگرانی که در پروژه‌های دیگر با Anthropic کار می‌کنند، از کار این تیم جدا نگه داشته می‌شوند.

۵ از ۶

وعده آمودی، پاسخ آلتمن

داریو آمودی در شهریور این تعهد را مطرح کرد و سم آلتمن نوشت OpenAI هم همین کار را خواهد کرد.

۶ از ۶

SecureBio و فصل سلاح‌ها

جدا از METR، سازمان SecureBio فصل سلاح‌های شیمیایی و زیستی گزارش ریسک اوت Anthropic را بازبینی می‌کند.

ماجرای کامل را در DevNA بخوانید

Anthropic به شش ارزیاب METR سخت‌افزار شرکت، فضای دفتر و دسترسی به ابزارهای داخلی داد؛ METR بدون حق وتوی Anthropic یافته‌هایش را منتشر می‌کند.

خواندن مطلب کامل