۱۴۰۵ آبان ۲۶, سه‌شنبه
دلار آمریکا۲۶۶٬۸۹۵▼ ۰٫۶۸٪یورو۲۹۴٬۳۶۰▼ ۰٫۶۹٪درهم امارات۷۲٬۷۲۵▼ ۰٫۶۸٪سکه امامی۲۵۱٬۴۹۰٬۰۰۰▲ ۰٫۳۷٪طلای ۱۸ عیار (گرم)۲۴٬۶۶۶٬۶۰۰▲ ۰٫۴٪انس طلا۳٬۸۷۰ $▲ ۰٫۱۴٪تتر۲۶۹٬۵۴۰▲ ۰٫۰۵٪بیت‌کوین۶۴٬۲۰۰ $▼ ۱٫۵۶٪اتریوم۱٬۷۸۷ $▼ ۲٫۰۸٪سولانا۷۲٫۵۵ $▲ ۱٫۴۷٪اپل۳۵۱٫۶۹ $▼ ۰٫۳۱٪انویدیا۱۵۴٫۹۴ $▼ ۰٫۷۷٪مایکروسافت۴۹۹٫۶۵ $▼ ۳٫۵۴٪آلفابت (گوگل)۲۸۰٫۴۰ $▼ ۱٫۱۷٪تسلا۳۷۹٫۶۲ $▼ ۰٫۰۳٪شاخص نزدک۲۴٬۲۴۶ $▼ ۱٫۰۸٪
نرخ ارز

راستی‌آزمایی صوری با Claude: اثبات ایمنی ۱۲۳ کتابخانه متن‌باز

Anthropic می‌گوید Claude برای ۱۲۳ کتابخانه متن‌باز اثبات رسمی عدم‌کرش نوشته؛ گزارشی از نتایج، هزینه و محدودیت‌های راستی‌آزمایی صوری.

کاور گرافیکی DevNA با نشان Anthropic و عدد ۱۲۳ درباره اثبات رسمی ایمنی کتابخانه‌های متن‌باز
کاور گرافیکی DevNA با نشان Anthropic و عدد ۱۲۳ درباره اثبات رسمی ایمنی کتابخانه‌های متن‌باز
فهرست مطالب
  1. راستی‌آزمایی صوری چه چیزی را اثبات کرد؟
  2. باگ‌هایی که پیدا شدند
  3. موارد دیگر
  4. هزینه و محدودیت‌ها
  5. جمع‌بندی

Anthropic در پستی از تیم Frontier Red Team می‌گوید مدل‌های زبانی بزرگ (LLM) راستی‌آزمایی صوری (formal verification) را در مقیاسی بسیار بزرگ‌تر از گذشته شدنی کرده‌اند. به ادعای این شرکت، این نخستین کاربرد بزرگ‌مقیاس هوش مصنوعی برای اثبات رسمی روی نرم‌افزار تولیدی در سطح اسمبلی است.

راستی‌آزمایی صوری چه چیزی را اثبات کرد؟

طبق گزارش، Claude برای ۱۲۳ کتابخانه متن‌باز و ۲۳۹ نقطه ورود (entry point) اثبات کرده است که برای ورودی‌های کوچک‌تر از ۶۴ مگابایت، کرش رخ نمی‌دهد؛ یعنی نه خطای ایمنی حافظه و نه شکست assertion. کل کار در چند هفته انجام شد و اثبات‌ها روی هم حدود ۱۸۰ میلیون خط Rocq هستند. هر اثبات معمولی حدود ۶۰۰ هزار خط است و باینری‌ها میانه‌ای برابر ۱۸ هزار دستور RISC-V دارند.

روش کار این است که تست‌های فاز موجود در OSS-Fuzz، پروژه فازینگ پیوسته گوگل، به مشخصه تبدیل می‌شوند و نقاط ورود با AddressSanitizer کامپایل می‌شوند. وقتی Claude باگی پیدا می‌کرد، آن را وصله می‌زد، مشخصه‌ها بازتولید می‌شدند و اثبات تازه نوشته می‌شد. Anthropic می‌گوید برای جلوگیری از «هک پاداش» (بازنویسی برنامه به شکلی که بی‌اهمیت هرگز کرش نکند) وصله‌ها را جریمه کرده و برای اثبات اینکه وصله چه ورودی‌هایی را تغییر می‌دهد و چقدر کم، امتیاز اضافه داده است.

باگ‌هایی که پیدا شدند

به گفته Anthropic صدها باگ حین کار پیدا شد، از جمله:

  • زیرریز شمارنده در نسخه‌ای از یک دیکمپرسور که به نوشتن خارج از محدوده می‌انجامد و فقط با ورودی حدود ۲۰ مگابایتی با ساختاری نادر رخ می‌دهد؛
  • خواندن خارج از محدوده در یک رمزگشای تصویر که ورودی ۶۴ مگابایتی و بیش از ۲ گیگابایت حافظه می‌خواهد؛
  • کشف دوباره CVE-2026-56132 در libexpat با ورودی عمیقاً تودرتو؛
  • یک باگ منطقی (بدون کرش) در یکی از کتابخانه‌ها: قابلیت محدودکردن فایل‌هایی که برنامه می‌تواند بارگذاری کند همیشه اعمال نمی‌شد.

موارد دیگر

برای zlib، Claude مشخصات RFC 1950 را به‌صورت صوری نوشت و ثابت کرد پیاده‌سازی zlib در هسته لینوکس در سطح باینری x86 با آن مطابقت دارد. در پروژه‌ای دیگر، یک مفسر زیرمجموعه بزرگی از پایتون در Rust نوشته و با Verus راستی‌آزمایی شد؛ بیش از ۱٫۷ میلیون برنامه تصادفی در ۹۹٫۹۵ درصد موارد با CPython یکسان بودند. درباره یک خواننده PDF هم گفته شده تلاش برای راستی‌آزمایی در یک هفته به اندازه یک سال گزارش امنیتی معمول باگ پیدا کرد.

هزینه و محدودیت‌ها

اثبات‌ها می‌توانند صدها میلیون توکن مصرف کنند. در ۳۶ وظیفه کوچک، Opus 5.5 نیمی را با حدود ۴۰ درصد توکن کمتر از Opus 5 اثبات کرد، و عامل‌هایی که فضای کاری مشترک داشتند ۱۷ درصد توکن کمتری مصرف کردند.

Anthropic تأکید می‌کند «رسمی‌اثبات‌شده» یعنی «بدون باگ» نیست. اثبات‌ها فقط برای RISC-V و musl libc‌اند، نه x86 یا ARM با glibc پویا. همه نقاط ورود پوشش داده نشده‌اند، ASan همه خطاهای حافظه را نمی‌گیرد و فراخواننده می‌تواند از کتابخانه سوءاستفاده کند. شرکت Theorem (همکار این پروژه) آماده است این خط لوله را روی پروژه‌های متن‌باز دیگر اجرا کند و طبق نقشه راهش هدف راستی‌آزمایی کل اکوسیستم Nix (شامل glibc، OpenSSL و cURL) را دنبال می‌کند.

جمع‌بندی

اگر ادعاها در بررسی مستقل پایدار بمانند، هزینه اثبات رسمی که روزگاری بسیار سنگین بود (طبق پست، تأیید seL4 حدود ۲۰ نفرسال طول کشید)، به‌شدت کاهش یافته است. با این حال هنوز باید مشخصه‌ها و فرض‌های مورد اعتماد را جدی گرفت. DevNA ادامه ماجرا را دنبال می‌کند.

$ devna rate --article

—
هنوز رأیی ثبت نشده
  1. ۵۰
  2. ۴۰
  3. ۳۰
  4. ۲۰
  5. ۱۰

این مطلب چقدر به کارتان آمد؟

روی ستاره‌ها بزنید

واکنش شما

اولین نفری باشید که واکنش نشان می‌دهد.

پرسش‌های پرتکرار

«رسمی‌اثبات‌شده» یعنی نرم‌افزار بدون باگ است؟

نه. طبق خود Anthropic، اثبات فقط درباره مشخصه‌ای صادق است که نوشته شده و آن مشخصه باید با ماشین واقعی بخواند. مثلاً این اثبات‌ها فقط عدم‌کرش را برای ورودی‌های زیر ۶۴ مگابایت نشان می‌دهند.

این اثبات‌ها روی کدام پلتفرم معتبرند؟

روی باینری تک‌نخی ایستا برای RISC-V با لینوکس و musl libc. بیشتر کاربران از x86 یا ARM و glibc پیوندخورده پویا استفاده می‌کنند و پوشش آن‌ها هنوز بخشی از کار آینده است.

اثبات‌ها در دسترس‌اند؟

طبق پست Anthropic، زیرمجموعه‌ای از اثبات‌ها و معناشناسی RISC-V و سیستم‌عامل در GitHub منتشر شده است.

منابع

  1. Anthropic: LLMs are making formal software verification feasible at a much larger scale

خطایی در این مطلب دیدید؟ به تحریریه گزارش دهید؛ اصلاحیه‌ها طبق اصول تحریریه ثبت می‌شوند.

دیدگاه‌ها

۰/۲٬۰۰۰

دیدگاه‌ها پس از بررسی تحریریه منتشر می‌شوند. توهین، تبلیغ و لینک‌های بی‌ربط حذف می‌شوند؛ نقد فنی و مستند همیشه خوش‌آمد است.

$ comments --count۰

هنوز کسی چیزی ننوشته. اولین دیدگاه را شما ثبت کنید.

مطالب مرتبط