راستیآزمایی صوری با Claude: اثبات ایمنی ۱۲۳ کتابخانه متنباز
Anthropic میگوید Claude برای ۱۲۳ کتابخانه متنباز اثبات رسمی عدمکرش نوشته؛ گزارشی از نتایج، هزینه و محدودیتهای راستیآزمایی صوری.

فهرست مطالب
Anthropic در پستی از تیم Frontier Red Team میگوید مدلهای زبانی بزرگ (LLM) راستیآزمایی صوری (formal verification) را در مقیاسی بسیار بزرگتر از گذشته شدنی کردهاند. به ادعای این شرکت، این نخستین کاربرد بزرگمقیاس هوش مصنوعی برای اثبات رسمی روی نرمافزار تولیدی در سطح اسمبلی است.
راستیآزمایی صوری چه چیزی را اثبات کرد؟
طبق گزارش، Claude برای ۱۲۳ کتابخانه متنباز و ۲۳۹ نقطه ورود (entry point) اثبات کرده است که برای ورودیهای کوچکتر از ۶۴ مگابایت، کرش رخ نمیدهد؛ یعنی نه خطای ایمنی حافظه و نه شکست assertion. کل کار در چند هفته انجام شد و اثباتها روی هم حدود ۱۸۰ میلیون خط Rocq هستند. هر اثبات معمولی حدود ۶۰۰ هزار خط است و باینریها میانهای برابر ۱۸ هزار دستور RISC-V دارند.
روش کار این است که تستهای فاز موجود در OSS-Fuzz، پروژه فازینگ پیوسته گوگل، به مشخصه تبدیل میشوند و نقاط ورود با AddressSanitizer کامپایل میشوند. وقتی Claude باگی پیدا میکرد، آن را وصله میزد، مشخصهها بازتولید میشدند و اثبات تازه نوشته میشد. Anthropic میگوید برای جلوگیری از «هک پاداش» (بازنویسی برنامه به شکلی که بیاهمیت هرگز کرش نکند) وصلهها را جریمه کرده و برای اثبات اینکه وصله چه ورودیهایی را تغییر میدهد و چقدر کم، امتیاز اضافه داده است.
باگهایی که پیدا شدند
به گفته Anthropic صدها باگ حین کار پیدا شد، از جمله:
- زیرریز شمارنده در نسخهای از یک دیکمپرسور که به نوشتن خارج از محدوده میانجامد و فقط با ورودی حدود ۲۰ مگابایتی با ساختاری نادر رخ میدهد؛
- خواندن خارج از محدوده در یک رمزگشای تصویر که ورودی ۶۴ مگابایتی و بیش از ۲ گیگابایت حافظه میخواهد؛
- کشف دوباره CVE-2026-56132 در libexpat با ورودی عمیقاً تودرتو؛
- یک باگ منطقی (بدون کرش) در یکی از کتابخانهها: قابلیت محدودکردن فایلهایی که برنامه میتواند بارگذاری کند همیشه اعمال نمیشد.
موارد دیگر
برای zlib، Claude مشخصات RFC 1950 را بهصورت صوری نوشت و ثابت کرد پیادهسازی zlib در هسته لینوکس در سطح باینری x86 با آن مطابقت دارد. در پروژهای دیگر، یک مفسر زیرمجموعه بزرگی از پایتون در Rust نوشته و با Verus راستیآزمایی شد؛ بیش از ۱٫۷ میلیون برنامه تصادفی در ۹۹٫۹۵ درصد موارد با CPython یکسان بودند. درباره یک خواننده PDF هم گفته شده تلاش برای راستیآزمایی در یک هفته به اندازه یک سال گزارش امنیتی معمول باگ پیدا کرد.
هزینه و محدودیتها
اثباتها میتوانند صدها میلیون توکن مصرف کنند. در ۳۶ وظیفه کوچک، Opus 5.5 نیمی را با حدود ۴۰ درصد توکن کمتر از Opus 5 اثبات کرد، و عاملهایی که فضای کاری مشترک داشتند ۱۷ درصد توکن کمتری مصرف کردند.
Anthropic تأکید میکند «رسمیاثباتشده» یعنی «بدون باگ» نیست. اثباتها فقط برای RISC-V و musl libcاند، نه x86 یا ARM با glibc پویا. همه نقاط ورود پوشش داده نشدهاند، ASan همه خطاهای حافظه را نمیگیرد و فراخواننده میتواند از کتابخانه سوءاستفاده کند. شرکت Theorem (همکار این پروژه) آماده است این خط لوله را روی پروژههای متنباز دیگر اجرا کند و طبق نقشه راهش هدف راستیآزمایی کل اکوسیستم Nix (شامل glibc، OpenSSL و cURL) را دنبال میکند.
جمعبندی
اگر ادعاها در بررسی مستقل پایدار بمانند، هزینه اثبات رسمی که روزگاری بسیار سنگین بود (طبق پست، تأیید seL4 حدود ۲۰ نفرسال طول کشید)، بهشدت کاهش یافته است. با این حال هنوز باید مشخصهها و فرضهای مورد اعتماد را جدی گرفت. DevNA ادامه ماجرا را دنبال میکند.




دیدگاهها
دیدگاهها پس از بررسی تحریریه منتشر میشوند. توهین، تبلیغ و لینکهای بیربط حذف میشوند؛ نقد فنی و مستند همیشه خوشآمد است.
هنوز کسی چیزی ننوشته. اولین دیدگاه را شما ثبت کنید.