Naive-N0.5-Flash؛ مدل باز ۳۰۹ میلیاردی با کانتکست یک میلیونی

هوش مصنوعی DevNA | devna.ir

یک مدل باز تازه برای کدنویسی

۱ از ۶ استارتاپ NaiveAI روز ۲۷ سپتامبر مدل Naive-N0.5-Flash را با وزن‌های باز و مجوز MIT روی Hugging Face منتشر کرد.

۳۰۹ میلیارد پارامتر، ۱۵٫۵ میلیارد فعال

۲ از ۶ این مدل ترکیب خبرگان (MoE) است و در هر توکن فقط بخش کوچکی از پارامترهایش را فعال می‌کند.

یک میلیون توکن بدون توجه کامل

۳ از ۶ به‌جای توجه کامل، ترکیبی از توجه پنجره‌ای ۱۲۸ توکنی و توجه تُنُک DeepSeek به کار رفته است؛ ۳۹ لایه در برابر ۹ لایه.

ساخته‌شده با کمک هوش مصنوعی

۴ از ۶ به گفته NaiveAI، مدل‌های هوش مصنوعی در طراحی معماری و بهینه‌سازی آموزش و استنتاج نقش داشته‌اند؛ ادعایی که هنوز مستقل سنجیده نشده است.

سخت‌افزار سنگین لازم است

۵ از ۶ وزن‌ها حدود ۳۱۵ گیگابایت‌اند و اجرای مدل به GPUهای NVIDIA با پشتیبانی FP8 نیاز دارد؛ API رسمی هم با قیمت ۰٫۱۰ دلار برای هر میلیون توکن ورودی عرضه شده است.

جزئیات فنی و بنچمارک‌ها

۶ از ۶ مشخصات کامل، ادعاهای بنچمارکی و نمونه کد بارگذاری مدل را در گزارش DevNA بخوانید.

ماجرای کامل را در DevNA بخوانید

NaiveAI مدل Naive-N0.5-Flash را با مجوز MIT منتشر کرد: ترکیب خبرگان ۳۰۹ میلیاردی برای کدنویسی، با کانتکست یک میلیون توکنی و بدون لایه توجه کامل. خواندن مطلب کامل