مدل زبانی بزرگ شبکه عصبی عظیمی است که یاد گرفته در هر لحظه محتملترین تکه بعدی متن را حدس بزند.
مدل متن را به توکنها میشکند، هر توکن را به بردار عددی تبدیل میکند و با همین اعداد فکر میکند.
معماری ترنسفورمر با سازوکار توجه (Attention) به مدل اجازه میدهد رابطه هر کلمه با کل متن را بسنجد.
پیشآموزش روی متن عظیم، تنظیم دقیق با نمونههای دستورمحور و در آخر همراستاسازی با بازخورد انسانی.
مدل برای تولید متن محتمل آموزش دیده، نه گفتن حقیقت. برای کارهای حساس، پاسخ را با منبع بسنجید.
با RAG مدل را به اسناد خودتان وصل کنید و با MCP به آن ابزار بدهید تا از یک چتبات به ایجنت تبدیل شود.
مدل زبانی بزرگ (LLM) چیست؟ از توکن و ترنسفورمر تا آموزش، پنجره زمینه، دما و توهم؛ هر آنچه برای فهم دقیق ChatGPT و Claude و Gemini لازم دارید.