مدل زبانی بزرگ چیست؟

LLMها بر معماری ترنسفورمر بنا شده‌اند و با پیش‌بینی توکن بعدی روی داده‌ی بسیار بزرگ آموزش می‌بینند. نتیجه مدلی است که می‌تواند پرسش پاسخ دهد، خلاصه کند، ترجمه کند، کد بنویسد و استدلال کند، بی‌آنکه برای هر کار جداگانه آموزش دیده باشد.

مدل‌ها در اندازه، سرعت، هزینه، پنجره‌ی زمینه و توانایی‌ها (استدلال، کد، تصویر) تفاوت دارند و هیچ مدلی برای همه‌ی کارها بهترین نیست. انتخاب خوب معمولاً ترکیب است: مدل سریع و ارزان برای کارهای ساده و مدل قوی برای کارهای دشوار.

محدودیت‌های مهم: توهم، دانش محدود به زمان آموزش، حساسیت به نحوه‌ی پرسش و ناتوانی در تضمین درستی. به همین دلیل بررسی و محافظت لازم است.

مثال کاربردی

برای یک اپ ترجمه، مدل سریع و ارزان برای متن‌های کوتاه و مدل قوی‌تر برای متن‌های حقوقی انتخاب می‌شود. با یک آزمون کوچک روی داده‌ی واقعی، تفاوت کیفیت و هزینه روشن می‌شود.

چطور در عمل بررسی کنیم؟

بهترین راه یادگرفتن این مفهوم، دیدن آن در یک درخواست واقعی است. یک کلید بسازید، فهرست مدل‌ها را با /v1/models بگیرید، یک درخواست کوچک بفرستید و فیلدهای پاسخ (از جمله usage و finish_reason) را بخوانید. سپس همان درخواست را با پارامتر یا مدل دیگر تکرار و در داشبورد مصرف و هزینه را مقایسه کنید. نمونه‌های آماده در راهنمای cURL و راهنمای پایتون هست.

اصطلاحات نزدیک

• توکن: توکن کوچک‌ترین واحد متنی است که مدل زبانی پردازش می‌کند؛ می‌تواند یک کلمه، بخشی از کلمه یا یک نویسه باشد و هزینه و محدودیت‌ها بر پایه‌ی آن سنجیده می‌شود.
• پنجره‌ی زمینه: پنجره‌ی زمینه حداکثر تعداد توکنی است که مدل در یک درخواست می‌تواند هم‌زمان ببیند؛ شامل پرامپت، تاریخچه و پاسخ.
• توهم مدل: توهم (Hallucination) وقتی است که مدل زبانی اطلاعات نادرست یا ساختگی را روان و مطمئن بیان می‌کند.
• چندوجهی: مدل چندوجهی می‌تواند بیش از یک نوع داده را بفهمد یا تولید کند؛ مثلاً متن و تصویر، یا متن و صدا.

در پیکو هوش

پیکو هوش مدل‌های چند سازنده را با یک API ارائه می‌کند. فهرست زنده و ویژگی‌ها در کاتالوگ آمده است و می‌توانید مدل‌ها را مقایسه کنید.

اشتباهات رایج

• فرض اینکه مدل «می‌فهمد» مثل انسان؛ پیش‌بینی آماری است.
• استفاده بدون ارزیابی روی داده‌ی خودتان.