توکن چیست و هزینهی API هوش مصنوعی چطور محاسبه میشود؟
توکن چیست؟ فرمول واقعی هزینهی API هوش مصنوعی، تخفیف کش ۲۵٪، رزرو و تسویه و اینکه چرا درخواست ناموفق هزینه ندارد، با مثال عددی.
پیکو هوش·انتشار: ·بهروزرسانی: ·۵ دقیقه مطالعه
خلاصه: توکن کوچکترین واحد متنی است که مدل پردازش میکند؛ تقریباً یک قطعهی کلمه. هزینهی هر درخواست در پیکو هوش از فرمول cost = (prompt × in + completion × out) / 1e6 تومان به دست میآید که in و out نرخ هر یک میلیون توکن ورودی و خروجی مدل هستند. توکنهای کششده ۲۵٪ نرخ ورودی حساب میشوند و درخواست ناموفق هزینه ندارد.
توکن چیست؟
مدل زبانی متن را به قطعههای کوچک به نام توکن میشکند. یک توکن میتواند یک کلمهی کوتاه، بخشی از یک کلمه یا یک علامت باشد. در انگلیسی معمولاً هر توکن حدود چهار نویسه است، ولی در فارسی بهخاطر ساختار واژگان و نحوهی توکنسازی هر مدل، تعداد توکنهای یک متن ممکن است نسبت به انگلیسی بیشتر باشد و بین مدلها فرق دارد. برای عدد دقیق، فیلد usage پاسخ API را نگاه کنید. تعریف کوتاه: توکن در واژهنامه.
توکن ورودی و خروجی
ورودی (prompt): هر چیزی که میفرستید: دستور سیستمی، تاریخچهی گفتگو و پیام جدید.
خروجی (completion): متنی که مدل تولید میکند.
خروجی معمولاً گرانتر از ورودی است. برای نمونه gpt-6-sol ورودی ۱۴۰٬۰۰۰ و خروجی ۴۲۰٬۰۰۰ تومان به ازای هر یک میلیون توکن دارد (طبق کاتالوگ).
وقتی بخش ابتدایی پرامپت تکراری است (مثلاً دستور سیستمی طولانی یا یک سند ثابت) و سرویسدهنده کش را پشتیبانی میکند، توکنهای ورودیِ کششده ارزانتر حساب میشوند. در پیکو هوش توکن ورودی کششده با ۲۵٪ نرخ ورودی محاسبه میشود:
cost = ((prompt − cached) × in + cached × in × 0.25 + completion × out) / 1e6
مثلاً اگر از ۱۰٬۰۰۰ توکن ورودی، ۸٬۰۰۰ تا کششده باشد و مدل gpt-6-sol باشد:
بخش عادی: 2000 × 140000 = 280,000,000
بخش کششده: 8000 × 140000 × 0.25 = 280,000,000
(بدون خروجی) جمع / 1e6 = 560 تومان — در مقابل 1,400 تومان بدون کش
اینکه کش در هر درخواست فعال شود یا نه، به ارائهدهنده و ساختار پرامپت بستگی دارد. جزئیات روشها: نصف کردن هزینه و کش پرامپت.
رزرو و تسویه چیست؟
برای اینکه حساب شما هنگام پاسخهای طولانی منفی نشود، سامانه پیش از اجرای درخواست یک سقف هزینه را بر اساس اندازهی ورودی و max_tokens رزرو میکند. پس از پایان درخواست، هزینهی واقعی بر اساس توکنهای مصرفی محاسبه (تسویه) میشود و مبلغ رزروی اضافه به موجودی برمیگردد. نتیجهی عملی برای شما:
حتماً موجودی کافی برای سقف احتمالی درخواست داشته باشید؛ اگر max_tokens را خیلی بزرگ بگذارید، رزرو بزرگتر میشود.
مبلغ نهایی همیشه بر اساس مصرف واقعی است، نه سقف رزرو.
درخواست ناموفق
اگر درخواست با خطا مواجه شود (مثلاً مشکل از سمت ارائهدهنده)، هزینهای کسر نمیشود و رزرو آزاد میشود. این برای شما به این معنی است که تلاش مجدد معقول ریسک مالی ندارد. توجه: درخواستی که موفق شود اما خروجی دلخواه شما نباشد، هزینه دارد.
نخست، فراموش کردن تاریخچه: در گفتگو، هر درخواست تمام پیامهای قبلی را دوباره بهعنوان ورودی میفرستد، پس هزینهی پیام دهم بسیار بیشتر از پیام اول است. دوم، تصور اینکه تعداد کلمات برابر تعداد توکن است؛ برای فارسی معمولاً توکن بیشتر از کلمه است. سوم، نادیده گرفتن بخشهایی مانند دستور سیستمی و تعریف ابزارها که آنها هم توکن ورودیاند. چهارم، مقایسهی مدلها فقط با نرخ ورودی. برای برآورد دقیق، چند درخواست نمونه بفرستید، usage را ثبت کنید و میانگین را در تعداد درخواست ماهانه ضرب کنید. سپس برای اطمینان ۲۰ تا ۳۰ درصد حاشیه بگذارید.
سوالات متداول
یک توکن چند کلمه است؟
تقریبی و وابسته به زبان و مدل است. برای عدد دقیق به فیلد usage نگاه کنید.
چرا خروجی گرانتر از ورودی است؟
تولید توکن خروجی از نظر پردازشی هزینهی بیشتری دارد؛ به همین دلیل نرخ آن بالاتر است.
آیا درخواست ناموفق هزینه دارد؟
خیر، بدون کسر هزینه است.
کش چقدر تخفیف میدهد؟
توکنهای ورودی کششده با ۲۵٪ نرخ ورودی محاسبه میشوند؛ اما فعال شدن کش به شرایط درخواست بستگی دارد.