چطور هزینه‌ی API هوش مصنوعی را نصف کنیم؟ ۸ روش عملی
هزینه‌ی API هوش مصنوعی را با prompt caching، انتخاب مدل مناسب، max_tokens، خلاصه‌سازی تاریخچه و الگوی آبشاری کاهش دهید؛ با مثال محاسبه.
پیکو هوش·انتشار: ·به‌روزرسانی: ·۵ دقیقه مطالعه
خلاصه: هزینه‌ی API از سه عامل می‌آید: قیمت مدل، تعداد توکن ورودی و تعداد توکن خروجی. با انتخاب مدل مناسب، کش پرامپت، کوتاه‌کردن ورودی، محدودکردن max_tokens و حذف درخواست‌های اضافه، بسیاری از برنامه‌ها می‌توانند هزینه را به‌طور محسوس کم کنند. «نصف» رقمی تضمینی نیست و به الگوی مصرف شما بستگی دارد؛ ولی در برنامه‌هایی با پیشوند طولانی و مدل گران، کاهش بیشتر از نصف هم دیده میشود.
قبل از هر چیز: اندازه بگیرید
فرمول هزینه: cost = (prompt × in + completion × out) / 1e6 تومان (توضیح کامل). فیلد usage را در هر پاسخ ثبت کنید و ببینید هزینه از کجا می‌آید: ورودی بلند؟ خروجی بلند؟ مدل گران؟ بدون این داده، بهینه‌سازی کور است.
۱. مدل مناسب انتخاب کنید
بزرگ‌ترین اهرم، انتخاب مدل است. از کاتالوگ: خروجی gemini-3.8-flash ۸۵٬۰۰۰ تومان به ازای هر میلیون توکن است، در حالی که claude-opus-5-5 ۱٬۲۸۰٬۰۰۰. اگر کار شما با مدل سبک انجام میشود، هزینه چندین برابر کم میشود. روش آزمون: مدل ارزان یا قوی؟.
۲. از کش پرامپت استفاده کنید
اگر بخش ثابتی از پرامپت (دستور سیستمی، سند مرجع) در هر درخواست تکرار میشود، آن را در ابتدای پرامپت و بدون تغییر نگه دارید. در پیکو هوش، توکن ورودی کش‌شده ۲۵٪ نرخ ورودی محاسبه میشود (به شرط فعال شدن کش در مسیر ارائهدهنده).
مثال با gpt-6-sol: ۹٬۰۰۰ توکن پیشوند ثابت + ۱٬۰۰۰ توکن متغیر، بدون خروجی:
«در حداکثر ۵ جمله»، «فقط JSON» یا «بدون مقدمه» مستقیماً از توکن خروجی (که گران‌تر است) می‌کاهد.
۵. تاریخچه را کوتاه کنید
در گفتگوهای چندپیامی، هر درخواست تمام تاریخچه را دوباره می‌فرستد. راه‌ها: فقط N پیام آخر را نگه دارید، پیام‌های قدیمی را با یک مدل ارزان خلاصه کنید یا برای موضوع جدید گفتگوی تازه بسازید.
۶. الگوی آبشاری
ابتدا مدل ارزان؛ فقط در صورت شکست قاعده‌ی کیفیت، مدل قوی‌تر. نمونه‌کد در مقاله‌ی مدل ارزان یا قوی.
۷. کش نتیجه در برنامهی خودتان
اگر یک پرسش یکسان بارها تکرار میشود (مثلاً سؤال‌های متداول)، پاسخ را در دیتابیس یا Redis ذخیره کنید و دوباره به مدل نفرستید. ساده‌ترین و مؤثرترین راه است.
۸. پایش و هشدار
برای هر کلید API سقف ماهانه و محدودیت نرخ تعیین کنید و مصرف را به‌صورت روزانه ببینید. یک حلقهی بیپایان در کد می‌تواند در چند دقیقه موجودی را تمام کند. جزئیات کلیدها در docs.
مثال ترکیبی
فرض کنید ۱۰٬۰۰۰ درخواست ماهانه با ۲٬۰۰۰ توکن ورودی (۱٬۶۰۰ ثابت) و ۴۰۰ توکن خروجی دارید.
وضعیت اولیه با claude-sonnet-5-5:
ورودی = ۲۰ میلیون توکن × ۱۶۰٬۰۰۰ / ۱ میلیون = ۳٬۲۰۰٬۰۰۰ تومان؛ خروجی = ۴ میلیون × ۴۹۰٬۰۰۰ / ۱ میلیون = ۱٬۹۶۰٬۰۰۰ تومان؛ جمع ۵٬۱۶۰٬۰۰۰ تومان.
با مدل سبک‌تر برای ۷۰٪ درخواست‌های ساده: کاهش بیشتر.
اعداد تقریبی و فرضی‌اند. هدف نشان‌دادن روش محاسبه است، نه وعده‌ی درصد صرفه‌جویی.
چیزی که کیفیت را خراب میکند
کاهش افراطی هزینه (کوتاه کردن بیش از حد زمینه، مدل خیلی ضعیف) به کیفیت آسیب می‌زند. همیشه با نمونه‌های واقعی بسنجید. برای ایده‌ی پرامپت بهتر: پرامپت‌نویسی حرفه‌ای. قیمت‌های مدل‌ها: قیمت‌گذاری.
یک برنامهی هفتگی برای بهینه‌سازی
هفته‌ی اول فقط اندازهگیری کنید: usage هر درخواست، مدل، و نوع کار را ثبت کنید. هفته‌ی دوم پرهزینه‌ترین دسته را پیدا کنید (اغلب ۲۰٪ درخواست‌ها ۸۰٪ هزینه را می‌سازند) و برای آن مدل سبک‌تر، پرامپت کوتاه‌تر یا کش را آزمایش کنید. هفته‌ی سوم max_tokens و قالب خروجی را تنظیم کنید. هفته‌ی چهارم نتیجه را با هفته‌ی اول مقایسه کنید و آنچه کیفیت را کم کرد برگردانید. این چرخه‌ی کوچک از تغییر یک‌باره و کورکورانه مطمئن‌تر است و کمک میکند ادعای «نصف شدن» را با عدد خودتان بسنجید، نه با وعده.
سوالات متداول
کش پرامپت همیشه فعال است؟
به ارائهدهنده و ساختار درخواست بستگی دارد؛ پیشوند ثابت و ترتیب پایدار شانس بیشتری میدهد.
آیا max_tokens کیفیت را کم میکند؟
اگر خیلی کوچک باشد پاسخ بریده میشود؛ مقدار را کمی بالاتر از پاسخ مورد انتظار بگذارید.
آیا درخواست ناموفق هزینه دارد؟
خیر؛ بدون کسر هزینه است، ولی برنامهی شما نباید در حلقهی تلاش بیپایان بیفتد.
آسانترین روش شروع کدام است؟
اندازهگیری usage، سپس انتخاب مدل مناسبتر و max_tokens.