API مدل‌های DeepSeek

دلیل اینکه اسم این خانواده را زیاد می‌شنوی ساده است: نسبت کیفیت به قیمت. برای بخش بزرگی از کارهای روزمره، خروجی‌اش به‌اندازهٔ کافی خوب است و تعرفه‌اش کسری از مدل‌های پرچم‌دار.

این یعنی کارهایی که با مدل گران اصلاً به‌صرفه نبودند ممکن می‌شوند: خلاصه‌کردن هر تیکت پشتیبانی، برچسب‌زدن هر محصول، نوشتن پیش‌نویس برای هر ایمیل. وقتی هزینهٔ هر فراخوان پایین می‌آید، تصمیمِ «ارزشش را دارد یا نه» عوض می‌شود.

مدل معمولی یا مدل استدلالی

مدل‌های معمولی این خانواده برای نوشتن، خلاصه‌سازی، پرسش و پاسخ روی متنِ داده‌شده، و کدنویسی روزمره‌اند.

مدل استدلالی پیش از پاسخ یک مرحلهٔ فکرکردن دارد که در آن مسئله را برای خودش می‌شکند. برای مسئله‌ای که جوابش از چند گام پشت سر هم درمی‌آید همین مرحله تفاوت بین جواب درست و جوابِ به‌ظاهر درست است.

🔴 توکن استدلال هم پول دارد

توکن‌هایی که مدل استدلالی برای فکرکردن مصرف می‌کند، در صورتحساب به‌عنوان توکن خروجی حساب می‌شوند، حتی آن بخشی که در پاسخ نهایی به تو نمی‌رسد. یعنی پاسخی که روی صفحه صد کلمه است، ممکن است چند برابر آن توکن خرج کرده باشد.

این بزرگ‌ترین تعجب کسانی است که اولین بار مدل استدلالی را در محیط عملیاتی می‌گذارند. باگ نیست و از دید ما هم قابل کم‌کردن نیست؛ همان چیزی است که ارائه‌دهنده گزارش می‌کند و ما از روی همان حساب می‌کنیم. نتیجهٔ عملی: برای مدل استدلالی max_tokens را سخاوتمندانه‌تر بگذار، وگرنه پاسخ وسط استدلال قطع می‌شود و پولی داده‌ای بدون اینکه جواب بگیری.

داده‌ات از کجا رد می‌شود

فراخوان از سرور ما به ارائه‌دهنده می‌رود و نه از مرورگر کاربر. ولی این را جدی بگیر: هر چیزی که در پیام بفرستی به ارائه‌دهنده می‌رسد. کد ملی، شمارهٔ کارت، شماره حساب و هر دادهٔ شخصیِ غیرلازم را پیش از فرستادن حذف یا جایگزین کن. این قاعده به این خانواده اختصاص ندارد.