پرش به مطلب اصلی

قوانین محدودیت بودجه در گدارAI

قوانین محدودیت بودجه به شما کمک می‌کنند برای مصرف مدل‌ها سقف مشخص داشته باشید. سقف بر حسب کردیت تعریف می‌شود، می‌تواند روزانه، هفتگی یا ماهانه باشد و روی کل فضای کاری، کاربر، تیم، اکانت مجازی، مدل یا فراداده اعمال شود.

این صفحه توضیح می‌دهد محدودیت بودجه چه تفاوتی با موجودی کردیت و محدودسازی نرخ دارد، چه فیلدهایی در UI می‌بینید و هنگام عبور از سقف چه اتفاقی برای درخواست می‌افتد.

اطلاع

موجودی کردیت نشان می‌دهد فضای کاری شما چقدر می‌تواند مصرف کند. قانون بودجه یک سیاست عملیاتی است که برای بخش‌های مختلف محصول، سقف دقیق‌تری کنار همان موجودی تعریف می‌کند.

چه زمانی قانون بودجه بسازیم؟​

قانون بودجه برای این سناریوها مفید است:

  • هر تیم باید سهم مشخصی از مصرف داشته باشد.
  • یک مدل گران‌تر باید سقف جداگانه داشته باشد.
  • هر پروژه یا مشتری باید بودجه مستقل داشته باشد.
  • محیط‌های آزمایشی نباید مصرف محیط عملیاتی را تحت تأثیر قرار دهند.
  • می‌خواهید عبور مصرف از آستانه‌های مهم در لاگ و سنجه‌ها ثبت شود.

تفاوت با محدودسازی نرخ​

محدودسازی نرخ و محدودیت بودجه مکمل هم هستند:

قابلیتچه چیزی را کنترل می‌کند؟مثال
قوانین محدودسازی نرخسرعت مصرف در بازه کوتاهحداکثر ۶۰۰ درخواست در دقیقه برای پشتیبانی
قوانین محدودیت بودجهسقف کردیت در بازه بلندترحداکثر ۵۰۰۰ کردیت در ماه برای یک تیم

در عمل، محدودسازی نرخ جلوی جهش ناگهانی را می‌گیرد و محدودیت بودجه جلوی رشد تدریجی مصرف را.

اجزای اصلی قانون بودجه​

در UI گدارAI، قانون بودجه در بخش «قوانین درگاه» تعریف می‌شود. فیلدهای مهم آن این‌ها هستند:

فیلدتوضیح
شناسه فنیشناسه پایدار قانون برای گزارش‌ها و عیب‌یابی.
سقف بودجه (کردیت)بیشترین کردیت مجاز در دوره انتخاب‌شده، تا دو رقم اعشار.
واحد بودجهروزانه، هفتگی یا ماهانه.
اعمال بودجه به‌ازایمشخص می‌کند بودجه مشترک است یا برای هر کاربر، تیم، مدل یا مقدار فراداده جدا حساب می‌شود.
رفتار پس از عبور از سقف«رد درخواست» (block) یا «فقط ثبت هشدار» (alert).
آستانه‌های هشدار (٪ از سقف)درصدهایی از سقف که عبور مصرف از آن‌ها در لاگ و سنجه‌های درگاه ثبت می‌شود. پیش‌فرض ۸۰ و ۱۰۰ است.
یادداشت

گدارAI برای عبور از آستانه‌ها ایمیل یا اعلان درون‌پنلی نمی‌فرستد. عبور از هر آستانه فقط در لاگ و سنجه‌های درگاه ثبت می‌شود و می‌توانید از سامانه پایش خودتان روی آن هشدار بسازید.

اعمال بودجه به‌ازای چه چیزی؟​

فیلد «اعمال بودجه به‌ازای» تعیین می‌کند یک سقف بودجه چطور بین مصرف‌کننده‌ها تقسیم شود.

گزینهنتیجه
اشتراکی برای همه ترافیکهمه درخواست‌های منطبق از یک بودجه مشترک مصرف می‌کنند.
به‌ازای کل فضای کاریبودجه در سطح کل فضای کاری اعمال می‌شود.
به‌ازای هر کاربرهر کاربر سقف مستقل خودش را دارد.
به‌ازای هر تیمهر تیم جداگانه محاسبه می‌شود.
به‌ازای هر مدلمصرف هر مدل جدا حساب می‌شود.
به‌ازای هر اکانت مجازیهر اکانت مجازی بودجه مستقل دارد.
به‌ازای metadata.project_idهر پروژه بر اساس فراداده بودجه جدا دارد.

نمونه قانون​

نمونه زیر یک قانون روزانه برای مرکز پشتیبانی را نشان می‌دهد که بعد از پر شدن سقف، درخواست‌ها را رد می‌کند:

{
"rule_id": "support-daily-budget",
"name": "بودجه روزانه پشتیبانی",
"enabled": true,
"limit": "250.00",
"unit": "cost_per_day",
"budget_applies_per": "metadata.project_id",
"on_exceed": "block",
"alert_thresholds": [75, 90, 100]
}

نمونه بعدی برای یک مدل گران‌تر است و فقط عبور از سقف را ثبت می‌کند:

{
"rule_id": "premium-model-monthly-budget",
"name": "بودجه ماهانه مدل‌های پریمیوم",
"enabled": true,
"limit": "1500.00",
"unit": "cost_per_month",
"budget_applies_per": "model",
"on_exceed": "alert",
"alert_thresholds": [80, 95]
}

وقتی بودجه رد می‌شود چه اتفاقی می‌افتد؟​

اگر قانونی با رفتار block پر شده باشد، گدارAI درخواست را پیش از ارسال به ارائه‌دهنده مدل متوقف می‌کند و پاسخ 402 Payment Required با کد خطای budget_exceeded برمی‌گرداند. فیلد scope در بدنه خطا می‌گوید کدام سقف پر شده است؛ برای موجودی کل فضای کاری مقدار آن tenant_balance است.

  • کردیتی برای درخواست ردشده مصرف نمی‌شود.
  • دلیل رد شدن در گزارش رخدادها قابل بررسی است.
  • کلاینت می‌تواند با GET /v1/budget/me وضعیت سقف‌ها و موجودی را بخواند و رفتار مناسب، مثل نمایش پیام یا تلاش در دوره بعد، را اجرا کند.

قانون با رفتار alert هیچ درخواستی را رد نمی‌کند. مصرف شمارش می‌شود و عبور از آستانه‌ها ثبت می‌شود.

رابطه بودجه با موجودی کردیت​

موجودی کردیت و قانون بودجه دو لایه متفاوت‌اند:

لایهنقش
موجودی کردیتکردیت پلن، پک‌های خریداری‌شده و اضافه‌مصرف مجاز. اگر تمام شود، درخواست با scope: tenant_balance رد می‌شود.
قانون بودجهسیاست مصرف برای کاربر، تیم، مدل، پروژه یا بخش‌های دیگر.

ممکن است یک تیم هنوز از بودجه خودش عبور نکرده باشد، اما موجودی کردیت فضای کاری تمام شده باشد. همچنین ممکن است موجودی کافی باشد، اما قانون بودجه همان تیم اجازه ادامه ندهد.

در درخواست‌های BYOK، موجودی فقط کارمزد BYOK را رزرو می‌کند، اما قوانین بودجه معادل کامل کردیتی همان درخواست را می‌شمارند.

الگوهای پیشنهادی​

بودجه روزانه برای هر تیم​

برای تیم‌هایی که مصرف روزانه قابل توجه دارند، بودجه روزانه تعریف کنید تا افزایش ناگهانی مصرف همان روز دیده و کنترل شود.

بودجه ماهانه برای مدل‌های گران‌تر​

مدل‌هایی که کردیت بیشتری مصرف می‌کنند بهتر است سقف جدا داشته باشند تا بودجه عمومی را سریع مصرف نکنند.

شروع با حالت هشدار​

اگر هنوز درباره عدد سقف مطمئن نیستید، قانون را با رفتار alert بسازید و بعد از چند روز مشاهده، آن را به block تغییر دهید.

عیب‌یابی سریع​

وضعیتعلت‌های رایجچه کار کنید؟
بودجه زودتر از انتظار تمام می‌شودقانون روی محدوده خیلی عمومی اعمال شده یا مدل گران‌تری استفاده می‌شود.مصرف کردیت را در صفحه صورت‌حساب به تفکیک مدل، تیم و کاربر بررسی کنید.
قانون اثر نمی‌گذاردقانون غیرفعال است، رفتار آن alert است یا شرط‌ها با درخواست منطبق نیستند.شبیه‌ساز درخواست در صفحه قوانین را با همان مشخصات درخواست اجرا کنید.
درخواست با وجود بودجه کافی رد می‌شودموجودی کردیت تمام شده یا قانون دیگری محدودکننده‌تر است.scope خطا و پاسخ GET /v1/budget/me را بررسی کنید.

جمع‌بندی​

قوانین محدودیت بودجه در گدارAI لایه‌ای برای کنترل عملیاتی مصرف هستند. با سقف کردیتی روشن، دوره زمانی مناسب، تفکیک درست بین کاربرها یا پروژه‌ها و رفتار مناسب پس از عبور از سقف، می‌توانید مصرف را پیش از تبدیل شدن به مشکل مدیریت کنید.