قوانین محدودیت بودجه در گدارAI
قوانین محدودیت بودجه به شما کمک میکنند برای مصرف مدلها سقف مشخص داشته باشید. سقف بر حسب کردیت تعریف میشود، میتواند روزانه، هفتگی یا ماهانه باشد و روی کل فضای کاری، کاربر، تیم، اکانت مجازی، مدل یا فراداده اعمال شود.
این صفحه توضیح میدهد محدودیت بودجه چه تفاوتی با موجودی کردیت و محدودسازی نرخ دارد، چه فیلدهایی در UI میبینید و هنگام عبور از سقف چه اتفاقی برای درخواست میافتد.
موجودی کردیت نشان میدهد فضای کاری شما چقدر میتواند مصرف کند. قانون بودجه یک سیاست عملیاتی است که برای بخشهای مختلف محصول، سقف دقیقتری کنار همان موجودی تعریف میکند.
چه زمانی قانون بودجه بسازیم؟
قانون بودجه برای این سناریوها مفید است:
- هر تیم باید سهم مشخصی از مصرف داشته باشد.
- یک مدل گرانتر باید سقف جداگانه داشته باشد.
- هر پروژه یا مشتری باید بودجه مستقل داشته باشد.
- محیطهای آزمایشی نباید مصرف محیط عملیاتی را تحت تأثیر قرار دهند.
- میخواهید عبور مصرف از آستانههای مهم در لاگ و سنجهها ثبت شود.
تفاوت با محدودسازی نرخ
محدودسازی نرخ و محدودیت بودجه مکمل هم هستند:
| قابلیت | چه چیزی را کنترل میکند؟ | مثال |
|---|---|---|
| قوانین محدودسازی نرخ | سرعت مصرف در بازه کوتاه | حداکثر ۶۰۰ درخواست در دقیقه برای پشتیبانی |
| قوانین محدودیت بودجه | سقف کردیت در بازه بلندتر | حداکثر ۵۰۰۰ کردیت در ماه برای یک تیم |
در عمل، محدودسازی نرخ جلوی جهش ناگهانی را میگیرد و محدودیت بودجه جلوی رشد تدریجی مصرف را.
اجزای اصلی قانون بودجه
در UI گدارAI، قانون بودجه در بخش «قوانین درگاه» تعریف میشود. فیلدهای مهم آن اینها هستند:
| فیلد | توضیح |
|---|---|
شناسه فنی | شناسه پایدار قانون برای گزارشها و عیبیابی. |
سقف بودجه (کردیت) | بیشترین کردیت مجاز در دوره انتخابشده، تا دو رقم اعشار. |
واحد بودجه | روزانه، هفتگی یا ماهانه. |
اعمال بودجه بهازای | مشخص میکند بودجه مشترک است یا برای هر کاربر، تیم، مدل یا مقدار فراداده جدا حساب میشود. |
رفتار پس از عبور از سقف | «رد درخواست» (block) یا «فقط ثبت هشدار» (alert). |
آستانههای هشدار (٪ از سقف) | درصدهایی از سقف که عبور مصرف از آنها در لاگ و سنجههای درگاه ثبت میشود. پیشفرض ۸۰ و ۱۰۰ است. |
گدارAI برای عبور از آستانهها ایمیل یا اعلان درونپنلی نمیفرستد. عبور از هر آستانه فقط در لاگ و سنجههای درگاه ثبت میشود و میتوانید از سامانه پایش خودتان روی آن هشدار بسازید.
اعمال بودجه بهازای چه چیزی؟
فیلد «اعمال بودجه بهازای» تعیین میکند یک سقف بودجه چطور بین مصرفکنندهها تقسیم شود.
| گزینه | نتیجه |
|---|---|
| اشتراکی برای همه ترافیک | همه درخواستهای منطبق از یک بودجه مشترک مصرف میکنند. |
| بهازای کل فضای کاری | بودجه در سطح کل فضای کاری اعمال میشود. |
| بهازای هر کاربر | هر کاربر سقف مستقل خودش را دارد. |
| بهازای هر تیم | هر تیم جداگانه محاسبه میشود. |
| بهازای هر مدل | مصرف هر مدل جدا حساب میشود. |
| بهازای هر اکانت مجازی | هر اکانت مجازی بودجه مستقل دارد. |
بهازای metadata.project_id | هر پروژه بر اساس فراداده بودجه جدا دارد. |
نمونه قانون
نمونه زیر یک قانون روزانه برای مرکز پشتیبانی را نشان میدهد که بعد از پر شدن سقف، درخواستها را رد میکند:
{
"rule_id": "support-daily-budget",
"name": "بودجه روزانه پشتیبانی",
"enabled": true,
"limit": "250.00",
"unit": "cost_per_day",
"budget_applies_per": "metadata.project_id",
"on_exceed": "block",
"alert_thresholds": [75, 90, 100]
}
نمونه بعدی برای یک مدل گرانتر است و فقط عبور از سقف را ثبت میکند:
{
"rule_id": "premium-model-monthly-budget",
"name": "بودجه ماهانه مدلهای پریمیوم",
"enabled": true,
"limit": "1500.00",
"unit": "cost_per_month",
"budget_applies_per": "model",
"on_exceed": "alert",
"alert_thresholds": [80, 95]
}
وقتی بودجه رد میشود چه اتفاقی میافتد؟
اگر قانونی با رفتار block پر شده باشد، گدارAI درخواست را پیش از ارسال به ارائهدهنده مدل متوقف میکند و پاسخ 402 Payment Required با کد خطای budget_exceeded برمیگرداند. فیلد scope در بدنه خطا میگوید کدام سقف پر شده است؛ برای موجودی کل فضای کاری مقدار آن tenant_balance است.
- کردیتی برای درخواست ردشده مصرف نمیشود.
- دلیل رد شدن در گزارش رخدادها قابل بررسی است.
- کلاینت میتواند با
GET /v1/budget/meوضعیت سقفها و موجودی را بخواند و رفتار مناسب، مثل نمایش پیام یا تلاش در دوره بعد، را اجرا کند.
قانون با رفتار alert هیچ درخواستی را رد نمیکند. مصرف شمارش میشود و عبور از آستانهها ثبت میشود.
رابطه بودجه با موجودی کردیت
موجودی کردیت و قانون بودجه دو لایه متفاوتاند:
| لایه | نقش |
|---|---|
| موجودی کردیت | کردیت پلن، پکهای خریداریشده و اضافهمصرف مجاز. اگر تمام شود، درخواست با scope: tenant_balance رد میشود. |
| قانون بودجه | سیاست مصرف برای کاربر، تیم، مدل، پروژه یا بخشهای دیگر. |
ممکن است یک تیم هنوز از بودجه خودش عبور نکرده باشد، اما موجودی کردیت فضای کاری تمام شده باشد. همچنین ممکن است موجودی کافی باشد، اما قانون بودجه همان تیم اجازه ادامه ندهد.
در درخواستهای BYOK، موجودی فقط کارمزد BYOK را رزرو میکند، اما قوانین بودجه معادل کامل کردیتی همان درخواست را میشمارند.
الگوهای پیشنهادی
بودجه روزانه برای هر تیم
برای تیمهایی که مصرف روزانه قابل توجه دارند، بودجه روزانه تعریف کنید تا افزایش ناگهانی مصرف همان روز دیده و کنترل شود.
بودجه ماهانه برای مدلهای گرانتر
مدلهایی که کردیت بیشتری مصرف میکنند بهتر است سقف جدا داشته باشند تا بودجه عمومی را سریع مصرف نکنند.
شروع با حالت هشدار
اگر هنوز درباره عدد سقف مطمئن نیستید، قانون را با رفتار alert بسازید و بعد از چند روز مشاهده، آن را به block تغییر دهید.
عیبیابی سریع
| وضعیت | علتهای رایج | چه کار کنید؟ |
|---|---|---|
| بودجه زودتر از انتظار تمام میشود | قانون روی محدوده خیلی عمومی اعمال شده یا مدل گرانتری استفاده میشود. | مصرف کردیت را در صفحه صورتحساب به تفکیک مدل، تیم و کاربر بررسی کنید. |
| قانون اثر نمیگذارد | قانون غیرفعال است، رفتار آن alert است یا شرطها با درخواست منطبق نیستند. | شبیهساز درخواست در صفحه قوانین را با همان مشخصات درخواست اجرا کنید. |
| درخواست با وجود بودجه کافی رد میشود | موجودی کردیت تمام شده یا قانون دیگری محدودکنندهتر است. | scope خطا و پاسخ GET /v1/budget/me را بررسی کنید. |
جمعبندی
قوانین محدودیت بودجه در گدارAI لایهای برای کنترل عملیاتی مصرف هستند. با سقف کردیتی روشن، دوره زمانی مناسب، تفکیک درست بین کاربرها یا پروژهها و رفتار مناسب پس از عبور از سقف، میتوانید مصرف را پیش از تبدیل شدن به مشکل مدیریت کنید.