فراخوانیهای مدل ایجنت را از نمونه آزمایشی تا محیط عملیاتی قابل کنترل نگه دارید
فراخوانیهای مدل ایجنت را از درگاه گدارAI بفرستید تا مدل مقصد، دسترسی، گاردریل، هزینه و مسیر هر درخواست در یک نقطه مدیریت و بررسی شود.
Agent Runs
LiveGuardrail Verdict
تلاش دوباره و مسیر جایگزین
برای تیمهایی که ایجنت را در محصول واقعی اجرا میکنند
گدارAI مسئولیت اتصال ایجنت به مدل را از منطق خود ایجنت جدا میکند. چارچوب ایجنت همچنان گردش کار و ابزارها را اجرا میکند و درگاه، فراخوانی مدل را کنترل و پایش میکند.
کنترلهای فراخوانی مدل را به ایجنت اضافه کنید
درگاه، گاردریل و مشاهدهپذیری گدارAI روی فراخوانی مدل کار میکنند. منطق برنامهریزی، حافظه و اجرای ابزار همچنان در چارچوب ایجنت شما باقی میماند.
رد درخواست برای هر فراخوانی مدل
تلاشها، مدل مقصد، خطا، تلاش دوباره و مسیر جایگزین هر درخواست را ببینید. برای مراحل داخلی و ابزارها، ردیابی چارچوب ایجنت را در کنار این دادهها نگه دارید.
برای عیبیابی اتصال مدل در جریانهای چندمرحلهای.
پایش عملکرد و هزینه مدل
تعداد درخواست، تأخیر، توکن، هزینه و نرخ خطا را بر اساس مدل، ارائهدهنده، تیم یا حساب مجازی بررسی کنید و مصرف سرویس ایجنت را از دیگر سرویسها جدا نگه دارید.
برای هر ایجنت یا سرویس، هویت و VAT مستقل در نظر بگیرید.
کنترل متن با گاردریل
روی متن ورودی و پاسخ کامل مدل، گاردریلهایی مانند عبارت مسدود، PII پایه، تشخیص Secret یا اعتبارسنجی JSON اجرا کنید.
گاردریل متن جای کنترل مجوز ابزار یا منطق خود ایجنت را نمیگیرد.
اتصال ایجنت به چند مدل با یک درگاه
شناسه مدل یا مدل مجازی را در فراخوانی بفرستید. در مدل مجازی میتوانید چند مقصد سازگار، تلاش دوباره و مسیر جایگزین تعریف کنید.
شناسه مصرف ایجنت را ثابت و جزئیات مقصد را در درگاه نگه دارید.
مشاهدهپذیری فراخوانی مدل، در کنار ردیابی خود ایجنت
ایجنت فقط یک فراخوانی مدل نیست. رد درخواست گدارAI مسیر داخل درگاه را نشان میدهد؛ برای تصمیمها و ابزارهای ایجنت، ردیابی چارچوب یا اپلیکیشن خود را نیز نگه دارید.
رد درخواست درگاه
مدل مقصد، تلاشها، خطا، تلاش دوباره، مسیر جایگزین و زمان مراحل داخلی درگاه را بررسی کنید.
همبستگی با ردیابی اپلیکیشن
با `request_id` و `trace_id`، فراخوانی مدل را به مرحله مربوط در ردیابی ایجنت یا سرویس خود وصل کنید.
مقایسه مدل و نسخه پرامپت
مدل، شناسه نسخه پرامپت، هزینه و نتیجه درخواست را کنار ارزیابی کیفیت محصول خود مقایسه کنید.
پایش بر اساس هویت سرویس
برای هر ایجنت VAT جدا بسازید تا مصرف، هزینه و خطای فراخوانیهای آن از دیگر سرویسها تفکیک شود.
| نام ابزار | ورودی | خروجی | وضعیت | تأخیر | مرحله |
|---|---|---|---|---|---|
| search_web | { query: "..." } | [results] | Pass | 0.8s | 5 |
| read_file | { path: "..." } | null | Error | 0.2s | 7 |
| send_email | { to: "..." } | sent | Pass | 1.1s | 9 |
| calc_metric | { data: [...] } | { score: 0.87 } | Pass | 0.3s | 11 |
کنترلهای محیط عملیاتی برای فراخوانی مدل
وقتی ایجنت به داده و ابزار دسترسی دارد، کنترل مدل فقط بخشی از ایمنی است. مجوز ابزار و داده باید در خود اپلیکیشن یا لایه ابزار نیز اعمال شود.
هویت مستقل برای هر ایجنت
برای هر سرویس یا ایجنت یک کاربر مجازی و VAT جدا بسازید تا دسترسی، ابطال و گزارش مصرف آن مستقل باشد.
مهلت پاسخ و تلاش دوباره مدل
در مدل مجازی، مهلت پاسخ و کدهای تلاش دوباره را برای فراخوانی مدل تنظیم کنید. رفتار ابزارها در اختیار چارچوب ایجنت است.
مسیر جایگزین بین مدلها
برای خطاهای مشخص، مقصد بعدی مدل مجازی را امتحان کنید. کیفیت نامناسب پاسخ به ارزیابی و تصمیم اپلیکیشن نیاز دارد.
بررسی انسانی در منطق محصول
برای تصمیمهای پرریسک، خطا یا نتیجه گاردریل را در اپلیکیشن دریافت کنید و جریان بررسی انسانی خود را اجرا کنید.
سقف هزینه و محدودیت نرخ
برای هویت سرویس یا تیم، سیاست مصرف تعریف کنید تا تعداد درخواست و هزینه فراخوانی مدل قابل کنترل باشد.
لاگ درخواست با حریم خصوصی
ثبت محتوای درخواست و پاسخ را متناسب با داده ایجنت تنظیم کنید و مجوز مشاهده محتوا را محدود نگه دارید.
اتصال مستقل از چارچوب ایجنت
اگر چارچوب شما امکان تغییر نشانی پایه و توکن API سازگار را دارد، فراخوانی مدل را از گدارAI بفرستید و منطق ایجنت را در همان چارچوب نگه دارید.
سازگار با کلاینتهای API
در چارچوبهای دارای کلاینت سازگار با OpenAI، نشانی پایه، توکن گدارAI و شناسه مدل را تنظیم و مسیر را در محیط خود آزمایش کنید.
درگاه، گاردریل و مشاهدهپذیری در یک مسیر
فراخوانیهای مدل را از یک مسیر بفرستید تا دسترسی، گاردریل متن، لاگ، رد درخواست و هزینه با قرارداد مشترک مدیریت شوند.
مناسب برای ایجنتهای داخلی و محصولی
چه ایجنت داخلی بسازید و چه دستیار محصول، میتوانید فراخوانی مدل آن را با هویت مستقل، مدلهای مجاز و سیاست مصرف مشخص اجرا کنید.
دادههای لازم برای نگهداری ایجنت در محیط عملیاتی
در محیط عملیاتی باید بتوانید اتصال مدل را عیبیابی کنید، هزینه را به هویت سرویس نسبت دهید و رفتار مسیر جایگزین را بسنجید.
مقصد، تلاشها، خطا و زمان اجرای درخواست در درگاه را ببینید.
تعداد درخواست، تأخیر، توکن، هزینه، خطا و اثربخشی حافظه نهان را بررسی کنید.
چند مقصد سازگار را پشت یک شناسه پایدار برای ایجنت قرار دهید.
توکن ایجنت را مستقل بسازید تا دسترسی، ابطال و پایش مصرف آن جدا باشد.
چرا اجرای ایجنت از گدارAI برای تیمهای ایرانی مهم است؟
برای تیمهای ایرانی، عملیاتی کردن Agent فقط مسئله فنی نیست؛ دسترسی پایدار به مدلها، پرداخت، تحریم، هزینه، داده فارسی و کنترل ریسک هم اهمیت دارد.
کاهش ریسک محدودیتهای اتصال مستقیم
درگاه مشترک، وابستگی کد ایجنت به اتصال مستقیم هر ارائهدهنده را کمتر میکند و تغییر مدل مقصد را سادهتر میسازد.
بدون پرداخت ارزی مستقیم
بهجای درگیری با کارت اعتباری خارجی، پرداخت دلاری و حسابهای بینالمللی، مصرف Agentها و مدلها را از طریق گدارAI و متناسب با نیاز بازار ایران مدیریت کنید.
کنترل متمرکز مدل و هزینه
اتصال مدل، مشاهدهپذیری، گاردریل متن، مسیریابی و هزینه را در یک مسیر نگه دارید. کنترل ابزار همچنان باید در لایه ابزار یا ایجنت اعمال شود.
مناسب برای متن فارسی و جریانهای داخلی
عبارتها و Regex گاردریل را برای متن فارسی و الگوهای سازمانی تنظیم کنید و هزینه مصرف را با نمایش ریالی بررسی کنید.
اجرای ایجنت از گدارAI برای چه سناریوهایی مناسب است؟
دستیارهای هوشمند محصول
فراخوانی مدل دستیار محصول را با هویت مستقل اجرا کنید و هزینه، خطا و مسیر مقصد آن را قابل مشاهده نگه دارید.
ایجنتهای پشتیبانی مشتری
فراخوانی مدل پشتیبانی را از هویت سرویس مستقل بفرستید و گاردریل متن، هزینه و خطا را برای همان سرویس بررسی کنید.
اتوماسیون جریان کار
فراخوانیهای مدل در جریان چندمرحلهای را با شناسه درخواست به ردیابی اپلیکیشن وصل کنید و خطا یا مسیر جایگزین را ببینید.
ایجنتهای داده و پژوهش
برای ایجنتهای خلاصهسازی یا تحلیل، مدل، نسخه پرامپت، هزینه و خطا را کنار ارزیابی کیفیت خود نگه دارید.
ایجنتهای داخلی سازمان
برای تیمهای عملیات، مالی، فروش، پشتیبانی یا محصول، هویت سرویس و مدلهای مجاز جدا تعریف کنید.
سامانههای چندایجنتی
برای هر ایجنت VAT جدا بسازید تا مصرف و خطای فراخوانیهای مدل در سطح هر هویت قابل تفکیک باشد.
راهنماها و منابع پیشنهادی
چطور فراخوانی مدل ایجنت را عملیاتی کنیم؟
هویت سرویس، مدل مجاز، مهلت پاسخ، مسیر جایگزین، گاردریل متن و دادههای پایش را پیش از انتشار مشخص کنید.
چطور ردیابی ایجنت و درگاه را به هم وصل کنیم؟
شناسه درخواست و رد درخواست گدارAI را کنار ردیابی چارچوب ایجنت نگه دارید تا مرز خطای مدل و اپلیکیشن روشن باشد.
کنترل هزینه در جریانهای ایجنتی
برای هر ایجنت VAT جدا بسازید و با سقف هزینه، محدودیت نرخ، حافظه نهان و انتخاب مدل، مصرف فراخوانیها را کنترل کنید.
پرسشهای پرتکرار
فراخوانیهای مدل ایجنت را قابل کنترل کنید
درگاه، مشاهدهپذیری، گاردریل متن، مسیریابی، تلاش دوباره، مسیر جایگزین و کنترل هزینه را برای فراخوانی مدل ایجنت در یک مسیر داشته باشید.