وقتی یک مدل قطع می‌شود، محصول شما قطع نشود
مسیر جایگزین خودکار، کنترل هزینه هر کاربر و پاسخ سریع‌تر
اگر محصول شما مستقیم با کاربر نهایی گفت‌وگو می‌کند — چت‌بات، دستیار هوشمند، اپلیکیشن موبایل یا بات تلگرام — هر قطعی ارائه‌دهنده یعنی قطعی محصول شما و هر کاربر پرمصرف، بخشی از حاشیه سود شما را می‌خورد. گدارAI میان محصول شما و ارائه‌دهندگان مدل قرار می‌گیرد تا هر دو ریسک پیش از رسیدن به کاربر مدیریت شود.
# محصول فقط یک مدل مجازی پایدار را صدا می‌زندresponse = client.chat.completions.create(model="support-chat", # مسیر اصلی و جایگزین‌ها در پنل گدارAImessages=messages,metadata={"channel": "telegram", "customer_id": user.id},)# اگر مسیر اصلی قطع یا کند شود،# درخواست بدون تغییر کد به مقصد بعدی می‌رود
گدارAI مناسب شماست، اگر:
محصول شما مستقیم با کاربر نهایی تعامل دارد و ترافیک درخواست پیوسته دارد.
قطعی یا کندی یک ارائه‌دهنده، مستقیم روی تجربه کاربر، ماندگاری یا فروش شما اثر می‌گذارد.
چند کاربر پرمصرف یا سوءاستفاده‌گر می‌توانند هزینه ماهانه مدل‌ها را غیرقابل پیش‌بینی کنند.
می‌خواهید بر اساس قیمت یا کیفیت سریع بین مدل‌ها جابه‌جا شوید، بدون انتشار نسخه جدید اپلیکیشن.
چطور کار می‌کند
مسیر جایگزین خودکار
یک مدل مجازی با مقصد اصلی، مقصدهای جایگزین و سیاست تلاش دوباره تعریف کنید؛ قطعی یک ارائه‌دهنده به کاربر شما نمی‌رسد.
تعویض مدل بدون انتشار نسخه جدید
مدل پشت هر ویژگی را از پنل تغییر دهید؛ اپلیکیشن همچنان همان شناسه پایدار را صدا می‌زند.
سقف مصرف برای هر کاربر نهایی
با محدودسازی نرخ و قوانین بودجه بر اساس فراداده، جلوی کاربران پرمصرف و سوءاستفاده را بگیرید.
کش پاسخ‌های تکراری
پرسش‌های پرتکرار از حافظه نهان پاسخ می‌گیرند؛ هم تأخیر کمتر، هم هزینه کمتر. برای هر مسیر قابل تنظیم است.
مسیر پاسخ‌گویی یک ویژگی محصول هنگام قطعی ارائه‌دهنده
- ۱قطعgpt-4o-miniOpenAI
- ۲پاسخ‌گوclaude-haikuAnthropic
- ۳آمادهgemini-flashGoogle
در محصول مصرف‌کننده‌محور، هر پیام کاربر هزینه توکن دارد و هر قطعی بالادستی، قطعی محصول شماست. گدارAI این دو ریسک را پیش از رسیدن به کاربر مدیریت می‌کند: مسیر جایگزین خودکار، تعویض مدل بدون انتشار نسخه جدید، سقف مصرف برای هر کاربر و دید کامل روی هزینه هر کانال و ویژگی.
چرا گدارAI، به‌جای اتصال مستقیم؟
چرا مستقیم به ارائه‌دهنده وصل نشویم؟
می‌توانید، اما ساختن مسیر جایگزین، پایش و کنترل هزینه برای محصولی با ترافیک پیوسته، پرهزینه و پرخطاست. endpoint گدارAI با فرمت OpenAI API سازگار است و معمولاً بدون تغییر کد قابل استفاده است.
می‌توانیم پاسخ مدل را پیش از نمایش به کاربر کنترل کنیم؟
بله. گاردریل‌های ورودی و خروجی می‌توانند داده حساس را ماسک کنند، الگوهای ممنوع را متوقف کنند یا ساختار پاسخ را اعتبارسنجی کنند.
آیا کش کردن پاسخ‌ها اختیاری است؟
بله. کش پاسخ برای هر درخواست یا مسیر قابل فعال‌سازی و تنظیم است و اثر آن روی هزینه و تأخیر در گزارش‌ها دیده می‌شود.
دسترسی به ارائه‌دهندگان خارجی از ایران قطع نمی‌شود؟
اتصال پایدار به ارائه‌دهندگان مدل در زیرساخت گدارAI مدیریت می‌شود؛ محصولات ایرانی فقط به endpoint گدارAI وصل می‌شوند و درگیر محدودیت‌های دسترسی مستقیم، پرداخت ارزی یا نگه‌داری چند حساب خارجی نمی‌شوند.
قابلیت‌های مرتبط با این راهکار را دقیق‌تر ببینید، یا فهرست به‌روز مدل‌ها و ارائه‌دهندگان را در کاتالوگ مدل‌ها بررسی کنید.