یک نشانی برای همهی مدلها. یک کلید برای همهی دردسرها.
API سازگار با OpenAI برای بیش از ۱۰۰ مدل از ۲۱ ارائهدهنده. کلید، مسیریابی، هزینه و گزارش در همان مسیر.
from openai import OpenAI client = OpenAI( api_key="YOUR_GODARAI_TOKEN", base_url="https://YOUR_WORKSPACE.godarai.ir/v1",) response = client.chat.completions.create( model="support-reply", messages=[{"role": "user", "content": "..."}],)سه چیز برای اتصال عملیاتی.
نشانی پایهی درگاه، شناسهی مدل و توکن دسترسی؛ بقیهاش با ماست.
- یک APIسازگار با OpenAI؛ SDK رسمی همان کار میکند، فقط نشانی و کلید عوض میشود.
- مدل مجازییک نام پایدار در برنامه، و شما پشت آن مدل را عوض میکنید.
- کلید جداتوکن شخصی برای افراد، کلید مجازی برای سرویسها.
مدل اول جواب نداد؟ مسیر جایگزین دارد.
مسیریابی اولویتی یا وزنی بین چند مقصد، با تلاش دوباره و مسیر جایگزین هنگام خطا؛ بدون تغییر در کد برنامه.
- مقصد اولمدل سبکاولویت ۱
- مسیر جایگزینمدل قوی، هنگام خطااولویت ۲
درخواست تکراری؟ از حافظهی نهان.
پاسخ درخواستهای تکراری، و در پلنهایی که دارند درخواستهای هممعنا، از حافظهی نهان میآید و دوباره به مدل نمیرود.
- درخواست اولبه مدل رفت
- درخواست تکراریهمان پرسشاز حافظهی نهان
کلید خام ارائهدهنده هرگز به برنامه نمیرسد.
برنامهها با کلید دسترسی مجازی کار میکنند و برای هر کلید سقف مصرف میگذارید. کلید ارائهدهنده در گدارAI میماند.
- سرویس پشتیبانیکلید دسترسی مجازیسقف فعال
- اپ موبایلکلید دسترسی مجازیسقف فعال
هر درخواست، با رد و هزینهاش.
گزارش رخداد، رد درخواست و هزینهی هر فراخوانی؛ با سرآیند x-godarai-trace-id به سامانهی پایش خودتان هم وصل میشود.
- support-replyسرویس پشتیبانی۲۰۰
- support-replyمسیر جایگزین۲۰۰
- summarizeاپ موبایل۴۲۹
ایجنت خودتان را میسازید؟ از همین درگاه.
مستقل از چارچوب ایجنت؛ هر فراخوانی مدل از درگاه رد میشود و کنترلهایش را با خودش دارد.
- مستقل از چارچوبهر کلاینت سازگار با OpenAI API کار میکند.
- تلاش دوباره و مسیر جایگزینبرای هر فراخوانی مدل در ایجنت.
- رد هر فراخوانیدر کنار ردیابی خود ایجنت، با شناسهی رد درخواست.
- گاردریل در مسیرمتن ورودی و خروجی ایجنت هم بررسی میشود.
اولین درخواست را امروز بفرستید. بقیهاش تکرار است.
با اعتبار هدیه شروع کنید؛ نشانی و کلید را عوض کنید و تمام.