مستندات گدارAI
گدارAI درگاه مدلهای زبانی برای تیمهایی است که میخواهند مصرف مدلها را از یک فضای کاری مرکزی مدیریت کنند. بهجای اتصال مستقیم هر اپلیکیشن به هر ارائهدهنده مدل، درخواستها از مسیر گدارAI عبور میکنند تا احراز هویت، دسترسی، مسیریابی، کنترل هزینه و پایش در یک نقطه انجام شود.
این مستندات برای توسعهدهندگان، مدیران فنی و تیمهای عملیاتی نوشته شده است؛ کسانی که باید مدلها را وصل کنند، اولین درخواست را بفرستند، دسترسیها را کنترل کنند و مصرف واقعی را قابل بررسی نگه دارند.
از کجا شروع کنید؟
اگر تازه با گدارAI آشنا میشوید، این مسیر کوتاهترین راه است:
- نمای کلی قابلیتها را بخوانید تا بدانید گدارAI چه بخشهایی دارد.
- شروع سریع را دنبال کنید تا فضای کاری را آماده کنید و اولین درخواست را بفرستید.
- درگاه، مدلها و اتصال را بخوانید تا جایگاه گدارAI در معماری اپلیکیشن روشن شود.
- اولین درخواست به درگاه را برای تنظیم نشانی پایه، شناسه مدل و توکن دسترسی بررسی کنید.
بخشهای اصلی مستندات
| بخش | برای چه کاری است؟ |
|---|---|
| شروع و نمای کلی | شناخت محصول، مسیر شروع و انتخاب صفحه بعدی |
| درگاه، مدلها و اتصال | اتصال حساب ارائهدهنده، مدل مجازی، احراز هویت و ارسال درخواست |
| رجیستری پرامپت | ساخت، نسخهبندی و اجرای پرامپتهای قابل استفاده مجدد |
| APIهای پشتیبانیشده | قراردادهای سازگار با OpenAI برای متن، داده، تصویر و صوت |
| کنترل مصرف و هزینه | حافظه نهان، محدودیت نرخ درخواست، سقف هزینه و پایش هزینه |
| گاردریلها | اعتبارسنجی و کنترل محتوای ورودی یا خروجی مدل |
| مشاهدهپذیری و پایش | گزارش رخداد، رد درخواست و OpenTelemetry |
| کاربران و دسترسی | کاربران، تیمها، نقشها، توکنها و حسابهای مجازی |
سه مفهوم پایه
- حساب ارائهدهنده: اتصال مستقل به یک ارائهدهنده مدل، همراه با اعتبارنامه و مدلهای فعال.
- توکن دسترسی: کلیدی که اپلیکیشن یا کاربر برای احراز هویت در گدارAI استفاده میکند؛ معمولاً PAT برای تست و VAT برای سرویسها.
- مدل مجازی: شناسه پایدار مصرف مدل که میتواند پشت خود یک یا چند مقصد واقعی داشته باشد.
گام بعدی
برای شروع عملی، شروع سریع را باز کنید. اگر هنوز میخواهید تصویر کلانتری داشته باشید، نمای کلی قابلیتها را بخوانید.