معرفی درگاه مدلهای زبانی گدارAI
گدارAI بین اپلیکیشن شما و ارائهدهندههای مدل قرار میگیرد. بهجای اینکه هر سرویس در محصول شما مستقیم با کلید و قرارداد هر ارائهدهنده کار کند، درخواستها به گدارAI فرستاده میشوند و گدارAI احراز هویت، دسترسی، مسیریابی، کنترل مصرف و پایش را در یک نقطه انجام میدهد.
برای شروع عملی، بعد از این صفحه اولین درخواست به درگاه را بخوانید. اگر هنوز فضای کاری را آماده نکردهاید، شروع سریع مسیر کاملتری است.
گدارAI چه مسئلهای را حل میکند؟
وقتی محصول شما از مدلهای زبانی استفاده میکند، چند سؤال خیلی زود جدی میشود:
- کلیدهای ارائهدهنده کجا نگهداری شوند؟
- اگر مدل یا ارائهدهنده تغییر کرد، چند سرویس باید تغییر کنند؟
- کدام کاربر، تیم یا سرویس از کدام مدل استفاده کرده است؟
- چطور مصرف، هزینه و خطاها را بعد از ارسال درخواست بررسی کنیم؟
- چطور سیاستهای دسترسی و مصرف را بدون تغییر کد همه سرویسها اعمال کنیم؟
گدارAI این مسئولیتها را از کد پراکنده اپلیکیشنها به یک لایه مرکزی منتقل میکند. نتیجه برای تیم شما این است که اتصال مدلها قابل مدیریتتر، تغییرات قابل کنترلتر و رفتار درخواستها قابل بررسیتر میشود.
در معماری محصول شما کجا قرار میگیرد؟
گدارAI در مسیر بین مصرفکننده و ارائهدهنده مدل قرار دارد:
- اپلیکیشن شما درخواست را به نقطه پایانی سازگار با OpenAI در گدارAI میفرستد.
- گدارAI توکن دسترسی را بررسی میکند و فضای کاری، کاربر یا سرویس فراخواننده را تشخیص میدهد.
- دسترسی به مدل، سیاستهای مصرف، گاردریلها و تنظیمات مدل مجازی بررسی میشوند.
- درخواست به مقصد مناسب در حساب ارائهدهنده هدایت میشود.
- پاسخ همراه با گزارش رخداد، رد درخواست و سنجههای مصرف در دسترس قرار میگیرد.
در این الگو، اپلیکیشن شما معمولاً فقط سه مقدار را تغییر میدهد: نشانی پایه درگاه، توکن دسترسی گدارAI و شناسه مدل. جزئیات حساب ارائهدهنده، اعتبارنامه خام و سیاستهای کنترل مصرف داخل فضای کاری مدیریت میشوند.
اجزای اصلی اتصال
| جزء | نقش در اتصال |
|---|---|
| حساب ارائهدهنده | اتصال مستقل به ارائهدهنده مدل، همراه با اعتبارنامه، مدلهای فعال و دسترسیها |
| توکن دسترسی | کلیدی که اپلیکیشن یا کاربر برای احراز هویت در گدارAI استفاده میکند |
| شناسه مدل | مقدار model که در درخواست میفرستید؛ میتواند مدل فعال یا مدل مجازی باشد |
| مدل مجازی | شناسه پایدار مصرف مدل که پشت آن یک یا چند مقصد واقعی قرار میگیرد |
| گزارش رخداد و رد درخواست | راه بررسی اینکه درخواست چه مسیری طی کرده و چه نتیجهای گرفته است |
چرا این لایه برای محصول مشتری قابل اتکاتر است؟
گدارAI بهجای اینکه منطق اتصال و کنترل مصرف در چند جای محصول شما تکرار شود، آن را در یک مسیر مشخص نگه میدارد:
- کلید خام ارائهدهنده در اپلیکیشن مصرفکننده پخش نمیشود.
- تغییر مدل یا ارائهدهنده با تغییر شناسه یا مدل مجازی کنترل میشود.
- توکنها را میتوان برای هر کاربر یا سرویس جداگانه ساخت، چرخاند یا باطل کرد.
- خطا، هزینه، مدل انتخابشده و مسیر اجرای درخواست قابل پیگیری میماند.
- سیاستهای نرخ، بودجه و گاردریل در همان لایهای اعمال میشوند که درخواست از آن عبور میکند.
اینها جایگزین طراحی درست در محصول شما نیستند، اما اتصال به مدلها را از یک نقطه قابل مشاهده و قابل کنترل میکنند.
مسیر پیشنهادی اتصال
برای اتصال یک محصول جدید به گدارAI، این ترتیب معمولاً کمابهامترین مسیر است:
- در «اتصالدهندههای LLM»، حساب ارائهدهنده را بسازید و مدلها را فعال کنید.
- برای تست انسانی یک توکن دسترسی شخصی (PAT) بسازید.
- اولین درخواست را با SDK رسمی OpenAI یا cURL ارسال کنید.
- نتیجه را در «لاگ درخواستها» یا «ردیابی درخواستها» بررسی کنید.
- برای محیط عملیاتی، کاربر مجازی و کلید دسترسی مجازی (VAT) بسازید.
- اگر میخواهید نام مدل در کد محصول پایدار بماند، مدل مجازی تعریف کنید.
چه زمانی مستقیم به ارائهدهنده وصل نشویم؟
اگر فقط یک نمونه آزمایشی چندخطی دارید، اتصال مستقیم به ارائهدهنده ساده به نظر میرسد. اما وقتی محصول وارد استفاده تیمی یا عملیاتی میشود، اتصال مستقیم معمولاً این هزینهها را ایجاد میکند:
- هر سرویس باید روش احراز هویت و خطای هر ارائهدهنده را جداگانه مدیریت کند.
- تغییر مدل یا ارائهدهنده به تغییر در چند کدبیس وابسته میشود.
- انتساب مصرف به کاربر، تیم یا سرویس دشوارتر میشود.
- چرخش یا ابطال کلیدها ریسک بیشتری پیدا میکند.
در این شرایط، عبور از گدارAI کمک میکند اتصال به مدلها بهجای یک تصمیم پراکنده در هر سرویس، به یک قرارداد مشترک در سطح محصول تبدیل شود.
گام بعدی
- برای ارسال درخواست، اولین درخواست به درگاه را بخوانید.
- برای انتخاب توکن مناسب، احراز هویت در گدارAI را ببینید.
- برای پایدار نگه داشتن شناسه مدل در کد محصول، مدل مجازی را بخوانید.
پرسشهای پرتکرار
آیا اگر فقط یک ارائهدهنده مدل داشته باشیم، باز هم گدارAI مفید است؟
بله. حتی با یک ارائهدهنده، مدیریت توکنها، دسترسی، مصرف، خطاها و گزارش رخداد در یک نقطه ارزش عملیاتی دارد.
آیا باید کد محصول را زیاد تغییر بدهیم؟
در مسیر سازگار با OpenAI، معمولاً تغییر اصلی در base_url، توکن دسترسی و مقدار model است. اگر محصول شما از قراردادهای اختصاصی یک ارائهدهنده استفاده میکند، قبل از مهاجرت کامل، مسیر اتصال را در محیط خودتان تست کنید.
آیا گدارAI جایگزین سیاست امنیتی سازمان میشود؟
خیر. گدارAI مسیر اتصال و کنترل مصرف مدلها را متمرکز میکند، اما نگهداری امن توکنها، مدیریت رازها و سطح دسترسی کاربران همچنان باید مطابق سیاست امنیتی سازمان شما انجام شود.