شروع سریع گدارAI
در پایان این راهنما، یک حساب ارائهدهنده آماده دارید، یک توکن دسترسی ساختهاید و میتوانید اولین درخواست Chat Completions را از مسیر گدارAI بفرستید.
اگر هنوز تصویر کلی محصول را نمیشناسید، ابتدا نمای کلی قابلیتها را بخوانید. اگر فقط میخواهید سه مقدار لازم برای درخواست را ببینید، اولین درخواست به درگاه مستقیمتر است.
پیشنیازها
- دسترسی به یک فضای کاری گدارAI
- دسترسی لازم برای مدیریت اتصالدهندههای LLM یا حداقل مشاهده مدلهای مجاز
- کلید دسترسی ارائهدهنده مدل، مگر اینکه فضای کاری شما از کلیدهای پلتفرم استفاده کند. برای انتخاب میان این دو روش، سیاست BYOK را بخوانید.
- یک مدل فعال یا امکان فعالسازی مدل در حساب ارائهدهنده
۱. وارد فضای کاری شوید
وارد پنل مدیریت گدارAI شوید و فضای کاری موردنظر را باز کنید. اگر صفحه «شروع سریع» در دسترس است، همانجا وضعیت گامهای لازم را میبینید: اتصال ارائهدهنده، ساخت توکن، ارسال درخواست و مشاهده نتیجه در دادههای پایش.
نتیجه مورد انتظار: داشبورد یا صفحه شروع سریع فضای کاری باز میشود و میتوانید منوی اصلی را ببینید.
۲. حساب ارائهدهنده را وصل کنید
از منوی «اتصالدهندههای LLM»، یک حساب ارائهدهنده بسازید یا حساب موجود را باز کنید.
مراحل کلی:
- ارائهدهنده مدل را انتخاب کنید.
- نام نمایشی حساب و اعتبارنامه لازم را وارد کنید.
- اتصال را اعتبارسنجی کنید، اگر این گزینه برای ارائهدهنده فعال است.
- مدلهای موردنیاز را فعال کنید.
- دسترسی کاربران یا تیمهای مجاز را ذخیره کنید.
نتیجه مورد انتظار: حداقل یک حساب ارائهدهنده فعال دارید و دستکم یک مدل برای مصرف در فضای کاری مجاز است.
حساب ارائهدهنده چیست؟
حساب ارائهدهنده یک اتصال مستقل به ارائهدهنده مدل است. هر حساب میتواند اعتبارنامه، مدلهای فعال، قیمتگذاری و دسترسیهای خودش را داشته باشد. اگر چند محیط، چند تیم یا چند کلید متفاوت دارید، میتوانید برای یک ارائهدهنده چند حساب جدا بسازید.
۳. توکن دسترسی بسازید
برای تست سریع، یک توکن دسترسی شخصی (PAT) بسازید. PAT به کاربر انسانی تعلق دارد و برای آزمایش، توسعه و نمونهکدهای اولیه مناسب است.
برای اپلیکیشنها، کارهای زمانبندیشده یا سرویسهای محیط عملیاتی، بهتر است از کاربر مجازی و کلید دسترسی مجازی (VAT) استفاده کنید.
نتیجه مورد انتظار: توکن فقط یکبار نمایش داده میشود. همان لحظه آن را در جای امن نگه دارید و در نمونهکد استفاده کنید.
۴. مدل مناسب را انتخاب کنید
برای ارسال درخواست، باید شناسه مدل مجاز را داشته باشید. این شناسه ممکن است یکی از مدلهای فعال حساب ارائهدهنده باشد یا یک مدل مجازی که برای مصرف پایدار ساختهاید.
شناسه مدل را حدس نزنید. آن را از مدلهای مجاز فضای کاری، میز تست شروع سریع، یا صفحه مدلهای مجازی بردارید.
۵. اولین درخواست را بفرستید
برای درخواست اولیه به سه مقدار نیاز دارید:
| مقدار | از کجا میآید؟ |
|---|---|
| نشانی پایه درگاه | نشانی فضای کاری یا مقدار آمادهشده در میز تست |
| توکن دسترسی | PAT برای تست یا VAT برای سرویس |
| شناسه مدل | مدل مجاز یا مدل مجازی |
نمونههای زیر یک درخواست یکسان را با چند روش رایج نشان میدهند. مقدارها را با اطلاعات فضای کاری خودتان جایگزین کنید.
- Python
- NodeJS
- REST API
- OpenAI Python SDK
- OpenAI NodeJS SDK
import requests
response = requests.post(
"https://YOUR_WORKSPACE.godarai.ir/v1/chat/completions",
headers={
"Authorization": "Bearer YOUR_GODARAI_TOKEN",
"Content-Type": "application/json",
},
json={
"model": "YOUR_MODEL_ID",
"messages": [
{
"role": "user",
"content": "سلام، سه مزیت استفاده از درگاه مدلهای زبانی را بگو."
}
]
},
timeout=60,
)
response.raise_for_status()
print(response.json())
const response = await fetch("https://YOUR_WORKSPACE.godarai.ir/v1/chat/completions", {
method: "POST",
headers: {
"Authorization": "Bearer YOUR_GODARAI_TOKEN",
"Content-Type": "application/json",
},
body: JSON.stringify({
"model": "YOUR_MODEL_ID",
"messages": [
{
"role": "user",
"content": "سلام، سه مزیت استفاده از درگاه مدلهای زبانی را بگو."
}
]
}),
});
if (!response.ok) {
throw new Error(`Request failed with status ${response.status}`);
}
const data = await response.json();
console.log(data);
curl --request POST "https://YOUR_WORKSPACE.godarai.ir/v1/chat/completions" \
--header "Authorization: Bearer YOUR_GODARAI_TOKEN" \
--header "Content-Type: application/json" \
--data '{
"model": "YOUR_MODEL_ID",
"messages": [
{
"role": "user",
"content": "سلام، سه مزیت استفاده از درگاه مدلهای زبانی را بگو."
}
]
}'
from openai import OpenAI
client = OpenAI(
api_key="YOUR_GODARAI_TOKEN",
base_url="https://YOUR_WORKSPACE.godarai.ir/v1",
)
response = client.chat.completions.create(
"model": "YOUR_MODEL_ID",
messages=[
{
"role": "user",
"content": "سلام، سه مزیت استفاده از درگاه مدلهای زبانی را بگو."
}
]
)
print(response)
import OpenAI from "openai";
const client = new OpenAI({
apiKey: "YOUR_GODARAI_TOKEN",
baseURL: "https://YOUR_WORKSPACE.godarai.ir/v1",
});
const response = await client.chat.completions.create({
"model": "YOUR_MODEL_ID",
"messages": [
{
"role": "user",
"content": "سلام، سه مزیت استفاده از درگاه مدلهای زبانی را بگو."
}
]
});
console.log(response);
اگر میخواهید همین مقدارها را بهصورت متغیر محیطی نگه دارید:
export OPENAI_BASE_URL="https://YOUR_WORKSPACE.godarai.ir/v1"
export OPENAI_API_KEY="YOUR_GODARAI_TOKEN"
نتیجه مورد انتظار: پاسخ مدل برمیگردد و درخواست در گزارش رخداد یا رد درخواست قابل بررسی میشود.
بررسی نتیجه
بعد از دریافت پاسخ، یکی از مسیرهای پایش را باز کنید:
- «لاگ درخواستها» برای دیدن جزئیات درخواست و پاسخ
- «ردیابی درخواستها» برای بررسی مسیر اجرای درخواست
- «متریک مدلها» برای مشاهده سنجههای مصرف و رفتار مدلها
اگر درخواست در میز تست شروع سریع اجرا شده باشد، همان صفحه نیز وضعیت موفقیت یا خطا را نشان میدهد.
رفع مشکلهای رایج
خطای احراز هویت میگیرم
توکن را دوباره بررسی کنید. PAT یا VAT باید از خود گدارAI ساخته شده باشد، نه کلید خام ارائهدهنده مدل.
خطای دسترسی به مدل میگیرم
مدل ممکن است برای توکن، کاربر، تیم یا حساب ارائهدهنده شما مجاز نباشد. مدلهای فعال حساب ارائهدهنده و دسترسیهای مؤثر را بررسی کنید.
پاسخ از endpoint برنمیگردد
مطمئن شوید نشانی پایه با /v1 پایان مییابد و درخواست را به endpoint سازگار با نوع مدل میفرستید. برای مدلهای متنی، معمولاً Chat Completions نقطه شروع است.
گام بعدی
بعد از اولین درخواست موفق، معمولاً این کارها ارزش انجام دارند:
- مدل مجازی بسازید تا اپلیکیشن به شناسهای پایدار متصل شود.
- رجیستری پرامپت را برای نسخهبندی و اجرای پرامپتهای قابل استفاده مجدد بررسی کنید.
- محدودیت نرخ درخواست و محدودیت بودجه را برای کنترل مصرف تنظیم کنید.
- گاردریلها را برای کنترل محتوای ورودی یا خروجی بررسی کنید.
- لاگ درخواستها را برای پایش ترافیک واقعی بخوانید.
پرسشهای پرتکرار
برای شروع PAT بهتر است یا VAT؟
برای تست انسانی و نمونهکدهای اولیه، PAT سریعتر است. برای سرویسها و محیط عملیاتی، VAT مناسبتر است چون به هویت غیرانسانی وابسته میشود و از حساب شخصی جدا میماند.
آیا باید حتماً مدل مجازی بسازم؟
برای اولین تست نه. اما اگر میخواهید شناسه مصرفی اپلیکیشن پایدار بماند یا چند مقصد، تلاش دوباره و مسیر جایگزین داشته باشید، مدل مجازی انتخاب بهتری است.
از کجا بفهمم شناسه مدل چیست؟
شناسه مدل را از مدلهای فعال حساب ارائهدهنده، مدلهای مجاز برای توکن، یا صفحه مدلهای مجازی بردارید. از نامهای عمومی اینترنتی بهعنوان شناسه قطعی استفاده نکنید.