در کار با مدلهای هوش مصنوعی، به چشمی بینا، نگهبانی بیدار، راهبری هوشیار و حسابداری خبره نیاز است!گدارAI، جمع اینهاست.
هزینه و دردسرهای پرداخت، کمتر؛ امنیت و کنترل مصرف بیشتر!
from openai import OpenAI
client = OpenAI(
api_key="YOUR_GODARAI_TOKEN",
base_url="https://YOUR_WORKSPACE.godarai.ir/v1"
)
response = client.chat.completions.create(
model="gpt-4o",
messages=[{
"role": "user",
"content": "یک پیام کوتاه برای پیگیری سفارش بنویس."
}]
)
print(response.choices[0].message.content)کاهش هزینه
نتیجهی برابر، هزینهی کمتر
چشم بینا
ثبت همهی جزئیات
در استفاده از AI، هرگز بیگدار به آب نزنید!
مدلهای هوش مصنوعی در محیط عملیاتی؟! بسی افتاده مشکلها!
چه کاری با چه هزینهای؟
کنترل هزینهها، بودجهبندی، گزارش مصرف ارزی و پرداخت بینالمللی کارهای سادهای نیستند. هرچه مقیاس بزرگتر، مشکل هم بزرگتر.
چه کسی؟ چه مدلی؟ چقدر؟
افراد و تیمها برای نیازهای متنوع به مدلهای متنوع با الگوهای مصرف متفاوت نیاز دارند. تنظیم حدود دسترسی ضروری است.
چه مدلی با چه قابلیتی؟
مدلها و ارائهدهندگان متنوعاند. شیوه استفاده همیشه یکسان نیست. مدیریت این تنوع هم آسان نیست.
مسئولیت پایداری با کیست؟
هوا همیشه آفتابی نیست. برای پایداری در شرایط بحران، از الان باید به زیرساخت قابل اتکا فکر کرد.
گدار، جای کمعمق رودخانه که میتوان پهنای آن را بدون شنا کردن پیمود.(فرهنگ معین)
به بیش از ۲۷۰۰ مدل از ۲۱ ارائهدهنده معتبر جهانی دسترسی بیدغدغه دارید. از کنترل مصرف و امنیت و پایداری تا نظارت و هشدار و عیبیابی.
Open AI
Anthropic (Claude)
Google Geminiامکانات کلیدی
ابزارهای اصلی برای اتصال، مسیریابی، کنترل هزینه و پایش مصرف مدلها در یک مسیر واحد.
API سازگار با OpenAI
پس از دریافت کلید دسترسی گدارAI میتوانید به سادگی به بیش از ۱۲۰۰ مدل هوش مصنوعی از ۲۱ ارائهدهنده معتبر متصل شوید.
مسیریابی قابل تنظیم
میتوانید مدل مجازی بسازید، مدلها را اولویتبندی کنید و برای هر مدل وزن یا اولویت متفاوتی تعریف کنید.
تلاش دوباره و مسیر جایگزین
برای خطا یا کندی یک ارائهدهنده، ارائهدهندههای جایگزین تعریف کنید و رفتار هر درخواست را در گزارش رخدادها ببینید.
کنترل هزینه و مصرف
مصرف توکن، سقف هزینه و حافظه نهان را در سطح تیم یا سرویس پایش کنید تا هزینهها قابل پیشبینیتر بمانند.
پایش و مشاهدهپذیری
گزارش رخداد، رد درخواست، سنجه مصرف و تاخیر را کنار هم ببینید و علت خطاها را سریعتر پیدا کنید.
چند حساب ارائهدهنده
اتصال به ارائهدهندههای مختلف را از یک فضای کاری مدیریت کنید و مدل مناسب هر سناریو را جدا انتخاب کنید.
پرداخت ریالی
کیف پول را به تومان شارژ کنید و مصرف مدلها را با گزارش مالی و سقفهای قابل تنظیم کنترل کنید.
کاهش ریسک اتصال مستقیم
بهجای پخش کلیدها در چند سرویس، اتصال مدلها را از مسیر درگاه و با سیاستهای دسترسی مشخص انجام دهید.
اندپوینتهای قابل استفاده در گدارAI
از تولید متن و پاسخهای ساختاریافته تا تصویر، صوت، Embedding و کنترل محتوا را از یک مسیر واحد فراخوانی کنید و همانجا مصرف، هزینه و رخدادها را ببینید.
Chat Completions
برای چت، تولید متن، ابزارها و خروجی ساختاریافته با قرارداد سازگار با OpenAI.
Responses API
برای تیمهایی که جریانهای جدیدتر تولید پاسخ، ابزارها و ورودی چندبخشی را ترجیح میدهند.
Image APIs
تولید، ویرایش و تغییر تصویر از همان مسیر درگاه، همراه با کنترل مصرف و گزارش رخداد.
Embeddings
تبدیل متن به بردار برای جستوجوی معنایی، RAG، دستهبندی و تحلیل دادههای متنی.
Audio APIs
تبدیل گفتار به متن، متن به گفتار و ترجمه صوتی برای تجربههای صوتی و پشتیبانی.
Rerank و Moderation
بهبود ترتیب نتایج بازیابی و بررسی ایمنی محتوا پیش از نمایش یا پردازش نهایی.
چگونه کار میکند؟
دورهی آزمایشی را شروع کنید. اولین درخواست را بزنید. از سیاستهای کنترلی نظارتی استفاده کنید.
ساخت فضای کاری
ثبت تیم و آمادهسازی مسیر مصرف مدلها
ساخت توکن دسترسی
صدور PAT برای آزمایش یا VAT برای سرویس
ارسال اولین درخواست
استفاده از API سازگار با OpenAI
تنظیم مسیریابی
انتخاب مدل مجازی، مقصد و مسیر جایگزین
بررسی نتیجه
دیدن گزارش رخداد، مصرف و هزینه
مشکلات رایج تیمها و سازمانها در استفاده از مدلهای AI
چالشهایی که با یک LLM Gateway میتوان آنها را از مسیر اتصال، کنترل مصرف، پایش و امنیت مدیریت کرد.
پراکندهشدن کلیدها و دسترسیها
وقتی هر محصول یا تیم مستقیم به ارائهدهنده وصل میشود، کلیدها در سرویسها و مخزنها پخش میشوند. LLM Gateway مسیر دسترسی را متمرکز و قابلکنترل میکند.
هزینه و مصرف نامشخص
بدون سقف مصرف، گزارش توکن و تفکیک هزینه، تشخیص سهم هر تیم سخت میشود. گدارAI مصرف مدلها را قابلپایش و قابلبودجهبندی میکند.
وابستگی به یک مدل یا ارائهدهنده
اگر یک مدل کند، گران یا ناپایدار شود، تغییر مسیر در چند کدبیس پرهزینه است. Gateway امکان مسیریابی، مدل مجازی و تغییر مسیر کنترلشده را فراهم میکند.
عیبیابی دشوار درخواستها
وقتی پاسخ کند یا خطا رخ میدهد، تیم باید بداند کدام مدل، کاربر، کلید یا مسیر درگیر بوده است. گزارش رخداد و Trace این مسیر را روشن میکند.
کنترلنشدن داده و سیاستها
ورودی و خروجی مدل میتواند شامل داده حساس، محتوای ناخواسته یا فرمت نامعتبر باشد. گاردریلها و سیاستهای Gateway ریسک را قبل از رسیدن به محصول کم میکنند.
پایش دقیق هر درخواست
داشبورد گدارAI گزارش رخدادها، مصرف، هزینه و تاخیر را کنار هم نشان میدهد تا تصمیمهای فنی و مالی قابل بررسی باشند.
درخواستها
1,234,567
مصرف توکن
45.2M
هزینه کل
$124.50
کاربران فعال
8,432
نمای درخواستها
گدارAI برای شرایط واقعی تیمهای ایرانی طراحی شده است؛ با تمرکز بر اتصال قابلاعتماد، کنترل هزینه و شفافیت مصرف.
هدف ما این است که تیم فنی بهجای مدیریت چند حساب و چند کلید، روی کیفیت تجربه کاربر و محصول تمرکز کند.