پرش به مطلب اصلی

ردیابی درخواست‌ها

«ردیابی درخواست‌ها» نشان می‌دهد یک درخواست از ورود به گدارAI تا تماس با ارائه‌دهنده و برگشت پاسخ چه مراحلی را طی کرده است. این صفحه برای زمانی است که لاگ کلی کافی نیست و باید ببینید کدام مرحله کند، ناموفق یا پرهزینه بوده است.

در ردیابی می‌توانید trace_id، request_id، مدل، ارائه‌دهنده، اندپوینت، کد وضعیت، خطا، مدت اجرا، تعداد تلاش‌ها، مصرف توکن و هزینه را کنار هم ببینید.

اطلاع

لاگ درخواست به شما می‌گوید «چه اتفاقی برای این درخواست افتاد». ردیابی درخواست کمک می‌کند بفهمید «این اتفاق در کدام مرحله و با چه ترتیب زمانی رخ داد».

چه زمانی از ردیابی استفاده کنید؟

از ردیابی درخواست‌ها وقتی استفاده کنید که:

  • درخواست با خطا تمام شده و باید علت دقیق‌تر را پیدا کنید.
  • تاخیر بالا است و می‌خواهید بدانید کندی از کدام مرحله آمده است.
  • retry یا fallback رخ داده و باید زنجیره تلاش‌ها را ببینید.
  • می‌خواهید مصرف و هزینه همان درخواست را با متریک‌ها مقایسه کنید.
  • چند تیم یا چند مسیر از یک درگاه مشترک استفاده می‌کنند و باید درخواست مشخصی را جدا کنید.

فیلترهای ردیابی

در فهرست ردیابی‌ها می‌توانید با این فیلدها جست‌وجو کنید:

  • شناسه ردیابی درخواست (trace_id)
  • شناسه درخواست (request_id)
  • مدل، ارائه‌دهنده و اندپوینت
  • کد وضعیت و کد خطا
  • بازه زمانی

تفکیک‌ها هم کمک می‌کنند با کلیک روی مدل، ارائه‌دهنده، اندپوینت، کد خطا یا کد وضعیت، همان لحظه فهرست را محدود کنید.

نکته

اگر از لاگ وارد ردیابی می‌شوید، بهترین مسیر استفاده از لینک Trace همان لاگ است. اگر فقط شناسه دارید، فیلتر trace_id یا request_id سریع‌ترین راه است.

صفحه جزئیات ردیابی

در «استودیوی ردیابی درخواست‌ها» این بخش‌ها را می‌بینید:

بخشکاربرد
خلاصه درخواستوضعیت درگاه، مسیر، زمان‌بندی، تعداد اسپن‌ها، خطاها و تلاش‌ها.
مصرف و هزینهتوکن ورودی، توکن خروجی، هزینه دلاری/ریالی، مدل ارائه‌دهنده و سنجه‌های زمان‌بندی مثل TTFT.
زنجیره تلاش‌هاتلاش‌های ارائه‌دهنده، مدت هر تلاش، وضعیت، دلیل retry و fallback.
خط زمانی آبشاریاسپن‌های اجرای درخواست و مدت هر مرحله.
بازرس فرادادهویژگی‌های ریشه ردیابی و فراداده درخواست.
بازرس خطاکد خطای ردیابی، نوع خطای متریک و خطاهای اسپن‌ها.

اسپن یعنی یک مرحله از اجرای درخواست. اگر خط زمانی در حالت آبشاری نمایش داده شود، نوارها اختلاف شروع هر اسپن و مدت آن را در بازه کل ردیابی نشان می‌دهند. اگر زمان شروع اسپن‌ها یکسان باشد، حالت مقایسه مدت نمایش داده می‌شود.

ارتباط با متریک‌ها

در جزئیات ردیابی، دکمه «باز کردن در متریک‌ها» همان زمینه درخواست را به صفحه متریک‌های مدل می‌برد. این مسیر برای زمانی مفید است که یک درخواست خاص مشکل داشته، اما می‌خواهید بدانید همان الگو در بازه زمانی بزرگ‌تر هم تکرار شده یا نه.

سیاست ثبت محتوای ردیابی

«حریم خصوصی ردیابی درخواست‌ها» مشخص می‌کند محتوای درخواست و پاسخ چگونه در ردیابی ثبت شود:

سیاست ثبتمقدار فنیرفتار
عدم ثبتnoneمحتوای پرامپت/پاسخ در ردیابی‌ها ثبت نمی‌شود.
فقط فرادادهmetadata-onlyفقط فراداده محتوا، مثل اندازه و چک‌سام، ثبت می‌شود. مقدار پیش‌فرض در نبود تنظیم اختصاصی است.
نمونه‌گیری‌شده با حذف داده حساسsampled-redactedنمونه‌هایی از محتوا با حذف اطلاعات حساس و هش‌کردن مقادیر حساس ثبت می‌شود.
کاملاً امنfull-secureمحتوا به‌صورت رمزنگاری‌شده در حالت ذخیره نگهداری می‌شود و فقط ارجاع آن در اسپن‌ها ثبت می‌شود.
هشدار

سیاست ثبت ردیابی را با توجه به داده واقعی محصولتان انتخاب کنید. اگر درخواست‌ها شامل داده شخصی، محرمانه یا اطلاعات مشتری هستند، ثبت کامل محتوا را بدون سیاست نگهداری، دسترسی و حذف داده فعال نکنید.

عیب‌یابی سریع

نشانهعلت‌های محتملبررسی پیشنهادی
ردیابی پیدا نمی‌شودشناسه اشتباه است، بازه زمانی محدود است یا ذخیره‌گاه ردیابی در محیط فعال نیست.فیلترها را پاک کنید، بازه را بزرگ‌تر کنید و از request_id هم جست‌وجو کنید.
خط زمانی خالی استاسپن برای آن درخواست ثبت نشده یا داده ردیابی ناقص است.خلاصه ردیابی و لاگ متناظر را بررسی کنید.
تلاش‌ها بیشتر از انتظار استretry یا fallback فعال شده است.بخش «زنجیره تلاش‌ها» و دلیل تلاش مجدد را ببینید.
هزینه یا توکن با انتظار شما فرق داردمدل واقعی، مدل ارائه‌دهنده یا مسیر جایگزین متفاوت بوده است.بخش «مصرف و هزینه» و لینک متریک‌ها را بررسی کنید.

گام بعدی

پرسش‌های پرتکرار

trace_id و request_id چه فرقی دارند؟

request_id شناسه خود درخواست است. trace_id شناسه ردیابی همان مسیر اجرایی است و برای بازکردن جزئیات مرحله‌ای استفاده می‌شود.

آیا ردیابی همیشه payload کامل را نشان می‌دهد؟

خیر. نمایش payload به سیاست ثبت ردیابی، سطح دسترسی و نوع داده بستگی دارد. در بسیاری از محیط‌های عملیاتی فقط فراداده ثبت می‌شود.

چرا باید از صفحه متریک‌ها هم استفاده کنم؟

ردیابی یک درخواست را توضیح می‌دهد؛ متریک‌ها نشان می‌دهند آیا همان رفتار در سطح مدل، ارائه‌دهنده، تیم یا بازه زمانی بزرگ‌تر هم دیده می‌شود یا نه.