Nemotron-3.5-Rerank-8B-BF16 API

مدل Nemotron-3.5-Rerank-8B-BF16 چیست؟

برای استفاده از Nemotron-3.5-Rerank-8B-BF16 در سرورنت، شناسهٔ عمومی di-nvidianemotron-35-rerank-8b-bf16-2752e71a5e را ارسال کنید. درگاه با این شناسه مسیر تنظیم‌شده را انتخاب می‌کند؛ سازندهٔ مدل nvidia است.

کاربردهای Nemotron-3.5-Rerank-8B-BF16

• نامزدهای بازیابی‌شده از نمایهٔ جستجو را با Nemotron-3.5-Rerank-8B-BF16 بازرتبه‌بندی کنید.
• در فرایند پاسخ‌گویی با اسناد، مرتبط‌ترین قطعه‌ها را زودتر در اختیار مدل متن قرار دهید.
• پیش از استفاده از Nemotron-3.5-Rerank-8B-BF16 برای همهٔ جستجوها، کیفیت رتبه‌بندی و تأخیر اضافه را با پرسش‌های واقعی بسنجید.

طراحی اتصال به مدل

query و documents را به /v1/rerank بفرستید و نامزدها را با امتیاز ارتباط مرتب کنید. ابتدا فهرستی کوتاه بازیابی کنید تا بازرتبه‌بندی فقط روی اسناد ارزشمند انجام شود.

ورودی‌ها و محدودیت‌های سرویس

پرسش متنی و حداکثر ۱۲۸ سند متنی بفرستید. پرسش با هر نامزد جفت می‌شود؛ افزودن اسناد بلند، مصرف ورودی را افزایش می‌دهد. رسانه و پارامترهای اختصاصی پشتیبانی‌نشده ارسال نمی‌شوند.

نمونهٔ محاسبهٔ هزینهٔ درخواست

برای 1,000 توکن ورودی و 0 توکن خروجی، بدون تخفیف کش. این عدد برآورد کاتالوگ است و هزینهٔ ثابت هر درخواست نیست. مصرف گزارش‌شده و قیمت تثبیت‌شدهٔ درخواست، مبلغ مصرف را تعیین می‌کنند.

برآورد مبلغ مصرف، تومان

15

اتصال به API مدل Nemotron-3.5-Rerank-8B-BF16

مجوز ai:rerank را روی کلید و ai:models:read را برای بررسی موجودی فعال کنید. SERVERNET_API_KEY را در محیط سرور نگه دارید. برای هر درخواست تازه، کلید تکرارناپذیری را عوض کنید؛ فقط هنگام تکرار همان درخواست، آن را ثابت نگه دارید.

curl https://servernet.cloud/v1/rerank \
  -H "Authorization: Bearer $SERVERNET_API_KEY" \
  -H 'Content-Type: application/json' \
  -H 'Idempotency-Key: CHANGE_FOR_EACH_NEW_REQUEST' \
  -d '{
    "model": "di-nvidianemotron-35-rerank-8b-bf16-2752e71a5e",
    "query": "What is the capital of Iran?",
    "documents": [
        "Tehran is the capital of Iran.",
        "Paris is the capital of France."
    ]
}'

برای تلاش مجدد همان درخواست، Idempotency-Key ثابت بفرستید. پاسخ موفق تا ۲۴ ساعت بدون کسر دوباره بازپخش می‌شود. با x-should-retry:false درخواست را خودکار تکرار نکنید. کلید فقط یک بار نمایش داده می‌شود. آن را در متغیر محیطی سرور نگه دارید و در کد مرورگر، گیت‌هاب یا لاگ قرار ندهید.

مقایسه با مدل‌های همین کاربرد