Nemotron-3.5-Embed-8B-BF16 API

مدل Nemotron-3.5-Embed-8B-BF16 چیست؟

برای استفاده از Nemotron-3.5-Embed-8B-BF16 در سرورنت، شناسهٔ عمومی di-nvidianemotron-35-embed-8b-bf16-8c81fe254d را ارسال کنید. درگاه با این شناسه مسیر تنظیم‌شده را انتخاب می‌کند؛ سازندهٔ مدل nvidia است.

کاربردهای Nemotron-3.5-Embed-8B-BF16

• قطعه‌های اسناد را با Nemotron-3.5-Embed-8B-BF16 برای جستجوی معنایی نمایه‌سازی کنید.
• عبارت جستجو را با همان مدل Nemotron-3.5-Embed-8B-BF16 که نمایه را ساخته است به بردار تبدیل کنید.
• کیفیت بازیابی را پیش از ترکیب نتیجه با مدل تولید متن بسنجید.

طراحی اتصال به مدل

یک رشته یا فهرست رشته‌ها را به /v1/embeddings بفرستید و بردارها را در نمایهٔ جستجو ذخیره کنید. هنگام تغییر مدل، نمایه را بازسازی و ابعاد بردار را بررسی کنید؛ بردارهای ناسازگار را مخلوط نکنید.

ورودی‌ها و محدودیت‌های سرویس

مسیر، متن ساده و دسته‌های حداکثر ۱۲۸ متنی را می‌پذیرد. آرایهٔ شناسهٔ توکن، ورودی رسانه و قالب خروجی پشتیبانی‌نشده رد می‌شوند. اندازهٔ قطعه‌ها را متناسب با حد ورودی تنظیم‌شدهٔ مدل انتخاب کنید.

نمونهٔ محاسبهٔ هزینهٔ درخواست

برای 1,000 توکن ورودی و 0 توکن خروجی، بدون تخفیف کش. این عدد برآورد کاتالوگ است و هزینهٔ ثابت هر درخواست نیست. مصرف گزارش‌شده و قیمت تثبیت‌شدهٔ درخواست، مبلغ مصرف را تعیین می‌کنند.

برآورد مبلغ مصرف، تومان

11

اتصال به API مدل Nemotron-3.5-Embed-8B-BF16

مجوز ai:embedding را روی کلید و ai:models:read را برای بررسی موجودی فعال کنید. SERVERNET_API_KEY را در محیط سرور نگه دارید. برای هر درخواست تازه، کلید تکرارناپذیری را عوض کنید؛ فقط هنگام تکرار همان درخواست، آن را ثابت نگه دارید.

این نمونه، قالب درخواست را نشان می‌دهد. اجرای آن را به زمانی موکول کنید که شناسهٔ مدل در GET /v1/models موجود باشد.

curl https://servernet.cloud/v1/embeddings \
  -H "Authorization: Bearer $SERVERNET_API_KEY" \
  -H 'Content-Type: application/json' \
  -H 'Idempotency-Key: CHANGE_FOR_EACH_NEW_REQUEST' \
  -d '{
    "model": "di-nvidianemotron-35-embed-8b-bf16-8c81fe254d",
    "input": [
        "Hello world",
        "Search documents"
    ]
}'

برای تلاش مجدد همان درخواست، Idempotency-Key ثابت بفرستید. پاسخ موفق تا ۲۴ ساعت بدون کسر دوباره بازپخش می‌شود. با x-should-retry:false درخواست را خودکار تکرار نکنید. کلید فقط یک بار نمایش داده می‌شود. آن را در متغیر محیطی سرور نگه دارید و در کد مرورگر، گیت‌هاب یا لاگ قرار ندهید.

مقایسه با مدل‌های همین کاربرد