Nemotron-3.5-Rerank-8B-BF16 API

Nemotron-3.5-Rerank-8B-BF16 nedir?

ServerNet üzerinden Nemotron-3.5-Rerank-8B-BF16 kullanmak için di-nvidianemotron-35-rerank-8b-bf16-2752e71a5e genel kimliğini gönderin. Ağ geçidi bu kimlikle yapılandırılmış yolu seçer; modelin geliştiricisi nvidia.

Nemotron-3.5-Rerank-8B-BF16 kullanım alanları

• Arama dizininizdeki adayları Nemotron-3.5-Rerank-8B-BF16 ile yeniden sıralayın.
• Belge destekli yanıt üretiminde en ilgili parçaları önce yerleştirin.
• Nemotron-3.5-Rerank-8B-BF16 her aramada kullanılmadan önce sıralama kalitesini ve ek gecikmeyi temsili sorgularda karşılaştırın.

Entegrasyonunuzu oluşturun

query ve documents alanlarını /v1/rerank yoluna gönderin; adayları ilişki puanlarına göre sıralayın. Önce kısa bir aday listesi getirin; böylece yalnızca karşılaştırmaya değer belgeler puanlanır.

Girdiler ve hizmet sınırları

Metin sorguları ve en fazla 128 metin belgesi kullanın. Sorgu her adayla eşleştirilir; uzun belgeler girdi tüketimini artırır. Medya ve desteklenmeyen özel parametreler iletilmez.

Örnek istek maliyeti

Önbellek indirimi olmadan 1,000 girdi ve 0 çıktı tokeni için. Bu bir katalog tahminidir; sabit istek ücreti değildir. Bildirilen tüketim ve isteğiniz için sabitlenen fiyat, kullanım tutarını belirler.

Tahmini kullanım, Toman

15

Nemotron-3.5-Rerank-8B-BF16 API bağlantısı

Anahtarınızda ai:rerank yetkisini, kullanılabilirliği kontrol etmek için ai:models:read yetkisini etkinleştirin. SERVERNET_API_KEY değerini sunucu ortamında saklayın. Her yeni istek için tekrar anahtarını değiştirin; yalnızca aynı isteği yeniden gönderirken sabit tutun.

curl https://servernet.cloud/v1/rerank \
  -H "Authorization: Bearer $SERVERNET_API_KEY" \
  -H 'Content-Type: application/json' \
  -H 'Idempotency-Key: CHANGE_FOR_EACH_NEW_REQUEST' \
  -d '{
    "model": "di-nvidianemotron-35-rerank-8b-bf16-2752e71a5e",
    "query": "What is the capital of Iran?",
    "documents": [
        "Tehran is the capital of Iran.",
        "Paris is the capital of France."
    ]
}'

Aynı isteği yeniden denerken aynı Idempotency-Key değerini kullanın. Başarılı yanıtlar 24 saat boyunca yeniden ücret alınmadan oynatılır. x-should-retry:false varsa otomatik tekrar denemeyin. Anahtar yalnızca bir kez gösterilir. Sunucu ortam değişkeninde saklayın; tarayıcı koduna, GitHub’a veya günlüklere eklemeyin.

Aynı görev için modelleri karşılaştırın