Phi-3-medium-4k-instruct API

مدل Phi-3-medium-4k-instruct چیست؟

برای استفاده از Phi-3-medium-4k-instruct در سرورنت، شناسهٔ عمومی di-microsoftphi-3-medium-4k-instruct-a08fd4b664 را ارسال کنید. درگاه با این شناسه مسیر تنظیم‌شده را انتخاب می‌کند؛ سازندهٔ مدل microsoft است.

کاربردهای Phi-3-medium-4k-instruct

• از Phi-3-medium-4k-instruct در دستیار پشتیبانی استفاده کنید و بخش مرتبط گفتگو را به‌صورت متن بفرستید.
• خلاصه‌سازی و استخراج اطلاعات با Phi-3-medium-4k-instruct را روی اسناد خودتان، ابتدا با سقف خروجی کوچک، آزمایش کنید.
• پیش از انتخاب Phi-3-medium-4k-instruct برای محصول، کیفیت پاسخ، مصرف کل توکن و هزینهٔ هر کار تکمیل‌شده را مقایسه کنید.

طراحی اتصال به مدل

پیام‌های سیستم و کاربر را بفرستید، max_tokens را تعیین کنید و X-Request-Id را کنار گزارش مصرف نگه دارید. استریم را فقط برای مسیر پشتیبانی‌شده به کار ببرید. فراخوانی تابع، کار موردنیاز را به برنامهٔ شما معرفی می‌کند؛ درگاه ابزارهای شما را اجرا نمی‌کند.

ورودی‌ها و محدودیت‌های سرویس

مسیر فعلی چت فقط متن و یک پاسخ در هر درخواست را می‌پذیرد. قابلیت‌های مدل اصلی، ورودی تصویر و صوت یا ابزارهای پولی میزبانی‌شده را فعال نمی‌کنند. حد زمینه و خروجیِ تنظیم‌شده ممکن است کمتر از حداکثر سازنده باشد. کیفیت زبان را روی داده‌های خودتان بسنجید.

اتصال به API مدل Phi-3-medium-4k-instruct

مجوز ai:chat را روی کلید و ai:models:read را برای بررسی موجودی فعال کنید. SERVERNET_API_KEY را در محیط سرور نگه دارید. برای هر درخواست تازه، کلید تکرارناپذیری را عوض کنید؛ فقط هنگام تکرار همان درخواست، آن را ثابت نگه دارید.

این نمونه، قالب درخواست را نشان می‌دهد. اجرای آن را به زمانی موکول کنید که شناسهٔ مدل در GET /v1/models موجود باشد.

curl https://servernet.cloud/v1/chat/completions \
  -H "Authorization: Bearer $SERVERNET_API_KEY" \
  -H 'Content-Type: application/json' \
  -H 'Idempotency-Key: CHANGE_FOR_EACH_NEW_REQUEST' \
  -d '{
    "model": "di-microsoftphi-3-medium-4k-instruct-a08fd4b664",
    "messages": [
        {
            "role": "user",
            "content": "Hello"
        }
    ],
    "max_tokens": 128
}'

برای تلاش مجدد همان درخواست، Idempotency-Key ثابت بفرستید. پاسخ موفق تا ۲۴ ساعت بدون کسر دوباره بازپخش می‌شود. با x-should-retry:false درخواست را خودکار تکرار نکنید. کلید فقط یک بار نمایش داده می‌شود. آن را در متغیر محیطی سرور نگه دارید و در کد مرورگر، گیت‌هاب یا لاگ قرار ندهید.

مقایسه با مدل‌های همین کاربرد