olmOCR-7B-0725-FP8 API

مدل olmOCR-7B-0725-FP8 چیست؟

برای استفاده از olmOCR-7B-0725-FP8 در سرورنت، شناسهٔ عمومی di-allenaiolmocr-7b-0725-fp8-32cf57c7fe را ارسال کنید. درگاه با این شناسه مسیر تنظیم‌شده را انتخاب می‌کند؛ سازندهٔ مدل allenai است.

کاربردهای olmOCR-7B-0725-FP8

• از olmOCR-7B-0725-FP8 در دستیار پشتیبانی استفاده کنید و بخش مرتبط گفتگو را به‌صورت متن بفرستید.
• خلاصه‌سازی و استخراج اطلاعات با olmOCR-7B-0725-FP8 را روی اسناد خودتان، ابتدا با سقف خروجی کوچک، آزمایش کنید.
• پیش از انتخاب olmOCR-7B-0725-FP8 برای محصول، کیفیت پاسخ، مصرف کل توکن و هزینهٔ هر کار تکمیل‌شده را مقایسه کنید.

طراحی اتصال به مدل

پیام‌های سیستم و کاربر را بفرستید، max_tokens را تعیین کنید و X-Request-Id را کنار گزارش مصرف نگه دارید. استریم را فقط برای مسیر پشتیبانی‌شده به کار ببرید. فراخوانی تابع، کار موردنیاز را به برنامهٔ شما معرفی می‌کند؛ درگاه ابزارهای شما را اجرا نمی‌کند.

ورودی‌ها و محدودیت‌های سرویس

مسیر فعلی چت فقط متن و یک پاسخ در هر درخواست را می‌پذیرد. قابلیت‌های مدل اصلی، ورودی تصویر و صوت یا ابزارهای پولی میزبانی‌شده را فعال نمی‌کنند. حد زمینه و خروجیِ تنظیم‌شده ممکن است کمتر از حداکثر سازنده باشد. کیفیت زبان را روی داده‌های خودتان بسنجید.

اتصال به API مدل olmOCR-7B-0725-FP8

مجوز ai:chat را روی کلید و ai:models:read را برای بررسی موجودی فعال کنید. SERVERNET_API_KEY را در محیط سرور نگه دارید. برای هر درخواست تازه، کلید تکرارناپذیری را عوض کنید؛ فقط هنگام تکرار همان درخواست، آن را ثابت نگه دارید.

این نمونه، قالب درخواست را نشان می‌دهد. اجرای آن را به زمانی موکول کنید که شناسهٔ مدل در GET /v1/models موجود باشد.

curl https://servernet.cloud/v1/chat/completions \
  -H "Authorization: Bearer $SERVERNET_API_KEY" \
  -H 'Content-Type: application/json' \
  -H 'Idempotency-Key: CHANGE_FOR_EACH_NEW_REQUEST' \
  -d '{
    "model": "di-allenaiolmocr-7b-0725-fp8-32cf57c7fe",
    "messages": [
        {
            "role": "user",
            "content": "Hello"
        }
    ],
    "max_tokens": 128
}'

برای تلاش مجدد همان درخواست، Idempotency-Key ثابت بفرستید. پاسخ موفق تا ۲۴ ساعت بدون کسر دوباره بازپخش می‌شود. با x-should-retry:false درخواست را خودکار تکرار نکنید. کلید فقط یک بار نمایش داده می‌شود. آن را در متغیر محیطی سرور نگه دارید و در کد مرورگر، گیت‌هاب یا لاگ قرار ندهید.

مقایسه با مدل‌های همین کاربرد