افهم ما تديره الخدمة
الاستدلال المُدار يضع خدمة النماذج خلف واجهة برمجية حتى يتمكن تطبيقك من طلب إجابة دون تشغيل خادم GPU بنفسك. تستخدم WeightsAPI صيغة طلبات متوافقة مع OpenAI للنماذج مفتوحة الأوزان؛ تحقق من حالة الخدمة لمدى التوفر.
أنت ما تزال تملك التطبيق: الموجهات، واختيار البيانات، والأذونات، وسلوك إعادة المحاولة، وفحوصات المخرجات. ابدأ بمهمة محددة وحدد كيف تبدو الإجابة المفيدة. يقدم دليل حالات الاستخدام نقاط بداية دون الوعد بأن كل نموذج يدعم كل ميزة.
اختر نموذجًا للمهمة الفعلية
استخدم كتالوج النماذج لمقارنة القدرات والتراخيص والسياق ومعدلات الإدخال/الإخراج. اقرأ صفحة النموذج، ثم استخدم معرف النموذج الدقيق في طلبك. ميز بين السياق الأصلي للناشر وحد النشر المؤكد: يجب أن يتسع الإدخال والمخرج المقصود للأخير.
إدراج في الكتالوج لا يثبت توفر النشر. اكتشاف النماذج يسرد عمليات النشر المتصلة عند توفر خلفية. قارن المعدلات ذات الصلة على التسعير بدلاً من افتراض أن جميع النماذج تكلف نفسها.
جهّز طلبًا صغيرًا قابلًا للفحص
ابدأ بتوجيه قصير، ومعرّف النموذج الدقيق، ومخرجات محدودة. يشرح الدليل السريع تنسيق إكمالات الدردشة. أضف فقط سجل المحادثة اللازم للمهمة، واحتفظ ببيانات اعتماد API على خادمك.
البث اختياري: يوصل الإجابة في أحداث بدلًا من استجابة مكتملة واحدة. اقرأ دليل البث قبل تمكينه، بما في ذلك كيفية التعامل مع الاستجابات المنقطعة وسجل الاستخدام النهائي.
افصل بين الوصول والإنفاق
سجّل الدخول إلى وحدة التحكم. أنشئ مفاتيح منفصلة للتطبيقات أو البيئات، وحدد سقف إنفاق موجبًا وقيد النماذج المسموح بها عند الحاجة. احفظ السر عند عرضه لأول مرة.
سقف المفتاح ينطبق على الاستخدام المسجل مدى الحياة والحجوزات المعلقة، وليس بدلًا شهريًا. استبدل المفاتيح المكشوفة وألغِ القديمة. يشرح الأسئلة الشائعة كيف ترتبط المفاتيح والرصيد والطلبات المعلقة.
يتطلب وصول الذكاء الاصطناعي تسجيل الدخول، وإيداعًا مؤكدًا مرة واحدة بقيمة 100 دولار أمريكي على الأقل، ومفتاح API مصرحًا به ورصيدًا متاحًا كافيًا للطلب. كل إيداع لاحق له أيضًا حد أدنى 100 دولار أمريكي؛ الأرصدة المتبقية الأصغر تبقى قابلة للاستخدام عندما تغطي الطلب. يتطلب الرصيد تحققًا من المعاملة. تحقق من حالة الخدمة لمدى توفر النموذج قبل إرسال الحركة.
ميز بين الرصيد المتاح والتكلفة النهائية
بالنسبة للطلب المدفوع المقبول، يغطي الرصيد المتاح الإدخال والحد الأقصى للإخراج قبل بدء التوليد. التكلفة النهائية تستخدم استخدام الإدخال/الإخراج الفعلي؛ الحجز الأولي ليس الرسوم النهائية. يمكن للطلبات التي تنتظر التسوية أن تقلل الرصيد المتاح.
إذا توقفت الاستجابة قبل تأكيد الاستخدام النهائي، يمكن أن يبقى الحجز حتى المصالحة. يوفر أمر التمويل تعليمات الدفع؛ يتطلب الرصيد تحققًا من المعاملة. راجع الفوترة لمواعيد التسعير والتأكيدات والرصيد المتاح.
راجع النتيجة قبل التوسع
بالنسبة لأسئلة المستندات، اجعل تطبيقك يختار المقاطع ذات الصلة، ويطلب إجابة مع استشهادات ويفحص تلك الاستشهادات مقابل المصادر. احتفظ بأذونات المستندات والمراجعة النهائية في تطبيقك.
قيّم جودة الإجابة واستخدام السياق والإنفاق المتوقع بأمثلة تمثيلية. وسّع فقط بعد اختبار القدرات المطلوبة. للأخطاء أو التدفقات المتقطعة أو الرصيد المعلق، اتبع دليل الدعم واحتفظ بتقرير معقم.