Bağlanmadan önce#
AI erişimi, oturum açmayı, en az 100 USD tutarında onaylanmış bir yükleme, yetkili bir API anahtarı ve istek için yeterli kullanılabilir kredi gerektirir. Sonraki her yükleme de 100 USD minimuma sahiptir; daha küçük kalan bakiyeler isteği karşıladığında kullanılabilir kalır. Kredi, işlem doğrulaması gerektirir. Trafik göndermeden önce model kullanılabilirliği için hizmet durumunu kontrol edin. Anahtar alanlarında Bearer öneki olmadan kendi API anahtarınızı kullanın. Temel URL zaten /v1 içerir. Bu yapılandırmalar canlı bir GPU dağıtımına karşı test edilmedi, resmi belgelere göre kontrol edildi.
Yapılandırma#
Resmi OpenAI-API uyumlu sağlayıcıyı (langgenius/openai_api_compatible) yoksa kurun, ardından çalışma alanı model-sağlayıcı ayarları altına modeli ekleyin. Bir LLM/sohbet modeli için alanlar:
| Alan | Değer |
|---|---|
| Tür | LLM |
| Model Adı | Qwen/Qwen3-32B |
| API Anahtarı | WEIGHTSAPI_API_KEY |
| API Temel URL'si | https://weightsapi.com/v1 |
| Tamamlama modu | Sohbet |
| API Türü | Sohbet Tamamlama API'si (/chat/completions) |
| Model bağlam boyutu | Gerçek dağıtım bağlam sınırı |
| Maks. token üst sınırı | Gerçek dağıtım çıktı sınırı |
| Görüntü Desteği | Bu yalnızca metin modeli için desteklenmiyor |
| Fonksiyon Çağrı Türü | Yerel araçlar doğrulanana kadar desteklenmiyor |
Tam temel kimlik bilgisi adları api_key, endpoint_url, mode: chat, api_type: chat_completions, context_size ve max_tokens_to_sample şeklindedir. İsteğe bağlı bir API uç noktası için model adı (endpoint_model_name) gönderilen model adını geçersiz kılabilir; Model Adı zaten eşleşiyorsa boş bırakın. Bu LLM tarifi için /v1 dahil temel URL'yi kullanın; bu eklenti LLM olmayan türler için farklı yol işleme sahiptir, bu nedenle bu tarifi kontrol etmeden embedding'lere genişletmeyin.
Kaynaklar: Resmi pazar yeri listesi, resmi sağlayıcı alan şeması.
Bağlantıyı doğrulayın#
Model listesini getirin, ardından kısa bir mesaj gönderin. Başarılı bir model listesi araç, görüntü veya JSON şeması desteğini kanıtlamaz. Seçilen dağıtımın yeteneklerini etkinleştirmeden önce kontrol edin.