Bağlanmadan önce#
AI erişimi, oturum açmayı, en az 100 USD tutarında onaylanmış bir yükleme, yetkili bir API anahtarı ve istek için yeterli kullanılabilir kredi gerektirir. Sonraki her yükleme de 100 USD minimuma sahiptir; daha küçük kalan bakiyeler isteği karşıladığında kullanılabilir kalır. Kredi, işlem doğrulaması gerektirir. Trafik göndermeden önce model kullanılabilirliği için hizmet durumunu kontrol edin. Anahtar alanlarında Bearer öneki olmadan kendi API anahtarınızı kullanın. Temel URL zaten /v1 içerir. Bu yapılandırmalar canlı bir GPU dağıtımına karşı test edilmedi, resmi belgelere göre kontrol edildi.
Yapılandırma#
langchain-openai yükleyin, ardından:
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="Qwen/Qwen3-32B",
base_url=os.environ["https://weightsapi.com/v1"],
api_key=os.environ["WEIGHTSAPI_API_KEY"],
)
print(llm.invoke("Say hello in one sentence.").content)
JavaScript için, @langchain/openai içindeki ChatOpenAI, model, apiKey ve configuration: { baseURL: ... } parametrelerini alır. Standart alanlar desteklenir; LangChain, sağlayıcıya özgü yanıt alanlarının ChatOpenAI tarafından korunmayabileceğini belirtir.
Kaynaklar: Python uyumlu sağlayıcılar, JavaScript uyumlu sağlayıcılar.
Bağlantıyı doğrulayın#
Model listesini getirin, ardından kısa bir mesaj gönderin. Başarılı bir model listesi araç, görüntü veya JSON şeması desteğini kanıtlamaz. Seçilen dağıtımın yeteneklerini etkinleştirmeden önce kontrol edin.