Zanim się połączysz#
Dostęp do AI wymaga zalogowania, jednego potwierdzonego doładowania w wysokości co najmniej 100 USD, autoryzowanego klucza API i wystarczających dostępnych środków na żądanie. Każde kolejne doładowanie również ma minimum 100 USD; mniejsze pozostałe salda pozostają użyteczne, gdy pokrywają żądanie. Środki wymagają weryfikacji transakcji. Sprawdź status usługi, aby poznać dostępność modeli przed wysłaniem ruchu. Użyj własnego klucza API bez prefiksu Bearer w polach klucza. Bazowy adres URL już zawiera /v1. Te konfiguracje zostały sprawdzone pod kątem oficjalnej dokumentacji, a nie przetestowane na działającym wdrożeniu GPU.
Konfiguracja#
Zainstaluj langchain-openai, a następnie:
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="Qwen/Qwen3-32B",
base_url=os.environ["https://weightsapi.com/v1"],
api_key=os.environ["WEIGHTSAPI_API_KEY"],
)
print(llm.invoke("Say hello in one sentence.").content)
W przypadku JavaScript, ChatOpenAI z @langchain/openai przyjmuje model, apiKey i configuration: { baseURL: ... }. Pola standardowe są obsługiwane; LangChain informuje, że pola odpowiedzi specyficzne dla dostawcy mogą nie zostać zachowane przez ChatOpenAI.
Źródła: Zgodni dostawcy Python, Zgodni dostawcy JavaScript.
Zweryfikuj połączenie#
Pobierz listę modeli, a następnie wyślij jedną krótką wiadomość. Pomyślne pobranie listy modeli nie dowodzi wsparcia dla narzędzi, wizji ani schematu JSON. Sprawdź możliwości wybranego wdrożenia przed ich włączeniem.