Voordat u verbinding maakt#
AI-toegang vereist aanmelding, één bevestigde opwaardering van ten minste USD 100, een geautoriseerde API-sleutel en voldoende beschikbaar krediet voor de aanvraag. Elke latere opwaardering heeft ook een minimum van USD 100; kleinere resterende saldi blijven bruikbaar wanneer ze de aanvraag dekken. Krediet vereist transactieverificatie. Controleer de servicestatus op modelbeschikbaarheid voordat u verkeer verstuurt. Gebruik uw eigen API-sleutel zonder het Bearer-voorvoegsel in sleutelvelden. De basis-URL bevat al /v1. Deze configuraties zijn gecontroleerd aan de hand van officiële documentatie, niet getest tegen een live GPU-implementatie.
Configuratie#
Installeer llama-index-llms-openai-like en voer vervolgens uit:
import os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="Qwen/Qwen3-32B",
api_base=os.environ["https://weightsapi.com/v1"],
api_key=os.environ["WEIGHTSAPI_API_KEY"],
is_chat_model=True,
is_function_calling_model=False,
)
print(llm.complete("Say hello in one sentence."))
Gebruik OpenAILike voor willekeurige compatibele model-ID's. De exacte URL-parameter is api_base. Stel context_window in op basis van de werkelijke implementatie wanneer u RAG of lange invoer gebruikt. Wijzig is_function_calling_model pas in true nadat endpointondersteuning is bevestigd.
Bron: Huidige OpenAILike API-referentie.
Controleer de verbinding#
Haal de modellenlijst op en stuur vervolgens één kort bericht. Een succesvolle modellenlijst bewijst geen ondersteuning voor tools, vision of JSON-schema. Controleer de mogelijkheden van de geselecteerde implementatie voordat u deze inschakelt.