Antes de conectar#
O acesso à IA requer login, uma recarga confirmada de pelo menos USD 100, uma chave de API autorizada e crédito disponível suficiente para a solicitação. Cada recarga posterior também tem um mínimo de USD 100; saldos restantes menores permanecem utilizáveis quando cobrem a solicitação. O crédito requer verificação da transação. Verifique o status do serviço para disponibilidade do modelo antes de enviar tráfego. Use sua própria chave de API sem o prefixo Bearer nos campos de chave. A URL base já inclui /v1. Essas configurações foram verificadas contra a documentação oficial, não testadas contra uma implantação de GPU ao vivo.
Configuración#
Instale llama-index-llms-openai-like y luego:
import os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="Qwen/Qwen3-32B",
api_base=os.environ["https://weightsapi.com/v1"],
api_key=os.environ["WEIGHTSAPI_API_KEY"],
is_chat_model=True,
is_function_calling_model=False,
)
print(llm.complete("Say hello in one sentence."))
Use OpenAILike para IDs de modelo compatibles arbitrarios. El parámetro de URL exacto es api_base. Establezca context_window del despliegue real al usar RAG o entradas largas. Cambie is_function_calling_model a true solo después de confirmar el soporte del endpoint.
Fuente: Referencia actual de la API OpenAILike.
Verificar la conexión#
Consulte la lista de modelos y luego envíe un mensaje corto. Una lista de modelos exitosa no demuestra soporte de herramientas, visión o esquema JSON. Verifique las capacidades del despliegue seleccionado antes de habilitarlas.