在连接之前#
AI 访问需要登录、至少 100 美元的一次性确认充值、授权的 API 密钥以及足够的可用余额来覆盖请求。每次后续充值的最低金额也是 100 美元;较小的剩余余额在足以覆盖请求时仍可使用。余额需要交易验证。在发送流量之前,请检查服务状态以了解模型可用性。 在密钥字段中使用您自己的 API 密钥,不含 Bearer 前缀。基础 URL 已包含 /v1。这些配置已对照官方文档进行检查,但未在实时 GPU 部署上进行测试。
配置#
安装 llama-index-llms-openai-like,然后:
import os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="Qwen/Qwen3-32B",
api_base=os.environ["https://weightsapi.com/v1"],
api_key=os.environ["WEIGHTSAPI_API_KEY"],
is_chat_model=True,
is_function_calling_model=False,
)
print(llm.complete("Say hello in one sentence."))
对于任意兼容模型 ID,请使用 OpenAILike。确切的 URL 参数是 api_base。在使用 RAG 或长输入时,请根据实际部署设置 context_window。仅在端点支持得到确认后,才将 is_function_calling_model 更改为 true。
验证连接#
获取模型列表,然后发送一条简短消息。模型列表成功并不证明支持工具、视觉或 JSON schema。启用这些功能前请检查所选部署的能力。