weightsapi.INFERÊNCIAConsole
Navegação
LangChain (Python)

LangChain (Python)

Configure o LangChain (Python) com o endpoint compatível com OpenAI do WeightsAPI.

Antes de conectar#

O acesso à IA requer login, uma recarga confirmada de pelo menos USD 100, uma chave de API autorizada e crédito disponível suficiente para a solicitação. Cada recarga posterior também tem um mínimo de USD 100; saldos restantes menores permanecem utilizáveis quando cobrem a solicitação. O crédito requer verificação da transação. Verifique o status do serviço para disponibilidade do modelo antes de enviar tráfego. Use sua própria chave de API sem o prefixo Bearer nos campos de chave. A URL base já inclui /v1. Essas configurações foram verificadas em relação à documentação oficial, não testadas em uma implantação GPU ao vivo.

Configuração#

Instale langchain-openai e, em seguida:

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="Qwen/Qwen3-32B",
    base_url=os.environ["https://weightsapi.com/v1"],
    api_key=os.environ["WEIGHTSAPI_API_KEY"],
)
print(llm.invoke("Say hello in one sentence.").content)

Para JavaScript, ChatOpenAI de @langchain/openai aceita model, apiKey e configuration: { baseURL: ... }. Os campos padrão são suportados; a LangChain diz que campos de resposta específicos do provedor podem não ser preservados pelo ChatOpenAI.

Fontes: Provedores compatíveis com Python, Provedores compatíveis com JavaScript.

Verifique a conexão#

Busque a lista de modelos e, em seguida, envie uma mensagem curta. Uma lista de modelos bem-sucedida não comprova suporte a ferramentas, visão ou esquema JSON. Verifique os recursos da implantação selecionada antes de habilitá-los.