weightsapi.INFERÊNCIAConsole
Navegação
Dify

Dify

Configure o Dify com o endpoint compatível com OpenAI do WeightsAPI.

Antes de conectar#

O acesso à IA requer login, uma recarga confirmada de pelo menos USD 100, uma chave de API autorizada e crédito disponível suficiente para a solicitação. Cada recarga posterior também tem um mínimo de USD 100; saldos restantes menores permanecem utilizáveis quando cobrem a solicitação. O crédito requer verificação da transação. Verifique o status do serviço para disponibilidade do modelo antes de enviar tráfego. Use sua própria chave de API sem o prefixo Bearer nos campos de chave. A URL base já inclui /v1. Essas configurações foram verificadas em relação à documentação oficial, não testadas em uma implantação GPU ao vivo.

Configuração#

Instale o provedor oficial OpenAI-API-compatible (langgenius/openai_api_compatible) se ausente e, em seguida, adicione o modelo nas configurações de provedor de modelo do espaço de trabalho. Campos para um modelo LLM/chat:

Campo Valor
Tipo LLM
Nome do Modelo Qwen/Qwen3-32B
Chave de API WEIGHTSAPI_API_KEY
URL Base da API https://weightsapi.com/v1
Modo de conclusão Chat
Tipo de API Chat Completions API (/chat/completions)
Tamanho do contexto do modelo Limite real do contexto da implantação
Limite superior para tokens máximos Limite real de saída da implantação
Suporte a Visão Não suportado para este modelo somente texto
Tipo de Chamada de Função Não suportado até que as ferramentas nativas sejam verificadas

Os nomes exatos das credenciais subjacentes são api_key, endpoint_url, mode: chat, api_type: chat_completions, context_size e max_tokens_to_sample. Um nome de modelo para endpoint de API opcional (endpoint_model_name) pode substituir o nome do modelo enviado; deixe em branco quando o Nome do Modelo já corresponder. Use a URL base incluindo /v1 para esta receita de LLM; este plugin tem tratamento de caminho diferente para tipos não LLM, portanto não estenda esta receita para embeddings sem verificar.

Fontes: Listagem oficial no marketplace, esquema de campos do provedor oficial.

Verifique a conexão#

Busque a lista de modelos e, em seguida, envie uma mensagem curta. Uma lista de modelos bem-sucedida não comprova suporte a ferramentas, visão ou esquema JSON. Verifique os recursos da implantação selecionada antes de habilitá-los.