weightsapi.INFERENCIAConsola
Navegación
Dify

Dify

Configure Dify con el endpoint compatible con OpenAI de WeightsAPI.

Antes de conectar#

O acesso à IA requer login, uma recarga confirmada de pelo menos USD 100, uma chave de API autorizada e crédito disponível suficiente para a solicitação. Cada recarga posterior também tem um mínimo de USD 100; saldos restantes menores permanecem utilizáveis quando cobrem a solicitação. O crédito requer verificação da transação. Verifique o status do serviço para disponibilidade do modelo antes de enviar tráfego. Use sua própria chave de API sem o prefixo Bearer nos campos de chave. A URL base já inclui /v1. Essas configurações foram verificadas contra a documentação oficial, não testadas contra uma implantação de GPU ao vivo.

Configuración#

Instale el proveedor oficial compatible con la API de OpenAI (langgenius/openai_api_compatible) si no está presente y luego agregue el modelo en la configuración del proveedor de modelos del espacio de trabajo. Campos para un modelo LLM/chat:

Campo Valor
Tipo LLM
Nombre del modelo Qwen/Qwen3-32B
Clave de API WEIGHTSAPI_API_KEY
URL base de API https://weightsapi.com/v1
Modo de finalización Chat
Tipo de API Chat Completions API (/chat/completions)
Tamaño de contexto del modelo Límite de contexto del despliegue real
Límite superior para tokens máximos Límite de salida del despliegue real
Soporte de visión Sin soporte para este modelo de solo texto
Tipo de llamada de función Sin soporte hasta que se verifiquen las herramientas nativas

Los nombres exactos de las credenciales subyacentes son api_key, endpoint_url, mode: chat, api_type: chat_completions, context_size y max_tokens_to_sample. Un nombre de modelo para el endpoint de API opcional (endpoint_model_name) puede anular el nombre de modelo enviado; déjelo en blanco cuando el Nombre del modelo ya coincida. Use la URL base incluida /v1 para esta receta de LLM; este complemento tiene un manejo de rutas diferente para tipos que no son LLM, así que no extienda esta receta a embeddings sin verificar.

Fuentes: Listado oficial del marketplace, esquema oficial de campos del proveedor.

Verificar la conexión#

Consulte la lista de modelos y luego envíe un mensaje corto. Una lista de modelos exitosa no demuestra soporte de herramientas, visión o esquema JSON. Verifique las capacidades del despliegue seleccionado antes de habilitarlas.