weightsapi.ИНФЕРЕНЦИЯКонсоль
Навигация
Dify

Dify

Настройте Dify для работы с конечной точкой WeightsAPI, совместимой с OpenAI.

Перед подключением#

Доступ к ИИ требует входа в систему, одного подтвержденного пополнения на сумму не менее 100 долларов США, авторизованного API-ключа и достаточного доступного кредита для запроса. Каждое последующее пополнение также имеет минимум 100 долларов США; меньшие остатки остаются пригодными для использования, если покрывают запрос. Кредит требует проверки транзакции. Проверьте статус сервиса для информации о доступности моделей перед отправкой трафика. Используйте собственный API-ключ без префикса Bearer в полях ключа. Базовый URL уже включает /v1. Эти конфигурации проверены по официальной документации, но не тестировались на реальном GPU-развертывании.

Конфигурация#

Установите официальный провайдер, совместимый с OpenAI API (langgenius/openai_api_compatible), если он отсутствует, затем добавьте модель в настройках провайдера моделей рабочей области. Поля для модели LLM/чат:

Поле Значение
Тип LLM
Имя модели Qwen/Qwen3-32B
API-ключ WEIGHTSAPI_API_KEY
Базовый URL API https://weightsapi.com/v1
Режим завершения Чат
Тип API Chat Completions API (/chat/completions)
Размер контекста модели Фактический лимит контекста развёртывания
Верхняя граница max tokens Фактический лимит вывода развёртывания
Поддержка зрения Не поддерживается для этой текстовой модели
Тип вызова функций Не поддерживается, пока не проверена нативная поддержка инструментов

Точные имена базовых учётных данных: api_key, endpoint_url, mode: chat, api_type: chat_completions, context_size и max_tokens_to_sample. Необязательное имя модели для конечной точки API (endpoint_model_name) может переопределить отправляемое имя модели; оставьте пустым, если Имя модели уже совпадает. Используйте базовый URL, включая /v1, для этого рецепта LLM; этот плагин обрабатывает пути по-разному для типов, не являющихся LLM, поэтому не распространяйте этот рецепт на эмбеддинги без проверки.

Источники: Официальная страница в маркетплейсе, официальная схема полей провайдера.

Проверьте подключение#

Получите список моделей, затем отправьте одно короткое сообщение. Успешное получение списка моделей не доказывает поддержку инструментов, зрения или JSON Schema. Проверьте возможности выбранного развёртывания, прежде чем включать их.