weightsapi.ВИСНОВОККонсоль
Навігація
Dify

Dify

Налаштуйте Dify для роботи з OpenAI-сумісною кінцевою точкою WeightsAPI.

Перш ніж підключатися#

Доступ до ШІ вимагає входу, одного підтвердженого поповнення щонайменше на 100 доларів США, авторизованого ключа API та достатнього доступного кредиту для запиту. Кожне наступне поповнення також має мінімум 100 доларів США; менші залишки залишаються придатними, якщо вони покривають запит. Кредит вимагає верифікації транзакції. Перевірте статус сервісу щодо доступності моделей перед надсиланням трафіку. Використовуйте власний ключ API без префікса Bearer у полях ключа. Базова URL-адреса вже містить /v1. Ці конфігурації було перевірено за офіційною документацією, а не протестовано на живому GPU-розгортанні.

Конфігурація#

Встановіть офіційного OpenAI-API-сумісного провайдера (langgenius/openai_api_compatible), якщо його немає, потім додайте модель у налаштуваннях провайдера моделей робочого простору. Поля для LLM/чат-моделі:

Поле Значення
Тип LLM
Назва моделі Qwen/Qwen3-32B
API-ключ WEIGHTSAPI_API_KEY
Базова URL-адреса API https://weightsapi.com/v1
Режим завершення Чат
Тип API Chat Completions API (/chat/completions)
Розмір контексту моделі Фактичний ліміт контексту розгортання
Верхня межа для max tokens Фактичний ліміт виведення розгортання
Підтримка зору Не підтримується для цієї текстової моделі
Тип виклику функцій Не підтримується, поки нативні інструменти не перевірено

Точні назви базових облікових даних: api_key, endpoint_url, mode: chat, api_type: chat_completions, context_size і max_tokens_to_sample. Необов’язкове поле назва моделі для кінцевої точки API (endpoint_model_name) може перевизначити надіслану назву моделі; залиште порожнім, якщо Назва моделі вже збігається. Використовуйте базову URL-адресу, включно з /v1, для цього LLM-рецепта; цей плагін має іншу обробку шляхів для не-LLM типів, тому не поширюйте цей рецепт на ембедінги без перевірки.

Джерела: Офіційний лістинг marketplace, офіційна схема полів провайдера.

Перевірте підключення#

Отримайте список моделей, потім надішліть одне коротке повідомлення. Успішний список моделей не доводить підтримку інструментів, зору чи JSON-схеми. Перевірте можливості вибраного розгортання, перш ніж їх увімкнути.