weightsapi.ИНФЕРЕНЦИЯКонсоль
Навигация
SillyTavern

SillyTavern

Настройте SillyTavern с конечной точкой, совместимой с OpenAI, от WeightsAPI.

Перед подключением#

Доступ к ИИ требует входа в систему, одного подтвержденного пополнения на сумму не менее 100 долларов США, авторизованного API-ключа и достаточного доступного кредита для запроса. Каждое последующее пополнение также имеет минимум 100 долларов США; меньшие остатки остаются пригодными для использования, если покрывают запрос. Кредит требует проверки транзакции. Проверьте статус сервиса для информации о доступности моделей перед отправкой трафика. Используйте собственный API-ключ без префикса Bearer в полях ключа. Базовый URL уже включает /v1. Эти конфигурации проверены по официальной документации, но не тестировались на реальном GPU-развертывании.

Конфигурация#

В API Connections выберите Chat Completion для типа API и Custom (OpenAI-compatible) для Chat Completion Source. Введите https://weightsapi.com/v1 в поле пользовательского URL конечной точки и сервисный ключ в поле пользовательского ключа API. Выберите Qwen/Qwen3-32B из списка моделей или введите этот точный идентификатор модели вручную. Используйте Test Message для проверки завершения. Документация прямо говорит не добавлять /chat/completions. Автообнаружение моделей требует /v1/models.

Источник: SillyTavern Chat Completions — пользовательская конечная точка.

Проверьте подключение#

Получите список моделей, затем отправьте одно короткое сообщение. Успешное получение списка моделей не доказывает поддержку инструментов, изображений или схемы JSON. Проверьте возможности выбранного развертывания перед их включением.