weightsapi.ИНФЕРЕНЦИЯКонсоль
Навигация
LangChain (Python)

LangChain (Python)

Настройте LangChain (Python) для работы с конечной точкой WeightsAPI, совместимой с OpenAI.

Перед подключением#

Доступ к ИИ требует входа в систему, одного подтвержденного пополнения на сумму не менее 100 долларов США, авторизованного API-ключа и достаточного доступного кредита для запроса. Каждое последующее пополнение также имеет минимум 100 долларов США; меньшие остатки остаются пригодными для использования, если покрывают запрос. Кредит требует проверки транзакции. Проверьте статус сервиса для информации о доступности моделей перед отправкой трафика. Используйте собственный API-ключ без префикса Bearer в полях ключа. Базовый URL уже включает /v1. Эти конфигурации проверены по официальной документации, но не тестировались на реальном GPU-развертывании.

Конфигурация#

Установите langchain-openai, затем:

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="Qwen/Qwen3-32B",
    base_url=os.environ["https://weightsapi.com/v1"],
    api_key=os.environ["WEIGHTSAPI_API_KEY"],
)
print(llm.invoke("Say hello in one sentence.").content)

Для JavaScript ChatOpenAI из @langchain/openai принимает model, apiKey и configuration: { baseURL: ... }. Стандартные поля поддерживаются; LangChain сообщает, что специфичные для провайдера поля ответа могут не сохраняться через ChatOpenAI.

Источники: Совместимые провайдеры Python, Совместимые провайдеры JavaScript.

Проверьте подключение#

Получите список моделей, затем отправьте одно короткое сообщение. Успешное получение списка моделей не доказывает поддержку инструментов, зрения или JSON Schema. Проверьте возможности выбранного развёртывания, прежде чем включать их.