weightsapi.ВИСНОВОККонсоль
Навігація
LangChain (Python)

LangChain (Python)

Налаштуйте LangChain (Python) для роботи з OpenAI-сумісною кінцевою точкою WeightsAPI.

Перш ніж підключатися#

Доступ до ШІ вимагає входу, одного підтвердженого поповнення щонайменше на 100 доларів США, авторизованого ключа API та достатнього доступного кредиту для запиту. Кожне наступне поповнення також має мінімум 100 доларів США; менші залишки залишаються придатними, якщо вони покривають запит. Кредит вимагає верифікації транзакції. Перевірте статус сервісу щодо доступності моделей перед надсиланням трафіку. Використовуйте власний ключ API без префікса Bearer у полях ключа. Базова URL-адреса вже містить /v1. Ці конфігурації було перевірено за офіційною документацією, а не протестовано на живому GPU-розгортанні.

Конфігурація#

Встановіть langchain-openai, потім:

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="Qwen/Qwen3-32B",
    base_url=os.environ["https://weightsapi.com/v1"],
    api_key=os.environ["WEIGHTSAPI_API_KEY"],
)
print(llm.invoke("Say hello in one sentence.").content)

Для JavaScript ChatOpenAI з @langchain/openai приймає model, apiKey і configuration: { baseURL: ... }. Стандартні поля підтримуються; LangChain зазначає, що специфічні для провайдера поля відповіді можуть не зберігатися через ChatOpenAI.

Джерела: Сумісні провайдери Python, Сумісні провайдери JavaScript.

Перевірте підключення#

Отримайте список моделей, потім надішліть одне коротке повідомлення. Успішний список моделей не доводить підтримку інструментів, зору чи JSON-схеми. Перевірте можливості вибраного розгортання, перш ніж їх увімкнути.