Перед подключением#
Доступ к ИИ требует входа в систему, одного подтвержденного пополнения на сумму не менее 100 долларов США, авторизованного API-ключа и достаточного доступного кредита для запроса. Каждое последующее пополнение также имеет минимум 100 долларов США; меньшие остатки остаются пригодными для использования, если покрывают запрос. Кредит требует проверки транзакции. Проверьте статус сервиса для информации о доступности моделей перед отправкой трафика. Используйте собственный API-ключ без префикса Bearer в полях ключа. Базовый URL уже включает /v1. Эти конфигурации проверены по официальной документации, но не тестировались на реальном GPU-развертывании.
Конфигурация#
Установите llama-index-llms-openai-like, затем:
import os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="Qwen/Qwen3-32B",
api_base=os.environ["https://weightsapi.com/v1"],
api_key=os.environ["WEIGHTSAPI_API_KEY"],
is_chat_model=True,
is_function_calling_model=False,
)
print(llm.complete("Say hello in one sentence."))
Используйте OpenAILike для произвольных совместимых идентификаторов моделей. Точный параметр URL — api_base. Установите context_window из фактического развёртывания при использовании RAG или длинных входных данных. Изменяйте is_function_calling_model на true только после подтверждения поддержки конечной точкой.
Источник: Текущая справка по API OpenAILike.
Проверьте подключение#
Получите список моделей, затем отправьте одно короткое сообщение. Успешное получение списка моделей не доказывает поддержку инструментов, зрения или JSON Schema. Проверьте возможности выбранного развёртывания, прежде чем включать их.