연결하기 전에#
AI 액세스에는 로그인, 최소 USD 100의 확인된 충전 1회, 승인된 API 키, 요청에 충분한 가용 크레딧이 필요합니다. 이후 각 충전도 USD 100 최소 금액이 적용되며, 더 적은 잔액도 요청을 충당할 수 있으면 사용 가능합니다. 크레딧은 거래 확인이 필요합니다. 트래픽을 보내기 전에 서비스 상태에서 모델 가용성을 확인하세요. 키 필드에 Bearer 접두사 없이 자신의 API 키를 사용하세요. 기본 URL에는 이미 /v1이 포함되어 있습니다. 이 구성은 공식 문서를 기준으로 확인되었으며, 라이브 GPU 배포에 대해 테스트되지 않았습니다.
구성#
llama-index-llms-openai-like 설치 후:
import os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="Qwen/Qwen3-32B",
api_base=os.environ["https://weightsapi.com/v1"],
api_key=os.environ["WEIGHTSAPI_API_KEY"],
is_chat_model=True,
is_function_calling_model=False,
)
print(llm.complete("Say hello in one sentence."))
임의의 호환 모델 ID에 OpenAILike을(를) 사용하세요. 정확한 URL 매개변수는 api_base입니다. RAG 또는 긴 입력을 사용할 때 실제 배포에서 context_window을(를) 설정하세요. 엔드포인트 지원이 확인된 후에만 is_function_calling_model을(를) true로 변경하세요.
출처: 현재 OpenAILike API 참조.
연결 확인#
모델 목록을 가져온 다음 짧은 메시지를 하나 보내세요. 모델 목록 성공이 도구, 비전 또는 JSON 스키마 지원을 증명하지는 않습니다. 활성화하기 전에 선택한 배포의 기능을 확인하세요.