Exigences#
Python 3.11 ou plus récent. Aucun paquet supplémentaire. Définissez WEIGHTSAPI_API_KEY sur votre propre clé. L'accès à l'IA nécessite une connexion, un rechargement confirmé d'au moins 100 USD, une clé API autorisée et suffisamment de crédit disponible pour la requête. Chaque rechargement ultérieur a également un minimum de 100 USD ; les soldes restants plus petits restent utilisables lorsqu'ils couvrent la requête. Le crédit nécessite une vérification de transaction. Vérifiez le statut du service pour la disponibilité des modèles avant d'envoyer du trafic.
Exécuter la recette#
import os, json, time, urllib.request
BASE = os.environ.get("WEIGHTSAPI_BASE_URL", "https://weightsapi.com/v1")
KEY = os.environ["WEIGHTSAPI_API_KEY"]
# Confirm batch-service availability before attempting upload or submission.
with open("batch.jsonl", "w", encoding="utf-8") as f:
for i in range(100_000):
f.write(json.dumps({"custom_id":str(i),"method":"POST","url":"/v1/chat/completions",
"body":{"model":"Qwen/Qwen3-32B","messages":[{"role":"user","content":"Summarize document "+str(i)}],"max_tokens":64}})+"\n")
print("Wrote 100,000 independent requests to batch.jsonl.")
print("Upload with the provider's batch adapter, then submit /v1/batches with completion_window=24h.")
print("Do not send this file to the synchronous endpoint: the batch discount applies only to batch jobs.")
Avant la production#
Cette recette crée un fichier JSONL localement. L’envoi du fichier, la soumission du lot et la récupération des résultats nécessitent un déploiement par lots pris en charge. Vérifiez le statut du service et confirmez les conditions de lot avant de soumettre une charge de travail ; une remise ou une fenêtre d'achèvement indiquée ne garantit pas l'acceptation du travail.