weightsapi.INFERENZAConsole
Navigazione
Un chatbot in venti righe

Un chatbot in venti righe

Una conversazione da terminale usando solo la libreria standard di Python.

Requisiti#

Python 3.11 o successivo. Nessun pacchetto aggiuntivo. Imposta WEIGHTSAPI_API_KEY con la tua chiave. L'accesso AI richiede accesso, una ricarica confermata di almeno 100 USD, una chiave API autorizzata e credito disponibile sufficiente per la richiesta. Anche ogni ricarica successiva ha un minimo di 100 USD; saldi residui inferiori restano utilizzabili quando coprono la richiesta. Il credito richiede la verifica della transazione. Controlla lo stato del servizio per la disponibilità dei modelli prima di inviare traffico.

Esegui la ricetta#

import os, json, urllib.request
BASE = os.environ.get("WEIGHTSAPI_BASE_URL", "https://weightsapi.com/v1")
KEY = os.environ["WEIGHTSAPI_API_KEY"]
def chat(messages, model="Qwen/Qwen3-32B", **options):
    payload = dict(model=model, messages=messages, max_tokens=512, **options)
    req = urllib.request.Request(BASE+"/chat/completions", json.dumps(payload).encode(),
        {"Authorization": "Bearer "+KEY, "Content-Type": "application/json"})
    with urllib.request.urlopen(req, timeout=120) as response:
        return json.load(response)
messages = [{"role": "system", "content": "Be concise and useful."}]
while True:
    text = input("You: ").strip()
    if text in ("exit", "quit"): break
    messages.append({"role": "user", "content": text})
    result = chat(messages)
    answer = result["choices"][0]["message"]
    messages.append(answer)
    print("Assistant:", answer["content"])

Prima della produzione#

Limita concorrenza e nuovi tentativi, convalida gli output e gestisci gli errori prima di esporre il flusso di lavoro agli utenti.