weightsapi.INFERENZKonsole
Navigation
Ein Chatbot in zwanzig Zeilen

Ein Chatbot in zwanzig Zeilen

Eine Terminal-Konversation, die nur die Python-Standardbibliothek verwendet.

Anforderungen#

Python 3.11 oder neuer. Keine zusätzlichen Pakete. Setzen Sie WEIGHTSAPI_API_KEY auf Ihren eigenen Schlüssel. Der KI-Zugriff erfordert eine Anmeldung, eine bestätigte Aufladung von mindestens 100 USD, einen autorisierten API-Schlüssel und ausreichend verfügbares Guthaben für die Anfrage. Jede spätere Aufladung hat ebenfalls ein Minimum von 100 USD; kleinere Restguthaben bleiben nutzbar, wenn sie die Anfrage abdecken. Guthaben erfordert Transaktionsverifizierung. Überprüfen Sie den Dienststatus auf Modellverfügbarkeit, bevor Sie Datenverkehr senden.

Rezept ausführen#

import os, json, urllib.request
BASE = os.environ.get("WEIGHTSAPI_BASE_URL", "https://weightsapi.com/v1")
KEY = os.environ["WEIGHTSAPI_API_KEY"]
def chat(messages, model="Qwen/Qwen3-32B", **options):
    payload = dict(model=model, messages=messages, max_tokens=512, **options)
    req = urllib.request.Request(BASE+"/chat/completions", json.dumps(payload).encode(),
        {"Authorization": "Bearer "+KEY, "Content-Type": "application/json"})
    with urllib.request.urlopen(req, timeout=120) as response:
        return json.load(response)
messages = [{"role": "system", "content": "Be concise and useful."}]
while True:
    text = input("You: ").strip()
    if text in ("exit", "quit"): break
    messages.append({"role": "user", "content": text})
    result = chat(messages)
    answer = result["choices"][0]["message"]
    messages.append(answer)
    print("Assistant:", answer["content"])

Vor dem Produktiveinsatz#

Begrenzen Sie Parallelität und Wiederholungsversuche, validieren Sie Ausgaben und behandeln Sie Fehler, bevor Sie den Workflow Benutzern zugänglich machen.