weightsapi.INFERÊNCIAConsole
Navegação
Um agente que chama uma ferramenta

Um agente que chama uma ferramenta

Uma chamada de função limitada e com lista de permissões e uma resposta de acompanhamento.

Requisitos#

Python 3.11 ou mais recente. Sem pacotes adicionais. Defina WEIGHTSAPI_API_KEY com sua própria chave. O acesso à IA requer login, uma recarga confirmada de pelo menos USD 100, uma chave de API autorizada e crédito suficiente disponível para a solicitação. Cada recarga posterior também tem um mínimo de USD 100; saldos restantes menores permanecem utilizáveis quando cobrem a solicitação. O crédito requer verificação da transação. Verifique o status do serviço para disponibilidade de modelos antes de enviar tráfego.

Execute a receita#

import os, json, urllib.request
BASE = os.environ.get("WEIGHTSAPI_BASE_URL", "https://weightsapi.com/v1")
KEY = os.environ["WEIGHTSAPI_API_KEY"]
def chat(messages, model="Qwen/Qwen3-32B", **options):
    payload = dict(model=model, messages=messages, max_tokens=512, **options)
    req = urllib.request.Request(BASE+"/chat/completions", json.dumps(payload).encode(),
        {"Authorization": "Bearer "+KEY, "Content-Type": "application/json"})
    with urllib.request.urlopen(req, timeout=120) as response:
        return json.load(response)
tools = [{"type":"function","function":{"name":"get_stock","description":"Look up product inventory.",
    "parameters":{"type":"object","properties":{"sku":{"type":"string"}},"required":["sku"],"additionalProperties":False}}}]
messages = [{"role":"user","content":"How many keyboards are in stock? SKU keyboard."}]
first = chat(messages, tools=tools)["choices"][0]["message"]
messages.append(first)
for call in first.get("tool_calls", []):
    if call["function"]["name"] != "get_stock": raise ValueError("Unknown tool")
    args = json.loads(call["function"]["arguments"])
    if set(args) != {"sku"} or not isinstance(args["sku"], str): raise ValueError("Invalid arguments")
    result = {"sku":args["sku"],"quantity":{"keyboard":12}.get(args["sku"],0)}
    messages.append({"role":"tool","tool_call_id":call["id"],"content":json.dumps(result)})
print(chat(messages)["choices"][0]["message"]["content"])

Antes da produção#

Limite a concorrência e as novas tentativas, valide as saídas e trate os erros antes de expor o fluxo de trabalho aos usuários.