weightsapi.INFERENZKonsole
Navigation
MODELLREFERENZ

Llama 3.1 405B

Anspruchsvolle Allzweck-Generierung und komplexe Anweisungen.

Kein KYC

Kein Hochladen von Ausweisdokumenten oder KYC-Schritt im aktuellen Anmeldevorgang. Zugriff und Nutzung bleiben mit Ihrem Konto verknüpft.

Keine zusätzlichen Inhaltsfilter

WeightsAPI fügt am Gateway keinen Inhaltsfilter hinzu. Das eigene Training eines Modells kann dennoch dazu führen, dass es eine Anfrage ablehnt.

INPUT / 1M$1.20
OUTPUT / 1M$1.20
SERVICE CONTEXT*128K
GEMESSENE GESCHWINDIGKEITnicht gemessen

API-Modell-IDmeta-llama/Llama-3.1-405B-Instruct

Nativer Kontext131.072 Token

QuantisierungNicht verifiziert

LizenzLlama 3.1 Community

Am besten geeignet für#

Anspruchsvolle Allzweck-Generierung und komplexe Anweisungen.

Wählen Sie ein anderes Modell, wenn#

Budgetorientierte Kurzklassifikation; verwenden Sie ein 8B-Modell für einfache Aufgaben.

Deployment-Details#

Verwenden Sie die oben gezeigte exakte Modell-ID und Herausgeberquelle. Die aufgeführten WeightsAPI-Raten gelten für Eingabe- und Ausgabetokens. Bestätigen Sie Deployment-Verfügbarkeit, Serving-Präzision und Kontext, bevor Sie Traffic senden; veröffentlichte Modellspezifikationen begründen keine Serviceleistung. Prüfen Sie den Servicestatus.

Lizenz und Herkunft#

Lesen Sie die offizielle Modellkarte vor der Bereitstellung. Die Lizenz kann zusätzliche Bedingungen auferlegen. Offene Gewichte bedeuten nicht identische Lizenzen.

Dieses Modell aufrufen#

Verwenden Sie die oben gezeigte exakte Modell-ID mit dem Chat-Completions-Endpunkt. Der Dienst fügt keine Inhaltsfilterungsebene hinzu. Das Modellverhalten spiegelt weiterhin sein ursprüngliches Training wider.

Anfragebeispiel

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-405B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'