weightsapi.INFERENTIEConsole
Navigatie
MODELREFERENTIE

Llama 3.1 405B

Veeleisende algemene tekstgeneratie en complexe instructies.

Geen KYC

Geen upload van identiteitsdocumenten of KYC-stap in het huidige aanmeldproces. Toegang en gebruik blijven gekoppeld aan uw account.

Geen toegevoegde inhoudsfilters

WeightsAPI voegt geen inhoudsfilter toe aan de gateway. De eigen training van een model kan er nog steeds toe leiden dat het een verzoek weigert.

INPUT / 1M$1.20
OUTPUT / 1M$1.20
SERVICE CONTEXT*128K
GEMETEN SNELHEIDniet gemeten

API-model-IDmeta-llama/Llama-3.1-405B-Instruct

Oorspronkelijke context131.072 tokens

KwantiseringNiet geverifieerd

LicentieLlama 3.1 Community

Beste voor#

Veeleisende algemene generatie en complexe instructies.

Kies een ander model wanneer#

Budgetgerichte korte classificatie; gebruik een 8B-model voor eenvoudige taken.

Implementatiedetails#

Gebruik de exacte model-ID en uitgeversbron zoals hierboven weergegeven. De vermelde WeightsAPI-tarieven zijn van toepassing op invoer- en uitvoertokens. Bevestig implementatiebeschikbaarheid, servingprecisie en context voordat u verkeer verstuurt; gepubliceerde modelspecificaties bepalen geen serviceprestaties. Controleer de servicestatus.

Licentie en herkomst#

Bekijk de officiële modelkaart vóór implementatie. De licentie kan aanvullende voorwaarden opleggen. Open gewichten impliceren geen identieke licenties.

Dit model aanroepen#

Gebruik de exacte model-ID die hierboven wordt weergegeven met het Chat Completions-eindpunt. De service voegt geen laag voor inhoudsfiltering toe. Het gedrag van het model weerspiegelt nog steeds de oorspronkelijke training.

Voorbeeldverzoek

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-405B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'