weightsapi.INFERENTIEConsole
Navigatie
MODELREFERENTIE

Llama 3.1 8B

Snelle classificatie, extractie en lichtgewicht chat.

Geen KYC

Geen upload van identiteitsdocumenten of KYC-stap in het huidige aanmeldproces. Toegang en gebruik blijven gekoppeld aan uw account.

Geen toegevoegde inhoudsfilters

WeightsAPI voegt geen inhoudsfilter toe aan de gateway. De eigen training van een model kan er nog steeds toe leiden dat het een verzoek weigert.

INPUT / 1M$0.03
OUTPUT / 1M$0.05
SERVICE CONTEXT*128K
GEMETEN SNELHEIDniet gemeten

API-model-IDmeta-llama/Llama-3.1-8B-Instruct

Oorspronkelijke context131.072 tokens

KwantiseringNiet geverifieerd

LicentieLlama 3.1 Community

Beste voor#

Snelle classificatie, extractie en lichtgewicht chat.

Kies een ander model wanneer#

Complexe meerstapsredenering en beeldbegrip.

Implementatiedetails#

Gebruik de exacte model-ID en uitgeversbron zoals hierboven weergegeven. De vermelde WeightsAPI-tarieven zijn van toepassing op invoer- en uitvoertokens. Bevestig implementatiebeschikbaarheid, servingprecisie en context voordat u verkeer verstuurt; gepubliceerde modelspecificaties bepalen geen serviceprestaties. Controleer de servicestatus.

Licentie en herkomst#

Bekijk de officiële modelkaart vóór implementatie. De licentie kan aanvullende voorwaarden opleggen. Open gewichten impliceren geen identieke licenties.

Dit model aanroepen#

Gebruik de exacte model-ID die hierboven wordt weergegeven met het Chat Completions-eindpunt. De service voegt geen laag voor inhoudsfiltering toe. Het gedrag van het model weerspiegelt nog steeds de oorspronkelijke training.

Voorbeeldverzoek

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-8B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'