weightsapi.INFERENZAConsole
Navigazione
RIFERIMENTO MODELLI

Llama 3.1 405B

Generazione generica impegnativa e istruzioni complesse.

Nessun KYC

Nessun caricamento di documenti d'identità o passaggio KYC nell'attuale procedura di accesso. L'accesso e l'utilizzo rimangono collegati al tuo account.

Nessun filtro contenuti aggiunto

WeightsAPI non aggiunge alcun filtro contenuti a livello di gateway. L'addestramento proprio del modello può comunque portarlo a rifiutare una richiesta.

INPUT / 1M$1.20
OUTPUT / 1M$1.20
SERVICE CONTEXT*128K
VELOCITÀ MISURATAnon misurato

ID modello APImeta-llama/Llama-3.1-405B-Instruct

Contesto nativo131.072 token

QuantizzazioneNão verificado

LicenzaLlama 3.1 Community

Ideale per#

Generazione generica impegnativa e istruzioni complesse.

Scegli un altro modello quando#

Classificazione breve orientata al budget; usa un modello 8B per attività semplici.

Detalhes da implantação#

Use o ID exato do modelo e a fonte do editor mostrados acima. As taxas listadas do WeightsAPI se aplicam a tokens de entrada e saída. Confirme a disponibilidade da implantação, a precisão de serviço e o contexto antes de enviar tráfego; as especificações publicadas do modelo não estabelecem o desempenho do serviço. Verifique o status do serviço.

Licenza e provenienza#

Consulta la scheda modello ufficiale prima dell'implementazione. La licenza può imporre termini aggiuntivi. Pesi aperti non implicano licenze identiche.

Chiama questo modello#

Usa l'ID modello esatto mostrato sopra con l'endpoint Chat Completions. Il servizio non aggiunge un livello di filtraggio dei contenuti. Il comportamento del modello riflette comunque il suo addestramento originale.

Esempio di richiesta

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-405B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'