weightsapi.INFERÊNCIAConsole
Navegação
REFERÊNCIA DO MODELO

Llama 3.1 405B

Geração de uso geral exigente e instruções complexas.

Sem KYC

Nenhum upload de documento de identidade ou etapa de KYC no fluxo de login atual. O acesso e o uso permanecem vinculados à sua conta.

Sem filtros de conteúdo adicionais

A WeightsAPI não adiciona nenhum filtro de conteúdo no gateway. O próprio treinamento de um modelo ainda pode levá-lo a recusar uma solicitação.

INPUT / 1M$1.20
OUTPUT / 1M$1.20
SERVICE CONTEXT*128K
VELOCIDADE MEDIDAnão medido

ID do modelo de APImeta-llama/Llama-3.1-405B-Instruct

Contexto nativo131.072 tokens

QuantizaçãoNão verificado

LicençaLlama 3.1 Community

Melhor para#

Geração de propósito geral exigente e instruções complexas.

Escolha outro modelo quando#

Classificação curta com foco em orçamento; use um modelo de 8B para tarefas simples.

Detalhes da implantação#

Use o ID exato do modelo e a fonte do editor mostrados acima. As taxas listadas do WeightsAPI se aplicam a tokens de entrada e saída. Confirme a disponibilidade da implantação, precisão de serviço e contexto antes de enviar tráfego; as especificações publicadas do modelo não estabelecem o desempenho do serviço. Verifique o status do serviço.

Licença e procedência#

Revise o cartão oficial do modelo antes da implantação. A licença pode impor termos adicionais. Pesos abertos não implicam licenças idênticas.

Chame este modelo#

Use o ID exato do modelo mostrado acima com o endpoint Chat Completions. O serviço não adiciona camada de filtragem de conteúdo. O comportamento do modelo ainda reflete seu treinamento original.

Exemplo de solicitação

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-405B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'