weightsapi.INFERENCIAConsola
Navegación
REFERENCIA DEL MODELO

Llama 3.1 405B

Generación de propósito general exigente e instrucciones complejas.

Sin KYC

No se requiere cargar documento de identidad ni realizar un paso KYC en el flujo de inicio de sesión actual. El acceso y el uso siguen vinculados a su cuenta.

Sin filtros de contenido añadidos

WeightsAPI no añade ningún filtro de contenido a nivel de puerta de enlace. El propio entrenamiento de un modelo puede hacer que rechace una solicitud.

INPUT / 1M$1.20
OUTPUT / 1M$1.20
SERVICE CONTEXT*128K
VELOCIDAD MEDIDAno medido

ID del modelo de APImeta-llama/Llama-3.1-405B-Instruct

Contexto nativo131.072 tokens

CuantizaciónNão verificado

LicenciaLlama 3.1 Community

Mejor para#

Generación de propósito general exigente e instrucciones complejas.

Elige otro modelo cuando#

Clasificación corta con prioridad de presupuesto; usa un modelo 8B para tareas simples.

Detalhes da implantação#

Use o ID de modelo exato e a fonte do editor mostrados acima. As taxas WeightsAPI listadas se aplicam a tokens de entrada e saída. Confirme a disponibilidade da implantação, a precisão do serviço e o contexto antes de enviar tráfego; especificações de modelo publicadas não estabelecem desempenho do serviço. Verifique o status do serviço.

Licencia y procedencia#

Revisa la tarjeta de modelo oficial antes de la implementación. La licencia puede imponer términos adicionales. Los pesos abiertos no implican licencias idénticas.

Llama a este modelo#

Usa el ID de modelo exacto que se muestra arriba con el endpoint de Chat Completions. El servicio no añade una capa de filtrado de contenido. El comportamiento del modelo sigue reflejando su entrenamiento original.

Ejemplo de solicitud

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-405B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'