weightsapi.INFERENCJAKonsola
Nawigacja
REFERENCJA MODELU

Llama 3.1 405B

Wymagające generowanie ogólnego przeznaczenia i złożone instrukcje.

Bez KYC

W bieżącym procesie logowania nie ma przesyłania dokumentu tożsamości ani kroku KYC. Dostęp i korzystanie pozostają powiązane z Twoim kontem.

INPUT / 1M$1.20
OUTPUT / 1M$1.20
SERVICE CONTEXT*128K
ZMIERZONA PRĘDKOŚĆnie mierzono

ID modelu APImeta-llama/Llama-3.1-405B-Instruct

Natywny kontekst131 072 tokeny

KwantyzacjaNiezweryfikowane

LicencjaLlama 3.1 Community

Najlepszy do#

Wymagająca generacja ogólnego przeznaczenia i złożone instrukcje.

Wybierz inny model, gdy#

Klasyfikacja krótkich tekstów z naciskiem na budżet; do prostych zadań użyj modelu 8B.

Szczegóły wdrożenia#

Użyj dokładnego identyfikatora modelu i źródła wydawcy podanego powyżej. Wymienione stawki WeightsAPI dotyczą tokenów wejściowych i wyjściowych. Potwierdź dostępność wdrożenia, precyzję obsługi i kontekst przed wysłaniem ruchu; opublikowane specyfikacje modelu nie stanowią gwarancji wydajności usługi. Sprawdź status usługi.

Licencja i pochodzenie#

Przed wdrożeniem zapoznaj się z oficjalną kartą modelu. Licencja może nakładać dodatkowe warunki. Otwarte wagi nie oznaczają identycznych licencji.

Wywołaj ten model#

Użyj dokładnego identyfikatora modelu podanego powyżej z endpointem Chat Completions. Usługa nie dodaje warstwy filtrowania treści. Zachowanie modelu nadal odzwierciedla jego oryginalne trenowanie.

Przykład żądania

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-405B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'