Без KYC
В текущем процессе входа нет загрузки документов, удостоверяющих личность, или этапа KYC. Доступ и использование остаются связанными с вашей учетной записью.
Навигация
СПРАВОЧНИК МОДЕЛЕЙ
Llama 3.1 405B
Требовательная генерация общего назначения и сложные инструкции.
Без дополнительных фильтров контента
WeightsAPI не добавляет фильтр контента на шлюзе. Собственное обучение модели может по-прежнему приводить к отказу в выполнении запроса.
INPUT / 1M$1.20
OUTPUT / 1M$1.20
SERVICE CONTEXT*128K
ИЗМЕРЕННАЯ СКОРОСТЬ— не измерено
ID модели APImeta-llama/Llama-3.1-405B-Instruct
Собственный контекст131 072 токены
КвантизацияНе проверено
ЛицензияLlama 3.1 Community ↗
Лучше всего для#
Требовательная генерация общего назначения и сложные инструкции.
Выберите другую модель, когда#
Бюджетная короткая классификация; используйте 8B модель для простых задач.
Детали развертывания#
Используйте точный идентификатор модели и источник издателя, указанные выше. Перечисленные тарифы WeightsAPI применяются к входным и выходным токенам. Подтвердите доступность развертывания, точность вычислений и контекст перед отправкой трафика; опубликованные спецификации модели не гарантируют производительность сервиса. Проверьте статус сервиса.
Лицензия и происхождение#
Перед развертыванием ознакомьтесь с официальной карточкой модели. Лицензия может налагать дополнительные условия. Открытые веса не означают одинаковые лицензии.
Вызов этой модели#
Используйте точный идентификатор модели, указанный выше, с конечной точкой Chat Completions. Сервис не добавляет слой фильтрации контента. Поведение модели по-прежнему отражает её исходное обучение.
Пример запроса
curl https://weightsapi.com/v1/chat/completions \
-H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/Llama-3.1-405B-Instruct",
"messages": [
{
"role": "user",
"content": "Hello!"
}
],
"stream": true
}'