weightsapi.ВИСНОВОККонсоль
Навігація
ДОВІДКА МОДЕЛЕЙ

Hermes 4 70B

Творча розмова, рольова гра та міркування з настроюваними інструкціями, опубліковано Nous Research.

Без KYC

У поточному процесі входу немає завантаження документів, що посвідчують особу, або кроку KYC. Доступ і використання залишаються пов’язаними з вашим обліковим записом.

INPUT / 1M$0.13
OUTPUT / 1M$0.40
SERVICE CONTEXT*128K
ВИМІРЯНА ШВИДКІСТЬне виміряно

Ідентифікатор моделі APINousResearch/Hermes-4-70B

Опублікований контекст131 072 токени

КвантуванняНе перевірено

ЛіцензіяMeta Llama Community

Найкраще для#

Творче письмо, рольові ігри та асистенти, які поєднують розмову з міркуваннями або структурованим виведенням. Nous Research наголошує на настроюваній поведінці та зменшених відмовах.

Виберіть іншу модель, коли#

Вам потрібне введення зображень або аудіо, або менша модель для обмеженішого апаратного бюджету. Hermes 4 70B працює лише з текстом, і його опубліковане позиціонування не гарантує відповідей без відмов.

Деталі розгортання#

Опублікована конфігурація підтримує 131 072 позиції, а оригінальні ваги використовують формат BF16. Уточніть фактичний контекст і числову точність розгортання WeightsAPI. Дані вимірювань пропускної здатності відсутні. Перед увімкненням перевірте роботу режиму міркувань і викликів інструментів.

Інференс на спільній інфраструктурі оплачується за вказаними на цій сторінці тарифами на вхідні та вихідні токени, у доларах США за мільйон токенів. Ці тарифи діють у всьому контекстному вікні сервісу WeightsAPI; знижки за кешування або пакетне оброблення до стандартного тарифу не застосовуються. Перед використанням зазначеного ліміту сервісу в 131 072 токени уточніть фактичний контекст розгортання. Перед використанням перегляньте ціни та статус сервісу.

Ліцензія та походження#

Nous публікує ці ваги як похідну від Llama 3.1 70B. Картка моделі позначає свою ліцензію llama3; у репозиторії немає окремого файлу ліцензії, який би уточнював це позначення. Перегляньте основні умови Llama 3.1, включаючи умови атрибуції та використання.

Виклик цієї моделі#

Коли буде ввімкнено розгортання з ціною, використовуйте NousResearch/Hermes-4-70B з Chat Completions. WeightsAPI не додає фільтр вмісту на шлюзі. Відмови все одно можуть траплятися, а шаблон чату та підтримувані функції опублікованої моделі мають відповідати конфігурації обслуговування.

Для доступу до ШІ потрібно увійти до системи, мати одне підтверджене поповнення на суму щонайменше 100 доларів США та достатній доступний баланс. Після першого поповнення, що відповідає цій вимозі, залишок менше 100 доларів США можна використовувати, доки його вистачає на оплату запиту. Публікація ціни не означає активації моделі: перевірте доступність розгортання на сторінці статусу сервісу.

Приклад запиту

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "NousResearch/Hermes-4-70B",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'