weightsapi.推論コンソール
ナビゲーション
モデルリファレンス

Hermes 4 70B

Nous Researchが公開した、設定可能な指示を持つ創造的な会話、ロールプレイ、推論。

KYC不要

現在のサインインフローでは身分証明書のアップロードやKYC手続きはありません。アクセスと利用はアカウントに関連付けられます。

追加コンテンツフィルターなし

WeightsAPIはゲートウェイでコンテンツフィルターを追加しません。モデル自体のトレーニングにより、リクエストを拒否する場合があります。

INPUT / 1M$0.13
OUTPUT / 1M$0.40
SERVICE CONTEXT*128K
測定された速度未測定

APIモデルIDNousResearch/Hermes-4-70B

公開されたコンテキスト131,072 トークン

量子化未検証

ライセンスMeta Llama Community

最適な用途#

創造的な文章作成、ロールプレイ、会話と推論または構造化出力を組み合わせたアシスタント。Nous Researchは設定可能な動作と拒否の低減を重視しています。

別のモデルを選ぶべき場合#

画像または音声入力が必要な場合、またはハードウェア予算が厳しい場合はより小さなモデルが必要です。Hermes 4 70Bはテキストのみで、公開された位置づけは拒否なしの回答を保証しません。

デプロイメント詳細#

公開された設定は131,072のコンテキスト位置をサポートし、元の重みはBF16を使用しています。WeightsAPIの実際のデプロイメントで使用するコンテキスト上限と数値精度を確認してください。スループットの実測データはありません。推論モードとツール呼び出しは、有効にする前に動作を検証してください。

共有推論は、このページに記載された入力トークンと出力トークンの料金で課金されます。単位は100万トークンあたりの米ドルです。WeightsAPIのサービス用コンテキストウィンドウ全体に同じ料金が適用され、この標準料金にキャッシュやバッチ処理の割引はありません。記載された131,072トークンのサービス上限を利用する前に、実際のデプロイメントのコンテキスト上限を確認してください。利用前に料金サービス状況をご確認ください。

ライセンスと出所#

Nousはこれらの重みをLlama 3.1 70Bの派生物として公開しています。モデルカードはライセンスをllama3と表示していますが、リポジトリにはその表示を明確にする独立したライセンスファイルはありません。帰属や使用条件を含む、基盤となるLlama 3.1の条件を確認してください。

このモデルを呼び出す#

価格設定されたデプロイメントが有効になったら、Chat CompletionsでNousResearch/Hermes-4-70Bを使用してください。WeightsAPIはゲートウェイコンテンツフィルターを追加しません。拒否が発生する可能性があり、公開されたモデルのチャットテンプレートとサポートされる機能はサービング設定と一致する必要があります。

AIの利用には、サインイン、少なくとも100米ドルのチャージ1回の入金確認、および十分な利用可能残高が必要です。この条件を満たす初回チャージ後は、残高が100米ドルを下回っても、リクエストの料金を支払える限り引き続き利用できます。料金が公開されていても、モデルが有効になっているとは限りません。サービス状況でデプロイメントの利用可否を確認してください。

リクエスト例

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "NousResearch/Hermes-4-70B",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'