weightsapi.推論コンソール
ナビゲーション
モデルリファレンス

Llama 3.1 8B

高速な分類、抽出、軽量チャット。

KYC不要

現在のサインインフローでは身分証明書のアップロードやKYC手続きはありません。アクセスと利用はアカウントに関連付けられます。

追加コンテンツフィルターなし

WeightsAPIはゲートウェイでコンテンツフィルターを追加しません。モデル自体のトレーニングにより、リクエストを拒否する場合があります。

INPUT / 1M$0.03
OUTPUT / 1M$0.05
SERVICE CONTEXT*128K
測定された速度未測定

APIモデルIDmeta-llama/Llama-3.1-8B-Instruct

ネイティブコンテキスト131,072 トークン

量子化未検証

ライセンスLlama 3.1 Community

最適な用途#

高速な分類、抽出、軽量チャット。

別のモデルを選ぶ場合#

複雑な多段階推論と画像理解。

デプロイメント詳細#

上記の正確なモデルIDと公開元ソースを使用してください。記載されているWeightsAPIレートは入力トークンと出力トークンに適用されます。トラフィックを送信する前に、デプロイメントの可用性、サービング精度、コンテキストを確認してください。公開されたモデル仕様はサービス性能を確立するものではありません。サービスステータスを確認してください。

ライセンスと来歴#

デプロイ前に公式モデルカードを確認してください。ライセンスにより追加条件が課される場合があります。オープンウェイトは同一ライセンスを意味しません。

このモデルを呼び出す#

上記に表示されている正確なモデルIDをChat Completionsエンドポイントで使用してください。このサービスはコンテンツフィルタリング層を追加しません。モデルの動作は元の学習内容を反映しています。

リクエスト例

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/Llama-3.1-8B-Instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'