weightsapi.推理控制台
导航
模型参考

Hermes 4 70B

由 Nous Research 发布的创意对话、角色扮演和推理,指令可配置。

无需 KYC

当前登录流程中无需上传身份证明文件或进行 KYC 步骤。访问和使用与您的账户关联。

无附加内容过滤

WeightsAPI 在网关处不添加任何内容过滤器。模型自身的训练仍可能导致其拒绝请求。

INPUT / 1M$0.13
OUTPUT / 1M$0.40
SERVICE CONTEXT*128K
实测速度未测量

API 模型 IDNousResearch/Hermes-4-70B

已发布的上下文131,072 令牌

量化未验证

许可证Meta Llama Community

最适合#

创意写作、角色扮演以及结合对话与推理或结构化输出的助手。Nous Research 强调可配置行为和减少拒绝。

在以下情况选择其他模型#

您需要图像或音频输入,或者硬件预算较紧需使用更小的模型。Hermes 4 70B 仅支持文本,其公开定位并不保证无拒绝的回答。

部署详情#

已发布的配置支持 131,072 个上下文位置,原始权重采用 BF16 格式。请确认 WeightsAPI 实际部署的上下文上限和数值精度。目前没有实测吞吐量数据。启用推理模式和工具调用前,请先验证其行为。

共享推理按本页面所示的输入和输出价格计费,单位为每百万个令牌的美元金额。同等的费率适用于 WeightsAPI 服务的整个上下文窗口;此标准费率不享受任何缓存或批量折扣。在使用列出的 131,072 个令牌的服务上限之前,请确认部署的上下文。使用前请参阅定价服务状态

许可与来源#

Nous 将这些权重作为 Llama 3.1 70B 的衍生版本发布。模型卡将其许可标记为 llama3;仓库中没有单独的许可文件来阐明该标记。请查看底层的 Llama 3.1 条款,包括归属和使用条件。

调用此模型#

一旦启用定价部署,请使用 NousResearch/Hermes-4-70B 配合 Chat Completions。WeightsAPI 不添加网关内容过滤器。仍可能发生拒绝,并且已发布模型的聊天模板和支持的功能必须与服务配置匹配。

访问 AI 需要登录、账户已收到一笔至少 100 美元的已确认充值,并有足够的可用余额。在首次符合条件的充值后,即使剩余余额低于 100 美元,只要足以支付请求,仍可继续使用。公布价格并不代表模型已经启用;请查看服务状态以确认部署是否可用。

请求示例

curl https://weightsapi.com/v1/chat/completions \
  -H "Authorization: Bearer $WEIGHTSAPI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "NousResearch/Hermes-4-70B",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "stream": true
}'