weightsapi.推論コンソール
ナビゲーション
ユースケース

評価できるユースケース

会話アシスタント、コードとツールのワークフロー、ドキュメント質問の実践的なシナリオ。明確な入力と品質チェック付き。

一目でわかる

モデルを選択したりトラフィックを移行したりする前に、実践的なタスクをテスト可能なワークフローに変えます。

確認可能な結果から始めてください

反復可能なタスクを1つ選び、曖昧なリクエストや情報不足を含む代表的な入力の小さなセットを収集してください。誰が出力をレビューするか、何が許容可能な回答かを定義してください。

これらのシナリオを使用して、独自の受け入れ基準を定義してください。仕組みを読み、FAQを確認し、機密資料を導入する前にデータ処理をレビューしてください。ワークロードを実行する前にサービスステータスを確認してください。

AIアクセスにはサインイン、最低USD 100の確認済みトップアップ1回、承認済みAPIキー、リクエストに十分な利用可能クレジットが必要です。以降の各トップアップにもUSD 100の最低金額があります。残高が少なくてもリクエストをカバーできる場合は使用可能です。クレジットには取引検証が必要です。トラフィックを送信する前にモデルの可用性についてサービスステータスを確認してください。

短い会話から返信ドラフトを作成する

サポートチームや内部ヘルプデスク向けに、承認済みの事実、最近の会話、明確な文体を提供してください。有用な結果はレビュー可能な返信です。

ワークショップで収集時間が火曜日から金曜日と記載されており、顧客が日曜日について尋ねた場合、返信では日曜日は提供された時間に含まれないことを説明し、可用性の確認を推奨するべきです。予約を約束してはいけません。

**品質チェック:**各事実の主張を検証し、関連する会話コンテキストを保持し、情報不足を明示してください。送信や予約は自身のレビューステップの後にしてください。チャットボットレシピOpen WebUIガイドから始め、使用前に選択したデプロイを検証してください。

コードをレビューし、ツールアクションを制約する

在庫ヘルパーの場合、関連するコード、タスク、許可されたツール定義を提供してください。SKU keyboardの在庫レベルを尋ね、アプリケーションが欠落したSKUをどのように処理するかを確認してください。

**期待される動作:**検証済みの引数で許可されたget_stock呼び出しを提案し、返されたデータを回答に使用し、欠落入力チェックを説明します。アプリケーションが呼び出しを実行するかどうかを決定します。ファイル編集、コマンド、外部アクションの前に権限チェックと明示的なレビューを要求してください。

**品質チェック:**未知のツール、予期しない引数、許可されていないアクションを拒否し、欠落または不正な入力をテストしてください。制約付きツールレシピCline設定に従い、ツールを有効にする前にデプロイ機能を検証してください。

自分が管理する文書から質問に答える

内部ナレッジアシスタントの場合、アプリケーションが文書コレクションとレトリーバーを提供し、選択した抜粋を安定したソースID付きでモデルに渡します。WeightsAPIは現在エンベディングを提供していません。RAGレシピでは小さな語彙ランキング例を使用しています。

ソースS1がマネージャーの承認を要求し、ソースS2が緊急リクエストも同じプロセスに従うと述べている場合、緊急アクセスに関する回答は両方のソースを引用し、承認要件を保持する必要があります。承認期限を捏造してはいけません。

**品質チェック:**関連する抜粋が取得されたことを確認し、各引用が主張を裏付けていることを確認し、証拠が不足している場合は明示的な制限を提示してください。取得層で文書権限を強制し、コレクションが回答できない質問をテストしてください。

トラフィックを切り替える前に品質とコストを比較する

利用可能なデプロイを使用して、同じ入力と同等の設定で候補モデルを比較してください。事実の正確性、指示の遵守、引用、有効なツール引数をスコアリングし、入力および出力トークン、最初のトークンまでの時間、完了時間を記録してください。

現在の価格表を実際の使用量(繰り返しコンテキストや再試行を含む)とともに使用してください。キー予算を設定し、再試行を制限し、ロールバックパスを保持してください。自身の受け入れ基準が合格した後にのみトラフィックを切り替えてください。

次のステップが必要ですか?

関連するガイドを探すか、問題の詳細を準備してください。

サポートを開く