さまざまなモデル推論方法のユースケースについて学ぶ - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

さまざまなモデル推論方法のユースケースについて学ぶ

モデル推論は、次の方法で直接実行できます。

[メソッド] ユースケース
Amazon Bedrock コンソールのプレイグラウンド ユーザーフレンドリーなグラフィカルインターフェイスで推論を実行します。探索に便利です。
Converse または ConverseStream モデル入力用の統合 API を使用して、会話型アプリケーションを実装します。
InvokeModel または InvokeModelWithResponseStream 単一のプロンプトを送信し、レスポンスを同期的に生成します。レスポンスをリアルタイムで生成する場合や検索クエリに便利です。
StartAsyncInvoke 単一のプロンプトを送信し、レスポンスを非同期的に生成します。レスポンスを大規模に生成する場合に役立ちます。
CreateModelInvocationJob プロンプトのデータセットを準備し、レスポンスをバッチで生成します。

次の Amazon Bedrock の機能も、より大きなワークフローの一部としてモデル推論を使用します。

  • モデル評価では、CreateEvaluationJob リクエストを送信した後、モデル呼び出しプロセスを使用して異なるモデルのパフォーマンスを評価します。

  • ナレッジベースは、RetrieveAndGenerate API を使用してナレッジベースから得た検索結果に基づいてレスポンスを生成するときに、モデル呼び出しを使用します。

  • エージェントは、InvokeAgent リクエストの処理中のさまざまな段階で、モデル呼び出しを使用してレスポンスを生成します。

  • フローには、プロンプト、ナレッジベース、エージェントなど、モデルの呼び出しを使用する Amazon Bedrock リソースが含まれています。

異なるプロンプトや推論パラメータでさまざまな基盤モデルをテストした後、必要な仕様でこれらの API を呼び出すようにアプリケーションを設定できます。