使用 API 提交提示並產生回應 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用 API 提交提示並產生回應

Amazon Bedrock 提供followingAPI 操作來執行模型推論:

  • InvokeModel – 提交提示並產生回應。請求內文是模型特定的。若要產生串流回應,請使用 InvokeModelWithResponseStream

  • 相反 – 提交提示,並使用跨所有模型統一的結構產生回應。您可以在 欄位中指定模型特定的請求additionalModelRequestFields欄位。您也可以針對內容包含系統提示和先前的對話。若要產生串流回應,請使用 ConverseStream

  • StartAsyncInvoke – 提交提示並以非同步方式產生回應,以供稍後擷取。用來產生影片。

  • InvokeModelWithBidirectionalStream

  • OpenAI 聊天完成 API – 使用OpenAI聊天完成 API 搭配 Amazon Bedrock 支援的模型來產生回應。

針對模型推論,您需要判斷下列參數:

選取主題以了解如何使用模型調用 APIs。