本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
基礎模型的推論請求參數和回應欄位
本節中的主題說明 Amazon Bedrock 所提供模型的請求參數和回應欄位。當您使用模型調用 (InvokeModel、InvokeModelWithResponseStream、Converse 和 ConverseStream) API 操作對模型進行推論呼叫時,您可以包含請求參數,具體取決於您使用的模型。
如果您建立了自訂模型,請使用與自訂模型所依據基礎模型相同的推論參數。
如果您要將自訂模型匯入 Amazon Bedrock,請務必使用您匯入的自訂模型所提及的相同推論參數。如果您使用的推論參數與本文件中針對該模型所提及的推論參數不相符,則會忽略這些參數。
在檢視不同模型的模型參數之前,您應該先閱讀以下章節,以熟悉模型推論是什麼:提交提示並使用模型推論產生回應。
如需 Amazon Bedrock 中不同模型的詳細資訊,請參閱下列頁面:
-
如需模型及其 ID 的資料表,以搭配使用模型調用 API 操作、其支援的區域,以及其支援的一般功能,請參閱 Amazon Bedrock 中支援的基礎模型。
-
如需每個模型支援之 Amazon Bedrock 區域的資料表,請參閱 Amazon Bedrock AWS 區域中的 模型支援。
-
如需每個模型支援之 Amazon Bedrock 功能的資料表,請參閱 Amazon Bedrock 中依功能提供的模型支援。
-
若要檢查 Converse API (
Converse和ConverseStream) 是否支援特定模型,請參閱 支援的模型和模型功能。 -
當您對模型進行推論呼叫時,您會包含模型的提示。如需建立 Amazon Bedrock 支援之模型提示的相關資訊,請參閱 提示工程概念。
-
如需程式碼範例,請參閱 使用 AWSSDKs Amazon Bedrock 程式碼範例。
選取主題以了解該供應商的模型及其參數。