預先檢查表格式資料的端點請求和回應 - Amazon SageMaker AI

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

預先檢查表格式資料的端點請求和回應

我們建議您將模型部署到 SageMaker AI 即時推論端點，然後將請求傳送到端點。手動檢查請求和回應，以確定兩者都符合 表格式資料的端點請求 區段和 表格式資料的端點回應 區段中的需求。如果您的模型容器支援批次請求，您可以從單一記錄請求開始，然後嘗試兩個或更多記錄。

下列命令顯示如何使用請求回應 AWS CLI。 AWS CLI 已預先安裝在 SageMaker Studio 與 SageMaker 筆記本執行個體。若要安裝 AWS CLI，請遵循此安裝指南。

aws sagemaker-runtime invoke-endpoint \
  --endpoint-name $ENDPOINT_NAME \
  --content-type $CONTENT_TYPE \
  --accept $ACCEPT_TYPE \
  --body $REQUEST_DATA \
  $CLI_BINARY_FORMAT \
  /dev/stderr 1>/dev/null

參數定義如下。

  • $ENDPOINT NAME— 端點的名稱。

  • $CONTENT_TYPE — 請求的 MIME 類型 (模型容器輸入)。

  • $ACCEPT_TYPE — 回應的 MIME 類型 (模型容器輸出)。

  • $REQUEST_DATA— 請求有效負載字串。

  • $CLI_BINARY_FORMAT - 命令列介面 (CLI) 參數的格式。對於 AWS CLI v1，此參數應保持空白。對於第 2 版，此參數應設定為 --cli-binary-format raw-in-base64-out。

注意

AWS CLI v2 預設會以 base64 編碼字串的形式傳遞二進位參數。