故障診斷 Inference Recommender 錯誤

本節包含如何了解並防止常見錯誤、其所產生錯誤訊息的資訊，以及如何解決這些錯誤的指導方針。

如何故障診斷

您可以透過執行以下步驟嘗試解決錯誤：

檢查您是否已涵蓋使用 Inference Recommender 的所有先決條件。請參閱 Inference Recommender 先決條件。
檢查您是否能夠將模型從模型註冊表部署到端點，並且可毫無錯誤地處理您的承載。請參閱從註冊表部署模型。
當您開始執行 Inference Recommender 任務時，您應該會看到在主控台中建立的端點，而且也可以檢閱 CloudWatch 記錄。

常見錯誤

請參閱下表，了解常見的 Inference Recommender 錯誤及其解決方案。

錯誤	解決方案
在模型套件版本 1 中指定 `Domain`。`Domain` 是任務的必要參數。	請確定您提供 ML 網域，如果未知`OTHER`，則提供。
無法假設提供的角色 ARN 並發生 `AWSSecurityTokenServiceException` 錯誤。	請確定提供的執行角色具有先決條件中指定的必要許可。
在模型套件版本 1 中指定 `Framework`。`Framework` 是任務的必要參數。	確保您提供機器學習 (ML) 架構或者在未知的情況下提供 `OTHER`。
上一階段結束時的使用者為 0，而目前階段的初始使用者為 1。	此處的使用者指的是用來傳送請求的虛擬使用者或執行緒。每個階段都以 A 使用者開始，並以 B 使用者結束，以便 B > A. 在循序階段 x_1 和 x_2 之間，我們會要求 abs(x_2.A - x_1.B) <= 3 且 >= 0。
總流量持續時間 (跨階段) 不應超過任務持續時間。	所有階段的總持續時間不能超過任務持續時間。
不允許高載執行個體類型 ml.t2.medium。	Inference Recommender 不支援 t2 執行個體系列上的負載測試，因為高載執行個體無法提供一致的效能。
呼叫 CreateEndpoint 操作時使用 ResourceLimitExceeded	您已超過 SageMaker AI 資源限制。例如，如果帳戶已達到端點配額，Inference Recommender 可能無法佈建端點以進行基準測試。如需 SageMaker AI 限制和配額的詳細資訊，請參閱 Amazon SageMaker AI 端點和配額。
呼叫 InvokeEndpoint 操作時出現 ModelError	模型錯誤可能是由於下列原因所發生：等待來自模型容器的回應時調用已逾時。模型無法處理輸入承載。
呼叫 InvokeEndpoint 操作時出現 PayloadError	承載錯誤可能是由於下列原因所發生：承載來源不在 Amazon S3 儲存貯體中。承載採用非檔案物件格式。承載的檔案類型無效。例如，模型需要映像類型承載，但會傳遞一個文字檔案。承載是空的。

檢查 CloudWatch

當您開始執行 Inference Recommender 任務時，您應該會看到主控台正在建立端點。選取其中一個端點並檢視 CloudWatch 日誌，以監控是否有任何 4xx/5xx 錯誤。如果您有成功的 Inference Recommender 任務，您將能夠看到端點名稱作為結果的一部分。即使您的 Inference Recommender 任務失敗，您仍然可以按照以下步驟檢查已刪除端點的 CloudWatch 日誌：

在 https://console.aws.amazon.com/cloudwatch/ 開啟 Amazon CloudWatch 主控台。
從右上角的區域下拉式清單中，選取您在其中建立 Inference Recommender 任務的區域。
在 CloudWatch 導覽窗格中，選擇日誌，然後選擇日誌群組。
搜尋名為 /aws/sagemaker/Endpoints/sm-epc-* 的日誌群組。根據您最近的 Inference Recommender 任務選取日誌群組。

您也可以檢查 Inference Recommender CloudWatch 日誌，對任務進行故障診斷。在 /aws/sagemaker/InferenceRecommendationsJobs CloudWatch 日誌群組中發佈的 Inference Recommender 日誌，可提供 <jobName>/execution 日誌串流中任務進度的高階檢視。您可以在 <jobName>/Endpoint/<endpointName> 日誌串流中找到有關正在測試的每個端點組態之詳情。

Inference Recommender 日誌串流概觀

<jobName>/execution 包含整體任務資訊，例如針對基準測試排程的端點組態、編譯任務略過原因，以及驗證失敗原因。
<jobName>/Endpoint/<endpointName> 包含資源建立進度、測試組態、載入測試停止原因和資源清理狀態等資訊。
<jobName>/CompilationJob/<compilationJobName> 包含 Inference Recommender 所建立之編譯任務的相關資訊，例如編譯任務組態和編譯任務狀態。

建立 Inference Recommender 錯誤訊息的警示

Inference Recommender 會針對故障診斷時可能有幫助的錯誤輸出日誌陳述式。借助CloudWatch 日誌群組，您可在要傳送至 CloudWatch 的此份日誌資料中尋找詞彙和模式。然後，您可以根據日誌群組指標篩選條件建立 CloudWatch 警示。如需詳情，請參閱根據日誌群組指標篩選條件建立 CloudWatch 警示。

檢查基準

當您開始執行 Inference Recommender 任務時，Inference Recommender 會建立數個基準測試，以評估模型在不同執行個體類型上的效能。您可以使用 ListInferenceRecommendationsJobSteps API 來檢視所有基準測試的詳細資料。如果您有一個失敗的基準測試，您可以看到失敗原因作為結果的一部分。

若要使用 ListInferenceRecommendationsJobSteps API，請提供下列值：

對於 JobName，提供 Inference Recommender 任務的名稱。
對於 StepType，使用 BENCHMARK 傳回有關任務基準測試的詳細資訊。
對於 Status，使用 FAILED 僅傳回失敗基準測試的詳細資訊。如需其他狀態類型的清單，請參閱 ListInferenceRecommendationsJobSteps API 中的 Status 欄位。


# Create a low-level SageMaker service client.
import boto3
aws_region = '<region>'
sagemaker_client = boto3.client('sagemaker', region_name=aws_region) 

# Provide the job name for the SageMaker Inference Recommender job
job_name = '<job-name>'

# Filter for benchmarks
step_type = 'BENCHMARK' 

# Filter for benchmarks that have a FAILED status
status = 'FAILED'

response = sagemaker_client.list_inference_recommendations_job_steps(
    JobName = job_name,
    StepType = step_type,
    Status = status
)

您可以列印回應物件以檢視結果。前面的程式碼範例將回應儲存在一個名為 response 的變數：


print(response)

您的瀏覽器已停用或無法使用 Javascript。

您必須啟用 Javascript，才能使用 AWS 文件。請參閱您的瀏覽器說明頁以取得說明。

文件慣用形式

停止您的負載測試

即時推論