多模型推論工作流程協調

Amazon API Gateway 為使用者和管理員提供 RESTful 界面。Amazon Cognito 使用者集區提供身分驗證。

透過 API /create-job上的 POST請求建立新的任務，其中包含要對其執行洞見的資料。這會叫用建立任務AWS Lambda函數。

函數會將資料上傳至 Amazon Simple Storage Service 儲存貯體，並將任務資訊新增至 Amazon DynamoDB 資料表以進行追蹤。

Lambda 函數為透過 API Gateway 公開的 API 方法提供邏輯。這些允許建立、監控和協助擷取結果的任務。

資料表中的新項目會觸發 DynamoDB 串流，進而觸發 Step Functions 工作流程以進行推論。

Step Functions 工作流程會協調針對提供的資料物件執行多個 ML 推論任務所需的所有步驟。

ML 端點的中繼資料資訊會存放在 DynamoDB 資料表中，以用於工作流程。

步驟函數中的映射狀態會呼叫每個 ML 端點，並平行儲存結果。這可讓工作流程擴展到任意數量的 ML 端點調用。

SageMaker AI 模型端點託管 ML 模型。工作流程會為每個類別叫用這些端點。

為資料收集的所有 ML 洞察的最終結果會存放在 Amazon S3 中。

工作流程完成後，您可以透過對 的GET請求擷取最終結果/get-job-results。這會叫用取得任務結果 Lambda 函數，讀取 Amazon S3 儲存貯體。

多模型端點可以透過額外最佳化來擴展每個模型類型，例如每個類別的語言特定推論。