Endpoint multi-container - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Endpoint multi-container

SageMaker Gli endpoint AI multi-container consentono ai clienti di implementare più container, che utilizzano modelli o framework diversi, su un singolo endpoint AI. SageMaker I container possono essere eseguiti in sequenza come pipeline di inferenza oppure è possibile accedere a ciascun container singolarmente utilizzando la chiamata diretta per migliorare l'utilizzo degli endpoint e ottimizzare i costi.

Per informazioni sull'invocazione dei container in un endpoint multi-container in sequenza, consulta Pipeline di inferenza in Amazon AI SageMaker .

Per informazioni sull'invocazione di un container specifico in un endpoint multi-container, consulta Richiamare un endpoint multi-container con invocazione diretta

Argomenti

Il criterio seguente consente le richieste invoke_endpoint solo quando il valore del campo TargetContainerHostname corrisponde a una delle espressioni regolari specificate.

JSON
{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetModel": [
                        "customIps*",
                        "common*"
                    ]
                }
            }
        }
    ]
}

La policy seguente nega le richieste invoke_endpoint quando il valore del campo TargetContainerHostname corrisponde a una delle espressioni regolari specificate nella dichiarazione Deny.

JSON
{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetModel": [
                        "model_name*"
                    ]
                }
            }
        },
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Deny",
            "Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetModel": [
                        "special-model_name*"
                    ]
                }
            }
        }
    ]
}

Per informazioni sulle chiavi di condizione SageMaker AI, consulta Condition Keys for SageMaker AI nella Guida per l'AWS Identity and Access Management utente.