Prerequisiti per i profili di inferenza - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Prerequisiti per i profili di inferenza

Prima di poter utilizzare un profilo di inferenza, verifica di aver soddisfatto i seguenti prerequisiti:

  • Il tuo ruolo ha accesso alle azioni dell'API del profilo di inferenza. Se al tuo ruolo è allegata la policy AmazonBedrockFullAccess AWS-managed, puoi saltare questo passaggio. In caso contrario, eseguire le seguenti operazioni:

    1. Segui i passaggi descritti in Creazione delle politiche IAM e crea la seguente politica, che consente a un ruolo di eseguire azioni relative al profilo di inferenza ed eseguire l'inferenza del modello utilizzando tutti i modelli di base e i profili di inferenza.

      JSON
      {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*",
                "bedrock:CreateInferenceProfile"
            ],
            "Resource": [
                "arn:aws:bedrock:*::foundation-model/*",
                "arn:aws:bedrock:*:*:inference-profile/*",
                "arn:aws:bedrock:*:*:application-inference-profile/*"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:DeleteInferenceProfile",
                "bedrock:TagResource",
                "bedrock:UntagResource",
                "bedrock:ListTagsForResource"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:inference-profile/*",
                "arn:aws:bedrock:*:*:application-inference-profile/*"
            ]
        }
    ]
}

      (Facoltativo) Puoi limitare l'accesso al ruolo nei seguenti modi:

      • Per limitare le azioni API che il ruolo può eseguire, modifica l'elenco nel Action campo in modo che contenga solo le operazioni API a cui desideri consentire l'accesso.

      • Per limitare l'accesso del ruolo a profili di inferenza specifici, modifica l'Resourceelenco in modo che contenga solo i profili di inferenza e i modelli di base a cui desideri consentire l'accesso. I profili di inferenza definiti dal sistema iniziano con inference-profile e i profili di inferenza delle applicazioni iniziano con. application-inference-profile

        Importante

        Quando si specifica un profilo di inferenza nel Resource campo della prima istruzione, è necessario specificare anche il modello di base in ogni regione ad esso associata.

      • Per limitare l'accesso degli utenti in modo che possano richiamare un modello di base solo tramite un profilo di inferenza, aggiungi un Condition campo e usa la aws:InferenceProfileArn chiave di condizione. Specificate il profilo di inferenza su cui filtrare l'accesso. Questa condizione può essere inclusa in un'istruzione che si riferisce alle foundation-model risorse.

      • Ad esempio, puoi allegare la seguente politica a un ruolo per consentirgli di richiamare il Anthropic Claude 3 Haiku modello solo tramite il profilo di Anthropic Claude 3 Haiku inferenza statunitense nell'account in 111122223333 us-west-2:

        JSON
        {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-haiku-20240307-v1:0",
                "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
            ],
            "Condition": {
                "StringLike": {
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
                }
            }
        }
    ]
}

    2. Segui i passaggi indicati in Aggiungere e rimuovere le autorizzazioni di identità IAM per associare la policy a un ruolo e concedere al ruolo le autorizzazioni per visualizzare e utilizzare tutti i profili di inferenza.

  • Hai richiesto l'accesso al modello definito nel profilo di inferenza che desideri utilizzare, nella regione da cui desideri richiamare il profilo di inferenza.