推論リクエストの実行

推論は、モデルに提供される入力から出力を生成するプロセスです。Amazon Bedrock に推論リクエストを送信する前に、ロールがモデル呼び出し API アクションを実行できるようにする必要があります。これは、使用しているエンドポイントによって異なります。

bedrock-mantle エンドポイント

ロールに AmazonBedrockMantleInferenceAccess AWS 管理ポリシーがアタッチされている場合は、このセクションをスキップできます。それ以外の場合は、次のアクセス許可をアタッチして、bedrock-mantleエンドポイント (Responses API、Chat Completions、Messages API) を介した推論を許可します。

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "MantleInferencePermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock-mantle:CreateInference",
                "bedrock-mantle:GetProject",
                "bedrock-mantle:ListProjects",
                "bedrock-mantle:ListTagsForResources"
            ],
            "Resource": "*"
        }
    ]
}

bedrock-runtime エンドポイント

ロールに AmazonBedrockFullAccess AWS 管理ポリシーがアタッチされている場合は、このセクションをスキップできます。それ以外の場合は、次のアクセス許可をアタッチして、bedrock-runtimeエンドポイント (Converse および Invoke APIs を介した推論を許可します。

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

各アクセス許可の詳細な内訳については、「」を参照してくださいモデル推論を実行するための前提条件。