View a markdown version of this page

Requisitos previos para ejecutar la inferencia de modelos - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Requisitos previos para ejecutar la inferencia de modelos

Para que un rol ejecute la inferencia de modelos, debe permitirle realizar las acciones de la API de invocación de modelos. Si su función tiene adjunta la política AmazonBedrockFullAccess AWS gestionada, puede omitir esta sección. De lo contrario, adjunte los siguientes permisos al rol para que pueda usar Converse y ConverseStream Actions con todos los recursos compatibles en Amazon Bedrock: InvokeModel InvokeModelWithResponseStream

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

Para restringir aún más los permisos, puede omitir acciones o puede especificar recursos y claves de condición para filtrar los permisos. Para obtener más información sobre las acciones, los recursos y las claves de condición, consulte los siguientes temas en la Referencia de autorizaciones de servicio:

En la siguiente lista se indica si necesita una acción, en función de su caso de uso:

  • bedrock:InvokeModel: necesario para realizar la invocación del modelo. Permite que el rol llame a las operaciones de la API InvokeModel y de Converse.

  • bedrock:InvokeModelWithResponseStream: necesario para realizar la invocación del modelo y devolver las respuestas de streaming. Permite que el rol llame a las operaciones de la API InvokeModelWithResponseStream y de Converse Stream.

  • Las siguientes acciones permiten que un rol funcione con las respuestas que la API de respuestas almacena en el bedrock-runtime punto final. Cada una de ellas autoriza el proyecto al que pertenece la respuesta, no un modelo:

    • bedrock:GetInvoke— Necesario para recuperar una respuesta almacenada.

    • bedrock:CancelInvoke— Necesario para cancelar una respuesta que aún está en curso.

    • bedrock:DeleteInvoke— Necesario para eliminar una respuesta almacenada.

    La creación de una respuesta también es necesaria bedrock:InvokeModel para el proyecto, además del objetivo de inferencia. Las API de finalización de Converse, Invoke y Chat no almacenan respuestas y no necesitan estas acciones. Para obtener más información, consulte Proyectos (OpenAI-compatible).

  • Las siguientes acciones permiten a un rol ejecutar la inferencia con recursos de Amazon Bedrock distintos de los modelos fundacionales:

  • Las siguientes acciones permiten a un rol ver los recursos de Amazon Bedrock distintos de los modelos fundacionales en la consola de Amazon Bedrock y seleccionarlos:

    • bedrock:ListInferenceProfiles: necesario para elegir un perfil de inferencia en la consola de Amazon Bedrock.

    • bedrock:ListCustomModels: necesario para elegir un modelo personalizado en la consola de Amazon Bedrock.

    • bedrock:ListImportedModels: necesario para elegir un modelo importado en la consola de Amazon Bedrock.

    • bedrock:ListProvisionedModelThroughputs: necesario para elegir un rendimiento aprovisionado en la consola de Amazon Bedrock.

  • Las siguientes acciones permiten que un rol acceda a las barreras de protección y las aplique desde Barreras de protección para Amazon Bedrock durante la invocación del modelo:

    • bedrock:GetGuardrail: necesario para usar una barrera de protección durante la invocación del modelo.

    • bedrock:ApplyGuardrail: necesario para aplicar una barrera de protección durante la invocación del modelo.

    • bedrock:ListGuardrails: necesario para elegir una barrera de protección en la consola de Amazon Bedrock.