Voraussetzungen für den bereitgestellten Durchsatz - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Voraussetzungen für den bereitgestellten Durchsatz

Bevor Sie Provisioned Throughput erwerben und verwalten können, müssen Sie die folgenden Voraussetzungen erfüllen:

  1. Fordern Sie Zugriff auf das Modell oder die Modelle an, für die Sie Provisioned Throughput erwerben möchten. Nachdem der Zugriff gewährt wurde, können Sie Provisioned Throughput für das Basismodell und alle darauf abgestimmten Modelle erwerben.

  2. Stellen Sie sicher, dass Ihre IAM-Rolle Zugriff auf die API-Aktionen für den bereitgestellten Durchsatz hat. Wenn an Ihre Rolle die AmazonBedrockFullAccessAWS-managed Policy angehängt ist, können Sie diesen Schritt überspringen. Andernfalls gehen Sie wie folgt vor:

    1. Folgen Sie den Schritten unter IAM-Richtlinien erstellen und erstellen Sie die folgende Richtlinie, die es einer Rolle ermöglicht, einen bereitgestellten Durchsatz für alle grundlegenden und benutzerdefinierten Modelle zu erstellen.

      JSON
      {
    "Version":"2012-10-17",		 	 	 
    "Statement": [
        {
            "Sid": "PermissionsForProvisionedThroughput",
            "Effect": "Allow",
            "Action": [
                "bedrock:GetFoundationModel",
                "bedrock:ListFoundationModels",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:ListTagsForResource",
                "bedrock:UntagResource",
                "bedrock:TagResource",
                "bedrock:CreateProvisionedModelThroughput",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:UpdateProvisionedModelThroughput",
                "bedrock:DeleteProvisionedModelThroughput"
            ],
            "Resource": "*"
        }
    ]
}
      Anmerkung

      Wenn Sie Provisioned Throughput mit regionsübergreifender Inferenz verwenden, benötigen Sie möglicherweise zusätzliche Berechtigungen. Weitere Informationen hierzu finden Sie unter Erhöhen des Durchsatzes mit regionenübergreifender Inferenz.

      (Optional) Sie können den Zugriff der Rolle wie folgt einschränken:

      • Um die API-Aktionen für die Rolle einzuschränken, ändern Sie die Liste im Action-Feld so, dass sie nur die API-Operationen enthält, für die Sie Zugriff gewähren möchten.

      • Nachdem Sie ein bereitgestelltes Modell erstellt haben, können Sie die Fähigkeit der Rolle einschränken, eine API-Anfrage mit dem bereitgestellten Modell auszuführen, indem Sie die Resource Liste so ändern, dass sie nur die bereitgestellten Modelle enthält, für die Sie Zugriff gewähren möchten. Ein Beispiel finden Sie unter Zulassen, dass Benutzer ein bereitgestelltes Modell aufrufen.

      • Um die Fähigkeit einer Rolle einzuschränken, bereitgestellte Modelle aus bestimmten Basismodellen oder benutzerdefinierten Modellen zu erstellen, ändern Sie die Resource Liste so, dass sie nur die Basismodelle und benutzerdefinierten Modelle enthält, für die Sie Zugriff gewähren möchten.

    2. Folgen Sie den Schritten unter Hinzufügen und Entfernen von IAM-Identitätsberechtigungen, um die Richtlinie einer Rolle zuzuordnen und die Rollenberechtigungen zu gewähren.

  3. Wenn Sie Provisioned Throughput für ein benutzerdefiniertes Modell erwerben, das mit einem vom Kunden verwalteten AWS KMS Schlüssel verschlüsselt ist, muss Ihre IAM-Rolle über Berechtigungen zum Entschlüsseln des Schlüssels verfügen. Sie können die Vorlage unter verwenden. Erfahren Sie, wie Sie einen kundenseitig verwalteten Schlüssel erstellen und ihm eine Schlüsselrichtlinie zuordnen Für minimale Berechtigungen können Sie nur die Permissions for custom model users Richtlinienerklärung verwenden.