View a markdown version of this page

Zugriff und Sicherheit für Modelle mit offenem Gewicht - Amazon Bedrock
VoraussetzungenLambda-Berechtigungen für Belohnungsfunktionen

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Zugriff und Sicherheit für Modelle mit offenem Gewicht

Bevor Sie mit der Feinabstimmung der Verstärkung (RFT) beginnen, stellen Sie sicher, dass Sie wissen, welche Art von Zugriff Amazon Bedrock für den Betrieb benötigt. RFT-specific RFT benötigt aufgrund seiner Funktionen zur Ausführung von Belohnungsfunktionen zusätzliche Berechtigungen, die über die standardmäßige Feinabstimmung hinausgehen.

Voraussetzungen

Bevor Sie die mit Amazon Bedrock OpenAI kompatiblen Feinoptimierungs-APIs verwenden, stellen Sie sicher, dass Sie über Folgendes verfügen:

  1. Ein AWS Konto mit den entsprechenden Berechtigungen für den Zugriff auf Amazon Bedrock

  2. Authentifizierung — Sie können sich mit folgenden Methoden authentifizieren:

    • Amazon Bedrock API-Schlüssel (erforderlich für OpenAI SDK und verfügbar für HTTP-Anfragen)

    • AWS Anmeldeinformationen (unterstützt für HTTP-Anfragen)

    Anmerkung

    Wenn Sie term/long kurzfristige API-Schlüssel von Amazon Bedrock verwenden, stellen Sie sicher, dass Ihre Rolle Zugriff auf die folgenden IAM-Richtlinienberechtigungen hat: und. AmazonBedrockMantleFullAccess Lambda-Berechtigungen für Belohnungsfunktionen

  3. OpenAISDK (optional) — Installieren Sie das OpenAI Python-SDK, wenn Sie Anfragen verwenden. SDK-based

  4. Umgebungsvariablen — Legen Sie die folgenden Umgebungsvariablen fest:

    • OPENAI_API_KEY— Stellen Sie Ihren Amazon Bedrock API-Schlüssel ein

    • OPENAI_BASE_URL— Stellen Sie den Amazon Bedrock-Endpunkt für Ihre Region ein (z. B.) https://bedrock-mantle.us-west-2.api.aws/v1

    Weitere Informationen finden Sie unter API für Antworten.

  5. Trainingsdaten, die zu diesem Zweck als JSONL-Dateien formatiert wurden. fine-tune Weitere Informationen finden Sie unter Daten für Modelle mit offenem Gewicht vorbereiten.

Lambda-Berechtigungen für Belohnungsfunktionen

Sie müssen Lambda-Aufrufberechtigungen hinzufügen. Im Folgenden finden Sie eine Beispielrichtlinie, die Sie verwenden können:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:reward-function-name"
            ]
        }
    ]
}

Sie können auch von Amazon Bedrock gehostete Modelle als Juroren für die Einrichtung von Belohnungsfunktionen verwenden. Sie müssen der Lambda-Ausführungsrolle spezifische Berechtigungen hinzufügen, um Foundation-Modelle aufzurufen. In Ihrer Lambda-Rolle können Sie diese verwalteten Richtlinien für LLMs zur Benotung konfigurieren. Siehe AmazonBedrockLimitedAccess.

Im Folgenden finden Sie ein Beispiel für den Aufruf von Amazon Bedrock Foundation-Modellen als Judge mithilfe der Invoke-API:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:foundation-model/*"
            ]
        }
    ]
}