Accesso e sicurezza per modelli a peso aperto - Amazon Bedrock
PrerequisitiAutorizzazioni Lambda per le funzioni di ricompensa

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Accesso e sicurezza per modelli a peso aperto

Prima di iniziare il reinforcement fine-tuning (RFT), assicurati di comprendere il tipo di accesso di cui Amazon Bedrock ha bisogno per operazioni specifiche di RFT. RFT richiede autorizzazioni aggiuntive oltre alla regolazione di precisione standard grazie alle sue capacità di esecuzione della funzione di ricompensa.

Prerequisiti

Prima di utilizzare il fine-tuning OpenAI compatibile con Amazon Bedrock APIs, assicurati di disporre di quanto segue:

  1. Un AWS account con le autorizzazioni appropriate per accedere ad Amazon Bedrock

  2. Autenticazione: puoi autenticarti utilizzando:

    • Chiave API Amazon Bedrock (richiesta per OpenAI SDK e disponibile per le richieste HTTP)

    • AWS credenziali (supportate per le richieste HTTP)

    Nota

    Se utilizzi chiavi API di Amazon Bedrock a breve/lungo termine, assicurati che il tuo ruolo abbia accesso alle seguenti autorizzazioni delle policy IAM: e al ruolo. AmazonBedrockMantleFullAccess AWSLambda

  3. OpenAISDK (opzionale): installa l'SDK OpenAI Python se utilizzi richieste basate su SDK.

  4. Variabili di ambiente: imposta le seguenti variabili di ambiente:

    • OPENAI_API_KEY— Imposta sulla tua chiave API Amazon Bedrock

    • OPENAI_BASE_URL— Impostato sull'endpoint Amazon Bedrock per la tua regione (ad esempio,) https://bedrock-mantle.us-west-2.api.aws/v1

    Per ulteriori informazioni, consulta API di risposta.

  5. Dati di addestramento formattati come file JSONL con lo scopo. fine-tune Per ulteriori informazioni, consulta Preparare i dati per modelli a peso aperto.

Autorizzazioni Lambda per le funzioni di ricompensa

È necessario aggiungere le autorizzazioni di chiamata Lambda. Di seguito viene illustrato un esempio di policy che è possibile utilizzare:

{
    "Version": "2012-10-17",		 	 	 
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:reward-function-name"
            ]
        }
    ]
}

Puoi anche utilizzare i modelli ospitati da Amazon Bedrock come giudici per configurare funzioni di ricompensa. Dovrai aggiungere autorizzazioni specifiche per richiamare i modelli di base al ruolo di esecuzione Lambda. Nel tuo ruolo lambda, puoi configurare queste politiche gestite per il grading. LLMs Per informazioni, consulta AmazonBedrockLimitedAccess.

Di seguito è riportato un esempio di come richiamare i modelli di Amazon Bedrock Foundation come arbitri utilizzando l'API Invoke:

{
    "Version": "2012-10-17",		 	 	 
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:foundation-model/*"
            ]
        }
    ]
}