Inviare un processo di importazione del modello - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Inviare un processo di importazione del modello

Importi un modello in Amazon Bedrock inviando un processo di importazione del modello nella console Amazon Bedrock, utilizzando l'API, utilizzando AWS CLI o utilizzando SDK. AWS Nel processo viene specificato l’URI di Amazon S3 per l’origine dei file modello. In alternativa, se hai creato il modello in Amazon SageMaker AI, puoi specificare il modello di SageMaker intelligenza artificiale. Durante l’importazione del modello, il processo di importazione rileva automaticamente l’architettura del modello. Il processo di importazione del modello può richiedere alcuni minuti. Durante il processo, Amazon Bedrock verifica che il modello da importare utilizzi un’architettura del modello compatibile.

La procedura seguente mostra come creare un modello personalizzato importando un modello già personalizzato. Selezionare la scheda corrispondente al metodo scelto, poi seguire la procedura.

Console

Per inviare un processo di importazione del modello nella console, completa la seguente procedura.

  1. Se stai importando i file modello di Amazon S3, converti il modello nel formato Hugging Face.

    1. Se il tuo è un modello Mistral AI, utilizza convert_mistral_weights_to_hf.py.

    2. Se il tuo è un modello Llama, utilizza convert_llama_weights_to_hf.py.

    3. Carica il file zip in un bucket Amazon S3 nell’account AWS. Per ulteriori informazioni, consulta Caricare un oggetto nel bucket.

    4. Se utilizzi chiavi Amazon S3 o KMS su più account per importare il tuo modello personalizzato, consenti ad Amazon Bedrock di accedere alla tua chiave Account AWS Amazon S3 o KMS. Per ulteriori informazioni, consulta Accesso multi-account al bucket Amazon S3 per i processi di importazione di modelli personalizzati.

  2. Nella console Amazon Bedrock, scegli Modelli importati in Modelli di fondazione nel riquadro di navigazione a sinistra.

  3. Scegli la scheda Modelli.

  4. Scegli Modello di importazione.

  5. Nella scheda Importato, scegli Modello di importazione per aprire la pagina Modello di importazione.

  6. Nella sezione Dettagli modello, procedi come segue:

    1. Per Nome del modello inserisci un nome per il modello.

    2. (Facoltativo) Per associare tag al modello, espandi la sezione Tag se seleziona Aggiungi nuovo tag.

  7. Nella sezione Nome del processo di importazione, procedi come segue:

    1. In Nome del processo, inserisci un nome per il processo di importazione del modello.

    2. (Facoltativo) Per associare tag al modello personalizzato, espandi la sezione Tag se seleziona Aggiungi nuovo tag.

  8. In Impostazioni di importazione del modello, seleziona le opzioni di importazione che vuoi utilizzare.

    • Seleziona il bucket Amazon S3 o il modello Amazon SageMaker AI per specificare la fonte di importazione.

    • Se stai importando i file modello da un bucket Amazon S3, inserisci la posizione Amazon S3 in Posizione S3. Facoltativamente, puoi scegliere Sfoglia S3 per scegliere il percorso del file.

    • Se stai importando il tuo modello da Amazon SageMaker AI, scegli il modello Amazon SageMaker AI e poi scegli il modello di SageMaker intelligenza artificiale che desideri importare nei modelli di SageMaker intelligenza artificiale.

  9. Inserisci le impostazioni VPC (facoltativo) per scegliere una configurazione VPC per accedere all’origine dati di Amazon S3 nel VPC. In Amazon VPC puoi creare e gestire un cloud privato virtuale, sottoreti e gruppi di sicurezza. Per ulteriori informazioni su Amazon VPC, consulta (Facoltativo) Proteggere i processi di importazione dei modelli personalizzati utilizzando un VPC.

  10. Seleziona Crittografia, per crittografare i dati di default con una AWS chiave di tua proprietà e gestita da te. Puoi anche scegliere una chiave diversa se selezioni Personalizza le impostazioni di crittografia (avanzate).

  11. Nella sezione Accesso al servizio, seleziona una delle seguenti opzioni:

    • Crea e utilizza un nuovo ruolo di servizio: inserisci un nome per il ruolo di servizio.

    • Usa un ruolo di servizio esistente: seleziona un ruolo di servizio nell’elenco a discesa. Per visualizzare le autorizzazioni necessarie al ruolo di servizio esistente, scegli Visualizza dettagli dell’autorizzazione.

      Per ulteriori informazioni sulla configurazione di un ruolo di servizio con le autorizzazioni appropriate, consulta Creazione di un ruolo di servizio per l’importazione di modelli pre-addestrati.

      Nota

      se utilizzi chiavi Amazon S3 o KMS per più account, modifica la politica del ruolo del servizio e sostituisci l'ID account specificato aws:ResourceAccount per con l'ID account AWS del proprietario del bucket.

  12. Scegli Importa.

  13. Nella pagina Modelli personalizzati, scegli Importato.

  14. Nella sezione Processi, controlla lo stato del processo di importazione. Il nome del modello scelto identifica il processo di importazione del modello. Il processo è completo se il valore di Stato per il modello è Completo.

  15. Per recuperare l’ID modello esegui le seguenti operazioni.

    1. Nella pagina Modelli importati, scegli la scheda Modelli.

    2. Copia l’ARN del modello che vuoi utilizzare dalla colonna ARN.

  16. Utilizza il tuo modello per le chiamate di inferenza. Per ulteriori informazioni, consulta Invia una sola richiesta con InvokeModel. Puoi utilizzare un modello importato con throughput su richiesta.

    Puoi anche utilizzare il tuo modello nel playground testo di Amazon Bedrock.

API

Richiesta

Invia una richiesta CreateModelImportJob(consulta il link per il formato di richiesta e risposta e i dettagli sul campo) con un endpoint del piano di controllo Amazon Bedrock per inviare un processo di importazione di modelli personalizzato. Devi specificare almeno i seguenti campi:

Per evitare che la richiesta venga completata più di una volta, includi un clientRequestToken.

Puoi includere i seguenti campi facoltativi per ulteriori configurazioni.

Risposta

La risposta restituisce un jobArn per il processo di importazione da utilizzare per identificare il processo di importazione in altre operazioni.

Il completamento del processo di importazione richiederà tempo. È possibile verificare lo stato corrente chiamando l'GetModelImportJoboperazione e controllando il Status campo nella risposta. È possibile elencare i lavori di importazione correnti con ListModelImportJobs.

Per ottenere un elenco dei modelli che hai importato, chiama ListImportedModels. Per ottenere informazioni su uno specifico modello importato, chiama GetImportedModel.

Per eliminare un modello importato, chiama DeleteImportedModel.