Fonti dei modelli e contratti di licenza - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Fonti dei modelli e contratti di licenza

Amazon SageMaker JumpStart fornisce l'accesso a centinaia di modelli di base proprietari e disponibili pubblicamente da fonti e partner di terze parti. Puoi esplorare la selezione del modello di JumpStart base direttamente nella console SageMaker AI, Studio o Studio Classic.

Licenze e fonti dei modelli

Amazon SageMaker JumpStart fornisce l'accesso a modelli di base disponibili pubblicamente e proprietari. I modelli di fondazione sono integrati e gestiti da fornitori proprietari e open source di terze parti. Pertanto, vengono rilasciati con licenze diverse, come indicato dal codice sorgente del modello. Assicurati di controllare la licenza di qualsiasi modello di fondazione che utilizzi. Sei responsabile della revisione e del rispetto di tutte le condizioni di licenza applicabili e di assicurarsi che siano accettabili per il tuo caso d'uso prima di scaricare o utilizzare il contenuto. Di seguito sono riportati alcuni esempi di comuni licenze del modello di fondazione:

  • Modello di Alexa Teacher

  • Apache 2.0

  • BigScience Licenza AI responsabile v1.0

  • Licenza CreativeML Open RAIL++-M

Analogamente, per tutti i modelli di fondazione proprietari, assicurati di leggere e rispettare tutte le condizioni d'uso e le linee guida di utilizzo del fornitore del modello. Se hai domande sulle informazioni sulla licenza per uno specifico modello proprietario, contatta direttamente il fornitore del modello. Puoi trovare le informazioni di contatto del fornitore del modello nella scheda Supporto di ogni pagina del modello in Marketplace AWS.

Contratti di licenza con l'utente finale

Alcuni modelli JumpStart base richiedono l'accettazione esplicita di un contratto di licenza con l'utente finale (EULA) prima dell'uso.

Accettazione dell'EULA in Amazon Studio SageMaker

È possibile che ti venga richiesto di accettare un contratto di licenza per l'utente finale prima di perfezionare, distribuire o valutare un modello base in Studio. JumpStart Per iniziare a usare i modelli di base in Studio, consulta. JumpStart Usa i modelli di base in Studio

Importante

A partire dal 30 novembre 2023, la precedente esperienza Amazon SageMaker Studio è ora denominata Amazon SageMaker Studio Classic. La sezione seguente è specifica per l'utilizzo dell'esperienza Studio aggiornata. Per informazioni sull'utilizzo dell'applicazione Studio Classic, consultaAmazon SageMaker Studio Classic.

Alcuni modelli JumpStart base richiedono l'accettazione di un contratto di licenza per l'utente finale prima della distribuzione. Se ciò si applica al modello base che scegli di utilizzare, Studio ti richiede una finestra contenente il contenuto dell'EULA. Sei responsabile della revisione e del rispetto di tutte le condizioni di licenza applicabili e di verificare che siano accettabili per il tuo caso d'uso, prima di scaricare o utilizzare un modello.

Accettazione dell'EULA in Amazon SageMaker Studio Classic

È possibile che ti venga richiesto di accettare un contratto di licenza per l'utente finale prima di distribuire un modello JumpStart base o aprire un notebook modello JumpStart base in Studio Classic. Per iniziare a utilizzare i modelli di JumpStart base in Studio Classic, consulta. Usa i modelli di base in Amazon SageMaker Studio Classic

Importante

A partire dal 30 novembre 2023, la precedente esperienza Amazon SageMaker Studio è ora denominata Amazon SageMaker Studio Classic. La sezione seguente è specifica per l'utilizzo dell'applicazione Studio Classic. Per informazioni sull'utilizzo dell'esperienza Studio aggiornata, consultaAmazon SageMaker Studio.

Alcuni modelli JumpStart base richiedono l'accettazione di un contratto di licenza per l'utente finale prima della distribuzione. Se ciò si applica al modello base che si sceglie di utilizzare, Studio Classic visualizza una finestra intitolata Leggi l'accordo di licenza con l'utente finale (EULA) e la politica di utilizzo accettabile (AUP) di seguito dopo aver scelto Deploy o Open notebook. Sei responsabile della revisione e del rispetto di tutte le condizioni di licenza applicabili e di verificare che siano accettabili per il tuo caso d'uso, prima di scaricare o utilizzare un modello.

Accettazione dell'EULA con l'SDK SageMaker Python

Le seguenti sezioni mostrano come dichiarare esplicitamente l'accettazione dell'EULA durante la distribuzione o la messa a punto di un modello con l'SDK. JumpStart SageMaker Python Per ulteriori informazioni su come iniziare a utilizzare i modelli di base utilizzando l'SDK, consulta JumpStart . SageMaker Python Usa i modelli di base con l'SDK SageMaker Python

Prima di iniziare, assicuratevi di fare quanto segue:

  • Effettua l'aggiornamento alla versione più recente del modello che utilizzi.

  • Installa la versione più recente dell' SageMaker PythonSDK.

Importante

Per utilizzare il seguente flusso di lavoro, è necessario che sia installata la versione 2.198.0 o successiva dell'SDK. SageMaker Python

Accettazione dell'EULA durante la distribuzione di un modello JumpStart

Per i modelli che richiedono l'accettazione di un contratto di licenza per l'utente finale, è necessario dichiarare esplicitamente l'accettazione dell'EULA al momento della distribuzione del modello. JumpStart

from sagemaker.jumpstart.model import JumpStartModel model_id = "meta-textgeneration-llama-2-13b" my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)

Per impostazione predefinita, il valore accept_eula è None e deve essere ridefinito in modo esplicito come True per accettare il contratto di licenza con l'utente finale. Per ulteriori informazioni, consulta JumpStartModel.

Accettazione dell'EULA durante la messa a punto di un modello JumpStart

Per la messa a punto di modelli che richiedono l'accettazione di un contratto di licenza con l'utente finale, è necessario dichiarare esplicitamente l'accettazione del contratto di licenza con l'utente finale quando si esegue il metodo per la valutazione. fit() JumpStart Dopo la messa a punto di un modello già addestrato, i pesi del modello originale vengono modificati. Pertanto, quando si distribuisce il modello ottimizzato in un secondo momento, non è necessario accettare un EULA.

Nota

I seguenti set di esempio. accept_eula=False È necessario modificare manualmente il valore True in per accettare l'EULA.

from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "meta-textgeneration-llama-2-13b" # Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id) estimator.fit(accept_eula=False, {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )

Il accept_eula valore è None predefinito e deve essere ridefinito in modo esplicito "true" all'interno del fit() metodo per accettare il contratto di licenza con l'utente finale. Per ulteriori informazioni, consulta JumpStartEstimator.

Versioni SDK di accettazione dell'EULA precedenti alla 2.198.0 SageMaker Python

Importante

Quando si utilizzano versioni precedenti alla 2.198.0 dell' SageMaker PythonSDK, è necessario utilizzare la classe per accettare un modello di EULA. SageMaker Predictor

Dopo aver distribuito un modello di JumpStart base a livello di codice utilizzando l' SageMakerPythonSDK, puoi eseguire l'inferenza sull'endpoint distribuito con la classe. SageMaker Predictor Per i modelli che richiedono l'accettazione di un contratto di licenza per l'utente finale, è necessario dichiarare esplicitamente l'accettazione dell'EULA nella chiamata alla classe: Predictor

predictor.predict(payload, custom_attributes="accept_eula=true")

Per impostazione predefinita, il valore accept_eula è false e deve essere ridefinito in modo esplicito come true per accettare il contratto di licenza con l'utente finale. Il predittore restituisce un errore se si tenta di eseguire l'inferenza mentre è impostato su. accept_eula false Per ulteriori informazioni su come iniziare a utilizzare i modelli di JumpStart base utilizzando l' SageMaker PythonSDK, consulta. Usa i modelli di base con l'SDK SageMaker Python

Importante

Il custom_attributes parametro accetta coppie chiave-valore nel formato. "key1=value1;key2=value2" Se utilizzi la stessa chiave più volte, il server di inferenza utilizza l'ultimo valore associato alla chiave. Ad esempio, se trasmetti "accept_eula=false;accept_eula=true" al parametro custom_attributes, il server di inferenza associa il valore true alla chiave accept_eula.