Configura le app Amazon SageMaker Partner AI SDKs - Amazon SageMaker AI
CometFiddlerDeepchecksLakera

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Configura le app Amazon SageMaker Partner AI SDKs

Il seguente argomento descrive il processo necessario per installare e utilizzare l'applicazione specifica SDKs con SageMaker Amazon Partner AI Apps. Per l'installazione e l'utilizzo SDKs per le applicazioni, devi specificare le variabili di ambiente specifiche per Partner AI Apps, in modo che l'SDK dell'applicazione possa rilevare le variabili di ambiente e attivare l'autorizzazione. Le sezioni seguenti forniscono informazioni sulle fasi necessarie per completare questa operazione per ciascuno dei tipi di applicazioni supportati.

Comet

Comet offre due prodotti:

  • Opik è un framework di valutazione LLM open source.

  • La piattaforma di ML di Comet può essere utilizzata per tracciare, confrontare, spiegare e ottimizzare i modelli durante l’intero ciclo di vita di ML.

Comet ne supporta l'uso di due diverse SDKs in base al prodotto con cui si interagisce. Completa la seguente procedura per installare e utilizzare Comet o Opik. SDKs Per ulteriori informazioni su Comet SDK, consulta Quickstart. Per ulteriori informazioni su Opik SDK, consulta Open source LLM evaluation framework.

  1. Avvia l'ambiente in cui stai utilizzando Comet o Opik SDKs con Partner AI Apps. Per informazioni sull'avvio di un'JupyterLab applicazione, consulta. Creazione di uno spazio Per informazioni sull’avvio di un’applicazione dell’Editor di codice, basato su Code-OSS, Visual Studio Code - Open Source, consulta Avvio di un’applicazione Editor di codice in Studio.

  2. Avvia un notebook Jupyter o uno spazio dell’Editor di codice.

  3. Dall'ambiente di sviluppo, installa le versioni compatibili di Comet, Opik e Python SageMaker SDK. Per essere compatibile:

    • La versione SageMaker Python SDK deve essere almeno. 2.237.0

    • La versione di Comet SDK deve essere la versione più recente.

    • La versione di Opik SDK deve corrispondere alla versione utilizzata dall’applicazione Opik. Verifica la versione di Opik utilizzata nell’interfaccia utente dell’applicazione web Opik. L’unica eccezione riguarda Opik SDK, la cui versione deve essere almeno 1.2.0 quando la versione dell’applicazione Opik è 1.1.5.

    Nota

    SageMaker JupyterLab viene fornito con SageMaker Python SDK installato. Tuttavia, potrebbe essere necessario aggiornare SageMaker Python SDK se la versione è precedente a. 2.237.0

    %pip install sagemaker>=2.237.0 comet_ml

##or

%pip install sagemaker>=2.237.0 opik=<compatible-version>

  4. Imposta le variabili di ambiente seguenti per l’ARN della risorsa dell’applicazione. Queste variabili di ambiente vengono utilizzate per comunicare con Comet e Opik. SDKs Per recuperare questi valori, vai alla pagina dei dettagli dell'applicazione in Amazon SageMaker Studio.

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'

  5. Per l’applicazione Comet, l’URL dell’SDK viene incluso automaticamente come parte della chiave API impostata nella fase successiva. Puoi invece impostare la variabile di ambiente COMET_URL_OVERRIDE per sostituire manualmente l’URL dell’SDK.

    os.environ['COMET_URL_OVERRIDE'] = '<comet-url>'

  6. Per l’applicazione Opik, l’URL dell’SDK viene incluso automaticamente come parte della chiave API impostata nella fase successiva. Puoi invece impostare la variabile di ambiente OPIK_URL_OVERRIDE per sostituire manualmente l’URL dell’SDK. Per ottenere il nome dello spazio di lavoro Opik, consulta l’applicazione Opik e vai allo spazio di lavoro dell’utente.

    os.environ['OPIK_URL_OVERRIDE'] = '<opik-url>'
os.environ['OPIK_WORKSPACE'] = '<workspace-name>'

  7. Imposta la variabile di ambiente che identifica la chiave API per Comet o Opik. Viene utilizzato per verificare la connessione dall' SageMaker applicazione quando si utilizzano Comet e Opik SDKs . Questa chiave API è specifica dell'applicazione e non è gestita da. SageMaker Per ottenere questa chiave, è necessario accedere all'applicazione e recuperare la chiave API. La chiave API di Opik uguale a quella di Comet.

    os.environ['COMET_API_KEY'] = '<API-key>'
os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]

Fiddler

Completa la procedura seguente per installare e utilizzare il client Fiddler per Python. Per informazioni sul client Fiddler per Python, consulta About Client 3.x.

  1. Avvia l'ambiente notebook in cui stai utilizzando il client Python Fiddler con le app AI dei partner. Per informazioni sull'avvio di un'JupyterLab applicazione, consulta. Creazione di uno spazio Per informazioni sull’avvio di un’applicazione dell’Editor di codice, basato su Code-OSS, Visual Studio Code - Open Source, consulta Avvio di un’applicazione Editor di codice in Studio.

  2. Avvia un notebook Jupyter o uno spazio dell’Editor di codice.

  3. Dall'ambiente di sviluppo, installa le versioni Fiddler Python Client e Python SDK. SageMaker Per essere compatibile:

    • La versione SageMaker Python SDK deve essere almeno. 2.237.0

    • La versione del client Fiddler per Python deve essere compatibile con la versione di Fiddler utilizzata nell’applicazione. Dopo aver verificato la versione di Fiddler dall’interfaccia utente, consulta la matrice di compatibilità Fiddler per scoprire la versione compatibile del client Fiddler per Python.

    Nota

    SageMaker JupyterLab viene fornito con SageMaker Python SDK installato. Tuttavia, potrebbe essere necessario aggiornare SageMaker Python SDK se la versione è precedente a. 2.237.0 

    %pip install sagemaker>=2.237.0 fiddler-client=<compatible-version>

  4. Imposta le variabili di ambiente seguenti per l’ARN della risorsa dell’applicazione e per l’URL dell’SDK. Queste variabili di ambiente vengono utilizzate per comunicare con il client Fiddler per Python. Per recuperare questi valori, vai alla pagina dei dettagli dell'applicazione Fiddler in Amazon Studio. SageMaker    

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Imposta la variabile di ambiente che identifica la chiave API per l’applicazione Fiddler. Viene utilizzato per verificare la connessione dall' SageMaker applicazione Fiddler quando viene utilizzato il Fiddler Python Client. Questa chiave API è specifica dell'applicazione e non è gestita da. SageMaker Per ottenere questa chiave, devi accedere all'applicazione Fiddler e recuperare la chiave API. 

    os.environ['FIDDLER_KEY'] = '<API-key>'

Deepchecks

Completa la procedura seguente per installare e utilizzare Deepchecks Python SDK.

  1. Avvia l’ambiente notebook in cui stai utilizzando Deepchecks Python SDK con Partner AI Apps. Per informazioni sull'avvio di un'JupyterLab applicazione, consulta. Creazione di uno spazio Per informazioni sull’avvio di un’applicazione dell’Editor di codice, basato su Code-OSS, Visual Studio Code - Open Source, consulta Avvio di un’applicazione Editor di codice in Studio.

  2. Avvia un notebook Jupyter o uno spazio dell’Editor di codice.

  3. Dall'ambiente di sviluppo, installa le versioni compatibili Deepchecks Python SDK SageMaker e Python SDK.  Partner AI Apps esegue la versione 0.21.15 di Deepchecks. Per essere compatibile:

    • La versione SageMaker Python SDK deve essere almeno. 2.237.0

    • Deepchecks Python SDK deve utilizzare la versione secondaria 0.21.

    Nota

    SageMaker JupyterLab viene fornito con SageMaker Python SDK installato. Tuttavia, potrebbe essere necessario aggiornare SageMaker Python SDK se la versione è precedente a. 2.237.0 

    %pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22

  4. Imposta le variabili di ambiente seguenti per l’ARN della risorsa dell’applicazione e per l’URL dell’SDK. Queste variabili di ambiente vengono utilizzate per comunicare con Deepchecks Python SDK. Per recuperare questi valori, vai alla pagina dei dettagli dell'applicazione in Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Imposta la variabile di ambiente che identifica la chiave API per l’applicazione Deepchecks. Viene utilizzato per verificare la connessione dall' SageMaker applicazione Deepchecks quando viene utilizzato Deepchecks Python SDK. Questa chiave API è specifica dell'applicazione e non è gestita da. SageMaker Per ottenere questa chiave, vedi Configurazione: installazione di Python SDK e recupero delle chiavi API. 

    os.environ['DEEPCHECKS_API_KEY'] = '<API-key>'

Lakera

Lakera non offre un SDK. Tuttavia, puoi interagire con l’API Lakera Guard tramite richieste HTTP agli endpoint disponibili in qualsiasi linguaggio di programmazione. Per ulteriori informazioni, consulta Lakera Guard API.

Per utilizzare l'SDK SageMaker Python con Lakera, completa i seguenti passaggi:

  1. Avvia l’ambiente in cui stai utilizzando Partner AI Apps. Per informazioni sul lancio di un'JupyterLab applicazione, consulta. Creazione di uno spazio Per informazioni sull’avvio di un’applicazione dell’Editor di codice, basato su Code-OSS, Visual Studio Code - Open Source, consulta Avvio di un’applicazione Editor di codice in Studio.

  2. Avvia un notebook Jupyter o uno spazio dell’Editor di codice.

  3. Dall'ambiente di sviluppo, installa la versione compatibile di SageMaker Python SDK. La versione di SageMaker Python SDK deve essere almeno 2.237.0

    Nota

    SageMaker JupyterLab viene fornito con SageMaker Python SDK installato. Tuttavia, potrebbe essere necessario aggiornare SageMaker Python SDK se la versione è precedente a. 2.237.0 

    %pip install sagemaker>=2.237.0

  4. Imposta le variabili di ambiente seguenti per l’ARN della risorsa dell’applicazione e per l’URL dell’SDK. Per recuperare questi valori, vai alla pagina dei dettagli dell'applicazione in Amazon SageMaker Studio. 

    os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'