Configurer les applications Amazon SageMaker Partner AI SDKs - Amazon SageMaker AI
CometFiddlerDeepchecksLakera

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Configurer les applications Amazon SageMaker Partner AI SDKs

La rubrique suivante décrit le processus nécessaire pour installer et utiliser les applications spécifiques à l'application avec SDKs Amazon SageMaker Partner AI Apps. Pour installer et utiliser SDKs pour les applications, vous devez spécifier des variables d'environnement spécifiques aux applications Partner AI, afin que le SDK de l'application puisse récupérer les variables d'environnement et déclencher l'autorisation. Les sections suivantes fournissent des informations sur les étapes requises pour effectuer cette opération pour chacun des types d’application pris en charge.

Comet

Comet propose deux produits :

  • Opik est un cadre d’évaluation LLM source.

  • La plateforme ML de Comet peut être utilisée pour suivre, comparer, expliquer et optimiser les modèles sur l’ensemble du cycle de vie ML.

Comet prend en charge l'utilisation de deux SDKs options différentes en fonction du produit avec lequel vous interagissez. Suivez la procédure ci-dessous pour installer et utiliser le Comet ou l'Opik SDKs. Pour plus d’informations sur le kit SDK Comet, consultez Démarrage rapide. Pour plus d’informations sur le kit SDK Opik, consultez Open source LLM evaluation framework.

  1. Lancez l'environnement dans lequel vous utilisez le Comet ou l'Opik SDKs avec les applications Partner AI. Pour plus d'informations sur le lancement d'une JupyterLab application, consultezCréation d’un espace. Pour en savoir plus sur le lancement d’un éditeur de code basé sur Code-OSS, Visual Studio Code – Open Source application, consultez Lancement d’une application d’éditeur de code dans Studio.

  2. Lancez un bloc-notes Jupyter ou un espace d’éditeur de code.

  3. Depuis l'environnement de développement, installez les versions compatibles des SDK Comet, Opik et SageMaker Python. Pour être compatible :

    • La version du SDK SageMaker Python doit être au moins2.237.0.

    • La version du SDK Comet doit être la dernière version.

    • La version du kit SDK Opik doit correspondre à la version utilisée par votre application Opik. Vérifiez la version d’Opik utilisée dans l’interface utilisateur de l’application Web Opik. L’exception à cette règle est que la version du kit SDK Opik doit être au moins 1.2.0 quand la version de l’application Opik est 1.1.5.

    Note

    SageMaker JupyterLab est livré avec le SDK SageMaker Python installé. Cependant, vous devrez peut-être mettre à niveau le SDK SageMaker Python si la version est inférieure 2.237.0 à.

    %pip install sagemaker>=2.237.0 comet_ml

##or

%pip install sagemaker>=2.237.0 opik=<compatible-version>

  4. Définissez les variables d’environnement suivantes pour l’ARN de la ressource d’application. Ces variables d'environnement sont utilisées pour communiquer avec la comète et Opik SDKs. Pour récupérer ces valeurs, accédez à la page de détails de l'application dans Amazon SageMaker Studio.

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'

  5. Pour l’application Comet, l’URL du kit SDK est automatiquement incluse dans la clé d’API définie à l’étape suivante. Vous pouvez définir à la place la variable d’environnement COMET_URL_OVERRIDE pour qu’elle remplace manuellement l’URL du kit SDK.

    os.environ['COMET_URL_OVERRIDE'] = '<comet-url>'

  6. Pour l’application Opik, l’URL du kit SDK est automatiquement incluse dans la clé d’API définie à l’étape suivante. Vous pouvez définir à la place la variable d’environnement OPIK_URL_OVERRIDE pour qu’elle remplace manuellement l’URL du kit SDK. Pour obtenir le nom de l’espace de travail Opik, consultez l’application Opik et accédez à l’espace de travail de l’utilisateur.

    os.environ['OPIK_URL_OVERRIDE'] = '<opik-url>'
os.environ['OPIK_WORKSPACE'] = '<workspace-name>'

  7. Définissez la variable d’environnement qui identifie la clé d’API pour Comet ou Opik. Ceci est utilisé pour vérifier la connexion depuis SageMaker l'application lorsque le Comet et l'Opik SDKs sont utilisés. Cette clé d'API est spécifique à l'application et n'est pas gérée par. SageMaker Pour obtenir cette clé, vous devez vous connecter à l'application et récupérer la clé d'API. La clé d’API Opik est identique à la clé d’API Comet.

    os.environ['COMET_API_KEY'] = '<API-key>'
os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]

Fiddler

Suivez la procédure ci-dessous pour installer et utiliser le client Python Fiddler. Pour en savoir plus sur le client Python Fiddler, consultez À propos du client 3.x.

  1. Lancez l'environnement de bloc-notes dans lequel vous utilisez le client Python Fiddler avec les applications d'IA partenaires. Pour plus d'informations sur le lancement d'une JupyterLab application, consultezCréation d’un espace. Pour en savoir plus sur le lancement d’un éditeur de code basé sur Code-OSS, Visual Studio Code – Open Source application, consultez Lancement d’une application d’éditeur de code dans Studio.

  2. Lancez un bloc-notes Jupyter ou un espace d’éditeur de code.

  3. Depuis l'environnement de développement, installez les versions du client Python Fiddler et du SDK SageMaker Python. Pour être compatible :

    • La version du SDK SageMaker Python doit être au moins2.237.0.

    • La version du client Python Fiddler doit être compatible avec la version de Fiddler utilisée dans l’application. Après avoir vérifié la version de Fiddler depuis l’interface utilisateur, consultez la matrice de compatibilité Fiddler pour connaître la version compatible du client Python Fiddler.

    Note

    SageMaker JupyterLab est livré avec le SDK SageMaker Python installé. Cependant, vous devrez peut-être mettre à niveau le SDK SageMaker Python si la version est inférieure 2.237.0 à. 

    %pip install sagemaker>=2.237.0 fiddler-client=<compatible-version>

  4. Définissez les variables d’environnement suivantes pour l’ARN de la ressource d’application et l’URL du kit SDK. Ces variables d’environnement sont utilisées pour communiquer avec le client Python Fiddler. Pour récupérer ces valeurs, accédez à la page de détails de l'application Fiddler dans Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Définissez la variable d’environnement qui identifie la clé d’API pour l’application Fiddler. Ceci est utilisé pour vérifier la connexion depuis SageMaker l'application Fiddler lorsque le client Fiddler Python est utilisé. Cette clé d'API est spécifique à l'application et n'est pas gérée par. SageMaker Pour obtenir cette clé, vous devez vous connecter à l'application Fiddler et récupérer la clé API. 

    os.environ['FIDDLER_KEY'] = '<API-key>'

Deepchecks

Suivez la procédure ci-dessous pour installer et utiliser le kit Deepchecks Python SDK.

  1. Lancez l’environnement de bloc-notes dans lequel vous utilisez le kit Deepchecks Python SDK avec les applications d’IA des partenaires. Pour plus d'informations sur le lancement d'une JupyterLab application, consultezCréation d’un espace. Pour en savoir plus sur le lancement d’un éditeur de code basé sur Code-OSS, Visual Studio Code – Open Source application, consultez Lancement d’une application d’éditeur de code dans Studio.

  2. Lancez un bloc-notes Jupyter ou un espace d’éditeur de code.

  3. Depuis l'environnement de développement, installez les versions compatibles du SDK Python Deepchecks et du SDK SageMaker Python.  Les applications d’IA des partenaires exécutent la version 0.21.15 de Deepchecks. Pour être compatible :

    • La version du SDK SageMaker Python doit être au moins2.237.0.

    • Le kit Deepchecks Python SDK doit utiliser la version mineure 0.21.

    Note

    SageMaker JupyterLab est livré avec le SDK SageMaker Python installé. Cependant, vous devrez peut-être mettre à niveau le SDK SageMaker Python si la version est inférieure 2.237.0 à. 

    %pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22

  4. Définissez les variables d’environnement suivantes pour l’ARN de la ressource d’application et l’URL du kit SDK. Ces variables d’environnement sont utilisées pour communiquer avec le kit Deepchecks Python SDK. Pour récupérer ces valeurs, accédez à la page de détails de l'application dans Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Définissez la variable d’environnement qui identifie la clé d’API pour l’application Deepchecks. Ceci est utilisé pour vérifier la connexion depuis SageMaker l'application Deepchecks lorsque le SDK Python Deepchecks est utilisé. Cette clé d'API est spécifique à l'application et n'est pas gérée par. SageMaker Pour obtenir cette clé, consultez Configuration : installation du SDK Python et récupération de la clé d'API. 

    os.environ['DEEPCHECKS_API_KEY'] = '<API-key>'

Lakera

Lakera ne propose pas de kit SDK. Au lieu de cela, vous pouvez interagir avec l’API Lakera Guard via des requêtes HTTP adressées aux points de terminaison disponibles dans n’importe quel langage de programmation. Pour plus d’informations, consultez Lakera Guard API.

Pour utiliser le SDK SageMaker Python avec Lakera, procédez comme suit :

  1. Lancez l’environnement dans lequel vous utilisez les applications d’IA des partenaires. Pour plus d'informations sur le lancement d'une JupyterLab application, consultezCréation d’un espace. Pour en savoir plus sur le lancement d’un éditeur de code basé sur Code-OSS, Visual Studio Code – Open Source application, consultez Lancement d’une application d’éditeur de code dans Studio.

  2. Lancez un bloc-notes Jupyter ou un espace d’éditeur de code.

  3. Depuis l'environnement de développement, installez la version compatible du SDK SageMaker Python. La version du SDK SageMaker Python doit être au moins 2.237.0

    Note

    SageMaker JupyterLab est livré avec le SDK SageMaker Python installé. Cependant, vous devrez peut-être mettre à niveau le SDK SageMaker Python si la version est inférieure 2.237.0 à. 

    %pip install sagemaker>=2.237.0

  4. Définissez les variables d’environnement suivantes pour l’ARN de la ressource d’application et l’URL du kit SDK. Pour récupérer ces valeurs, accédez à la page de détails de l'application dans Amazon SageMaker Studio. 

    os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'