Configura las aplicaciones de IA de Amazon SageMaker Partner SDKs - Amazon SageMaker AI
CometFiddlerDeepchecksLakera

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Configura las aplicaciones de IA de Amazon SageMaker Partner SDKs

En el siguiente tema se describe el proceso necesario para instalar y usar la aplicación específica con SDKs Amazon SageMaker Partner AI Apps. Para instalar y usar SDKs aplicaciones, debe especificar las variables de entorno específicas de las aplicaciones de IA asociadas, de modo que el SDK de la aplicación pueda captar las variables de entorno y activar la autorización. En las siguientes secciones se proporciona información sobre los pasos necesarios para completar esta operación para cada tipo de aplicación compatible.

Comet

Comet ofrece dos productos:

  • Opik es un marco de evaluación de LLM de origen.

  • La plataforma de ML de Comet se puede utilizar para realizar un seguimiento, comparar, explicar y optimizar los modelos a lo largo de todo el ciclo de vida de ML.

Comet admite el uso de dos diferentes en SDKs función del producto con el que se interactúe. Complete el siguiente procedimiento para instalar y usar el Comet o el Opik. SDKs Para obtener más información sobre el SDK de Comet, consulte Quickstart. Para obtener más información sobre el SDK de Opik, consulte Open source LLM evaluation framework.

  1. Inicie el entorno en el que está utilizando el Comet o el Opik SDKs con las aplicaciones de IA asociadas. Para obtener información sobre el lanzamiento de una JupyterLab aplicación, consulteCreación de un espacio. Para obtener más información sobre cómo lanzar un Editor de código, basado en la aplicación Code-OSS, Visual Studio Code - Open Source, consulte Inicialización de una aplicación de editor de código en Studio.

  2. Abra un cuaderno de Jupyter o un espacio del Editor de código.

  3. Desde el entorno de desarrollo, instale las versiones compatibles del SDK de Comet, Opik y SageMaker Python. Para ser compatible:

    • La versión del SDK de SageMaker Python debe ser como mínimo2.237.0.

    • La versión del SDK de Comet debe ser la versión más reciente.

    • La versión del SDK de Opik debe coincidir con la versión utilizada por la aplicación de Opik. Compruebe la versión de Opik utilizada en la interfaz de usuario de la aplicación web de Opik. La excepción es que la versión del SDK de Opik debe ser al menos 1.2.0 si la versión de la aplicación de Opik es 1.1.5.

    nota

    SageMaker JupyterLab viene con el SDK de SageMaker Python instalado. Sin embargo, es posible que tengas que actualizar el SDK de SageMaker Python si la versión es anterior a2.237.0.

    %pip install sagemaker>=2.237.0 comet_ml

##or

%pip install sagemaker>=2.237.0 opik=<compatible-version>

  4. Configure las siguientes variables de entorno para el ARN del recurso de aplicación. Estas variables de entorno se utilizan para comunicarse con el Comet y el Opik. SDKs Para recuperar estos valores, vaya a la página de detalles de la aplicación en Amazon SageMaker Studio.

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'

  5. En el caso de la aplicación de Comet, la URL del SDK se incluye automáticamente en el conjunto de claves de API en el siguiente paso. En su lugar, puede configurar la variable de entorno COMET_URL_OVERRIDE para que anule manualmente la URL del SDK.

    os.environ['COMET_URL_OVERRIDE'] = '<comet-url>'

  6. En el caso de la aplicación de Opik, la URL del SDK se incluye automáticamente en el conjunto de claves de API en el siguiente paso. En su lugar, puede configurar la variable de entorno OPIK_URL_OVERRIDE para que anule manualmente la URL del SDK. Para obtener el nombre del espacio de trabajo de Opik, consulte la aplicación de Opik y navegue hasta el espacio de trabajo del usuario.

    os.environ['OPIK_URL_OVERRIDE'] = '<opik-url>'
os.environ['OPIK_WORKSPACE'] = '<workspace-name>'

  7. Defina la variable de entorno que identifica la clave de API para Comet u Opik. Se utiliza para verificar la conexión desde SageMaker la aplicación cuando se SDKs utilizan el Comet y el Opik. Esta clave de API es específica de la aplicación y no la administra. SageMaker Para obtener esta clave, debe iniciar sesión en la aplicación y recuperar la clave de API. La clave de API de Opik es la misma que la clave de API de Comet.

    os.environ['COMET_API_KEY'] = '<API-key>'
os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]

Fiddler

Complete el siguiente procedimiento para instalar y utilizar el cliente Python de Fiddler. Para obtener más información sobre el cliente Python de Fiddler, consulte About Client 3.x.

  1. Inicie el entorno de bloc de notas en el que está utilizando el cliente Python de Fiddler con aplicaciones de IA asociadas. Para obtener información sobre cómo lanzar una JupyterLab aplicación, consulte. Creación de un espacio Para obtener más información sobre cómo lanzar un Editor de código, basado en la aplicación Code-OSS, Visual Studio Code - Open Source, consulte Inicialización de una aplicación de editor de código en Studio.

  2. Abra un cuaderno de Jupyter o un espacio del Editor de código.

  3. Desde el entorno de desarrollo, instale las versiones Fiddler Python Client y SageMaker Python SDK. Para ser compatible:

    • La versión del SDK de SageMaker Python debe ser como mínimo2.237.0.

    • La versión del cliente Fiddler Python debe ser compatible con la versión de Fiddler utilizada en la aplicación. Tras comprobar la versión de Fiddler en la interfaz de usuario, consulte la Matriz de compatibilidad de Fiddler para ver la versión del cliente Fiddler Python compatible.

    nota

    SageMaker JupyterLab viene con el SDK de SageMaker Python instalado. Sin embargo, es posible que tengas que actualizar el SDK de SageMaker Python si la versión es anterior a2.237.0. 

    %pip install sagemaker>=2.237.0 fiddler-client=<compatible-version>

  4. Configure las siguientes variables de entorno para el ARN del recurso de aplicación y la URL del SDK. Estas variables de entorno se utilizan para comunicarse con el cliente Fiddler Python. Para recuperar estos valores, vaya a la página de detalles de la aplicación Fiddler en Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Establezca la variable de entorno que identifica la clave de API de la aplicación de Fiddler. Se usa para verificar la conexión desde SageMaker la aplicación Fiddler cuando se usa el Cliente Python de Fiddler. Esta clave de API es específica de la aplicación y no la administra. SageMaker Para obtener esta clave, debe iniciar sesión en la aplicación Fiddler y recuperar la clave de API. 

    os.environ['FIDDLER_KEY'] = '<API-key>'

Deepchecks

Complete el siguiente procedimiento para instalar y utilizar el SDK de Deepchecks Python.

  1. Inicie el entorno de cuaderno en el que está utilizando el SDK de Deepchecks Python con las aplicaciones de IA para socios. Para obtener información sobre el lanzamiento de una JupyterLab aplicación, consulte. Creación de un espacio Para obtener más información sobre cómo lanzar un Editor de código, basado en la aplicación Code-OSS, Visual Studio Code - Open Source, consulte Inicialización de una aplicación de editor de código en Studio.

  2. Abra un cuaderno de Jupyter o un espacio del Editor de código.

  3. Desde el entorno de desarrollo, instale las versiones compatibles del SDK de Python y del SDK de SageMaker Python de Deepchecks.  Las aplicaciones de IA para socios ejecutan la versión 0.21.15 de Deepchecks. Para ser compatibles:

    • La versión del SDK de SageMaker Python debe ser como mínimo2.237.0.

    • El SDK de Deepchecks Python debe usar la versión secundaria 0.21.

    nota

    SageMaker JupyterLab viene con el SDK de SageMaker Python instalado. Sin embargo, es posible que tengas que actualizar el SDK de SageMaker Python si la versión es anterior a2.237.0. 

    %pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22

  4. Configure las siguientes variables de entorno para el ARN del recurso de aplicación y la URL del SDK. Estas variables de entorno se utilizan para comunicarse con el SDK de Deepchecks Python. Para recuperar estos valores, vaya a la página de detalles de la aplicación en Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Establezca la variable de entorno que identifica la clave de API de la aplicación de Deepchecks. Se usa para verificar la conexión desde SageMaker la aplicación Deepchecks cuando se usa el SDK de Python de Deepchecks. Esta clave de API es específica de la aplicación y no la administra. SageMaker Para obtener esta clave, consulta Configuración: Instalación del SDK de Python y recuperación de claves de API. 

    os.environ['DEEPCHECKS_API_KEY'] = '<API-key>'

Lakera

Lakera no ofrece ningún SDK. En su lugar, puede interactuar con la API Lakera Guard mediante solicitudes HTTP a los puntos de conexión disponibles en cualquier lenguaje de programación. Para obtener más información, consulte Lakera Guard API.

Para usar el SDK de SageMaker Python con Lakera, complete los siguientes pasos:

  1. Inicie el entorno en el que está utilizando las aplicaciones de IA para socios. Para obtener información sobre cómo lanzar una JupyterLab aplicación, consulteCreación de un espacio. Para obtener más información sobre cómo lanzar un Editor de código, basado en la aplicación Code-OSS, Visual Studio Code - Open Source, consulte Inicialización de una aplicación de editor de código en Studio.

  2. Abra un cuaderno de Jupyter o un espacio del Editor de código.

  3. Desde el entorno de desarrollo, instale la versión compatible del SDK de SageMaker Python. La versión del SDK de SageMaker Python debe ser como mínimo 2.237.0

    nota

    SageMaker JupyterLab viene con el SDK de SageMaker Python instalado. Sin embargo, es posible que tengas que actualizar el SDK de SageMaker Python si la versión es anterior a2.237.0. 

    %pip install sagemaker>=2.237.0

  4. Configure las siguientes variables de entorno para el ARN del recurso de aplicación y la URL del SDK. Para recuperar estos valores, vaya a la página de detalles de la aplicación en Amazon SageMaker Studio. 

    os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'