Configurar os aplicativos de IA do Amazon SageMaker Partner SDKs - SageMaker IA da Amazon
CometFiddlerDeepchecksLakera

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Configurar os aplicativos de IA do Amazon SageMaker Partner SDKs

O tópico a seguir descreve o processo necessário para instalar e usar o aplicativo específico SDKs com o SageMaker Amazon Partner AI Apps. Para instalar e usar SDKs em aplicativos, você deve especificar variáveis de ambiente específicas para aplicativos de IA do Partner, para que o SDK do aplicativo possa coletar variáveis de ambiente e acionar a autorização. As seções a seguir fornecem informações sobre as etapas necessárias para concluir isso para cada tipo de aplicação compatível.

Comet

A Comet oferece dois produtos:

  • O Opik, um framework de avaliação de LLMs de origem.

  • A plataforma de ML da Comet, que pode ser usada para rastrear, comparar, explicar e otimizar modelos em todo o ciclo de vida de ML.

O Comet suporta o uso de dois diferentes SDKs com base no produto com o qual você está interagindo. Conclua o procedimento a seguir para instalar e usar o Comet ou o SDKs Opik. Para ter mais informações sobre o Comet SDK, consulte Quickstart. Para ter mais informações sobre o Opik SDK, consulte Open source LLM evaluation platform.

  1. Inicie o ambiente em que você está usando o Comet ou o Opik SDKs com os aplicativos de IA do Partner. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para ter informações sobre como iniciar o Editor de Código, com base no Code-OSS (Visual Studio Code de código aberto), consulte Inicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale as versões compatíveis do SDK Comet, Opik e SageMaker Python. Para ser compatível:

    • A versão do SDK do SageMaker Python deve ser pelo menos. 2.237.0

    • A versão do Comet SDK deve ser a versão mais recente.

    • A versão do Opik SDK deve corresponder à versão usada pelo seu aplicativo Opik. Verifique a versão do Opik usada na interface de usuário do aplicativo web Opik. A exceção é que a versão mínima do Opik SDK deverá ser a 1.2.0 quando a versão do aplicativo Opik for a 1.1.5.

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0

    %pip install sagemaker>=2.237.0 comet_ml

##or

%pip install sagemaker>=2.237.0 opik=<compatible-version>

  4. Defina as seguintes variáveis de ambiente para o ARN do recurso do aplicativo. Essas variáveis de ambiente são usadas para se comunicar com o Comet e o SDKs Opik. Para recuperar esses valores, navegue até a página de detalhes do aplicativo no Amazon SageMaker Studio.

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'

  5. Para o aplicativo Comet, o URL do SDK é incluído automaticamente como parte da chave de API definida na etapa a seguir. Em vez disso, você pode definir a variável de ambiente COMET_URL_OVERRIDE para substituir manualmente o URL do SDK.

    os.environ['COMET_URL_OVERRIDE'] = '<comet-url>'

  6. Para o aplicativo Opik, o URL do SDK é incluído automaticamente como parte da chave de API definida na etapa a seguir. Em vez disso, você pode definir a variável de ambiente OPIK_URL_OVERRIDE para substituir manualmente o URL do SDK. Para obter o nome do espaço de trabalho do Opik, consulte o aplicativo Opik e navegue até o espaço de trabalho do usuário.

    os.environ['OPIK_URL_OVERRIDE'] = '<opik-url>'
os.environ['OPIK_WORKSPACE'] = '<workspace-name>'

  7. Defina a variável de ambiente que identifica a chave de API para o Comet ou Opik. Isso é usado para verificar a conexão com o aplicativo quando o Comet e o Opik SDKs são usados. SageMaker Essa chave de API é específica do aplicativo e não é gerenciada pelo. SageMaker Para obter essa chave, você deve fazer login no aplicativo e recuperar a chave da API. A chave de API do Opik é igual à chave de API do Comet.

    os.environ['COMET_API_KEY'] = '<API-key>'
os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]

Fiddler

Conclua o procedimento a seguir para instalar e usar o Fiddler Python Client. Para ter informações sobre o Fiddler Python Client, consulte informações sobre o Client 3.x.

  1. Inicie o ambiente de notebook em que você está usando o Fiddler Python Client com Partner AI Apps. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para ter informações sobre como iniciar o Editor de Código, com base no Code-OSS (Visual Studio Code de código aberto), consulte Inicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale as versões do Fiddler Python Client e do Python SDK. SageMaker Para ser compatível:

    • A versão do SDK do SageMaker Python deve ser pelo menos. 2.237.0

    • A versão do Fiddler Python Client deve ser compatível com a versão do Fiddler usada no aplicativo. Depois de verificar a versão do Fiddler na interface de usuário, consulte a matriz de compatibilidade do Fiddler para ver a versão compatível do Fiddler Python Client.

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0 

    %pip install sagemaker>=2.237.0 fiddler-client=<compatible-version>

  4. Defina as variáveis de ambiente a seguir para o ARN do recurso do aplicativo e o URL do SDK. Essas variáveis de ambiente são usadas para estabelecer comunicação com o Fiddler Python Client. Para recuperar esses valores, navegue até a página de detalhes do aplicativo Fiddler no Amazon Studio. SageMaker    

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Defina a variável de ambiente que identifica a chave de API para o aplicativo Fiddler. Isso é usado para verificar a conexão com o aplicativo Fiddler quando o Fiddler Python Client é usado. SageMaker Essa chave de API é específica do aplicativo e não é gerenciada pelo. SageMaker Para obter essa chave, você deve fazer login no aplicativo Fiddler e recuperar a chave da API. 

    os.environ['FIDDLER_KEY'] = '<API-key>'

Deepchecks

Conclua o procedimento a seguir para instalar e usar o Deepchecks Python SDK.

  1. Inicie o ambiente de caderno em que você está usando o Deepchecks Python SDK com a funcionalidade Aplicativos de IA para Parceiros. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para ter informações sobre como iniciar o Editor de Código, com base no Code-OSS (Visual Studio Code de código aberto), consulte Inicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale as versões compatíveis do Deepchecks Python SDK SageMaker e do Python SDK.  A funcionalidade Aplicativos de IA para Parceiros está executando a versão 0.21.15 do Deepchecks. Para ser compatível:

    • A versão do SDK do SageMaker Python deve ser pelo menos. 2.237.0

    • O Deepchecks Python SDK deve usar a versão secundária 0.21.

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0 

    %pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22

  4. Defina as variáveis de ambiente a seguir para o ARN do recurso do aplicativo e o URL do SDK. Essas variáveis de ambiente são usadas para estabelecer comunicação com o Deepchecks Python SDK. Para recuperar esses valores, navegue até a página de detalhes do aplicativo no Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Defina a variável de ambiente que identifica a chave de API para o aplicativo Deepchecks. Isso é usado para verificar a conexão com o aplicativo Deepchecks quando o SDK do Deepchecks Python é usado. SageMaker Essa chave de API é específica do aplicativo e não é gerenciada pelo. SageMaker Para obter essa chave, consulte Configuração: instalação do SDK do Python e recuperação da chave de API. 

    os.environ['DEEPCHECKS_API_KEY'] = '<API-key>'

Lakera

O Lakera não oferece SDK. Em vez disso, você pode interagir com a API do Lakera Guard por meio de solicitações HTTP aos endpoints disponíveis em qualquer linguagem de programação. Para ter mais informações, consulte a API do Lakera Guard.

Para usar o SDK do SageMaker Python com o Lakera, conclua as seguintes etapas:

  1. Inicie o ambiente em que você está usando aplicativos de IA para parceiros. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para ter informações sobre como iniciar o Editor de Código, com base no Code-OSS (Visual Studio Code de código aberto), consulte Inicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale a versão compatível do SageMaker Python SDK. A versão do SDK do SageMaker Python deve ser pelo menos 2.237.0

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0 

    %pip install sagemaker>=2.237.0

  4. Defina as variáveis de ambiente a seguir para o ARN do recurso do aplicativo e o URL do SDK. Para recuperar esses valores, navegue até a página de detalhes do aplicativo no Amazon SageMaker Studio. 

    os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'