設定 Amazon SageMaker 合作夥伴 AI 應用程式SDKs - Amazon SageMaker AI
彗星Fiddler深層檢查Lakera

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

設定 Amazon SageMaker 合作夥伴 AI 應用程式SDKs

下列主題概述搭配 Amazon SageMaker 合作夥伴 AI 應用程式安裝和使用應用程式特定 SDKs 所需的程序。若要為應用程式安裝和使用 SDKs，您必須指定合作夥伴 AI 應用程式特有的環境變數，因此應用程式的 SDK 可以挑選環境變數並觸發授權。以下各節提供有關為每個支援的應用程式類型完成此操作所需的步驟的資訊。

彗星

Comet 提供兩種產品：

  • Opik 是來源 LLM 評估架構。

  • Comet 的 ML 平台可用於追蹤、比較、解釋和最佳化整個 ML 生命週期的模型。

Comet 支援根據您互動的產品使用兩種不同的 SDKs。請完成下列程序來安裝和使用 Comet 或 Opik SDKs。如需 Comet SDK 的詳細資訊，請參閱 Quickstart。如需 Opik SDK 的詳細資訊，請參閱開放原始碼 LLM 評估架構。

  1. 啟動您搭配合作夥伴 AI 應用程式使用 Comet 或 Opik SDKs的環境。如需有關啟動 aJupyterLab 應用程式的資訊，請參閱 建立空間。如需啟動程式碼編輯器的相關資訊，以 Code-OSS、Visual Studio Code - Open Source 應用程式為基礎，請參閱 在 Studio 中啟動程式碼編輯器應用程式。

  2. 啟動 Jupyter 筆記本或程式碼編輯器空間。

  3. 從開發環境中，安裝相容的 Comet、Opik 和 SageMaker Python SDK 版本。若要相容：

    • SageMaker Python SDK 版本必須至少為 2.237.0。

    • Comet SDK 版本必須是最新版本。

    • Opik SDK 版本必須符合 Opik 應用程式所使用的版本。驗證 Opik Web 應用程式 UI 中使用的 Opik 版本。例外狀況是 Opik SDK 版本至少1.2.0必須在 Opik 應用程式版本為 時為 1.1.5。

    注意

    SageMaker JupyterLab 隨附已安裝的 SageMaker Python SDK。不過，如果版本低於 ，您可能需要升級 SageMaker Python SDK2.237.0。

    %pip install sagemaker>=2.237.0 comet_ml

##or

%pip install sagemaker>=2.237.0 opik=<compatible-version>

  4. 為應用程式資源 ARN 設定下列環境變數。這些環境變數用於與 Comet 和 Opik SDKs通訊。若要擷取這些值，請導覽至 Amazon SageMaker Studio 中應用程式的詳細資訊頁面。

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'

  5. 對於 Comet 應用程式，開發套件 URL 會自動包含在以下步驟中設定的 API 金鑰中。您可以改為設定COMET_URL_OVERRIDE環境變數來手動覆寫 SDK URL。

    os.environ['COMET_URL_OVERRIDE'] = '<comet-url>'

  6. 對於 Opik 應用程式，開發套件 URL 會自動包含在下列步驟中 API 金鑰集的一部分。您可以改為設定OPIK_URL_OVERRIDE環境變數來手動覆寫 SDK URL。若要取得 Opik 工作區名稱，請參閱 Opik 應用程式並導覽至使用者的工作區。

    os.environ['OPIK_URL_OVERRIDE'] = '<opik-url>'
os.environ['OPIK_WORKSPACE'] = '<workspace-name>'

  7. 設定可識別 Comet 或 Opik API 金鑰的環境變數。這用於在使用 Comet 和 Opik SDKs 時，驗證從 SageMaker 到應用程式的連線。此 API 金鑰是應用程式特定的，並非由 SageMaker 管理。若要取得此金鑰，您必須登入應用程式並擷取 API 金鑰。Opik API 金鑰與 Comet API 金鑰相同。

    os.environ['COMET_API_KEY'] = '<API-key>'
os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]

Fiddler

完成下列程序以安裝和使用 Fiddler Python 用戶端。如需 Fiddler Python 用戶端的資訊，請參閱關於用戶端 3.x。

  1. 啟動您正在搭配合作夥伴 AI 應用程式使用 Fiddler Python 用戶端的筆記本環境。如需啟動 aJupyterLab 應用程式的相關資訊，請參閱 建立空間。如需啟動程式碼編輯器的相關資訊，以 Code-OSS、Visual Studio Code - Open Source 應用程式為基礎，請參閱 在 Studio 中啟動程式碼編輯器應用程式。

  2. 啟動 Jupyter 筆記本或程式碼編輯器空間。

  3. 從開發環境中，安裝 Fiddler Python 用戶端和 SageMaker Python SDK 版本。若要相容：

    • SageMaker Python SDK 版本必須至少為 2.237.0。

    • Fiddler Python 用戶端版本必須與應用程式中使用的 Fiddler 版本相容。從 UI 驗證 Fiddler 版本後，請參閱相容 Fiddler Python 用戶端版本的 Fiddler 相容性矩陣。

    注意

    SageMaker JupyterLab 隨附已安裝的 SageMaker Python SDK。不過，如果版本低於 ，您可能需要升級 SageMaker Python SDK2.237.0。

    %pip install sagemaker>=2.237.0 fiddler-client=<compatible-version>

  4. 為應用程式資源 ARN 和 SDK URL 設定下列環境變數。這些環境變數用於與 Fiddler Python 用戶端通訊。若要擷取這些值，請導覽至 Amazon SageMaker Studio 中 Fiddler 應用程式的詳細資訊頁面。   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. 設定可識別 Fiddler 應用程式 API 金鑰的環境變數。這用於在使用 Fiddler Python 用戶端時，驗證從 SageMaker 到 Fiddler 應用程式的連線。此 API 金鑰為應用程式特定，並非由 SageMaker 管理。若要取得此金鑰，您必須登入 Fiddler 應用程式並擷取 API 金鑰。

    os.environ['FIDDLER_KEY'] = '<API-key>'

深層檢查

完成下列程序以安裝和使用 Deepchecks Python SDK。

  1. 啟動您使用 Deepchecks Python SDK 搭配合作夥伴 AI 應用程式所在的筆記本環境。如需有關啟動 aJupyterLab 應用程式的資訊，請參閱 建立空間。如需啟動程式碼編輯器的相關資訊，以 Code-OSS、Visual Studio Code - Open Source 應用程式為基礎，請參閱 在 Studio 中啟動程式碼編輯器應用程式。

  2. 啟動 Jupyter 筆記本或程式碼編輯器空間。

  3. 從開發環境中，安裝相容的 Deepchecks Python SDK 和 SageMaker Python SDK 版本。  合作夥伴 AI 應用程式正在執行 Deepchecks 0.21.15版本。若要相容：

    • SageMaker Python SDK 版本必須至少為 2.237.0。

    • Deepchecks Python SDK 必須使用次要版本0.21。

    注意

    SageMaker JupyterLab 隨附已安裝的 SageMaker Python SDK。不過，如果版本低於 ，您可能需要升級 SageMaker Python SDK2.237.0。

    %pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22

  4. 為應用程式資源 ARN 和 SDK URL 設定下列環境變數。這些環境變數用於與 Deepchecks Python SDK 通訊。若要擷取這些值，請導覽至 Amazon SageMaker Studio 中應用程式的詳細資訊頁面。   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. 設定可識別 Deepchecks 應用程式 API 金鑰的環境變數。這用於在使用 Deepchecks Python SDK 時，驗證從 SageMaker 到 Deepchecks 應用程式的連線。此 API 金鑰是應用程式特定的，並非由 SageMaker 管理。若要取得此金鑰，請參閱設定：Python SDK 安裝和 API 金鑰擷取。

    os.environ['DEEPCHECKS_API_KEY'] = '<API-key>'

Lakera

Lakera 不提供 SDK。反之，您可以透過任何程式設計語言對可用端點的 HTTP 請求與 Lakera Guard API 互動。如需詳細資訊，請參閱「Lakera Guard API」。

若要搭配 Lakera 使用 SageMaker Python SDK，請完成下列步驟：

  1. 啟動您正在使用合作夥伴 AI 應用程式的環境。如需有關啟動 aJupyterLab 應用程式的資訊，請參閱 建立空間。如需啟動程式碼編輯器的相關資訊，以 Code-OSS、Visual Studio Code - Open Source 應用程式為基礎，請參閱 在 Studio 中啟動程式碼編輯器應用程式。

  2. 啟動 Jupyter 筆記本或程式碼編輯器空間。

  3. 從開發環境中，安裝相容的 SageMaker Python SDK 版本。SageMaker Python SDK 版本必須至少為2.237.0

    注意

    SageMaker JupyterLab 隨附已安裝的 SageMaker Python SDK。不過，如果版本低於 ，您可能需要升級 SageMaker Python SDK2.237.0。

    %pip install sagemaker>=2.237.0

  4. 為應用程式資源 ARN 和 SDK URL 設定下列環境變數。若要擷取這些值，請導覽至 Amazon SageMaker Studio 中應用程式的詳細資訊頁面。

    os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'