本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。
# SageMaker JumpStart 預先訓練模型
Amazon SageMaker JumpStart 針對各種問題類型提供預先訓練的開放原始碼模型，協助您開始使用機器學習。您可以在部署之前逐步訓練和調整這些模型。JumpStart 也提供解決方案範本，可為常見使用案例設定基礎架構，以及使用 SageMaker AI 針對機器學習設定可執行範例筆記本。
您可以透過更新 Studio 體驗中的模型登陸頁面，從熱門模型中樞部署、微調和評估預先訓練的模型。
您也可以透過 Amazon SageMaker Studio Classic 中的模型登陸頁面存取預先訓練的模型、解決方案範本和範例。
下列步驟說明如何使用 Amazon SageMaker Studio 和 Amazon SageMaker Studio Classic 存取 JumpStart 模型。
您也可以使用 SageMaker Python SDK 存取 JumpStart 模型。如需有關如何以程式設計方式使用 JumpStart 模型的詳細資訊，請參閱[與預先訓練的模型共同使用 SageMaker JumpStart 演算法](https://sagemaker.readthedocs.io/en/stable/overview.html#use-sagemaker-jumpstart-algorithms-with-pretrained-models)。
## 在 Studio 中開啟 JumpStart
在 Amazon SageMaker Studio 中，透過**首頁**或左側面板中的模型項目開啟**模型**登陸頁面。這會開啟 **SageMaker 模型**登陸頁面，您可以在其中探索 SageMakerPublicHub 中的模型、Private Hubs 或 Curated Hubs 中的模型，以及自訂模型。
+ 從**首頁**中，在啟動模型自訂工作流程窗格中選擇**探索**模型。 ****
+ 從左側面板的選單中，導覽至**模型**節點。
如需開始使用 Amazon SageMaker Studio 的詳細資訊，請參閱[Amazon SageMaker Studio](studio-updated.md)。
![\[可存取 JumpStart 的 Amazon SageMaker Studio 介面。\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-studio-nav.png)
## 在 Studio 中使用 JumpStart
**重要**
下載或使用第三方內容之前：您有責任審查並遵守任何適用的授權條款，並確保這些條款適用於您的使用案例。
在 3/13/2026，我們從跨區域的 JumpStart 目錄中刪除了幾個模型，以提高可探索性並專注於高品質、支援良好的選項。取消列出模型的現有端點將保持正常運作。如需已移除之開放權重模型的授權資訊，請參閱個別模型的 Hugging Face 清單。
從 Studio 中的 **SageMaker 模型**登陸頁面，您可以從專屬和公開可用的模型提供者探索 JumpStart 基礎模型。您可以直接搜尋模型、依特定模型提供者篩選，或根據提供的使用案例和動作清單進行篩選。
![\[Amazon SageMaker Studio 模型登陸頁面。\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-studio-landing.png)
選擇模型以查看其模型詳細資訊卡。在模型詳細資訊卡的右上角，選擇**微調**、**自訂**、**部署**或**評估**，分別開始執行微調、部署或評估工作流程。請注意，並非所有模型都可用於自訂、微調或評估。如需所有這些選項的詳細資訊，請參閱[在 Studio 中使用基礎模型](jumpstart-foundation-models-use-studio-updated.md)。
您也可以透過專用索引標籤存取 **Private 或 Curated Hub** 模型。這些運作方式與 JumpStart 基礎模型完全相同，按一下模型卡將帶您前往詳細資訊頁面，其中有可用的動作。
此外，選取**我的模型**以存取微調和註冊的模型。您可以在**記錄**模型索引標籤下的此處找到自訂任務的輸出。您也可以在這裡找到**可部署**的模型。
## 在 Studio Classic 中開啟與使用 JumpStart
以下各章節提供有關如何從 Amazon SageMaker Studio Classic 使用者介面開啟、使用和管理 JumpStart 的相關資訊。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
### 在 Studio Classic 中開啟 JumpStart
在 Amazon SageMaker Studio Classic 中，透過**首頁**或左側面板的**首頁**功能表開啟 JumpStart 登陸頁面。
+ 在**首頁**中，您可以：
+ 在**預先建置和自動化解決方案**窗格中選擇 **JumpStart**。此動作會開啟** SageMaker JumpStart **登陸頁面。
+ 直接在 **SageMaker JumpStart** 登陸頁面中選擇模型，或選擇**探索全部**選項，以查看可用的解決方案或特定類型的模型。
+ 在左側面板的**首頁**選單中，您可以：
+ 導覽至 **SageMaker JumpStart** 節點，然後選擇**模型、筆記本、解決方案**。此動作會開啟** SageMaker JumpStart **登陸頁面。
+ 導覽至 **JumpStart** 節點，然後選擇**已啟動的 JumpStart 資產**。
**已啟動的 JumpStart 資產**頁面會列出您目前啟動的解決方案、已部署的模型端點，以及使用 JumpStart 建立的訓練工作。您可以按一下索引標籤右上方的**瀏覽 JumpStart** 按鈕，從這個索引標籤存取 JumpStart 登陸頁面。
JumpStart 登陸頁面會列出可用的端對端機器學習解決方案、預先訓練的模型和範例筆記本。在任何個別的解決方案或模型頁面中，您可以選擇索引標籤右上方的**瀏覽 JumpStart** 按鈕 (![\[Button labeled "Browse JumpStart" with an icon indicating a browsing action.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-browse-button.png))，以返回 **SageMaker JumpStart** 頁面。
![\[可存取 JumpStart 的 SageMaker Studio Classic 介面。\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-assets.png)
**重要**
下載或使用第三方內容之前：您有責任審查並遵守任何適用的授權條款，並確保這些條款適用於您的使用案例。
在 3/13/2026，我們從跨區域的 JumpStart 目錄中刪除了幾個模型，以提高可探索性並專注於高品質、支援良好的選項。取消列出模型的現有端點將保持正常運作。如需已移除之開放權重模型的授權資訊，請參閱個別模型的 Hugging Face 清單。
### 在 Studio Classic 中使用 JumpStart
您可以從 **SageMaker JumpStart** 登陸頁面瀏覽解決方案、模型、筆記本和其他資源。
![\[SageMaker Studio Classic JumpStart 登陸頁面。\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-use.png)
您可以使用搜尋列或瀏覽各個類別來尋找 JumpStart 資源。使用標籤分頁依類別篩選可用的解決方案：
+ **解決方案** — 只需一個步驟即可啟動全方位的機器學習解決方案，並將 SageMaker AI 與其他 AWS 服務連結在一起。選取**瀏覽所有解決方案**以檢視所有可用的解決方案。
+ **資源** — 使用範例筆記本、部落格和教學影片來學習並快速開始解決您的問題類型。
+ **部落格** — 閱讀機器學習專家提供的詳細資訊和解決方案。
+ **教學影片** — 觀看機器學習專家提供的 SageMaker AI 特徵和機器學習使用案例的教學影片。
+ **範例筆記本** — 針對各種模型類型和使用案例執行使用 SageMaker AI 特徵 (例如 Spot 執行個體訓練和實驗) 的範例筆記本。
+ **資料類型** — 依資料類型尋找模型 (例如視覺、文字、表格式、音訊、文字產生)。選取**瀏覽所有模型**以檢視所有可用的模型。
+ **機器學習 (ML) 任務** — 按問題類型 (例如影像分類、圖像嵌入、物件偵測、文文字產生) 尋找模型。選取**瀏覽所有模型**以檢視所有可用的模型。
+ **筆記本** — 尋找在多個模型類型和使用案例中使用 SageMaker AI 特徵的範例筆記本。選取**瀏覽所有筆記本**以檢視所有可用的範例筆記本。
+ **框架** — 透過框架查找模型 (例如 PyTorch、TensorFlow、Hugging Face)。
### 在 Studio Classic 中管理 JumpStart
從左側面板的**首頁**功能表導覽至 **SageMaker JumpStart**，然後選擇**已啟動的 JumpStart 資產**，以列出目前啟動的解決方案、已部署的模型端點，以及使用 JumpStart 建立的訓練工作。
**Topics**
+ [在 Studio 中開啟 JumpStart](#jumpstart-open-studio)
+ [在 Studio 中使用 JumpStart](#jumpstart-use-studio)
+ [在 Studio Classic 中開啟與使用 JumpStart](#jumpstart-open-use)
+ [Amazon SageMaker JumpStart Foundation 模型](jumpstart-foundation-models.md)
+ [JumpStart 中適用於基礎模型存取控制的私有彙整中樞](jumpstart-curated-hubs.md)
+ [Studio Classic 中的 Amazon SageMaker JumpStart](jumpstart-studio-classic.md)
# Amazon SageMaker JumpStart Foundation 模型
Amazon SageMaker JumpStart 針對內容撰寫、程式碼產生、問題回答、文案撰寫、摘要、分類、資訊擷取等使用案例提供最先進的基礎模型。使用 JumpStart 基礎模型建置您自己的生成式 AI 解決方案，並將自訂解決方案與其他 SageMaker AI 功能整合。如需詳細資訊，請參閱[開始使用 Amazon SageMaker JumpStart](https://aws.amazon.com/sagemaker/jumpstart/getting-started/)。
基礎模型是一個大型的預先訓練模型，可以適應許多下游任務，並且通常是開發更專業模型的起點。基礎模型的範例包括 LLaMa-3-70b、BLOOM 176B、FLAN-T5 XL 或 GPT-J 6B，這些模型已針對大量文字資料進行預先訓練，並可針對特定語言任務進行微調。
Amazon SageMaker JumpStart 加入並維護公開可用的基礎模型，供您存取、自訂並整合到您的機器學習生命週期中。如需詳細資訊，請參閱[公開的基礎模型](jumpstart-foundation-models-latest.md#jumpstart-foundation-models-latest-publicly-available)。Amazon SageMaker JumpStart 也包含來自第三方供應商的專屬基礎模型。如需詳細資訊，請參閱[專屬基礎模型](jumpstart-foundation-models-latest.md#jumpstart-foundation-models-latest-proprietary)。
若要開始探索和試驗可用模型，請參閱[JumpStart 基礎模型用量](jumpstart-foundation-models-use.md)。所有基礎模型都可以透過程式設計方式與 SageMaker Python SDK 搭配使用。如需詳細資訊，請參閱[搭配 SageMaker Python SDK 使用基礎模型](jumpstart-foundation-models-use-python-sdk.md)。
如需選擇模型時應注意事項的更多資訊，請參閱[模型來源和授權協議](jumpstart-foundation-models-choose.md)。
如需有關自訂和微調基礎模型的詳細資訊，請參閱[基礎模型自訂](jumpstart-foundation-models-customize.md)。
有關基礎模型的更多一般資訊，請參閱文獻[關於基礎模型的機會和風險](https://arxiv.org/abs/2108.07258)。
**Topics**
+ [可用的基礎模型](jumpstart-foundation-models-latest.md)
+ [JumpStart 基礎模型用量](jumpstart-foundation-models-use.md)
+ [模型來源和授權協議](jumpstart-foundation-models-choose.md)
+ [基礎模型自訂](jumpstart-foundation-models-customize.md)
+ [在 Studio 中評估文字產生基礎模型](jumpstart-foundation-models-evaluate.md)
+ [範例筆記本](jumpstart-foundation-models-example-notebooks.md)
# 可用的基礎模型
Amazon SageMaker JumpStart 提供最先進、內建公開可用和專屬的基礎模型，可自訂並整合到您的生成式 AI 工作流程中。
## 公開的基礎模型
Amazon SageMaker JumpStart 啟動並維護來自第三方來源的開放原始碼基礎模型。若要開始使用其中一種公開提供的模型，請參閱[JumpStart 基礎模型用量](jumpstart-foundation-models-use.md)或探索其中一種可用的模型[範例筆記本](jumpstart-foundation-models-example-notebooks.md)。在公開模型的特定範例筆記本中，嘗試切換模型 ID 以嘗試使用相同模型系列中的不同模型。
如需有關使用 SageMaker Python SDK 部署公開 JumpStart 基礎模型的模型識別碼和資源的詳細資訊，請參閱[搭配 SageMaker Python SDK 使用基礎模型](jumpstart-foundation-models-use-python-sdk.md)。
根據定義，基礎模型可以適應許多下游任務。基礎模型是針對大量一般網域資料進行訓練，並且可針對多個使用案例實作或自訂相同的模型。選擇基礎模型後，請先定義特定任務，例如產生文字或產生影像。
### 公開可用的時間序列預測模型
時間序列預測模型旨在分析及預測一段時間的序列資料。這些模型可以套用至各種領域，例如金融、氣象預測或能源需求預測。Chronos 模型專為時間序列預測任務量身打造，可根據歷史資料模式進行準確的預測。
| 模型名稱 | 模型 ID | 模型來源 | 可微調 |
| --- | --- | --- | --- |
| Chronos T5 小 | autogluon-forecasting-chronos-t5-small | Amazon | 否 |
| Chronos T5 基礎 | autogluon-forecasting-chronos-t5-base | Amazon | 否 |
| Chronos T5 大 | autogluon-forecasting-chronos-t5-large | Amazon | 否 |
| Chronos-Bolt 小 | autogluon-forecasting-chronos-bolt-small | Amazon | 否 |
| Chronos-Bolt 基礎 | autogluon-forecasting-chronos-bolt-base | Amazon | 否 |
### 公開可用的文字產生模型
文字生成基礎模型可用於各種下游任務，包括文字摘要、文字分類、問答、長篇內容生成、短格式文案寫作、資訊提取等。
若要探索最新的文字產生基礎模型，請使用 [Amazon SageMaker JumpStart 產品說明頁面上的](https://aws.amazon.com/sagemaker/jumpstart/getting-started/?sagemaker-jumpstart-cards.sort-by=item.additionalFields.priority&sagemaker-jumpstart-cards.sort-order=asc&awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model&awsf.sagemaker-jumpstart-filter-text=ml-task-type%23text-generation&awsf.sagemaker-jumpstart-filter-vision=*all&awsf.sagemaker-jumpstart-filter-tabular=*all&awsf.sagemaker-jumpstart-filter-audio-tasks=*all&awsf.sagemaker-jumpstart-filter-multimodal=*all&awsf.sagemaker-jumpstart-filter-RL=*all&awsm.page-sagemaker-jumpstart-cards=1)**文字產生**篩選器。您也可以直接在 Amazon SageMaker Studio 使用者介面或 SageMaker Studio Classic 使用者介面中根據任務來探索基礎模型。只有公開可用的文字產生模型子集可在 JumpStart 中進行微調。如需詳細資訊，請參閱[在 Amazon SageMaker Studio Classic 中使用基礎模型](jumpstart-foundation-models-use-studio.md)。
### 公開可用的影像產生模型
JumpStart 提供多種穩定擴散影像產生基礎模型，包括穩定性 AI 的基礎模型，以及針對 Hugging Face 特定文字轉影像任務的預先訓練模型。如果您需要微調文字到影像的基礎模型，則可以使用穩定性 AI 中的穩定擴散 2.1 基礎。如果您想要探索已針對特定藝術風格進行訓練的模型，可以直接在 Amazon SageMaker Studio 使用者介面或 SageMaker Studio Classic 使用者介面中探索來自 Hugging Face 的眾多第三方模型其中一種。
若要探索最新的影像產生 JumpStart 基礎模型，請使用 [開始使用 Amazon SageMaker JumpStart](https://aws.amazon.com/sagemaker/jumpstart/getting-started/?sagemaker-jumpstart-cards.sort-by=item.additionalFields.priority&sagemaker-jumpstart-cards.sort-order=asc&awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model&awsf.sagemaker-jumpstart-filter-text=*all&awsf.sagemaker-jumpstart-filter-vision=*all&awsf.sagemaker-jumpstart-filter-tabular=*all&awsf.sagemaker-jumpstart-filter-audio-tasks=*all&awsf.sagemaker-jumpstart-filter-multimodal=ml-task-type%23txt2img&awsf.sagemaker-jumpstart-filter-RL=*all&awsm.page-sagemaker-jumpstart-cards=1) 產品說明頁面上的**文字轉換影像**篩選器。若要開始使用您選擇的文字轉影像基礎模型，請參閱[JumpStart 基礎模型用量](jumpstart-foundation-models-use.md)。
## 專屬基礎模型
Amazon SageMaker JumpStart 可讓您存取來自第三方供應商的專屬基礎模型，例如 [AI21 Lab](https://www.ai21.com/)、[Cohere](https://cohere.com/)和 [LightOn](https://www.lighton.ai/)。
若要開始使用這些專屬模型之一，請參閱[JumpStart 基礎模型用量](jumpstart-foundation-models-use.md)。若要使用專屬基礎模型，您必須先訂閱 AWS Marketplace中的模型。訂閱模型後，前往 Studio 或 SageMaker Studio Classic 中的基礎模型。如需詳細資訊，請參閱[SageMaker JumpStart 預先訓練模型](studio-jumpstart.md)。
若要探索最新專屬基礎模型的各種使用案例，請參閱[開始使用 Amazon SageMaker JumpStart](https://aws.amazon.com/sagemaker/jumpstart/getting-started/?sagemaker-jumpstart-cards.sort-by=item.additionalFields.priority&sagemaker-jumpstart-cards.sort-order=asc&awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model&awsf.sagemaker-jumpstart-filter-text=*all&awsf.sagemaker-jumpstart-filter-vision=*all&awsf.sagemaker-jumpstart-filter-tabular=*all&awsf.sagemaker-jumpstart-filter-audio-tasks=*all&awsf.sagemaker-jumpstart-filter-multimodal=*all&awsf.sagemaker-jumpstart-filter-RL=*all&sagemaker-jumpstart-cards.q=proprietary&sagemaker-jumpstart-cards.q_operator=AND)。
# JumpStart 基礎模型用量
透過 Amazon SageMaker Studio,Studio 或 Amazon SageMaker Studio Classic 選擇、訓練或部署基礎模型、以程式設計方式搭配 SageMaker Python SDK 使用 JumpStart 基礎模型，並直接透過 SageMaker AI 主控台探索 JumpStart 基礎模型。
**Topics**
+ [在 Studio 中使用基礎模型](jumpstart-foundation-models-use-studio-updated.md)
+ [在 Amazon SageMaker Studio Classic 中使用基礎模型](jumpstart-foundation-models-use-studio.md)
+ [搭配 SageMaker Python SDK 使用基礎模型](jumpstart-foundation-models-use-python-sdk.md)
+ [在 SageMaker AI 主控台中探索基礎模型](jumpstart-foundation-models-use-console.md)
# 在 Studio 中使用基礎模型
Amazon SageMaker Studio 允許您直接透過 Studio 使用者介面微調、部署和評估公開可用和專屬的 JumpStart 基礎模型。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用更新的 Studio 體驗。如需使用 Studio Classic 應用程式的資訊，請參閱 [Amazon SageMaker Studio Classic](studio.md)。
若要開始使用，請導覽至 Amazon SageMaker Studio 中的 JumpStart 登陸頁面。您可以從**首頁**或左側面板功能表存取它。在 **JumpStart** 登陸頁面上，您可以從公開可用和專屬模型的提供者探索模型中樞，並搜尋模型。
在每個模型中樞中，您可以依**最受喜歡**、**最多下載**、**最近更新**或依任務篩選模型。選擇模型以檢視其詳細資訊卡。在模型詳細資訊卡上，您可以選擇**微調**、**部署**或**評估**模型，視可用的選項而定。請注意，並非所有模型都可用於微調或評估。
如需開始使用 Amazon SageMaker Studio 的詳細資訊，請參閱[Amazon SageMaker Studio](studio-updated.md)。
**Topics**
+ [在 Studio 中微調模型](jumpstart-foundation-models-use-studio-updated-fine-tune.md)
+ [在 Studio 中部署模型](jumpstart-foundation-models-use-studio-updated-deploy.md)
+ [在 Studio 中評估模型](jumpstart-foundation-models-use-studio-updated-evaluate.md)
+ [在 Amazon Bedrock 中使用您的 SageMaker JumpStart 模型](jumpstart-foundation-models-use-studio-updated-register-bedrock.md)
# 在 Studio 中微調模型
微調會在新資料集上訓練預先訓練的模型，而不需要從頭開始訓練。這個程序也稱為移轉學習，可以利用較小的資料集和較短的訓練時間來產生精確的模型。若要微調 JumpStart 基礎模型，請導覽至 Studio 使用者介面中的模型詳細資訊卡。如需如何在 Studio 中開啟 JumpStart 的詳細資訊，請參閱[在 Studio 中開啟 JumpStart](studio-jumpstart.md#jumpstart-open-studio)。導覽至您選擇的模型詳細資訊卡後，選擇右上角的**訓練**。請注意，並非所有模型都微調功能。
**重要**
某些基礎模型必須先明確接受終端使用者授權協議 (EULA)，才能進行微調。如需詳細資訊，請參閱[在 Amazon SageMaker Studio 接受 EULA](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio)。
## 模型設定
在 Amazon SageMaker Studio 中使用預先訓練的 JumpStart 基礎模型時，預設會填入**模型成品位置 (Amazon S3 URI)**。若要編輯預設 Amazon S3 URI，請選擇**輸入模型成品位置**。並非所有模型都支援變更模型成品位置。
## 資料設定
在**資料**欄位中，提供訓練資料集位置的 Amazon S3 URI 點。預設 Amazon S3 URI 指向範例訓練資料集。若要編輯預設的 Amazon S3 URI，請選擇**輸入訓練資料集**並變更 URI。請務必檢閱 Amazon SageMaker Studio 中的模型詳細資訊卡，以取得格式化訓練資料的相關資訊。
## 超參數
您可以自訂用於微調模型的訓練工作的超參數。每個可微調模型的可用超參數視模型而有所不同。
以下超參數在模型中很常見：
+ **時期** - 一個時期是整個資料集的一個循環。一個批次包括多個間隔，多個批次最終組成一個時期。執行多個週期，直到模型的精準度達到可接受的程度，或者當誤差率降至可接受的程度以下為止。
+ **學習速率** - 值應該在時期之間改變的量。在改良模型時，會推動其內部權重，並檢查錯誤率以查看模型是否有所改善。典型的學習速率是 0.1 或 0.01，其中 0.01 是較小的調整，可能會導致訓練需要很長時間才能收斂，而 0.1 則大得多，可能導致訓練過衝。它是您可以調整以訓練模型的主要超參數之一。請注意，針對文字模型，較小的學習速率要 (BERT 為 5e-5) 可能會帶來更準確的模型。
+ **Batch 大小** - 每個間隔從資料集中選擇要傳送到 GPU 進行訓練的記錄數。
檢閱 Studio UI 中模型詳細資訊卡中工具提示的提示和其他資訊，以進一步了解您所選擇模型特定的超參數。
如需超參數的詳細資訊，請參閱[通常支援的微調超參數](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters)。
## 部署
為您的訓練任務指定訓練執行個體類型和輸出成品位置。您只能從與您在微調 Studio 使用者介面時所選模型相容的執行個體中選擇。預設輸出成品位置是 SageMaker AI 預設儲存貯體。若要變更輸出成品位置，請選擇**輸入輸出成品位置**，然後變更 Amazon S3 URI。
## 安全
指定用於訓練任務的安全設定，包括 SageMaker AI 用來訓練模型的 IAM 角色、訓練任務是否應連線至虛擬私有雲端 (VPC)，以及任何可保護您資料的加密金鑰。
## 其他資訊
在**其他資訊**欄位中，您可以編輯訓練任務名稱。您也可以新增和移除採用鍵值對形式的標籤，以協助組織和分類微調訓練任務。
提供微調組態的資訊之後，請選擇**提交**。如果您選擇微調的預先訓練基礎模型在訓練之前必須明確接受最終使用者授權協議 (EULA)，則會在快顯視窗中提供 EULA。若要接受 EULA 的條款，請選擇**接受**。在下載或使用模型之前，您有責任審查並遵守任何適用的授權條款，並確保這些條款適用於您的使用案例。
# 在 Studio 中部署模型
若要部署 JumpStart 基礎模型，請在 Studio 使用者介面中導覽至模型詳細資訊卡。如需如何在 Studio 中開啟 JumpStart 的詳細資訊，請參閱[在 Studio 中開啟 JumpStart](studio-jumpstart.md#jumpstart-open-studio)。導覽至您選擇的模型詳細資訊頁面後，請選擇 Studio 使用者介面右上角的**部署**。然後，依照[使用 SageMaker Studio 部署模型](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints-deploy-models.html#deploy-models-studio)中的步驟進行。
**重要**
部分基礎模型需要在部署前明確接受終端使用者授權協議 (EULA)。如需詳細資訊，請參閱[在 Amazon SageMaker Studio 接受 EULA](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio)。
# 在 Studio 中評估模型
Amazon SageMaker JumpStart 與 Studio 中的 SageMaker Clarify 基礎模型評估 (FME) 整合。如果 JumpStart 模型有可用的內建評估功能，您可以在 JumpStart Studio 使用者介面中選擇模型詳細資訊頁面右上角的**評估**。如需詳細資訊，請參閱[評估基礎模型](https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models-evaluate.html)。
# 在 Amazon Bedrock 中使用您的 SageMaker JumpStart 模型
您可以註冊您已從 Amazon SageMaker JumpStart 部署到 Amazon Bedrock 的模型。使用 Amazon Bedrock，您可以在多個端點之後託管模型。您也可以使用 Amazon Bedrock 功能，例如客服和知識庫。如需有關使用 Amazon Bedrock 模型的詳細資訊，請參閱[https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html](https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html)。
**重要**
若要將模型遷移至 Amazon Bedrock，建議您將 [AmazonBedrockFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonBedrockFullAccess.html) 政策連接至 IAM 角色。如果您無法連接受管政策，請確定您的 IAM 角色具有下列許可：
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "BedrockAll",
"Effect": "Allow",
"Action": [
"bedrock:*"
],
"Resource": "*"
},
{
"Sid": "DescribeKey",
"Effect": "Allow",
"Action": [
"kms:DescribeKey"
],
"Resource": "arn:*:kms:*:::*"
},
{
"Sid": "APIsWithAllResourceAccess",
"Effect": "Allow",
"Action": [
"iam:ListRoles",
"ec2:DescribeVpcs",
"ec2:DescribeSubnets",
"ec2:DescribeSecurityGroups"
],
"Resource": "*"
},
{
"Sid": "MarketplaceModelEndpointMutatingAPIs",
"Effect": "Allow",
"Action": [
"sagemaker:CreateEndpoint",
"sagemaker:CreateEndpointConfig",
"sagemaker:CreateModel",
"sagemaker:CreateInferenceComponent",
"sagemaker:DeleteInferenceComponent",
"sagemaker:DeleteEndpoint",
"sagemaker:UpdateEndpoint"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "BedrockEndpointTaggingOperations",
"Effect": "Allow",
"Action": [
"sagemaker:AddTags",
"sagemaker:DeleteTags"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
]
},
{
"Sid": "MarketplaceModelEndpointNonMutatingAPIs",
"Effect": "Allow",
"Action": [
"sagemaker:DescribeEndpoint",
"sagemaker:DescribeEndpointConfig",
"sagemaker:DescribeModel",
"sagemaker:DescribeInferenceComponent",
"sagemaker:ListEndpoints",
"sagemaker:ListTags"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "BedrockEndpointInvokingOperations",
"Effect": "Allow",
"Action": [
"sagemaker:InvokeEndpoint",
"sagemaker:InvokeEndpointWithResponseStream"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "DiscoveringMarketplaceModel",
"Effect": "Allow",
"Action": [
"sagemaker:DescribeHubContent"
],
"Resource": [
"arn:aws:sagemaker:*:aws:hub-content/SageMakerPublicHub/Model/*",
"arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
]
},
{
"Sid": "AllowMarketplaceModelsListing",
"Effect": "Allow",
"Action": [
"sagemaker:ListHubContents"
],
"Resource": "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
},
{
"Sid": "RetrieveSubscribedMarketplaceLicenses",
"Effect": "Allow",
"Action": [
"license-manager:ListReceivedLicenses"
],
"Resource": [
"*"
]
},
{
"Sid": "PassRoleToSageMaker",
"Effect": "Allow",
"Action": [
"iam:PassRole"
],
"Resource": [
"arn:aws:iam::*:role/*Sagemaker*ForBedrock*"
],
"Condition": {
"StringEquals": {
"iam:PassedToService": [
"sagemaker.amazonaws.com",
"bedrock.amazonaws.com"
]
}
}
},
{
"Sid": "PassRoleToBedrock",
"Effect": "Allow",
"Action": [
"iam:PassRole"
],
"Resource": "arn:aws:iam::*:role/*AmazonBedrock*",
"Condition": {
"StringEquals": {
"iam:PassedToService": [
"bedrock.amazonaws.com"
]
}
}
}
]
}
```
Amazon Bedrock 完整存取政策僅提供對 Amazon Bedrock API 的許可。若要在 中使用 Amazon Bedrock AWS 管理主控台，您的 IAM 角色也必須具有下列許可：
```
{
"Sid": "AllowConsoleS3AccessForBedrockMarketplace",
"Effect": "Allow",
"Action": [
"s3:GetObject",
"s3:GetBucketCORS",
"s3:ListBucket",
"s3:ListBucketVersions",
"s3:GetBucketLocation"
],
"Resource": "*"
}
```
如果您正在撰寫自己的政策，則必須包含允許資源其 Amazon Bedrock 市集動作的政策陳述式。例如，下列政策允許 Amazon Bedrock 針對您已部署至端點的模型使用 `InvokeModel` 操作。
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "BedrockAll",
"Effect": "Allow",
"Action": [
"bedrock:InvokeModel"
],
"Resource": [
"arn:aws:bedrock:us-east-1:111122223333:marketplace/model-endpoint/all-access"
]
},
{
"Sid": "VisualEditor1",
"Effect": "Allow",
"Action": ["sagemaker:InvokeEndpoint"],
"Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/*",
"Condition": {
"StringEquals": {
"aws:ResourceTag/project": "example-project-id",
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
}
]
}
```
部署模型之後，您便可以在 Amazon Bedrock 中使用該模型。若要查看您是否可以在 Amazon Bedrock 中使用它，請導覽至 Studio 使用者介面中的模型詳細資訊卡。如果模型卡表示 **Bedrock 準備就緒**，您可以向 Amazon Bedrock 註冊模型。
**重要**
根據預設，Amazon SageMaker JumpStart 會停用您所部署模型的網路存取權。如果您已啟用網路存取權，您便無法將模型搭配 Amazon Bedrock 使用。如果您想要將模型搭配 Amazon Bedrock 使用，則必須在停用網路存取權的情況下重新部署模型。
若要搭配 Amazon Bedrock 使用，請導覽至**端點詳細資訊**頁面，然後選擇 Studio 使用者介面右上角的**搭配 Bedrock 使用**。看到快顯視窗後，選擇**向 Bedrock 註冊**。
# 在 Amazon SageMaker Studio Classic 中使用基礎模型
您可以直接透過 Studio Classic 使用者介面微調與部署公開和專屬的 JumpStart 基礎模型。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
若要開始使用 Studio Classic，請參閱[啟動 Amazon SageMaker Studio Classic](studio-launch.md)。
![\[JumpStart foundation models available in Amazon SageMaker Studio Classic.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-fm-studio.png)
開啟 Amazon SageMaker Studio Classic 之後，請在導覽窗格的 SageMaker JumpStart 區段中選擇**模型、筆記本和解決方案**。然後，根據您的使用案例，向下捲動以尋找**基礎模型：文字產生**或**基礎模型：影像產生**區段。
您可以在建議的基礎模型卡片上選擇**檢視模型**，或選擇**探索所有模型**以查看用於產生文字或影像產生的所有可用基礎模型。如果您選擇查看所有可用的模型，則可以依工作、資料類型、內容類型或架構進一步篩選可用的模型。您也可以直接在搜尋列中**搜尋**模型名稱。如果您需要選取模型的指導，請參閱[可用的基礎模型](jumpstart-foundation-models-latest.md)。
**重要**
某些基礎模型需要明確接受終端使用者授權協議 (EULA)。如需詳細資訊，請參閱[在 Amazon SageMaker Studio 接受 EULA](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio)。
在 Studio Classic 中為您選擇的基礎模型選擇**檢視模型**之後，您可以部署模型。如需詳細資訊，請參閱[部署模型](jumpstart-deploy.md)。
您也可以在**在筆記本中執行**區段中選擇**開啟筆記本**，直接在 Studio Classic 中執行基礎模型的範例筆記本。
**注意**
若要在 Studio Classic 中部署專屬基礎模型，您必須先訂閱 AWS Marketplace中的模型。 AWS Marketplace 連結會在 Studio Classic 內關聯的範例筆記本中提供。
如果模型可微調，您也可以微調模型。如需詳細資訊，請參閱[微調模型](jumpstart-fine-tune.md)。如需可微調 JumpStart 基礎模型的清單，請參閱[用於微調的基礎模型和超參數](jumpstart-foundation-models-fine-tuning.md)。
# 搭配 SageMaker Python SDK 使用基礎模型
所有 JumpStart 基礎模型都可以使用 SageMaker Python SDK 以程式設計方式部署 Python。
若要部署公開可用的基礎模型，您可以使用其模型 ID。您可以在[具備預先訓練模型表的內建演算法](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html)中找到所有公開可用基礎模型的模型 ID。在**搜尋**列中搜尋基礎模型的名稱。使用**顯示項目**下拉式清單或分頁控制項來導覽可用的模型。
訂閱 AWS Marketplace中的模型後，必須使用模型套件資訊部署專屬模型。
您可以在 [可用的基礎模型](jumpstart-foundation-models-latest.md) 中找到 JumpStart 可用模型清單。
**重要**
某些基礎模型需要明確接受終端使用者授權協議 (EULA)。如需詳細資訊，請參閱[使用 SageMaker Python SDK 接受 EULA](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-python-sdk)。
下列各節說明如何使用 `JumpStartEstimator` 類別微調公開可用的基礎模型、使用 `JumpStartModel` 類別部署公開可用的基礎模型，以及使用 `ModelPackage` 類別部署專屬基礎模型。
**Topics**
+ [使用 `JumpStartEstimator` 類別微調公開可用的基礎模型](jumpstart-foundation-models-use-python-sdk-estimator-class.md)
+ [使用 `JumpStartModel` 類別部署公開可用的基礎模型](jumpstart-foundation-models-use-python-sdk-model-class.md)
+ [使用 `ModelPackage` 類別部署專屬基礎模型](jumpstart-foundation-models-use-python-sdk-proprietary.md)
# 使用 `JumpStartEstimator` 類別微調公開可用的基礎模型
**注意**
如需在私有彙整中樞內微調基礎模型的指示，請參閱[微調彙整中樞模型](jumpstart-curated-hubs-fine-tune.md)。
使用 SageMaker Python SDK，您可以僅使用數行程式碼微調內建演算法或預先訓練的模型。
1. 首先，在[具備預先訓練模型表的內建演算法](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html)中找到您所選模型的模型 ID。
1. 使用模型 ID，將訓練任務定義為 JumpStart 估算器。
```
from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "huggingface-textgeneration1-gpt-j-6b"
estimator = JumpStartEstimator(model_id=model_id)
```
1. 在模型 `estimator.fit()` 上執行，指向要用於微調的訓練資料。
```
estimator.fit(
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)
```
1. 然後，使用 `deploy` 方法自動部署模型以進行推論。在此範例中，我們使用來自 Hugging Face 的 GPT-J 6B 模型。
```
predictor = estimator.deploy()
```
1. 然後，您可以使用 `predict` 方法對部署的模型執行推論。
```
question = "What is Southern California often abbreviated as?"
response = predictor.predict(question)
print(response)
```
**注意**
此範例使用基礎模型 GPT-J 6B，其適用於各種文字產生使用案例，包括問題回答、具名實體辨識、摘要等。如需模型使用案例的更多相關資訊，請參閱[可用的基礎模型](jumpstart-foundation-models-latest.md)。
您可以在建立 `JumpStartEstimator` 時選擇性地指定模型版本或執行個體類型。如需 `JumpStartEstimator ` 類別及其參數的詳細資訊，請參閱 [JumpStartEstimator](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.estimator.JumpStartEstimator)。
## 檢查預設執行個體類型
使用 `JumpStartEstimator` 類別微調預先訓練的模型時，您可以選擇包含特定的模型版本或執行個體類型。所有 JumpStart 模型都有預設執行個體類型。使用下列程式碼檢索預設訓練執行個體類型：
```
from sagemaker import instance_types
instance_type = instance_types.retrieve_default(
model_id=model_id,
model_version=model_version,
scope="training")
print(instance_type)
```
您可以使用 `instance_types.retrieve()` 方法查看所指定 JumpStart 模型的所有支援執行個體類型。
## 檢查預設超參數
若要檢查用於訓練的預設超參數，您可以使用 `hyperparameters` 類別中的 `retrieve_default()` 方法。
```
from sagemaker import hyperparameters
my_hyperparameters = hyperparameters.retrieve_default(model_id=model_id, model_version=model_version)
print(my_hyperparameters)
# Optionally override default hyperparameters for fine-tuning
my_hyperparameters["epoch"] = "3"
my_hyperparameters["per_device_train_batch_size"] = "4"
# Optionally validate hyperparameters for the model
hyperparameters.validate(model_id=model_id, model_version=model_version, hyperparameters=my_hyperparameters)
```
如需超參數的詳細資訊，請參閱[通常支援的微調超參數](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters)。
## 檢查預設指標定義
您也可以檢查預設指標定義：
```
print(metric_definitions.retrieve_default(model_id=model_id, model_version=model_version))
```
# 使用 `JumpStartModel` 類別部署公開可用的基礎模型
您可以使用 SageMaker Python SDK，在數行程式碼中將內建演算法或預先訓練的模型部署至 SageMaker AI 端點。
1. 首先，在[具備預先訓練模型表的內建演算法](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html)中找到您所選模型的模型 ID。
1. 使用模型 ID，將您的模型定義為 JumpStart 模型。
```
from sagemaker.jumpstart.model import JumpStartModel
model_id = "huggingface-text2text-flan-t5-xl"
my_model = JumpStartModel(model_id=model_id)
```
1. 使用 `deploy` 方法自動部署模型以進行推論。在此範例中，我們使用來自 Hugging Face 的 FLAN-T5 XL 模型。
```
predictor = my_model.deploy()
```
1. 然後，您可以使用 `predict` 方法對部署的模型執行推論。
```
question = "What is Southern California often abbreviated as?"
response = predictor.predict(question)
print(response)
```
**注意**
此範例使用基礎模型 FLAN-T5 XL，其適用於各種文字產生使用案例，包括問題回答、摘要、聊天機器人建立等。如需模型使用案例的更多相關資訊，請參閱[可用的基礎模型](jumpstart-foundation-models-latest.md)。
如需 `JumpStartModel ` 類別及其參數的詳細資訊，請參閱 [JumpStartModel](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.model.JumpStartModel)。
## 檢查預設執行個體類型
使用 `JumpStartModel` 類別部署預先訓練的模型時，您可以選擇包含特定的模型版本或執行個體類型。所有 JumpStart 模型都有預設執行個體類型。使用下列程式碼檢索預設部署執行個體類型：
```
from sagemaker import instance_types
instance_type = instance_types.retrieve_default(
model_id=model_id,
model_version=model_version,
scope="inference")
print(instance_type)
```
使用 `instance_types.retrieve()` 方法查看所指定 JumpStart 模型的所有支援執行個體類型。
## 使用推論元件將多個模型部署到共用端點
推論元件是 SageMaker AI 託管物件，可用來將一或多個模型部署到端點，以提高彈性和可擴展性。您必須將 JumpStart 模型的 `endpoint_type` 變更為以推論元件為基礎，而不是預設的以模型為基礎端點。
```
predictor = my_model.deploy(
endpoint_name = 'jumpstart-model-id-123456789012',
endpoint_type = EndpointType.INFERENCE_COMPONENT_BASED
)
```
如需使用推論元件建立端點和部署 SageMaker AI 模型的詳細資訊，請參閱[與多個模型共享資源使用率](realtime-endpoints-deploy-models.md#deployed-shared-utilization)。
## 檢查有效的輸入和輸出推論格式
若要檢查有效的資料輸入和輸出格式以進行推論，您可以使用 `Serializers` 和 `Deserializers` 類別中的 `retrieve_options()` 方法。
```
print(sagemaker.serializers.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.deserializers.retrieve_options(model_id=model_id, model_version=model_version))
```
## 檢查支援的內容並接受類型
同樣地，您可以使用 `retrieve_options()` 方法來檢查支援的內容，並接受模型的類型。
```
print(sagemaker.content_types.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.accept_types.retrieve_options(model_id=model_id, model_version=model_version))
```
如需公用程式的詳細資訊，請參閱[公用程式 API](https://sagemaker.readthedocs.io/en/stable/api/utility/index.html)。
# 使用 `ModelPackage` 類別部署專屬基礎模型
訂閱 AWS Marketplace中的模型後，必須使用模型套件資訊部署專屬模型。如需 SageMaker AI 和 的詳細資訊 AWS Marketplace，請參閱[在其中購買和銷售 Amazon SageMaker AI 演算法和模型 AWS Marketplace](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-marketplace.html)。若要尋找最新專屬模型 AWS Marketplace 的連結，請參閱 [Amazon SageMaker JumpStart 入門](https://aws.amazon.com/sagemaker/jumpstart/getting-started/?sagemaker-jumpstart-cards.sort-by=item.additionalFields.priority&sagemaker-jumpstart-cards.sort-order=asc&awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model&awsf.sagemaker-jumpstart-filter-text=*all&awsf.sagemaker-jumpstart-filter-vision=*all&awsf.sagemaker-jumpstart-filter-tabular=*all&awsf.sagemaker-jumpstart-filter-audio-tasks=*all&awsf.sagemaker-jumpstart-filter-multimodal=*all&awsf.sagemaker-jumpstart-filter-RL=*all&sagemaker-jumpstart-cards.q=proprietary&sagemaker-jumpstart-cards.q_operator=AND)。
訂閱您選擇的模型後 AWS Marketplace，您可以使用 SageMaker Python SDK 和與模型提供者相關聯的 SDK 部署基礎模型。例如，AI21 Labs、Cohere 和 LightOn 分別使用`"ai21[SM]"`、`cohere-sagemaker`、和 `lightonsage` 套件。
例如，若要使用 AI21 Labs 的 Jurassic-2 Jumbo Instruct 定義 JumpStart 模型，請使用下列程式碼：
```
import sagemaker
import ai21
role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"
my_model = ModelPackage(
role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)
```
如需逐步範例，請在 SageMaker Studio Classic 中尋找並執行與您選擇的專屬基礎模型相關聯的筆記本。如需詳細資訊，請參閱[在 Amazon SageMaker Studio Classic 中使用基礎模型](jumpstart-foundation-models-use-studio.md)。如需 SageMaker Python SDK 的詳細資訊，請參閱 [https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage)。
# 在 SageMaker AI 主控台中探索基礎模型
您可以直接透過 Amazon SageMaker AI 主控台探索 JumpStart 基礎模型。
1. 開啟 Amazon SageMaker AI 主控台，網址為 [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/)。
1. 在左側導覽面板上找到 **JumpStart**，然後選擇**基礎模型**。
1. 瀏覽模型或搜尋特定模型。如果您需要模型選擇的指導，請參閱[可用的基礎模型](jumpstart-foundation-models-latest.md)。選擇**檢視模型**以檢視您選擇之基礎模型的詳細資訊頁面。
1. 如果該模型是專屬模型，請選擇模型詳細資訊頁面右上角的**訂閱**以訂閱 AWS Marketplace中的模型。您應該會收到一封電子郵件，確認訂閱所選擇的模型。如需 SageMaker AI 和 的詳細資訊 AWS Marketplace，請參閱[在其中購買和銷售 Amazon SageMaker AI 演算法和模型 AWS Marketplace](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-marketplace.html)。公開的基礎模型不需要訂閱。
1. 若要在 GitHub 中檢視範例筆記本，請選擇模型詳細資料頁面右上角的**檢視程式碼**。
1. 若要直接在 Amazon SageMaker Studio Classic 中檢視和執行範例筆記本，請選擇模型詳細資料頁面右上角的**在 Studio 中開啟筆記本**。
# 模型來源和授權協議
Amazon SageMaker JumpStart 可讓您存取來自第三方來源和合作夥伴的數百個公開且專屬的基礎模型。您可以直接在 SageMaker AI 主控台、Studio 或 Studio Classic 中探索 JumpStart 基礎模型選取項目。
## 授權和模型來源
Amazon SageMaker JumpStart 提供對公開和專屬基礎模型的存取。基礎模型由第三方開源和專屬提供商開放和維護。因此，它們會根據模型來源指定的不同授權來發行。請務必檢閱您使用的任何基礎模型的授權。在下載或使用內容之前，您有責任檢查並遵守任何適用的授權條款，並確定這些條款適用於您的使用案例。以下是一些常見基礎模型授權的例子：
+ Alexa Teacher Model
+ Apache 2.0
+ BigScience Responsible AI License v1.0
+ CreativeML Open RAIL\$1\$1-M 授權
同樣地，對於任何專屬的基礎模型，請務必檢閱並遵守模型供應商提供的任何使用條款和使用準則。如果您對特定專屬模型的授權資訊有任何疑問，請直接聯絡模型供應商。您可以在 AWS Marketplace中每個模型頁面的**支援**標籤中找到模型提供者聯絡資訊。
## 終端使用者授權協議
部分 JumpStart 基礎模型需要在使用前明確接受終端使用者授權協議 (EULA)。
### 在 Amazon SageMaker Studio 接受 EULA
在 Studio 中微調、部署或評估 JumpStart 基礎模型之前，系統可能會提示您接受終端使用者授權協議。若要開始使用 Studio 中的 JumpStart 基礎模型，請參閱[在 Studio 中使用基礎模型](jumpstart-foundation-models-use-studio-updated.md)。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用更新的 Studio 體驗。如需使用 Studio Classic 應用程式的資訊，請參閱 [Amazon SageMaker Studio Classic](studio.md)。
部分 JumpStart 基礎模型需要在部署前接受終端使用者授權協議。如果這適用於您選擇使用的基礎模型，則 Studio 會以包含 EULA 內容的視窗來提示您。在下載或使用模型之前，您有責任審查並遵守任何適用的授權條款，並確保這些條款適用於您的使用案例。
#### 在 Amazon SageMaker Studio Classic 中接受 EULA
在部署 JumpStart 基礎模型或在 Studio Classic 中開啟 JumpStart 基礎模型筆記本之前，系統可能會提示您接受終端使用者授權協議。若要開始使用 Studio Classic 中的 JumpStart 基礎模型，請參閱[在 Amazon SageMaker Studio Classic 中使用基礎模型](jumpstart-foundation-models-use-studio.md)。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。我們建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
部分 JumpStart 基礎模型需要在部署前接受終端使用者授權協議。如果這適用於您選擇使用的基礎模型，Studio Classic 會在您選擇**部署**或**開啟筆記本**之後，提示您一個名為**檢閱使用者授權合約 (EULA) 和可接受使用政策 (AUP)**的視窗。在下載或使用模型之前，您有責任審查並遵守任何適用的授權條款，並確保這些條款適用於您的使用案例。
### 使用 SageMaker Python SDK 接受 EULA
下列各節說明如何在使用 SageMaker Python SDK 部署或微調 JumpStart 模型時明確宣告接受 EULA。如需利用 SageMaker Python SDK 開始使用 JumpStart 基礎模型的詳細資訊，請參閱[搭配 SageMaker Python SDK 使用基礎模型](jumpstart-foundation-models-use-python-sdk.md)。
開始之前，請務必備妥下列項目：
+ 升級至所使用模型的最新版本。
+ 安裝最新版本的 SageMaker Python SDK。
**重要**
若要使用下列工作流程，您必須安裝 v[2.198.0](https://github.com/aws/sagemaker-python-sdk/releases/tag/v2.198.0) 或更新版本的 SageMaker Python SDK。
#### 部署 JumpStart 模型時接受 EULA
對於需要接受終端使用者授權協議的模型，您必須在部署 JumpStart 模型時明確宣告接受 EULA。
```
from sagemaker.jumpstart.model import JumpStartModel
model_id = "meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id)
# Declare EULA acceptance when deploying your JumpStart model
predictor = my_model.deploy(accept_eula=True)
```
依預設，此 `accept_eula` 值 為 `None`，且必須明確地重新定義為 `True`，才能接受終端使用者授權協議。如需詳細資訊，請參閱 [JumpStartModel](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.model.JumpStartModel)。
#### 微調 JumpStart 模型時接受 EULA
若微調的模型需要接受終端使用者授權協議，則您必須在執行 JumpStart 估算器的 `fit()` 方法時明確宣告接受 EULA。微調預先訓練的模型後，原始模型的權重會改變。因此，當您之後部署經微調的模型時，您不需要接受 EULA。
**注意**
下列範例會設定 `accept_eula=False`。您應該手動將值變更為 `True`，以接受 EULA。
```
from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "meta-textgeneration-llama-2-13b"
# Declare EULA acceptance when defining your JumpStart estimator
estimator = JumpStartEstimator(model_id=model_id)
estimator.fit(accept_eula=False,
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)
```
`accept_eula` 值預設為 `None`，且必須明確地重新定義為 `fit()` 方法內的 `"true"`，才能接受終端使用者授權協議。如需詳細資訊，請參閱 [JumpStartEstimator](https://sagemaker.readthedocs.io/en/stable/api/training/estimators.html#sagemaker.jumpstart.estimator.JumpStartEstimator)。
#### EULA 接受 SageMaker Python SDK 2.198.0 之前的版本
**重要**
使用 SageMaker Python SDK [2.198.0](https://github.com/aws/sagemaker-python-sdk/releases/tag/v2.198.0) 之前的版本時，您必須使用 SageMaker `Predictor` 類別來接受模型 EULA。
使用 SageMaker Python SDK 以程式設計方式部署 JumpStart 基礎模型之後，您可以使用 SageMaker `[Predictor](https://sagemaker.readthedocs.io/en/stable/api/inference/predictors.html)` 類別對已部署的端點執行推論。對於需要接受終端使用者授權協議的模型，您必須在呼叫 `Predictor` 類別時明確宣告接受 EULA。
```
predictor.predict(payload, custom_attributes="accept_eula=true")
```
依預設，此 `accept_eula` 值 為 `false`，且必須明確地重新定義為 `true`，才能接受終端使用者授權協議。如果您嘗試在 `accept_eula` 設定為 `false` 時執行推論，預測值會傳回錯誤。如需利用 SageMaker Python SDK 開始使用 JumpStart 基礎模型的詳細資訊，請參閱[搭配 SageMaker Python SDK 使用基礎模型](jumpstart-foundation-models-use-python-sdk.md)。
**重要**
`custom_attributes` 參數接受採用 `"key1=value1;key2=value2"` 格式的鍵值對。如果您多次使用相同的鍵，推論伺服器會使用與鍵相關聯的最後一個值。例如，如果您傳遞 `"accept_eula=false;accept_eula=true"` 給 `custom_attributes` 參數，則推論伺服器會將值 `true` 與 `accept_eula` 鍵產生關聯。
# 基礎模型自訂
基礎模型是能夠解決各種任務的非常強大的模型。為了有效地解決大多數任務，這些模型需要某種形式的自訂。
第一次根據特定使用案例自訂基礎模型的建議方法是透過提示詞工程設計。為您的基礎模型提供精心設計、內容豐富的提示，有助於獲得所需的結果，而無需進行任何微調或改變模型權重。如需詳細資訊，請參閱[基礎模型的提示詞工程](jumpstart-foundation-models-customize-prompt-engineering.md)。
如果提示詞工程不足以將基礎模型自訂為特定任務，您可以在其他網域特定資料上微調基礎模型。如需詳細資訊，請參閱[用於微調的基礎模型和超參數](jumpstart-foundation-models-fine-tuning.md)。微調過程中會改變模型權重。
如果您想要使用知識庫中的資訊來自訂模型，而不需要任何重新訓練，請參閱[檢索增強生成](jumpstart-foundation-models-customize-rag.md)。
# 基礎模型的提示詞工程
提示詞工程是設計和精簡語言模型的提示或輸入刺激，以產生特定類型的輸出的過程。提示詞工程包括選取適當的關鍵字、提供背景資訊，並以鼓勵模型產生所需回應的方式塑造輸入，而且是積極塑造基礎模型行為和輸出的重要技術。
有效的提示詞工程對於指導模型行為和達到所需的回應非常重要。透過提示詞工程設計，您可以控制模型的色調、風格和領域專業知識，而無需進一步涉及微調等自訂措施。我們建議您在考慮對其他資料微調模型之前，先花時間提示詞工程設計。目標是為模型提供足夠的上下文和指引，以便它可以在看不見或有限的資料案例中推廣和執行良好。
## 零樣本學習
零樣本學習涉及訓練模型，以概括並對看不見的課程或任務進行預測。若要在零樣本學習環境中執行提示詞工程，我們建議您建構提示，明確提供目標工作和所需輸出格式的相關資訊。例如，如果您想要在模型在訓練期間看不到的一組類別上使用零樣本文字分類的基礎模型，則一個設計良好的提示可能是：`"Classify the following text as either sports, politics, or entertainment: [input text]."` 透過明確指定目標類別和預期的輸出格式，您可以引導模型即使在看不見的類別上也能做出準確的預測。
## 小樣本學習
小樣本學習涉及訓練具有有限資料量的模型，以用於新課程或任務。小樣本學習環境中的提示詞工程專注於設計提示，以有效使用有限的可用訓練資料。例如，如果您使用基礎模型進行影像分類工作，而且只有一些新影像類別的範例，您可以設計一個提示，其中包括可用的已標示範例，以及目標類別的預留位置。例如，提示可能是：`"[image 1], [image 2], and [image 3] are examples of [target class]. Classify the following image as [target class]"`。透過合併有限的標籤範例並明確指定目標類別，您可以引導模型一般化並進行準確的預測，即使在訓練資料最少的情況下也一樣。
## 支援的推論參數
變更推論參數也可能會影響對提示的回應。雖然您可以嘗試盡可能將最多的特異性和內容新增至提示，但您也可以使用支援的推論參數進行實驗。以下是一些常見支援推論參數範例：
| 推論參數 | Description |
| --- | --- |
| `max_new_tokens` | 基礎模型回應的輸出長度上限。有效值：整數，範圍：正整數。 |
| `temperature` | 控制輸出中的隨機性。較高的溫度會導致輸出序列具有低機率的單字，而較低的溫度會導致輸出序列具有高機率的單字。如果 `temperature=0`，回應只會由最高機率的單字 (貪婪解碼) 組成。有效值：浮點數，範圍：正浮點數。 |
| `top_p` | 在產生文字的每個步驟中，模型會從累積機率為 `top_p` 的最小可能單字集中取樣。有效值：浮動、範圍：0.0、1.0。 |
| `return_full_text` | 如果為 `True`，則輸入文字是所產生輸出文字的一部分。有效值：布林值，預設值：False。 |
如需基礎模型推論的詳細資訊，請參閱[使用 `JumpStartModel` 類別部署公開可用的基礎模型](jumpstart-foundation-models-use-python-sdk-model-class.md)。
如果提示詞工程不足以根據特定的業務需求、領域特定語言、目標任務或其他需求調整您的基礎模型，您可以考慮在其他資料上微調模型，或使用檢索增強生成 (RAG)，利用歸檔知識來源的增強內容來增強模型架構。如需詳細資訊，請參閱 [用於微調的基礎模型和超參數](jumpstart-foundation-models-fine-tuning.md) 或 [檢索增強生成](jumpstart-foundation-models-customize-rag.md) 。
# 用於微調的基礎模型和超參數
基礎模型耗費大量計算，並且在一個大型的無標籤語料庫上進行過訓練。微調預先訓練過的基礎模型是一種經濟實惠的方式，可以利用其廣泛的功能，又能在您自己的小型語料庫上自訂模型。微調是一種涉及進一步訓練的自訂方法，並且會改變模型的權重。
有以下需求時，微調可能對您有用：
+ 根據特定業務需求自訂您的模型
+ 您的模型可以成功使用網域特定的語言，例如行業術語、技術術語或其他專業詞彙
+ 針對特定任務增強效能
+ 應用程式中的準確、相對和上下文感知回應
+ 更以事實為基礎，毒性更低，更符合特定要求的反應
根據您的使用案例和選擇的基礎模型，您可以採取兩種主要方法進行微調。
1. 如果您有興趣在特定網域資料上微調模型，請參閱[使用網域適應性微調大型語言模型 (LLM)](jumpstart-foundation-models-fine-tuning-domain-adaptation.md)。
1. 如果您對使用提示詞和回應範例的指令式微調感興趣，請參閱[使用提示指示微調大型語言模型 (LLM)](jumpstart-foundation-models-fine-tuning-instruction-based.md)。
## 可用於微調的基礎模型
您可以微調下列任何 JumpStart 基礎模型：
+ Bloom 3B
+ Bloom 7B1
+ BloomZ 3B FP16
+ BloomZ 7B1 FP16
+ Code Llama 13B
+ Code Llama 13B Python
+ Code Llama 34B
+ Code Llama 34B Python
+ Code Llama 70B
+ Code Llama 70B Python
+ Code Llama 7B
+ Code Llama 7B Python
+ CyberAgentLM2-7B-Chat (CALM2-7B-Chat)
+ Falcon 40B BF16
+ Falcon 40B Instruct BF16
+ Falcon 7B BF16
+ Falcon 7B Instruct BF16
+ Flan-T5 基本
+ Flan-T5 大
+ Flan-T5 小
+ Flan-T5 XL
+ Flan-T5 XXL
+ Gemma 2B
+ Gemma 2B Instruct
+ Gemma 7B
+ Gemma 7B Instruct
+ GPT-2 XL
+ GPT-J 6B
+ GPT-Neo 1.3B
+ GPT-Neo 125M
+ GPT-NEO 2.7B
+ LightGPT Instruct 6B
+ Llama 2 13B
+ Llama 2 13B Chat
+ Llama 2 13B Neuron
+ Llama 2 70B
+ Llama 2 70B Chat
+ Llama 2 7B
+ Llama 2 7B Chat
+ Llama 2 7B Neuron
+ Mistral 7B
+ Mixtral 8x7B
+ Mixtral 8x7B Instruct
+ RedPajama INCITE Base 3B V1
+ RedPajama INCITE Base 7B V1
+ RedPajama INCITE Chat 3B V1
+ RedPajama INCITE Chat 7B V1
+ RedPajama INCITE Instruct 3B V1
+ RedPajama INCITE Instruct 7B V1
+ Stable Diffusion 2.1
## 通常支援的微調超參數
微調時，不同的基礎模型支援不同的超參數。以下是常見的支援超參數，可在訓練期間進一步自訂您的模型：
| 推論參數 | Description |
| --- | --- |
| `epoch` | 模型在訓練期間通過微調資料集的次數。必須是大於 1 的整數。 |
| `learning_rate` | 處理完每批微調訓練範例後，模型權重更新的速率。必須是大於 0 的正浮點數。 |
| `instruction_tuned` | 是否指示訓練模型。必須是 `'True'` 或 `'False'`。 |
| `per_device_train_batch_size` | 用於訓練的每個 GPU 核心或 CPU 其批次大小。必須為正整數。 |
| `per_device_eval_batch_size` | 用於評估的每個 GPU 核心或 CPU 其批次大小。必須為正整數。 |
| `max_train_samples` | 為了偵錯或加速訓練，請將訓練範例的數量截斷至此值。值 -1 表示模型使用所有的訓練範例。必須為正整數或 -1。 |
| `max_val_samples` | 為了偵錯或加速訓練，請將驗證範例的數量截斷至此值。值 -1 表示模型使用所有的驗證範例。必須為正整數或 -1。 |
| `max_input_length` | 記號化後的總輸入序列長度上限。超過此長度的序列將被截斷。如果為 -1，則 `max_input_length` 會設定為 1024 和記號器所定義 `model_max_length` 的最小值。如果設定為正值，則 `max_input_length` 會設定為所提供值和記號器所定義 `model_max_length` 的最小值。必須為正整數或 -1。 |
| `validation_split_ratio` | 如果沒有驗證管道，則訓練-驗證比率會從訓練資料中分割出來。必須介於 0 到 1 之間。 |
| `train_data_split_seed` | 如果驗證資料不存在，這會固定將輸入訓練資料隨機分割至模型所使用的訓練和驗證資料。必須是整數。 |
| `preprocessing_num_workers` | 用於預先處理的程序數目。如果為 `None`，則主要程序會用於預先處理。 |
| `lora_r` | 低秩適應 (LoRA) r 值，做為權重更新的擴展因素。必須為正整數。 |
| `lora_alpha` | 低秩適應 (LoRA) alpha 值，做為權重更新的擴展因素。通常為 `lora_r` 大小的 2 到 4 倍。必須為正整數。 |
| `lora_dropout` | 低秩適應 (LoRA) 層的捨棄值必須是介於 0 到 1 之間的正浮點數。 |
| `int8_quantization` | 如果為 `True`，則模型會以 8 位元精確度載入以進行訓練。 |
| `enable_fsdp` | 如果為 `True`，則訓練會使用完全碎片資料平行處理。 |
您在 Studio 中微調模型時，可以指定超參數值。如需詳細資訊，請參閱[在 Studio 中微調模型](jumpstart-foundation-models-use-studio-updated-fine-tune.md)。
您在使用 SageMaker Python SDK 微調模型時，也可以覆寫預設超參數值。如需詳細資訊，請參閱[使用 `JumpStartEstimator` 類別微調公開可用的基礎模型](jumpstart-foundation-models-use-python-sdk-estimator-class.md)。
# 使用網域適應性微調大型語言模型 (LLM)
網域適應性微調可讓您利用預先訓練的基礎模型，並使用有限的網域特定資料為特定任務進行調整。如果提示詞工程無法提供足夠的自訂功能，您可以使用網域調整微調，讓您的模型使用領域特定語言，例如產業術語、技術用語或其他專業資料。此微調程序會改變模型的權重。
若要在網域特定的資料集上微調模型：
1. 準備您的訓練資料。如需說明，請參閱[準備和上傳訓練資料以進行域自適應微調](#jumpstart-foundation-models-fine-tuning-domain-adaptation-prepare-data)。
1. 建立您的微調訓練任務。如需說明，請參閱[為指令微調建立訓練任務](#jumpstart-foundation-models-fine-tuning-domain-adaptation-train)。
您可以在 [範例筆記本](#jumpstart-foundation-models-fine-tuning-domain-adaptation-examples) 中找到端對端範例。
網域適應性微調適用於下列基礎模型：
**注意**
某些 JumpStart 基礎模型 (例如 Llama 2 7B) 需要先接受終端使用者授權協議，才能微調和執行推論。如需詳細資訊，請參閱[終端使用者授權協議](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula)。
+ Bloom 3B
+ Bloom 7B1
+ BloomZ 3B FP16
+ BloomZ 7B1 FP16
+ GPT-2 XL
+ GPT-J 6B
+ GPT-Neo 1.3B
+ GPT-Neo 125M
+ GPT-NEO 2.7B
+ Llama 2 13B
+ Llama 2 13B Chat
+ Llama 2 13B Neuron
+ Llama 2 70B
+ Llama 2 70B Chat
+ Llama 2 7B
+ Llama 2 7B Chat
+ Llama 2 7B Neuron
## 準備和上傳訓練資料以進行域自適應微調
域自適應微調的訓練資料可以 CSV、JSON 或 TXT 檔案格式提供。所有訓練資料都必須位於單一資料夾內的單一檔案中。
訓練資料取自 CSV 或 JSON 訓練資料檔案的**文字**欄。如果沒有任何欄的標籤為**文字**，則會從 CSV 或 JSON 訓練資料檔案的第一欄取得訓練資料。
以下是用於微調的 TXT 檔案內文範例：
```
This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of ....
```
### 分割用於訓練和測試的資料
您可以選擇性地提供另一個包含驗證資料的資料夾。此資料夾也應該包含一個 CSV、JSON 或 TXT 檔案。如果沒有提供驗證資料集，則會保留某個數量的訓練資料供驗證之用。當您選擇超參數來微調模型時，可以調整用於驗證的訓練資料百分比。
### 將微調資料上傳至 Amazon S3
將準備好的資料上傳至 Amazon Simple Storage Service (Amazon S3)，以便在微調 JumpStart 基礎模型時使用。您可以使用下列命令上傳資料：
```
from sagemaker.s3 import S3Uploader
import sagemaker
import random
output_bucket = sagemaker.Session().default_bucket()
local_data_file = "train.txt"
train_data_location = f"s3://{output_bucket}/training_folder"
S3Uploader.upload(local_data_file, train_data_location)
S3Uploader.upload("template.json", train_data_location)
print(f"Training data: {train_data_location}")
```
## 為指令微調建立訓練任務
將資料上傳至 Amazon S3 之後，您可以微調和部署 JumpStart 基礎模型。若要在 Studio 中微調模型，請參閱[在 Studio 中微調模型](jumpstart-foundation-models-use-studio-updated-fine-tune.md)。若要使用 SageMaker Python SDK 微調模型，請參閱[使用 `JumpStartEstimator` 類別微調公開可用的基礎模型](jumpstart-foundation-models-use-python-sdk-estimator-class.md)。
## 範例筆記本
如需域自適應微調的詳細資訊，請參閱下列範例筆記本：
+ [SageMaker JumpStart 基礎模型 - 微調網域特定資料集上的文字產生 GPT-J 6B 模型](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/domain-adaption-finetuning-gpt-j-6b.html)
+ [在 JumpStart 微調 LLaMA 2 模型](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/llama-2-finetuning.html)
# 使用提示指示微調大型語言模型 (LLM)
指令式微調使用標籤的範例來改善預先訓練的基礎模型在特定任務上的效能。帶有標籤的範例依指令被格式化為提示、回應和用詞。此微調程序會改變模型的權重。有關指令式微調的更多資訊，請參閱文獻[FLAN 簡介：更通用的指令微調語言模型](https://ai.googleblog.com/2021/10/introducing-flan-more-generalizable.html)和[擴展指令微調的語言模型。](https://arxiv.org/abs/2210.11416)
微調語言網路 (FLAN) 模型使用指令調整，讓模型更適合解決一般下游 NLP 任務。Amazon SageMaker JumpStart 在 FLAN 模型系列中提供了許多基礎模型。例如，FLAN-T5 模型會針對各種任務進行指令微調，以提升各種常見使用案例的零樣本表現。透過額外的資料和微調，指令式模型可以進一步適應訓練期間沒考慮到的更具體任務。
若要使用提示-回應對任務指示微調特定任務上的 LLM：
1. 在 JSON 檔案中準備您的指示。如需提示-回應對檔案所需格式和資料資料夾結構的詳細資訊，請參閱[準備和上傳訓練資料以進行指令微調](#jumpstart-foundation-models-fine-tuning-instruction-based-prepare-data)。
1. 建立您的微調訓練任務。如需說明，請參閱[為指令微調建立訓練任務](#jumpstart-foundation-models-fine-tuning-instruction-based-train)。
您可以在 [範例筆記本](#jumpstart-foundation-models-fine-tuning-instruction-based-examples) 中找到端對端範例。
只有一部分的 JumpStart 基礎模型與指令微調相容。指令式網域適應性微調適用於下列基礎模型：
**注意**
某些 JumpStart 基礎模型 (例如 Llama 2 7B) 需要先接受終端使用者授權協議，才能微調和執行推論。如需詳細資訊，請參閱[終端使用者授權協議](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula)。
+ Flan-T5 基本
+ Flan-T5 大
+ Flan-T5 小
+ Flan-T5 XL
+ Flan-T5 XXL
+ Llama 2 13B
+ Llama 2 13B Chat
+ Llama 2 13B Neuron
+ Llama 2 70B
+ Llama 2 70B Chat
+ Llama 2 7B
+ Llama 2 7B Chat
+ Llama 2 7B Neuron
+ Mistral 7B
+ RedPajama INCITE Base 3B V1
+ RedPajama INCITE Base 7B V1
+ RedPajama INCITE Chat 3B V1
+ RedPajama INCITE Chat 7B V1
+ RedPajama INCITE Instruct 3B V1
+ RedPajama INCITE Instruct 7B V1
## 準備和上傳訓練資料以進行指令微調
指令微調的訓練資料必須以 JSON Lines 文字檔案格式提供，其中每一行都是字典。所有訓練資料都必須位於單一資料夾中。資料夾可以包含多個 .jsonl 檔案。
訓練資料夾也可以包含範本 JSON 檔案 (`template.json`)，該檔案描述資料的輸入和輸出格式。如果未提供任何範本檔案，則會使用下列範本檔案：
```
{
"prompt": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Input:\n{context}",
"completion": "{response}"
}
```
根據 `template.json` 檔案，訓練資料的每個 .jsonl 項目都必須包含 `{instruction}`、`{context}`和 `{response}` 欄位。
如果您提供自訂範本 JSON 檔案，請使用 `"prompt"` 和 `"completion"` 金鑰來定義您自己的必要欄位。根據下列自訂範本 JSON 檔案，訓練資料的每個 .jsonl 項目都必須包含 `{question}`、`{context}` 和 `{answer}` 欄位：
```
{
"prompt": "question: {question} context: {context}",
"completion": "{answer}"
}
```
### 分割用於訓練和測試的資料
您可以選擇性地提供另一個包含驗證資料的資料夾。此資料夾也應該包含一或多個 .jsonl 檔案。如果沒有提供驗證資料集，則會保留某個數量的訓練資料供驗證之用。當您選擇超參數來微調模型時，可以調整用於驗證的訓練資料百分比。
### 將微調資料上傳至 Amazon S3
將準備好的資料上傳至 Amazon Simple Storage Service (Amazon S3)，以便在微調 JumpStart 基礎模型時使用。您可以使用下列命令上傳資料：
```
from sagemaker.s3 import S3Uploader
import sagemaker
import random
output_bucket = sagemaker.Session().default_bucket()
local_data_file = "train.jsonl"
train_data_location = f"s3://{output_bucket}/dolly_dataset"
S3Uploader.upload(local_data_file, train_data_location)
S3Uploader.upload("template.json", train_data_location)
print(f"Training data: {train_data_location}")
```
## 為指令微調建立訓練任務
將資料上傳至 Amazon S3 之後，您可以微調和部署 JumpStart 基礎模型。若要在 Studio 中微調模型，請參閱[在 Studio 中微調模型](jumpstart-foundation-models-use-studio-updated-fine-tune.md)。若要使用 SageMaker Python SDK 微調模型，請參閱[使用 `JumpStartEstimator` 類別微調公開可用的基礎模型](jumpstart-foundation-models-use-python-sdk-estimator-class.md)。
## 範例筆記本
如需指令微調的詳細資訊，請參閱下列範例筆記本：
+ [在 JumpStart 微調 LLaMA 2 模型](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/llama-2-finetuning.html)
+ [SageMaker JumpStart 簡介 - 使用 Mistral 模型產生文字](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/mistral-7b-instruction-domain-adaptation-finetuning.html)
+ [SageMaker JumpStart 簡介 - 使用 Falcon 模型產生文字](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/falcon-7b-instruction-domain-adaptation-finetuning.html)
+ [SageMaker JumpStart 基礎模型 - HuggingFace Text2Text 指令微調](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/instruction-fine-tuning-flan-t5.html)
# 檢索增強生成
基礎模型通常是離線訓練的，使得模型在訓練模型之後建立的任何資料都是不可知的。此外，基礎模型會在非常一般的網域語料庫上進行訓練，因此對於網域特定任務的效率較低。您可以使用檢索增強生成 (RAG) 從基礎模型外部擷取資料，並透過在上下文中新增相關擷取的資料來擴充提示。如需 RAG 模型架構的詳細資訊，請參閱[檢索增強生成的知識密集型 NLP 任務](https://arxiv.org/abs/2005.11401)。
使用 RAG，用於擴充提示的外部資料可以來自多個資料來源，例如文件儲存庫、資料庫或 API。第一步是將您的文件和任何使用者查詢轉換為相容的格式，以執行相關性搜尋。為了使格式相容，文件集合或知識庫以及使用者提交的查詢會使用嵌入語言模型轉換成數值表示。*嵌入*是在向量空間中將文字以數字表示的過程。RAG 模型架構比較了知識庫向量中的使用者查詢的嵌入。然後，原始使用者提示會附加來自知識庫中類似文件的相關上下文。然後將此增強提示發送到基礎模型。您可以非同步更新知識庫及相關嵌入。
![\[A model architecture diagram of Retrieval Augmented Generation (RAG).\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-fm-rag.jpg)
檢索的文件應大到足以包含有用的內容，以協助增強提示，但小到足以符合提示的最大序列長度。您可以使用任務特定的 JumpStart 模型，例如來自 Hugging Face 的一般文字嵌入 (GTE) 模型，為您的提示和知識程式庫文件提供嵌入。比較提示和文件嵌入以尋找最相關的文件後，使用補充內容建構新的提示。然後，將增強的提示傳遞至您選擇的文字產生模型。
## 範例筆記本
如需 RAG 基礎模型解決方案的詳細資訊，請參閱下列範例筆記本：
+ [檢索增強生成：使用 LangChain 和 Cohere 生成和 SageMaker JumpStart 嵌入模型回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_Cohere+langchain_jumpstart.html)
+ [檢索增強生成：使用 LLama-2、Pinecone 和自訂資料集回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_pinecone_llama-2_jumpstart.html)
+ [檢索增強生成：以開放原始碼的 LangChain 程式庫的自訂資料集為基礎回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_langchain_jumpstart.html)
+ [檢索增強生成：以自訂資料集為基礎回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_jumpstart_knn.html)
+ [檢索增強生成：使用 Llama-2 和文字嵌入模型回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_text_embedding_llama-2_jumpstart.html)
+ [Amazon SageMaker JumpStart - 文字嵌入與句子類似性](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/text-embedding-sentence-similarity.html)
您可以複製 [Amazon SageMaker AI 範例儲存庫](https://github.com/aws/amazon-sagemaker-examples/tree/main/introduction_to_amazon_algorithms/jumpstart-foundation-models)，以在 Studio 內您選擇的 Jupyter 環境中執行可用的 JumpStart 基礎模型範例。如需可用於在 SageMaker AI 中建立和存取 Jupyter 之應用程式的詳細資訊，請參閱[Amazon SageMaker Studio 中支援的應用程式](studio-updated-apps.md)。
# 在 Studio 中評估文字產生基礎模型
**注意**
Foundation Model Evaluations (FMEval) 為 Amazon SageMaker Clarify 的預覽版本，可能會有所變更。
**重要**
若要使用 SageMaker Clarify Foundation Model Evaluations，您必須升級至新的 Studio 體驗。自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在命名為 Amazon SageMaker Studio Classic。基礎評估功能只能用於更新後的體驗。如需如何更新 Studio 的相關資訊，請參閱 [從 Amazon SageMaker Studio Classic 遷移](studio-updated-migrate.md)。如需使用 Studio Classic 應用程式的資訊，請參閱 [Amazon SageMaker Studio Classic](studio.md)。
Amazon SageMaker JumpStart 與 Studio 中的 SageMaker Clarify Foundation Model Evaluations (FMEval) 整合。如果 JumpStart 模型有可用的內建評估功能，您可以在 JumpStart Studio 使用者介面中選擇模型詳細資訊頁面右上角的**評估**。如需導覽 JumpStart Studio 使用者介面的詳細資訊，請參閱[在 Studio 中開啟 JumpStart](studio-jumpstart.md#jumpstart-open-studio)，
使用 Amazon SageMaker JumpStart 透過 FMEval 評估以文字為基礎的基礎模型。您可以使用這些模型評估來比較一個模型、兩個模型之間或相同模型不同版本之間的模型品質和責任指標，以協助您量化模型風險。FMEval 可以評估執行下列任務的以文字為基礎模型：
+ **開放式產生** – 對沒有預先定義結構的文字產生自然人類回應。
+ **文字摘要** – 產生簡潔扼要的摘要，同時保留較大文字中包含的意義和關鍵資訊。
+ **問題回答** – 以自然語言產生問題的回答。
+ **分類 ** – 根據類別的內容，將類別 (例如 `positive` 對 `negative`) 指派給文字段落。
您可以使用 FMEval 根據特定基準自動評估模型回應。您也可以透過引入您的提示資料集，以根據自己的條件評估模型回應。FMEval 提供使用者介面 (UI)，引導您完成評估任務的設定和組態。您也可以在自己的程式碼中使用 FMEval 程式庫。
每個評估都需要兩個執行個體的配額：
+ 託管執行個體 – 託管和部署 LLM 的執行個體。
+ 評估執行個體 – 用於在託管執行個體上提示和執行 LLM 評估的執行個體。
如果您的 LLM 已部署，請提供端點，SageMaker AI 將使用**託管執行個體**來託管和部署 LLM。
如果您正在評估的 JumpStart 模型尚未部署到帳戶，FMEval 會在您的帳戶中為您建立暫時**託管執行個體**，並僅在評估期間保持其為已部署。FMEval 使用 JumpStart 為所選 LLM 建議的預設執行個體做為您的託管執行個體。您必須擁有此建議執行個體的足夠配額。
每個評估也會使用評估執行個體對 LLM 提供提示，並為來自 LLM 的回應進行評分。您還必須有足夠的配額和記憶體來執行評估演算法。評估執行個體的配額和記憶體需求通常小於託管執行個體所需的配額和記憶體。建議您選取 `ml.m5.2xlarge` 執行個體。如需配額與記憶體的詳細資訊，請參閱[解決在 Amazon SageMaker AI 中建立模型評估任務時的錯誤](clarify-foundation-model-evaluate-troubleshooting.md)。
自動評估可用於跨下列維度對 LLM 評分：
+ 準確性 – 用於文字摘要、問題回答和文字分類
+ 語意強健性 – 用於開放式產生、文字摘要和文字分類任務
+ 事實知識 – 用於開放式產生
+ 提示詞刻板化 – 用於開放式產生
+ 毒性 – 用於開放式產生、文字摘要和問題回答
您也可以使用人工評估來手動評估模型回應。FMEval 使用者介面會引導您完成工作流程，以選取一或多個模型、佈建資源，以及撰寫指示並聯絡人力資源。人工評估完成後，結果會顯示在 FMEval 中。
您可以透過 Studio 中的 JumpStart 登陸頁面存取模型評估，方法是選取要評估的模型，然後選擇**評估**。請注意，並非所有 JumpStart 模型都有可用的評估功能。如需如何設定、佈建和執行 FMEval 的詳細資訊，請參閱[什麼是基礎模型評估？](https://docs.aws.amazon.com/sagemaker/latest/dg/clarify-foundation-model-evaluate.html)
# 範例筆記本
如需有關如何將公開的 JumpStart 基礎模型與 SageMaker Python SDK 搭配使用的步驟範例，請參閱下列有關產生文字、產生影像和模型自訂的筆記本。
**注意**
專屬和公開的 JumpStart 基礎模型具有不同的 SageMaker AI Python SDK 部署工作流程。透過 Amazon SageMaker Studio Classic 或 SageMaker AI 主控台探索專屬基礎模型範例筆記本。如需詳細資訊，請參閱[JumpStart 基礎模型用量](jumpstart-foundation-models-use.md)。
您可以複製 [Amazon SageMaker AI 範例儲存庫](https://github.com/aws/amazon-sagemaker-examples/tree/main/introduction_to_amazon_algorithms/jumpstart-foundation-models)，以在 Studio 內您選擇的 Jupyter 環境中執行可用的 JumpStart 基礎模型範例。如需可用於在 SageMaker AI 中建立和存取 Jupyter 之應用程式的詳細資訊，請參閱[Amazon SageMaker Studio 中支援的應用程式](studio-updated-apps.md)。
## 時間序列預測
您可以使用 Chronos 模型來預測時間序列資料。它們是以語言模型架構為基礎。使用 [SageMaker JumpStart 簡介 - 使用 Chronos 預測時間序列](https://github.com/aws/amazon-sagemaker-examples/blob/default/%20%20%20%20generative_ai/sm-jumpstart_time_series_forecasting.ipynb)筆記本來開始進行。
如需可用 Chronos 模型的詳細資訊，請參閱[可用的基礎模型](jumpstart-foundation-models-latest.md)。
## 產生文字
探索文字產生範例筆記本，包括有關一般文字產生工作流程、多語言文字分類、即時批次推論、小樣本學習、聊天機器人互動等的指引。
+ [SageMaker JumpStart 基礎模型 - HuggingFace Text2Text 以 FLAN-T5 XL 為例的文字產生](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/text2text-generation-flan-t5.html)
+ [SageMaker JumpStart 基礎模型 - BloomZ：多語言文字分類、問題與回答、程式碼產生、段落重新詞組等](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/text2text-generation-bloomz.html)
+ [SageMaker JumpStart 基礎模型 - HuggingFace Text2Text 批次轉換和即時批次推論](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/text2text-generation-Batch-Transform.html)
+ [SageMaker JumpStart 基礎模型 - GPT-J、GPT-Neo 小樣本學習](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/text-generation-few-shot-learning.html)
+ [SageMaker JumpStart 基礎模型 - 聊天機器人](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/text-generation-chatbot.html)
+ [SageMaker JumpStart 簡介 - 使用 Mistral 模型產生文字](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/mistral-7b-instruction-domain-adaptation-finetuning.html)
+ [SageMaker JumpStart 簡介 - 使用 Falcon 模型產生文字](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/falcon-7b-instruction-domain-adaptation-finetuning.html)
## 產生影像
開始使用文字到影像的穩定擴散模型，了解如何部署修復模型，並試著用簡單的工作流程來生成您狗狗的影像。
+ [JumpStart 簡介 - 文字轉影像](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart_text_to_image/Amazon_JumpStart_Text_To_Image.html)
+ [JumpStart 影像編輯簡介 - 穩定擴散修復](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart_inpainting/Amazon_JumpStart_Inpainting.html)
+ [為您的狗生成有趣的影像](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart_text_to_image/custom_dog_image_generator.html)
## 自訂模型
有時您的使用案例需要針對特定任務進行更大的基礎模型自訂。如需模型自訂方法的詳細資訊，請參閱[基礎模型自訂](jumpstart-foundation-models-customize.md)或探索下列其中一個範例筆記本。
+ [SageMaker JumpStart 基礎模型 - 微調網域特定資料集上的文字產生 GPT-J 6B 模型](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/domain-adaption-finetuning-gpt-j-6b.html)
+ [SageMaker JumpStart 基礎模型 - HuggingFace Text2Text 指令微調](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/instruction-fine-tuning-flan-t5.html)
+ [檢索增強生成：使用 LangChain 和 Cohere 生成和 SageMaker JumpStart 嵌入模型回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_Cohere+langchain_jumpstart.html)
+ [檢索增強生成：使用 LLama-2、Pinecone 和自訂資料集回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_pinecone_llama-2_jumpstart.html)
+ [檢索增強生成：以開放原始碼的 LangChain 程式庫的自訂資料集為基礎回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_langchain_jumpstart.html)
+ [檢索增強生成：以自訂資料集為基礎回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_jumpstart_knn.html)
+ [檢索增強生成：使用 Llama-2 和文字嵌入模型回答問題](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/question_answering_text_embedding_llama-2_jumpstart.html)
+ [Amazon SageMaker JumpStart - 文字嵌入與句子類似性](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/question_answering_retrieval_augmented_generation/text-embedding-sentence-similarity.html)
# JumpStart 中適用於基礎模型存取控制的私有彙整中樞
使用私有中樞為您的組織彙整預先訓練的 JumpStart 基礎模型。使用最新的公開可用和專屬基礎模型，同時強制執行控管防護機制，並確保您的組織只能存取核准的模型。
使用私有模型中樞來共用模型和筆記本、集中模型成品、改善模型探索能力，以及簡化組織內的模型使用。管理員可以建立私有中樞，其中包含針對不同團隊、使用案例或安全需求量身打造的模型子集。管理員可以使用 SageMaker Python SDK 建立 JumpStart 私有模型中樞。然後，使用者可以使用 Amazon SageMaker Studio 或 SageMaker Python SDK 瀏覽、訓練和部署彙整的模型集。
如需建立私有模型的詳細資訊，請參閱[Amazon SageMaker JumpStart 中私有模型中樞的管理員指南](jumpstart-curated-hubs-admin-guide.md)。
如需跨帳戶共用私有模型中樞的詳細資訊，請參閱[使用 跨帳戶共用私有模型中樞 AWS Resource Access Manager](jumpstart-curated-hubs-ram.md)。
如需存取私有模型中樞的詳細資訊，請參閱[使用者指南](jumpstart-curated-hubs-user-guide.md)。
# Amazon SageMaker JumpStart 中私有模型中樞的管理員指南
管理員可以採取與您組織內部使用者可存取的彙整模型中樞相關的動作。這包括建立、新增、刪除和管理私有中樞的存取。此頁面也包含彙整私有中樞其支援 AWS 區域的相關資訊，以及使用彙整私有模型中樞所需的先決條件。
## 支援 AWS 的區域
託管的私有中樞目前通常可在下列 AWS 商業區域使用：
+ us-east-1
+ us-east-2
+ us-west-2
+ eu-west-1
+ eu-central-1
+ ap-northeast-1
+ ap-northeast-2
+ ap-south-1
+ ap-southeast-1
+ ap-southeast-2
+ il-central-1 (僅限 SDK)
單一區域中允許的中樞數量預設上限為 50 個。
## 先決條件
若要在 Studio 中使用彙整私有中樞，您必須具備下列先決條件：
+ 具有管理員存取權 AWS 的帳戶
+ 可存取 Amazon SageMaker Studio 的 AWS Identity and Access Management (IAM) 角色
+ JumpStart 已啟用的 Amazon SageMaker AI 網域
+ 如果您的使用者嘗試使用專屬模型，他們必須在 AWS Marketplace 中訂閱這些模型。
+ AWS 部署專屬模型的帳戶必須在 AWS Marketplace 中擁有這些模型的訂閱。
如需 Studio 入門的詳細資訊，請參閱[Amazon SageMaker Studio](studio-updated.md)。
# 建立私有模型中樞
使用下列步驟建立私有中樞，來為您的組織管理預先訓練 JumpStart 基礎模型的存取控制。在建立模型中樞之前，您必須先安裝 SageMaker Python SDK 並設定必要的 IAM 許可。
**建立私有中樞**
1. 安裝 SageMaker Python SDK 並匯入必要的 Python 套件。
```
# Install the SageMaker Python SDK
!pip3 install sagemaker --force-reinstall --quiet
# Import the necessary Python packages
import boto3
from sagemaker import Session
from sagemaker.jumpstart.hub.hub import Hub
```
1. 初始化 SageMaker AI 工作階段。
```
sm_client = boto3.client('sagemaker')
session = Session(sagemaker_client=sm_client)
session.get_caller_identity_arn()
```
1. 設定私有中樞的詳細資訊，例如內部中樞名稱、使用者介面顯示名稱和使用者介面中樞描述。
**注意**
如果您在建立中樞時未指定 Amazon S3 儲存貯體名稱，則 SageMaker 中樞服務會代表您建立新的儲存貯體。新儲存貯體具有下列命名結構：`sagemaker-hubs-REGION-ACCOUNT_ID`。
```
HUB_NAME="Example-Hub"
HUB_DISPLAY_NAME="Example Hub UI Name"
HUB_DESCRIPTION="A description of the example private curated hub."
REGION="us-west-2"
```
1. 檢查您的**管理員** IAM 角色是否具有建立私有中樞所需的 Amazon S3 許可。如果您的角色沒有必要的許可，請導覽至 IAM 主控台中的**角色**頁面。選擇**管理員**角色，然後在**許可政策**窗格中選擇**新增許可**，以使用 JSON 編輯器建立具有下列許可的嵌入政策：
------
#### [ JSON ]
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Action": [
"s3:ListBucket",
"s3:GetObject",
"s3:GetObjectTagging"
],
"Resource": [
"arn:aws:s3:::jumpstart-cache-prod-REGION",
"arn:aws:s3:::jumpstart-cache-prod-REGION/*"
],
"Effect": "Allow"
}
]
}
```
------
1. 使用 `hub.create()` 利用**步驟 3** 中的組態建立私有模型中樞。
```
hub = Hub(hub_name=HUB_NAME, sagemaker_session=session)
try:
# Create the private hub
hub.create(
description=HUB_DESCRIPTION,
display_name=HUB_DISPLAY_NAME
)
print(f"Successfully created Hub with name {HUB_NAME} in {REGION}")
# Check that no other hubs with this internal name exist
except Exception as e:
if "ResourceInUse" in str(e):
print(f"A hub with the name {HUB_NAME} already exists in your account.")
else:
raise e
```
1. 使用以下 `describe` 命令驗證新私有中樞的組態：
```
hub.describe()
```
# 將模型新增至私有中樞
建立私有中樞之後，您就可以新增允許清單中的模型。如需可用 JumpStart 模型的完整清單，請參閱 SageMaker Python SDK 參考中的[具備預先訓練模型表的內建演算法](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html)。
1. 您可以使用 `hub.list_sagemaker_public_hub_models()` 方法，以程式設計方式篩選可用的模型。您可以選擇依據架構 (`"framework == pytorch"`)、如影像分類 (`"task == ic"`) 等任務等等類別進行篩選。如需篩選條件的詳細資訊，請參閱[https://github.com/aws/sagemaker-python-sdk/blob/master/src/sagemaker/jumpstart/notebook_utils.py](https://github.com/aws/sagemaker-python-sdk/blob/master/src/sagemaker/jumpstart/notebook_utils.py)。`hub.list_sagemaker_public_hub_models()` 方法中的篩選參數為選擇性。
```
filter_value = "framework == meta"
response = hub.list_sagemaker_public_hub_models(filter=filter_value)
models = response["hub_content_summaries"]
while response["next_token"]:
response = hub.list_sagemaker_public_hub_models(filter=filter_value, next_token=response["next_token"])
models.extend(response["hub_content_summaries"])
print(models)
```
1. 接著，您可以透過在 `hub.create_model_reference()` 方法中指定模型 ARN，來新增篩選的模型。
```
for model in models:
print(f"Adding {model.get('hub_content_name')} to Hub")
hub.create_model_reference(model_arn=model.get("hub_content_arn"), model_name=model.get("hub_content_name"))
```
# 更新私有中樞內的資源
您可以更新私有中樞內的資源，以變更其中繼資料。您可以更新的資源包括 Amazon SageMaker JumpStart 模型、自訂模型、筆記本、資料集和 JsonDoc 的模型參考。
更新模型、筆記本、資料集或 JsonDoc 資源時，您可以更新內容描述、顯示名稱、關鍵字和支援狀態。更新 JumpStart 模型的模型參考時，您只能更新指定所要使用最低模型版本的欄位。
+ 「更新模型或筆記本資源」以包含 DataSet/JsonDoc。在 CLI 命令中，DataSets/JsonDocs 應新增至 hub-content-type 引數。
依照所要更新資源特有的章節進行。
## 更新模型或筆記本資源
若要更新模型或筆記本資源，請使用 [UpdateHubContent](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateHubContent.html) API。
您可以使用此 API 更新的有效中繼資料欄位如下：
+ `HubContentDescription` – 資源的描述。
+ `HubContentDisplayName` – 資源的顯示名稱。
+ `HubContentMarkdown` – 資源的描述，採用 Markdown 格式。
+ `HubContentSearchKeywords` – 資源的可搜尋關鍵字。
+ `SupportStatus` – 資源的目前狀態。
在您的請求中，包含一或多個上述欄位的變更。如果您嘗試更新任何其他欄位，例如中樞內容類型，您會收到錯誤。
------
#### [ 適用於 Python (Boto3) 的 AWS SDK ]
下列範例顯示如何使用 適用於 Python (Boto3) 的 AWS SDK 提交 [ UpdateHubContent](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateHubContent.html) 請求。
**注意**
您在請求中指定的 `HubContentVersion` 表示特定版本的中繼資料已更新。若要尋找您中樞內容的所有可用版本，您可以使用 [ListHubContentVersions](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_ListHubContentVersions.html) API。
```
import boto3
sagemaker_client = boto3.Session(region_name=).client("sagemaker")
sagemaker_client.update_hub_contents(
HubName=,
HubContentName=,
HubContentType=<"Model"|"Notebook">,
HubContentVersion='1.0.0', # specify the correct version that you want to update
HubContentDescription=
)
```
------
#### [ AWS CLI ]
下列範例示範如何使用 AWS CLI 提交 [ update-hub-content](https://awscli.amazonaws.com/v2/documentation/api/latest/reference/sagemaker/update-hub-content.html) 請求。
```
aws sagemaker update-hub-content \
--hub-name \
--hub-content-name \
--hub-content-type <"Model"|"Notebook"> \
--hub-content-version "1.0.0" \
--hub-content-description
```
------
## 更新模型參考
若要更新 JumpStart 模型的模型參考，請使用 [UpdateHubContentReference](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateHubContentReference.html) API。
您只能更新模型參考的 `MinVersion` 欄位。
------
#### [ 適用於 Python (Boto3) 的 AWS SDK ]
下列範例示範如何使用 適用於 Python (Boto3) 的 AWS SDK 提交 [ UpdateHubContentReference](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateHubContentReference.html) 請求。
```
import boto3
sagemaker_client = boto3.Session(region_name=).client("sagemaker")
update_response = sagemaker_client.update_hub_content_reference(
HubName=,
HubContentName=,
HubContentType='ModelReference',
MinVersion='1.0.0'
)
```
------
#### [ AWS CLI ]
下列範例示範如何使用 AWS CLI 提交 [ update-hub-content-reference](https://awscli.amazonaws.com/v2/documentation/api/latest/reference/sagemaker/update-hub-content-reference.html) 請求。
```
aws sagemaker update-hub-content-reference \
--hub-name \
--hub-content-name \
--hub-content-type "ModelReference" \
--min-version "1.0.0"
```
------
# 使用 跨帳戶共用私有模型中樞 AWS Resource Access Manager
建立私有模型中樞後，您可以使用 AWS Resource Access Manager () 將中樞分享給必要的帳戶AWS RAM。如需建立私有中樞的詳細資訊，請參閱[建立私有模型中樞](jumpstart-curated-hubs-admin-guide-create.md)。以下頁面提供與 AWS RAM內私有中樞相關受管許可有關的深入資訊。如需如何在 中建立資源共享的資訊 AWS RAM，請參閱 [設定跨帳戶中樞共用](jumpstart-curated-hubs-ram-setup.md)。
## 彙整私有中樞的受管許可
可用的存取許可包括讀取、讀取並使用，以及完整存取許可。下面列出了每個許可可用的許可名稱、描述和特定 API 清單：
+ 讀取許可 (`AWS RAMPermissionSageMaker AIHubRead`)：讀取權限允許資源取用者帳戶讀取共用中樞的內容，並檢視詳細資訊和中繼資料。
+ `DescribeHub`：檢索有關中樞及其組態的詳細資訊
+ `DescribeHubContent`：檢索有關特定中樞內可用模型的詳細資訊
+ `ListHubContent`：列出中樞內可用的所有模型
+ `ListHubContentVersions`：列出中樞內所有可用模型的版本
+ 讀取並使用許可 (`AWS RAMPermissionSageMaker AIHubReadAndUse`)：讀取並使用權限允許資源取用者帳戶讀取共用中樞的內容，並部署可用的模型以進行推論。
+ `DescribeHub`：檢索有關中樞及其組態的詳細資訊
+ `DescribeHubContent`：檢索有關特定中樞內可用模型的詳細資訊
+ `ListHubContent`：列出中樞內可用的所有模型
+ `ListHubContentVersions`：列出中樞內所有可用模型的版本
+ `DeployHubModel`：允許部署可用開放權重中樞模型以進行推論的存取權
+ 完整存取許可 (`AWS RAMPermissionSageMaker AIHubFullAccessPolicy`)：完整存取權限允許資源取用者帳戶讀取共用中樞的內容、新增和移除中樞內容，以及部署可用的模型以進行推論。
+ `DescribeHub`：檢索有關中樞及其組態的詳細資訊
+ `DescribeHubContent`：檢索有關特定中樞內可用模型的詳細資訊
+ `ListHubContent`：列出中樞內可用的所有模型
+ `ListHubContentVersions`：列出中樞內所有可用模型的版本
+ `ImportHubContent`：匯入中樞內容
+ `DeleteHubContent`：刪除中樞內容
+ `CreateHubContentReference`：建立一個中樞內容參考，該參考將 SageMaker AI **公有模型**中樞內的模型與私有中樞共用
+ `DeleteHubContentReference`：刪除會將 SageMaker AI **公有模型**中樞內的模型與私有中樞共用的中樞內容參考
+ `DeployHubModel`：允許部署可用開放權重中樞模型以進行推論的存取權
專屬模型不需要 `DeployHubModel` 許可。
# 設定跨帳戶中樞共用
SageMaker 使用 [AWS Resource Access Manager (AWS RAM)](https://docs.aws.amazon.com/ram/latest/userguide/what-is.html) 協助您安全地跨帳戶共用您的私有中樞。使用下列指示以及*AWS RAM 《 使用者指南*》中的共用[AWS 資源](https://docs.aws.amazon.com/ram/latest/userguide/getting-started-sharing.html#getting-started-sharing-create)指示來設定跨帳戶中樞共用。
**建立資源共用**
1. 透過 [AWS RAM 主控台](https://console.aws.amazon.com/ram/home)選取**建立資源共用**。
1. 指定資源共用詳細資訊時，請選擇 **SageMaker 中樞**資源類型，然後選取一或多個您要共用的私有中樞。當您與其他帳戶共用中樞時，也會隱含共用其所有的內容。
1. 將許可與資源共用建立關聯。如需有關受管許可的詳細資訊，請參閱[彙整私有中樞的受管許可](jumpstart-curated-hubs-ram.md#jumpstart-curated-hubs-ram-permissions)。
1. 使用 AWS 帳戶 IDs 指定您要授予共用資源存取權的帳戶。
1. 檢閱您的資源共用組態，然後選取**建立資源共用**。資源共用和主體關聯可能需要幾分鐘的時間才能完成。
如需詳細資訊，請參閱*AWS Resource Access Manager 《 使用者指南*》中的[共用您的 AWS 資源](https://docs.aws.amazon.com/ram/latest/userguide/getting-started-sharing.html)。
設定資源共用和主體關聯後，指定的 AWS 帳戶會收到加入該資源共用的邀請。 AWS 帳戶必須接受邀請，才能存取任何共用資源。
如需透過 接受資源共用邀請的詳細資訊 AWS RAM，請參閱*AWS Resource Access Manager 《 使用者指南*》中的[使用共用 AWS 資源](https://docs.aws.amazon.com/ram/latest/userguide/getting-started-shared.html)。
# 刪除私有中樞內的模型
您可以透過在 `hub.delete_model_reference()` 方法中指定模型 ARN，來刪除組織所使用私有中樞內的模型。這會移除私有中樞內對模型的存取權。
```
hub.delete_model_reference(model-name)
```
# 限制對 JumpStart 門控模型的存取權
Amazon SageMaker JumpStart 提供對公開和專屬基礎模型的存取。私有 Amazon S3 儲存貯體中有某些門控模型，您必須已接受模型的 EULA (終端使用者授權協議) 才能存取這些模型。如需詳細資訊，請參閱[使用 SageMaker Python SDK 接受 EULA](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-python-sdk)。
目前的預設行為是，如果使用者接受模型的 EULA，則使用者可以存取模型並建立[微調訓練任務](jumpstart-foundation-models-use-python-sdk-estimator-class.md)。不過，如果您是管理員，而且想要限制對這些門控模型的微調存取權，您可以設定一個政策，每當請求是針對門控模型時，該政策便會拒絕使用 `CreateTrainingJob` 動作的許可。
以下是管理員可以新增至使用者 IAM 角色的範例 AWS Identity and Access Management (IAM) 政策：
```
{
"Effect": "Deny",
"Action": "sagemaker:CreateTrainingJob",
"Resource": "*",
"Condition": {
"Bool": {
"sagemaker:DirectGatedModelAccess": "true"
}
}
}
```
如果您想要授予使用者對特定模型的存取權，而不對門控模型提供不受限制的存取權，請設定彙整中樞，並將特定模型新增至中樞。如需詳細資訊，請參閱[JumpStart 中適用於基礎模型存取控制的私有彙整中樞](jumpstart-curated-hubs.md)。
# 移除對 SageMaker **公有模型**中樞的存取權
除了將私有彙整中樞新增至 Studio 中的 JumpStart 外，您還可以移除使用者對 SageMaker **公有模型**中樞的存取權。SageMaker **公有模型**中樞具有可存取所有可用 JumpStart 基礎模型的存取權。
如果您移除對 SageMaker **公有模型**中樞的存取權，且使用者只能存取一個私有中樞，則當使用者在 Studio 的左側導覽窗格中選擇 **JumpStart** 時，會直接進入該私有中樞。如果使用者可存取多個私有中樞，則當使用者在 Studio 的左側導覽窗格中選擇 **JumpStart** 時，會進入**中樞**功能表頁面。
使用下列嵌入政策移除使用者對 SageMaker **公有模型**中樞的存取權：
**注意**
您可以在下方政策中指定您希望中樞存取的任何其他 Amazon S3 儲存貯體。請務必以您中樞的區域取代 *`REGION`*。
------
#### [ JSON ]
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Action": "s3:*",
"Effect": "Deny",
"NotResource": [
"arn:aws:s3:::jumpstart-cache-prod-us-east-1/*.ipynb",
"arn:aws:s3:::jumpstart-cache-prod-us-east-1/*eula*",
"arn:aws:s3:::amzn-s3-demo-bucket/*"
]
},
{
"Action": "sagemaker:*",
"Effect": "Deny",
"Resource": [
"arn:aws:sagemaker:us-east-1:aws:hub/SageMakerPublicHub",
"arn:aws:sagemaker:us-east-1:aws:hub-content/SageMakerPublicHub/*/*"
]
}
]
}
```
------
# 刪除私有中樞
您可以從您的管理員帳戶刪除私有中樞。刪除私有中樞之前，您必須先移除該中樞的任何內容。使用下列命令刪除中樞內容和中樞：
```
# List the model references in the private hub
response = hub.list_models()
models = response["hub_content_summaries"]
while response["next_token"]:
response = hub.list_models(next_token=response["next_token"])
models.extend(response["hub_content_summaries"])
# Delete all model references in the hub
for model in models:
hub.delete_model_reference(model_name=model.get('HubContentName'))
# Delete the private hub
hub.delete()
```
# 疑難排解
以下各節提供有關建立私有模型中樞時可能發生的 IAM 許可問題的資訊，以及如何解決這些問題的資訊。
**`ValidationException` 呼叫 `CreateModel` 操作時：無法存取模型資料**
當您沒有為**管理員**角色設定的適當 Amazon S3 許可時，就會發生此例外狀況。如需建立私有中樞所需 Amazon S3 許可的詳細資訊，請參閱 [建立私有模型中樞](jumpstart-curated-hubs-admin-guide-create.md) 中的**步驟 3**。
**當呼叫 `create()` 時 `Access Denied` 或 `Forbidden`**
如果您沒有適當的許可來存取與 SageMaker **公有模型**中樞相關聯的 Amazon S3 儲存貯體，則您在建立私有中樞時，會拒絕您存取。如需建立私有中樞所需 Amazon S3 許可的詳細資訊，請參閱 [建立私有模型中樞](jumpstart-curated-hubs-admin-guide-create.md) 中的**步驟 3**。
# 使用者指南
下列主題說明如何在 Amazon SageMaker JumpStart 策劃的模型中樞中存取和使用模型。了解如何透過 Amazon SageMaker Studio 介面或使用 SageMaker Python SDK 以程式設計方式存取您的彙整中樞模型。此外，了解如何微調彙整中樞模型，以根據您的特定使用案例和業務需求進行調整。
**Topics**
+ [存取 Amazon SageMaker JumpStart 中的彙整模型中樞](jumpstart-curated-hubs-access-hubs.md)
+ [微調彙整中樞模型](jumpstart-curated-hubs-fine-tune.md)
# 存取 Amazon SageMaker JumpStart 中的彙整模型中樞
您可以透過 Studio 或 SageMaker Python SDK 存取私有模型中樞。
## 在 Studio 中存取私有模型中樞
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用更新的 Studio 體驗。如需使用 Studio Classic 應用程式的資訊，請參閱 [Amazon SageMaker Studio Classic](studio.md)。
在 Amazon SageMaker Studio 中，透過**首頁**或左側面板的**首頁**功能表開啟 JumpStart 登陸頁面。這會開啟 **SageMaker JumpStart** 登陸頁面，您可以在其中探索模型中樞及搜尋模型。
+ 從**首頁**中，選擇**預先建置和自動化解決方案**窗格中的 **JumpStart**。
+ 從左側面板的**首頁**功能表中，導覽至 **JumpStart** 節點。
如需開始使用 Amazon SageMaker Studio 的詳細資訊，請參閱[Amazon SageMaker Studio](studio-updated.md)。
從 Studio 的 **SageMaker JumpStart** 登陸頁面，您可以探索包含您組織允許清單中模型的任何私有模型中樞。如果您只能存取一個模型中樞，則 **SageMaker JumpStart** 登陸頁面會直接帶您進入該中樞。如果您可存取多個中樞，則您會進入**中樞**頁面。
如需在 Studio 中微調、部署和評估您可存取之模型的詳細資訊，請參閱[在 Studio 中使用基礎模型](jumpstart-foundation-models-use-studio-updated.md)。
## 使用 SageMaker Python SDK 存取私有模型中樞
您可以使用 SageMaker Python SDK 存取私有模型中樞。您的管理員會提供您讀取、使用或編輯您彙整中樞的存取權。
**注意**
如果跨帳戶共中樞用，則 `HUB_NAME` 必須是中樞 ARN。如果未跨帳戶共用中樞，則 `HUB_NAME` 會是中樞名稱。
1. 安裝 SageMaker Python SDK 並匯入必要的 Python 套件。
```
# Install the SageMaker Python SDK
!pip3 install sagemaker --force-reinstall --quiet
# Import the necessary Python packages
import boto3
from sagemaker import Session
from sagemaker.jumpstart.hub.hub import Hub
from sagemaker.jumpstart.model import JumpStartModel
from sagemaker.jumpstart.estimator import JumpStartEstimator
```
1. 初始化 SageMaker AI 工作階段，並使用中樞名稱和區域連線到您的私有中樞。
```
# If a hub is shared across accounts, then the HUB_NAME must be the hub ARN
HUB_NAME="Example-Hub-ARN"
REGION="us-west-2"
# Initialize a SageMaker session
sm_client = boto3.client('sagemaker')
sm_runtime_client = boto3.client('sagemaker-runtime')
session = Session(sagemaker_client=sm_client,
sagemaker_runtime_client=sm_runtime_client)
# Initialize the private hub
hub = Hub(hub_name=HUB_NAME, sagemaker_session=session)
```
1. 連線至私有中樞後，您可以使用下列命令列出該中樞中的所有可用模型：
```
response = hub.list_models()
models = response["hub_content_summaries"]
while response["next_token"]:
response = hub.list_models(next_token=response["next_token"])
models.extend(response["hub_content_summaries"])
print(models)
```
1. 您可以利用下列命令使用模型名稱取得特定模型的詳細資訊：
```
response = hub.describe_model(model_name="example-model")
print(response)
```
如需使用 SageMaker Python SDK 微調和部署您可存取模型的詳細資訊，請參閱[搭配 SageMaker Python SDK 使用基礎模型](jumpstart-foundation-models-use-python-sdk.md)。
# 微調彙整中樞模型
在私有彙整模型中樞中，您可以使用模型參考執行微調訓練任務。模型參考指向 SageMaker AI 公有中樞內公開可用的 JumpStart 模型，但您可以針對特定使用案例根據自己的資料微調模型。微調任務後，您便可以存取模型權重，然後就能使用權重或部署到端點。
使用 SageMaker Python SDK，您可以僅用數行程式碼來微調彙整中樞模型。如需微調公開可用 JumpStart 模型的更多一般資訊，請參閱[用於微調的基礎模型和超參數](jumpstart-foundation-models-fine-tuning.md)。
## 先決條件
為了在彙整中樞內微調 JumpStart 模型參考，請執行下列動作：
1. 請確定使用者的 IAM 角色已連接 SageMaker AI `TrainHubModel` 許可。如需詳細資訊，請參閱《AWS IAM 使用者指南》**中的[新增和移除 IAM 身分許可](https://docs.aws.amazon.com/IAM/latest/UserGuide/access_policies_manage-attach-detach.html)。
您應將如下列範例的政策連接至您使用者的 IAM 角色。
------
#### [ JSON ]
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "VisualEditor0",
"Effect": "Allow",
"Action": "sagemaker:TrainHubModel",
"Resource": "arn:aws:sagemaker:*:111122223333:hub/*"
}
]
}
```
------
**注意**
如果您的彙整中樞是跨帳戶共用，且中樞內容是由另一個帳戶所擁有，請確定您的 `HubContent` (模型參考資源) 具有資源型 IAM 政策，該政策也會將 `TrainHubModel` 許可授予請求帳戶，如下列範例所示。
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "AllowCrossAccountSageMakerAccess",
"Effect": "Allow",
"Principal": {
"AWS": "arn:aws:iam::111122223333:root"
},
"Action": [
"sagemaker:TrainHubModel"
],
"Resource": [
"arn:aws:sagemaker:*:111122223333:hub/*"
]
}
]
}
```
1. 擁有私有彙整中樞，其中包含所要微調 JumpStart 模型的模型參考。如需建立私有中樞的詳細資訊，請參閱[建立私有模型中樞](jumpstart-curated-hubs-admin-guide-create.md)。若要了解如何將公開可用的 JumpStart 模型新增至私有中樞，請參閱[將模型新增至私有中樞](jumpstart-curated-hubs-admin-guide-add-models.md)。
**注意**
您選擇的 JumpStart 模型應該可以微調。您可以透過查看[具備預先訓練模型表的內建演算法](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html)來確認某個模型是否可微調。
1. 具有您想要用來微調模型的訓練資料集。資料集應該採用適合所要微調模型的訓練格式。
## 微調彙整中樞模型參考
下列程序說明如何使用 SageMaker Python SDK 在私有彙整中樞內微調模型參考。
1. 請確定您已安裝最新版本的 SageMaker Python SDK (至少 `2.242.0` 版)。如需詳細資訊，請參閱[使用 SageMaker Python SDK 的版本 2.x](https://sagemaker.readthedocs.io/en/stable/v2.html)。
```
!pip install --upgrade sagemaker
```
1. 從 SageMaker Python SDK 匯入您需要的 適用於 Python (Boto3) 的 AWS SDK 和模組。
```
import boto3
from sagemaker.jumpstart.estimator import JumpStartEstimator
from sagemaker.session import Session
```
1. 初始化 Boto3 工作階段、SageMaker AI 用戶端和 SageMaker Python SDK 工作階段。
```
sagemaker_client = boto3.Session(region_name=).client("sagemaker")
sm_session = Session(sagemaker_client=sagemaker_client)
```
1. 建立 `JumpStartEstimator` 並提供 JumpStart 模型 ID、包含模型參考的中樞名稱，以及 SageMaker Python SDK 工作階段。如需模型 ID 的清單，請參閱[具備預先訓練模型表的內建演算法](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html)。
您可以選擇性地在建立估算器時指定 `instance_type` 和 `instance_count` 欄位。如果您沒有這麼做，訓練任務會使用您正使用模型的預設執行個體類型和計數。
您也可以選擇性地指定您要存放經微調的模型權重之 Amazon S3 位置的 `output_path`。如果您未指定 `output_path`，則會將預設 SageMaker AI Amazon S3 儲存貯體用於您帳戶中的區域，並採用以下格式命名：`sagemaker--`。
```
estimator = JumpStartEstimator(
model_id="meta-textgeneration-llama-3-2-1b",
hub_name=,
sagemaker_session=sm_session, # If you don't specify an existing session, a default one is created for you
# Optional: specify your desired instance type and count for the training job
# instance_type = "ml.g5.2xlarge"
# instance_count = 1
# Optional: specify a custom S3 location to store the fine-tuned model artifacts
# output_path: "s3://"
)
```
1. 使用 `training` 索引鍵建立一個字典，您會在該索引鍵中指定微調資料集的位置。此範例指向 Amazon S3 URI。如果您有其他考量，例如使用本機模式或多個訓練資料通道，請參閱 SageMaker Python SDK 文件中的 [ JumpStartEstimator.fit()](https://sagemaker.readthedocs.io/en/stable/api/training/estimators.html#sagemaker.jumpstart.estimator.JumpStartEstimator.fit) 以取得詳細資訊。
```
training_input = {
"training": "s3://"
}
```
1. 呼叫估算器的 `fit()` 方法，傳入您的訓練資料並接受 EULA (若適用的話)。
**注意**
下列範例會設定 `accept_eula=False.`，您應該手動將其值變更為 `True`，以接受 EULA。
```
estimator.fit(inputs=training_input, accept_eula=False)
```
您的微調任務現在應該開始了。
您可以檢查您的微調任務，方法是在 SageMaker AI 主控台中或使用 [ListTrainingJobs](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_ListTrainingJobs.html) API 檢視您的訓練任務。
您可以在 `JumpStartEstimator` 物件中指定的 Amazon S3 `output_path` 處 (區域的預設 SageMaker AI Amazon S3 儲存貯體，或您指定的自訂 Amazon S3 路徑，以適用者為主) 存取經微調的模型成品。
# Studio Classic 中的 Amazon SageMaker JumpStart
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
下列 JumpStart 功能僅適用於 Amazon SageMaker Studio Classic。
+ [具體工作模型](jumpstart-models.md)
+ [共用模型和筆記本](jumpstart-content-sharing.md)
+ [End-to-end JumpStart 解決方案範本](jumpstart-solutions.md)
+ [Amazon SageMaker JumpStart 產業：金融](studio-jumpstart-industry.md)
# 具體工作模型
JumpStart 支援十五種最常見問題類型的具體工作模型。在支援的問題類型中，共有 13 種視覺和 NTP 相關類型。有八種問題類型支援增量訓練和微調。如需增量訓練和超參數調整的詳細資訊，請參閱 [SageMaker AI 自動模型微調](https://docs.aws.amazon.com/sagemaker/latest/dg/automatic-model-tuning.html)。JumpStart 也支援四種常用的表格式資料建模演算法。
您可以在 Studio 或 Studio Classic 中從 JumpStart 登陸頁面搜尋和瀏覽模型。當您選取模型時，模型詳細資訊頁面會提供模型的相關資訊，您只需數個步驟即可訓練和部署模型。說明部分描述了您可以對模型執行的操作、預期的輸入和輸出類型，以及微調模型所需的資料類型。
您也可以透過程式設計方式搭配 [SageMaker Python SDK](https://sagemaker.readthedocs.io/en/stable/overview.html#use-prebuilt-models-with-sagemaker-jumpstart) 使用模型。如需所有可用模型的清單，請參閱 [JumpStart 可用模型表格](https://sagemaker.readthedocs.io/en/v2.132.0/doc_utils/pretrainedmodels.html)。
下表摘要列出問題類型及其範例 Jupyter 筆記本的連結。
| 問題類型 | 支援預先訓練模型的推論 | 可在自訂資料集上訓練 | 支援的架構 | 範例筆記本 |
| --- | --- | --- | --- | --- |
| Image classification | 是 | 是 | PyTorch、TensorFlow | [JumpStart 簡介 - 影像分類](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_image_classification/Amazon_JumpStart_Image_Classification.ipynb) |
| 物件偵測 | 是 | 是 | PyTorch、TensorFlow、MXNet | [JumpStart 簡介 - 物件偵測](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_object_detection/Amazon_JumpStart_Object_Detection.ipynb) |
| 語意分割 | 是 | 是 | MXNet | [JumpStart 簡介 - 語意分割](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_semantic_segmentation/Amazon_JumpStart_Semantic_Segmentation.ipynb) |
| 實例分割 | 是 | 是 | MXNet | [JumpStart 簡介 - 實例分割](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_instance_segmentation/Amazon_JumpStart_Instance_Segmentation.ipynb) |
| 圖像嵌入 | 是 | 否 | TensorFlow、MXNet | [JumpStart 簡介 - 圖像嵌入](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_image_embedding/Amazon_JumpStart_Image_Embedding.ipynb) |
| 文字分類 | 是 | 是 | TensorFlow | [JumpStart 簡介 - 文字分類](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_text_classification/Amazon_JumpStart_Text_Classification.ipynb) |
| 句子對分類 | 是 | 是 | TensorFlow、Hugging Face | [JumpStart 簡介 - 句子對分類](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_sentence_pair_classification/Amazon_JumpStart_Sentence_Pair_Classification.ipynb) |
| 回答問題 | 是 | 是 | PyTorch、Hugging Face | [JumpStart 簡介 - 回答問題](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_question_answering/Amazon_JumpStart_Question_Answering.ipynb) |
| 具名實體辨識 | 是 | 否 | Hugging Face | [JumpStart 簡介 - 具名實體識別](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_named_entity_recognition/Amazon_JumpStart_Named_Entity_Recognition.ipynb) |
| 文字摘要 | 是 | 否 | Hugging Face | [JumpStart 簡介 - 文字摘要](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_text_summarization/Amazon_JumpStart_Text_Summarization.ipynb) |
| 產生文字 | 是 | 否 | Hugging Face | [JumpStart 簡介 - 文字產生](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_text_generation/Amazon_JumpStart_Text_Generation.ipynb) |
| 機器翻譯 | 是 | 否 | Hugging Face | [JumpStart 簡介 - 機器翻譯](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_machine_translation/Amazon_JumpStart_Machine_Translation.ipynb) |
| 文字嵌入 | 是 | 否 | TensorFlow、MXNet | [JumpStart 簡介 - 文字嵌入](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/jumpstart_text_embedding/Amazon_JumpStart_Text_Embedding.ipynb) |
| 表格分類 | 是 | 是 | LightGBM、CatBoost、XGBoost、AutoGluon-Tabular、TabTransformer、線性學習 | [JumpStart 簡介 - 表格分類 - LightGBM、CatBoost](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Classification_LightGBM_CatBoost.ipynb) [JumpStart 簡介 - 表格分類 - XGBoost、線性學習](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/xgboost_linear_learner_tabular/Amazon_Tabular_Classification_XGBoost_LinearLearner.ipynb) [JumpStart 簡介 - 表格分類 - AutoGluon Learner](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/autogluon_tabular/Amazon_Tabular_Classification_AutoGluon.ipynb) [JumpStart 簡介 - 表格分類 - TabTransformer Learner](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/tabtransformer_tabular/Amazon_Tabular_Classification_TabTransformer.ipynb) |
| 表格迴歸 | 是 | 是 | LightGBM、CatBoost、XGBoost、AutoGluon-Tabular、TabTransformer、線性學習 | [JumpStart 簡介 - 表格迴歸 - LightGBM、CatBoost](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Regression_LightGBM_CatBoost.ipynb) [JumpStart 簡介 - 表格迴歸 - XGBoost、線性學習](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/xgboost_linear_learner_tabular/Amazon_Tabular_Regression_XGBoost_LinearLearner.ipynb) [JumpStart 簡介 - 表格迴歸 - AutoGluon Learner](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/autogluon_tabular/Amazon_Tabular_Regression_AutoGluon.ipynb) [JumpStart 簡介 - 表格迴歸 - TabTransformer Learner](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/tabtransformer_tabular/Amazon_Tabular_Regression_TabTransformer.ipynb) |
# 部署模型
當您從 JumpStart 部署模型時，SageMaker AI 會託管模型並部署可用於推論的端點。JumpStart 也提供範例筆記本，您可以在部署模型後用來存取模型。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
**注意**
如需 Studio 中 JumpStart 模型部署的詳細資訊，請參閱[在 Studio 中部署模型](jumpstart-foundation-models-use-studio-updated-deploy.md)
## 模型部署組態
選擇模型後，會開啟模型的索引標籤。在**部署模型**窗格中，選擇**部署組態**以設定模型部署。
![\[The Deploy Model pane.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy.png)
部署模型的預設執行個體類型取決於模型。執行個體類型是執行訓練工作的硬體。在下列範例中，`ml.p2.xlarge` 執行個體是此特定 BERT 模型的預設值。
您也可以變更端點名稱、新增 `key;value` 資源索引標籤、啟用或取消使用任何與模型相關的 JumpStart 資源的 `jumpstart-` 前置詞，以及指定 Amazon S3 儲存貯體來存放 SageMaker AI 端點使用的模型成品。
![\[JumpStart Deploy Model pane with Deployment Configuration open to select its settings.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-config.png)
選擇**安全設定**以指定模型的 AWS Identity and Access Management (IAM) 角色、Amazon Virtual Private Cloud (Amazon VPC) 和加密金鑰。
![\[JumpStart Deploy Model pane with Security Settings open to select its settings.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-security.png)
## 模型部署安全性
使用 JumpStart 部署模型時，您可以為該模型指定 IAM 角色、Amazon VPC 和加密金鑰。如果您未為這些項目指定任何值：您的 Studio Classic 執行時期角色將為預設 IAM 角色；使用預設加密；不使用 Amazon VPC。
### IAM 角色
您可以選取作為訓練工作和託管工作一部分傳遞的 IAM 角色。SageMaker AI 使用此角色來存取訓練資料和模型成品。如果您未選取 IAM 角色，SageMaker AI 會使用您的 Studio Classic 執行時期角色部署模型。如需關於 IAM 角色的詳細資訊，請參閱[AWS Identity and Access Management 適用於 Amazon SageMaker AI](security-iam.md)。
您傳遞的角色必須能夠存取模型所需的資源，並且必須包含下列所有項目。
+ 針對訓練工作：[CreateTrainingJob API：執行角色權限](https://docs.aws.amazon.com//sagemaker/latest/dg/sagemaker-roles.html#sagemaker-roles-createtrainingjob-perms)。
+ 針對託管工作：[CreateModel API：執行角色權限](https://docs.aws.amazon.com//sagemaker/latest/dg/sagemaker-roles.html#sagemaker-roles-createmodel-perms)。
**注意**
您可以縮小以下每個角色授予的 Amazon S3 權限範圍。使用 Amazon Simple Storage Service (Amazon S3) 的 ARN，以及 JumpStart Amazon S3 儲存貯體完成此操作。
```
[
{
"Effect": "Allow",
"Action": [
"s3:GetObject",
"s3:ListBucket"
],
"Resource": [
"arn:aws:s3:::jumpstart-cache-prod-/*",
"arn:aws:s3:::jumpstart-cache-prod-",
"arn:aws:s3:::/*"
]
},
{
"Effect": "Allow",
"Action": [
"cloudwatch:PutMetricData",
"logs:CreateLogStream",
"logs:PutLogEvents",
"logs:CreateLogGroup",
"logs:DescribeLogStreams",
"ecr:GetAuthorizationToken"
],
"Resource": [
"*"
]
},
{
"Effect": "Allow",
"Action": [
"ecr:BatchGetImage",
"ecr:BatchCheckLayerAvailability",
"ecr:GetDownloadUrlForLayer"
],
"Resource": [
"*"
]
},
]
}
```
**尋找 IAM 角色**
如果選取此選項，則必須從下拉式清單中選取現有的 IAM 角色。
![\[JumpStart Security Settings IAM section with Find IAM role selected.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-security-findiam.png)
**輸入 IAM 角色**
如果選取此選項，則必須手動輸入現有 IAM 角色的 ARN。如果您的 Studio Classic 執行時期角色或 Amazon VPC 封鎖 `iam:list* ` 呼叫，您必須使用此選項才能使用現有的 IAM 角色。
![\[JumpStart Security Settings IAM section with Input IAM role selected.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-security-inputiam.png)
### Amazon VPC
所有 JumpStart 模型均以網路隔離模式執行。建立模型容器之後，就不能再進行呼叫。您可以選取作為訓練工作和託管工作一部分傳遞的 Amazon VPC 角色。SageMaker AI 使用此 Amazon VPC 從您的 Amazon S3 儲存貯體中推送和提取資源。這個 Amazon VPC 不同於限制從您 Studio Classic 執行個體存取公用網際網路的 Amazon VPC。如需 Studio Classic Amazon VPC 的詳細資訊，請參閱[將 VPC 中的 Studio 筆記本連線至外部資源](studio-notebooks-and-internet-access.md)。
您傳遞的 Amazon VPC 不需要存取公用網際網路，但確實需要存取 Amazon S3。Amazon S3 適用的 Amazon VPC 端點必須至少允許存取模型所需的下列資源。
```
{
"Effect": "Allow",
"Action": [
"s3:GetObject",
"s3:PutObject",
"s3:ListMultipartUploadParts",
"s3:ListBucket"
],
"Resources": [
"arn:aws:s3:::jumpstart-cache-prod-/*",
"arn:aws:s3:::jumpstart-cache-prod-",
"arn:aws:s3:::bucket/*"
]
}
```
如果您未選取 Amazon VPC，則不會使用任何 Amazon VPC。
**尋找 VPC**
如果選取此選項，則必須從下拉式清單中選取現有的 Amazon VPC 角色。選取 Amazon VPC 之後，您必須為 Amazon VPC 選取子網路和安全群組。如需有關子網路和安全群組的詳細資訊，請參閱[ VPC 和子網路概觀](https://docs.aws.amazon.com//vpc/latest/userguide/VPC_Subnets.html)。
![\[JumpStart Security Settings VPC section with Find VPC selected.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-security-findvpc.png)
**VPC 輸入**
如果選取此選項，則必須手動選取構成 Amazon VPC 的子網路和安全群組。如果您的 Studio Classic 執行時期角色或 Amazon VPC 封鎖 `ec2:list*` 呼叫，您必須使用此選項來選取子網路和安全群組。
![\[JumpStart Security Settings VPC section with Input VPC selected.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-security-inputvpc.png)
### 加密金鑰
您可以選取做為訓練任務和託管任務一部分傳遞的 AWS KMS 金鑰。SageMaker AI 使用此金鑰來加密容器的 Amazon EBS 磁碟區，以及 Amazon S3 中用於託管工作的重新包裝模型和訓練工作的輸出。如需 AWS KMS 金鑰的詳細資訊，請參閱 [AWS KMS 金鑰](https://docs.aws.amazon.com//kms/latest/developerguide/concepts.html#kms_keys)。
您傳遞的金鑰必須信任您傳遞的 IAM 角色。如果您未指定 IAM 角色， AWS KMS 金鑰必須信任您的 Studio Classic 執行期角色。
如果您未選取 AWS KMS 金鑰，SageMaker AI 會為 Amazon EBS 磁碟區中的資料和 Amazon S3 成品提供預設加密。
**尋找加密金鑰**
如果您選取此選項，則必須從下拉式清單中選取現有的 AWS KMS 金鑰。
![\[JumpStart Security Settings encryption section with Find encryption keys selected.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-security-findencryption.png)
**輸入加密金鑰**
如果您選取此選項，則必須手動輸入 AWS KMS 金鑰。如果您的 Studio Classic 執行角色或 Amazon VPC 封鎖`kms:list* `呼叫，您必須使用此選項來選取現有的 AWS KMS 金鑰。
![\[JumpStart Security Settings encryption section with Input encryption keys selected.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-deploy-security-inputencryption.png)
## 設定 JumpStart 模型的預設值
您可以為 IAM 角色、VPC 和 KMS 金鑰等參數設定預設值，以預先填入 JumpStart 模型部署和訓練。設定預設值之後，Studio Classic 使用者介面會自動將您的具體安全設定和標籤提供給 JumpStart 模型，以簡化部署和訓練工作流程。系統管理員和使用者可以初始化在 YAML 格式的組態檔中指定的預設值。
SageMaker Python SDK 會依預設使用兩個組態檔案：一個針對管理員，另一個針對使用者。管理員可以使用系統管理員組態檔案定義一組預設值。終端使用者可以覆寫管理員組態檔案中設定的值，並使用終端使用者組態檔設定其他預設值。如需詳細資訊，請參閱[預設組態檔案位置](https://sagemaker.readthedocs.io/en/stable/overview.html#default-configuration-file-location)。
下列程式碼範例列出在 Amazon SageMaker Studio Classic 中使用 SageMaker Python SDK 時組態檔案的預設位置。
```
# Location of the admin config file
/etc/xdg/sagemaker/config.yaml
# Location of the user config file
/root/.config/sagemaker/config.yaml
```
在使用者組態檔案中指定的值會取代管理員組態檔案中設定的值。Amazon SageMaker AI 網域中的每個使用者設定檔都是唯一的。使用者描述檔的 Studio Classic 應用程式直接與使用者描述檔關聯。如需詳細資訊，請參閱[網域使用者設定檔](domain-user-profile.md)。
管理員可以選擇性透過 `JupyterServer` 生命週期組態設定 JumpStart 模型訓練和部署的組態預設。如需詳細資訊，請參閱[建立生命週期組態並將其與 Amazon SageMaker Studio Classic 建立關聯](studio-lcc-create.md)。
### 預設值組態 YAML 檔案
您的設定檔應該遵守 SageMaker Python SDK [設定檔案結構](https://sagemaker.readthedocs.io/en/stable/overview.html#configuration-file-structure)。請注意，`TrainingJob`、`Model` 和 `EndpointConfig` 組態中的特定欄位適用於 JumpStart 模型訓練和部署預設值。
```
SchemaVersion: '1.0'
SageMaker:
TrainingJob:
OutputDataConfig:
KmsKeyId: example-key-id
ResourceConfig:
# Training configuration - Volume encryption key
VolumeKmsKeyId: example-key-id
# Training configuration form - IAM role
RoleArn: arn:aws:iam::123456789012:role/SageMakerExecutionRole
VpcConfig:
# Training configuration - Security groups
SecurityGroupIds:
- sg-1
- sg-2
# Training configuration - Subnets
Subnets:
- subnet-1
- subnet-2
# Training configuration - Custom resource tags
Tags:
- Key: Example-key
Value: Example-value
Model:
EnableNetworkIsolation: true
# Deployment configuration - IAM role
ExecutionRoleArn: arn:aws:iam::123456789012:role/SageMakerExecutionRole
VpcConfig:
# Deployment configuration - Security groups
SecurityGroupIds:
- sg-1
- sg-2
# Deployment configuration - Subnets
Subnets:
- subnet-1
- subnet-2
EndpointConfig:
AsyncInferenceConfig:
OutputConfig:
KmsKeyId: example-key-id
DataCaptureConfig:
# Deployment configuration - Volume encryption key
KmsKeyId: example-key-id
KmsKeyId: example-key-id
# Deployment configuration - Custom resource tags
Tags:
- Key: Example-key
Value: Example-value
```
# 微調模型
微調會在新資料集上訓練預先訓練的模型，而不需要從頭開始訓練。這個程序也稱為移轉學習，可以利用較小的資料集和較短的訓練時間來產生精確的模型。如果模型的卡顯示 **可微調**屬性設定為**是**，您就可以微調該模型。
![\[JumpStart fine-tunable Image Classification - TensorFlow model\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-finetune-model.png)
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
**注意**
如需在 Studio 中微調 JumpStart 模型的詳細資訊，請參閱[在 Studio 中微調模型](jumpstart-foundation-models-use-studio-updated-fine-tune.md)
## 微調資料來源
微調模型時，您可以使用預設資料集或選擇自己位於 Amazon S3 儲存貯體中的資料。
若要瀏覽可用的儲存貯體，請選擇**尋找 S3 儲存貯體**。這些儲存貯體受到用於設定 Studio Classic 帳戶的權限所限制。您也可以選擇**輸入 Amazon S3 儲存貯體位置**來指定 Amazon S3 URI。
![\[JumpStart data source settings with default dataset selected.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-dataset.png)
**提示**
若要瞭解如何格式化儲存貯體中的資料，請選擇**瞭解更多**。模型的描述部分包含有關輸入和輸出的詳細資訊。
針對文字模型：
+ 儲存貯體必須具有 data.csv 檔案。
+ 第一欄必須是用於類別標籤的唯一整數。例如：`1`、`2`、`3`、`4`、`n`
+ 第二欄必須為字串。
+ 第二欄應具有符合模型類型和語言的對應文字。
針對視覺模型：
+ 儲存貯體必須具有與類別數目一樣多的子目錄。
+ 各個子目錄應包含屬於該類的 .jpg 格式圖像。
**注意**
Amazon S3 儲存貯體必須與您執行 SageMaker Studio Classic AWS 區域 所在的儲存貯體相同，因為 SageMaker AI 不允許跨區域請求。
## 微調部署組態
p3 系列是我們建議速度最快的深度學習訓練系列，建議您使用此系列來微調模型。下方圖表顯示每個執行個體類型中的 GPU 數目。您還可以選擇其他可用選項，包括 p2 和 g4 執行個體類型。
| 執行個體類型 | GPU |
| --- | --- |
| p3.2xlarge | 1 |
| p3.8xlarge | 4 |
| p3.16xlarge | 8 |
| p3dn.24xlarge | 8 |
## 超參數
您可以自訂用於微調模型的訓練工作的超參數。每個可微調模型的可用超參數視模型而有所不同。如需有關每個可用超參數的資訊，請參閱[Amazon SageMaker 中的內建演算法和預先訓練模型](algos.md)中關於所選模型的超參數文件。例如，如需可微調圖像分類 - TensorFlow 超參數的詳細資訊，請參閱[影像分類 - TensorFlow 參數](IC-TF-Hyperparameter.md)。
如果您在未變更超參數的情況下使用文字模型的預設資料集，則會得到幾乎相同的模型。針對視覺模型，預設資料集與用於訓練預先訓練模型的資料集不同，因此您的模型因此會有所不同。
以下超參數在模型中很常見：
+ **時期** - 一個時期是整個資料集的一個循環。一個批次包括多個間隔，多個批次最終組成一個時期。執行多個週期，直到模型的精準度達到可接受的程度，或者當誤差率降至可接受的程度以下為止。
+ **學習速率** - 值應該在時期之間改變的量。在改良模型時，會推動其內部權重，並檢查錯誤率以查看模型是否有所改善。典型的學習速率是 0.1 或 0.01，其中 0.01 是較小的調整，可能會導致訓練需要很長時間才能收斂，而 0.1 則大得多，可能導致訓練過衝。它是您可以調整以訓練模型的主要超參數之一。請注意，針對文字模型，較小的學習速率要 (BERT 為 5e-5) 可能會帶來更準確的模型。
+ **Batch 大小** - 每個間隔從資料集中選擇要傳送到 GPU 進行訓練的記錄數。
在圖像範例中，您可能針對每個 GPU 發送 32 張圖像，因此您的批次大小是 32。如果您選擇具有多個 GPU 的執行個體類型，則該批次會除以 GPU 數目。建議的批次大小會因您使用的資料和模型而有所不同。例如，最佳化圖像資料的方式與處理語言資料的方式就有所不同。
在部署組態段落的執行個體類型圖表中，您可以看到每個執行個體類型的 GPU 數目。從標準建議批次大小開始 (例如視覺模型為 32)。然後，將其乘以您選取的執行個體類型中的 GPU 數目。例如如果您使用的是 `p3.8xlarge`，則為 32 (批次大小) 乘以 4 (GPU)，總計 128，因為您的批次大小會根據 GPU 數量調整。針對像 BERT 這樣的文字模型，請嘗試從批次大小 64 開始，然後根據需要縮小。
## 訓練輸出
微調程序完成後，JumpStart 會提供模型的相關資訊：父模型、訓練工作名稱、訓練工作 ARN、訓練時間和輸出路徑。輸出路徑是新模型在 Amazon S3 儲存貯體中的位置。資料夾結構使用您提供的模型名稱，且模型檔案位於 `/output`子資料夾中，而且永遠命名為 `model.tar.gz`。
範例：`s3://bucket/model-name/output/model.tar.gz`
## 設定模型訓練的預設值
您可以為 IAM 角色、VPC 和 KMS 金鑰等參數設定預設值，以預先填入 JumpStart 模型部署和訓練。如需詳細資訊，請參閱[設定 JumpStart 模型的預設值](jumpstart-deploy.md#jumpstart-config-defaults)。
# 分享模型
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
您可以使用下列程序，直接從**已啟動的 JumpStart 資產**頁面透過 Studio Classic 使用者介面分享 JumpStart 模型：
1. 開啟 Amazon SageMaker Studio Classic，然後在左側導覽窗格的** JumpStart** 區段中選擇**已啟動的 JumpStart 資產**。
1. **選取訓練工作**索引標籤以檢視模型訓練工作的清單。
1. 在**訓練工作**清單下，選取您要分享的訓練工作。此動作會開啟訓練工作詳細資訊頁面。您無法一次分享多個訓練工作。
1. 在訓練任務的標題中，選擇**共用**，然後選取**與我的組織共用**。
如需與貴組織分享模型的相關詳細資訊，請參閱[共用模型和筆記本](jumpstart-content-sharing.md)。
# 共用模型和筆記本
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在命名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
共用您的模型和筆記本，以集中管理模型成品、促進可探索性，並增加組織內模型的重複使用率。共用模型時，您可以提供訓練和推論環境資訊，並允許協作者將這些環境用於自己的訓練和推論任務。
您共用的所有模型以及與您共用的模型，都可以直接在 Amazon SageMaker Studio Classic 中的集中位置搜尋到。如需登入 Amazon SageMaker Studio Classic 的上線加入步驟的相關資訊，請參閱[加入 Amazon SageMaker AI 網域](https://docs.aws.amazon.com/sagemaker/latest/dg/gs-studio-onboard.html)。
**Topics**
+ [模型和筆記本共用](jumpstart-content-sharing-access.md)
+ [存取共用內容](jumpstart-content-sharing-access-filter.md)
+ [新增模型](jumpstart-content-sharing-add-model.md)
# 模型和筆記本共用
若要共用模型和筆記本，請導覽至 Amazon SageMaker Studio Classic 中的**共用的模型**區段，選擇 **由我的組織分享**，然後選取**新增**下拉式清單。選擇新增模型或新增筆記本。
![\[可將共用模型或筆記本新增至 JumpStart 的功能表。\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-shared-models.png)
# 存取共用內容
從 Amazon SageMaker Studio Classic UI，您可以存取共用內容並篩選看到的內容。
篩選共用模型和筆記本有三個主要選項：
1. **由我分享** — 您共用至 JumpStart 的模型和筆記本。
1. **與我分享** — 與您共用的模型和筆記本
1. **由我的組織分享** — 共用給組織中任何人的所有模型和筆記本
您也可以根據模型和筆記本上次更新的時間，或依照字母遞增或遞減順序來排序模型和筆記本。選擇篩選條件圖示 (![\[Funnel or filter icon representing data filtering or narrowing down options.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-filter-icon.png)) 以進一步排序您選取的項目。
# 新增模型
若要新增模型，請選擇**由我的組織分享**，然後從**新增**下拉式清單中選取**新增模型**。輸入模型的基本資訊，並新增任何您要與協作者共用的訓練或推論資訊，以訓練或部署您的模型。輸入所有必要資訊後，請選擇畫面右下角的**新增模型**。
**Topics**
+ [新增基本資訊](jumpstart-content-sharing-info.md)
+ [啟用訓練](jumpstart-content-sharing-training.md)
+ [啟用部署](jumpstart-content-sharing-deployment.md)
+ [新增筆記本](jumpstart-content-sharing-notebooks.md)
# 新增基本資訊
在 JumpStart 中新增模型涉及提供您想要訓練之模型的一些基本資訊。此資訊有助於定義模型的特性和功能，以及改善其可探索性和可搜尋性。若要建立新的模型，請遵循下列步驟：
1. 新增此模型的標題。新增標題會根據模型標題在 ID 欄位中自動填入唯一識別碼。
1. 新增模型的描述。
1. 從以下選項中選取資料類型：*文字*、*視覺*、*表格式*或*音訊*。
1. 從可用任務清單中選取機器學習任務，例如*影像分類*或*文字產生*。
1. 選取機器學習架構。
1. 新增包含關鍵字或片語的中繼資料資訊，以便在搜尋模型時使用。使用逗號分隔關鍵字。任何空格都會自動以逗號取代。
# 啟用訓練
新增要共用的模型時，您可以選擇性地提供訓練環境，並允許組織中的協作者訓練共用模型。
**注意**
如果您要新增表格式模型，您還需要指定資料欄格式和目標欄來啟用訓練。
提供模型的基本詳細資訊後，您需要為訓練任務設定用於訓練模型的設定。這包括指定容器環境、程式碼指令碼、資料集、輸出位置和各種其他參數，以控制訓練任務的執行方式。若要設定訓練任務設定，請遵循下列步驟：
1. 新增用於模型訓練的容器。您可以選取用於現有訓練任務的容器、在 Amazon ECR 中使用自己的容器，或使用 Amazon SageMaker 深度學習容器。
1. 新增環境變數。
1. 提供訓練指令碼位置。
1. 提供指令碼模式進入點。
1. 針對訓練期間產生的模型成品提供 Amazon S3 URI。
1. 將 Amazon S3 URI 提供給預設訓練資料集。
1. 提供模型輸出路徑。對於從訓練產生的任何模型成品，模型輸出路徑應為 Amazon S3 URI 路徑。SageMaker AI 會將模型成品儲存為 Amazon S3 中的單一壓縮 TAR 檔案。
1. 提供驗證資料集，以便在訓練期間評估模型。驗證資料集必須包含與訓練資料集相同數量的欄位和功能標題。
1. 開啟網路隔離。網路隔離會隔離模型容器，因此無法對模型容器進行傳入或傳出網路呼叫。
1. 提供 SageMaker AI 可以透過哪些訓練通道存取您的資料。例如，您可以指定名為 `train` 或 `test` 的通道。為每個通道指定通道名稱和資料位置的 URI。選擇**瀏覽**以搜尋 Amazon S3 位置。
1. 提供超參數。新增任何超參數，協作者應在訓練期間進行實驗。提供這些超參數的有效值範圍。此範圍用於訓練任務超參數驗證。您可以根據超參數的資料類型來定義範圍。
1. 選取執行個體類型。建議您使用記憶體容量較多的 GPU 執行個體來進行大批次訓練。如需跨 AWS 區域的 SageMaker 訓練執行個體完整清單，請參閱 [Amazon SageMaker 定價](https://aws.amazon.com/sagemaker/pricing/)中的**隨需定價**資料表。
1. 提供指標。您可以針對訓練監控的每個指標指定名稱和規則表達式，藉此定義訓練任務的指標。設計規則表達式以擷取演算法所發出指標的值。例如，指標 `loss` 可能具有規則表達式 `"Loss =(.*?);"`。
# 啟用部署
新增要共用的模型時，您可以選擇性地提供推論環境，讓組織中的協作者可以部署共用模型以進行推論。
訓練機器學習模型後，您需要將其部署到 Amazon SageMaker AI 端點以進行推論。這包括提供容器環境、推論指令碼、訓練期間產生的模型成品，以及選取適當的運算執行個體類型。正確設定這些設定對於確保您部署的模型可以進行準確的預測並有效地處理推論請求至關重要。若要設定模型以進行推論，請遵循下列步驟：
1. 新增要用於推論的容器。您可以在 Amazon ECR 中使用自己的容器，或使用 Amazon SageMaker 深度學習容器。
1. 將 Amazon S3 URI 提供給推論指令碼。自訂推論指令碼會在您選擇的容器內執行。您的推論指令碼應包含用於模型載入的函式，以及選擇性地使用產生預測的函式，以及輸入和輸出處理。如需有關為您選擇的架構建立推論指令碼的詳細資訊，請參閱 SageMaker Python SDK 文件中的[架構](https://sagemaker.readthedocs.io/en/stable/frameworks/index.html)。例如，對於 TensorFlow，請參閱[如何實作前置和/或後處理處理常式](https://sagemaker.readthedocs.io/en/stable/frameworks/tensorflow/deploying_tensorflow_serving.html#how-to-implement-the-pre-and-or-post-processing-handler-s)。
1. 針對模型成品提供 Amazon S3 URI。模型成品是訓練模型所產生的輸出，通常包含訓練過的參數、描述如何運算推論的模型定義，以及其他中繼資料。如果在 SageMaker AI 訓練您的模型，則模型成品會儲存為 Amazon S3 的單一壓縮 TAR 檔案。如果您在 SageMaker AI 外部訓練模型，則需要建立此單一壓縮 TAR 檔案，並將其儲存在 Amazon S3 位置。
1. 選取執行個體類型。建議您使用記憶體容量較多的 GPU 執行個體來進行大批次訓練。如需跨 AWS 區域的 SageMaker 訓練執行個體完整清單，請參閱 [Amazon SageMaker 定價](https://aws.amazon.com/sagemaker/pricing/)中的**隨需定價**資料表。
# 新增筆記本
若要新增筆記本，請選擇**由我的組織分享**，然後從**新增**下拉式清單中選取**新增筆記本**。輸入筆記本的基本資訊，並提供該筆記本所在位置的 Amazon S3 URI。
首先，新增筆記本的基本描述性資訊。這項資訊會用來改善筆記本的可搜尋性。
1. 新增此筆記本的標題。新增標題會根據筆記本標題在 ID 欄位中自動填入唯一識別碼。
1. 新增筆記本的描述。
1. 從以下選項中選取資料類型：*文字*、*視覺*、*表格式*或*音訊*。
1. 從可用任務清單中選取機器學習 (ML) 任務，例如*影像分類*或*文字產生*。
1. 選取機器學習 (ML) 架構。
1. 新增中繼資料資訊以及關鍵字或片語，以便在搜尋筆記本時使用。使用逗號分隔關鍵字。任何空格都會自動以逗號取代。
指定基本資訊後，您可以提供該筆記本位置的 Amazon S3 URI。您可以選擇**瀏覽**，在 Amazon S3 儲存貯體中搜尋筆記本檔案位置。找到筆記本後，複製 Amazon S3 URI，選擇**取消**，然後將 Amazon S3 URI 新增至**筆記本位置**欄位。
輸入所有必要資訊後，請選擇右下角的**新增筆記本**。
# End-to-end JumpStart 解決方案範本
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
**注意**
JumpStart 解決方案僅適用於 Studio Classic。
SageMaker JumpStart 提供針對處理常見機器學習使用案例而設計的一鍵式端對端解決方案。其針對其網域使用經過驗證的演算法，並提供完整的工作流程，通常包括資料處理、模型訓練、部署、推論和監控。探索下列使用案例，以取得可用解決方案範本的詳細資訊。
+ [需求預測](#jumpstart-solutions-demand-forecasting)
+ [信用評級預測](#jumpstart-solutions-credit-prediction)
+ [詐騙偵測](#jumpstart-solutions-fraud-detection)
+ [電腦視覺](#jumpstart-solutions-computer-vision)
+ [從文件擷取和分析資料](#jumpstart-solutions-documents)
+ [預測性維護](#jumpstart-solutions-predictive-maintenance)
+ [流失預測](#jumpstart-solutions-churn-prediction)
+ [個人化推薦](#jumpstart-solutions-recommendations)
+ [強化學習](#jumpstart-solutions-reinforcement-learning)
+ [醫療照護與生命科學](#jumpstart-solutions-healthcare-life-sciences)
+ [財務定價](#jumpstart-solutions-financial-pricing)
+ [因果推論](#jumpstart-solutions-causal-inference)
從 JumpStart 登陸頁面選擇最適合您使用案例的解決方案範本。當您選擇解決方案範本時，JumpStart 會開啟一個新索引標籤，顯示解決方案的說明和**啟動**按鈕。當您選取**啟動**時，JumpStart 會建立執行解決方案所需的所有資源，包括訓練和模型託管執行個體。如需啟動 JumpStart 解決方案的詳細資訊，請參閱[啟動解決方案](jumpstart-solutions-launch.md)。
啟動解決方案之後，您可以在 JumpStart 中探索解決方案功能和任何產生的成品。使用**已啟動的 JumpStart 資產**功能表尋找您的解決方案。在解決方案的索引標籤中，選取**開啟筆記本**以使用提供的筆記本並探索解決方案的特徵。當在啟動期間或執行提供的筆記本之後產生成品時，它們會列在**產生的成品**表格中。您可以使用垃圾桶圖示 (![\[The trash icon for JumpStart.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-trash.png)) 刪除個別成品。您可以選擇**刪除解決方案資源**來刪除解決方案的所有資源。
## 需求預測
需求預測會使用歷史時間序列資料，以便針對特定期間的客戶需求進行未來的預估，並簡化跨企業的供給需求決策程序。
需求預測使用案例包括預測交通運輸業的票務銷售情況、股票價格、醫院就診次數、下個月多個地區僱用的客戶代表人數、下一季多個地區的產品銷售量、視訊串流服務的隔天雲端伺服器使用量、下週多個地區的用電量、IoT 裝置數量和感應器 (例如能源消耗) 等等。
時間序列資料分類為*單變數*和*多變數*。例如，單一家庭的總用電量是一段時間內的單變數時間序列。當多個單變量時間序列彼此堆疊時，稱之為多變量時間序列。例如，單個社區中 10 個不同 (但相關) 家庭的總用電量，即構成了一個多變量時間序列資料集。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 需求預測 | 使用三種最先進的時間序列預測演算法來進行多變數時間序列資料的需求預測：[LSTNet](https://ts.gluon.ai/stable/api/gluonts/gluonts.mx.model.lstnet.html)、[Prophet](https://facebook.github.io/prophet/) 和 [SageMaker AI DeepAR](https://docs.aws.amazon.com/sagemaker/latest/dg/deepar.html)。 | [GitHub »](https://github.com/awslabs/sagemaker-deep-demand-forecast) |
## 信用評級預測
使用 JumpStart 的信用評級預測解決方案來預測企業信用評級，或說明機器學習模型所做的信用預測決策。與傳統的信用評級建模方法相比，機器學習模型可以自動化並提高信用預測的準確性。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 企業信用評級預測 | 多模態 （長文字和表格式） 機器學習，使用 AWS [AutoGluon 表格式](https://auto.gluon.ai/scoredebugweight/tutorials/tabular_prediction/index.html)進行品質點數預測。 | [GitHub »](https://github.com/awslabs/sagemaker-corporate-credit-rating) |
| 以圖形為基礎的信用評分 | 透過訓練[圖形神經網路 GraphSAGE](https://cs.stanford.edu/people/jure/pubs/graphsage-nips17.pdf) 和 AWS [AutoGluon 表格](https://auto.gluon.ai/scoredebugweight/tutorials/tabular_prediction/index.html)模型，使用表格式資料和公司網路預測公司信用評等。 | 在 Amazon SageMaker Studio Classic 中尋找。 |
| 說明信用決策 | 在信貸申請中預測信用違約，並使用 [LightGbM](https://lightgbm.readthedocs.io/en/latest/) 和 [SHAP (SHapley Additive exPlanations)](https://shap.readthedocs.io/en/latest/index.html) 提供說明。 | [GitHub »](https://github.com/awslabs/sagemaker-explaining-credit-decisions) |
## 詐騙偵測
許多企業每年因欺詐損失數十億美元。機器學習式的欺詐檢測模型可以幫助企業從大量資料中系統地識別可能的欺詐活動。以下解決方案使用交易和身份資料集來識別欺詐性交易。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 偵測惡意使用者和交易 | 使用 [SageMaker AI XGBoost](https://docs.aws.amazon.com/sagemaker/latest/dg/xgboost.html) 搭配過度採樣技術[虛擬少數類別過抽樣技術](https://arxiv.org/abs/1106.1813) (SMOTE)，來自動偵測交易中潛在的詐欺活動。 | [GitHub »](https://github.com/awslabs/fraud-detection-using-machine-learning) |
| 使用深度圖庫在金融交易中進行欺詐檢測 | 使用[深度圖庫](https://www.dgl.ai/)和 [SageMaker AI XGBoost](https://docs.aws.amazon.com/sagemaker/latest/dg/xgboost.html) 模型訓練[圖形卷積網路](https://arxiv.org/pdf/1703.06103.pdf)，以偵測金融交易中的詐欺。 | [GitHub »](https://github.com/awslabs/sagemaker-graph-fraud-detection) |
| 金融付款分類 | 使用 [SageMaker AI XGBoost](https://docs.aws.amazon.com/sagemaker/latest/dg/xgboost.html) 根據交易資訊對金融付款進行分類。使用此解決方案範本作為詐騙偵測、個人化或異常偵測的中繼步驟。 | 在 Amazon SageMaker Studio Classic 中尋找。 |
## 電腦視覺
隨著自動駕駛汽車、智慧型視訊監控、醫療照護監控和各種物件計數任務等業務使用案例的興起，快速準確的物體偵測系統需求不斷增加。這些系統不僅涉及識別和分類圖像中的每個物體，還需要在其周圍繪製適當的邊界框來定位各個物體。在過去的十年中，深度學習技術的快速進步快速推進了物件偵測的發展。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 視覺產品缺陷偵測 | 透過[從頭開始訓練物件偵測模型](https://ieeexplore.ieee.org/document/8709818)或微調預先訓練的 SageMaker AI 模型，來識別產品影像中的瑕疵區域。 | [GitHub »](https://github.com/awslabs/sagemaker-defect-detection) |
| 手寫辨識 | 訓練[物體偵測模型](https://mxnet.apache.org/versions/1.0.0/api/python/gluon/model_zoo.html#mxnet.gluon.model_zoo.vision.resnet34_v1)和[手寫識別模型](https://arxiv.org/abs/1910.00663)來識別圖像中的手寫文字。使用 [SageMaker Ground Truth](https://aws.amazon.com/sagemaker/data-labeling/) 來標籤您的資料。 | [GitHub »](https://github.com/awslabs/sagemaker-handwritten-text-recognition) |
| 鳥類物體偵測 | 使用 [SageMaker AI 物件偵測模型](https://docs.aws.amazon.com/sagemaker/latest/dg/object-detection.html)識別某場景中的鳥類種類。 | 在 Amazon SageMaker Studio Classic 中尋找。 |
## 從文件擷取和分析資料
JumpStart 為您提供解決方案，讓您在重要業務文件中發掘寶貴的見解和關連。使用案例包括文字分類、文件摘要、手寫辨識、提取關係、問題和回答、以及在表格記錄中填寫缺失的值。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 情感分類的隱私 | [匿名化文字](https://www.amazon.science/blog/preserving-privacy-in-analyses-of-textual-data)，以便在情感分類中更加保護使用者隱私。 | [GitHub »](https://github.com/awslabs/sagemaker-privacy-for-nlp) |
| 理解文件 | 使用 PyTorch 中的[轉換器](https://huggingface.co/docs/transformers/index)庫進行文件摘要、實體與關係提取。 | [GitHub »](https://github.com/awslabs/sagemaker-document-understanding) |
| 手寫辨識 | 訓練[物體偵測模型](https://mxnet.apache.org/versions/1.0.0/api/python/gluon/model_zoo.html#mxnet.gluon.model_zoo.vision.resnet34_v1)和[手寫識別模型](https://arxiv.org/abs/1910.00663)來識別圖像中的手寫文字。使用 [SageMaker Ground Truth](https://aws.amazon.com/sagemaker/data-labeling/) 來標籤您的資料。 | [GitHub »](https://github.com/awslabs/sagemaker-handwritten-text-recognition) |
| 在表格記錄中填入缺少的值 | 透過訓練 [SageMaker Autopilot](https://aws.amazon.com/sagemaker/autopilot/) 模型，在表格式記錄中填入缺少的值。 | [GitHub »](https://github.com/awslabs/filling-in-missing-values-in-tabular-records) |
## 預測性維護
預測性維護旨在透過促進及時更換元件來最佳化糾正性和預防性維護之間的平衡。下列解決方案使用工業資產的感應器資料來預測機器故障、意外停機時間和維修成本。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 車隊的預測性維護 | 透過卷積神經網路模型，使用車輛感應器和維護資訊來預測車隊故障。 | [GitHub »](https://github.com/awslabs/aws-fleet-predictive-maintenance/) |
| 製造業的預測性維護 | 使用歷史感應器讀數訓練[堆疊式雙向 LSTM 神經網路](https://arxiv.org/pdf/1801.02143.pdf)模型，預測各個感應器的剩餘使用壽命。 | [GitHub »](https://github.com/awslabs/predictive-maintenance-using-machine-learning) |
## 流失預測
客戶流失或損耗率是許多公司都會面臨的成本高昂問題。為了減少客戶流失，公司可以識別可能離開服務的客戶，以便將精力集中在客戶保留上。使用 JumpStart 客戶流失預測解決方案來分析使用者行為和客戶支援聊天記錄等資料來源，以識別有較高風險取消訂閱或服務的客戶。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 使用文字預測流失 | 使用[ BERT 編碼器](https://huggingface.co/)和 [RandomForestClassifier](https://scikit-learn.org/stable/modules/generated/sklearn.ensemble.RandomForestClassifier.html) 透過使用數字、分類與文字特徵預測流失。 | [GitHub »](https://github.com/awslabs/sagemaker-churn-prediction-text) |
| 手機客戶流失預測 | 使用 [SageMaker AI XGBoost](https://docs.aws.amazon.com/sagemaker/latest/dg/xgboost.html) 識別不滿意的行動電話客戶。 | 在 Amazon SageMaker Studio Classic 中尋找。 |
## 個人化推薦
您可以使用 JumpStart 解決方案來分析客戶身份圖形或使用者工作階段，以更加理解和預測客戶行為。使用下列解決方案提供個人化建議，以跨多個裝置建立客戶身分識別模型、判斷客戶進行購買的可能性，或根據過去的客戶行為建立自訂電影推薦片單。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 具有深度圖庫的識別圖譜中的實體解析 | 透過訓練具有[深度圖庫](https://www.dgl.ai/)的[圖形卷積網路](https://arxiv.org/pdf/1703.06103.pdf)，執行線上廣告的跨裝置實體連結。 | [GitHub »](https://github.com/awslabs/sagemaker-graph-entity-resolution) |
| 購買建模 | 透過訓練 [SageMaker AI XGBoost](https://docs.aws.amazon.com/sagemaker/latest/dg/xgboost.html) 模型來預測客戶是否會進行購買。 | [GitHub »](https://github.com/awslabs/sagemaker-purchase-modelling) |
| 客製化推薦系統 | 訓練和部署自訂推薦系統，該系統將使用 SageMaker AI 中的神經協同過濾，根據過去的行為提供給客戶生成影片建議。 | 在 Amazon SageMaker Studio Classic 中尋找。 |
## 強化學習
強化學習 (RL) 是一種基於與環境互動的學習類型。這種類型的學習是由一個代理程式進行，該代理程式必須透過與動態環境中的試驗和錯誤互動來學習行為，其目標是最大限度地提高代理程式因其行為而獲得的長期獎勵。透過具有已知獎勵的行動來交換具有不確定獎勵的探索行動，從而獲得最大的獎勵。
RL 非常適合解決大型複雜的問題，例如供應鏈管理、HVAC 系統、工業機器人、遊戲人工智慧、對話系統和自動駕駛汽車。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| Battlesnake AI 競賽的強化學習 | 提供用於訓練和推論的[ BattleSnake](https://play.battlesnake.com/) AI 競賽的強化學習工作流程。 | [GitHub »](https://github.com/awslabs/sagemaker-battlesnake-ai) |
| 針對 Progen 挑戰的分散式強化學習 | 分散式強化學習入門套件為 [NeurIPS 2020 Procgen](https://www.aicrowd.com/challenges/neurips-2020-procgen-competition) 強化學習挑戰。 | [GitHub »](https://github.com/aws-samples/sagemaker-rl-procgen-ray) |
## 醫療照護與生命科學
臨床醫生和研究人員可以使用 JumpStart 解決方案來分析醫學影像、基因體資訊和臨床健康記錄。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 肺癌存活率預測 | 使用[SageMaker AI XGBoost](https://docs.aws.amazon.com/sagemaker/latest/dg/xgboost.html) 透過立體肺部電腦斷層 (CT) 掃描、基因組資料和臨床健康記錄，預測非小細胞肺癌患者存活狀況。 | [GitHub »](https://github.com/aws-samples/machine-learning-pipelines-for-multimodal-health-data/tree/sagemaker-soln-lcsp) |
## 財務定價
許多企業會定期動態調整定價，以將收益提到最高。使用下列 JumpStart 解決方案進行價格最佳化、動態定價、期權定價或產品組合最佳化使用案例。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 價格最佳化 | 使用雙機器學習 (ML) 進行因果推論和使用 [Prophet](https://facebook.github.io/prophet/) 預測程序來估算價格彈性。使用這些估算值來最佳化每日價格。 | 在 Amazon SageMaker Studio Classic 中尋找。 |
## 因果推論
研究人員可以使用貝葉斯網路等的機器學習模型來表達因果依賴關係，並根據資料得出因果結論。使用以下 JumpStart 解決方案瞭解氮基肥料應用與玉米作物產量之間的因果關係。
| 解決方案名稱 | Description | 開始使用 |
| --- | --- | --- |
| 作物產量反事實 | 產生玉米對氮反應的反事實分析。[該解決方案使用多光譜衛星圖像和地面高度觀測](https://www.sciencedirect.com/science/article/pii/S2352340921010283#tbl0001)，全面學習作物物候學週期。 | 在 Amazon SageMaker Studio Classic 中尋找。 |
# 啟動解決方案
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
**注意**
JumpStart 解決方案僅適用於 Studio Classic。
首先，透過 Amazon SageMaker Studio Classic 使用者介面中的登陸頁面選擇解決方案。如需登入 Amazon SageMaker Studio Classic 的上線加入步驟的相關資訊，請參閱[加入 Amazon SageMaker AI 網域](https://docs.aws.amazon.com/sagemaker/latest/dg/gs-studio-onboard.html)。如需前往 SageMaker JumpStart 登陸頁面的詳細資訊，請參閱[在 Studio Classic 中開啟與使用 JumpStart](studio-jumpstart.md#jumpstart-open-use)。
選擇解決方案後，會開啟解決方案的索引標籤，顯示該解決方案的說明和 `Launch` 按鈕。若要啟動解決方案，請選取**啟動解決方案**區段中的 `Launch`。然後 JumpStart 會建立執行解決方案所需的所有資源。包括訓練和模型託管執行個體。
## 進階參數
您選擇的解決方案可能具有可以選取的進階參數。選擇**進階參數**以指定解決方案 AWS Identity and Access Management 的角色。
解決方案能夠跨 9 個相互互動 AWS 的服務啟動資源。若要讓解決方案如預期般運作，從一個服務新建立的元件必須能夠對來自另一個服務的新建立元件進行操作。建議您使用預設 IAM 角色以確保新增所有必要的權限。如需關於 IAM 角色的詳細資訊，請參閱[AWS Identity and Access Management 適用於 Amazon SageMaker AI](security-iam.md)。
**預設 IAM 角色**
如果選取此選項，則會使用此解決方案所需的預設 IAM 角色。每個解決方案需要不同的資源。下列清單描述根據所需服務，用於解決方案的預設角色。如需每個服務所需權限的說明，請參閱[AWS SageMaker 專案和 JumpStart 的受管政策](security-iam-awsmanpol-sc.md)。
+ **API Gateway** – AmazonSageMakerServiceCatalogProductsApiGatewayRole
+ **CloudFormation** – AmazonSageMakerServiceCatalogProductsCloudformationRole
+ **CodeBuild** – AmazonSageMakerServiceCatalogProductsCodeBuildRole
+ **CodePipeline** – AmazonSageMakerServiceCatalogProductsCodePipelineRole
+ **Events** – AmazonSageMakerServiceCatalogProductsEventsRole
+ **Firehose** – AmazonSageMakerServiceCatalogProductsFirehoseRole
+ **Glue** – AmazonSageMakerServiceCatalogProductsGlueRole
+ **Lambda** – AmazonSageMakerServiceCatalogProductsLambdaRole
+ **SageMaker AI** – AmazonSageMakerServiceCatalogProductsExecutionRole
如果您在啟用 JumpStart 專案範本的情況下使用新的 SageMaker AI 網域，則這些角色會在您的帳戶中自動建立。
如果您使用現有的 SageMaker AI 網域，這些角色可能不存在於您的帳戶中。如果是這種情況，啟動解決方案時您將收到以下錯誤。
```
Unable to locate the updated roles required to launch this solution, a general role '/service-role/AmazonSageMakerServiceCatalogProductsUseRole' will be used. Please update your studio domain to generate these roles.
```
您仍然可以在沒有必要角色的情況下啟動解決方案，但是會使用舊版預設角色 `AmazonSageMakerServiceCatalogProductsUseRole` 來取代所需角色。舊版預設角色與 JumpStart 解決方案需要與之互動的所有服務具有信任關係。為了獲得最佳安全性，建議您更新網域，讓每個 AWS 服務有新建立的預設角色。
如果您已經登入 SageMaker AI 網域，則可以使用下列程序更新網域以產生預設角色。
1. 開啟 Amazon SageMaker AI 主控台，網址為 [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/)。
1. 選擇頁面左上方的 **控制面板**。
1. 在**網域**頁面中，選擇**設定**圖示 (![\[Black square icon representing a placeholder or empty image.\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/icons/Settings_squid.png)) 以編輯網域設定。
1. 在**一般設定**上，選擇**下一步**。
1. 在 **SageMaker 專案和 JumpStart** 下，選取**針對此帳戶啟用 Amazon SageMaker 專案範本和 Amazon SageMaker**，以及**為 Studio Classic 使用者啟用 Amazon SageMaker 專案範本和 Amazon SageMaker JumpStart**，然後選擇**下一步**。
1. 選取**提交**。
您應該可以在**應用程式 - Studio** 索引標籤下，看到**專案 - 針對此帳戶啟用的專案-Amazon SageMaker 專案範本**中列出的預設角色。
**尋找 IAM 角色**
如果選取此選項，則必須從下拉式清單中為每個必要服務選取現有的 IAM 角色。選取的角色必須至少具有對應服務所需的最低權限。如需每個服務所需權限的說明，請參閱[AWS SageMaker 專案和 JumpStart 的受管政策](security-iam-awsmanpol-sc.md)。
**輸入 IAM 角色**
如果選取此選項，則必須手動輸入現有 IAM 角色的 ARN。選取的角色必須至少具有對應服務所需的最低權限。如需每個服務所需權限的說明，請參閱[AWS SageMaker 專案和 JumpStart 的受管政策](security-iam-awsmanpol-sc.md)。
# Amazon SageMaker JumpStart 產業：金融
使用 SageMaker JumpStart 產業：金融解決方案、模型和範例筆記本，透過精心策劃的一步到位解決方案和專為產業設計的機器學習 (ML) 問題範例筆記本，瞭解 SageMaker AI 的功能和能力。該筆記本也會介紹如何使用 SageMaker JumpStart 產業 Python SDK 來增強產業文字資料，並微調預先訓練的模型。
**Topics**
+ [Amazon SageMaker JumpStart 產業 Python SDK](#studio-jumpstart-industry-pysdk)
+ [Amazon SageMaker JumpStart 產業：金融解決方案](#studio-jumpstart-industry-solutions)
+ [Amazon SageMaker JumpStart 產業：金融模型](#studio-jumpstart-industry-models)
+ [Amazon SageMaker JumpStart 產業：金融範例筆記本](#studio-jumpstart-industry-examples)
+ [Amazon SageMaker JumpStart 產業：金融部落格文章](#studio-jumpstart-industry-blogs)
+ [Amazon SageMaker JumpStart 產業：金融相關研究](#studio-jumpstart-industry-research)
+ [Amazon SageMaker JumpStart 產業：金融其他資源](#studio-jumpstart-industry-resources)
## Amazon SageMaker JumpStart 產業 Python SDK
SageMaker Runtime JumpStart 提供處理工具，透過名為 SageMaker JumpStart 產業 Python SDK 的用戶端程式庫來規劃產業資料集和微調預先訓練的模型。有關 SDK 的詳細 API 文件，以及有關處理和增強產業文字資料集以提高 SageMaker JumpStart 上最先進模型效能的更多訊息，請參閱 [SageMaker JumpStart 產業 Python SDK 開放原始碼文件](https://sagemaker-jumpstart-industry-pack.readthedocs.io)。
## Amazon SageMaker JumpStart 產業：金融解決方案
SageMaker JumpStart 產業：金融提供下列解決方案筆記本：
+ **企業信用評等預測**
此 SageMaker JumpStart 產業：金融解決方案為增強文字的企業信用評等模型提供範本。其顯示如何採用根據數值特徵 (在此情況下，Altman 著名的 5 財務比率) 與 SEC 文件中的文字相結合的模型，達成信用評等的預測改進。除了 5 個 Altman 比率之外，您還可以視需要新增更多變數或設定自訂變數。此解決方案筆記本顯示 SageMaker JumpStart 產業 Python SDK 如何協助處理來自 SEC 檔案文字的自然語言處理 (NLP) 評分。此外，該解決方案示範如何使用增強型資料集來訓練模型，以達成同級最佳模型、將模型部署到 SageMaker AI 端點進行生產，以及即時接收改進的預測。
+ **以圖形為基礎的信用評分**
傳統上使用財務報表資料和市場資料的模型產生信用評等，其僅為表格式 (數值和分類)。該解決方案使用 [SEC 文件](https://www.sec.gov/edgar/searchedgar/companysearch.html)構建公司網路，並展示如何使用具有表格式資料的公司關係網路來產生準確的評等預測。該解決方案示範的方法使用公司連結上的資料，將傳統的表格式信用評分模型 (評等產業已使用數十年) 延伸到網路上的機器學習模型類別。
**注意**
解決方案筆記本僅供示範用途。不應視為財務或投資建議。
您可以透過 Studio Classic 中的 SageMaker JumpStart 頁面找到這些金融服務解決方案。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在命名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊，請參閱 [Amazon SageMaker Studio](studio-updated.md)。
Studio Classic 仍會針對現有工作負載進行維護，但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式，而且無法建立新的應用程式。建議您[將工作負載遷移至新的 Studio 體驗](studio-updated-migrate.md)。
**注意**
SageMaker JumpStart 產業：金融解決方案、模型卡和範例筆記本僅可透過 SageMaker Studio Classic 託管和執行。登入 [SageMaker AI 主控台](https://console.aws.amazon.com/sagemaker)，然後啟動 SageMaker Studio Classic。有關如何找到解決方案卡的詳細資訊，請參閱 [SageMaker JumpStart](https://docs.aws.amazon.com/sagemaker/latest/dg/studio-jumpstart.html)。
## Amazon SageMaker JumpStart 產業：金融模型
SageMaker JumpStart 產業：金融提供下列預先訓練的[穩健最佳化 BERT 方法 (Robustly Optimized BERT approach, RoBERTa)](https://arxiv.org/pdf/1907.11692.pdf) 模型：
+ **金融文字內嵌項目 (RoBERTa-SEC-Base)**
+ **RoBERTa-SEC-WIKI-Base **
+ **RoBERTa-SEC-Large **
+ **RoBERTa-SEC-WIKI-Large **
RoBERTa-SEC-Base 和 RoBERTa-SEC-Large 模型是以 [GluonNLP 的 RoBERTa 模型](https://nlp.gluon.ai/api/model.html#gluonnlp.model.RoBERTaModel) 文字內嵌項目模型，並對 2010 年十年間 ( 2010 年到 2019 年) 的 S＆P 500 SEC 10 K/10-Q 報告進行預先訓練。除了這些，SageMaker AI JumpStart 產業：金融還提供了兩個對 SEC 文件和維基百科的常見文字進行預先訓練的 RoBERTa 變化，RoBERTa-SEC-WIKI-Base 和 RoBERTa-SEC-WIKI-Large。
您可以在 SageMaker JumpStart 中找到這些模型，方法是導覽至**文字模型**節點，選擇**探索所有文字模型**，然後篩選機器學習 (ML) 任務**文字內嵌項目**。選取您選擇的型號後，可存取任何對應的筆記本。配對的筆記本會引導您瞭解如何針對多模態資料集上的特定分類任務微調預先訓練的模型，這些任務由 SageMaker JumpStart 產業 Python SDK 增強功能。
**注意**
模型筆記僅供示範用途。不應被視為財務或投資建議。
下列螢幕擷取畫面顯示透過 Studio Classic 上的 SageMaker AI JumpStart 頁面提供的預先訓練模型卡。
![\[透過 Studio Classic 上的 SageMaker AI JumpStart 頁面提供的預先訓練模型卡。\]](http://docs.aws.amazon.com/zh_tw/sagemaker/latest/dg/images/jumpstart/jumpstart-finance-models.png)
**注意**
SageMaker JumpStart 產業：金融解決方案、模型卡和範例筆記本僅可透過 SageMaker Studio Classic 託管和執行。登入 [SageMaker AI 主控台](https://console.aws.amazon.com/sagemaker)，然後啟動 SageMaker Studio Classic。有關如何查找模型卡的更多資訊，請參閱 [SageMaker 快速啟動](https://docs.aws.amazon.com/sagemaker/latest/dg/studio-jumpstart.html)。
## Amazon SageMaker JumpStart 產業：金融範例筆記本
SageMaker JumpStart 產業：金融提供下列範例筆記本，以示範專為產業設計的機器學習 (ML) 問題解決方案：
+ **金融 TabText 資料建構** — 此範例介紹如何使用 SageMaker JumpStart 產業 Python SDK 來處理 SEC 檔案，例如根據 NLP 評分類型及其對應字詞清單的文字摘要和評分文字。若要預覽此筆記本內容，請參閱[來自 SEC 文件和 NLP 評分的多模態資料集簡單建構](https://sagemaker-jumpstart-industry-pack.readthedocs.io/en/latest/notebooks/finance/notebook1/SEC_Retrieval_Summarizer_Scoring.html)。
+ **TabText 資料上的多模態 ML** — 此範例說明如何將不同類型的資料集合併到稱為 TabText 的單一資料框中，並執行多模態機器學習 (ML)。若要預覽此筆記本內容，請參閱 [TabText 資料框中的機器學習：以工資保護計畫為基礎的範例](https://sagemaker-jumpstart-industry-pack.readthedocs.io/en/latest/notebooks/finance/notebook2/PPP_TabText_ML.html)。
+ **SEC 檔案資料上的多類別機器學習 (ML)** — 此範例顯示如何透過 SEC 檔案策劃的多模態 (TabText) 資料集，針對多類別分類任務，訓練 AutoGluon NLP 模型。[根據 MDNA 文字欄，將 SEC 10K/Q 檔案分類為產業代碼](https://sagemaker-jumpstart-industry-pack.readthedocs.io/en/latest/notebooks/finance/notebook3/SEC_MNIST_ML.html)。
**注意**
範例筆記本僅供示範用途。不應被視為財務或投資建議。
**注意**
SageMaker JumpStart 產業：金融解決方案、模型卡和範例筆記本僅可透過 SageMaker Studio Classic 託管和執行。登入 [SageMaker AI 主控台](https://console.aws.amazon.com/sagemaker)，然後啟動 SageMaker Studio Classic。有關如何找到範例筆記本的更多資訊，請參閱[SageMaker JumpStart](https://docs.aws.amazon.com/sagemaker/latest/dg/studio-jumpstart.html)。
若要預覽範例筆記本的內容，請參閱 *SageMaker JumpStart 產業 Python SDK 文件*中的[教學課程 — 金融](https://sagemaker-jumpstart-industry-pack.readthedocs.io/en/latest/notebooks/index.html)。
## Amazon SageMaker JumpStart 產業：金融部落格文章
有關使用 SageMaker JumpStart 產業解決方案、模型、範例和 SDK 的全面應用程式，請參閱以下部落格文章：
+ [在 Amazon SageMaker JumpStart 使用預先訓練的金融語言模型進行轉移學習](https://aws.amazon.com/blogs/machine-learning/use-pre-trained-financial-language-models-for-transfer-learning-in-amazon-sagemaker-jumpstart/)
+ [在 Amazon SageMaker JumpStart 使用多模態機器學習 (ML) 以 SEC 文字進行評等分類](https://aws.amazon.com/blogs/machine-learning/use-sec-text-for-ratings-classification-using-multimodal-ml-in-amazon-sagemaker-jumpstart/)
+ [在 Amazon SageMaker JumpStart 針對 金融 NLP 以 SEC 文字建立儀表板](https://aws.amazon.com/blogs/machine-learning/create-a-dashboard-with-sec-text-for-financial-nlp-in-amazon-sagemaker-jumpstart/)
+ [在 Amazon SageMaker JumpStart 使用圖形機器學習建立企業信用評等分類工具](https://aws.amazon.com/blogs/machine-learning/build-a-corporate-credit-ratings-classifier-using-graph-machine-learning-in-amazon-sagemaker-jumpstart/)
+ [在 Amazon SageMaker JumpStart 中的金融資料基礎模型的網域適應微調](https://aws.amazon.com/blogs/machine-learning/domain-adaptation-fine-tuning-of-foundation-models-in-amazon-sagemaker-jumpstart-on-financial-data/)
## Amazon SageMaker JumpStart 產業：金融相關研究
如需與 SageMaker JumpStart 產業：金融解決方案相關的研究，請參閱下列論文：
+ [金融中的關聯內容、語言模型和多模態資料](https://www.pm-research.com/content/iijjfds/3/3/52)
+ [用於信用建模的多模態機器學習](https://www.amazon.science/publications/multimodal-machine-learning-for-credit-modeling)
+ [關於缺乏神經文字分類工具的穩健可解釋性](https://www.amazon.science/publications/on-the-lack-of-robust-interpretability-of-neural-text-classifiers)
+ [FinLEX：有效利用字詞內嵌項目來產生金融語彙](https://www.sciencedirect.com/science/article/pii/S2405918821000131)
## Amazon SageMaker JumpStart 產業：金融其他資源
如需其他文件和教學課程，請參閱以下資源：
+ [SageMaker JumpStart 產業：金融 Python SDK](https://pypi.org/project/smjsindustry/)
+ [SageMaker JumpStart 產業：財務 Python SDK 教學課程](https://sagemaker-jumpstart-industry-pack.readthedocs.io/en/latest/notebooks/index.html#)
+ [SageMaker JumpStart 產業：金融 GitHub 儲存庫](https://github.com/aws/sagemaker-jumpstart-industry-pack/)
+ [Amazon SageMaker AI 入門 — 機器學習教學課程](https://aws.amazon.com/sagemaker/getting-started/)