重要術語

基礎模型 (FM) – 具有大量參數的 AI 模型，並根據大量不同的資料進行訓練。基礎模型可以針對各種使用案例產生各種回應。基礎模型可以產生文字或影像，也可以將輸入轉換為嵌入。若要取得關於基礎模型的詳細資訊，請參閱 Amazon Bedrock 中支援的基礎模型。

基礎模型 – 由供應商封裝並準備好使用的基礎模型。Amazon Bedrock 提供來自領導供應商的各種領先業界的基礎模型。如需詳細資訊，請參閱 Amazon Bedrock 中支援的基礎模型。

模型推論 – 從指定輸入 (提示) 產生輸出 (回應) 的基礎模型程序。如需詳細資訊，請參閱 提交提示並使用模型推論產生回應。

提示 — 提供給模型的輸入，以指示其針對輸入產生適當的回應或輸出。例如，文字提示可以包含要回應模型的一行，也可以詳細說明要執行模型的指示或任務。提示可以包含任務的內容、輸出範例，或模型在其回應中使用的文字。提示可用於執行分類、問題回答、程式碼產生、創意撰寫等任務。如需詳細資訊，請參閱 提示工程概念。

字符 – 模型可以將其解譯或預測為單一意義單位的一系列字元。例如，使用文字模型時，字符不僅可以對應到單字，也可以對應到具有文法意義 (例如 "-ed")、標點符號 (例如 "？") 或常見片語 (例如 "a lot") 的部分單字。

模型參數 – 在解譯輸入和產生回應時定義模型及其行為的值。模型參數由供應商控制和更新。您也可以更新模型參數，透過模型自訂程序建立新的模型。

推論參數 – 可在模型推論期間調整以影響回應的值。推論參數可能會影響各種回應的方式，也可以限制回應的長度或指定序列的出現。如需特定推論參數的詳細資訊和定義，請參閱 使用推論參數影響回應生成。

遊樂場：AWS 管理主控台 中易於使用的圖形界面，您可以在其中實驗執行模型推論，以熟悉 Amazon Bedrock。使用遊樂場來測試不同模型、組態和推論參數對您所輸入不同提示產生之回應的影響。如需詳細資訊，請參閱 使用遊樂場在主控台中產生回應。

嵌入 – 透過將輸入轉換為數值向量來壓縮資訊的程序，稱為嵌入，以便使用共用數值表示來比較不同物件之間的相似性。例如，可以比較句子來判斷意義上的相似性、可以比較影像來判斷視覺相似性，或者可以比較文字和影像來查看它們是否彼此相關。如果文字和影像輸入與您的使用案例相關，您也可以將其合併為平均嵌入向量。如需詳細資訊，請參閱 提交提示並使用模型推論產生回應 及 使用 Amazon Bedrock 知識庫擷取資料並產生 AI 回應。

協同運作 – 協調基礎模型與企業資料和應用程式之間的程序以執行任務。如需詳細資訊，請參閱 使用 AI 代理程式自動執行應用程式中的任務。

代理程式 – 使用基礎模型，透過循環解譯輸入和產生輸出來執行協同運作的應用程式。代理程式可用來執行客戶請求。如需詳細資訊，請參閱 使用 AI 代理程式自動執行應用程式中的任務。

檢索增強生成 (RAG) – 程序涉及：

如需詳細資訊，請參閱 使用 Amazon Bedrock 知識庫擷取資料並產生 AI 回應。

模型自訂 – 使用訓練資料來調整基礎模型中模型參數值的程序，以建立自訂模型。模型自訂的範例包括微調，其使用標記的資料 (輸入和對應的輸出)，以及持續預先訓練，其使用未標記的資料 (僅限輸入) 來調整模型參數。如需 Amazon Bedrock 中可用模型自訂技術的詳細資訊，請參閱 自訂模型，以改善其針對使用案例的效能。

超參數 – 可以針對模型自訂調整的值，以控制訓練程序，進而控制輸出自訂模型。如需特定超參數的詳細資訊和定義，請參閱 自訂模型超參數。

模型評估 – 評估和比較模型輸出的程序，以判斷最適合使用案例的模型。如需詳細資訊，請參閱 評估 Amazon Bedrock 資源的效能。

佈建輸送量 – 您為基礎或自訂模型購買的輸送量層級，以增加模型推論期間處理的字符數目和/或速率。當您購買模型的佈建輸送量時，會建立佈建模型，可用於執行模型推論。如需詳細資訊，請參閱 佈建輸送量。