在 AI 代理程式中使用 Amazon Nova 作為基礎模型 - Amazon Nova

在 AI 代理程式中使用 Amazon Nova 作為基礎模型

若要在 AI 代理程式中使用 Amazon Nova 模型作為基礎模型,您可以使用 Amazon Bedrock 代理程式,也可以使用 Converse API 或 InvokeModel API 呼叫工具。Amazon Bedrock代理程式是一項全受管服務,可用來在應用程式中建置和設定自發代理程式。您也可以使用 Converse API 和調用模型 API 來連線到其他立即可用的代理程式架構,或建置您自己的代理程式架構。

您可以在代理程式提示詞範本中使用預留位置變數。呼叫提示詞範本時,變數將會由預先存在的組態填入。如需這些預留位置變數的相關資訊,請參閱在 Amazon Bedrock 代理程式提示詞範本中使用預留位置變數

搭配 Amazon Bedrock 代理程式使用 Amazon Nova

Amazon Nova 模型在 Bedrock 代理程式中啟用,並遵循 Amazon Bedrock 代理程式的使用者指示。Amazon Bedrock代理程式已預先設定主要功能和提示詞,以便有效地配合 Amazon Nova 模型使用。這些組態可讓您輕鬆地利用 Amazon Bedrock 代理程式的主要功能:

  • 自發代理程式:Amazon Bedrock 代理程式允許建立自發代理程式,以根據使用者輸入和組織資料執行任務,而不需要大量的自訂編碼。這可以為您節省大量時間和精力。

  • 內建 API 調用:Amazon Bedrock 代理程式會自動處理 API 呼叫以滿足使用者請求,這會簡化外部服務和資料來源的整合。

  • 記憶體和上下文管理:代理程式可以在互動之間維護上下文、對話和記憶體,以便隨著時間的推移實現更個人化的一致對話。

  • 知識庫整合:您可以將知識庫與代理程式建立關聯,以提高其效能和準確性,使其能夠根據儲存的資訊提供更相關的回應。

  • 提示詞工程與自訂:Amazon Bedrock 代理程式支援進階提示詞工程,允許開發人員自訂代理程式的行為和回應,以更符合特定使用案例。

  • 程式碼解譯器:程式碼解譯可讓您的代理程式在安全的測試環境中產生、執行和疑難排解您的應用程式程式碼。

  • 多代理協同作業:建置、部署和管理多個 AI 代理程式,共同處理需要專業技能的複雜多步驟任務。

搭配調用和 Converse API 使用 Amazon Nova

也可以搭配調用和 Converse API 使用 搭配 Amazon Nova 使用工具 (函數呼叫),來整合 Amazon Nova 模型與開放原始碼,或建置自訂 AI 代理程式架構。這允許較大的靈活性,但請務必注意,直接使用 API 表示您的實作或程式庫需要處理一些層面:

  1. 存放對話/使用者資料:Converse API 不會保留任何使用者輸入或產生的內容,這表示您的代理程式無法記住過去的互動。每次調用模型時,您需要傳遞所有過去的訊息。

  2. 自動工具調用:身為開發人員的您應負責根據模型的請求實作工具。這表示您需要執行或撰寫程式碼來執行工具的功能,並處理模型提供的輸入參數。執行工具後,必須以結構化格式將結果傳回模型。

  3. 內建記憶體:API 缺少內建記憶體功能,這表示您的代理程式無法記住使用者偏好設定或過去一段時間內的互動,這可能會限制個人化。