使用 Amazon Bedrock 防護機制偵測和篩選有害內容

協助篩選有害使用者輸入和有毒模型回應的聊天機器人應用程式。

銀行應用程式，可協助封鎖與尋求或提供非法投資建議相關聯的使用者查詢或模型回應。

呼叫中心應用程式摘要使用者與客服人員之間的對話文字記錄，可以使用防護機制來修訂使用者的個人身分識別資訊 (PII)，以保護使用者隱私權。

內容篩選條件 – 此篩選條件可協助您偵測和篩選輸入提示或模型回應中的有害文字或影像內容。根據偵測某些預先定義的有害內容類別來進行篩選：仇恨、侮辱、性、暴力、不法行為和提示攻擊。您可以根據您的使用案例，為每個類別設定篩選強度。Classic 和 Standard 層都支援這些類別。使用 Standard 層時，不需要的內容的偵測會延伸到保護程式碼元素中引入的有害內容，包括註解、變數和函數名稱，以及字串常值。

拒絕的主題 – 您可以定義一組在應用程式內容中不需要的主題。如果在使用者查詢或模型回應中偵測到，則篩選條件將協助封鎖它們。使用 Standard 層時，不需要的內容的偵測會延伸到保護程式碼元素中引入的有害內容，包括註解、變數和函數名稱，以及字串常值。

單字篩選條件 – 您可以定義一組自訂單字或片語 （完全相符），以在最終使用者和生成式 AI 應用程式之間的互動中加以封鎖。例如，您可以封鎖褻瀆 （使用ready-to-use型選項），以及競爭對手名稱等自訂單字。

敏感資訊篩選條件 – 您可以設定此篩選條件，以協助封鎖或遮罩敏感資訊，例如使用者輸入和模型回應中的個人身分識別資訊 (PII)。根據 SSN 號碼、出生日期、地址等實體中敏感資訊的概率偵測，進行封鎖或遮罩。此篩選條件也允許設定模式 （自訂 regex) 的規則表達式型偵測。

內容接地檢查 – 此篩選條件可協助您偵測模型回應中的幻覺，如果這些幻覺未在來源中接地 （實際上不準確或新增新資訊），或與使用者的查詢無關。例如，您可以在擷取擴增產生 (RAG) 應用程式中封鎖或標記回應。如果模型回應偏離擷取來源中的資訊，或未回答使用者的問題。

自動化推理檢查 – 此篩選條件可協助您根據一組邏輯規則驗證基礎模型回應的準確性。您可以使用自動推理檢查來偵測幻覺、建議更正，並在模型回應中反白未陳述的假設。