Amazon Bedrock 护栏的运作方式 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon Bedrock 护栏的运作方式

Amazon Bedrock 护栏通过评估用户输入和模型响应来帮助保护您的生成式人工智能应用程序的安全。

您可以根据以下考虑因素为应用程序配置护栏:

  • 一个账户可以有多个护栏,每个护栏的配置不同,并针对特定的应用场景进行定制。

  • 护栏由针对提示和响应配置的多个策略组成,包括内容筛选条件、被拒绝的主题、敏感信息筛选条件、单词筛选条件和图像内容筛选条件。

  • 护栏可以配置为单个策略,也可以是多个策略的组合。

  • 通过在模型推理期间引用护栏,您可以将护栏与任何文本或图像基础模型(FM)配合使用。

  • 您可以将护栏用于 Amazon Bedrock 代理和 Amazon Bedrock 知识库。

InvokeModelInvokeModelWithResponseStreamConverseConverseStream 操作中使用护栏时,它在推理调用期间的工作方式如下。(其工作方式取决于您如何配置策略来处理输入和输出。)

  • 根据护栏中指定的配置策略对输入进行评估。此外,为了改善延迟,系统会根据每一项配置的策略对输入进行并行评估。

  • 如果输入评估结果触发护栏干预,则系统返回已配置的屏蔽消息响应,并放弃基础模型推理。

  • 如果输入评估成功,系统接下来将根据护栏中配置的策略评估模型响应。

  • 如果响应导致护栏进行干预或检测到违规时,系统会根据您的策略配置,使用预先配置的已阻止消息收发或通过屏蔽敏感信息来覆盖该响应。

  • 如果响应评估成功,系统会将响应原样返回给应用程序。

有关 Amazon Bedrock 护栏定价的更多信息,请参阅 Amazon Bedrock Pricing

如何计算 Amazon Bedrock 护栏的费用

您只需为在护栏中配置的策略支付 Amazon Bedrock 护栏费用。每种策略类型的价格在 Amazon Bedrock Pricing 页面中提供。

  • 如果护栏阻止了输入提示,则您需要为护栏评估付费。基础模型推理调用不产生任何费用。

  • 如果护栏阻止了模型响应,则您需要为护栏对输入提示和模型响应进行的评估付费。在这种情况下,您需要为基础模型推理调用付费,还要支付护栏进行评估之前生成的模型响应费用。

  • 如果护栏没有阻止输入提示和模型响应,则除了基础模型推理外,您还需要为护栏对提示和模型响应进行的评估付费。