本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

# 使用推理配置文件设置模型调用资源
<a name="inference-profiles"></a>

*推理配置文件*是 Amazon Bedrock 中的一种资源，用于定义模型以及推理配置文件可以将模型调用请求路由至的一个或多个区域。推理配置文件可用于以下任务：
+ **跟踪使用情况指标**-设置 CloudWatch 日志并提交带有应用程序推理配置文件的模型调用请求，以收集模型调用的使用指标。在查看有关推理配置文件的信息时，您可以检查这些指标，并将其用于为您的决策提供依据。有关如何设置 CloudWatch 日志的更多信息，请参阅[使用 CloudWatch 日志和 Amazon S3 监控模型调用](model-invocation-logging.md)。
+ **使用标签监控成本** – 在提交按需模型调用请求时，将标签附加到应用程序推理配置文件以追踪成本。有关如何使用标签进行成本分配的更多信息，请参阅 AWS Billing 用户指南中的[使用 AWS 成本分配标签组织和跟踪成本](https://docs.aws.amazon.com/awsaccountbilling/latest/aboutv2/cost-alloc-tags.html)。
+ **Cross-Region 推理** — 使用包含多个推理配置文件来提高吞吐量。 AWS 区域推理配置文件将在这些区域之间分配模型调用请求，以提高吞吐量和性能。有关跨区域推理的更多信息，请参阅[通过跨区域推理提高吞吐量](cross-region-inference.md).

Amazon Bedrock 提供了以下类型的推理配置文件：
+ **跨区域（系统定义）推理配置文件** – Amazon Bedrock 中预定义的推理配置文件，包括模型请求可以路由至的多个区域。
+ **应用程序推理配置文件** – 用户为追踪成本和模型使用情况而创建的推理配置文件。您可以创建推理配置文件，将模型调用请求路由至一个或多个区域：
  + 要创建推理配置文件，以便在某个区域中追踪模型的成本和使用情况，请在您希望推理配置文件将请求路由至的区域中指定基础模型。
  + 要创建推理配置文件，以便跨多个区域追踪模型的成本和使用情况，请指定跨区域（系统定义）推理配置文件，来定义模型以及您希望推理配置文件将请求路由至的区域。

您可以将推理配置文件与以下功能结合使用，将请求路由至多个区域，并追踪使用这些功能发出的调用请求的使用情况和成本：
+ [模型推理 — 在运行模型调用时使用推理配置文件，方法是在 Amazon Bedrock 控制台的操场中选择推理配置文件，或者在调用、、、Converse 和操作时指定推理配置文件的 ARN。[InvokeModel[InvokeModelWithResponseStream[ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html)](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html)有关更多信息，请参阅 [提出推理请求](inference.md)。
+ 知识库向量嵌入和响应生成 – 在查询知识库后生成响应时，或在解析数据来源中的非文本信息时，可以使用推理配置文件。有关更多信息，请参阅[利用查询和响应测试知识库](knowledge-base-test.md)和[数据来源的解析选项](kb-advanced-parsing.md)。
+ 模型评测 – 在提交模型评测作业时，可以将推理配置文件作为模型进行评测。有关更多信息，请参阅[评测 Amazon Bedrock 资源的性能](evaluation.md)。
+ 提示管理器 – 为在提示管理器中创建的提示生成响应时，可以使用推理配置文件。有关更多信息，请参阅[在 Amazon Bedrock 中使用提示管理器构建和存储可重复使用的提示](prompt-management.md)。
+ 流 – 为在流的提示节点内定义的内联提示生成响应时，可以使用推理配置文件。有关更多信息，请参阅[使用 Amazon Bedrock 流构建端到端生成式人工智能工作流](flows.md)。

使用推理配置文件的价格，是根据您调用推理配置文件所在区域的模型价格计算的。有关定价的信息，请参阅 [Amazon Bedrock 定价](https://aws.amazon.com/bedrock/pricing/)。

有关跨区域推理配置文件可提供的吞吐量的更多详细信息，请参阅[通过跨区域推理提高吞吐量](cross-region-inference.md)。

**Topics**
+ [支持推理配置文件的区域和模型](inference-profiles-support.md)
+ [推理配置文件的先决条件](inference-profiles-prereq.md)
+ [创建应用程序推理配置文件](inference-profiles-create.md)
+ [修改应用程序推理配置文件的标签](inference-profiles-modify.md)
+ [查看有关推理配置文件的信息](inference-profiles-view.md)
+ [在模型调用中使用推理配置文件](inference-profiles-use.md)
+ [删除应用程序推理配置文件](inference-profiles-delete.md)