本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
修改预调配吞吐量
购买后可以编辑的预配置吞吐量的各个方面取决于配置模式。对于按模型单位划分的预配置吞吐量,您只能编辑预配置吞吐量的名称和标签,如果是自定义模型,则只能编辑模型。
借助按令牌预配置吞吐量,您可以有更多选择,包括修改预配置吞吐量的每分钟输入和输出令牌数量。
请参阅以下章节,详细了解如何编辑要修改的预配置吞吐量类型。
按模型单位修改预置吞吐量
您可以编辑现有预调配吞吐量的名称或标签。
以下限制适用于更改与预调配吞吐量关联的模型的情况:
-
您无法更改与基础模型关联的预调配吞吐量的模型。
-
如果预调配吞吐量与某个自定义模型关联,您可以将关联更改到进行自定义所基于的基础模型,或者更改到从同一基础模型派生的另一个自定义模型。
在预调配吞吐量更新期间,您可以使用预调配吞吐量运行推理,而不会中断来自终端客户的持续流量。如果更改了与预调配吞吐量关联的模型,您可能会收到旧模型的输出,直到更新完全部署完成。
要了解如何编辑预配置吞吐量,请选择首选方法的选项卡,然后按照以下步骤操作: