PERF02-BP02 了解可用的计算配置选项
每种计算解决方案都有可供您使用的选项和配置,以支持您的工作负载特性。了解各种选项如何补充您的工作负载,以及哪些配置选项最适合您的应用程序。这些选项的示例包括实例系列、规模、功能(GPU、I/O)、突增、超时、函数大小、容器实例和并发度。
期望结果: 包括 CPU、内存、网络吞吐量、GPU、IOPS、流量模式和数据访问模式在内的工作负载特性将整理在案,用于配置计算解决方案以匹配工作负载特性。这些指标加上特定于工作负载的自定义指标都会被记录并监控,然后用于优化计算配置以最好地满足要求。
常见反模式:
-
使用与本地使用的相同的计算解决方案。
-
不审核计算方案或实例系列以匹配工作负载特性。
-
扩大计算规模以确保突增能力。
-
您可以为同一工作负载使用多个计算管理平台。
建立此最佳实践的好处: 熟悉 AWS 计算产品/服务,以便为每个工作负载确定合适的解决方案。为工作负载选择计算产品/服务后,您可以快速试用这些计算产品/服务,以确定它们在多大程度上满足您的工作负载需求。为满足您的工作负载特性而优化的计算解决方案将会提高性能、降低成本并提高可靠性。
未建立这种最佳实践的情况下暴露的风险等级: 高
实施指导
如果您的工作负载已经使用相同的计算方案超过四周,并且您预计这些特征在未来将保持不变,那么您可以使用 AWS Compute Optimizer
实施步骤:
-
您是否在 EC2 实例或具有 EC2 启动类型的容器上运行?
-
您的工作负载能否使用 GPU 来提高性能?
-
加速计算型
实例是基于 GPU 的实例,可为机器学习训练、推理和高性能计算提供最高性能。
-
-
您的工作负载是否运行机器学习推理应用程序?
-
AWS Inferentia(Inf1)
– Inf1 实例旨在支持机器学习推理应用程序。通过使用 Inf1 实例,客户可以运行大规模机器学习推理应用程序,例如图像识别、语音识别、自然语言处理、个性化和欺诈检测。您可以在 TensorFlow、PyTorch 或 MXNet 等流行的机器学习框架中构建模型,并使用 GPU 实例来训练模型。在对机器学习模型进行训练以满足要求之后,您可以使用 AWS Neuron 在 Inf1 实例上部署模型,AWS Neuron 是一种专门的软件开发工具包(SDK),它由编译器、运行时和分析工具组成,可优化 Inferentia 芯片的机器学习推理性能。
-
-
您的工作负载是否与底层硬件集成以提高性能?
-
现场可编程门阵列 (FPGA)
– 使用 FPGA,您可以通过为要求最苛刻的工作负载定制硬件加速执行来优化工作负载。您可以利用受支持的通用编程语言(例如 C 语言或 Go 语言)或面向硬件的语言(例如 Verilog 语言或 VHDL 语言)来定义算法。
-
-
您是否有至少四周的指标,并且可以预测您的流量模式和指标在未来将保持不变?
-
使用 Compute Optimizer
获得关于哪种计算配置最符合您的计算特征的机器学习建议。
-
-
您的工作负载性能是否受到 CPU 指标的限制?
-
计算优化型
实例非常适合需要高性能处理器的工作负载。
-
-
您的工作负载性能是否受到内存指标的限制?
-
内存优化型
实例提供大量内存以支持内存密集型工作负载。
-
-
您的工作负载性能是否受到 IOPS 的限制?
-
存储优化型
实例专为需要对本地存储进行大量顺序读写访问(IOPS)的工作负载而设计。
-
-
您的工作负载特性是否表示需要在所有指标之间取得平衡?
-
您的计算实例是否在 Linux 上运行并受到网络接口卡上的网络吞吐量的限制?
-
查看 性能问题 5,最佳实践 2:评估可用的联网功能, 找到合适的实例类型和系列来满足您的性能需求。
-
-
您的工作负载是否在特定可用区中需要一致、可预测的实例且您可以承诺一年的使用?
-
预留实例
确保特定可用区中的容量预留。预留实例是在特定可用区中提供所需计算能力的理想选择。
-
-
您的工作负载是否具有需要专用硬件的许可证?
-
专用主机
支持现有的软件许可证,并帮助您满足合规性要求。
-
-
您的计算解决方案是否会出现突增并需要同步处理?
-
按需实例
让您可以按小时或按秒使用计算容量,而无需做出长期承诺。这些实例非常适合超出性能基线需求的突增情况。
-
-
您的计算解决方案是无状态、具备容错能力和异步的吗?
-
竞价型实例
让您可以将未使用的实例容量用于无状态的容错工作负载。
-
-
-
您是否在 Fargate
上运行容器? -
您的任务性能是否受到内存或 CPU 的限制?
-
使用 任务大小 调整内存或 CPU。
-
-
性能是否受到流量模式突增的影响?
-
使用 Auto Scaling 配置以匹配您的流量模式。
-
-
-
您的计算解决方案是否位于 Lambda?
-
您是否有至少四周的指标,并且可以预测您的流量模式和指标在未来将保持不变?
-
使用 Compute Optimizer
获得关于哪种计算配置最符合您的计算特征的机器学习建议。
-
-
您是否没有足够的指标来使用 AWS Compute Optimizer?
-
如果您没有可用的指标来使用 Compute Optimizer,请使用 AWS Lambda Power Tuning 帮助选择最佳配置。
-
-
您的函数性能是否受到内存或 CPU 的限制?
-
配置 Lambda 内存 以满足您的性能需求指标。
-
-
您的函数在执行时是否超时?
-
更改 超时设置
-
-
您的函数性能是否受到突发活动和并发性的限制?
-
配置 并发设置 以满足您的性能要求。
-
-
您的函数是否异步执行并且在重试时失败?
-
在 异步配置 设置中配置事件的最大期限和最大重试次数限制。
-
-
实施计划的工作量级别:
要建立此最佳实践,您必须了解当前的计算特征和指标。收集这些指标,建立基线,然后使用这些指标来确定理想的计算方案,这需要 低 到 中等 工作量。这最好通过负载测试和实验来验证。
资源
相关文档:
相关视频:
相关示例: