本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
在 Deadline Cloud Linux 工作人员上
GitHub 网站上的 swap_for_smf
一些工作负载需要先通过 CPU RAM 对大文件进行内存映射,然后才能将它们加载到 GPU 上。例如,在g6.xlarge实例(16 GB RAM)上加载 16 GB 的扩散模型可以在 OOM-kill 不交换的情况下进行处理。交换文件提供溢出容量,以便这些加载成功。
脚本执行以下操作:
-
在创建 32 GB 的交换文件
/swapfile(如果已存在则跳过)。 -
立即启用交换文件。
-
添加一个
/etc/fstab条目,使交换在重新启动后保持不变。
要更改交换大小,请编辑linux.sh和更新SWAP_SIZE变量。
有关改变内核过度提交行为而不是添加交换的替代方案,请参阅网站上的 overcomm it_override_for_smf 脚