View a markdown version of this page

在 Deadline Cloud Linux 工作人员上 - 截止日期云

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

在 Deadline Cloud Linux 工作人员上

GitHub 网站上的 swap_for_smf 主机配置脚本在 Deadline Cloud Linux 服务管理的舰队工作人员上创建并启用交换文件。将此脚本用于暂时超过物理 RAM 的内存密集型工作负载,例如 ComfyUI。

一些工作负载需要先通过 CPU RAM 对大文件进行内存映射,然后才能将它们加载到 GPU 上。例如,在g6.xlarge实例(16 GB RAM)上加载 16 GB 的扩散模型可以在 OOM-kill 不交换的情况下进行处理。交换文件提供溢出容量,以便这些加载成功。

脚本执行以下操作:

  1. 在创建 32 GB 的交换文件/swapfile(如果已存在则跳过)。

  2. 立即启用交换文件。

  3. 添加一个/etc/fstab条目,使交换在重新启动后保持不变。

要更改交换大小,请编辑linux.sh和更新SWAP_SIZE变量。

有关改变内核过度提交行为而不是添加交换的替代方案,请参阅网站上的 overcomm it_override_for_smf 脚本。 GitHub