AWS 深度學習基礎 AMI (Amazon Linux 2)

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 版本 ${XX.X}

• Deep Learning Base 私有 Nvidia 驅動程式 AMI (Amazon Linux 2) 版本 ${XX.X}

• 請參閱 DLAMI 的重要變更。

• 深度學習搭配 OSS Nvidia Driver 支援 G4dn, G5, G6, Gr6, G6e, P4d, P4de, P5, P5e, P5en

• Deep Learning with Proprietary Nvidia Driver 支援 G3 （不支援 G3.16x)、P3, P3dn

• 支援服務 AWS ：Amazon EC2

• 作業系統：Amazon Linux 2

• 運算架構：x86

• 下列套件已安裝最新的可用版本：

  • Linux 核心：5.10

  • Docker

  • AWS CLI v2at /usr/local/bin/aws2 和AWS CLI v1at /usr/bin/aws

  • Nvidia 容器工具組：

    • 版本命令：nvidia-container-cli -V

  • Nvidia-docker2：

    • 版本命令：nvidia-docker 版本

• Python：/usr/bin/python3.7

• NVIDIA 驅動程式：

  • OSS Nvidia 驅動程式：550.163.01

  • 專屬 Nvidia 驅動程式：550.163.01

• NVIDIA CUDA 12.1-12.4 堆疊：

  • CUDA、NCCL 和 cuDDN 安裝目錄：/usr/local/cuda-xx.x/

  • 預設 CUDA：12.1

    • PATH /usr/local/cudapoints toCUDA 12.1

    • 已更新下列 env vars：

      • LD_LIBRARY_PATH 具有 /usr/local/cuda-12.1/lib：/usr/local/cuda-12.1/lib64：/usr/local/cuda-12.1：/usr/local/cuda-12.1/targets/x86_64-linux/lib

      • PATH 讓 /usr/local/cuda-12.1/bin/：/usr/local/cuda-12.1/include/

      • 對於任何不同的 CUDA 版本，請相應地更新 LD_LIBRARY_PATH。

  • 編譯的 NCCL 版本：2.22.3

  • NCCL 測試位置：

    • all_reduce、all_gather 和 reduce_scatter：/usr/local/cuda-xx.x/efa/test-cuda-xx.x/

    • 若要執行 NCCL 測試，LD_LIBRARY_PATH 需要通過以下更新。

      • 常見 PATHs已新增至 LD_LIBRARY_PATH：

        • /opt/amazon/efa/lib：/opt/amazon/openmpi/lib：/opt/aws-ofi-nccl/lib：/usr/local/lib：/usr/lib

      • 對於任何不同的 CUDA 版本，請相應地更新 LD_LIBRARY_PATH。

• EFA 安裝程式：1.38.0

• Nvidia GDRCopy：2.4

• AWS OFI NCCL：1.13.2

  • AWS OFI NCCL 現在支援使用單一建置的多個 NCCL 版本

  • 安裝路徑：/opt/amazon/ofi-nccl/ 。路徑 /opt/amazon/ofi-nccl/lib64 會新增至 LD_LIBRARY_PATH。

• EBS 磁碟區類型：gp3

• 使用 SSM 參數查詢 AMI-ID （範例區域為 us-east-1)：

  • OSS Nvidia 驅動程式：

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-oss-nvidia-driver-amazon-linux-2/latest/ami-id  \
        --query "Parameter.Value" \
        --output text

  • 專屬 Nvidia 驅動程式：

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-proprietary-nvidia-driver-amazon-linux-2/latest/ami-id \
        --query "Parameter.Value" \
        --output text

• 使用 AWSCLI 查詢 AMI-ID （範例區域為 us-east-1)：

  • OSS Nvidia 驅動程式：

    aws ec2 describe-images --region us-east-1 \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) Version ??.?' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

  • 專屬 Nvidia 驅動程式：

    aws ec2 describe-images --region us-east-1 \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning Base Proprietary Nvidia Driver AMI (Amazon Linux 2) Version ??.?' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

具有多個網路卡的 EC2 執行個體

• 許多支援 EFA 的執行個體類型也具有多個網路卡。

• DeviceIndex 對每個網路卡都是唯一的，且必須是小於每個 NetworkCard ENIs 限制的非負整數。在 P5 上，每個 NetworkCard ENIs 數目為 2，這表示 DeviceIndex 的唯一有效值為 0 或 1。

  • 針對主要網路介面 （網路卡索引 0、裝置索引 0)，建立 EFA (EFA 搭配 ENA) 介面。您不能使用僅限 EFA 的網路介面做為主要網路介面。

  • 對於每個額外的網路界面，請使用下一個未使用的網路卡索引、裝置索引 1，以及 EFA (EFA 搭配 ENA) 或僅限 EFA 網路界面，視您的使用案例而定，例如 ENA 頻寬需求或 IP 地址空間。如需範例使用案例，請參閱 P5 執行個體的 EFA 組態。

  • 如需詳細資訊，請參閱 EFA Guidehere。

P5/P5e 執行個體

• P5 和 P5e 執行個體包含 32 張網路介面卡，可使用下列 AWS CLI 命令啟動：

P5en 執行個體

• P5en 包含 16 張網路介面卡，可以使用下列 AWS CLI 命令啟動：

核心

• 核心版本使用 命令鎖定：

  sudo yum versionlock kernel*

• 我們建議使用者避免更新其核心版本 （除非因為安全性修補程式），以確保與已安裝的驅動程式和套件版本相容。如果使用者仍想要更新，可以執行下列命令來取消鎖定其核心版本：

  sudo yum versionlock delete kernel*
  sudo yum update -y

• 對於每個新版本的 DLAMI，會使用最新的可用相容核心。

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 69.3 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 67.0 版

• 已將 Nvidia 驅動程式從 550.144.03 版升級至 550.163.01，以解決 2025 年 4 月 NVIDIA GPU 顯示驅動程式安全公告中存在的 CVEs

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 68.5 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 66.3 版

• 將 NVIDIA Container Toolkit 從 1.17.3 版更新至 1.17.4 版。如需詳細資訊，請參閱此處的版本備註頁面：https：//https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4

• 已移除 NVIDIA CUDA 工具組提供的使用者空間程式庫 cuobj 和 nvdisasm，以解決 2025 年 2 月 18 日 NVIDIA CUDA Toolkit 安全公告中存在的 CVEs

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 68.4 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 66.1 版

• 已將 EFA 版本從 1.37.0 升級至 1.38.0

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 68.3 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 66.0 版

• 已將 Nvidia 驅動程式從 550.127.05 版升級至 550.144.03，以解決 2025 年 1 月 NVIDIA GPU 顯示驅動程式安全公告中存在的 CVEs

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 68.2 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 65.9 版

• 已將 EFA 從 1.34.0 版升級至 1.37.0 版

• 已將 AWS OFI NCCL 從 1.11.0 版升級至 1.13.0 版

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 68.1 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 65.8 版

• 已將 Nvidia Container Toolkit 從 1.17.0 版升級至 1.17.3 版

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 67.9 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 65.6 版

• 已將 Nvidia Container Toolkit 從 1.16.2 版升級至 1.17.0，解決安全性漏洞 CVE-2024-0134。

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 67.7 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 65.4 版

• 已將 Nvidia 驅動程式從 550.90.07 版升級至 550.127.05，以解決 2024 年 10 月 NVIDIA GPU 顯示安全公告中存在的 CVEs

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 版本

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 65.2 版

• 已將 Nvidia Container Toolkit 從 1.16.1 版升級至 1.16.2 版，解決安全性漏洞 CVE-2024-0133。

• 將 Nvidia 驅動程式和 Fabric Manager 從 535.183.01 版升級至 550.90.07

  • 根據 Nvidia 建議，從 Fabric Manager 移除多使用者 shell 需求

  • 如需詳細資訊，請參閱此處 Tesla 驅動程式 550.90.07 的已知問題

• 已將 EFA 版本從 1.32.0 升級至 1.34.0

• 已將 NCCL 升級至所有 CUDA 版本的最新版本 2.22.3

  • CUDA 12.1、12.2 從 2.18.5+CUDA12.2 升級

  • CUDA 12.3 從 2.21.5+CUDA12.4 升級

• 在目錄 /usr/local/cuda-12.4 中新增 CUDA 工具組 12.4 版

• 新增對 P5e EC2 執行個體的支援。

• 已移除目錄 /usr/local/cuda-11.8 中存在的 CUDA Toolkit 11.8 版堆疊

• 新增對 G6e EC2 執行個體的支援。

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 65.4 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 63.9 版

• 將 Nvidia 驅動程式版本從 535.183.01 更新至 535.161.08

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 64.7 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 63.2 版

• 將 EFA 版本從 1.30 版更新至 1.32 版

• 將 AWS OFI NCCL 外掛程式從 1.7.4 版更新至 1.9.1 版

• 將 Nvidia 容器工具組從 1.13.5 版更新至 1.15.0 版

• 新增 CUDA12.3 堆疊與 CUDA12.3、NCCL 2.21.5、CuDNN 8.9.7

  1.15.0 版不包含 nvidia-container-runtime 和 nvidia-docker2 套件。建議遵循 Nvidia 容器工具組文件，直接使用 nvidia-container-toolkit 套件。 https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/sample-workload.html

• 已移除 CUDA11.7、存在於 /usr/local/cuda-11.7 和 /usr/local/cuda-12.0 的 CUDA12.0 堆疊usr/local/cuda-12

• 移除了 nvidia-docker2 套件及其命令 nvidia-docker，作為 Nvidia 容器工具組從 1.13.5 更新至 1.15.0 的一部分，其中不包含 nvidia-container-runtime 和 nvidia-docker2 套件。

• 對於 OSS Nvidia 驅動程式 DLAMIs，新增了 G6 和 Gr6 EC2 執行個體支援

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 62.3 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 63.2 版

• 在私有和 OSS Nvidia 驅動程式 DLAMIs 中，將 Nvidia 驅動程式從 535.161.08 更新535.104.12為 。

• 每個 DLAMI 支援的新執行個體如下所示：

  • Deep Learning with Proprietary Nvidia Driver 支援 G3 （不支援 G3.16x)、P3, P3dn

  • 使用 OSS Nvidia Driver 的深度學習支援 G4dn, G5, P4d, P4de, P5。

• 從私有 Nvidia 驅動程式 DLAMI 移除 G4dn, G5, G3.16x EC2 執行個體支援。

• 在 AMI 中將 awscliv2 新增為 /usr/local/bin/aws2，並在 OSS Nvidia 驅動程式 AMI 上將 awscliv1 新增為 /usr/local/bin/aws

• 根據目前的支援，以 G4dn 和 G5 支援更新 OSS Nvidia 驅動程式 DLAMI，如下所示：

  • Deep Learning Base 專屬 Nvidia Driver AMI (Amazon Linux 2) 支援 P3, P3dn, G3, G4dn, G5。

  • Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 支援 G4dn, G5, P4, P5。

• OSS Nvidia 驅動程式 DLAMIs建議用於 G4dn, G5, P4, P5。

AMI 名稱

• Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) 62.1 版

• Deep Learning Base 專屬 Nvidia 驅動程式 AMI (Amazon Linux 2) 62.1 版

• 將 OSS Nvidia 驅動程式從 535.129.03 更新為 535.154.05

• 將 EFA 從 1.29.0 更新至 1.30.0

• 將 AWS OFI NCCL 從 1.7.3-aws 更新為 1.7.4-aws

• 更新 runc 套件版本，以使用 CVE-2024-21626 的修補程式。

• OSS Nvidia 驅動程式從 535.104.12 更新為 535.129.03

• EFA 從 1.26.1 更新至 1.29.0

• GDRCopy 從 2.3 更新至 2.4

• AWS 深度學習 AMI (DLAMI) 分為兩個不同的群組：

  • 使用 Nvidia 專屬驅動程式的 DLAMI （支援 P3, P3dn, G3, G5, G4dn)。

  • 使用 Nvidia OSS 驅動程式啟用 EFA （以支援 P4, P5) 的 DLAMI。

• 如需 DLAMI 分割的詳細資訊，請參閱公開公告。

• 如需 AWS CLI 查詢，請參閱 AWSCLI 的查詢 AMI-ID 項目符號 （區域範例為 us-east-1)

• AWS OFI NCCL 外掛程式已從 1.7.2 版更新至 1.7.3 版

• 使用 NCCL 2.18.5 版更新 CUDA 12.0-12.1 目錄

• CUDA12.1 已更新為預設 CUDA 版本

  • 已更新 LD_LIBRARY_PATH 為 /usr/local/cuda-12.1/targets/x86_64-linux/lib/：/usr/local/cuda-12.1/lib：/usr/local/cuda-12.1/lib64：/usr/local/cuda-12.1 和 PATH 為 /usr/local/cuda-12.1/bin/

  • 對於想要變更為任何不同 CUDA 版本的客戶，請相應地定義 LD_LIBRARY_PATH 和 PATH 變數。

• Kernel Live Patching 現在已啟用。即時修補可讓客戶將安全性漏洞和關鍵錯誤修補程式套用至執行中的 Linux 核心，而不會重新啟動或中斷執行中的應用程式。請注意，核心 5.10.192 的即時修補支援將於 11/30/23 結束。

• NVIDIA 驅動程式從 535.54.03 更新為 535.104.12

  此最新驅動程式修正 535.54.03 驅動程式中找到的 NVML ABI 中斷變更，以及驅動程式 535.86.10 中找到的驅動程式迴歸，這些驅動程式會影響 P5 執行個體上的 CUDA 工具組。如需修正的詳細資訊，請參閱下列 NVIDIA 版本備註：

  • 4235941 - NVML ABI 中斷變更修正

  • 4228552 - CUDA Toolkit 錯誤修正

• 使用 NCCL 2.18.5 更新 CUDA 12.2 目錄

• EFA 從 1.24.1 更新至最新的 1.26.1

• 在 /usr/local/cuda-12.2 新增 CUDA12.2usr/local/cuda-12

• 已移除對 CUDA 11.5 和 CUDA 11.6 的支援

• 將 aws-ofi-nccl 外掛程式從 v1.7.1 更新為 v1.7.2

• 此 AMI 現在支援 P5 和所有先前支援的 EC2 執行個體上的多節點訓練功能

• 對於 P5 EC2 執行個體，建議使用 NCCL 2.18，並已新增至 CUDA12.0 和 CUDA12.1。

• 已移除對 CUDA11.5 的支援。

• 已移除 CUDA-11.3 和 CUDA-11.4

• 已將 AWS OFI NCCL 外掛程式更新至 v1.7.1

• 根據預設，設為 CUDA11.8，因為 PyTorch 2.0 支援 11.8，而對於 P5 EC2 執行個體，建議使用 >=CUDA11.8

  • 已更新 LD_LIBRARY_PATH 為 /usr/local/cuda-11.8/targets/x86_64-linux/lib/：/usr/local/cuda-11.8/lib：/usr/local/cuda-11.8/lib64：/usr/local/cuda-11.8 和 PATH 為 /usr/local/cuda-11.8/bin/

  • 對於任何不同的 cuda 版本，請相應地定義 LD_LIBRARY_PATH。

• 修正舊版 中提到的 Nvidia Fabric Manager (FM) 套件載入問題2023-07-19。

• 將 Nvidia 驅動程式從 525.85.12 更新為 535.54.03

• 將 EFA 安裝程式從 1.22.1 更新至 1.24.1

• 新增 c-state 變更，透過將最大 c-state 設定為 C1 來停用處理器的閒置狀態。此變更是透過在檔案 /etc/default/grub 的 linux 開機引數中設定 `intel_idle.max_cstate=1 processor.max_cstate=1` 來進行

• AWS EC2 P5 執行個體支援：

  • 新增對使用單一節點/執行個體之工作流程的 P5 EC2 執行個體支援。使用 EFA (Elastic Fabric Adapter) 和 AWS OFI NCCL 外掛程式的多節點支援 （例如，用於多節點訓練） 將新增至即將推出的版本。

  • 請使用 CUDA>=11.8 以獲得最佳效能。

  • 已知問題：Nvidia Fabric Manager (FM) 套件需要時間載入 P5，客戶需要等待 2-3 分鐘，直到啟動 P5 執行個體後 FM 載入為止。若要檢查 FM 是否已啟動，請執行命令 sudo systemctl is-active nvidia-fabricmanager ，它應該在開始任何工作流程之前傳回作用中。這將在即將推出的版本中修正。

• 根據本文件頂端章節所述的支援政策，移除 CUDA11.0-11.2 堆疊。

• 新增了 Nvidia GDRCopy 2.3

• 將 NVIDIA 驅動程式從 515.65.01 更新為 525.85.12

• 在 /usr/local/cuda-11.8/ 新增 cuda-11.8

• 將 EFA 版本從 1.17.2 更新至 1.19.0

• 將 NVIDIA 驅動程式從 510.47.03 更新為 515.65.01

• 在 /usr/local/cuda-11.7/ 新增 cuda-11.7

• 將 EFA 版本從 1.16.0 更新至 1.17.2

• 將 aws-efa-installer 更新至 1.15.2 版

• 將 aws-ofi-nccl 更新至 1.3.0-aws 版，其中包括 p4de.24xlarge 的拓撲。

• 此版本新增對 p4de.24xlarge EC2 執行個體的支援。

• 新增了 Amazon CloudWatch Agent

• 新增三個系統化服務，其使用路徑 /opt/aws/amazon-cloudwatch-agent/etc/ 提供的預先定義 json 檔案，以使用 linux 使用者 cwagent 設定 GPU 指標

  • dlami-cloudwatch-agent@minimal

    • 啟用 GPU 指標的命令：

      sudo systemctl enable dlami-cloudwatch-agent@minimal
      sudo systemctl start dlami-cloudwatch-agent@minimal

    • 它會建立這些指標：utilization_gpu、 utilization_memory

  • dlami-cloudwatch-agent@partial

    • 啟用 GPU 指標的命令：

      sudo systemctl enable dlami-cloudwatch-agent@partial
      sudo systemctl start dlami-cloudwatch-agent@partial

    • 它會建立這些指標：utilization_gpu、utilization_memory、memory_total、memory_used、 memory_free

  • dlami-cloudwatch-agent@all

    • 啟用 GPU 指標的命令：

      sudo systemctl enable dlami-cloudwatch-agent@all
      sudo systemctl start dlami-cloudwatch-agent@all

    • 它會建立所有可用的 GPU 指標

• 核心版本已更新至 5.10

• 將 Nvidia 驅動程式更新至 510.47.03

• 鎖定 aws-neuron-dkms 和 tensorflow-model-server-neuron，因為更新至 AMI 中存在的 Neuron 套件不支援的較新版本

  • 如果客戶想要解除鎖定套件以將其更新為最新的命令：sudo yum versionlock delete aws-neuron-dkms sudo yum versionlock delete tensorflow-model-server-neuron

• 新增 CUDA11.2 與下列元件：

  • cuDNN 8.1.1.33 版

  • NCCL 2.8.4

  • CUDA 11.2.2

• 將 symlink pip 更新為 pip3

• P2 執行個體類型的已棄用支援

• 已棄用 python2.7 並移除相關的 python2.7 套件，例如「python-dev」、「python-pip」和「python-tk」

• 已從 cuda 版本中移除 org.apache.ant_1.9.2.v201404171502\lib\ant-apache-log4j.jar，因為它未被使用，並且對具有 Log4j 檔案的使用者沒有風險。如需詳細資訊，請參閱 https：//https://nvidia.custhelp.com/app/answers/detail/a_id/5294。

• 將 EFA 更新至 1.14.1

• 將 Neuron 套件從 aws-neuron-dkms=1.5.*、aws-neuron-runtime-base=1.5.*、aws-neuron-tools=1.6.* 更新為 aws-neuron-dkms=2.2.*、aws-neuron-runtime-base=1.6.*、aws-neuron-tools=2.0.*。

• 移除 Neuron 套件 aws-neuron-runtime=1.5.*，因為 Neuron 不再以協助程式身分執行執行時間，且執行時間現在已與架構整合為程式庫。

• JSON 格式的安全掃描報告可在 /opt/aws/dlami/info/ 取得。

• 每次使用 DLAMI 啟動執行個體時，都會新增標籤 "aws-dlami-autogenerated-tag-do-not-delete"， AWS 以允許 收集執行個體類型、執行個體 ID、DLAMI 類型和作業系統資訊。不會收集或保留 DLAMI 中使用的命令資訊。不會收集或保留有關 DLAMI 的其他資訊。若要選擇退出 DLAMI 的用量追蹤，請在啟動期間將標籤新增至 Amazon EC2 執行個體。標籤應使用金鑰 OPT_OUT_TRACKING，並將關聯的值設為 true。如需詳細資訊，請參閱標記您的 Amazon EC2 資源。

• 將 docker 版本更新為 docker-20.10.7-3

• 已將「筆記本」更新至「6.4.1」版。

• 將 Nvidia 驅動程式和 Fabric Manager 版本更新為 450.142.00。

• 根據 Neuron 1.14.0 版更新 Neuron 套件

• 將 awscli 版本更新為 1.19.89

• 從 CUDA-10.0 安裝 (/usr/local/cuda-10.0) 中移除易受攻擊的 CUDA-10.0 componenets (Visual Profiler、Nsight EE 和 JRE)。usr/local/cuda-10

• 升級 Runc 至最新

• 將 Nvidia Tesla 驅動程式和 Fabric Manager 版本更新為 450.119.03。

• 修正降低執行個體啟動速度的問題。

• 新增 tensorflow-model-server-neuron，以支援神經元模型服務。

• 將 jupyterlab 升級至適用於 python3 的 3.0.8 版。

• 在 /usr/local/mpi 中舊安裝 OpenMPI 會導致 /opt/amazon/openmpi/bin/mpirun 連結不正確。為了修正連結問題，我們移除了 /usr/local/mpi 安裝，可使用 /opt/amazon/openmpi 中的 OpenMPI 安裝。

• 移除重複和不存在的殼層環境定義，這些環境一直污染殼層環境變數，例如 PATH 和 LD_LIBRARY_PATH。因此，~/.dlami 和 /etc/profile.d/var.sh 已移除，且 /etc/profile.d/dlami.sh 已新增。

• 更新套件密碼編譯以解決 CVE-2020-36242

• 新增 TensorRT CUDA 11.0 安裝

• 修正 MOTD （當日訊息） 中錯誤顯示 34.1 版的錯別字。

• CVE-2021-3177 的修補 python2 和 python3

• MOTD （當日訊息） 中有錯誤顯示 34.1 版的錯別字，我們將發佈 34.3 版來解決此問題。

• 將 pip 固定為 python2 的 20.3.4 版，這是支援 python2 和 python3.5 的最後一個 pip 版本。

• 將 CUDA11.0 和 CUDA11.1 中的 cuDNN 版本更新為 v8.0.5CUDA1139。

• 新增 CUDA11.1 搭配 NCCL 2.7.8、cuDNN深度學習 AMI (Amazon Linux 2)、深度學習 AMI (Ubuntu 16.04)、深度學習 AMI (Ubuntu 18.04)、深度學習基礎 AMI (Ubuntu 16.04)、深度學習基礎 AMI (Ubuntu 18.04)、深度學習基礎 AMI (Amazon Linux 2)。

• 已將 EFA 安裝程式升級至 1.10.0 版。

• 已將 CUDA 11.0 的 cuDNN 版本升級至 v8.0.4.30。

• 已將 AWS Neuron 升級到 1.1 版

• 將 NVIDIA 驅動程式和 Fabric Manager 版本更新為 450.80.02

• 將適用於 CUDA11.0 的 NCCL 更新至 2.7.8

• 已修正 pipmanaged 安裝覆寫 yum 受管 python 套件的問題。此修正的一部分已從 /usr/binto /usr/local/binas 移動可執行 pip、pip3 和 pip3.7。

• 將 NVIDIA 驅動程式從版本 450.51.05 更新至 450.51.06

• 新增 NVIDIA Fabric Manager 450.51.06 版

• 升級 EFA 至 1.9.4

• 新增 CUDA 11.0 堆疊與 NCCL 2.7.6 和 cuDNN 8.0.2.39

• 已在 /opt/amazon/efa 將 EFA 從 1.7.1 版升級至 1.9.3 版

• 將「/usr/local/mpi」中的 Open MPI 從 4.0.3 版升級至 4.0.4 版。在 ‘/opt/amazon/openmpi/bin/mpirun' 開啟 MPI 仍在 4.0.3 版

• 將 NVIDIA 驅動程式從 440.33.01 更新為 450.51.05

• CUDA10.2 中的 NCCL 版本從 2.6.4 升級至 2.7.6

• 已將 AWS OFI NCCL 升級為最新，如需詳細資訊，請參閱此處。

• Cuda 8.0/9.0/9.2 已從 AMI 中移除

• 已修正無法開啟共用物件檔案：libopencv_dnn.so.4.2 的錯誤。

• EFA 版本已更新至 1.7.1，以支援 NCCL 2.6.4

• CUDA 10.2 的 NCCL 版本已更新至 2.6.4

• awscli 版本從 1.16.76 更新為 1.18.80

• boto3 版本從 1.9.72 更新至 1.14.3

• Docker 版本已更新至 19.03.6

• Docker 版本已更新至 19.03.6

• 升級的 python 套件版本

• 新增 CUDA 10.2 堆疊

• 針對 cuDNN 和 NCCL 版本更新 CUDA 10.0 和 10.1