TensorFlow - Amazon EMR
TensorFlow 按 Amazon EC2 实例类型构建安全性使用 TensorBoard

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

TensorFlow

TensorFlow 是一种开源符号数学库，用于机器智能和深度学习应用程序。有关更多信息，请参阅TensorFlow 网站。 TensorFlow 在 Amazon EMR 发行版 5.17.0 及更高版本中提供。

下表列出了 Amazon EMR 7.x 系列的最新发行版 TensorFlow 附带的版本，以及 Amazon EMR 一起安装的组件。 TensorFlow

有关此发行版 TensorFlow 中安装的组件版本，请参阅 Rele ase 7.9.0 组件版本。

TensorFlow emr-7.9.0 的版本信息
Amazon EMR 发行版标签 TensorFlow 版本 随安装的组件 TensorFlow

emr-7.9.0

TensorFlow 2.16.1

emrfs, emr-goodies, hadoop-client, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, tensorflow

下表列出了 Amazon EMR 6.x 系列的最新发行版 TensorFlow 附带的版本，以及 Amazon EMR 一起安装的组件。 TensorFlow

有关此发行版 TensorFlow 中安装的组件版本，请参阅 Releas e 6.15.0 组件版本。

TensorFlow emr-6.15.0 的版本信息
Amazon EMR 发行版标签 TensorFlow 版本 随安装的组件 TensorFlow

emr-6.15.0

TensorFlow 2.11.0

emrfs, emr-goodies, hadoop-client, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, tensorflow

下表列出了 Amazon EMR 5.x 系列的最新发行版 TensorFlow 附带的版本，以及 Amazon EMR 一起安装的组件。 TensorFlow

有关此发行版 TensorFlow 中安装的组件版本，请参阅 Releas e 5.36.2 组件版本。

TensorFlow emr-5.36.2 的版本信息
Amazon EMR 发行版标签 TensorFlow 版本 随安装的组件 TensorFlow

emr-5.36.2

TensorFlow 2.4.1

emrfs, emr-goodies, hadoop-client, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, tensorflow

TensorFlow 按 Amazon EC2 实例类型构建

Amazon EMR 使用的 TensorFlow 库版本因您为集群选择的实例类型而异。Amazon EMR 支持 EMR-7. TensorFlow 5.0 及更高版本的 aarch64（Graviton）实例类型的集群。下表按实例类型列出版本。

EC2 实例类型 TensorFlow 建造

M5 和 C5

利用 Intel MKL 优化的 Tensorflow 2.16.1

P2、P4D、P5、G4DN、G5、G6 和 GR6

采用 CUDA 12.3 和 cuDNN 8.9.7.29 的 Tensorflow 2.16.1

P3、P3DN、G3 和 G3S

采用 CUDA 12.3、cuDNN 8.9.7.29 和 NCCL 2.20.3-1 的 Tensorflow 2.16.1

NVIDIA NCCL 仅适用于 P3 实例。最终用户许可协议（EULA）：在 Amazon EMR 上使用 Nvidia 组件，即表示您同意产品 EULA 中列出的条款和条件。

除 Graviton 实例之外的所有其他实例

Tensorflow 2.16.1

安全性

除了遵循 TensorFlow 安全使用指南外，还建议您在私有子网中启动集群，以帮助您限制对受信任源的访问。有关更多信息，请参阅《Amazon EMR 管理指南》中的 Amazon VPC 选项。

使用 TensorBoard

TensorBoard 是一套用于 TensorFlow 程序的可视化工具。有关更多信息，请参阅 Tensorflo TensorBoardw 网站上的 Versions（发行版学习）。

要 TensorBoard 与 Amazon EMR 结合使用，您必须从集群主节点 TensorBoard 上启动。

在 Amazon EMR 上将 Tensorboard 与 Tensorflow 结合使用

  1. 使用 SSH 连接到集群的主节点。有关更多信息，请参阅《Amazon EMR 管理指南》中的使用 SSH 连接到主节点。

  2. 键入以下命令，在主节点上启动 TensorFboard。将 /my/log/directory 替换为您使用摘要写入器生成和存储摘要数据的主节点上的目录。

    Amazon EMR 5.19.0 and later
    python3 -m tensorboard.main --logdir=/home/hadoop/tensor --bind_all
    Amazon EMR 5.18.1 and earlier
    python3 -m tensorboard.main --logdir=/my/log/dir

    默认情况下，主节点 TensorBoard 使用端口 6006 和主公共 DNS 名称托管 DNS。启动后 TensorBoard，命令行输出将显示可用于连接的 URL TensorBoard，如以下示例所示：

    TensorBoard 2.16.1 at http://master-public-dns-name:6006 (Press CTRL+C to quit)

  3. 设置来自受信任客户端对主节点上 Web 界面的访问权限。有关更多信息，请参阅《Amazon EMR 管理指南》中的查看 Amazon EMR 集群上托管的 Web 界面。

  4. 开 TensorBoard 业于http://master-public-dns-name:6006。