View a markdown version of this page

直播表入门 - Amazon Kinesis Data Streams

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

直播表入门

本教程将引导您创建第一个流式表交付,将记录从 Amazon Kinesis 数据流发送到 Apache Iceberg 上的流式传输表,对其进行验证并进行清理。

先决条件

在开始之前,请确保满足以下先决条件:

  • 配置为 On-Demand 标准或 On-Demand优势容量模式的 Kinesis 数据流流。

  • 一个 IAM 服务执行角色,授予 Kinesis 数据流向您的目的地传送记录的权限。请参阅数据传输的 IAM 权限。

  • 在架构注册表中注册的 AWS Glue 架构。

  • 目标 Iceberg 表的 S3 表存储桶。

  • 死信队列的 Amazon S3 存储桶。

  • 如果使用,则已 AWS CLI 安装和配置 AWS CLI。

第 1 步:创建配送

使用 AWS 管理控制台 或创建流媒体表交付 AWS CLI。有关完整过程和所有配置选项,请参阅创建直播表交付。

第 2 步:验证配送

确认交付已达到 “活动” 状态。有关此步骤,请参阅 描述直播表交付。

第 3 步:监控交付

交付开始后,使用AWS/Kinesis命名空间中发布的维度为ChannelName和的亚马逊 CloudWatch 指标监控其运行状况StreamName。流媒体表交付指标前缀DeliveryToIceberg为。有关指标的完整列表,请参阅监控数据交付。

步骤 4:清除

为避免持续收费,请在不再需要时删除您创建的资源。活跃的交付会继续处理记录并产生运费,直到您将其删除,任何已经写入目的地的数据都会继续产生 Amazon S3 存储费用。

  1. 删除配送。请参阅删除直播表交付。

  2. 如果您不再需要服务执行角色(例如,如果任何其他交付都未使用该角色),则将其删除。分离任何客户托管策略,删除任何内联策略,然后使用 IAM detach-role-policy delete-role-policy、和delete-role命令删除该角色。有关详细信息,请参阅 IAM 用户指南中的删除角色或实例配置文件。

  3. 如果您不再需要目标表存储桶或死信队列存储桶,请在 Amazon S3 中将其删除,以避免产生存储费用。