Apache Spark - Amazon Kinesis Data Streams

Apache Spark

Apache Spark 是用于大规模数据处理的统一分析引擎。其提供了 Java、Scala、Python 和 R 这几种语言的高级别 API,以及支持常规执行图的优化引擎。您可以使用 Apache Spark 来构建流处理应用程序,这些应用程序使用您的 Kinesis 数据流中的数据。

要通过 Apache Spark Structured Streaming 使用 Kinesis 数据流,请使用 Amazon Kinesis Data Streams 连接器。此连接器支持增强扇出型使用,可为您的应用程序提供高达每分片 2 MB/s 的专用数据读取吞吐量。有关更多信息,请参阅开发具有专用吞吐量的自定义消费端(增强型扇出功能)

要通过 Spark Streaming 使用 Kinesis Data Streams,请参阅 Spark Streaming + Kinesis Integration