更新 Python 应用程序 - Managed Service for Apache Flink

Amazon Managed Service for Apache Flink 之前称为 Amazon Kinesis Data Analytics for Apache Flink。

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

更新 Python 应用程序

Python 应用程序可以通过两种不同的方式使用连接器:将连接器和其他 Java 依赖项打包为单个 uber-jar 的一部分,或者直接使用连接器 jar。要修复受 Async Sink 死锁影响的应用程序,请执行以下操作:

  • 如果应用程序使用 uber jar,请按照中的说明进行操作更新 Java 应用程序

  • 要从源代码重建连接器 jar,请使用以下步骤:

从源头构建连接器:

先决条件,类似于 Flink 编译要求

  • Java 11

  • Maven 3.2.5

  1. 下载 Flink 1.15.4 源代码:

    wget https://archive.apache.org/dist/flink/flink-1.15.4/flink-1.15.4-src.tgz
  2. 解压缩源代码:

    tar -xvf flink-1.15.4-src.tgz
  3. 导航到 kinesis 连接器目录

    cd flink-1.15.4/flink-connectors/flink-connector-kinesis/
  4. 编译并安装连接器 jar,指定所需的 AWS SDK 版本。要加快构建速度-DskipTests,请使用跳过测试执行和-Dfast跳过其他源代码检查:

    mvn clean install -DskipTests -Dfast -Daws.sdkv2.version=2.20.144
  5. 导航到 kinesis 连接器目录

    cd ../flink-sql-connector-kinesis
  6. 编译并安装 sql 连接器 jar:

    mvn clean install -DskipTests -Dfast
  7. 生成的罐子将在以下网址发售:

    target/flink-sql-connector-kinesis-1.15.4.jar
  1. 下载 Flink 1.15.4 源代码:

    wget https://archive.apache.org/dist/flink/flink-1.15.4/flink-1.15.4-src.tgz
  2. 解压缩源代码:

    tar -xvf flink-1.15.4-src.tgz
  3. 导航到 kinesis 连接器目录

    cd flink-1.15.4/flink-connectors/flink-connector-aws-kinesis-streams/
  4. 编译并安装连接器 jar,指定所需的 AWS SDK 版本。要加快构建速度-DskipTests,请使用跳过测试执行和-Dfast跳过其他源代码检查:

    mvn clean install -DskipTests -Dfast -Daws.sdk.version=2.20.144
  5. 导航到 kinesis 连接器目录

    cd ../flink-sql-connector-aws-kinesis-streams
  6. 编译并安装 sql 连接器 jar:

    mvn clean install -DskipTests -Dfast
  7. 生成的罐子将在以下网址发售:

    target/flink-sql-connector-aws-kinesis-streams-1.15.4.jar
  1. 下载 Flink 1.15.4 源代码:

    wget https://archive.apache.org/dist/flink/flink-1.15.4/flink-1.15.4-src.tgz
  2. 解压缩源代码:

    tar -xvf flink-1.15.4-src.tgz
  3. 导航到连接器目录

    cd flink-1.15.4/flink-connectors/flink-connector-aws-kinesis-firehose/
  4. 编译并安装连接器 jar,指定所需的 AWS SDK 版本。要加快构建速度-DskipTests,请使用跳过测试执行和-Dfast跳过其他源代码检查:

    mvn clean install -DskipTests -Dfast -Daws.sdk.version=2.20.144
  5. 导航到 sql 连接器目录

    cd ../flink-sql-connector-aws-kinesis-firehose
  6. 编译并安装 sql 连接器 jar:

    mvn clean install -DskipTests -Dfast
  7. 生成的罐子将在以下网址发售:

    target/flink-sql-connector-aws-kinesis-firehose-1.15.4.jar
  1. 下载 Flink 1.15.4 源代码:

    wget https://archive.apache.org/dist/flink/flink-connector-aws-3.0.0/flink-connector-aws-3.0.0-src.tgz
  2. 解压缩源代码:

    tar -xvf flink-connector-aws-3.0.0-src.tgz
  3. 导航到连接器目录

    cd flink-connector-aws-3.0.0
  4. 编译并安装连接器 jar,指定所需的 AWS SDK 版本。要加快构建速度-DskipTests,请使用跳过测试执行和-Dfast跳过其他源代码检查:

    mvn clean install -DskipTests -Dfast -Dflink.version=1.15.4 -Daws.sdk.version=2.20.144
  5. 生成的罐子将在以下网址发售:

    flink-sql-connector-dynamodb/target/flink-sql-connector-dynamodb-3.0.0.jar