View a markdown version of this page

Amazon Managed Service für Apache Flink 1.15 - Managed Service für Apache Flink

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Amazon Managed Service für Apache Flink 1.15

Managed Service für Apache Flink unterstützt die folgenden neuen Funktionen in Apache 1.15.2:

Feature Description Apache-FLIP-Referenz
Asynchrone Senke Ein AWS mitentwickeltes Framework für die Erstellung asynchroner Ziele, das es Entwicklern ermöglicht, benutzerdefinierte AWS Konnektoren mit weniger als der Hälfte des vorherigen Aufwands zu erstellen. Weitere Informationen finden Sie unter Die generische asynchrone Basissenke. FLIP-171: Asynchrone Senke.
Kinesis Data Firehose Senke AWS hat mithilfe des Async-Frameworks einen neuen Amazon Kinesis Firehose Sink beigesteuert. Amazon Kinesis Data Firehose Senke.
Anhalten mit Savepoint Anhalten mit Savepoint sorgt für einen sauberen Anhaltevorgang und unterstützt vor allem die Exakt-einmal-Semantik für Kunden, die sich darauf verlassen. FLIP-34: Terminate/Suspend Job bei Savepoint.
Scala-Entkopplung Benutzer können die Java-API jetzt von jeder Scala-Version aus nutzen, einschließlich Scala 3. Kunden müssen die Scala-Standardbibliothek ihrer Wahl in ihren Scala-Anwendungen bündeln. FLIP-28: Long-term Ziel ist es, einen Flink-Table zu erstellen. Scala-free
Scala Siehe Scala-Entkopplung oben FLIP-28: Long-term Ziel, einen Flink-Tisch zu erstellen. Scala-free
Einheitliche Konnektor-Metriken Flink hat Standardmetriken für Aufträge, Aufgaben und Operatoren definiert. Managed Service für Apache Flink wird weiterhin Senken- und Quell-Metriken unterstützen und in 1.15 numRestarts parallel zu fullRestarts für Verfügbarkeitsmetriken einführen. FLIP-33: Standardisieren Sie Connector-Metriken und FLIP-179: Stellen Sie standardisierte Operator-Metriken zur Verfügung.
Checkpointing von abgeschlossenen Aufgaben Dieses Feature ist in Flink 1.15 standardmäßig aktiviert und ermöglicht es, weiterhin Checkpoints durchzuführen, auch wenn Teile des Auftragsdiagramms die Verarbeitung aller Daten abgeschlossen haben, was passieren kann, wenn er gebundene (Batch-)Quellen enthält. FLIP-147: Unterstützung von Checkpoints nach Abschluss der Aufgaben.

Studio-Notebooks

Managed Service für Apache Flink Studio unterstützt jetzt Apache Flink 1.15. Managed Service für Apache Flink Studio nutzt Apache-Zeppelin-Notebooks, um eine zentrale Benutzeroberfläche für die Entwicklung, das Debuggen von Code und die Ausführung von Apache-Flink-Streamverarbeitungsanwendungen bereitzustellen. Weitere Informationen über Managed Service für Apache Flink Studio und die ersten Schritte finden Sie unter Verwenden Sie ein Studio-Notebook mit Managed Service für Apache Flink.

EFO-Konnektor

Stellen Sie beim Upgrade auf Managed Service für Apache Flink Version 1.15 sicher, dass Sie den neuesten EFO-Konnektor verwenden, d. h. eine beliebige Version 1.15.3 oder neuer. Weitere Informationen zu den Gründen finden Sie unter FLINK-29324.

Scala-Entkopplung

Ab Flink 1.15.2 müssen Sie die Scala-Standardbibliothek Ihrer Wahl in Ihren Scala-Anwendungen bündeln.

Kinesis Data Firehose Senke

Stellen Sie beim Upgrade auf Managed Service für Apache Flink Version 1.15 sicher, dass Sie die neueste Amazon Kinesis Data Firehose Senke verwenden.

Kafka-Konnektoren

Stellen Sie beim Upgrade auf Amazon Managed Service für Apache Flink Version 1.15 sicher, dass Sie die neuesten Kafka-Konnektor-APIs verwenden. Apache Flink ist veraltet FlinkKafkaConsumer und FlinkKafkaProducer diese APIs für die Kafka-Senke können für Flink 1.15 nicht auf Kafka übertragen werden. Stellen Sie KafkaSink sicher, dass Sie KafkaSource und verwenden.

Komponente Version
Java 11 (empfohlen)
Scala 2.12
Managed Service for Apache Flink Laufzeit (aws-kinesisanalytics-runtime) 1.2.0
AWS Kinesis-Anschluss (Flink-Connector-Kinesis) 1.15.4
Apache Beam (nur Beam-Anwendungen) 2.33.0, mit Jackson-Version 2.12.2

Kafka Commit beim Checkpointing schlägt nach einem Broker-Neustart wiederholt fehl

Es gibt ein bekanntes Open-Source-Apache Flink-Problem mit dem Apache Kafka-Connector in Flink Version 1.15, das durch einen kritischen Open-Source-Kafka-Client-Bug in Kafka Client 2.8.1 verursacht wurde. Weitere Informationen finden Sie unter Kafka Commit beim Checkpointing schlägt nach einem Broker-Neustart wiederholt fehl und kann nach einer Commit-Ausnahme die Verbindung zum KafkaConsumer Gruppenkoordinator nicht wiederherstellen. OffsetAsync

Um dieses Problem zu vermeiden, empfehlen wir, Apache Flink 1.18 oder höher in Amazon Managed Service für Apache Flink zu verwenden.