Apache-Kafka-Abfrage und Stream-Startpositionen in Lambda - AWS Lambda

Apache-Kafka-Abfrage und Stream-Startpositionen in Lambda

Der StartingPosition-Parameter teilt Lambda mit, wann mit dem Lesen von Nachrichten aus Ihrem Stream von Amazon MSK oder selbstverwaltetem Apache Kafka begonnen werden soll. Es stehen drei Optionen zur Auswahl:

  • Neueste – Lambda beginnt unmittelbar nach dem neuesten Datensatz im Kafka-Thema mit dem Lesen.

  • Horizont trimmen –Lambda beginnt ab dem letzten ungetrimmten Datensatz im Kafka-Thema mit dem Lesen. Dies ist auch der älteste Datensatz im Thema.

  • Am Zeitstempel – Lambda beginnt an einer durch einen Zeitstempel definierten Position in Unix-Zeitsekunden mit dem Lesen. Verwenden Sie den Parameter StartingPositionTimeStamp, um den Zeitstempel anzugeben.

Die Stream-Abfrage während der Erstellung oder Aktualisierung einer Zuordnung von Ereignisquellen ist letztendlich konsistent:

  • Bei der Erstellung der Zuordnung von Ereignisquellen kann es mehrere Minuten dauern, bis mit der Abfrage von Ereignissen aus dem Stream begonnen wird.

  • Während Aktualisierungen der Zuordnung von Ereignisquellen kann es bis zu 90 Sekunden dauern, bis die Abfrage von Ereignissen aus dem Stream gestoppt und neu gestartet wird.

Dieses Verhalten bedeutet, dass die Zuordnung von Ereignisquellen Ereignisse während der Erstellung oder Aktualisierung verpassen könnte, wenn Sie LATEST als Startposition für den Stream angeben. Um sicherzustellen, dass keine Ereignisse verpasst werden, geben Sie entweder TRIM_HORIZON oder AT_TIMESTAMP an.