Managed Service for Apache Flink의 Java 예제 - Managed Service for Apache Flink

Amazon Managed Service for Apache Flink(Amazon MSF)는 이전에 Amazon Kinesis Data Analytics for Apache Flink로 알려져 있었습니다.

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Managed Service for Apache Flink의 Java 예제

다음 예제는 Java로 작성된 애플리케이션을 생성하는 방법을 보여줍니다.

참고

대부분의 예제는 개발 머신과 사용 중인 IDE에서 로컬로 실행할 수도 있고 Amazon Managed Service for Apache Flink에서도 그대로 실행할 수도 있도록 설계되어 있습니다. 이 예제들은 애플리케이션 파라미터를 전달하는 데 사용할 수 있는 메커니즘과 두 환경에서 변경 없이 애플리케이션을 실행할 수 있도록 종속 항목을 올바르게 설정하는 방법을 보여줍니다.

이 예제는 레코드 또는 상태 객체에 사용자 지정 TypeInfo를 정의해 직렬화가 덜 효율적인 Kryo 직렬화로 폴백되는 것을 방지하는 방법을 보여줍니다. 이는 예를 들어 객체에 List 또는 Map이 포함된 경우에 필요합니다 자세한 내용은 Apache Flink 설명서의 데이터 형식 및 직렬화를 참조하세요. 또한 이 예제는 객체 직렬화가 덜 효율적인 Kryo 직렬화로 폴백되는지 테스트하는 방법도 함께 제공합니다.

코드 예제: CustomTypeInfo

이 예제는 DataStream API를 사용해 Kinesis 데이터 스트림에서 읽고 다른 Kinesis 데이터 스트림에 쓰는 간단한 애플리케이션을 보여줍니다. 이 예제는 올바른 종속 항목으로 파일을 설정하고, uber-JAR을 빌드한 다음 구성 파라미터를 구문 분석하여 애플리케이션을 로컬로 IDE에서 그리고 Amazon Managed Service for Apache Flink에서 모두 실행할 수 있도록 하는 방법을 보여줍니다.

코드 예제: GettingStarted

이 예제는 Table API 및 SQL을 사용하는 간단한 애플리케이션을 보여줍니다. 동일한 Java 애플리케이션에서 DataStream API를 Table API 또는 SQL과 통합하는 방법을 보여줍니다. 이 예제는 외부 데이터 생성기 없이도 Flink 애플리케이션 내부에서 무작위 테스트 데이터를 생성할 수 있도록 DataGen 커넥터를 사용하는 방법도 함께 보여줍니다.

전체 예제: GettingStartedTable

이 예제는 DataStream API의 FileSink를 사용하여 JSON 파일을 S3 버킷에 쓰는 방법을 보여줍니다.

코드 예제: S3Sink

이 예제는 표준 소비자 또는 EFO를 사용해 Kinesis 데이터 스트림에서 소비하는 소스를 구성하고 Kinesis 데이터 스트림으로 싱크를 설정하는 방법을 보여줍니다.

코드 예제: KinesisConnectors

이 예제는 Amazon Data Firehose(이전 명칭: Kinesis Data Firehose)로 데이터를 전송하는 방법을 보여줍니다.

코드 예제: KinesisFirehoseSink

이 예제는 Prometheus 싱크 커넥터를 사용하여 시계열 데이터를 Prometheus에 쓰는 방법을 보여줍니다.

코드 예제: PrometheusSink

이 예제는 DataStream API에서 네 가지 유형의 윈도우 집계를 보여줍니다.

  1. 처리 시간에 따른 슬라이딩 윈도우

  2. 이벤트 시간에 따른 슬라이딩 윈도우

  3. 처리 시간에 따른 텀블링 윈도우

  4. 이벤트 시간에 따른 텀블링 윈도우

코드 예제: Windowing

이 예제는 Flink 애플리케이션에 사용자 지정 지표를 추가하고 이를 CloudWatch 지표로 전송하는 방법을 보여줍니다.

코드 예제: CustomMetrics

이 예제는 Kafka 커넥터의 mTLS 인증을 위해 필요한 인증서가 포함된 사용자 지정 키 스토어와 트러스트 스토어를 설정하기 위해 Kafka 구성 공급자를 사용하는 방법을 보여줍니다. 이 기술을 사용하면 Amazon S3에서 필요한 사용자 지정 인증서를 로드하고 애플리케이션이 시작될 AWS Secrets Manager 때에서 보안 암호를 로드할 수 있습니다.

코드 예제: Kafka-mTLS-Keystore-ConfigProviders

이 예제에서는 Kafka 구성 공급자를 사용하여 Amazon S3에서 자격 증명을 가져오 AWS Secrets Manager 고 트러스트 스토어를 다운로드하여 Kafka 커넥터에서 SASL/SCRAM 인증을 설정하는 방법을 보여줍니다. 이 기술을 사용하면 Amazon S3에서 필요한 사용자 지정 인증서를 로드하고 애플리케이션이 시작될 AWS Secrets Manager 때에서 보안 암호를 로드할 수 있습니다.

코드 예제: Kafka-SASL_SSL-ConfigProviders

이 예제는 Kafka 커넥터의 mTLS 인증을 위해 필요한 인증서가 포함된 사용자 지정 키 스토어와 트러스트 스토어를 설정하기 위해 Table API/SQL에서 Kafka 구성 공급자를 사용하는 방법을 보여줍니다. 이 기술을 사용하면 Amazon S3에서 필요한 사용자 지정 인증서를 로드하고 애플리케이션이 시작될 AWS Secrets Manager 때에서 보안 암호를 로드할 수 있습니다.

코드 예제: Kafka-mTLS-Keystore-Sql-ConfigProviders

이 예제는 Apache Flink에서 Side Outputs를 활용해 지정된 속성을 기준으로 스트림을 분할하는 방법을 보여줍니다. 이 패턴은 스트리밍 애플리케이션에서 Dead Letter Queue(DLQ) 개념을 구현할 때 특히 유용합니다.

코드 예제: SideOutputs

이 예제는 Apache Flink 비동기 I/O를 사용해 외부 엔드포인트를 비차단 방식으로 직접적으로 호출하고 복구 가능한 오류에 대해 재시도를 수행하는 방법을 보여줍니다.

코드 예제: AsyncIO