View a markdown version of this page

Amazon EMR 7.2.0 - Tez 릴리스 정보 - Amazon EMR

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon EMR 7.2.0 - Tez 릴리스 정보

Amazon EMR 7.2.0 - Tez 변경 사항

Type 설명
개선 사항 작업용 컨테이너를 요청할 때 로컬리티 제약 조건을 비활성화하는 옵션이 제공됩니다.
버그 수정 TaskDependencies#addTaskDependency 스레드를 안전하게 설정
업그레이드 Tez의 TLS 버전을 1.3으로 업그레이드함

Amazon EMR 7.2.0 - 새 구성

분류 이름 기본값 설명

tez-site

tez.task.relaxed.locality

false

활성화하면 태스크에 대한 컨테이너를 요청하는 동안 랙 및 노드 로컬리티 제약 조건이 고려되지 않습니다.

Amazon EMR 7.2.0 - Tez 알려진 문제

Tez DAG 정리 문제(EMR 6.11.0 - EMR 7.2.0) - EMR 버전 6.11.0~7.2.0을 실행하는 SSL이 활성화된 클러스터에서는 DAG 정리 단계의 TEZ Application Master(AM)에서 SSLHandshakeException이 발생하는 문제가 있습니다. 이는 쿼리 실행 중이 아니라 쿼리 완료 후 HTTPS를 통해 원격 노드에서 중간 셔플 데이터를 삭제하려고 할 때 발생합니다. 이 문제는 셔플 핸들러 서비스 엔드포인트를 호출할 때 Tez AM이 관련 trustStore 구성을 읽을 수 없기 때문에 발생합니다. 그러나 이는 DAG 정리 중 셔플 데이터 정리에만 영향을 미치며, 애플리케이션(AM) 수준 정리는 그대로 수행되고 잔여 셔플 데이터를 모두 정리합니다. 따라서 이로 인해 셔플 데이터가 누적되지 않습니다.

수정 버전: – EMR 7.3.0

해결 방법 – tez-site.xml에 다음 SSL 구성을 추가합니다.

<property> <name>ssl.client.truststore.location</name> <value>{SSL_TRUSTSTORE_LOCATION}</value> </property>