

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

# 의미 체계 캐싱을 위해 ElastiCache for Valkey를 사용하는 이유
<a name="semantic-caching-why-elasticache"></a>

의미 체계 캐싱 워크로드는 응답을 최신 상태로 유지하면서 수신되는 사용자 쿼리의 스트림을 제공하기 위해 캐시 항목을 지속적으로 작성, 검색 및 제거합니다. 캐시 스토어는 다음 요구 사항을 충족해야 합니다.
+ **실시간 벡터 업데이트 -** 적중률을 유지하려면 캐시에서 새 쿼리 및 응답을 즉시 사용할 수 있어야 합니다.
+ **지연 시간이 짧은 조회 -** 캐시는 모든 쿼리의 온라인 요청 경로에 있으므로 조회가 최종 사용자 응답 시간에 감지할 수 있는 지연을 추가해서는 안 됩니다.
+ **효율적인 임시 관리 **- 항목은 자주 작성, 읽기 및 제거되므로 핫 세트를 효율적으로 관리해야 합니다.

ElastiCache for Valkey는 다음 요구 사항을 충족합니다.
+ **가장 짧은 지연 시간 벡터 검색** - 작성 시 ElastiCache for Valkey는의 인기 있는 벡터 데이터베이스 중에서 가장 높은 처리량과 95% 이상의 재현율로 가장 낮은 지연 시간 벡터 검색을 제공합니다 AWS. 지연 시간은 최대 99%의 재현율로 마이크로초만큼 낮습니다.
+ **다중 스레드 아키텍처** - ElastiCache의 벡터 검색은 실시간 벡터 업데이트와 높은 쓰기 처리량을 지원하는 동시에 검색 요청에 대한 짧은 지연 시간을 유지하는 다중 스레드 아키텍처를 사용합니다.
+ **기본 제공 캐시 기능** - TTL(Time to Live), 제거 정책(`allkeys-lru`) 및 원자성 작업은 의미 체계 캐싱이 생성하는 임시 항목 세트를 관리하는 데 도움이 됩니다.
+ **벡터 인덱스 지원** - ElastiCache는 COSINE, Euclidean 및 내부 제품 거리 지표를 사용하여 HNSW(Hierarchical Navigable Small World) 및 FLAT 인덱스 알고리즘을 모두 지원합니다.
+ **제로 가동 중지 확장성 -** ElastiCache는 가동 중지 없이 규모 조정을 지원하므로 캐시가 증가함에 따라 용량을 조정할 수 있습니다.
+ **프레임워크 통합** - ElastiCache for Valkey는 LangGraph 프레임워크를 통해 Amazon Bedrock AgentCore와 통합되어 Amazon Bedrock에 구축된 에이전트를 위한 Valkey 지원 시맨틱 캐시를 구현할 수 있습니다.