View a markdown version of this page

인스턴스 - Amazon Bedrock AgentCore
인스턴스를 사용해야 하는 경우핵심 개념컴퓨팅 유형 비교GPU 인스턴스 유형 사용호출 흐름세션 간 영구 스토리지IAM 역할

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

인스턴스

인스턴스 컴퓨팅 유형에서 에이전트를 호스팅하면 Amazon Bedrock AgentCore 런타임은 자체 AWS 계정 내에서 프로비저닝하고 작동하는 Amazon EC2 관리형 인스턴스에서 에이전트를 실행하므로 인스턴스 수명 주기, 운영 체제 및 런타임 패치 적용, 조정 또는 해체 없이 Amazon EC2의 하드웨어 선택 및 요금 혜택을 누릴 수 있습니다. 용량 공급자는 인스턴스가 사용하는 인프라를 정의하며 AgentCore는 사용자를 대신하여 프로비저닝, 패치 적용, 규모 조정 및 해체 작업을 처리합니다. 인스턴스는 계정에서 실행되므로 데이터는 계정에 유지되고, 기존 계정 제어가 적용되며, Savings Plans, 예약 인스턴스 및 온디맨드 용량 예약(ODCR)과 같은 EC2 요금 계약을 사용할 수 있습니다.ODCRs 인스턴스를 사용하면 영구 컴퓨팅을 얻고 단일 인스턴스에서 여러 공동 작업 에이전트를 실행하는 동시에 기본 인프라에 대한 가시성과 제어를 유지할 수 있습니다.

인스턴스를 사용해야 하는 경우

워크로드에 서버리스 microVM 모델이 제공하는 것 이상의 기능이 필요한 경우 인스턴스 컴퓨팅 유형을 선택합니다.

  • 지속적인 장기 실행 세션 - microVMs. 이는 장기 실행 자동화, 변환 작업 및 장기간에 걸쳐 일시 중지하고 재개하는 에이전트에 적합합니다.

  • 특수 하드웨어 - 3D 렌더링, 시뮬레이션 또는 모델 추론과 같은 컴퓨팅 집약적인 워크로드에 지원되는 GPU 인스턴스 유형을 선택합니다. AgentCore는 인스턴스에 GPU 드라이버를 프로비저닝하므로 표준 컨테이너 이미지는 드라이버 번들링 없이 작동하며 컴퓨팅(CUDA) 및 그래픽 워크로드가 모두 지원됩니다. 지원되는 패밀리는 GPU 인스턴스 유형 사용을 참조하세요.

  • 다중 에이전트 공동 작업 - 여러 에이전트가 동일한 인스턴스에서 실행되고, 파일 시스템을 공유하고, 동일한 작업을 조정할 수 있습니다.

  • 계정, 컨트롤 - 인스턴스는 계정에서 실행되므로 데이터는 계정에 남아 Savings PlansODCRs.

워크로드가 빠르게 완료되는 간단한 API 기반 상호 작용인 경우 기본 microVMs 컴퓨팅 유형이 일반적으로 더 적합합니다. 자세한 내용은 컴퓨팅 유형 비교를 참조하세요.

핵심 개념

인스턴스에서 에이전트를 호스팅하면 마이크로VM에 설명된 핵심 AgentCore 런타임 개념 외에도 몇 가지 리소스가 도입됩니다. microVMs

용량 공급자

용량 공급자는 운영 체제, 허용되는 인스턴스 유형, 네트워킹(VPC 및 서브넷), 스토리지 볼륨, 인스턴스를 프로비저닝하고 액세스하는 데 사용되는 IAM 역할 등 에이전트가 실행하는 EC2 인프라를 정의합니다. 용량 공급자는 재사용 가능한 템플릿으로, 여러 에이전트 런타임과 연결할 수 있으며 AgentCore는 해당 런타임이 호출될 때 이를 사용하여 인스턴스를 시작합니다.

주요 특징:

  • 용량 공급자는 CREATING 상태로 생성되며 구성이 검증된 READY 후가 됩니다. 검증에 실패하면 로 들어갑니다CREATE_FAILED.

  • 용량 공급자가 생성된 후에는 해당 설명만 편집할 수 있습니다. 다른 구성을 변경하려면 용량 공급자를 복제하고 중복 흐름에서 업데이트합니다.

  • 용량 공급자와 연결된 런타임(및 런타임 버전)을 나열할 수 있으며 용량 공급자를 삭제하려면 먼저 연결을 해제해야 합니다.

  • 용량 공급자를 삭제하면 연결된 모든 세션과 영구 스토리지가 중지되고 삭제됩니다.

인스턴스의 에이전트 런타임

에이전트 런타임을 생성할 때 해당 컴퓨팅 유형을 선택합니다. 인스턴스를 선택하면 capacityProviderConfiguration 파라미터를 통해 런타임이 용량 공급자와 연결됩니다. 런타임은 여전히 에이전트가 실행되는 항목(코드 또는 컨테이너 아티팩트)과 구성 방식(프로토콜, 인증, 엔드포인트, 버전)을 정의합니다. 용량 공급자는 에이전트가 실행되는 컴퓨팅을 정의합니다.

런타임이 생성된 후에는 컴퓨팅 유형을 변경할 수 없습니다.

세션

세션은 런타임의 용량 공급자로부터 인스턴스화된 격리된 EC2 인스턴스입니다. 각 세션에는 고유한 수명 주기와 영구 상태가 있으며 호출 시 제공하는 로 식별runtimeSessionId합니다. AgentCore는 새 세션 ID를 사용하여 첫 번째 호출 시 세션을 생성하고 세션은 중지 간에 상태를 유지합니다.

세션은 최대 14일 동안 실행됩니다. 세션이이 최대 수명에 도달하면 AgentCore는 세션을 자동으로 중지합니다. EC2 인스턴스는 종료되지만 세션의 영구 볼륨은 유지됩니다. 세션이 중지된 후 작업을 재개하려면 동일한를 사용하여 런타임을 다시 호출합니다runtimeSessionId. AgentCore는 새 인스턴스를 프로비저닝하고 영구 볼륨을 다시 연결하므로 데이터가 그대로 유지됩니다. 새 인스턴스는 업데이트된 머신 이미지에서 시작할 수 있으므로 다시 시작된 세션은 최신 패치가 있는 인스턴스에서 실행될 수 있습니다. 세션을 삭제하면 AgentCore는 영구 볼륨을 포함한 모든 항목을 프로비저닝 해제합니다.

세션 격리 및 다중 테넌트 보안 모델은 런타임 인스턴스에 대한 보안 모델 및 권한을 참조하세요.

에이전트

에이전트는 세션 내에서 실행되는 워크로드입니다. 하나의 런타임이 하나의 에이전트를 호스팅하는 microVM 모델과 달리 단일 인스턴스 세션은 여러 에이전트를 호스팅할 수 있습니다. 두 에이전트 런타임이 동일한 용량 공급자를 공유하는 경우 동일한를 사용하여 두 에이전트를 동일한 EC2 인스턴스에 랜딩runtimeSessionId할 수 있습니다. 여기에서 파일 시스템을 공유하고 동일한 작업에서 협업할 수 있습니다.

관리형 인스턴스 이해

세션을 지원하는 EC2 인스턴스는 Amazon EC2 관리형 인스턴스입니다. AgentCore는 사용자를 대신하여 계정에서 인스턴스를 프로비저닝하고 운영하므로 표준 EC2 인스턴스에 비해 해당 인스턴스에 대한 권한이 제한됩니다. EC2 DescribeInstances 출력의 Operator 필드와 인스턴스의 AgentCore 용량 공급자 태그로 식별할 수 있습니다.

이러한 인스턴스에서는 표준 EC2 수명 주기 작업을 직접 수행하지 않습니다. 예를 들어 인스턴스를 직접 시작, 패치 또는 종료하지 않습니다. AgentCore는 수명 주기를 관리합니다. 수명 주기를 제거하려면 세션과 영구 스토리지를 중지하고 삭제하는 연결된 용량 공급자를 삭제합니다. 관리형 인스턴스는 기본적으로 EC2 콘솔 보기 및 API 목록 작업에서 숨겨집니다. 관리형 리소스 가시성 설정을 사용하여 변경할 수 있습니다. 계정에서 완전히 작동하고 요금이 청구됩니다.

컴퓨팅 유형 비교

다음 표에서는 워크로드에 적합한 유형을 선택하는 데 도움이 되는 microVMs 및 인스턴스 컴퓨팅 유형을 비교합니다.

기능 microVMs 인스턴스

다음과 같은 경우에 가장 적합

빠른 시작, 온디맨드 확장, 몇 시간 내에 완료되는 경량 API 기반 에이전트

GPUs 또는 다중 에이전트 세션이 필요한 장기 실행, 상태 저장 또는 협업 워크로드

관리 모델

완전 AWS 관리형, 서버리스, 온디맨드 확장

AWS 계정의 관리형 EC2, 영구 세션을 사용하여 패치 적용 및 업데이트 AWS 관리

최대 세션 기간

최대 8시간

최대 14일

운영 체제

Linux 컨테이너(arm64)

Linux(x86_64 및 arm64)

네트워킹

PUBLIC 또는 VPC

VPC

에이전트 양식

API, CLI

API, CLI

세션당 에이전트 수

런타임 1개는 에이전트 1개를 호스팅합니다(1:1).

한 세션은 여러 에이전트를 호스팅할 수 있습니다(1:N).

지원되는 아티팩트

컨테이너 이미지 및 Amazon S3 소스

컨테이너 이미지 및 Amazon S3 소스

GPU 액세스

지원되지 않음

지원되는 GPU 인스턴스 유형을 선택합니다. 드라이버가 자동으로 프로비저닝됩니다.

요금

소비 기반, AgentCore에서 청구

계정에서 실행되는 EC2 인스턴스, Savings Plans 및 ODCRs 사용

모델 및 프레임워크

임의

임의

GPU 인스턴스 유형 사용

모델 추론, 3D 렌더링 및 미디어 처리와 같은 컴퓨팅 집약적인 워크로드의 경우 용량 공급자의 허용된 인스턴스 유형에 GPU 인스턴스 유형을 포함합니다. AgentCore는 인스턴스에 GPU 드라이버를 프로비저닝하므로 디바이스 경로, GPU 인덱스 또는 드라이버 버전을 구성하지 않으며 표준 컨테이너 이미지(예: CUDA 이미지)는 드라이버 번들링 없이 작동합니다. 컴퓨팅(CUDA) 및 그래픽(예: Vulkan, EGL, GLX) 워크로드가 모두 지원됩니다. 둘 이상의 에이전트가 동일한 인스턴스에서 실행되면 모든 에이전트가 GPUs에 대한 액세스를 공유합니다.

다음 GPU 및 액셀러레이터 인스턴스 패밀리가 지원됩니다.

  • NVIDIA GPU 패밀리 - g4dn, g5, g6, g6e, gr6, gr6f, g6f및 g7e.

  • AWS 액셀러레이터 패밀리 - inf2 ( AWS Inferentia2 제공).

지원되지 않는 패밀리의 액셀러레이터 인스턴스 유형을 포함하는 경우는 인스턴스 유형의 이름을 지정하고 지원되는 패밀리를 나열ValidationException하는와 함께 CreateCapacityProvider 실패합니다. 비가속 인스턴스 유형은 영향을 받지 않습니다.

호출 흐름

용량 공급자가 지원하는 에이전트 런타임을 호출하는 것은 microVM 모델과 동일한 InvokeAgentRuntime 진입점을 따릅니다. AgentCore는 용량 공급자를 해결하고, 인스턴스와 에이전트가 세션에 대해 실행되고 있는지 확인하고, 에이전트에 대한 요청을 프록시합니다.

  1. 런타임 ARN 및 InvokeAgentRuntime를 사용하여를 호출합니다runtimeSessionId.

  2. 해당 세션 ID에 대한 세션이 없는 경우 AgentCore는 계정의 런타임 용량 공급자로부터 EC2 인스턴스를 프로비저닝하고 해당 인스턴스에서 에이전트를 시작합니다. 세션의 첫 번째 호출에는 인스턴스 프로비저닝이 포함되어 있기 때문에 시간이 더 오래 걸립니다.

  3. 세션이 이미 있는 경우 AgentCore는 실행 중인 인스턴스를 재사용합니다. 동일한 세션 ID로 동일한 용량 공급자를 공유하는 두 번째 런타임을 호출하면 동일한 인스턴스의 첫 번째와 함께 해당 에이전트가 시작됩니다.

  4. AgentCore는 에이전트에 대한 요청을 프록시하고 응답을 다시 스트리밍합니다. 각 에이전트는 런타임의 실행 역할에서 파생된 자체 IAM 자격 증명으로 실행됩니다.

에이전트는 계정의 인스턴스에서 실행되므로 EC2 인스턴스, 네트워크 인터페이스 및 영구 볼륨은 계정의 EC2 콘솔에 표시되며 계정에 청구됩니다. 이러한 인스턴스는 AgentCore AgentCore가 사용자를 대신하여 계정에서 프로비저닝하고 운영하는 Amazon EC2 관리형 인스턴스입니다. 관리형 리소스 가시성 설정을 사용하여 EC2 콘솔 보기 및 API 목록 작업에 표시되는지 여부를 제어할 수 있습니다.

세션 간 영구 스토리지

용량 공급자는 하나 이상의 Amazon EBS 볼륨을 정의할 수 있습니다. 용량 공급자를 저장하면 AgentCore는 볼륨 구성을 저장하고 세션이 처음 시작될 때 EBS 볼륨을 생성합니다. 에이전트 런타임이 스토리지 구성을 통해 볼륨을 탑재하면 볼륨의 데이터는 세션이 중지됩니다.

  1. 세션의 첫 번째 호출 시 AgentCore는 볼륨을 생성하여 EC2 인스턴스에 연결합니다.

  2. AgentCore가 세션을 중지하면 EC2 인스턴스는 종료되지만 볼륨은 유지됩니다.

  3. 동일한를 사용하여 다음 간접 호출 시 runtimeSessionId AgentCore는 새 인스턴스를 프로비저닝하고 기존 볼륨을 다시 연결하여 에이전트가 이전 데이터를 그대로 볼 수 있도록 합니다.

이렇게 하면 세션 재시작 시 워크스페이스 파일, 캐시 및 체크포인트가 지속되는 상태 저장 에이전트 워크플로가 활성화됩니다. 세션을 삭제하면 인스턴스, 네트워크 인터페이스 및 EBS 볼륨과 같은 EC2 리소스의 프로비저닝이 해제되므로 더 이상 필요하지 않은 인프라에 대한 비용 발생을 중지할 수 있습니다.

IAM 역할

인스턴스에서 에이전트를 호스팅하려면 에이전트 코드에 런타임 권한을 부여하는 에이전트 런타임 실행 역할 외에도 다음 역할이 필요합니다.

  • 인스턴스 프로파일 - EC2 인스턴스에 연결된 IAM 역할입니다. AgentCore는 이를 사용하여 인스턴스에서 시스템 로그를 수집하며, 에이전트 코드에 권한을 부여하지 않습니다(에이전트 런타임 실행 역할이 이를 수행함).

  • 인프라 역할 - AgentCore가 사용자를 대신하여 계정의 EC2 인스턴스를 프로비저닝하고 관리하기 위해 수임하는 IAM 역할입니다(인스턴스 및 해당 네트워크 인터페이스에 대한 네트워킹 시작, 태그 지정 및 구성).

콘솔에서 기본 역할을 생성하도록 하거나 기존 역할을 제공할 수 있습니다. 인프라 역할은 AgentCore에 계정에서 컴퓨팅을 관리할 수 있는 권한을 부여하므로 워크로드에 필요한 최소 권한으로 범위를 지정하고 IAM 조건을 사용하여 적절한 경우 특정 VPCs, 서브넷 또는 인스턴스 유형으로 제한합니다.