런타임 시 인라인 에이전트 구성
InvokeInlineAgent API를 사용하여 런타임 시 인라인 Amazon Bedrock 에이전트를 동적으로 구성하고 간접 호출할 수 있습니다. 인라인 에이전트를 사용하면 에이전트를 간접 호출하는 동시에 파운데이션 모델, 지침, 작업 그룹, 가드레일 및 지식 기반과 같은 에이전트 기능을 유연하게 지정할 수 있습니다. 에이전트 기능을 사용하기 전에 미리 정의할 필요가 없습니다.
다음은 간접 호출 시 에이전트를 구성할 수 있는 유연성을 제공하여 인라인 에이전트를 사용하는 것이 도움이 될 수 있는 몇 가지 사용 사례입니다.
-
다양한 구성으로 여러 에이전트 기능을 사용해 보고 별도의 에이전트를 생성하지 않고도 에이전트가 사용할 수 있는 도구를 동적으로 업데이트하여 빠른 실험을 수행합니다.
-
에이전트를 동적으로 간접 호출하여 새 에이전트 버전을 생성하거나 에이전트를 준비하지 않고도 특정 태스크를 수행합니다.
-
런타임 시 에이전트를 생성하고 간접 호출하여 간단한 쿼리를 실행하거나 간단한 태스크에 코드 인터프리터를 사용합니다.
-
다중 에이전트 협업 설정에서 여러 에이전트를 생성하여 태스크 또는 대화에서 함께 작업합니다.
다중 에이전트 협업을 사용하려면 인라인 에이전트 API를 사용하여 다음과 같은 조합으로 에이전트를 생성하면 됩니다.
에이전트 유형 Supervisor 공동 작업자 인라인 인라인 인라인 기존
지원되는 모델 및 리전
Amazon Bedrock Agents에서 지원하는 파운데이션 모델을 사용하여 인라인 에이전트를 구성하고 Amazon Bedrock Agents가 지원되는 모든 리전에서 인라인 에이전트를 간접 호출할 수 있습니다. Amazon Bedrock Agents에서 지원하는 모델 및 리전에 대한 자세한 내용은 다음을 참조하세요.
인라인 에이전트를 사용하면 모델 간에 전환할 수 있습니다. 동일한 제품군에 속하는 모델 간에 전환하는 것이 좋습니다. 서로 다른 제품군에 속하는 모델 간에 전환하면 동작이 일관되지 않고 오류가 발생할 수 있습니다.
인라인 에이전트 구성 및 간접 호출은 현재 Amazon Bedrock 콘솔에서 지원되지 않습니다.
인라인 에이전트에 대한 고급 프롬프트 템플릿 사용 지침
-
기본 프롬프트 템플릿 - 기본적으로 Amazon Bedrock은 인라인 에이전트에 기본 프롬프트 템플릿을 사용하며 언제든지 백그라운드에서 프롬프트를 변경할 수 있습니다. 이로 인해 응답이 일관되지 않을 수 있습니다. 쿼리에 일관되게 응답하려면 기본 프롬프트 템플릿의 로직을 자체 구성으로 재정의하여 인라인 에이전트의 동작을 사용자 지정합니다. 자세한 내용은 고급 프롬프트 템플릿을 참조하세요.
-
암호화 - 저장/보관 시 세션 세부 정보를 암호화하는 데
customer managed key를 사용합니다. 고객 관리형 키로 세션을 시작하는 경우, 해당 키가 동일한 세션의 향후 모든 요청에 필요합니다. 동일한 세션에 다른 고객 관리형 키를 사용하면 예외가 발생합니다. -
세션 공유 - 앞으로 모든 세션은 역할 수준 대신 계정 수준으로 이루어집니다.
agentName에 고유한 값을 지정하여 에이전트 수준에서 세션을 격리할 수 있습니다. -
인라인 세션 상태 -
InlineSessionState의 내부 속성은 세션을 통해 유지됩니다. 속성을 사용하여 모델에 대한 추가 컨텍스트와 퓨샷 프롬프팅을 제공합니다.
