Amazon Bedrock Guardrails 사용 사례 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock Guardrails 사용 사례

가드레일을 만든 후 다음과 같은 방법으로 적용할 수 있습니다.

  • 모델 추론 - 모델에서 추론을 실행할 때 제출된 프롬프트와 생성된 응답에 가드레일을 적용합니다.

  • 에이전트 - 가드레일을 에이전트와 연결하여 에이전트로 전송된 프롬프트와 에이전트에서 반환된 응답에 적용합니다.

  • 지식 기반 - 지식 기반을 쿼리하고 지식 기반에서 응답을 생성할 때 가드레일을 적용합니다.

  • 흐름 - 흐름의 프롬프트 노드 또는 지식 기반 노드에 가드레일을 추가하여 이러한 노드의 입력 및 출력에 적용합니다.

다음 표에서는 AWS Management Console 또는 Amazon Bedrock API를 사용하여 이러한 각 기능에 가드레일을 포함하는 방법을 설명합니다.

사용 사례: 콘솔 API
모델 추론 플레이그라운드를 사용할 때 가드레일을 선택합니다. InvokeModel 또는 InvokeModelWithResponseStream 요청의 헤더에서 지정하거나 Converse 또는 ConverseStream 요청 본문의 guardrailConfig 필드에 포함합니다.
에이전트와 연결 에이전트를 생성하거나 업데이트할 때 에이전트 빌더가드레일 세부 정보 섹션에서 지정합니다. CreateAgent 또는 UpdateAgent 요청 본문에 guardrailConfiguration 필드를 포함합니다.
지식 기반 쿼리 쿼리 구성의 가드레일 섹션에 있는 단계를 따릅니다. 구성을 설정할 때 가드레일을 추가합니다. RetrieveAndGenerate 요청 본문에 guardrailConfiguration 필드를 포함합니다.
흐름의 프롬프트 노드에 포함 흐름을 생성하거나 업데이트할 때 프롬프트 노드를 선택하고 구성 섹션에서 가드레일을 지정합니다. CreateFlow 또는 UpdateFlow 요청의 nodes 필드에 프롬프트 노드를 정의할 때 PromptFlowNodeConfigurationguardrailConfiguration 필드를 포함합니다.
흐름의 지식 기반 노드에 포함 흐름을 생성하거나 업데이트할 때 지식 기반 노드를 선택하고 구성 섹션에서 가드레일을 지정합니다. CreateFlow 또는 UpdateFlow 요청의 nodes 필드에 지식 기반 노드를 정의할 때 KnowledgeBaseFlowNodeConfigurationguardrailConfiguration 필드를 포함합니다.

이 섹션에서는 모델 추론 및 Amazon Bedrock API와 함께 가드레일을 사용하는 방법을 다룹니다. 기본 추론 작업(InvokeModelInvokeModelWithResponseStream)과 Converse API(ConverseConverseStream)를 사용할 수 있습니다. 두 작업 세트 모두에서 동기식 및 스트리밍 모델 추론과 함께 가드레일을 사용할 수 있습니다. 사용자 입력을 선택적으로 평가하고 스트리밍 응답 동작을 구성할 수도 있습니다.