View a markdown version of this page

애플리케이션에서 InvokeGuardrailChecks API 사용 - Amazon Bedrock
지원되는 리전:

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

애플리케이션에서 InvokeGuardrailChecks API 사용

InvokeGuardrailChecks API를 사용하면 개별 가드레일 리소스를 생성하지 않고도 애플리케이션의 언제든지 콘텐츠 필터, 프롬프트 공격 탐지, 민감한 정보 필터와 같은 특정 보호 장치를 사용하여 사용자 프롬프트를 평가하고 응답을 모델링할 수 있습니다. 각 턴마다 콘텐츠 평가가 필요한 멀티턴 대화가 포함된 에이전트 AI 워크플로를 비롯한 다양한 애플리케이션에서이 API를 사용할 수 있습니다. API는 탐지 전용으로, 원치 않는 콘텐츠를 탐지하고 각 안전 점검에 대한 숫자 점수를 반환하므로 임계값을 정의하고 애플리케이션 로직 내에서 필요한 조치를 취할 수 있습니다. 이러한 점수를 사용하면 사용자 지정 임계값 및 애플리케이션 요구 사항에 따라 인적 검토를 위한 차단, 우회, 재시도 또는 라우팅과 같은 적응형 응답 로직을 구축할 수 있습니다.

InvokeGuardrailChecks API의 기능:

  • 유연성 - InvokeGuardrailChecks API를 사용하여 모든 안전 검사를 호출하고 애플리케이션의 모든 위치에 통합할 수 있습니다. LLM에 프롬프트를 보내기 전에, LLM으로부터 응답을 받은 후, 모델이 호출하려는 도구를 실행하기 전에, 도구가 결과를 반환한 후 또는 콘텐츠를 평가하려는 다른 시점에 안전 확인을 사용하여 API를 호출할 수 있습니다. 예를 들어 콘텐츠 필터가 있는 콘텐츠 조정과 함께 입력 프롬프트에 대한 프롬프트 공격 감지를 포함할 수 있지만 모델 응답이 있는 PII 콘텐츠와 같은 민감한 정보 유출이 있는지 확인할 수 있습니다.

  • 리소스를 미리 생성할 필요 없음 - API를 사용하여 필요한 보호 장치를 호출하기 전에 가드레일 리소스를 생성할 필요가 없습니다. CreateGuardrail 단계를 포함할 필요가 없으며 개별 가드레일 IDs 또는 버전을 추적할 필요가 없습니다. 이는 루프의 여러 단계에 서로 다른 안전 태세가 필요한 에이전트 AI 워크플로에 특히 유용합니다. 각 단계에서 가드레일 리소스를 생성하지 않고도 여러 단계에서 개별 보호 장치를 적용할 수 있으므로 운영 오버헤드를 피할 수 있습니다.

  • Detect 전용 - InvokeGuardrailChecks API는 숫자 점수가 0~1인 각 안전 점검에 대한 결과를 반환합니다. API는 콘텐츠를 차단, 전달 또는 수정하지 않습니다. 콘텐츠 차단, PII 일치 수정 또는 경고 표시와 같은 애플리케이션 요구 사항에 따라 필요한 작업을 결정합니다.

  • 지원되는 보호 장치 - InvokeGuardrailChecks API는 Amazon Bedrock Guardrails에서 제공하는 다음과 같은 보호 기능을 지원합니다.

주제

지원되는 리전:

InvokeGuardrailChecks API는 다음 AWS 리전에서 사용할 수 있습니다.

  • 미국 동부(버지니아 북부)

  • 미국 동부(오하이오)

  • 미국 서부(오리건)

  • 유럽(런던)

  • 유럽(스톡홀름)

  • 아시아 태평양(도쿄)

  • 아시아 태평양(시드니)