FAQ

Q: 프롬프트 인젝션 공격을 방지하기 위해 고려해야 할 추가 보안 계층은 무엇입니까?

A. 다음 다이어그램은 LLM 입력, LLM 내장 가드레일 및 사용자 소개 가드레일의 세 가지 주요 보안 계층을 보여줍니다.

조직은 모든 계층에 보안 프로토콜을 구현하는 것을 고려해야 합니다. 첫 번째 계층(LLM 입력)의 경우 개인 식별 정보(PII) 또는 민감한 정보 수정, 인증, 권한 부여 및 암호화와 같은 메커니즘을 구현하여 애플리케이션을 보호하는 데 도움이 되는 위험 완화 단계를 고려합니다. 두 번째 계층(LLM 내장 가드레일)은 LLM에서 제공하는 모델 또는 애플리케이션 보안입니다. 대부분의 LLMs은 부적절한 사용을 방지하기 위해 보안 프로토콜로 훈련되지만 조직은 Amazon Bedrock용 Guardrails를 사용하여 모든 생성형 AI 애플리케이션에서 일관된 수준의 AI 안전을 제공하여 보안 제어를 추가하는 것을 고려해야 합니다. 마지막으로 사용자 소개 가드레일은 최상의 프롬프트 템플릿 설계와 생성된 출력에 대한 사후 처리 보안 조치를 도입하여 바람직하지 않은 결과를 방지해야 합니다.

Q: 조직은 프롬프트 엔지니어링에서 프롬프트 인젝션 공격으로부터 어떻게 보호할 수 있습니까?

A. 조직은 모범 사례 섹션에서 설명한 모범 사례 엔지니어링 사례를 구현하여 프롬프트 주입 공격으로부터 보호할 수 있습니다. 조직은 입력 검증, 프롬프트 삭제 및 보안 통신 채널과 같은 가드레일을 추가하는 것도 고려할 수 있습니다.

Q. 프롬프트 보안 요소는 모델에 구애받지 않나요?

A. 일반적으로 프롬프트 보안 요소는 특정 LLMs 맞게 설계되었습니다. 각 LLM은 데이터 품질, 다양성, 표현, 편향 및 미세 조정 접근 방식 측면에서 다르게 훈련되므로 한 LLM에 도입된 프롬프트 보안 요소는 다른 LLM으로 직접 이전할 수 없습니다. 그러나이 가이드에서 설명하는 보안 요소는 다른 LLMs.

Q: 이러한 요소를 엔터프라이즈 MLOps 프레임워크에 통합하려면 어떻게 해야 하나요?

A. 조직의 제약 조건 및 데이터 환경에 따라 특정 생성형 AI 사용 사례 또는 중앙 생성형 AI 거버넌스 팀에서 작업하는 데이터 과학자 또는 개발자가 프롬프트 보안 요소를 소유할 수 있습니다. 생성형 AI 솔루션을 위한 MLOps 프레임워크를 설계하고 프로덕션 환경에 솔루션을 릴리스할 때는 AWS 블로그 게시물 FMOps/LLMOps: 생성형 AI와 MLOps의 차이점을 운영화하고 Amazon SageMaker AI Clarify 및 MLOps 서비스를 시작점으로 사용하여 대규모 LLM 평가를 운영화하는 것을 검토하는 것이 좋습니다. 적절한 프롬프트 수준 보안이 추가되었는지 확인하기 위해 보안 게이트를 도입하는 것이 좋습니다.

Q: 성공적인 사용 사례는 무엇입니까?

A. 이 가이드에서 설명하는 가드레일은 HR, 기업 정책, 보험 문서 요약, 기업 투자 및 의료 기록 요약을 위한 RAG 기반 솔루션에 성공적으로 사용되었습니다.