FAQ

Q. 신속한 주입 공격을 방지하기 위해 고려해야 할 추가 보안 계층은 무엇입니까?

A. 다음 다이어그램은 LLM 입력, LLM 내장 가드레일 및 사용자 소개 가드레일의 세 가지 주요 보안 계층을 보여줍니다.

조직은 모든 계층에 보안 프로토콜을 구현하는 것을 고려해야 합니다. 첫 번째 계층(LLM 입력)의 경우 개인 식별 정보(PII) 또는 민감한 정보 수정, 인증, 권한 부여 및 암호화와 같은 메커니즘을 구현하여 애플리케이션을 보호하는 데 도움이 되는 위험 완화 단계를 고려합니다. 두 번째 계층(LLM 내장 가드레일)은에서 제공하는 모델 또는 애플리케이션 보안입니다LLM. 대부분은 부적절한 사용을 방지하기 위해 보안 프로토콜로 LLMs 훈련되지만 조직은 Amazon Bedrock용 Guardrails를 사용하여 모든 생성형 AI 애플리케이션에서 일관된 수준의 AI 안전을 제공하는 보안 제어를 추가하는 것을 고려해야 합니다. 마지막으로, 사용자가 도입한 가드레일은 최상의 프롬프트 템플릿 설계와 생성된 출력에 대한 후처리 보안 조치를 도입하여 바람직하지 않은 결과를 방지해야 합니다.

Q. 조직은 프롬프트 엔지니어링에서 프롬프트 주입 공격으로부터 어떻게 방어할 수 있습니까?

A. 조직은 모범 사례 섹션에서 설명하는 모범 사례 엔지니어링 사례를 구현하여 신속한 주입 공격으로부터 보호할 수 있습니다. 또한 조직은 입력 검증, 프롬프트 삭제 및 보안 통신 채널과 같은 가드레일을 추가하는 것도 고려할 수 있습니다.

Q. 프롬프트 보안 요소는 모델과 무관합니까?

A. 일반적으로 프롬프트 보안 요소는 특정에 맞게 설계되었습니다LLMs. 각각LLM은 데이터 품질, 다양성, 표현, 편향 및 미세 조정 접근 방식 측면에서 다르게 훈련되므로 한에 도입된 프롬프트 보안 요소는 다른에 직접 이전할 수 LLM 없습니다LLM. 그러나이 가이드에서 설명하는 보안 요소는 다른에 대한 맞춤형 프롬프트 보안 요소를 개발하기 위한 프레임워크와 방향을 제공할 수 있습니다LLMs.

Q. 이러한 요소를 엔터프라이즈 MLOps 프레임워크에 통합하려면 어떻게 해야 합니까?

A. 조직의 제약 조건 및 데이터 환경에 따라 특정 생성형 AI 사용 사례에 대해 작업하는 데이터 과학자 또는 개발자 또는 중앙 생성형 AI 거버넌스 팀이 프롬프트 보안 요소를 소유할 수 있습니다. 생성형 AI 솔루션의 MLOps 프레임워크를 설계하고 프로덕션 환경에 솔루션을 릴리스할 때는 Amazon AI SageMaker Clarify 및 MLOps 서비스를 시작점으로 사용하여 LLM FMOps생성형 AI 및 차이점을 운영화하고 대규모 평가를 운영화하는 /LLMOps: MLOps AWS 블로그 게시물을 검토하는 것이 좋습니다. 적절한 프롬프트 수준 보안이 추가되었는지 확인하기 위해 보안 게이트 도입을 고려합니다.

Q. 성공적인 사용 사례는 무엇입니까?

A. 이 가이드에서 설명하는 가드레일은 HR, 기업 정책, 보험 문서 요약, 기업 투자 및 의료 기록 요약을 위한 RAG기반 솔루션에 성공적으로 사용되었습니다.