FAQ

问：我应该考虑其他哪些安全层来防止即时注入攻击？

答：下图显示了三个主要的安全层：LLM输入、LLM内置护栏和用户引入的护栏。

您的组织应考虑在所有层面上实施安全协议。对于第一层（LLM输入），请考虑风险缓解措施，通过实施个人身份信息 (PII) 或敏感信息编辑、身份验证、授权和加密等机制来帮助保护应用程序。第二层（LLM内置护栏）是由提供的模型或应用证券。LLM尽管大多数组织LLMs都接受了安全协议的培训，以防止不当使用，但您的组织仍应考虑通过使用 Guardrails for Amazon Bedrock 来增加额外的安全控制，从而在所有生成的 AI 应用程序中实现一致的人工智能安全水平。最后，用户引入的护栏应在生成的输出上引入最佳的提示模板设计和后处理安全措施，以防止出现不良结果。

问：在即时工程中，组织如何防御即时注入攻击？

答：Organizations 可以通过实施最佳即时工程实践来抵御即时注入攻击，如最佳实践部分所述。您的组织也可以考虑添加防护措施，例如输入验证、及时清理和安全的通信渠道。

问：提示安全元素是否与模型无关？

答：通常，提示安全元素是为特定而设计的LLMs。在数据质量、多样性、表现形式、偏见和微调方法方面，每个人LLM的训练方式都不同，因此，为一个人引入的即时安全元素LLM不能直接转移到另一个安全要素上。LLM但是，本指南中讨论的安全要素可以为其他人开发量身定制的即时安全元素提供框架和方向LLMs。

问：我应该如何将这些元素整合到企业MLOps框架中？

答：根据贵组织的限制和数据格局，即时安全元素可以由正在研究特定生成人工智能用例的数据科学家或开发人员或中央生成人工智能治理团队拥有。在设计生成式人工智能解决方案的MLOps框架并将解决方案发布到生产环境时，我们建议您查看 AWS 博客文章 FMOps/LLMOps：使用 Amazon AI Clarify MLOps 和MLOps服务作为起点将生成 SageMaker 人工智能和差异化以及大规模运营LLM评估。考虑引入安全门，以确保添加了适当的提示级安全性。

问：有哪些成功的用例？

答：本指南中讨论的护栏已成功用于人力资源、公司保单、保险文件汇总、企业投资和病历摘要的RAG基于解决方案中。