常见问题解答

问：我应该考虑其他哪些安全层来防止即时注入攻击？

答：下图显示了三个主要的安全层：LLM 输入、LLM 内置护栏和用户引入的护栏。

您的组织应考虑在所有层面上实施安全协议。对于第一层（LLM 输入），请考虑风险缓解措施，通过实施个人身份信息 (PII) 或敏感信息编辑、身份验证、授权和加密等机制来帮助保护应用程序。第二层（LLM内置护栏）是法学硕士提供的模型或应用证券。尽管大多数 LLM 都接受了安全协议的培训，以防止不当使用，但您的组织仍应考虑通过使用 Guardrails for Amazon Bedrock 来添加额外的安全控制措施，以便在所有生成人工智能应用程序中实现一致的人工智能安全水平。最后，用户引入的护栏应在生成的输出上引入最佳的提示模板设计和后处理安全措施，以防止出现不良结果。

问：在即时工程中，组织如何防御即时注入攻击？

答：Organizations 可以通过实施最佳即时工程实践来抵御即时注入攻击，如最佳实践部分所述。您的组织也可以考虑添加防护措施，例如输入验证、及时清理和安全的通信渠道。

问：提示安全元素是否与模型无关？

答：通常，提示安全元素是为特定的 LLM 设计的。每个法学硕士在数据质量、多样性、表现形式、偏见和微调方法方面的训练都不同，因此，为一个法学硕士引入的即时安全元素不能直接转移到另一个法学硕士学位。但是，本指南中讨论的安全元素可以为为其他LLM开发量身定制的即时安全元素提供框架和方向。

问：我应该如何将这些元素整合到企业 MLOP 框架中？

答：根据贵组织的限制和数据格局，即时安全元素可以由正在研究特定生成人工智能用例的数据科学家或开发人员或中央生成人工智能治理团队拥有。当你为生成式人工智能解决方案设计 MLOPs 框架并将该解决方案发布到生产环境时，我们建议你查看 AWS 博客文章 FMOps/LLMOps：将生成人工智能和与 mLOP 的区别以及使用 A SageMaker mazon AI Clarify 和 mLOPs 服务作为起点大规模运营法学硕士评估。考虑引入安全门，以确保添加了适当的提示级安全性。

问：有哪些成功的用例？

答：本指南中讨论的护栏已成功用于人力资源、公司保单、保险文件摘要、企业投资和病历摘要的 RAG-based 解决方案。