什么是提示工程
提示工程是指优化对大型语言模型(LLM)的文本输入以改进输出并获得所需回复的做法。提示可以帮助 LLM 执行各种任务,包括分类、问题解答、代码生成、创意编写等。您向 LLM 提供的提示的质量可能会影响模型的回复质量。本节为您提供了开始使用提示工程所需的信息。此外,本文还介绍了相关工具,帮助您在 Amazon Bedrock 上使用大语言模型时,找到最适配自身使用案例的提示词格式
提示的有效性取决于所提供信息的质量和提示本身的技巧。提示可能包括说明、问题、上下文详细信息、输入和示例,以有效指导模型并提高结果质量。本文档阐述了优化 Amazon Nova 2 Sonic 系列模型性能的策略与方法。本文介绍的方法可通过多种方式组合使用,以增强其有效性。建议您通过实验,确定最贴合自身特定需求的实施方案。
开始使用提示工程
在开始提示工程之前,建议准备好以下元素,这样就可以针对自己的应用场景迭代开发出最优的提示:
- 定义使用案例
-
从四个维度定义使用案例:
-
任务:明确您希望模型达成的目标。这决定了应使用的提示词技术。
-
角色:指定模型在完成任务时应扮演的角色。Amazon Nova 模型支持三个角色(系统、用户或助手)。
-
响应风格:根据受众设定模型的响应结构或风格,例如 JSON、Markdown 或对话式。
-
指令:给出模型为满足成功标准而需遵循的具体指令。
-
- 制定成功标准
-
定义成功标准或评估指标。可提供标准列表或提供具体的评测指标,例如长度、BLEU 分数、ROUGE、格式、事实和忠诚度。
- 撰写提示词
-
撰写初始提示词,明确包含任务、角色、输出格式与具体指令。根据实际效果迭代优化。
提示词的有效性,取决于所提供信息的质量。