O que é a engenharia de prompts
Engenharia de prompts refere-se à prática de otimizar a entrada de texto para um grande modelo de linguagem (LLM) para melhorar a saída e obter as respostas desejadas. Os prompts ajudam um LLM a executar uma ampla variedade de tarefas, incluindo classificação, respostas a perguntas, geração de código, escrita criativa e muito mais. A qualidade dos prompts que você fornece a um LLM pode afetar a qualidade das respostas do modelo. Esta seção fornece todas as informações necessárias para começar a usar a engenharia de prompts. Também abrange ferramentas para ajudar a encontrar o melhor formato de prompt possível para o caso de uso ao usar um LLM no Amazon Bedrock
A eficácia dos prompts depende da qualidade das informações fornecidas e da habilidade na elaboração do próprio prompt. Os prompts podem incluir instruções, perguntas, detalhes contextuais, entradas e exemplos para orientar o modelo de forma eficaz e melhorar a qualidade dos resultados. Este documento descreve estratégias e táticas para otimizar o desempenho da família de modelos do Amazon Nova 2 Sonic. Os métodos aqui apresentados podem ser empregados em várias combinações para ampliar sua eficácia. Incentivamos que você realize experimentações para identificar as abordagens mais adequadas às suas necessidades específicas.
Conceitos básicos da engenharia de prompts
Antes de iniciar a engenharia de prompts, recomendamos que você tenha os seguintes elementos prontos para que possa desenvolver iterativamente o prompt mais adequado para seu caso de uso:
- Definir seu caso de uso
-
Defina seu caso de uso em quatro dimensões:
-
Tarefa: defina o que você deseja que o modelo realize. Isso determina a técnica correta de para prompts.
-
Perfil: defina o perfil que o modelo deve assumir para realizar essa tarefa. Os modelos do Amazon Nova são compatíveis com três perfis (sistema, usuário ou assistente).
-
Estilo de resposta: defina a estrutura ou o estilo de resposta que o modelo deve seguir com base no público, como JSON, markdown ou conversacional.
-
Instruções: defina o conjunto de instruções que o modelo deve seguir para responder de acordo com os critérios de sucesso.
-
- Estabelecer critérios de sucesso
-
Defina critérios de sucesso ou métricas de avaliação. Você pode fornecer uma lista de critérios ou métricas de avaliação específicas, como tamanho, pontuação BLEU, ROUGE, formato, factualidade e fidelidade.
- Elaborar um prompt
-
Crie um prompt inicial incorporando sua tarefa, perfil, estilo de resposta e instruções. Faça iterações com base nos resultados.
A eficácia dos prompts depende da qualidade das informações que você fornece.
