Usar janelas de contexto longo

Coloque dados longos no início: posicione seus documentos e entradas longos próximo do início do seu prompt. Eles devem ser posicionados antes da sua consulta, instruções e exemplos.

Coloque as instruções no final: posicione suas instruções no final do prompt. O modelo tem melhor desempenho quando o contexto é fornecido primeiro e as instruções são fornecidas no final.

Estruture marcadores de início e fim do conteúdo do documento: use marcadores de início e fim, como [Document Start] e [Document End], para indicar o início e o fim de um documento longo.

Veja um exemplo de modelo:

// Provide your long inputs at the top of your prompt
[Document Start]
{{ Your document}}
[Document End]

// Then specify your query and instructions
{{ User query}}
{{ Instructions}}

Fundamente suas respostas usando marcadores de citação: para tarefas de documentos longos, recomendamos que você instrua o modelo do Amazon Nova a fundamentar suas respostas usando citações das seções relevantes dos documentos antes de prosseguir com a tarefa. Essa abordagem ajuda o modelo a se concentrar nas informações mais pertinentes e evitar se distrair com conteúdo irrelevante. Quando você solicita que o modelo fundamente sua resposta, as seções que podem ser citadas devem ser numeradas. Por exemplo, Parágrafo %[1]%, Parágrafo %[2]% e assim por diante ou apenas <C1>, <C2> e assim por diante. Para obter informações detalhadas sobre como incluir citações nos prompts, consulte Criar sua própria RAG.

Veja a seguir um exemplo de prompt:

"""
You are an AI financial assistant. Your task is to find patterns and insights from multi-year financial documents 

Passage %[1]%
{{ Your document}}

Passage %[2]%
{{ Your document}}

Passage %[3]%
{{ Your document}}

Passage %[4]%
{{ Your document}}

## Task:
Analyze Amazon's financial reports across multiple years to identify significant performance trends, segment growth patterns, and strategic shifts.

## Context information:
- You have access to Amazon's annual financial reports (10-K) for multiple fiscal years in PDF format
- These reports contain comprehensive financial data including income statements, balance sheets, cash flow statements, and management discussions
- The analysis should focus on year-over-year comparisons to identify meaningful trends
- Amazon operates multiple business segments including North America retail, International retail, Amazon Web Services (AWS), advertising, and subscription services

Based on the provided Context, extract key financial metrics from each year's reports phrases from the documents, citing them using %[1]%, %[2]%, %[3]%, and for the corresponding
passage that supports the response.

## Response Schema:
%[1]%  (Extracted Financial Metrics)
%[2]%   (Extracted Financial Metrics)
%[3]%   (Extracted Financial Metrics)
...
"""

Depois de extrair as principais informações com base na tarefa do usuário, você pode usar as métricas financeiras extraídas para responder às perguntas relevantes, conforme mostrado:

"""
## Task
Analyze Amazon's financial reports across multiple years to identify significant performance trends, segment growth patterns, and strategic shifts.
{{ extracted financial metrics }}

## Model Instructions:
- Organize data chronologically to identify meaningful trends
- DO compare segment performance across the five-year period
- DO identify significant strategic shifts or investments mentioned in management discussions
- DO NOT make speculative predictions beyond what is supported by the data
- ALWAYS note any changes in accounting practices or reporting methodologies that might affect year-over-year comparisons

## Response style and format requirements:
- Respond in markdown
- Structure the analysis with clear headings and subheadings
- Present key financial metrics in tabular format showing all five years side-by-side
- Include percentage changes year-over-year for all major metrics
- Create a section dedicated to visualizing the most significant trends (with descriptions of what would be shown in charts)
- Limit the executive summary to 250 words maximum
- Format segment analysis as separate sections with consistent metrics across all segments
- MUST include a Key Insights bullet-pointed list at the end of each major section