Utilisation de fenêtres contextuelles longues
Amazon Nova Premier prend en charge une longueur de contexte de 1 million de jetons, ce qui correspond à 1 million de jetons de texte, 500 images ou 90 minutes de vidéo. Amazon Nova Premier excelle dans la compréhension du code et la réponse à des questions sur des documents longs. Ses performances peuvent légèrement diminuer à mesure que la taille du contexte augmente. Pour obtenir les meilleurs résultats, veuillez suivre les recommandations suivantes :
-
Placez les données longues au début : placez vos documents longs et vos entrées au début de votre invite. Ils doivent être placés avant votre requête, vos instructions et vos exemples.
-
Placez les instructions à la fin : placez vos instructions à la fin de l’invite. Le modèle fonctionne mieux lorsque le contexte est fourni en premier et les instructions à la fin.
-
Structurez les marqueurs de début et de fin du contenu du document : utilisez des marqueurs de début et de fin, tels que
[Document Start]et[Document End], pour indiquer le début et la fin d’un document long.Voici un exemple de modèle :
// Provide your long inputs at the top of your prompt [Document Start] {{ Your document}} [Document End] // Then specify your query and instructions {{ User query}} {{ Instructions}} -
Justifiez vos réponses à l’aide de marqueurs de citation : pour les tâches impliquant des documents longs, nous vous recommandons de demander au modèle Amazon Nova d’ancrer ses réponses à l’aide de citations tirées des sections pertinentes des documents avant de poursuivre la tâche. Cette approche aide le modèle à se concentrer sur les informations les plus pertinentes et à éviter d’être distrait par du contenu superflu. Lorsque vous demandez au modèle d’ancrer sa réponse, les sections pouvant être citées doivent être numérotées. Par exemple, Passage %[1]%, Passage %[2]%, etc. ou simplement <C1>, <C2>, etc. Pour plus d’informations sur la manière d’inclure des citations dans les invites, consultez Créer votre propre RAG.
Voici un exemple d’invite :
""" You are an AI financial assistant. Your task is to find patterns and insights from multi-year financial documents Passage %[1]% {{ Your document}} Passage %[2]% {{ Your document}} Passage %[3]% {{ Your document}} Passage %[4]% {{ Your document}} ## Task: Analyze Amazon's financial reports across multiple years to identify significant performance trends, segment growth patterns, and strategic shifts. ## Context information: - You have access to Amazon's annual financial reports (10-K) for multiple fiscal years in PDF format - These reports contain comprehensive financial data including income statements, balance sheets, cash flow statements, and management discussions - The analysis should focus on year-over-year comparisons to identify meaningful trends - Amazon operates multiple business segments including North America retail, International retail, Amazon Web Services (AWS), advertising, and subscription services Based on the provided Context, extract key financial metrics from each year's reports phrases from the documents, citing them using %[1]%, %[2]%, %[3]%, and for the corresponding passage that supports the response. ## Response Schema: %[1]% (Extracted Financial Metrics) %[2]% (Extracted Financial Metrics) %[3]% (Extracted Financial Metrics) ... """Après avoir extrait les informations clés en fonction de la tâche de l’utilisateur, vous pouvez utiliser les métriques financières extraites pour répondre aux questions pertinentes, comme indiqué :
""" ## Task Analyze Amazon's financial reports across multiple years to identify significant performance trends, segment growth patterns, and strategic shifts. {{ extracted financial metrics }} ## Model Instructions: - Organize data chronologically to identify meaningful trends - DO compare segment performance across the five-year period - DO identify significant strategic shifts or investments mentioned in management discussions - DO NOT make speculative predictions beyond what is supported by the data - ALWAYS note any changes in accounting practices or reporting methodologies that might affect year-over-year comparisons ## Response style and format requirements: - Respond in markdown - Structure the analysis with clear headings and subheadings - Present key financial metrics in tabular format showing all five years side-by-side - Include percentage changes year-over-year for all major metrics - Create a section dedicated to visualizing the most significant trends (with descriptions of what would be shown in charts) - Limit the executive summary to 250 words maximum - Format segment analysis as separate sections with consistent metrics across all segments - MUST include a Key Insights bullet-pointed list at the end of each major section