Como usar o entendimento de documentos do Nova via API - Amazon Nova

Como usar o entendimento de documentos do Nova via API

Para ilustrar como usar o Amazon Nova para controle de qualidade (resposta a perguntas) ou análise de documentos, aqui está um exemplo simplificado em Python. Usaremos a API AWS Bedrock (via Boto3 SDK) para enviar um documento PDF junto com uma pergunta para que o modelo responda.

import base64 import base64 import json import boto3 # Initialize Bedrock runtime client (adjust region as needed) client = boto3.client("bedrock-runtime", region_name="us-east-1") MODEL_ID = "us.amazon.nova-lite-v1:5" # using Nova Lite model in this example # Read the document file (PDF) in binary mode with open("my_document.pdf", "rb") as file: doc_bytes = file.read() # Construct the conversation messages with document + question messages = [ { "role": "user", "content": [ { "document": { "format": "pdf", "name": "Document1", # neutral name for the document "source": { "bytes": doc_bytes # embedding the PDF content directly } } }, { "text": "Here is a question about the document: ... (your question) ... ?" } ] } ] # Set inference parameters (optional) inf_params = {"maxTokens": 4000, "topP": 0.1, "temperature": 0.3} # Invoke the model response = client.converse(modelId=MODEL_ID, messages=messages, inferenceConfig=inf_params) # Extract and print the answer answer_text = response["output"]["message"]["content"][0]["text"] print(answer_text)

Se seus arquivos de entrada forem grandes (excedendo o limite de upload direto de 25 MB) ou se você tiver muitos arquivos, é possível armazená-los no Amazon S3 e referenciá-los. Isso evita o envio de bytes brutos por meio da solicitação. Ao usar o S3, certifique-se de que o serviço Bedrock tenha permissão para acessar o bucket/objeto. Por exemplo, para referenciar um PDF no S3, a fonte do documento usaria “S3Location” em vez de “bytes”, da seguinte forma:

messages = [ { "role": "user", "content": [ { "document": { "format": "pdf", "name": "Report2023", "source": { "s3Location": { "uri": "s3://your-bucket/path/to/document1.pdf", "bucketOwner": "123456789012" } } } }, { "text": "Summarize the key findings from the Q3 2023 report." } ] } ]
nota

Os nomes dos documentos podem incluir apenas caracteres alfanuméricos, hifens, parênteses e colchetes.

O campo name é vulnerável a injeções de prompt, porque o modelo pode interpretá-lo como instruções de forma inadvertida. Por isso, é recomendável especificar um nome neutro.