Inferência do Amazon Bedrock.

Depois de treinar e testar seu modelo do Amazon Nova, você poderá implantá-lo no Amazon Bedrock para inferência em escala de produção. O processo de implantação envolve a criação de um modelo do Amazon Bedrock com a API CreateCustomModel, a exportação dos artefatos do seu modelo de um bucket gerenciado do Amazon S3 e, quando o modelo estiver ATIVO, a configuração de um endpoint com inferência de throughput sob demanda ou provisionada.

Você também pode usar o SDK de personalização do Amazon Nova para implantar modelos personalizados do Amazon Nova. O SDK de personalização do Amazon Nova fornece uma experiência simplificada para extrair as informações relevantes de uma tarefa de treinamento ou de um ponto de verificação do modelo do S3 e publicá-los no Amazon Bedrock. Para obter mais informações, consulte SDK de personalização do Amazon Nova.

Para obter as etapas detalhadas para configurar a inferência do Amazon Bedrock para um modelo personalizado, consulte a seção a seguir.