Inferencia de Amazon Bedrock

Cuando haya entrenado y probado su modelo de Amazon Nova, puede implementarlo en Amazon Bedrock para realizar inferencias a escala de producción. El proceso de implementación implica la creación de un modelo de Amazon Bedrock con la API CreateCustomModel, la exportación de los artefactos del modelo a dicho modelo desde un bucket de Amazon S3 administrado y, a continuación, una vez que el modelo esté ACTIVO, la configuración de un punto de conexión con inferencia de rendimiento bajo demanda o aprovisionada.

También puede usar el SDK de personalización de Amazon Nova para implementar modelos personalizados de Amazon Nova. El SDK de personalización de Amazon Nova proporciona una experiencia optimizada para extraer la información relevante de un trabajo de entrenamiento o de un punto de control del modelo de S3 y publicarla en Amazon Bedrock. Para obtener información, consulte Amazon Nova Customization SDK.

Para ver los pasos detallados para configurar la inferencia de Amazon Bedrock para un modelo personalizado, consulte la siguiente sección.