Limitaciones - Amazon SageMaker AI

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Limitaciones

La personalización de Amazon Nova no admite las siguientes capacidades en la SageMaker IA.

  • Métricas personalizadas para la evaluación (RegEx o basadas en LLMAs jueces)

    La receta de evaluación actual de Amazon Nova no admite la incorporación de sus propias métricas personalizadas basadas en expresiones regulares o basadas en LLMAs Judge. Como solución alternativa, puede exportar el modelo a Amazon Bedrock y, a continuación, realizar llamadas de inferencia para evaluar el modelo personalizado con métricas personalizadas.

  • Utilice SSH en la instancia para buscar las métricas

    Debido a los controles de seguridad implementados, no puedes usar SSH en el nodo maestro de la instancia de entrenamiento algo-1 para buscar estadísticas de memoria o estadísticas de NVIDIA y validar los pasos de entrenamiento.

  • Support for SageMaker Trainer SDK

    SageMaker El entrenador no está disponible actualmente para iniciar trabajos de formación. Hoy solo puedes empezar a formar trabajos a través de la API Estimator.

  • Las piscinas calientes no son accesibles para los trabajos de formación SageMaker

    Debido a los controles de seguridad establecidos, las piscinas SageMaker calientes no se pueden utilizar para mantener la instancia en la piscina caliente hasta que sobreviva.

  • Fusión de modelos personalizados

    Actualmente, no se admite la fusión de varios modelos. Esto significa que no es posible crear varios adaptadores LoRa ni realizar una operación de fusión múltiple con el modelo base.

  • Herramienta de observabilidad compatible

    TensorBoardes la única herramienta de observabilidad compatible para ver las métricas de los trabajos de formación en SageMaker IA. MLFlowo WandB no son compatibles actualmente. Para obtener más información sobre su uso TensorBoard SageMaker, consulte TensorBoard en SageMaker AI.