Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés. # JumpStart uso del modelo básico Elija, entrene o implemente modelos básicos a través de Amazon SageMaker Studio o Amazon SageMaker Studio Classic, utilice los modelos JumpStart básicos mediante programación con el SageMaker Python SDK o descubra JumpStart los modelos básicos directamente a través de la consola de SageMaker IA. **Topics** + [Uso de los modelos fundacionales en Studio](jumpstart-foundation-models-use-studio-updated.md) + [Usa modelos de base en Amazon SageMaker Studio Classic](jumpstart-foundation-models-use-studio.md) + [Utilice modelos básicos con el SDK SageMaker Python](jumpstart-foundation-models-use-python-sdk.md) + [Descubra los modelos básicos en la consola de SageMaker IA](jumpstart-foundation-models-use-console.md) # Uso de los modelos fundacionales en Studio Amazon SageMaker Studio le permite ajustar, implementar y evaluar tanto los modelos básicos disponibles públicamente como los propietarios directamente a través de JumpStart la interfaz de usuario de Studio. **importante** A partir del 30 de noviembre de 2023, la experiencia anterior de Amazon SageMaker Studio pasa a denominarse Amazon SageMaker Studio Classic. La siguiente sección está dedicada expresamente al uso de la experiencia de Studio actualizada. Para obtener más información sobre el uso de la aplicación de Studio Classic, consulte [Amazon SageMaker Studio Clásico](studio.md). Para empezar, dirígete a la página de JumpStart destino de Amazon SageMaker Studio. Puede acceder a ella desde la página **Inicio** o desde el menú del panel izquierdo. En la página de **JumpStart**inicio, puede explorar los centros de modelos de proveedores de modelos disponibles públicamente y propietarios, y buscar modelos. En cada centro de modelos, puede ordenar los modelos por **Mayor cantidad de me gusta**, **Mayor cantidad de descargas**, **Actualizados hace poco** o filtrarlos por tarea. Seleccione un modelo para ver su tarjeta de detalles. En la tarjeta de detalles del modelo, puede elegir entre **Ajustar**, **Implementar** o **Evaluar** el modelo, según la opción disponible. Tenga en cuenta que no todos los modelos están disponibles para su afinamiento o evaluación. Para obtener más información sobre cómo empezar a utilizar Amazon SageMaker Studio, consulte[Amazon SageMaker Studio](studio-updated.md). **Topics** + [Refinamiento de un modelo en Studio](jumpstart-foundation-models-use-studio-updated-fine-tune.md) + [Implementación de un modelo en Studio](jumpstart-foundation-models-use-studio-updated-deploy.md) + [Evaluación de un modelo en Studio](jumpstart-foundation-models-use-studio-updated-evaluate.md) + [Usa tus SageMaker JumpStart modelos en Amazon Bedrock](jumpstart-foundation-models-use-studio-updated-register-bedrock.md) # Refinamiento de un modelo en Studio El refinamiento entrena un modelo previamente entrenado en un nuevo conjunto de datos sin tener que entrenarlo desde cero. Este proceso, también conocido como aprendizaje por transferencia, puede producir modelos precisos con conjuntos de datos más pequeños y con menos tiempo de entrenamiento. Para afinar JumpStart los modelos básicos, navega hasta una tarjeta de detalles del modelo en la interfaz de usuario de Studio. Para obtener más información sobre cómo abrir JumpStart en Studio, consulte. [Abrir en Studio JumpStart](studio-jumpstart.md#jumpstart-open-studio) Tras acceder a la tarjeta de detalles del modelo que prefiera, seleccione **Entrenar** en la esquina superior derecha. Tenga en cuenta que no todos los modelos están disponibles para su refinamiento. **importante** Algunos modelos fundacionales requieren la aceptación explícita de un acuerdo de licencia de usuario final (EULA) antes del refinamiento. Para obtener más información, consulte [Aceptación del EULA en Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio). ## Ajustes de modelos Cuando se utiliza un modelo JumpStart básico previamente entrenado en Amazon SageMaker Studio, la **ubicación del artefacto del modelo (URI de Amazon S3)** se rellena de forma predeterminada. Para editar el URI predeterminado de Amazon S3, elija **Introducir la ubicación del artefacto del modelo**. No todos los modelos admiten cambiar la ubicación del artefacto del modelo. ## Configuración de datos En el campo **Datos**, proporcione un punto de URI de Amazon S3 a la ubicación del conjunto de datos de entrenamiento. El URI predeterminado de Amazon S3 apunta a un ejemplo de conjunto de datos de entrenamiento. Para editar el URI predeterminado de Amazon S3, seleccione **Introducir conjunto de datos de entrenamiento** y cambie el URI. Asegúrate de revisar la tarjeta de detalles del modelo en Amazon SageMaker Studio para obtener información sobre el formato de los datos de entrenamiento. ## Hiperparámetros Puede personalizar los hiperparámetros del trabajo de entrenamiento que se utilizan para ajustar el modelo. Los hiperparámetros disponibles para cada modelo ajustable varían según el modelo. Los siguientes hiperparámetros son comunes entre los diversos modelos: + **Época**: una época es un ciclo que recorre todo el conjunto de datos. Varios intervalos completan un lote y, finalmente, varios lotes completan una época. Se ejecutan varias épocas hasta que la precisión del modelo alcanza un nivel aceptable o cuando la tasa de error cae por debajo de un nivel aceptable. + **Tasa de aprendizaje**: la cantidad que deben cambiar los valores entre épocas. A medida que se perfecciona el modelo, se modifican sus ponderaciones internas y se comprueban las tasas de error para ver si el modelo mejora. Una tasa de aprendizaje típica es de 0,1 o 0,01, donde 0,01 es un ajuste mucho menor y podría provocar que el entrenamiento tarde mucho en converger, mientras que 0,1 es mucho mayor y puede provocar que el entrenamiento se sobrepase. Es uno de los principales hiperparámetros que puede ajustar para entrenar su modelo. Tenga en cuenta que, en el caso de los modelos de texto, una tasa de aprendizaje mucho menor (5e-5 para BERT) puede dar como resultado un modelo más preciso. + **Tamaño del lote**: el número de registros del conjunto de datos que se van a seleccionar para cada intervalo y enviarlos al GPUs para su entrenamiento. Consulte las peticiones de la información sobre herramientas y la información adicional de la tarjeta de detalles del modelo en la interfaz de usuario de Studio para obtener más información sobre hiperparámetros específicos del modelo elegido. Para obtener más información sobre hiperparámetros disponibles, consulte [Hiperparámetros de refinamiento compatibles comunes](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters). ## Implementación Especifique el tipo de instancia de entrenamiento y la ubicación del artefacto de salida para el trabajo de entrenamiento. Solo puede elegir entre instancias que sean compatibles con el modelo elegido en el refinamiento de la interfaz de usuario de Studio. La ubicación predeterminada del artefacto de salida es el depósito predeterminado de la SageMaker IA. Para cambiar la ubicación del artefacto de salida, elija **Introducir ubicación del artefacto de salida** y cambie la URI de Amazon S3. ## Seguridad Especifique la configuración de seguridad que utilizará para su trabajo de formación, incluida la función de IAM que la SageMaker IA utiliza para entrenar su modelo, si su trabajo de formación debe conectarse a una nube privada virtual (VPC) y cualquier clave de cifrado para proteger sus datos. ## Información adicional En el campo **Información adicional** puede editar el nombre del trabajo de entrenamiento. También puede agregar y eliminar etiquetas en forma de pares clave-valor para organizar y categorizar sus trabajos de entrenamiento de refinamiento. Tras proporcionar la información para la configuración de refinamiento, seleccione **Enviar**. Si el modelo fundacional previamente diseñado que ha decidido refinar requiere aceptación explícita de un acuerdo de licencia para el usuario final (EULA) antes del entrenamiento, el EULA aparece en una ventana emergente. Para aceptar los términos del EULA, elija **Aceptar**. Usted es el responsable de revisar y cumplir los términos de licencia aplicables y de asegurarse de que sean aceptables para su caso de uso antes de descargar o usar el modelo. # Implementación de un modelo en Studio Para implementar modelos JumpStart básicos, navegue hasta una tarjeta de detalles del modelo en la interfaz de usuario de Studio. Para obtener más información sobre cómo abrir JumpStart en Studio, consulte[Abrir en Studio JumpStart](studio-jumpstart.md#jumpstart-open-studio). Tras acceder a la página de detalles del modelo que prefiera, seleccione **Implementar** en la esquina superior derecha de la interfaz de usuario de Studio. A continuación, siga los pasos que se indican en [Implementar modelos con SageMaker Studio](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints-deploy-models.html#deploy-models-studio). **importante** Algunos modelos fundacionales requieren la aceptación explícita de un acuerdo de licencia de usuario final (EULA) antes de su implementación. Para obtener más información, consulte [Aceptación del EULA en Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio). # Evaluación de un modelo en Studio Amazon SageMaker JumpStart tiene integraciones con las evaluaciones de SageMaker modelos básicos (FME) de Clarify en Studio. Si un JumpStart modelo tiene funciones de evaluación integradas, puede elegir **Evaluar** en la esquina superior derecha de la página de detalles del modelo en la interfaz de usuario de JumpStart Studio. Para obtener más información, consulte [Evaluar un modelo fundacional](https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models-evaluate.html). # Usa tus SageMaker JumpStart modelos en Amazon Bedrock Puede registrar los modelos que ha desplegado de Amazon SageMaker JumpStart en Amazon Bedrock. Con Amazon Bedrock, puede alojar su modelo en varios puntos de conexión. También puede utilizar las características de Amazon Bedrock, como los agentes y las bases de conocimiento. Para obtener más información acerca del uso de los modelos de Amazon Bedrock, consulte [https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html](https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html). **importante** Para migrar sus modelos a Amazon Bedrock, le recomendamos adjuntar una [AmazonBedrockFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonBedrockFullAccess.html)política a su función de IAM. Si no puede asociar la política administrada, asegúrese de que su rol de IAM tenga los siguientes permisos: **** ``` { "Version":"2012-10-17", "Statement": [ { "Sid": "BedrockAll", "Effect": "Allow", "Action": [ "bedrock:*" ], "Resource": "*" }, { "Sid": "DescribeKey", "Effect": "Allow", "Action": [ "kms:DescribeKey" ], "Resource": "arn:*:kms:*:::*" }, { "Sid": "APIsWithAllResourceAccess", "Effect": "Allow", "Action": [ "iam:ListRoles", "ec2:DescribeVpcs", "ec2:DescribeSubnets", "ec2:DescribeSecurityGroups" ], "Resource": "*" }, { "Sid": "MarketplaceModelEndpointMutatingAPIs", "Effect": "Allow", "Action": [ "sagemaker:CreateEndpoint", "sagemaker:CreateEndpointConfig", "sagemaker:CreateModel", "sagemaker:CreateInferenceComponent", "sagemaker:DeleteInferenceComponent", "sagemaker:DeleteEndpoint", "sagemaker:UpdateEndpoint" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*", "arn:aws:sagemaker:*:*:endpoint-config/*", "arn:aws:sagemaker:*:*:model/*" ], "Condition": { "StringEquals": { "aws:CalledViaLast": "bedrock.amazonaws.com" } } }, { "Sid": "BedrockEndpointTaggingOperations", "Effect": "Allow", "Action": [ "sagemaker:AddTags", "sagemaker:DeleteTags" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*", "arn:aws:sagemaker:*:*:endpoint-config/*", "arn:aws:sagemaker:*:*:model/*" ] }, { "Sid": "MarketplaceModelEndpointNonMutatingAPIs", "Effect": "Allow", "Action": [ "sagemaker:DescribeEndpoint", "sagemaker:DescribeEndpointConfig", "sagemaker:DescribeModel", "sagemaker:DescribeInferenceComponent", "sagemaker:ListEndpoints", "sagemaker:ListTags" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*", "arn:aws:sagemaker:*:*:endpoint-config/*", "arn:aws:sagemaker:*:*:model/*" ], "Condition": { "StringEquals": { "aws:CalledViaLast": "bedrock.amazonaws.com" } } }, { "Sid": "BedrockEndpointInvokingOperations", "Effect": "Allow", "Action": [ "sagemaker:InvokeEndpoint", "sagemaker:InvokeEndpointWithResponseStream" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*" ], "Condition": { "StringEquals": { "aws:CalledViaLast": "bedrock.amazonaws.com" } } }, { "Sid": "DiscoveringMarketplaceModel", "Effect": "Allow", "Action": [ "sagemaker:DescribeHubContent" ], "Resource": [ "arn:aws:sagemaker:*:aws:hub-content/SageMakerPublicHub/Model/*", "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub" ] }, { "Sid": "AllowMarketplaceModelsListing", "Effect": "Allow", "Action": [ "sagemaker:ListHubContents" ], "Resource": "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub" }, { "Sid": "RetrieveSubscribedMarketplaceLicenses", "Effect": "Allow", "Action": [ "license-manager:ListReceivedLicenses" ], "Resource": [ "*" ] }, { "Sid": "PassRoleToSageMaker", "Effect": "Allow", "Action": [ "iam:PassRole" ], "Resource": [ "arn:aws:iam::*:role/*Sagemaker*ForBedrock*" ], "Condition": { "StringEquals": { "iam:PassedToService": [ "sagemaker.amazonaws.com", "bedrock.amazonaws.com" ] } } }, { "Sid": "PassRoleToBedrock", "Effect": "Allow", "Action": [ "iam:PassRole" ], "Resource": "arn:aws:iam::*:role/*AmazonBedrock*", "Condition": { "StringEquals": { "iam:PassedToService": [ "bedrock.amazonaws.com" ] } } } ] } ``` La política de acceso completo de Amazon Bedrock solo proporciona permisos a la API de Amazon Bedrock. Para utilizar Amazon Bedrock en Consola de administración de AWS, su función de IAM también debe tener los siguientes permisos: ``` { "Sid": "AllowConsoleS3AccessForBedrockMarketplace", "Effect": "Allow", "Action": [ "s3:GetObject", "s3:GetBucketCORS", "s3:ListBucket", "s3:ListBucketVersions", "s3:GetBucketLocation" ], "Resource": "*" } ``` Si está redactando su propia política, debe incluir la instrucción de la política que permita la acción de Amazon Bedrock Marketplace para el recurso. Por ejemplo, la siguiente política permite a Amazon Bedrock utilizar la operación `InvokeModel` para un modelo que haya implementado en un punto de conexión. **** ``` { "Version":"2012-10-17", "Statement": [ { "Sid": "BedrockAll", "Effect": "Allow", "Action": [ "bedrock:InvokeModel" ], "Resource": [ "arn:aws:bedrock:us-east-1:111122223333:marketplace/model-endpoint/all-access" ] }, { "Sid": "VisualEditor1", "Effect": "Allow", "Action": ["sagemaker:InvokeEndpoint"], "Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/*", "Condition": { "StringEquals": { "aws:ResourceTag/project": "example-project-id", "aws:CalledViaLast": "bedrock.amazonaws.com" } } } ] } ``` Tras implementar un modelo, es posible que pueda utilizarlo en Amazon Bedrock. Para comprobar si puede utilizarlo en Amazon Bedrock, navegue hasta la tarjeta de detalles del modelo en la interfaz de usuario de Studio. Si la tarjeta del modelo dice que es **Bedrock Ready**, puede registrar el modelo en Amazon Bedrock. **importante** De forma predeterminada, Amazon SageMaker JumpStart inhabilita el acceso a la red para los modelos que implementes. Si ha habilitado el acceso a la red, no podrá utilizar el modelo con Amazon Bedrock. Si desea utilizar el modelo con Amazon Bedrock, debe volver a implementarlo con el acceso a la red deshabilitado. Para utilizarlo con Amazon Bedrock, vaya a la página **Detalles del punto de conexión** y elija **Usar con Bedrock** en la esquina superior derecha de la interfaz de usuario de Studio. Cuando aparezca la ventana emergente, seleccione **Registrarse en Bedrock**. # Usa modelos de base en Amazon SageMaker Studio Classic Puede ajustar e implementar tanto los modelos básicos disponibles públicamente como los propietarios a través de JumpStart la interfaz de usuario de Studio Classic. **importante** A partir del 30 de noviembre de 2023, la experiencia anterior de Amazon SageMaker Studio pasa a denominarse Amazon SageMaker Studio Classic. La siguiente sección es específica del uso de la aplicación de Studio Classic. Para obtener información sobre el uso de la experiencia de Studio actualizada, consulte [Amazon SageMaker Studio](studio-updated.md). Studio Classic se sigue manteniendo para las cargas de trabajo existentes, pero ya no está disponible para su incorporación. Solo puede detener o eliminar las aplicaciones de Studio Classic existentes y no puede crear aplicaciones nuevas. Te recomendamos que [migres tu carga de trabajo a la nueva experiencia de Studio](studio-updated-migrate.md). Para comenzar a utilizar Studio Classic, consulte [Lanzamiento de Amazon SageMaker Studio Classic](studio-launch.md). ![\[JumpStart foundation models available in Amazon SageMaker Studio Classic.\]](http://docs.aws.amazon.com/es_es/sagemaker/latest/dg/images/jumpstart/jumpstart-fm-studio.png) Tras abrir Amazon SageMaker Studio Classic, selecciona **Modelos, libretas y soluciones** en la SageMaker JumpStart sección del panel de navegación. A continuación, desplácese hacia abajo para encontrar la sección **Modelos fundacionales: generación de texto** o **Modelos fundacionales: generación de imágenes**, según su caso de uso. Puede elegir **Ver modelo** en una tarjeta de modelo fundacional sugerida o seleccionar **Explorar todos los modelos** para ver todos los modelos fundacionales disponibles para la generación de texto o la generación de imágenes. Si elige ver todos los modelos disponibles, puede filtrar aún más los modelos disponibles por tarea, tipo de datos, tipo de contenido o marco. También puede buscar un nombre de modelo directamente en la barra de **búsqueda**. Si necesita orientación para seleccionar un modelo, consulte [Modelos fundacionales disponibles](jumpstart-foundation-models-latest.md). **importante** Algunos modelos fundacionales requieren la aceptación explícita de un acuerdo de licencia de usuario final (EULA). Para obtener más información, consulte [Aceptación del EULA en Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio). Después de elegir **Ver modelo** para el modelo fundacional que prefiera en Studio Classic, podrá implementar el modelo. Para obtener más información, consulte [Implementación de un modelo](jumpstart-deploy.md). También puede seleccionar **Abrir bloc de notas** en la sección **Ejecutar en cuaderno** para ejecutar un cuaderno de ejemplo para el modelo fundacional directamente en Studio Classic. **nota** Para implementar un modelo fundacional patentado en Studio Classic, primero debe suscribirse al modelo en AWS Marketplace. El AWS Marketplace enlace se proporciona en el bloc de notas de ejemplo asociado de Studio Classic. Si el modelo se puede ajustar, también puede ajustarlo. Para obtener más información, consulte [Ajuste de un modelo](jumpstart-fine-tune.md). Para obtener una lista de los modelos de JumpStart base que se pueden ajustar con precisión, consulte. [Modelos fundacionales e hiperparámetros para el refinamiento](jumpstart-foundation-models-fine-tuning.md) # Utilice modelos básicos con el SDK SageMaker Python Todos JumpStart los modelos básicos están disponibles para su implementación programática mediante el SageMaker Python SDK. Para implementar modelos fundacionales disponibles públicamente, puede usar su ID de modelo. Puede encontrar el modelo de todos IDs los modelos básicos disponibles públicamente en la tabla de [algoritmos integrados con modelos previamente entrenados](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html). Busque el nombre de un modelo fundacional en la barra **Buscar**. Use el menú desplegable **Mostrar entradas** o los controles de paginación para navegar por los modelos disponibles. Los modelos patentados deben implementarse utilizando la información del paquete del modelo después de suscribirse al modelo en AWS Marketplace. Puede encontrar la lista de modelos JumpStart disponibles en[Modelos fundacionales disponibles](jumpstart-foundation-models-latest.md). **importante** Algunos modelos fundacionales requieren la aceptación explícita de un acuerdo de licencia de usuario final (EULA). Para obtener más información, consulte [Aceptación del EULA con el SDK SageMaker Python](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-python-sdk). En las siguientes secciones se muestra cómo refinar modelos fundacionales disponibles públicamente utilizando la clase `JumpStartEstimator`, implementar modelos fundacionales disponibles públicamente utilizando la clase `JumpStartModel` e implementar modelos fundacionales patentados utilizando la clase `ModelPackage`. **Topics** + [Refinamiento de los modelos fundacionales disponibles públicamente con la clase `JumpStartEstimator`](jumpstart-foundation-models-use-python-sdk-estimator-class.md) + [Implementación de modelos fundacionales disponibles públicamente con la clase `JumpStartModel`](jumpstart-foundation-models-use-python-sdk-model-class.md) + [Implementación de modelos fundacionales patentados con la clase `ModelPackage`](jumpstart-foundation-models-use-python-sdk-proprietary.md) # Refinamiento de los modelos fundacionales disponibles públicamente con la clase `JumpStartEstimator` **nota** Para obtener instrucciones sobre cómo refinar modelos fundacionales en un centro privado, consulte [Refinamiento de modelos de centros seleccionados](jumpstart-curated-hubs-fine-tune.md). Con el SDK, puede ajustar con precisión un algoritmo integrado o un modelo previamente entrenado en tan solo unas pocas líneas de código. SageMaker Python 1. En primer lugar, busque el identificador del modelo que prefiera en la [Tabla de algoritmos integrados con modelos previamente entrenados](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html). 1. Con el ID del modelo, defina su trabajo de entrenamiento como un estimador. JumpStart ``` from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "huggingface-textgeneration1-gpt-j-6b" estimator = JumpStartEstimator(model_id=model_id) ``` 1. Ejecute `estimator.fit()` en el modelo, apuntando a los datos de entrenamiento que desea usar para su refinamiento. ``` estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} ) ``` 1. A continuación, utilice el método `deploy` para implementar automáticamente el modelo para inferencia. En este ejemplo, utilizamos el modelo GPT-J 6B de Hugging Face. ``` predictor = estimator.deploy() ``` 1. A continuación, puede ejecutar inferencia con el modelo implementado utilizando el método `predict`. ``` question = "What is Southern California often abbreviated as?" response = predictor.predict(question) print(response) ``` **nota** En este ejemplo se utiliza el modelo fundacional GPT-J 6B, que es adecuado para una amplia gama de casos de uso de generación de texto, como respuesta a preguntas, reconocimiento de entidades con nombre, síntesis, etc. Para obtener más información acerca de casos de uso de modelos, consulte [Modelos fundacionales disponibles](jumpstart-foundation-models-latest.md). Si lo desea, puede especificar las versiones del modelo o tipos de instancia al crear su `JumpStartEstimator`. Para obtener más información sobre la `JumpStartEstimator ` clase y sus parámetros, consulte. [JumpStartEstimator](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.estimator.JumpStartEstimator) ## Comprobación de tipos de instancia predeterminados Si lo desea, puede incluir versiones de modelos o tipos de instancias específicos al refinar un modelo previamente entrenado con la clase `JumpStartEstimator`. Todos los JumpStart modelos tienen un tipo de instancia predeterminado. Recupere el tipo de instancia de entrenamiento predeterminado mediante el siguiente código: ``` from sagemaker import instance_types instance_type = instance_types.retrieve_default( model_id=model_id, model_version=model_version, scope="training") print(instance_type) ``` Con el `instance_types.retrieve()` método, puedes ver todos los tipos de instancias compatibles con un JumpStart modelo determinado. ## Comprobación de hiperparámetros predeterminados Para comprobar los hiperparámetros predeterminados utilizados para el entrenamiento, puede utilizar el método `retrieve_default()` de la clase `hyperparameters`. ``` from sagemaker import hyperparameters my_hyperparameters = hyperparameters.retrieve_default(model_id=model_id, model_version=model_version) print(my_hyperparameters) # Optionally override default hyperparameters for fine-tuning my_hyperparameters["epoch"] = "3" my_hyperparameters["per_device_train_batch_size"] = "4" # Optionally validate hyperparameters for the model hyperparameters.validate(model_id=model_id, model_version=model_version, hyperparameters=my_hyperparameters) ``` Para obtener más información sobre hiperparámetros disponibles, consulte [Hiperparámetros de refinamiento compatibles comunes](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters). ## Comprobación de definiciones de métricas predeterminadas También puede comprobar las definiciones de métricas predeterminadas: ``` print(metric_definitions.retrieve_default(model_id=model_id, model_version=model_version)) ``` # Implementación de modelos fundacionales disponibles públicamente con la clase `JumpStartModel` Con el SageMaker Python SDK, puede implementar un algoritmo integrado o un modelo previamente entrenado en un punto final de SageMaker IA con solo unas pocas líneas de código. 1. En primer lugar, busque el identificador del modelo que prefiera en la [Tabla de algoritmos integrados con modelos previamente entrenados](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html). 1. Con el ID del modelo, defina su modelo como JumpStart modelo. ``` from sagemaker.jumpstart.model import JumpStartModel model_id = "huggingface-text2text-flan-t5-xl" my_model = JumpStartModel(model_id=model_id) ``` 1. Utilice el método `deploy` para implementar automáticamente el modelo para inferencia. En este ejemplo, utilizamos el modelo FLAN-T5 XL de Hugging Face. ``` predictor = my_model.deploy() ``` 1. A continuación, puede ejecutar inferencia con el modelo implementado utilizando el método `predict`. ``` question = "What is Southern California often abbreviated as?" response = predictor.predict(question) print(response) ``` **nota** En este ejemplo se utiliza el modelo fundacional FLAN-T5 XL, que es adecuado para una amplia gama de casos de uso de generación de texto, como respuesta a preguntas, síntesis, creación de chatbots, etc. Para obtener más información acerca de casos de uso de modelos, consulte [Modelos fundacionales disponibles](jumpstart-foundation-models-latest.md). Para obtener más información sobre la `JumpStartModel ` clase y sus parámetros, consulte [JumpStartModel](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.model.JumpStartModel). ## Comprobación de tipos de instancia predeterminados Si lo desea, puede incluir versiones de modelos o tipos de instancias específicos al ajustar un modelo previamente entrenado con la clase `JumpStartModel`. Todos los JumpStart modelos tienen un tipo de instancia predeterminado. Recupere el tipo de instancia de implementación predeterminado mediante el siguiente código: ``` from sagemaker import instance_types instance_type = instance_types.retrieve_default( model_id=model_id, model_version=model_version, scope="inference") print(instance_type) ``` Consulta todos los tipos de instancias compatibles con un JumpStart modelo determinado con el `instance_types.retrieve()` método. ## Uso de componentes de inferencia para implementar varios modelos en un punto de conexión compartido Un componente de inferencia es un objeto de alojamiento de SageMaker IA que se puede utilizar para implementar uno o más modelos en un punto final a fin de aumentar la flexibilidad y la escalabilidad. Debe cambiarlo `endpoint_type` para que su JumpStart modelo sea el punto final predeterminado basado en el modelo, inference-component-based en lugar del punto final predeterminado. ``` predictor = my_model.deploy( endpoint_name = 'jumpstart-model-id-123456789012', endpoint_type = EndpointType.INFERENCE_COMPONENT_BASED ) ``` Para obtener más información sobre la creación de puntos finales con componentes de inferencia y la implementación de modelos de SageMaker IA, consulte. [Utilización de recursos compartidos con varios modelos](realtime-endpoints-deploy-models.md#deployed-shared-utilization) ## Comprobación de formatos de inferencia de entrada y salida válidos Para comprobar los formatos de entrada y salida de datos válidos para inferencia, puede utilizar el método `retrieve_options()` desde las clases `Serializers` y `Deserializers`. ``` print(sagemaker.serializers.retrieve_options(model_id=model_id, model_version=model_version)) print(sagemaker.deserializers.retrieve_options(model_id=model_id, model_version=model_version)) ``` ## Comprobación de contenido compatible y aceptación de tipos Del mismo modo, puede utilizar el método `retrieve_options()` para comprobar contenido compatible y aceptar tipos para un modelo. ``` print(sagemaker.content_types.retrieve_options(model_id=model_id, model_version=model_version)) print(sagemaker.accept_types.retrieve_options(model_id=model_id, model_version=model_version)) ``` [Para obtener más información sobre las utilidades, consulte Utilidad. APIs](https://sagemaker.readthedocs.io/en/stable/api/utility/index.html) # Implementación de modelos fundacionales patentados con la clase `ModelPackage` Los modelos patentados deben implementarse utilizando la información del paquete del modelo después de suscribirse al modelo en AWS Marketplace. Para obtener más información sobre la SageMaker IA AWS Marketplace, consulte [Compra y venta de algoritmos y modelos de Amazon SageMaker AI en AWS Marketplace](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-marketplace.html). Para encontrar AWS Marketplace enlaces a los modelos propietarios más recientes, consulta [Cómo empezar con Amazon SageMaker JumpStart](https://aws.amazon.com/sagemaker/jumpstart/getting-started/?sagemaker-jumpstart-cards.sort-by=item.additionalFields.priority&sagemaker-jumpstart-cards.sort-order=asc&awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model&awsf.sagemaker-jumpstart-filter-text=*all&awsf.sagemaker-jumpstart-filter-vision=*all&awsf.sagemaker-jumpstart-filter-tabular=*all&awsf.sagemaker-jumpstart-filter-audio-tasks=*all&awsf.sagemaker-jumpstart-filter-multimodal=*all&awsf.sagemaker-jumpstart-filter-RL=*all&sagemaker-jumpstart-cards.q=proprietary&sagemaker-jumpstart-cards.q_operator=AND). Tras suscribirse al modelo de su elección AWS Marketplace, podrá implementar el modelo básico mediante el SageMaker Python SDK y el SDK asociado al proveedor del modelo. Por ejemplo, AI21 Labs, Cohere y LightOn utilizan los `lightonsage` paquetes `"ai21[SM]"``cohere-sagemaker`, y, respectivamente. Por ejemplo, para definir un JumpStart modelo con Jurassic-2 Jumbo Instruct de AI21 Labs, utilice el siguiente código: ``` import sagemaker import ai21 role = get_execution_role() sagemaker_session = sagemaker.Session() model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35" my_model = ModelPackage( role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session ) ``` Por step-by-step ejemplo, busque y ejecute el bloc de notas asociado al modelo básico propietario que prefiera en Studio Classic. SageMaker Para obtener más información, consulte [Usa modelos de base en Amazon SageMaker Studio Classic](jumpstart-foundation-models-use-studio.md). Para obtener más información sobre el SageMaker Python SDK, consulte [https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage). # Descubra los modelos básicos en la consola de SageMaker IA Puede explorar los modelos JumpStart básicos directamente a través de Amazon SageMaker AI Console. 1. Abre la consola Amazon SageMaker AI en [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/). 1. Busque **JumpStart**en el panel de navegación izquierdo y elija **los modelos Foundation**. 1. Explore modelos o busque un modelo específico. Si necesita orientación para seleccionar un modelo, consulte [Modelos fundacionales disponibles](jumpstart-foundation-models-latest.md). Seleccione **Ver modelo** para ver la página de detalles del modelo fundacional que desee. 1. Si el modelo es un modelo patentado, seleccione **Suscribirse** en la esquina superior derecha de la página de detalles del modelo para suscribirse al modelo en AWS Marketplace. Debería recibir un correo electrónico de confirmación de su suscripción al modelo de su elección. Para obtener más información sobre la SageMaker IA AWS Marketplace, consulte [Compra y venta de algoritmos y modelos de Amazon SageMaker AI en AWS Marketplace](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-marketplace.html). Los modelos fundacionales disponibles públicamente no requieren una suscripción. 1. Para ver un ejemplo de bloc de notas GitHub, selecciona **Ver código** en la esquina superior derecha de la página de detalles del modelo. 1. Para ver y ejecutar un bloc de notas de ejemplo directamente en Amazon SageMaker Studio Classic, selecciona **Abrir bloc de notas en Studio** en la esquina superior derecha de la página de detalles del modelo.