

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

# Implemente un JumpStart modelo
<a name="deploy-jumpstart-model"></a>

Puede implementar un JumpStart modelo previamente entrenado para la inferencia mediante la CLI o el SDK.

## Uso de la CLI
<a name="deploy-jumpstart-cli"></a>

Ejecute el siguiente comando para implementar un JumpStart modelo:

```
hyp create hyp-jumpstart-endpoint \
  --version 1.0 \
  --model-id deepseek-llm-r1-distill-qwen-1-5b \
  --instance-type ml.g5.8xlarge \
  --endpoint-name endpoint-test-jscli
```

## Uso del SDK
<a name="deploy-jumpstart-sdk"></a>

Cree un script de Python con el siguiente contenido:

```
from sagemaker.hyperpod.inference.config.hp_jumpstart_endpoint_config import Model, Server, SageMakerEndpoint, TlsConfig
from sagemaker.hyperpod.inference.hp_jumpstart_endpoint import HPJumpStartEndpoint

model=Model(
    model_id='deepseek-llm-r1-distill-qwen-1-5b'
)

server=Server(
    instance_type='ml.g5.8xlarge',
)

endpoint_name=SageMakerEndpoint(name='{{<endpoint-name>}}')

# create spec
js_endpoint=HPJumpStartEndpoint(
    model=model,
    server=server,
    sage_maker_endpoint=endpoint_name
)
```

## Invocar al punto de conexión
<a name="invoke-jumpstart-endpoint"></a>

### Uso de la CLI
<a name="invoke-jumpstart-cli"></a>

Pruebe el punto de conexión con una entrada de muestra:

```
hyp invoke hyp-jumpstart-endpoint \
    --endpoint-name endpoint-jumpstart \
    --body '{"inputs":"What is the capital of USA?"}'
```

### Uso del SDK
<a name="invoke-jumpstart-sdk"></a>

Incluya el siguiente código en el script de Python:

```
data = '{"inputs":"What is the capital of USA?"}'
response = js_endpoint.invoke(body=data).body.read()
print(response)
```

## Administración del punto de conexión
<a name="manage-jumpstart-endpoint"></a>

### Uso de la CLI
<a name="manage-jumpstart-cli"></a>

Enumere e inspeccione el punto de conexión:

```
hyp list hyp-jumpstart-endpoint
hyp get hyp-jumpstart-endpoint --name endpoint-jumpstart
```

### Uso del SDK
<a name="manage-jumpstart-sdk"></a>

Incluya el siguiente código en el script de Python:

```
endpoint_iterator = HPJumpStartEndpoint.list()
for endpoint in endpoint_iterator:
    print(endpoint.name, endpoint.status)

logs = js_endpoint.get_logs()
print(logs)
```

## Eliminar recursos
<a name="cleanup-jumpstart-resources"></a>

Cuando haya terminado, elimine el punto de conexión para evitar costos innecesarios.

### Uso de la CLI
<a name="cleanup-jumpstart-cli"></a>

```
hyp delete hyp-jumpstart-endpoint --name endpoint-jumpstart
```

### Uso del SDK
<a name="cleanup-jumpstart-sdk"></a>

```
js_endpoint.delete()
```

## Siguientes pasos
<a name="jumpstart-next-steps"></a>

Ahora que ha entrenado un PyTorch modelo, lo ha implementado como un punto final personalizado y ha implementado un JumpStart modelo mediante HyperPod la CLI y el SDK, explore las funciones avanzadas:
+ **Entrenamiento de varios nodos**: escale el entrenamiento en varias instancias
+ **Contenedores personalizados**: cree entornos de entrenamiento especializados
+ **Integración con SageMaker Pipelines**: automatice sus flujos de trabajo de aprendizaje automático
+ **Supervisión avanzada**: configure las métricas y alertas personalizadas

Para ver más ejemplos y configuraciones avanzadas, visita el [SageMaker HyperPod GitHub repositorio](https://github.com/aws/amazon-sagemaker-examples).