翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

JumpStart モデルのデプロイ

CLI または SDK を使用して、事前トレーニング済みの JumpStart モデルを推論用にデプロイできます。

CLI の使用

次のコマンドを実行して JumpStart モデルをデプロイします。

hyp create hyp-jumpstart-endpoint \
    --version 1.0 \
    --model-id deepseek-llm-r1-distill-qwen-1-5b \
    --model-version 2.0.4 \
    --instance-type ml.g5.8xlarge \
    --endpoint-name endpoint-jumpstart \
    --tls-output-s3-uri s3://tls-bucket-inf1-beta2

SDK の使用

次の内容の Python スクリプトを作成します。

from sagemaker.hyperpod.inference.config.hp_jumpstart_endpoint_config import Model, Server, SageMakerEndpoint, TlsConfig
from sagemaker.hyperpod.inference.hp_jumpstart_endpoint import HPJumpStartEndpoint

model = Model(
    model_id="deepseek-llm-r1-distill-qwen-1-5b",
    model_version="2.0.4"
)

server = Server(
    instance_type="ml.g5.8xlarge"
)

endpoint_name = SageMakerEndpoint(name="endpoint-jumpstart")

tls_config = TlsConfig(tls_certificate_output_s3_uri="s3://tls-bucket-inf1-beta2")

js_endpoint = HPJumpStartEndpoint(
    model=model,
    server=server,
    sage_maker_endpoint=endpoint_name,
    tls_config=tls_config
)

js_endpoint.create()

エンドポイントの呼び出し

CLI の使用

サンプル入力を使用してエンドポイントをテストします。

hyp invoke hyp-jumpstart-endpoint \
    --endpoint-name endpoint-jumpstart \
    --body '{"inputs":"What is the capital of USA?"}'

SDK の使用

Python スクリプトに次のコードを追加します。

data = '{"inputs":"What is the capital of USA?"}'
response = js_endpoint.invoke(body=data).body.read()
print(response)

エンドポイントを管理する

CLI の使用

エンドポイントを一覧表示して検査します。

hyp list hyp-jumpstart-endpoint
hyp get hyp-jumpstart-endpoint --name endpoint-jumpstart

SDK の使用

Python スクリプトに次のコードを追加します。

endpoint_iterator = HPJumpStartEndpoint.list()
for endpoint in endpoint_iterator:
    print(endpoint.name, endpoint.status)

logs = js_endpoint.get_logs()
print(logs)

リソースをクリーンアップする

完了したら、不要なコストを避けるためにエンドポイントを削除します。

CLI の使用

hyp delete hyp-jumpstart-endpoint --name endpoint-jumpstart

SDK の使用

js_endpoint.delete()

次のステップ

PyTorch モデルをトレーニングし、カスタムエンドポイントとしてデプロイし、HyperPod の CLI と SDK を使用して JumpStart モデルをデプロイしたので、高度な機能について説明します。

その他の例と詳細設定については、SageMaker HyperPod GitHub リポジトリを参照してください。