本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

受監督的微調

簡介

受監督的微調會將資料集與輸入輸出對用於感興趣的任務。換句話說，您會提供提示 （問題、指示等） 的範例，以及正確或所需的回應，並繼續在這些回應上訓練模型。模型的權重經過調整，可將受監督的損失降至最低，通常是其預測和目標回應權杖之間的交叉熵。

何時使用 SFT？

當您有明確定義且具有明確所需輸出的任務時，SFT 是最佳的。如果您可以明確說出「給予 X 輸入，正確/想要的輸出是 Y」，而且您可以收集這類 X-Y 映射的範例，則監督式微調是很好的選擇。SFT Excel 的一些案例包括：

當您可以指定正確的行為時，SFT 是教導 LLM 新技能或行為的最直接方式。它利用模型現有的語言理解，並專注於您的任務。當差距是知識而非行為時，請勿使用 SFT；它不會讓模型學習新的事實、術語或最近的事件。在這些情況下， 偏好在大型網域內 corpora 或擷取擴增產生的持續預先訓練，以在推論時帶來外部知識。當您可以測量品質但無法標記單一正確答案時，使用可驗證的獎勵或 LLM-as-judge進行微調可能較 SFT 為佳。

根據 Nova 模型的任務複雜性和效能，無需調校，每個任務規劃數千到數萬個示範，資料品質、一致性和多樣性比原始磁碟區更重要。

何時使用參數效率和何時使用完整排名 SFT？

Nova 自訂配方可讓您執行參數效率，特別是 LoRA 或完整排名 SFT。如果您想要直接、具成本效益的模型更新，或資料很少，請偏好參數效率方法，以便訓練小型轉接器，同時讓大部分骨幹保持不變 （完整排名 SFT 更新所有模型參數）。

SFT 的資料混合

資料混合可讓您將自訂訓練資料集與 Nova 的專屬訓練資料結合。此功能適用於 Nova 1.0 和 Nova 2.0 模型。

Nova 專屬資料類型：Nova 同時支援文字和多模式 SFT 資料類型。它被組織成多個資料類別，每個類別都包含與對應類別相關的任務混合。

Nova 專屬資料類別：文字資料集包含數個類別，包括：自動決策、任務完成、目標導向資料集 （代理程式）、推理和非理性的精確任務執行資料集 (reasoning-instruction-following、指示遵循）、展示策略思維的序列，以及step-by-step任務明細 （規劃）、負責任的 AI (rai)、長內容、事實、數學、莖等。同樣地，多模態資料集包括影片、螢幕擷取畫面、圖表等。

資料混合功能可讓您將自己的微調訓練範例與用於微調 Nova 的 Nova 資料集範例混合。這可以防止過度擬合您的自訂訓練和 Nova 功能的「災難性忘記」，或在從新的預先訓練檢查點訓練時協助您建置功能。

若要混合 Nova 資料，您只需在 training_config 區段下，將 data_mixing 區塊新增至配方 YAML 檔案。文字和多模態資料混合區塊具有不同的內容，而 Nova 1.0 和 Nova 2.0 的資料混合區塊略有不同。請參閱對應的配方。

支援模型

支援的模態

YAML 組態範例

Nova 1.0 文字混合的範例資料混合區塊

## Run config
run:
  name: "my-lora-run"             # A descriptive name for your training job
  model_type: "amazon.nova-lite-v1:0:300k"  # Model variant specification, do not change
  model_name_or_path: "nova-lite/prod"      # Base model path, do not change
  replicas: 4                     # Number of compute instances for training, allowed values are 4, 8, 16
  data_s3_path: ""                # Customer data path
  output_s3_path: ""              # Output artifact path, SageMaker HyperPod job-specific configuration - not compatible with standard SageMaker Training jobs

  ## MLFlow configs
  mlflow_tracking_uri: "" # Required for MLFlow
  mlflow_experiment_name: "my-lora-experiment" # Optional for MLFlow. Note: leave this field non-empty
  mlflow_run_name: "my-lora-run" # Optional for MLFlow. Note: leave this field non-empty
  
## Training specific configs
training_config:
  max_length: 32768               # Maximum context window size (tokens).
  global_batch_size: 64           # Global batch size, allowed values are 16, 32, 64

  trainer:
    max_epochs: 2                # Number of training epochs

  model:
    hidden_dropout: 0.0          # Dropout for hidden states, must be between 0.0 and 1.0
    attention_dropout: 0.0       # Dropout for attention weights, must be between 0.0 and 1.0
    ffn_dropout: 0.0             # Dropout for feed-forward networks, must be between 0.0 and 1.0

    optim:
      lr: 1e-5                 # Learning rate
      name: distributed_fused_adam  # Optimizer algorithm, do not change
      adam_w_mode: true        # Enable AdamW mode
      eps: 1e-06               # Epsilon for numerical stability
      weight_decay: 0.0        # L2 regularization strength, must be between 0.0 and 1.0
      betas:                   # Adam optimizer betas, must be between 0.0 and 1.0
        - 0.9
        - 0.999
      sched:
        warmup_steps: 10     # Learning rate warmup steps
        constant_steps: 0    # Steps at constant learning rate
        min_lr: 1e-6         # Minimum learning rate

    peft:
      peft_scheme: "lora"      # Enable LoRA for parameter-efficient fine-tuning
      lora_tuning:
        loraplus_lr_ratio: 8.0  # LoRA+ learning rate scaling factor, must be between 0.0 and 100.0
        alpha: 32            # Scaling factor for LoRA weights. Allowed values are 32, 64, 96, 128, 160 and 192
        adapter_dropout: 0.01  # Regularization for LoRA parameters. Must be between 0.0 and 1.0

data_mixing:
  dataset_catalog: sft_text       # Nova text dataset catalog
  sources:
    customer_data:
      percent: 50                 # Percent of overall mix to draw from customer data
    nova_data:                    # The remainder will be drawn from Nova data. The categories below must add to 100
      agents: 1                   # autonomous decision-making, task completion, goal-oriented behavior in AI systems
      chat: 51                    # Conversational exchanges demonstrating natural dialogue flow
      code: 8                     # Programming examples and solutions spanning multiple languages
      rai: 1                      # ethical AI principles, safety considerations, and responsible technology deployment
      instruction-following: 13   # precise task execution based on varying levels of user prompts and directives
      stem: 6                     # science, technology, engineering, and mathematics content
      planning: 2                 # sequences demonstrating strategic thinking and step-by-step task breakdown
      reasoning: 8                # logical problem-solving and analytical thinking demonstrations
      rag: 1                      # retrieval-augmented generation examples
      translation: 9              # language translation tasks

Nova 2.0 組態範例

run:
  name: my-lora-sft-run
  model_type: amazon.nova-2-lite-v1:0:256k
  model_name_or_path: nova-lite-2/prod
  data_s3_path: s3://my-bucket-name/train.jsonl
  replicas: 4
  output_s3_path: s3://my-bucket-name/outputs/
  mlflow_tracking_uri: ""
  mlflow_experiment_name: "my-lora-sft-experiment"
  mlflow_run_name: "my-lora-sft-run"
  
training_config:
  max_steps: 100
  save_steps: 10
  save_top_k: 5
  max_length: 32768
  global_batch_size: 32
  reasoning_enabled: true
  lr_scheduler:
    warmup_steps: 15
    min_lr: 1e-6
  optim_config:
    lr: 1e-5
    weight_decay: 0.0
    adam_beta1: 0.9
    adam_beta2: 0.95
  peft:
    peft_scheme: "lora"
    lora_tuning:
      alpha: 64
      lora_plus_lr_ratio: 64.0

Nova 2.0 文字資料混合

data_mixing:
  dataset_catalog: sft_1p5_text_chat
  sources:
    customer_data:
      percent: 50
    nova_data:
      agents: 1
      baseline: 10
      chat: 0.5
      code: 10
      factuality: 0.1
      identity: 1
      long-context: 1
      math: 2
      rai: 1
      instruction-following: 13
      stem: 0.5
      planning: 10
      reasoning-chat: 0.5
      reasoning-code: 0.5
      reasoning-factuality: 0.5
      reasoning-instruction-following: 45
      reasoning-math: 0.5
      reasoning-planning: 0.5
      reasoning-rag: 0.4
      reasoning-rai: 0.5
      reasoning-stem: 0.4
      rag: 1
      translation: 0.1

Nova 1.0 多模態資料混合

data_mixing:
  dataset_catalog: sft_mm
  sources:
    customer_data:
      percent: 50
    nova_data:
      agents: 11
      docs: 17
      perception: 10
      rag: 4
      rai: 3
      reasoning: 10
      stem: 17
      text: 10
      video: 18

Nova 2.0 多模態資料混合

data_mixing:
  dataset_catalog: sft_1p5_mm_chat
  sources:
    customer_data:
      percent: 50
    nova_data:
      charts: 1
      chat: 38
      code: 20
      docs: 3
      general: 2
      grounding: 1
      rag: 4
      screenshot: 4
      text: 8
      translation: 4
      video: 15

模型檢查點

Nova 1.0 檢查點

Nova 2.0 檢查點

訓練階段：

訓練方法

開始之前的必要項目

實現成功 SFT 的系統性方法

實驗定序和資料混合

準備 SFT 的資料集

Nova 1.0：資料準備說明於 https：//https://docs.aws.amazon.com/sagemaker/latest/dg/nova-fine-tune.html

Nova 2.0：使用適用於 Nova 1.0 的 Converse API 格式 https://docs.aws.amazon.com/bedrock/latest/userguide/conversation-inference-call.html：//。Nova 2.0 資料格式可以包含其他推理欄位：https：//https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ReasoningContentBlock.html

推理內容會先擷取模型的中繼思考步驟，再產生最終答案。assistant 然後，使用 reasoningContent 欄位來包含推理追蹤。使用純文字推理內容、避免標記標籤，例如 <thinking>和 ，</thinking>除非任務特別要求，並確保推理內容清晰且與問題解決程序相關。

負責任的 AI Toolkit 和內容管制

內容管制設定：Nova Forge 客戶可存取 Nova Lite 1.0 和 Pro 1.0 模型的可自訂內容管制設定 (CCMS)。CCMS 可讓您調整內容管制控制，以符合您的特定業務需求，同時維護基本的負責任 AI 防護措施。若要判斷您的業務使用案例是否符合 CCMS 的資格，請聯絡您的 Amazon Web Services 客戶經理。

Nova Forge 提供負責任的 AI Toolkit，其中包含訓練資料、評估基準和執行時間控制，協助您讓模型符合 Nova 負責任的 AI 準則。

訓練資料：資料混合中的「RAI」類別包含強調負責任 AI 原則、安全考量和負責任技術部署的案例和案例。使用這些來在持續的預先訓練期間，以負責任的方式調整您的模型。

評估：基準任務可用於測試模型偵測和拒絕不適當、有害或不正確內容的能力。使用這些評估來衡量基本模型效能與自訂模型效能之間的差異。

執行時間控制：根據預設，Nova 的執行時間會在推論期間控制中等模型回應。若要修改特定商業案例的這些控制項，請聯絡您的 Amazon Web Services 客戶經理，請求可自訂的內容管制設定 (CCMS)。

共同的安全責任

安全是 Amazon Web Services 與客戶共同的責任。變更基礎模型或使用持續的預先訓練來改善特定使用案例的效能，可能會影響新模型的安全性、公平性和其他屬性。

我們使用強大的適應方法，將安全、公平性和其他保護的變更降至最低，同時將模型未自訂任務對模型效能的影響降至最低。

您負責：

如需詳細資訊，請參閱您計劃使用之服務的 Amazon Web Services 負責任使用 AI 指南、Amazon Web Services 負責任 AI 政策、 AWS 可接受的使用政策和 AWS 服務條款。

可自訂的內容管制設定 (CCMS)

CCMS 可讓您調整與業務需求相關的控制，同時維護基本、不可設定的控制，以確保負責任地使用 AI。

這些設定允許透過三種可用組態產生內容：

四個內容管制類別為：

無論您的 CCMS 組態為何，Amazon Nova 都會強制執行基本、不可設定的控制，以確保負責任地使用 AI，例如防止兒童受到傷害並保留隱私權的控制。

使用 CCMS 的建議

使用 CCMS 時，建議您使用持續預先訓練 (CPT)，並從 RAI 前對齊檢查點 (PRE-TRAINING-Early、PRE-TRAINING-Mid 或 PRE-TRAINING-Final) 開始，而不是 GA/FINAL 檢查點。這些檢查點尚未經過安全訓練或轉向特定的 RAI 行為，可讓您更有效率地根據內容管制要求進行自訂。

秘訣：使用 CCMS 與資料混合時，請考慮調整 nova_data 組態中的「rai」類別百分比，以符合您的特定內容管制要求。

可用性

CCMS 目前可供核准的客戶使用：

若要為 Forge 模型啟用 CCMS，請聯絡您的 Amazon Web Services 客戶經理。

評估方法

先決條件

現成基準：使用現成基準驗證一般任務的效能。如需詳細資訊，請參閱：https：//https://docs.aws.amazon.com/sagemaker/latest/dg/nova-hp-evaluate.html

使用您自己的資料

您也可以提供自訂資料，方法是將它們格式化為以下格式，然後視需要使用下列容器來取得推論結果以及校正的日誌機率。

使用下列結構為每個任務建立 jsonl：

{
  "metadata": "{key:4, category:'apple'}",
  "system": "arithmetic-patterns, please answer the following with no other words: ",
  "query": "What is the next number in this series? 1, 2, 4, 8, 16, ?",
  "response": "32"
}
      

在評估任務的推論階段產生的輸出將具有下列結構：

{
  "prompt": "[{'role': 'system', 'content': 'arithmetic-patterns, please answer the following with no other words: '}, {'role': 'user', 'content': 'What is the next number in this series? 1, 2, 4, 8, 16, ?'}]",
  "inference": "['32']",
  "gold": "32",
  "metadata": "{key:4, category:'apple'}"
}
      

欄位描述：

準備評估組態

啟動評估任務的命令。使用 "--override-parameters" 修改配方中的任何項目。

hyperpod start-job -n kubeflow \
  --recipe evaluation/nova/nova_micro_p5_48xl_bring_your_own_dataset_eval \
  --override-parameters '{
    "instance_type": "p5.48xlarge",
    "container": "708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest",
    "recipes.run.name": "<your-eval-job-name>",
    "recipes.run.model_name_or_path": "<checkpoint-s3-uri>",
    "recipes.run.output_s3_path": "s3://<your-bucket>/eval-results/",
    "recipes.run.data_s3_path": "s3://<your-bucket>/eval-data.jsonl"
  }'
      

最佳實務

準備訓練任務組態

Hyper 參數

資料混合以外的完整超參數集：

## Run config
run:
  name: my-lora-sft-run
  model_type: amazon.nova-2-lite-v1:0:256k
  model_name_or_path: nova-lite-2/prod
  data_s3_path: s3://my-bucket-name/train.jsonl  # SageMaker HyperPod (SMHP) only and not compatible with SageMaker Training jobs. Note replace my-bucket-name with your real bucket name for SMHP job
  replicas: 4                      # Number of compute instances for training, allowed values are 4, 8, 16, 32
  output_s3_path: s3://my-bucket-name/outputs/               # Output artifact path (Hyperpod job-specific; not compatible with standard SageMaker Training jobs). Note replace my-bucket-name with your real bucket name for SMHP job
  
  ## MLFlow configs
  mlflow_tracking_uri: "" # Required for MLFlow
  mlflow_experiment_name: "my-lora-sft-experiment" # Optional for MLFlow. Note: leave this field non-empty
  mlflow_run_name: "my-lora-sft-run" # Optional for MLFlow. Note: leave this field non-empty
  
training_config:
  max_steps: 100                   # Maximum training steps. Minimal is 4.
  save_steps: 10 # This parameter suggests after how many training steps the checkpoints will be saved. Should be less than or equal to max_steps(please override this value with a numerical value equal or less than max_steps value; min: 4)
  save_top_k: 5                    # Keep top K best checkpoints. Note supported only for SageMaker HyperPod jobs. Minimal is 1.
  max_length: 32768                # Sequence length (options: 8192, 16384, 32768 [default], 65536)
  global_batch_size: 32            # Golbal batch size (options: 32, 64, 128)
  reasoning_enabled: true          # If data has reasoningContent, set to true; otherwise False

  lr_scheduler:
    warmup_steps: 15               # Learning rate warmup steps. Recommend 15% of max_steps
    min_lr: 1e-6                   # Minimum learning rate, must be between 0.0 and 1.0

  optim_config:                    # Optimizer settings
    lr: 1e-5                       # Learning rate, must be between 0.0 and 1.0
    weight_decay: 0.0              # L2 regularization strength, must be between 0.0 and 1.0
    adam_beta1: 0.9                # Exponential decay rate for first-moment estimates, must be between 0.0 and 1.0
    adam_beta2: 0.95               # Exponential decay rate for second-moment estimates, must be between 0.0 and 1.0

  peft:                            # Parameter-efficient fine-tuning (LoRA)
    peft_scheme: "lora"            # Enable LoRA for PEFT
    lora_tuning:
      alpha: 64                    # Scaling factor for LoRA weights ( options: 32, 64, 96, 128, 160, 192),
      lora_plus_lr_ratio: 64.0     # LoRA+ learning rate scaling factor (0.0–100.0)

LoRA 最相關的參數是學習率、alpha （擴展參數）、訓練和暖機步驟的 epoch 數目；對於完整排名，主要是學習率、epoch 數目和暖機步驟。配方會預先填入建議的預設值。

設定資料混合區塊

使用跨資料集類別的適當百分比分佈，將 data_mixing 區段新增至您的配方。

以下說明每個可用的 Nova 資料類別。

Nova 1.0 組態與資料混合

data_mixing:
  dataset_catalog: sft_text       # Nova text dataset catalog
  sources:
    customer_data:
      percent: 50                 # Percent of overall mix to draw from customer data
    nova_data:                    # The remainder will be drawn from Nova data. The categories below must add to 100
      agents: 1                   # autonomous decision-making, task completion, goal-oriented behavior in AI systems
      chat: 51                    # Conversational exchanges demonstrating natural dialogue flow
      code: 8                     # Programming examples and solutions spanning multiple languages
      rai: 1                      # ethical AI principles, safety considerations, and responsible technology deployment
      instruction-following: 13   # precise task execution based on varying levels of user prompts and directives
      stem: 6                     # Technical content covering science, technology, engineering, and mathematics
      planning: 2                 # Sequences demonstrating strategic thinking and step-by-step task breakdown
      reasoning: 8                # Logical deduction, critical thinking, and analytical problem-solving scenarios
      rag: 1                      # combining retrieved external knowledge with generated responses
      translation: 9              # Multi-language content pairs showing accurate translation

這些類別代表什麼意思？

多模式資料混合 (Nova 1.0)

data_mixing:
  dataset_catalog: sft_mm        # Nova multi-modal dataset catalog
  sources:
    customer_data:
      percent: 50                 # Percent of overall mix to draw from customer data
    nova_data:                    # The remainder will be drawn from Nova data. The categories below must add to 100
      agents: 11                  # Combining visual and textual inputs
      docs: 17                    # Document-centric data combining text, images, layouts, and formatting
      perception: 10              # Visual-linguistic pairs t
      rag: 4                      # Combining retrieved external knowledge with generated responses
      rai: 3                      # Ethical AI principles, safety considerations, and responsible technology deployment
      reasoning: 10               # Logical analysis, problem-solving, and drawing conclusions
      stem: 17                    # Technical content pairing visual elements (diagrams, charts, equations) with text
      text: 10                    # A balanced pool of contextual text data create from the text-only SFT datasets
      video: 18                   # Video datasets

這些類別代表什麼意思？

Nova 2.0 組態與資料混合

data_mixing:
  dataset_catalog: sft_1p5_text_chat       # Nova text dataset catalog
  sources:
    customer_data:
      percent: 50                 # Percent of overall mix to draw from customer data
    nova_data:                    # The remainder will be drawn from Nova data. The categories below must add to 100
      agents: 1                   # autonomous decision-making, task completion, goal-oriented behavior in AI systems
      baseline: 10                 # [New in Nova 1.5]
      chat: 0.5                    # Conversational exchanges demonstrating natural dialogue flow
      code: 10                     # Programming examples and solutions spanning multiple languages
      factuality: 0.1               # [New in Nova 1.5]
      identity: 1                 # [New in Nova 1.5]
      long-context: 1             # [New in Nova 1.5]
      math: 2                     # [New in Nova 1.5]
      rai: 1                      # ethical AI principles, safety considerations, and responsible technology deployment
      instruction-following: 13   # precise task execution based on varying levels of user prompts and directives
      stem: 0.5                     # Technical content covering science, technology, engineering, and mathematics
      planning: 10                 # Sequences demonstrating strategic thinking and step-by-step task breakdown
      reasoning-chat: 0.5
      reasoning-code: 0.5
      reasoning-factuality: 0.5
      reasoning-instruction-following: 45
      reasoning-math: 0.5
      reasoning-planning: 0.5
      reasoning-rag: 0.4
      reasoning-rai: 0.5
      reasoning-stem: 0.4
      rag: 1                      # combining retrieved external knowledge with generated responses
      translation: 0.1

這些類別代表什麼意思？

多模式資料混合 (Nova 2.0)

data_mixing:
  dataset_catalog: sft_1p5_mm_chat       # Nova text dataset catalog
  sources:
    customer_data:
      percent: 50                 # Percent of overall mix to draw from customer data
    nova_data:                    # The remainder will be drawn from Nova data. The categories below must add to 100
      charts: 1
      chat: 38
      code: 20
      docs: 3
      general: 2
      grounding: 1
      rag: 4
      screenshot: 4
      text: 8
      translation: 4
      video: 15

注意：Nova 2.0 包含 Nova 1.0 中不提供的影片資料類別支援。

這些類別代表什麼意思？

如何啟動任務

如果您只需要取得啟動第一次 SFT 執行的基本詳細資訊，也可以參考 README。

容器資訊：

完成所有設定後，從 sagemaker-hyperpod-cli 儲存庫的根目錄開始，導覽至預設 nova sft 配方資料夾

對於 Nova 1.0 軸：

對於 Nova 2.0 軸：

資料混合組態看起來會相同，但底部會有類似這樣的額外資料混合區段

data_mixing:
  dataset_catalog: sft_text_lite
  sources:
    nova_data:   # percent inputs for Nova data must sum to 100%; use 0% if you want to exclude a data grouping
      agents: 20
      business-and-finance: 20
      scientific: 20
      code: 20
      factual-and-news: 20
      longform-text: 0
      health-and-medicine: 0
      humanities-and-education: 0
      legal: 0
      math: 0
      additional-languages: 0
      social-and-personal-interest: 0
      entertainment: 0
      reasoning: 0
      other: 0
      tables: 0
    customer_data: # percent input of customer data. 100 = use only customer data, 0 = use only the nova_data mix above
      percent: 25

這裡有兩種最上層的資料類別：

秘訣：再次執行 pip install -e 。您已準備好提交任務！

我們將覆寫這裡的幾個參數，以使用資料混合：

hyperpod start-job \
 -n kubeflow \
 --recipe fine-tuning/nova/forge/nova_2_0/nova_lite/SFT/nova_lite_2_0_p5x8_gpu_sft_with_datamix \
 --override-parameters '{
 "instance_type": "ml.p5.48xlarge",
 "recipes.run.name": "nova-sft-datamixing",
 "container": "708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-Datamix",
 "recipes.run.data_s3_path": "s3://sft-data/sft_train_data.jsonl",
 "recipes.run.validation_data_s3_path": "s3://sft-data/sft_val_data.jsonl",
 "recipes.run.output_s3_path": "s3://sft-data/output/
 }'

您的輸出應包含任務名稱，如下所示：

⚡ MY Desktop ⚡ % hyperpod start-job \
 -n kubeflow \
 --recipe training/nova/forge/nova_2_0/nova_lite/sft/nova_lite_2_0_p5x8_gpu_pretrain_with_datamix \
 --override-parameters '{
 "instance_type": "ml.p5.48xlarge",
 "recipes.run.name": "nova-sft-datamixing",
 "container": "708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-Datamix",
 "recipes.run.data_s3_path": "s3://sft-data/sft_train_data.jsonl",
 "recipes.run.validation_data_s3_path": "3://sft-data/sft_val_data.jsonl",
 "recipes.run.output_s3_path": "3://sft-data/output/
 }'

輸出會像這樣：

Final command: python3 /local/home/my/Downloads/sagemaker-hyperpod-cli/src/hyperpod_cli/sagemaker_hyperpod_recipes/main.py recipes=training/nova/nova_micro_p5x8_gpu_pretrain cluster_type=k8s cluster=k8s base_results_dir=/local/home/niphaded/Downloads/sagemaker-hyperpod-cli/results cluster.pullPolicy="IfNotPresent" cluster.restartPolicy="OnFailure" cluster.namespace="kubeflow" instance_type="p5d.48xlarge" container="900867814919.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:sft-datamix-rig-final"
Prepared output directory at /local/home/my/Downloads/sagemaker-hyperpod-cli/results/my-sft-run-wzdyn/k8s_templates
Found credentials in shared credentials file: ~/.aws/credentials
Helm script created at /local/home/my/Downloads/sagemaker-hyperpod-cli/results/my-sft-run-wzdyn/niphaded-sft-run-wzdyn_launch.sh
Running Helm script: /local/home/my/Downloads/sagemaker-hyperpod-cli/results/my-sft-run-wzdyn/niphaded-sft-run-wzdyn_launch.sh

NAME: my-sft-run-wzdyn
LAST DEPLOYED: Tue Aug 26 16:21:06 2025
NAMESPACE: kubeflow
STATUS: deployed
REVISION: 1
TEST SUITE: None
Launcher successfully generated: /local/home/my/Downloads/sagemaker-hyperpod-cli/src/hyperpod_cli/sagemaker_hyperpod_recipes/launcher/nova/k8s_templates/SFT

{
 "Console URL": "https://us-east-1.console.aws.amazon.com/sagemaker/home?region=us-east-1#/cluster-management/hyperpod-eks-ga-0703"
}

您可以使用 Hyperpod list-pods -n kubeflow --job-name my-sft-run-wzdyn 檢視任務的狀態

hyperpod list-pods -n kubeflow --job-name my-sft-run-wzdyn 
{
 "pods": [
  {
   "PodName": "my-sft-run-wzdyn-master-0",
   "Namespace": "kubeflow",
   "Status": "Pending",
   "CreationTime": "2025-08-26 16:21:06+00:00"
  },
  {
   "PodName": "my-sft-run-wzdyn-worker-0",
   "Namespace": "kubeflow",
   "Status": "Pending",
   "CreationTime": "2025-08-26 16:21:06+00:00"
  }
 ]
}

或直接使用 kubectl 命令來尋找它們。

例如

kubectl get pods -o wide -w -n kubeflow | (head -n1 ; grep my-sft-run)

NAME                                                         READY   STATUS      RESTARTS   AGE     IP              NODE                           NOMINATED NODE   READINESS GATES
my-sft-run-5suc8-master-0                              0/1     Completed   0          3h23m   172.31.32.132   hyperpod-i-00b3d8a1bf25714e4   <none>           <none>
my-sft-run-5suc8-worker-0                              0/1     Completed   0          3h23m   172.31.44.196   hyperpod-i-0aa7ccfc2bd26b2a0   <none>           <none>
my-sft-run-5suc8-worker-1                              0/1     Completed   0          3h23m   172.31.46.84    hyperpod-i-026df6406a7b7e55c   <none>           <none>
my-sft-run-5suc8-worker-2                              0/1     Completed   0          3h23m   172.31.28.68    hyperpod-i-0802e850f903f28f1   <none>           <none>

專業秘訣 ：請務必一律使用 -o wide 旗標，因為任務執行所在的 EKS 節點可協助您在 UI AWS 中更快地找到日誌

如何監控任務

您可以透過以下三種方式之一來檢視日誌：

a) 使用 CloudWatch

您的日誌可在包含 CloudWatch 下 Hyperpod 叢集的 Amazon Web Services 帳戶中使用。若要在瀏覽器中檢視它們，請導覽至您帳戶中的 CloudWatch 首頁，並搜尋您的叢集名稱。例如，如果您的叢集稱為 my-hyperpod-rig，則日誌群組會有 字首：

您的日誌看起來應該像這樣：

b) 使用 CloudWatch Insights

如果您的任務名稱方便使用，但不希望進行上述所有步驟，您可以直接查詢 /aws/sagemaker/Clusters/my-hyperpod-rig/{UUID} 下的所有日誌，以尋找個別日誌。

CPT

fields @timestamp, @message, @logStream, @log 
| filter @message like /(?i)Starting CPT Job/
| sort @timestamp desc 
| limit 100

若要完成任務，請將啟動 SFT 任務取代為完成 SFT 任務

然後，您可以按一下結果並挑選「Epoch 0」，因為那將是您的主節點。

C) 使用 aws cli

您可以選擇使用 結尾您的日誌。執行此操作之前，請使用 aws --version 檢查您的 aws cli 版本。也建議您使用此公用程式指令碼，以協助追蹤終端機中的即時日誌

適用於 V1：

aws logs get-log-events \
 --log-group-name /aws/sagemaker/YourLogGroupName \
 --log-stream-name YourLogStream \
 --start-from-head | jq -r '.events[].message'

適用於 V2：

aws logs tail /aws/sagemaker/YourLogGroupName \
  --log-stream-name YourLogStream \
 --since 10m \
 --follow

D) 設定 ML 流程：

您可以透過 MLFlow 追蹤指標。

建立 MLflow 應用程式

使用 Studio UI：如果您透過 Studio UI 建立訓練任務，預設 MLflow 應用程式會自動建立，並依預設在進階選項下選取。

使用 CLI：如果您使用 CLI，則必須建立 MLflow 應用程式並將其做為訓練任務 API 請求的輸入傳遞。

mlflow_app_name="<enter your MLflow app name>"  
role_arn="<enter your role ARN>"   
bucket_name="<enter your bucket name>"   
region="<enter your region>"  
  
mlflow_app_arn=$(aws sagemaker create-mlflow-app \  
  --name $mlflow_app_name \  
  --artifact-store-uri "s3://$bucket_name" \  
  --role-arn $role_arn \  
  --region $region)

存取 MLflow 應用程式

使用 CLI：建立預先簽章的 URL 以存取 MLflow 應用程式 UI：

aws sagemaker create-presigned-mlflow-app-url \  
  --arn $mlflow_app_arn \  
  --region $region \  
  --output text

設定 ML 流程後，您可以在配方中傳遞 URI，或在啟動任務時使用覆寫。您可以在 README 中找到如何執行此操作的範例。

如何在 SFT 之後評估您的模型？

先決條件

現成基準：使用現成基準來驗證一般任務的效能。如需詳細資訊，請參閱此處。

攜帶您自己的資料：

您也可以提供自訂資料，方法是將它們格式化為以下格式，然後使用下列容器取得推論結果，並視需要取得校正的日誌機率。

具有下列結構的每個任務的 Crate jsonl：

{
  "metadata": "{key:4, category:'apple'}",
  "system": "arithmetic-patterns, please answer the following with no other words: ",
  "query": "What is the next number in this series? 1, 2, 4, 8, 16, ?",
  "response": "32"
}

在評估任務的推論階段產生的輸出將具有下列結構：

{
  "prompt": "[{'role': 'system', 'content': 'arithmetic-patterns, please answer the following with no other words: '}, {'role': 'user', 'content': 'What is the next number in this series? 1, 2, 4, 8, 16, ?'}]",
  "inference": "['32']",
  "gold": "32",
  "metadata": "{key:4, category:'apple'}"
}

欄位描述：

準備評估組態

啟動評估任務的命令。使用「--override-parameters」來修改配方中的任何項目。

hyperpod start-job -n kubeflow \
  --recipe evaluation/nova/nova_micro_p5_48xl_bring_your_own_dataset_eval \
  --override-parameters '{
    "instance_type": "p5.48xlarge",
    "container": "708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest",
    "recipes.run.name": "<your-eval-job-name>",
    "recipes.run.model_name_or_path": "<checkpoint-s3-uri>",
    "recipes.run.output_s3_path": "s3://<your-bucket>/eval-results/",
    "recipes.run.data_s3_path": "s3://<your-bucket>/eval-data.jsonl"
  }'

啟動您的評估任務

任務啟動具有對應映像之不同配方的命令。

經驗教訓和秘訣