기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Nova 2.0의 SFT

Amazon Nova Lite 2.0은 고급 추론 모드, 향상된 멀티모달 이해, 확장된 컨텍스트 처리 등 지도 미세 조정을 위한 향상된 기능을 제공합니다. Nova 2.0의 SFT를 사용하면 복잡한 작업에서 모델의 우수한 성능을 유지하면서 이러한 강력한 기능을 특정 사용 사례에 적용할 수 있습니다.

Nova 2.0 기반 SFT의 주요 기능은 다음과 같습니다.

추론 모드 선택(Nova 2.0만 해당)

Amazon Nova 2.0은 향상된 분석 기능을 위한 추론 모드를 지원합니다.

데이터 형식을 호출하는 도구

SFT는 도구를 사용하기 위한 훈련 모델(함수 호출)을 지원합니다. 다음은 도구 호출을 위한 샘플 입력 형식입니다.

샘플 입력:

{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are an expert in composing function calls."
    }
  ],
  "toolConfig": {
    "tools": [
      {
        "toolSpec": {
          "name": "getItemCost",
          "description": "Retrieve the cost of an item from the catalog",
          "inputSchema": {
            "json": {
              "type": "object",
              "properties": {
                "item_name": {
                  "type": "string",
                  "description": "The name of the item to retrieve cost for"
                },
                "item_id": {
                  "type": "string",
                  "description": "The ASIN of item to retrieve cost for"
                }
              },
              "required": [
                "item_id"
              ]
            }
          }
        }
      },
      {
        "toolSpec": {
          "name": "getItemAvailability",
          "description": "Retrieve whether an item is available in a given location",
          "inputSchema": {
            "json": {
              "type": "object",
              "properties": {
                "zipcode": {
                  "type": "string",
                  "description": "The zipcode of the location to check in"
                },
                "quantity": {
                  "type": "integer",
                  "description": "The number of items to check availability for"
                },
                "item_id": {
                  "type": "string",
                  "description": "The ASIN of item to check availability for"
                }
              },
              "required": [
                "item_id", "zipcode"
              ]
            }
          }
        }
      }
    ]
  },
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "I need to check whether there are twenty pieces of the following item available. Here is the item ASIN on Amazon: id-123. Please check for the zipcode 94086"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "reasoningContent": {
            "reasoningText": {
              "text": "The user wants to check how many pieces of the item with ASIN id-123 are available in the zipcode 94086"
            }
          }
        },
        {
          "toolUse": {
            "toolUseId": "getItemAvailability_0",
            "name": "getItemAvailability",
            "input": {
              "zipcode": "94086",
              "quantity": 20,
              "item_id": "id-123"
            }
          }
        }
      ]
    },
    {
      "role": "user",
      "content": [
        {
          "toolResult": {
            "toolUseId": "getItemAvailability_0",
            "content": [
              {
                "text": "[{\"name\": \"getItemAvailability\", \"results\": {\"availability\": true}}]"
              }
            ]
          }
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Yes, there are twenty pieces of item id-123 available at 94086. Would you like to place an order or know the total cost?"
        }
      ]
    }
  ]
}

도구 호출 데이터에 대한 중요 고려 사항:

데이터 형식 이해 문서화

SFT는 문서 이해 작업에 대한 모델 훈련을 지원합니다. 다음은 샘플 입력 형식입니다.

샘플 입력

{
  "schemaVersion": "bedrock-conversation-2024",
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What are the ways in which a customer can experience issues during checkout on Amazon?"
        },
        {
          "document": {
            "format": "pdf",
            "source": {
              "s3Location": {
                "uri": "s3://my-bucket-name/path/to/documents/customer_service_debugging.pdf",
                "bucketOwner": "123456789012"
              }
            }
          }
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Customers can experience issues with 1. Data entry, 2. Payment methods, 3. Connectivity while placing the order. Which one would you like to dive into?"
        }
      ],
      "reasoning_content": [
        {
          "text": "I need to find the relevant section in the document to answer the question.",
          "type": "text"
        }
      ]
    }
  ]
}

문서 이해를 위한 중요 고려 사항:

SFT용 비디오 이해

SFT는 비디오 이해 작업을 위한 모델 미세 조정을 지원합니다. 다음은 샘플 입력 형식입니다.

샘플 입력

{
  "schemaVersion": "bedrock-conversation-2024",
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What are the ways in which a customer can experience issues during checkout on Amazon?"
        },
        {
          "video": {
            "format": "mp4",
            "source": {
              "s3Location": {
                "uri": "s3://my-bucket-name/path/to/videos/customer_service_debugging.mp4",
                "bucketOwner": "123456789012"
              }
            }
          }
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Customers can experience issues with 1. Data entry, 2. Payment methods, 3. Connectivity while placing the order. Which one would you like to dive into?"
        }
      ],
      "reasoning_content": [
        {
          "text": "I need to find the relevant section in the video to answer the question.",
          "type": "text"
        }
      ]
    }
  ]
}

비디오 이해를 위한 중요 고려 사항:

데이터 업로드 지침

훈련 및 검증 데이터 세트를 S3 버킷에 업로드합니다. 레시피의 run 블록에서 다음 위치를 지정합니다.

## Run config
run:
  ...
  data_s3_path: "s3://<bucket-name>/<training-directory>/<training-file>.jsonl"
  

참고: <bucket-name>, <training-directory>, <training-file>, 및 <validation-directory>를 실제 S3 경로<validation-file>로 바꿉니다.

참고: Amazon Nova 2.0을 사용하는 SFT에는 현재 검증 데이터 세트가 지원되지 않습니다. 검증 데이터 세트가 제공되면 무시됩니다.

미세 조정 작업 생성

run 블록의 model_type 및 model_name_or_path 필드를 사용하여 기본 모델을 정의합니다.

## Run config
run:
  ...
  model_type: amazon.nova-2-lite-v1:0:256k
  model_name_or_path: nova-lite-2/prod
  ...

하이퍼파라미터 지침

훈련 접근 방식에 따라 다음과 같은 권장 하이퍼파라미터를 사용합니다.

전체 순위 훈련

LoRA(낮은 순위 적응)

참고: 데이터 세트 크기 및 검증 성능에 따라 이러한 값을 조정합니다. 훈련 지표를 모니터링하여 과적합을 방지합니다.