기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
# MLOps
SageMaker Canvas에서 신뢰할 수 있는 모델을 구축한 후에는 모델을 조직의 MLOps(기계 학습 작업) 프로세스와 통합하는 것이 좋습니다. MLOps에는 프로덕션에 사용할 모델 배포 또는 CI/CD(지속적 통합 및 지속적인 배포) 파이프라인 설정과 같은 일반적인 작업이 포함됩니다.
다음 주제에서는 Canvas에서 만든 모델을 프로덕션 환경에서 사용하기 위해 Canvas의 기능을 사용하는 방법을 설명합니다.
**Topics**
+ [SageMaker AI 모델 레지스트리에 모델 버전 등록](canvas-register-model.md)
+ [엔드포인트에 모델 배포](canvas-deploy-model.md)
+ [배포 보기](canvas-deploy-model-view.md)
+ [배포 구성 업데이트](canvas-deploy-model-update.md)
+ [배포 테스트](canvas-deploy-model-test.md)
+ [엔드포인트 호출](canvas-deploy-model-invoke.md)
+ [모델 배포 삭제](canvas-deploy-model-delete.md)
# SageMaker AI 모델 레지스트리에 모델 버전 등록
SageMaker Canvas를 사용하면 모델의 여러 이터레이션 또는 버전을 만들어 시간이 지남에 따라 모델을 개선할 수 있습니다. 더 나은 훈련 데이터를 얻거나 모델의 정확도를 개선하려는 경우 새 버전의 모델을 빌드하는 것이 좋습니다. 모델에 버전을 추가하는 방법에 대한 자세한 내용은 [모델 업데이트](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-update-model.html)를 참조하세요.
신뢰할 수 있는 [모델을 구축한](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-build-model.html) 후에는 프로덕션 환경에서 사용하기 전에 성능을 평가하고 조직의 데이터 사이언티스트나 MLOps 엔지니어에게 검토를 받는 것이 좋습니다. 이렇게 하려면 [SageMaker 모델 레지스트리](https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry.html)에 모델 버전을 등록할 수 있습니다. SageMaker 모델 레지스트리는 데이터 과학자 또는 엔지니어가 기계 학습(ML) 모델을 카탈로그화하고 모델 버전 및 관련 메타데이터(예: 훈련 지표)를 관리하는 데 사용할 수 있는 리포지토리입니다. 또한 모델의 승인 상태를 관리하고 기록할 수 있습니다.
모델 버전을 SageMaker 모델 레지스트리에 등록하면 데이터 과학자 또는 MLOps 팀이 기계 학습 모델 작업을 위한 웹 기반 통합 개발 환경(IDE)인 [SageMaker Studio Classic](https://docs.aws.amazon.com/sagemaker/latest/dg/studio.html)을 통해 SageMaker 모델 레지스트리에 액세스할 수 있습니다. Studio Classic의 SageMaker 모델 레지스트리 인터페이스에서 데이터 과학자 또는 MLOps 팀은 모델을 평가하고 승인 상태를 업데이트할 수 있습니다. 모델이 요구 사항에 맞게 작동하지 못하는 경우 데이터 사이언티스트 또는 MLOps 팀이 상태를 `Rejected`로 업데이트할 수 있습니다. 모델이 요구 사항에 맞게 작동하는 경우 데이터 사이언티스트 또는 MLOps 팀은 상태를 `Approved`로 업데이트할 수 있습니다. 그런 다음 [모델을 엔드포인트에 배포](https://docs.aws.amazon.com/sagemaker/latest/dg/deploy-model.html#deploy-model-prereqs)하거나 CI/CD 파이프라인을 사용하여 [모델 배포를 자동화](https://aws.amazon.com/blogs/machine-learning/building-automating-managing-and-scaling-ml-workflows-using-amazon-sagemaker-pipelines/)할 수 있습니다. SageMaker AI 모델 레지스트리 기능을 사용하여 Canvas에 내장된 모델을 조직의 MLOps 프로세스와 원활하게 통합할 수 있습니다.
다음 다이어그램에는 MLOps 워크플로에 통합하기 위해 Canvas에 내장된 모델 버전을 SageMaker 모델 레지스트리에 등록하는 예시가 요약되어 있습니다.
![\[MLOps 워크플로에 통합하기 위해 Canvas에서 빌드된 모델 버전을 등록하는 단계\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/canvas-model-registration-diagram.jpg)
테이블, 이미지 및 텍스트 모델 버전을 SageMaker 모델 레지스트리에 등록할 수 있습니다. 여기에는 시계열 예측 모델 및 JumpStart 기반 [미세 조정 파운데이션 모델](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-fm-chat-fine-tune.html)이 포함됩니다.
**참고**
현재 Canvas에 구축된 Amazon Bedrock 기반 미세 조정 파운데이션 모델을 SageMaker 모델 레지스트리에 등록할 수 없습니다.
다음 섹션에서는 Canvas에서 SageMaker 모델 레지스트리에 모델 버전을 등록하는 방법을 보여줍니다.
## 권한 관리
기본적으로 SageMaker 모델 레지스트리에 모델 버전을 등록할 권한이 있습니다. SageMaker AI는 Canvas 애플리케이션을 호스팅하는 SageMaker AI 도메인의 AWS IAM 실행 역할에 연결된 [AmazonSageMakerCanvasFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonSageMakerCanvasFullAccess.html) 정책을 통해 모든 신규 및 기존 Canvas 사용자 프로필에 이러한 권한을 부여합니다.
Canvas 관리자가 새 도메인 또는 사용자 프로필을 설정하는 경우, 도메인을 설정하고 [Getting started guide](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-getting-started.html#canvas-prerequisites)의 사전 지침을 따르면 SageMaker AI는 기본적으로 활성화되어 있는 **ML 운영 권한 구성** 옵션을 통해 모델 등록 권한을 활성화합니다.
Canvas 관리자는 사용자 프로필 수준에서도 모델 등록 권한을 관리할 수 있습니다. 예를 들어 관리자가 일부 사용자 프로필에는 모델 등록 권한을 부여하고 다른 사용자 프로필에는 권한을 제거하려는 경우 특정 사용자에 대한 권한을 편집할 수 있습니다. 다음 절차는 특정 사용자 프로필에 대한 모델 등록 권한을 끄는 방법을 보여줍니다.
1. [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/)에서 SageMaker AI 콘솔을 엽니다.
1. 왼쪽 탐색 창에서 **관리자 구성**을 선택합니다.
1. **관리자 구성**에서 **도메인**을 선택합니다.
1. 도메인 목록에서 사용자 프로필의 도메인을 선택합니다.
1. **도메인 세부 정보** 페이지에서 권한을 편집하려는 **사용자 프로필**을 선택합니다.
1. **사용자 세부 정보** 페이지에서 **편집**을 선택합니다.
1. 왼쪽의 탐색 창에서 **Canvas 설정**을 선택합니다.
1. **ML Ops 권한 구성** 섹션에서 **모델 레지스트리 등록 권한 활성화** 토글을 끕니다.
1. **제출**을 선택하여 도메인 설정 변경 내용을 저장합니다.
사용자 프로필에는 더 이상 모델 등록 권한이 없어야 합니다.
## SageMaker AI 모델 레지스트리에 모델 버전 등록
SageMaker 모델 레지스트리는 *모델 그룹*의 특정 문제를 해결하기 위해 구축한 모든 모델 버전을 추적합니다. SageMaker Canvas 모델을 구축하고 SageMaker 모델 레지스트리에 등록하면 모델 그룹에 새 모델 버전으로 추가됩니다. 예를 들어 네 가지 버전의 모델을 구축하고 등록하는 경우 SageMaker 모델 레지스트리 인터페이스에서 작업하는 데이터 과학자 또는 MLOps 팀이 모델 그룹을 보고 한 곳에서 모델의 네 가지 버전을 모두 검토할 수 있습니다.
Canvas 모델을 SageMaker 모델 레지스트리에 등록하면 Canvas 모델을 따라 모델 그룹이 자동으로 생성되고 이름이 지정됩니다. 선택적으로 모델 이름을 원하는 이름으로 변경하거나 SageMaker 모델 레지스트리의 기존 모델 그룹을 사용할 수 있습니다. 모델 그룹 생성에 대한 자세한 내용은 [모델 그룹 생성](https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry-model-group.html)을 참조하세요.
**참고**
현재는 Canvas에 내장된 모델만 동일한 계정의 SageMaker 모델 레지스트리에 등록할 수 있습니다.
Canvas 애플리케이션에서 SageMaker 모델 레지스트리에 모델 버전을 등록하려면 다음 절차를 사용하세요.
1. SageMaker Canvas 애플리케이션을 엽니다.
1. 왼쪽 탐색 창에서 **내 모델**을 선택합니다.
1. **내 모델** 페이지에서 모델을 선택합니다. **문제 유형별로 필터링하여** 모델을 더 쉽게 찾을 수 있습니다.
1. 모델을 선택하면 모델의 모든 버전이 나열된 **버전** 페이지가 열립니다. **고급 지표 표시** 토글을 켜면 **재현율** 및 **정밀도**와 같은 고급 지표를 보고 모델 버전을 비교하고 등록할 모델을 결정할 수 있습니다.
1. 모델 버전 목록에서 등록하려는 버전의 **추가 옵션** 아이콘(![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택합니다. 또는 등록해야 하는 버전을 두 번 클릭한 다음 버전 세부 정보 페이지에서 **추가 옵션** 아이콘(![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택할 수도 있습니다.
1. 드롭다운 목록에서 **모델 레지스트리에 추가**를 선택합니다. **모델 레지스트리에 추가** 대화 상자가 열립니다.
1. **모델 레지스트리에 추가** 대화 상자에서 다음을 수행합니다.
1. (선택 사항) **SageMaker Studio Classic 모델 그룹** 섹션에서 **모델 그룹 이름** 필드에 버전을 등록하려는 모델 그룹의 이름을 입력합니다. SageMaker AI가 생성한 새 모델 그룹의 이름을 지정하거나 기존 모델 그룹을 지정할 수 있습니다. 이 필드를 지정하지 않는 경우 Canvas는 사용자의 버전을 모델과 동일한 이름을 가진 기본 모델 그룹에 등록합니다.
1. **추가**를 선택합니다.
이제 모델 버전이 SageMaker 모델 레지스트리의 모델 그룹에 등록되어야 합니다. SageMaker 모델 레지스트리의 모델 그룹에 모델 버전을 등록하면 Canvas 모델의 모든 후속 버전이 동일한 모델 그룹에 등록됩니다(등록하도록 선택한 경우). 버전을 다른 모델 그룹에 등록하는 경우 SageMaker 모델 레지스트리로 이동하여 [모델 그룹을 삭제](https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry-delete-model-group.html)해야 합니다. 그런 다음 새 모델 그룹에 모델 버전을 다시 등록할 수 있습니다.
모델의 상태를 보려면 Canvas 애플리케이션에서 해당 모델의 **버전** 페이지로 돌아갈 수 있습니다. 이 페이지는 각 버전의 **모델 레지스트리** 상태를 보여줍니다. 상태가 `Registered`이면 모델이 성공적으로 등록된 것입니다.
**등록된 모델 버전의 세부 정보를 보려면 **모델 레지스트리** 상태의 등록 필드 위에 마우스를 올려 놓으면 **모델 레지스트리 세부 정보** 팝업 상자가 나타납니다.** 이러한 세부 정보에는 다음과 같은 추가 정보가 포함됩니다.
+ **모델 패키지 그룹 이름**은 SageMaker 모델 레지스트리에 버전이 등록된 모델 그룹입니다.
+ **승인 상태**는 `Pending Approval`, `Approved`또는 `Rejected`일 수 있습니다. Studio Classic 사용자가 SageMaker 모델 레지스트리에서 버전을 승인하거나 거부하는 경우 페이지를 새로 고치면 모델 버전 페이지에서 이 상태가 업데이트됩니다.
다음 스크린샷은 이 **특정 모델 버전**에 대한 `Approved`**승인 상태**와 함께 모델 레지스트리 세부 정보 상자를 보여줍니다.
![\[Canvas 애플리케이션의 SageMaker 모델 레지스트리 세부 정보 상자의 스크린샷입니다.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/approved-mr.png)
# 엔드포인트에 모델 배포
Amazon SageMaker Canvas에서는 모델을 엔드포인트에 배포하여 예측을 수행할 수 있습니다. SageMaker AI는 선택한 컴퓨팅 인스턴스를 사용하여 엔드포인트에서 모델을 호스팅할 수 있는 ML 인프라를 제공합니다. 그런 다음 엔드포인트를 *호출*(예측 요청 전송)하고 모델에서 실시간 예측을 가져올 수 있습니다. 이 기능을 사용하면 프로덕션에서 모델을 사용하여 들어오는 요청에 응답하고 모델을 기존 애플리케이션 및 워크플로와 통합할 수 있습니다.
시작하려면 배포할 모델이 있어야 합니다. 빌드한 사용자 지정 모델 버전, Amazon SageMaker JumpStart 파운데이션 모델 및 미세 조정된 JumpStart 파운데이션 모델을 배포할 수 있습니다. 모델 구축에 대한 추가 정보는 [사용자 지정 모델 작동 방식](canvas-build-model.md)을 참조하세요. Canvas의 JumpStart 파운데이션 모델에 대한 자세한 내용은 [SageMaker Canvas의 생성형 AI 파운데이션 모델](canvas-fm-chat.md) 섹션을 참조하세요.
**다음 **권한 관리** 섹션을 검토한 다음 모델 배포 섹션에서 새 배포를 생성하세요.**
## 권한 관리
기본적으로 사용자에게는 SageMaker AI 호스팅 엔드포인트에 모델을 배포할 권한이 있습니다. SageMaker AI는 Canvas 애플리케이션을 호스팅하는 SageMaker AI 도메인의 AWS IAM 실행 역할에 연결된 [AmazonSageMakerCanvasFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonSageMakerCanvasFullAccess.html) 정책을 통해 모든 신규 및 기존 Canvas 사용자 프로필에 이러한 권한을 부여합니다.
Canvas 관리자가 새 도메인 또는 사용자 프로필을 설정하는 경우, 도메인을 설정하고 [Amazon SageMaker Canvas를 설정하기 위한 사전 조건](canvas-getting-started.md#canvas-prerequisites)의 사전 요구 사항 지침을 따를 때 SageMaker AI는 기본적으로 활성화되는 **Canvas 모델의 직접 배포 활성화** 옵션을 통해 모델 배포 권한을 활성화합니다.
Canvas 관리자는 사용자 프로필 수준에서도 모델 배포 권한을 관리할 수 있습니다. 예를 들어 관리자가 도메인을 설정할 때 모든 사용자 프로필에 모델 배포 권한을 부여하지 않으려는 경우 도메인을 만든 후 특정 사용자에게 권한을 부여할 수 있습니다.
다음 절차는 특정 사용자 프로필에 대한 모델 배포 권한을 수정하는 방법을 보여줍니다.
1. [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/)에서 SageMaker AI 콘솔을 엽니다.
1. 왼쪽 탐색 창에서 **관리자 구성**을 선택합니다.
1. **관리자 구성**에서 **도메인**을 선택합니다.
1. 도메인 목록에서 사용자 프로필의 도메인을 선택합니다.
1. **도메인 세부 정보** 페이지에서 **사용자 프로필** 탭을 선택합니다.
1. 본인의 **사용자 프로필**을 선택합니다.
1. 사용자 프로필 페이지에서 **앱 구성** 탭을 선택합니다.
1. **Canvas** 섹션에서 **편집**을 선택합니다.
1. **ML 운영 구성** 섹션에서 **Canvas 모델 직접 배포 활성화** 토글을 켜서 배포 권한을 활성화합니다.
1. **제출**을 선택하여 도메인 설정 변경 내용을 저장합니다.
이제 사용자 프로필에 모델 배포 권한이 없습니다.
도메인 또는 사용자 프로필에 권한을 부여한 후 사용자가 Canvas 애플리케이션에서 로그아웃하고 다시 로그인하여 권한 변경 사항을 적용하도록 해야 합니다.
## 모델 배포
모델 배포를 시작하려면 Canvas에서 새 배포를 만들고 ML 인프라와 함께 배포할 모델 버전(예: 모델 호스팅에 사용할 컴퓨팅 인스턴스의 유형 및 수)을 지정합니다.
Canvas는 모델 유형에 따라 기본 유형 및 인스턴스 수를 제안하거나 [Amazon SageMaker 요금 페이지](https://aws.amazon.com/sagemaker/pricing/)에서 다양한 SageMaker AI 인스턴스 유형에 대해 자세히 알아볼 수 있습니다. 엔드포인트가 활성화되어 있는 동안에는 SageMaker AI 인스턴스 요금을 기준으로 요금이 부과됩니다.
JumpStart 파운데이션 모델을 배포할 때 배포 시간의 기간을 지정하는 옵션도 있습니다. 모델을 엔드포인트에 무기한 배포할 수 있습니다(즉, 배포를 삭제할 때까지 엔드포인트가 활성 상태임). 또는 단기간만 엔드포인트가 필요하고 비용을 절감하려는 경우 지정된 시간 동안 엔드포인트에 모델을 배포할 수 있습니다. 이 시간이 지나면 SageMaker AI가 엔드포인트를 종료합니다.
**참고**
지정된 시간 동안 모델을 배포하는 경우 엔드포인트 기간 동안 Canvas 애플리케이션에 로그인한 상태를 유지합니다. 애플리케이션에서 로그아웃하거나 애플리케이션을 삭제하면 Canvas가 지정된 시간에 엔드포인트를 종료할 수 없습니다.
SageMaker AI 호스팅 [실시간 추론](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints.html) 엔드포인트에 모델을 배포한 후 엔드포인트를 *간접 호출*하여 예측을 시작할 수 있습니다.
Canvas 애플리케이션에서 모델을 배포하는 방법에는 여러 가지가 있습니다. 다음 방법 중 하나를 통해 모델 배포 옵션에 액세스할 수 있습니다.
+ Canvas 애플리케이션의 **내 모델** 페이지에서 배포하려는 모델을 선택합니다. 그런 다음 모델의 **버전** 페이지에서 모델 버전 옆에 있는 **추가 옵션** 아이콘(![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택하고 **배포**를 선택합니다.
+ 모델 버전의 세부 정보 페이지의 **분석** 탭에서 **배포** 옵션을 선택합니다.
+ 모델 버전의 세부 정보 페이지에 있는 **예측** 탭에서 페이지 상단의 **추가 옵션** 아이콘(![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택하고 **배포**를 선택합니다.
+ Canvas 애플리케이션의 **ML 운영** 페이지에서 **배포** 탭을 선택한 다음 **배포 만들기**를 선택합니다.
+ JumpStart 파운데이션 모델 및 미세 조정된 파운데이션 모델의 경우 Canvas 애플리케이션의 **즉시 사용 가능 모델** 페이지로 이동합니다. **콘텐츠 생성, 추출 및 요약**을 선택합니다. 그런 다음 배포하려는 JumpStart 파운데이션 모델 또는 미세 조정 파운데이션 모델을 찾습니다. 모델을 선택하고 모델의 채팅 페이지에서 **배포** 버튼을 선택합니다.
이러한 모든 방법을 사용하면 **배포 모델** 사이드 패널이 열리고, 여기서 모델의 배포 구성을 지정할 수 있습니다. 이 패널에서 모델을 배포하려면 다음 작업을 수행합니다.
1. (선택 사항) **ML 운영** 페이지에서 배포를 만드는 경우 **모델 및 버전 선택** 옵션이 제공됩니다. 드롭다운 메뉴를 사용하여 배포하려는 모델 및 모델 버전을 선택합니다.
1. **배포 이름** 필드에 이름을 입력합니다.
1. (JumpStart 파운데이션 모델 및 미세 조정 파운데이션 모델만 해당) **배포 기간**을 선택합니다. 엔드포인트를 종료할 때까지 엔드포인트를 활성 상태로 두려면 **무기한**을 선택합니다. 아니면 **기간 지정**을 선택하고 엔드포인트가 활성 상태로 유지될 기간을 입력합니다.
1. **인스턴스 유형**의 경우 SageMaker AI는 모델에 적합한 기본 인스턴스 유형 및 번호를 감지합니다. 하지만 모델 호스팅에 사용하려는 인스턴스 유형은 변경할 수 있습니다.
**참고**
AWS 계정에서 선택한 인스턴스 유형에 대한 인스턴스 할당량이 부족한 경우 할당량 증가를 요청할 수 있습니다. 기본 할당량 및 증가를 요청하는 방법에 대한 자세한 내용은 *AWS 일반 참조 가이드*의 [Amazon SageMaker 엔드포인트 및 할당량](https://docs.aws.amazon.com/general/latest/gr/sagemaker.html)을 참조하세요.
1. **인스턴스 수**에서는 엔드포인트에 사용되는 활성 인스턴스 수를 설정할 수 있습니다. SageMaker AI는 모델에 적합한 기본 번호를 감지하지만 이 번호는 변경할 수 있습니다.
1. 모델을 배포할 준비가 되면 **배포** 를 선택합니다.
이제 모델을 엔드포인트에 배포해야 합니다.
# 배포 보기
Amazon SageMaker Canvas에서 모델 배포의 상태 또는 세부 정보를 확인하고자 할 수 있습니다. 예를 들어 배포에 실패한 경우 세부 정보를 확인하여 문제를 해결하는 것이 좋습니다.
Canvas 애플리케이션 또는 Amazon SageMaker AI 콘솔에서 Canvas 모델 배포를 볼 수 있습니다.
Canvas에서 배포 세부 정보를 보려면 다음 절차 중 하나를 선택합니다.
**ML 운영** 페이지에서 배포 세부 정보를 보려면 다음을 수행합니다.
1. SageMaker Canvas 애플리케이션을 엽니다.
1. 왼쪽 탐색 창에서 **ML 운영**을 선택합니다.
1. **배포** 탭을 선택합니다.
1. 목록에서 이름으로 배포를 선택합니다.
모델 버전 페이지에서 배포 세부 정보를 보려면 다음을 수행하세요.
1. SageMaker Canvas 애플리케이션에서 모델 버전의 세부 정보 페이지로 이동합니다.
1. **배포** 탭을 선택합니다.
1. 해당 모델 버전과 관련된 모든 배포 구성을 나열하는 배포 섹션에서 **배포**를 찾으세요.
1. **추가 옵션** 아이콘(![\[More options icon for the output CSV file.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택한 다음 **세부 정보 보기**를 선택하여 세부 정보 페이지를 엽니다.
배포의 세부 정보 페이지가 열리고 가장 최근의 예측 시간, 엔드포인트의 상태 및 구성, 엔드포인트에 현재 배포된 모델 버전과 같은 정보를 볼 수 있습니다.
[SageMaker AI 콘솔](https://console.aws.amazon.com/sagemaker/)의 **SageMaker AI 대시보드**에서 현재 활성화된 Canvas 작업 영역 인스턴스와 활성 엔드포인트를 볼 수도 있습니다. Canvas 엔드포인트는 생성한 다른 SageMaker AI 호스팅 엔드포인트와 함께 나열되며, Canvas 태그로 엔드포인트를 검색하여 이를 필터링할 수 있습니다.
다음 스크린샷은 SageMaker AI 대시보드입니다. **Canvas** 섹션에서 하나의 작업 공간 인스턴스가 서비스 중이고 4개의 엔드포인트가 활성화된 것을 볼 수 있습니다.
![\[활성 Canvas 작업 영역 인스턴스 및 엔드포인트를 보여주는 SageMaker AI 대시보드의 스크린샷입니다.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/canvas-sagemaker-dashboard.png)
# 배포 구성 업데이트
Amazon SageMaker Canvas에서 엔드포인트에 배포한 모델의 배포 구성을 업데이트할 수 있습니다. 예를 들어 업데이트된 모델 버전을 엔드포인트에 배포하거나, 용량 요구 사항에 따라 엔드포인트 뒤의 인스턴스 유형 또는 인스턴스 수를 업데이트할 수 있습니다.
Canvas 애플리케이션에서 배포를 업데이트하는 방법에는 여러 가지가 있습니다. 다음 방법을 사용할 수 있습니다.
+ Canvas 애플리케이션의 **ML 운영** 페이지에서 **배포** 탭을 선택하고 업데이트하려는 배포를 선택할 수 있습니다. **구성 업데이트**를 선택합니다.
+ 모델 버전의 세부 정보 페이지의 **배포** 탭에서 해당 버전의 배포를 확인할 수 있습니다. 배포 옆의 **추가 옵션** 아이콘(![\[More options icon for the output CSV file.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택한 다음 **구성 업데이트**를 선택합니다.
위의 두 방법 모두 **구성 업데이트** 사이드 패널을 열어 배포 구성을 변경할 수 있습니다. 구성을 업데이트하려면 다음을 수행합니다.
1. **버전 선택** 드롭다운 메뉴에서 엔드포인트에 배포할 다른 모델 버전을 선택할 수 있습니다.
**참고**
배포 구성을 업데이트할 때는 배포할 다른 모델 버전만 선택할 수 있습니다. 다른 모델을 배포하려면 새 배포를 생성하세요.
1. **인스턴스 유형**에서는 모델 호스팅에 사용할 다른 인스턴스 유형을 선택할 수 있습니다.
1. **인스턴스** 수의 경우 엔드포인트에 사용되는 활성 인스턴스 수를 변경할 수 있습니다.
1. **저장**을 선택합니다.
이제 배포 구성을 업데이트해야 합니다.
# 배포 테스트
Amazon SageMaker Canvas 애플리케이션을 통해 엔드포인트를 간접 호출하거나 단일 예측 요청을 전송하여 모델 배포를 테스트할 수 있습니다. 이 기능을 사용하면 프로덕션 환경에서 엔드포인트를 프로그래밍 방식으로 호출하기 전에 엔드포인트가 요청에 응답하는지 확인할 수 있습니다.
## 사용자 지정 모델 배포 테스트
**ML 운영** 페이지를 통해 액세스하고 단일 간접 호출을 수행하여 사용자 지정 모델 배포를 테스트할 수 있습니다. 그러면 예측이 정확할 확률과 함께 예측이 반환됩니다.
**참고**
실행 길이는 Canvas에서 엔드포인트를 호출하고 엔드포인트에서 응답을 받는 데 걸리는 예상 시간입니다. 자세한 지연 시간 지표는 [SageMaker AI 엔드포인트 간접 호출 지표](https://docs.aws.amazon.com/sagemaker/latest/dg/monitoring-cloudwatch.html#cloudwatch-metrics-endpoint-invocation)를 참조하세요.
Canvas 애플리케이션을 통해 엔드포인트를 테스트하려면 다음을 수행합니다.
1. SageMaker Canvas 애플리케이션을 엽니다.
1. 왼쪽 탐색 패널에서 **ML 운영**을 선택합니다.
1. **배포** 탭을 선택합니다.
1. 배포 목록에서 호출할 엔드포인트가 있는 배포 목록을 선택합니다.
1. 배포의 세부 정보 페이지에서 **테스트 배포** 탭을 선택합니다.
1. 배포 테스트 페이지에서 **값** 필드를 수정하여 새 데이터 포인트를 지정할 수 있습니다. 시계열 예측 모델의 경우 예측을 수행할 **항목 ID**를 지정합니다.
1. 값을 수정한 후 **업데이트**를 선택하여 예측 결과를 가져옵니다.
예측이 로드되고 호출 성공 여부 및 요청 처리에 걸린 시간을 나타내는 **호출 결과** 필드가 함께 로드됩니다.
다음 스크린샷은 **테스트 배포** 탭의 Canvas 애플리케이션에서 수행된 예측을 보여줍니다.
![\[배포된 모델의 테스트 예측을 보여주는 Canvas 애플리케이션\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/canvas-test-deployments.png)
숫자 예측과 시계열 예측을 제외한 모든 모델 유형의 경우 예측은 다음 필드를 반환합니다.
+ **predicted\$1label** - 예측된 출력
+ **확률** - 예측된 레이블이 정확할 확률
+ **레이블** - 가능한 모든 레이블 목록
+ **확률** - 각 레이블에 해당하는 확률(이 목록의 순서는 레이블의 순서와 일치합니다)
숫자 예측 모델의 경우 예측에는 주택 예측 가격과 같은 모델의 예측 출력인 **점수** 필드만 포함됩니다.
시계열 예측 모델의 경우 예측은 분위수로 예측을 보여주는 그래프입니다. **스키마 보기**를 선택하여 각 분위수에 대해 예측된 숫자 값을 볼 수 있습니다.
배포 테스트 페이지를 통해 단일 예측을 계속하거나 다음 [엔드포인트 호출](canvas-deploy-model-invoke.md)섹션에서 애플리케이션에서 프로그래밍 방식으로 엔드포인트를 호출하는 방법을 알아볼 수 있습니다.
## JumpStart 파운데이션 모델 배포 테스트
Canvas 애플리케이션을 통해 배포된 JumpStart 파운데이션 모델과 채팅하여 코드를 통해 간접적으로 호출하기 전에 기능을 테스트할 수 있습니다.
배포된 JumpStart 파운데이션 모델과 채팅하려면 다음을 수행합니다.
1. SageMaker Canvas 애플리케이션을 엽니다.
1. 왼쪽 탐색 패널에서 **ML 운영**을 선택합니다.
1. **배포** 탭을 선택합니다.
1. 배포 목록에서 간접 호출할 배포를 찾아 **추가 옵션** 아이콘(![\[More options icon for a model deployment.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택합니다.
1. 컨텍스트 메뉴에서 **배포 테스트**를 선택합니다.
1. JumpStart 파운데이션 모델과 함께 새로운 **콘텐츠 생성, 추출 및 요약** 채팅이 열리고 프롬프트 입력을 시작할 수 있습니다. 이 채팅의 프롬프트는 SageMaker AI 호스팅 엔드포인트에 요청으로 전송됩니다.
# 엔드포인트 호출
**참고**
프로그래밍 방식으로 [SageMaker AI 엔드포인트를 간접 호출하기 전에 Amazon SageMaker Canvas에서 모델 배포를 테스트](canvas-deploy-model-test.md)하는 것이 좋습니다.
프로덕션 환경에서 애플리케이션과 함께 SageMaker AI 엔드포인트에 배포한 Amazon SageMaker Canvas 모델을 사용할 수 있습니다. 다른 [SageMaker AI 실시간 엔드포인트](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints.html)를 간접 호출하는 것과 동일한 방식으로 프로그래밍 방식으로 엔드포인트를 간접 호출합니다. 엔드포인트를 프로그래밍 방식으로 간접 호출하면 [배포 테스트](canvas-deploy-model-test.md)에서 언급한 것과 동일한 필드를 포함하는 응답 객체가 반환됩니다.
엔드포인트를 프로그래밍 방식으로 호출하는 방법에 대한 자세한 내용은 [실시간 추론을 위한 모델 호출](realtime-endpoints-test-endpoints.md)을 참조하세요.
다음 Python 예제는 모델 유형에 따라 엔드포인트를 호출하는 방법을 보여줍니다.
## JumpStart 파운데이션 모델
다음 예시에서는 엔드포인트에 배포한 JumpStart 파운데이션 모델을 간접 호출하는 방법을 보여줍니다.
```
import boto3
import pandas as pd
client = boto3.client("runtime.sagemaker")
body = pd.DataFrame(
[['feature_column1', 'feature_column2'],
['feature_column1', 'feature_column2']]
).to_csv(header=False, index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
## 숫자 및 범주형 예측 모델
다음 예시에서는 숫자 또는 범주형 예측 모델을 호출하는 방법을 보여줍니다.
```
import boto3
import pandas as pd
client = boto3.client("runtime.sagemaker")
body = pd.DataFrame(['feature_column1', 'feature_column2'], ['feature_column1', 'feature_column2']).to_csv(header=False, index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
## 시계열 예측 모델
다음 예시에서는 시계열 예측 모델을 간접 호출하는 방법을 보여줍니다. 시계열 예측 모델 간접 호출을 테스트하는 방법에 대한 전체 예는 [Time-Series Forecasting with Amazon SageMaker Autopilot](https://github.com/aws/amazon-sagemaker-examples/blob/eef13dae197a6e588a8bc111aba3244f99ee0fbb/autopilot/autopilot_time_series.ipynb)을 참조하세요.
```
import boto3
import pandas as pd
csv_path = './real-time-payload.csv'
data = pd.read_csv(csv_path)
client = boto3.client("runtime.sagemaker")
body = data.to_csv(index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
## 이미지 예측 모델
다음 예시에서는 이미지 예측 모델을 호출하는 방법을 보여줍니다.
```
import boto3
client = boto3.client("runtime.sagemaker")
with open("example_image.jpg", "rb") as file:
body = file.read()
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="application/x-image",
Body=body,
Accept="application/json"
)
```
## 텍스트 예측 모델
다음 예시에서는 텍스트 예측 모델을 호출하는 방법을 보여줍니다.
```
import boto3
import pandas as pd
client = boto3.client("runtime.sagemaker")
body = pd.DataFrame([["Example text 1"], ["Example text 2"]]).to_csv(header=False, index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
# 모델 배포 삭제
Amazon SageMaker Canvas 애플리케이션에서 모델 배포를 삭제할 수 있습니다. 또한 이 작업을 수행하면 SageMaker AI 콘솔에서 엔드포인트가 삭제되고 모든 엔드포인트 관련 리소스가 종료됩니다.
**참고**
선택적으로 [SageMaker AI 콘솔](https://console.aws.amazon.com/sagemaker/)을 통해 또는 SageMaker `DeleteEndpoint` API를 사용하여 엔드포인트를 삭제할 수 있습니다. 자세한 내용은 [엔드포인트 및 리소스 삭제](realtime-endpoints-delete-resources.md) 단원을 참조하십시오. 하지만 Canvas 애플리케이션 대신 SageMaker AI 콘솔 또는 API를 통해 엔드포인트를 삭제하면 Canvas의 배포 목록이 자동으로 업데이트되지 않습니다. 목록에서 제거하려면 Canvas 애플리케이션에서도 배포를 삭제해야 합니다.
Canvas에서 배포를 삭제하려면 다음 작업을 수행합니다.
1. SageMaker Canvas 애플리케이션을 엽니다.
1. 왼쪽 탐색 패널에서 **ML 운영**을 선택합니다.
1. **배포** 탭을 선택합니다.
1. 배포 목록에서 삭제하려는 배포를 선택합니다.
1. 배포 세부 정보 페이지 상단에서 **추가 옵션** 아이콘(![\[More options icon for the output CSV file.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png))을 선택합니다.
1. **배포 삭제**를 선택합니다.
1. **배포 삭제** 대화 상자에서 **삭제**를 선택합니다.
이제 Canvas와 SageMaker AI 콘솔 모두에서 배포 및 SageMaker AI 호스팅 엔드포인트를 삭제해야 합니다.