기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다. # AWS Neuron을 사용하여 DLAMI 인스턴스 시작 최신 DLAMI는 AWS Inferentia와 함께 사용할 준비가 되었으며 AWS Neuron API 패키지와 함께 제공됩니다. DLAMI 인스턴스를 시작하려면 [DLAMI 시작 및 구성](https://docs.aws.amazon.com/dlami/latest/devguide/launch-config.html)을 참조하세요. DLAMI가 있으면 여기의 단계를 사용하여 AWS Inferentia 칩과 AWS Neuron 리소스가 활성 상태인지 확인합니다. **Topics** + [인스턴스 확인](#tutorial-inferentia-launching-verify) + [AWS Inferentia 디바이스 식별](#tutorial-inferentia-launching-identify) + [리소스 사용량 보기](#tutorial-inferentia-launching-resource-usage) + [Neuron Monitor 사용(neuron-monitor)](#tutorial-inferentia-launching-neuron-monitor) + [Neuron 소프트웨어 업그레이드](#tutorial-inferentia-launching-upgrade) ## 인스턴스 확인 인스턴스를 사용하기 전에 인스턴스가 제대로 설정되고 Neuron으로 구성되어 있는지 확인합니다. ## AWS Inferentia 디바이스 식별 인스턴스의 Inferentia 디바이스 수를 식별하려면 다음 명령을 사용합니다. ``` neuron-ls ``` 인스턴스에 Inferentia 디바이스가 연결되어 있는 경우 다음과 유사하게 출력됩니다. ``` +--------+--------+--------+-----------+--------------+ | NEURON | NEURON | NEURON | CONNECTED | PCI | | DEVICE | CORES | MEMORY | DEVICES | BDF | +--------+--------+--------+-----------+--------------+ | 0 | 4 | 8 GB | 1 | 0000:00:1c.0 | | 1 | 4 | 8 GB | 2, 0 | 0000:00:1d.0 | | 2 | 4 | 8 GB | 3, 1 | 0000:00:1e.0 | | 3 | 4 | 8 GB | 2 | 0000:00:1f.0 | +--------+--------+--------+-----------+--------------+ ``` 제공된 출력은 INF1.6xlarge 인스턴스에서 가져온 것이며 다음 열을 포함합니다. + NEURON DEVICE: NeuronDevice에 할당된 논리적 ID입니다. 이 ID는 여러 NeuronDevices를 사용하도록 다중 런타임을 구성할 때 사용됩니다. + NEURON CORES: NeuronDevice에 존재하는 NeuronCores의 수입니다. + NEURON MEMORY: NeuronDevice에 있는 DRAM 메모리의 양입니다. + CONNECTED DEVICES: NeuronDevice에 연결된 다른 NeuronDevice입니다., + PCI BDF: NeuronDevice의 PCI 버스 디바이스 함수(BDF) ID입니다. ## 리소스 사용량 보기 `neuron-top` 명령을 사용하여 NeuronCore 및 vCPU 사용률, 메모리 사용량, 로드된 모델 및 Neuron 애플리케이션에 대한 유용한 정보를 볼 수 있습니다. 인수 없이 `neuron-top`를 실행하면 NeuronCores를 사용하는 모든 기계 학습 응용 프로그램의 데이터가 표시됩니다. ``` neuron-top ``` 애플리케이션이 NeuronCore 4개를 사용하는 경우 다음과 유사하게 출력됩니다. ![네 개의 NeuronCore 중 하나에 대한 정보가 강조 표시된 neuron-top 명령의 출력입니다.](http://docs.aws.amazon.com/ko_kr/dlami/latest/devguide/images/neuron-top-output.png) Neuron 기반 추론 애플리케이션을 모니터링하고 최적화하기 위한 리소스에 대한 자세한 내용은 [Neuron 도구](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/neuron-guide/neuron-tools/index.html)를 참조하세요. ## Neuron Monitor 사용(neuron-monitor) Neuron Monitor는 시스템에서 실행되는 Neuron 런타임에서 지표를 수집하고 수집된 데이터를 JSON 형식의 stdout에 스트리밍합니다. 이러한 지표는구성 파일을 제공하여 구성하는 지표 그룹으로 구성됩니다. Neuron Monitor에 대한 자세한 내용은 [Neuron Monitor사용 설명서](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/neuron-guide/neuron-tools/neuron-monitor-user-guide.html)를 참조하세요. ## Neuron 소프트웨어 업그레이드 DLAMI 내에서 Neuron SDK 소프트웨어를 업데이트하는 방법에 대한 자세한 내용은 AWS Neuron [Setup Guide](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/neuron-intro/neuron-install-guide.html)를 참조하세요. **다음 단계** [AWS Neuron에서 DLAMI 사용](tutorial-inferentia-using.md)