Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
# Procedura dettagliata del report di profilazione di Debugger
In questa sezione viene illustrato il report di profilazione di Debugger sezione per sezione. Il report di profilazione viene generato in base alle regole integrate per il monitoraggio e la profilazione. Il report mostra i grafici dei risultati solo per le regole che hanno riscontrato problemi.
**Importante**
Nel report, i grafici e le raccomandazioni sono forniti a scopo informativo e non sono definitivi. Sei responsabile della tua valutazione indipendente delle informazioni.
**Topics**
+ [Riepilogo del processo di addestramento](#debugger-profiling-report-walkthrough-summary)
+ [Statistiche di utilizzo del sistema](#debugger-profiling-report-walkthrough-system-usage)
+ [Riepilogo dei parametri del framework](#debugger-profiling-report-walkthrough-framework-metrics)
+ [Riepilogo delle regole](#debugger-profiling-report-walkthrough-rules-summary)
+ [Analisi del ciclo di addestramento: durata delle fasi](#debugger-profiling-report-walkthrough-step-durations)
+ [Analisi dell'utilizzo della GPU](#debugger-profiling-report-walkthrough-gpu-utilization)
+ [Dimensione batch](#debugger-profiling-report-walkthrough-batch-size)
+ [Colli di bottiglia della CPU](#debugger-profiling-report-walkthrough-cpu-bottlenecks)
+ [Colli di bottiglia di I/O](#debugger-profiling-report-walkthrough-io-bottlenecks)
+ [Sistema di bilanciamento del carico nell'addestramento con più GPU](#debugger-profiling-report-walkthrough-workload-balancing)
+ [Analisi della memoria GPU](#debugger-profiling-report-walkthrough-gpu-memory)
## Riepilogo del processo di addestramento
All'inizio del report, Debugger fornisce un riepilogo del processo di addestramento eseguito. In questa sezione, puoi visualizzare una panoramica delle durate e degli orari nelle diverse fasi dell'addestramento.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-summary.gif)
La tabella di riepilogo contiene le informazioni seguenti:
+ **ora\$1inizio**: l'ora esatta in cui è iniziato il processo di addestramento.
+ **ora\$1fine**: l'ora esatta in cui il processo di addestramento è terminato.
+ **durata\$1processo\$1in\$1secondi**: il tempo totale di addestramento da **ora\$1inizio** a **ora\$1fine**.
+ **avvio\$1ciclo\$1addestramento**: l'ora esatta in cui è iniziata la prima fase della prima epoca.
+ **fine\$1ciclo\$1addestramento**: l'ora esatta in cui è terminata l’ultima fase dell’ultima epoca.
+ **durata\$1ciclo\$1addestramento\$1in\$1secondi**: il tempo totale tra l'ora di inizio del ciclo di addestramento e l'ora di fine del ciclo di addestramento.
+ **inizializzazione\$1in\$1secondi**: tempo impiegato per inizializzare il processo di addestramento. La fase di inizializzazione copre il periodo compreso tra **ora\$1inizio** e l’ora di **inizio\$1ciclo\$1addestramento**. Il tempo di inizializzazione viene dedicato alla compilazione dello script di addestramento, all'avvio dello script di addestramento, alla creazione e inizializzazione del modello, all'avvio delle istanze EC2 e al download dei dati di addestramento.
+ **finalizzazione\$1in\$1secondi** – Tempo impiegato per finalizzare il processo di addestramento, ad esempio per completare l'addestramento del modello, aggiornare gli artefatti del modello e chiudere le istanze EC2. La fase di inizializzazione copre il periodo compreso tra l’ora di **dine\$1ciclo\$1addestramento** e **ora\$1fine**.
+ **inizializzazione (%)** – La percentuale di tempo impiegato per l’**inizializzazione** rispetto al totale della **durata\$1processo\$1in\$1secondi**.
+ **ciclo di addestramento (%)** – La percentuale di tempo impiegato per il ’**ciclo di addestramento** rispetto al totale della **durata\$1processo\$1in\$1secondi**.
+ **finalizzazione (%)** – La percentuale di tempo impiegato per la **finalizzazione** rispetto al totale della **durata\$1processo\$1in\$1secondi**.
## Statistiche di utilizzo del sistema
In questa sezione è possibile visualizzare una panoramica delle statistiche di utilizzo del sistema.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-system-usage.png)
Il report di profilazione di Debugger include le seguenti informazioni:
+ **nodo**: elenca il nome dei nodi. Se si utilizza l'addestramento distribuito su più nodi (più istanze EC2), i nomi dei nodi hanno il formato `algo-n`.
+ **parametro**: i parametri di sistema raccolti da Debugger: CPU, GPU, memoria CPU, memoria GPU, I/O e parametri di rete.
+ **unità**: l’unità dei parametri di sistema.
+ **max**: il valore massimo di ogni parametro di sistema.
+ **p99**: il 99° percentile di utilizzo di ogni sistema.
+ **p95**: il 95° percentile di utilizzo di ogni sistema.
+ **p50**: il 50° percentile (mediana) di ogni utilizzo del sistema.
+ **min**: il valore minimo di ogni parametro di sistema.
## Riepilogo dei parametri del framework
In questa sezione, i seguenti grafici a torta mostrano la suddivisione delle operazioni del framework su e. CPUs GPUs
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-framework-metrics-summary.gif)
Ciascuno dei grafici a torta analizza i parametri del framework raccolti in vari aspetti come segue:
+ **Rapporto tra TRAIN/EVAL fasi e altre**: mostra il rapporto tra le durate di tempo impiegate nelle diverse fasi di allenamento.
+ **Rapporto tra passaggio in avanti e indietro** – Mostra il rapporto tra il tempo impiegato per il passaggio in avanti e quello all'indietro nel ciclo di addestramento.
+ **Rapporto tra CPU/GPU operatori**: mostra il rapporto tra il tempo impiegato dagli operatori che utilizzano CPU o GPU, ad esempio gli operatori convoluzionali.
+ **Parametri generali registrati nel framework** – Mostra il rapporto tra il tempo impiegato per i principali parametri del framework, come il caricamento dei dati, il passaggio in avanti e all'indietro.
### Panoramica: operatori della CPU
Questa sezione fornisce informazioni dettagliate sugli operatori della CPU. La tabella mostra la percentuale di tempo e il tempo cumulativo assoluto impiegato dagli operatori CPU più frequentemente chiamati.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-framework-cpu-operators.gif)
### Panoramica: operatori della GPU
Questa sezione fornisce informazioni dettagliate sugli operatori della GPU. La tabella mostra la percentuale di tempo e il tempo cumulativo assoluto impiegato dagli operatori GPU più frequentemente chiamati.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-framework-gpu-operators.gif)
## Riepilogo delle regole
In questa sezione, Debugger aggrega tutti i risultati della valutazione delle regole, le analisi, le descrizioni delle regole e i suggerimenti.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-rules-summary.png)
## Analisi del ciclo di addestramento: durata delle fasi
In questa sezione, puoi trovare statistiche dettagliate sulla durata delle fasi su ciascun core della GPU di ciascun nodo. Debugger valuta i valori medi, massimi, p99, p95, p50 e minimi delle durate delle fasi e valuta i valori anomali delle fasi. L'istogramma seguente mostra le durate dei passaggi acquisite su diversi nodi di lavoro e. GPUs È possibile abilitare o disabilitare l'istogramma di ogni worker scegliendo le legende sul lato destro. È possibile verificare se c'è una particolare GPU che causa valori anomali nella durata delle fasi.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-framework-step-duration.gif)
## Analisi dell'utilizzo della GPU
Questa sezione mostra le statistiche dettagliate sull'utilizzo dei core della GPU basate sulla regola Low. GPUUtilization Inoltre riassume le statistiche sull'utilizzo della GPU, mean, p95 e p5 per determinare se il lavoro di formazione è sottoutilizzato. GPUs
## Dimensione batch
Questa sezione mostra le statistiche dettagliate sull'utilizzo totale della CPU, sull'utilizzo delle singole GPU e sull'impronta della memoria della GPU. La BatchSize regola determina se è necessario modificare la dimensione del batch per utilizzare meglio il. GPUs È possibile verificare se la dimensione del batch è troppo piccola, con conseguente sottoutilizzo o troppo grande, con conseguente sovrautilizzo e problemi di esaurimento della memoria. Nel grafico, le caselle mostrano gli intervalli percentili p25 e p75 (riempiti rispettivamente di viola scuro e giallo brillante) rispetto alla mediana (p50), mentre le barre di errore mostrano il 5° percentile per il limite inferiore e il 95° percentile per il limite superiore.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-batch-size.png)
## Colli di bottiglia della CPU
In questa sezione, puoi approfondire i punti deboli della CPU rilevati dalla CPUBottleneck regola durante il tuo processo di formazione. La regola verifica se l'utilizzo della CPU è superiore a `cpu_threshold` (90% per impostazione predefinita) e anche se l'utilizzo della GPU è inferiore (10% per impostazione predefinita). `gpu_threshold`
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-cpu-bottlenecks.png)
I grafici a torta mostrano le seguenti informazioni:
+ **Scarso utilizzo della GPU causato da colli di bottiglia della CPU** – Mostra il rapporto tra i punti dati tra quelli con un utilizzo della GPU superiore e inferiore alla soglia e quelli che corrispondono ai criteri di collo di bottiglia della CPU.
+ **Rapporto tra TRAIN/EVAL fasi e altre**: mostra il rapporto tra le durate di tempo impiegate nelle diverse fasi di allenamento.
+ **Rapporto tra passaggio in avanti e indietro** – Mostra il rapporto tra il tempo impiegato per il passaggio in avanti e quello all'indietro nel ciclo di addestramento.
+ **Rapporto tra CPU/GPU operatori**: mostra il rapporto tra le durate di tempo impiegate su GPUs e CPUs dagli operatori Python, come i processi di caricamento dati e gli operatori di passaggio avanti e indietro.
+ **Parametri generali registrati nel framework** – Mostra i principali parametri del framework e il rapporto tra il tempo impiegato per i parametri.
## Colli di bottiglia di I/O
In questa sezione, puoi trovare un riepilogo degli ostacoli. I/O La regola valuta il tempo di I/O attesa e i tassi di utilizzo della GPU e monitora il tempo impiegato nei punti critici in attesa dell'arrivo I/O requests exceeds a threshold percent of the total training time. It might indicate I/O dei dati dallo storage. GPUs
## Sistema di bilanciamento del carico nell'addestramento con più GPU
In questa sezione, puoi identificare i problemi di bilanciamento del carico di lavoro in tutti i settori. GPUs
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-workload-balancing.gif)
## Analisi della memoria GPU
In questa sezione, puoi analizzare l'utilizzo della memoria GPU raccolto dalla regola Increase. GPUMemory Nel grafico, le caselle mostrano gli intervalli percentili p25 e p75 (riempiti rispettivamente di viola scuro e giallo brillante) rispetto alla mediana (p50), mentre le barre di errore mostrano il 5° percentile per il limite inferiore e il 95° percentile per il limite superiore.
![\[Un esempio di report di profilazione di Debugger\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/debugger/debugger-profiling-report-gpu-memory-utilization.png)