Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
# Test delle copie shadow
Con Amazon SageMaker AI puoi valutare eventuali modifiche all’infrastruttura di servizio del modello confrontandone le prestazioni rispetto a quelle dell’infrastruttura attualmente implementata. Questa pratica è nota come shadow testing. Lo shadow testing può aiutarti a individuare potenziali errori di configurazione e problemi di prestazioni prima che abbiano un impatto sugli utenti finali. Con SageMaker AI non è necessario investire nella creazione della propria infrastruttura di shadow testing, così da potersi concentrare solo sullo sviluppo dei modelli.
Puoi utilizzare questa funzionalità per convalidare le modifiche a qualsiasi componente della tua variante di produzione, vale a dire il modello, il container o l'istanza, senza alcun impatto sull'utente finale. È utile in casi che includono, ma non si limitano a, ciò che segue:
+ Stai valutando la possibilità di promuovere in produzione un nuovo modello convalidato offline ma, prima di prendere questa decisione, desideri valutare i parametri delle prestazioni operative, come latenza e tasso di errore.
+ Stai valutando la possibilità di apportare modifiche al container dell'infrastruttura di servizio, per esempio con l’applicazione di patch alle vulnerabilità o l'aggiornamento a versioni più recenti, e desideri valutare l'impatto di queste modifiche prima di andare in produzione.
+ Stai valutando la possibilità di modificare la tua istanza ML e desideri valutare le prestazioni della nuova istanza rispetto a richieste di inferenza in tempo reale.
La console SageMaker AI offre un’esperienza guidata per gestire il flusso di lavoro dello shadow testing. È possibile configurare gli shadow test per un periodo di tempo predefinito, monitorare lo stato di avanzamento del test tramite una dashboard in tempo reale, eseguire operazioni di pulizia al completamento e intervenire in base ai risultati. Seleziona una variante di produzione su cui desideri eseguire il test; SageMaker AI implementa automaticamente la nuova variante in modalità shadow, instradando una copia delle richieste di inferenza in tempo reale all’interno dello stesso endpoint. Solo le risposte della variante di produzione vengono restituite all'applicazione chiamante. Puoi scegliere di scartare o registrare le risposte della variante shadow per il confronto offline. Per ulteriori informazioni sulle varianti di produzione e sulle varianti shadow, consulta [Convalida dei modelli in produzione](model-validation.md).
Consulta [Crea un test delle copie shadow](shadow-tests-create.md) per istruzioni sulla creazione di un test delle copie shadow.
**Nota**
Alcune funzionalità degli endpoint possono rendere il tuo endpoint incompatibile con i test delle versioni shadow. Se l’endpoint utilizza una delle seguenti funzionalità, non è possibile utilizzare i test delle copie shadow sull’endpoint e la richiesta di configurazione dei test delle copie shadow comporterà errori di convalida.
Inferenza serverless
Inferenza asincrona
Container Marketplace
Endpoint multi-container
Endpoint multi-modello
Endpoint che utilizzano istanze Inf1 (basate su inferenza)
# Crea un test delle copie shadow
Puoi creare un test delle copie shadow per confrontare le prestazioni di una variante shadow con una variante di produzione. Puoi eseguire il test su un endpoint esistente che serve richieste di inferenza oppure creare un nuovo endpoint su cui eseguire il test.
Per creare un test delle copie shadow devi specificare quanto segue:
+ Una *variante di produzione* che riceve e risponde al 100% delle richieste di inferenza in entrata.
+ Una *variante shadow* che riceve una percentuale delle richieste in entrata, replicata dalla variante di produzione, ma non restituisce alcuna risposta.
Per ogni variante, puoi utilizzare l' SageMaker intelligenza artificiale per controllare il modello, il tipo di istanza e il numero di istanze. Puoi configurare la percentuale di richieste in entrata, nota come percentuale di campionamento del traffico, che desideri replicare nella tua variante shadow. SageMaker L'intelligenza artificiale gestisce la replica delle richieste nella variante shadow e puoi modificare la percentuale di campionamento del traffico quando il test è pianificato o in esecuzione. Facoltativamente, puoi anche attivare Acquisizione dei dati per registrare le richieste e le risposte delle tue varianti di produzione e shadow.
**Nota**
SageMaker L'intelligenza artificiale supporta al massimo una variante shadow per endpoint. Per un endpoint con una variante shadow, può esserci al massimo una variante di produzione.
È possibile pianificare l'inizio del test in qualsiasi momento e continuare per una durata specificata. La durata predefinita è 7 giorni e la massima è 30 giorni. Una volta completato il test, l'endpoint torna allo stato in cui si trovava prima dell'inizio del test. In questo modo non è necessario pulire manualmente le risorse al termine del test.
Puoi monitorare un test in esecuzione tramite una dashboard nella console SageMaker AI. Il pannello di controllo fornisce un confronto affiancato dei parametri di invocazione e dei parametri delle istanze tra le varianti di produzione e quelle shadow, oltre a una visualizzazione tabulare con le statistiche metriche pertinenti. Questo pannello di controllo è disponibile anche per i test completati. Dopo aver esaminato i parametri, puoi scegliere di promuovere la variante shadow come nuova variante di produzione o mantenere la variante di produzione esistente. Una volta promossa, la variante shadow risponde a tutte le richieste in entrata. Per ulteriori informazioni, consulta [Promozione di una variante shadow](shadow-tests-complete.md#shadow-tests-complete-promote).
La procedura seguente descrive come creare un test shadow tramite la console SageMaker AI. Esistono variazioni nel flusso di lavoro a seconda che si desideri utilizzare un endpoint esistente o creare un nuovo endpoint per il test delle copie shadow.
**Topics**
+ [Prerequisiti](#shadow-tests-create-prerequisites)
+ [Inserisci i dettagli del test delle copie shadow](#shadow-tests-create-console-shadow-test-details)
+ [Immetti le impostazioni del test delle copie shadow](#shadow-tests-create-console-shadow-test-settings)
## Prerequisiti
Prima di creare uno shadow test con la console SageMaker AI, è necessario disporre di un modello di SageMaker intelligenza artificiale pronto per l'uso. Per ulteriori informazioni su come creare un modello di SageMaker intelligenza artificiale, consulta[Implementazione di modelli per l’inferenza in tempo reale](realtime-endpoints-deploy-models.md).
Puoi iniziare con i test ombra con un endpoint esistente con una variante di produzione e una variante ombra, un endpoint esistente con solo una variante di produzione o solo i modelli di SageMaker intelligenza artificiale che desideri confrontare. I test delle copie shadow supportano la creazione di un endpoint e l'aggiunta di varianti prima dell'inizio del test.
**Nota**
Alcune funzionalità degli endpoint possono rendere il tuo endpoint incompatibile con i test delle versioni shadow. Se l’endpoint utilizza una delle seguenti funzionalità, non è possibile utilizzare i test delle copie shadow sull’endpoint e la richiesta di configurazione dei test delle copie shadow comporterà errori di convalida.
Inferenza serverless
Inferenza asincrona
Container Marketplace
Endpoint multi-container
Endpoint multi-modello
Endpoint che utilizzano istanze Inf1 (basate su inferenza)
## Inserisci i dettagli del test delle copie shadow
Per iniziare a creare il tuo test delle copie shadow, compila la pagina **Inserisci i dettagli del test delle copie shadow** effettuando le seguenti operazioni:
1. Apri la console [SageMaker AI](https://console.aws.amazon.com/sagemaker/).
1. Nel pannello di navigazione a sinistra, seleziona **Inferenza** e poi scegli **Test delle copie shadow**.
1. Scegli **Crea un test delle copie shadow**.
1. Nel campo **Nome** inserisci un nome per il test.
1. (Facoltativo) In **Descrizione**, inserisci una descrizione per il test.
1. (Facoltativo) Specifica i **Tag** utilizzando le coppie **Chiave** e **Valore**.
1. Scegli **Next (Successivo)**.
## Immetti le impostazioni del test delle copie shadow
Dopo aver compilato la pagina **Immetti i dettagli del test delle copie shadow**, compila la pagina **Inserisci le impostazioni del test delle copie shadow**. Se disponi già di un endpoint SageMaker AI Inference e di una variante di produzione, segui il flusso di lavoro **Usa un endpoint esistente**. Se non disponi ancora di un endpoint, consulta il flusso di lavoro **Crea un nuovo endpoint**.
------
#### [ Use an existing endpoint ]
Se desideri utilizzare un endpoint esistente per il test, compila la pagina **Inserisci le impostazioni del test delle copie shadow** effettuando le seguenti operazioni:
1. Scegli un ruolo a cui è collegata la policy IAM `AmazonSageMakerFullAccess`.
1. Scegli **Usa un endpoint esistente**, quindi scegli uno degli endpoint disponibili.
1. (Facoltativo) Per crittografare il volume di archiviazione sull'endpoint, scegli una chiave KMS esistente o scegli **Immetti un ARN della chiave KMS dal menù** a discesa sotto **Chiave di crittografia**. Se scegli la seconda opzione, viene visualizzato un campo per inserire l'ARN chiave KMS. Inserisci l'ARN chiave KMS in quel campo.
1. Se hai più varianti di produzione dietro quell'endpoint, rimuovi quelle che non desideri utilizzare per il test. Puoi rimuovere una variante del modello selezionandola e scegliendo **Rimuovi**.
1. Se non hai già una variante shadow, aggiungi una variante shadow. Per aggiungere una variante shadow, procedi come segue:
1. Scegli **Add** (Aggiungi).
1. Scegli **Variante Shadow**.
1. Nella finestra di dialogo **Aggiungi modello**, scegli il modello che desideri utilizzare per la variante shadow.
1. Scegli **Save** (Salva).
1. (Facoltativo) Nella fase precedente, la variante shadow viene aggiunta con le impostazioni predefinite. Per modificare queste impostazioni, seleziona la variante shadow e scegli **Modifica**. Viene visualizzata la finestra di dialogo **Modifica variante shadow**. Per ulteriori informazioni sulla compilazione di questa finestra di dialogo, consulta [Modifica un test delle copie shadow](shadow-tests-view-monitor-edit-individual.md).
1. Nella sezione **Pianificazione**, inserite la durata del test effettuando le seguenti operazioni:
1. Scegli la casella sotto **Durata**. Viene visualizzato un calendario popup.
1. Seleziona le date di inizio e di fine dal calendario oppure inserisci le date di inizio e di fine rispettivamente nei campi **Data di inizio** e **Data di fine**.
1. (Facoltativo) Per i campi **Ora di inizio** e **Ora di fine**, inserisci rispettivamente l'ora di inizio e di fine nel formato 24 ore.
1. Scegli **Applica**.
La durata minima è di 1 ora e la durata massima è di 30 giorni.
1. (Facoltativo) Attiva **Abilita acquisizione dei dati** per salvare le informazioni di richiesta di inferenza e risposta dall'endpoint a un bucket Amazon S3, quindi inserisci la posizione del bucket Amazon S3.
1. Scegli **Crea un test delle copie shadow**.
------
#### [ Create a new endpoint ]
Se non disponi di un endpoint esistente o desideri creare un nuovo endpoint per il test, compila la pagina **Inserisci le impostazioni del test delle copie shadow** effettuando le seguenti operazioni:
1. Scegli un ruolo a cui è collegata la policy IAM `AmazonSageMakerFullAccess`.
1. Scegli **Crea un nuovo endpoint**.
1. Per **Name**, inserisci un nome per l'endpoint.
1. Aggiungi una variante di produzione e una variante shadow all'endpoint:
+ Per aggiungere una variante di produzione, scegli **Aggiungi**, quindi scegli **Variante di produzione**. Nella finestra di dialogo **Aggiungi modello**, scegli il modello che desideri utilizzare per la variante di produzione e scegli **Salva**.
+ Per aggiungere una variante shadow, scegli **Aggiungi**, quindi scegli **Variante shadow**. Nella finestra di dialogo **Aggiungi modello**, scegli il modello che desideri utilizzare per la variante shadow e scegli **Salva**.
1. (Facoltativo) Nella fase precedente, la variante shadow viene aggiunta con le impostazioni predefinite. Per modificare queste impostazioni, seleziona la variante shadow e scegli **Modifica**. Viene visualizzata la finestra di dialogo **Modifica variante shadow**. Per ulteriori informazioni sulla compilazione di questa finestra di dialogo, consulta [Modifica un test delle copie shadow](shadow-tests-view-monitor-edit-individual.md).
1. Nella sezione **Pianificazione**, inserite la durata del test effettuando le seguenti operazioni:
1. Scegli la casella sotto **Durata**. Viene visualizzato un calendario popup.
1. Seleziona le date di inizio e di fine dal calendario oppure inserisci le date di inizio e di fine rispettivamente in **Data di inizio** e **Data di fine**.
1. (Facoltativo) Per **Ora di inizio** e **Ora di fine**, inserisci rispettivamente l'ora di inizio e di fine nel formato 24 ore.
1. Scegli **Applica**.
La durata minima è di 1 ora e la durata massima è di 30 giorni.
1. (Facoltativo) Attiva **Abilita acquisizione dei dati** per salvare le informazioni di richiesta di inferenza e risposta dall'endpoint a un bucket Amazon S3, quindi inserisci la posizione del bucket Amazon S3.
1. Scegli **Crea un test delle copie shadow**.
------
Dopo aver completato le procedure precedenti, ora dovresti avere un test programmato per iniziare alla data e all'ora di inizio specificate. Puoi visualizzare lo stato di avanzamento del test da un pannello di controllo. Per ulteriori informazioni sulla visualizzazione del test e sulle azioni che è possibile eseguire, consulta [Come visualizzare, monitorare e modificare i test delle copie shadow](shadow-tests-view-monitor-edit.md).
# Come visualizzare, monitorare e modificare i test delle copie shadow
Puoi visualizzare gli stati dei test delle copie shadow, monitorarne l'avanzamento da un pannello di controllo ed eseguire azioni, come avviare o arrestare anticipatamente un test o eliminarlo. Gli argomenti seguenti illustrano come è possibile visualizzare e modificare i test delle copie shadow utilizzando la console SageMaker AI.
**Topics**
+ [Visualizza i test delle copie shadow](shadow-tests-view-monitor-edit-list.md)
+ [Monitora un test delle copie shadow](shadow-tests-view-monitor-edit-dashboard.md)
+ [Inizia un test delle copie shadow in anticipo](shadow-tests-view-monitor-edit-start.md)
+ [Elimina un test delle copie shadow](shadow-tests-view-monitor-edit-delete.md)
+ [Modifica un test delle copie shadow](shadow-tests-view-monitor-edit-individual.md)
# Visualizza i test delle copie shadow
Puoi visualizzare gli stati di tutti i test delle copie shadow nella pagina **Test delle copie shadow** della console SageMaker AI.
Per visualizzare i test nella console, esegui le seguenti operazioni:
1. Apri la [console di SageMaker AI](https://console.aws.amazon.com/sagemaker/).
1. Nel pannello di navigazione, scegli **Inferenza**.
1. Scegli **Test delle copie shadow** per visualizzare la pagina che elenca tutti i tuoi test delle copie shadow. La pagina dovrebbe apparire come nello screenshot seguente, con tutti i test elencati nella sezione **Test delle copie shadow**.
![\[Elenco di tutti i test delle copie shadow.\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/juxtaposer/shadow-test-landing-page.png)
Puoi vedere lo stato di un test nella console nella pagina **Test delle copie shadow** selezionando il campo **Stato** del test.
Di seguito sono riportati i possibili stati per un test:
+ `Creating` - SageMaker AI sta creando il tuo test.
+ `Created` - SageMaker AI ha terminato la creazione del test e inizierà all’orario pianificato.
+ `Updating` — Quando si apportano modifiche al test, il test viene visualizzato come aggiornamento.
+ `Starting` - SageMaker AI sta iniziando il test.
+ `Running` — Il test è in corso.
+ `Stopping` - SageMaker AI sta arrestando il test.
+ `Completed` — Il test è stato completato.
+ `Cancelled` — Quando concludi il test in anticipo, questo viene visualizzato come annullato.
# Monitora un test delle copie shadow
Puoi visualizzare i dettagli di un test delle copie shadow e monitorarlo mentre è in corso o dopo il suo completamento. SageMaker AI presenta una dashboard in tempo reale che confronta metriche operative come la latenza del modello e il tasso di errore aggregato delle varianti di produzione e shadow.
Per visualizzare i dettagli di un singolo test nella console, esegui le seguenti operazioni:
1. Seleziona il test che desideri monitorare dalla sezione **Test delle copie shadow** della pagina **Test delle copie shadow**.
1. Dal menù a discesa **Azioni**, scegli **Visualizza**. Viene visualizzata una pagina di panoramica con i dettagli del test e un pannello di controllo dei parametri.
La pagina di panoramica contiene le tre sezioni seguenti.
**Riepilogo**
Questa sezione riassume l'avanzamento e lo stato del test. Mostra anche le statistiche di riepilogo dei parametri scelti dal menù a discesa **Seleziona parametro** nella sottosezione **Parametri**. Lo screenshot seguente mostra questa sezione.
![\[Sezione Riepilogo della pagina Panoramica.\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/juxtaposer/shadow-test-summary.png)
Nello screenshot precedente, le schede **Impostazioni** e **Dettagli** mostrano le impostazioni selezionate e i dettagli inseriti durante la creazione del test.
**Analisi**
Questa sezione mostra un pannello di controllo dei parametri con grafici separati per i seguenti parametri:
+ `Invocations`
+ `InvocationsPerInstance`
+ `ModelLatency`
+ `Invocation4XXErrors`
+ `Invocation5XXErrors`
+ `InvocationModelErrors`
+ `CPUUtilization`
+ `MemoryUtilization`
+ `DiskUtilization`
Gli ultimi tre parametri monitorano l'utilizzo delle risorse di runtime del container del modello. Il resto sono parametri CloudWatch che puoi utilizzare per analizzare le prestazioni della tua variante. In generale, un minor numero di errori indica un modello più stabile. Una latenza inferiore indica un modello o un'infrastruttura più veloci. Per ulteriori informazioni sui parametri CloudWatch, consultare [SageMaker Metriche di invocazione degli endpoint AI](monitoring-cloudwatch.md#cloudwatch-metrics-endpoint-invocation). Lo screenshot seguente mostra il pannello di controllo dei parametri.
![\[Pannello di controllo per l'analisi dei parametri.\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/juxtaposer/shadow-test-analysis.png)
**Ambiente**
Questa sezione mostra le varianti che hai confrontato nel test. Se sei soddisfatto delle prestazioni della variante shadow, in base ai parametri sopra menzionati, puoi promuovere la variante shadow alla produzione scegliendo **Implementa variante shadow**. Per ulteriori dettagli sull’implementazione di una variante shadow, consulta [Promozione di una variante shadow](shadow-tests-complete.md#shadow-tests-complete-promote). Puoi anche modificare la percentuale di campionamento del traffico e continuare i test scegliendo **Modifica traffico**. Per ulteriori dettagli sulla modifica di una variante shadow, consulta [Modifica un test delle copie shadow](shadow-tests-view-monitor-edit-individual.md). Lo screenshot seguente mostra questa sezione.
![\[Sezione Ambiente della pagina Panoramica.\]](http://docs.aws.amazon.com/it_it/sagemaker/latest/dg/images/juxtaposer/shadow-test-environment.png)
# Inizia un test delle copie shadow in anticipo
Puoi iniziare il test prima dell'ora di inizio pianificata. Se la nuova durata del test supera i 30 giorni, SageMaker AI imposta automaticamente la fine del test su 30 giorni dopo la nuova ora di inizio. Questa operazione avvia immediatamente il test. Se desideri modificare l'ora di inizio o di fine del test, consulta [Modifica un test delle copie shadow](shadow-tests-view-monitor-edit-individual.md).
Per iniziare immediatamente il test, prima dell'ora di inizio pianificata, tramite la console, procedi come segue:
1. Seleziona il test che desideri avviare immediatamente dalla sezione **Test delle copie shadow** della pagina **Test delle copie shadow**.
1. Dal menù a discesa **Azioni**, scegli **Inizia**. Viene visualizzata una finestra di dialogo **Avvia il test delle copie shadow?**.
1. Scegli **Inizia ora**.
# Elimina un test delle copie shadow
Se non hai più bisogno di un test, puoi eliminarlo. L'eliminazione del test elimina solo i metadati del test e non l'endpoint, le varianti o i dati acquisiti in Amazon S3. Se vuoi che il tuo endpoint smetta di funzionare, devi eliminarlo. Per ulteriori informazioni sull’eliminazione di un endpoint, consulta [Elimina endpoint e risorse](realtime-endpoints-delete-resources.md).
Per eliminare un test tramite la console, effettua quanto segue:
1. Seleziona il test che desideri eliminare dalla sezione **Test delle copie shadow** della pagina **Test delle copie shadow**.
1. Dal menù a discesa **Azioni**, seleziona **Elimina**. Viene visualizzata una finestra di dialogo **Elimina il test delle copie shadow**.
1. Nella casella di testo **Per confermare l’eliminazione digita *elimina* nel campo.** inserisci **delete**.
1. Scegliere **Delete** (Elimina).
# Modifica un test delle copie shadow
È possibile modificare sia i test pianificati che quelli in corso. Prima dell'inizio del test, puoi modificare la descrizione, la configurazione della variante shadow, la data di inizio e la data di fine del test. È inoltre possibile attivare o disattivare l'acquisizione dei dati.
Dopo l'inizio del test, puoi solo modificare la descrizione, la percentuale di campionamento del traffico per la variante shadow e la data di fine.
Per modificare i dettagli del test tramite la console, effettua quanto segue:
1. Seleziona il test che desideri modificare dalla sezione **Test delle copie shadow** della pagina **Test delle copie shadow**.
1. Dal menù a discesa **Azioni**, scegli **Modifica**. Viene visualizzata la pagina **Inserisci i dettagli del test delle copie shadow**.
1. (Facoltativo) In **Descrizione**, inserisci una descrizione per il test.
1. Scegli **Next (Successivo)**. Viene visualizzata la pagina **Inserisci le impostazioni del test delle copie shadow**.
1. (Facoltativo) Per modificare la variante shadow, esegui le operazioni indicate di seguito:
1. Seleziona la variante shadow e scegli **Modifica**. Viene visualizzata la finestra di dialogo **Modifica variante shadow**. Se il test è già iniziato, puoi solo modificare la percentuale di campionamento del traffico.
1. (Facoltativo) In **Nome**, inserisci il nuovo nome per sostituire il vecchio nome.
1. (Facoltativo) In **Esempio di traffico**, inserisci la nuova percentuale di campionamento del traffico per sostituire la vecchia percentuale di campionamento del traffico.
1. (Facoltativo) In **Tipo di istanza**, seleziona il nuovo tipo di istanza dal menù a discesa.
1. (Facoltativo) In **Conteggio istanze**, inserisci il nuovo conteggio delle istanze per sostituire il vecchio conteggio delle istanze.
1. Scegli **Applica**.
Non è possibile modificare il modello nella variante shadow utilizzando la procedura sopra descritta. Se desideri modificare il modello, rimuovi innanzitutto la variante shadow selezionandola e scegliendo **Rimuovi**. Quindi aggiungi una nuova variante shadow.
1. (Facoltativo) Per modificare la durata del test, esegui le seguenti operazioni:
1. Scegli la casella sotto **Durata** nella sezione **Pianificazione**. Viene visualizzato un calendario popup.
1. Se il test deve ancora iniziare, puoi modificare sia la data di inizio che quella di fine. Seleziona le nuove date di inizio e di fine dal calendario oppure inserisci le nuove date di inizio e di fine rispettivamente in **Data di inizio** e **Data di fine**.
Se il test è già iniziato, puoi solo modificare la data di fine. Inserisci la nuova data di fine in **Data di fine**.
1. (Facoltativo) Se il test deve ancora iniziare, puoi modificare sia l'ora di inizio che quella di fine. Inserisci i nuovi orari di inizio e di fine rispettivamente in **Ora di inizio** e **Ora di fine** nel formato di 24 ore.
Se il test è già iniziato, puoi modificare solo l'ora di fine. Inserisci la nuova ora di fine in **Ora di fine**, nel formato di 24 ore.
1. Scegli **Applica**.
1. (Facoltativo) Attiva o disattiva **Abilita acquisizione dei dati**.
1. Scegli **Aggiorna il test delle copie shadow**.
# Completa un test delle copie shadow
Il test viene completato automaticamente alla fine della durata programmata oppure puoi interrompere anticipatamente un test in corso. Una volta completato il test, lo stato del test nella sezione **Test delle copie shadow** della pagina **Test delle copie shadow** viene visualizzato come **Completo**. Quindi puoi rivedere e analizzare i parametri finali del test.
Puoi utilizzare la dashboard dei parametri per decidere se promuovere la variante shadow alla produzione. Per ulteriori informazioni sull'analisi della dashboard dei parametri del test, consulta [Monitora un test delle copie shadow](shadow-tests-view-monitor-edit-dashboard.md).
Per istruzioni su come completare il test prima della fine dell'orario di completamento pianificato, consulta [Completa un test delle copie shadow in anticipo](#shadow-tests-complete-early).
Per istruzioni su come promuovere la variante shadow alla produzione, consulta [Promozione di una variante shadow](#shadow-tests-complete-promote).
## Completa un test delle copie shadow in anticipo
Uno dei motivi per cui potresti voler completare uno test delle copie shadow in corso è se hai deciso che i parametri per la tua variante shadow sono soddisfacenti e desideri promuoverla fino alla produzione. Potresti anche decidere di completare il test se una o più varianti non stanno funzionando bene.
Per completare il test prima della data di fine prevista, procedi nel seguente modo:
1. Seleziona il test che desideri contrassegnare come completato dalla sezione **Test delle copie shadow** della pagina **Test delle copie shadow**.
1. Dall'elenco a discesa **Azioni**, sceglie **Completo** e viene visualizzata la finestra di dialogo **Complete test delle copie shadow**.
1. Nella finestra di dialogo, procedi in uno dei seguenti modi:
+ **Sì, implementa variante shadow**
+ **No, rimuovi la variante shadow**
1. (Facoltativo) Nella casella di testo **Commento**, inserisci il motivo per cui hai completato il test prima dell'ora di fine pianificata.
1.
1. Se hai deciso di implementare la variante shadow, scegli **Completa e procedi con l’implementazione**. Viene visualizzata la pagina **Implementa variante shadow**. Per istruzioni su come eseguire questa operazione, consulta [Promozione di una variante shadow](#shadow-tests-complete-promote).
1. Se decidi di rimuovere la variante shadow, scegli **Conferma**.
## Promozione di una variante shadow
Se hai deciso di voler sostituire la variante di produzione con la variante shadow, puoi aggiornare l'endpoint e promuovere la variante shadow per rispondere alle richieste di inferenza. Ciò rimuove la variante di produzione attuale dalla produzione e la sostituisce con la variante shadow.
Se il tuo test delle copie shadow è ancora in corso, devi prima completarlo. Per completare il test delle copie shadow prima della fine prevista, segui le istruzioni riportate in [Completa un test delle copie shadow in anticipo](#shadow-tests-complete-early) prima di continuare con questa sezione.
Quando promuovi una variante shadow alla produzione, hai le seguenti opzioni per il conteggio delle istanze della variante shadow.
+ È possibile conservare il numero e il tipo di istanze della variante di produzione. Se selezioni questa opzione, la variante shadow viene avviata in produzione con il numero di istanze corrente, assicurando che il modello possa continuare a elaborare il traffico delle richieste sulla stessa scala.
+ Puoi mantenere il numero e il tipo di istanze della variante shadow. Se desideri utilizzare questa opzione, ti consigliamo di eseguire un test delle copie shadow con un campionamento del traffico al 100% per garantire che la variante shadow possa elaborare il traffico delle richieste sulla scala corrente.
+ Puoi utilizzare valori personalizzati per il numero e il tipo di istanza. Se desideri utilizzare questa opzione, ti consigliamo di eseguire un test delle copie shadow con un campionamento del traffico al 100% per garantire che la variante shadow possa elaborare il traffico delle richieste sulla scala corrente.
A meno che non stiate convalidando il tipo o il numero di istanze o entrambe le varianti shadow, consigliamo vivamente di mantenere il numero e il tipo di istanze della variante di produzione quando promuovi la variante shadow.
Per promuovere la variante shadow, procedi nel seguente modo:
1. Se il test è completato, procedi nel seguente modo:
1. Seleziona il test dalla sezione **Test delle copie shadow** della pagina **Test delle copie shadow**.
1. Dall'elenco a discesa **Azioni**, scegli **Visualizza**. Viene visualizzato il pannello di controllo.
1. Scegli **Implementa variante shadow** nella sezione **Ambiente**. Viene visualizzata la pagina **Implementa variante shadow**.
Se il test non è stato completato, consulta la sezione [Completa un test delle copie shadow in anticipo](#shadow-tests-complete-early) per completarlo.
1. Nella sezione **Impostazioni varianti**, seleziona una delle opzioni seguenti:
+ **Mantieni le impostazioni di produzione**
+ **Mantieni le impostazioni shadow**
+ **Impostazioni dell'istanza personalizzate**
Se hai selezionato **Impostazioni dell’istanza personalizzate**, procedi nel seguente modo:
1. Seleziona il tipo di istanza dall'elenco a discesa **Tipo di istanza**.
1. In **Conteggio istanze**, immetti il numero di istanze da utilizzare per ogni tipo di nodo.
1. Nella casella di testo **Inserisci 'implementa' per confermare l’implementazione**, inserisci **deploy**.
1. Scegli **Implementa variante shadow**.
L’endpoint SageMaker AI Inference ora utilizza la variante shadow come variante di produzione e la variante di produzione è stata rimossa dall’endpoint.
# Best practice
Quando crei un esperimento di inferenza, considera quanto segue:
+ **Percentuale di campionamento del traffico**: il campionamento del 100% delle richieste di inferenza consente di verificare che la variante shadow sia in grado di gestire il traffico di produzione quando viene promossa. Puoi iniziare con una percentuale di campionamento del traffico inferiore e collegarti man mano che acquisisci attendibilità nella tua variante, ma la best practice è quella di assicurarsi di aver aumentato il traffico al 100% prima della promozione.
+ **Tipo di istanza**: a meno che non si utilizzino varianti shadow per valutare tipi o dimensioni di istanza alternativi, si consiglia di utilizzare lo stesso tipo, dimensione e numero di istanze in modo da avere la certezza che la variante shadow sia in grado di gestire il volume di richieste di inferenza dopo averla promossa.
+ **Dimensionamento automatico**: per garantire che la variante shadow possa rispondere ai picchi nel numero di richieste di inferenza o ai cambiamenti nei modelli delle richieste di inferenza, consigliamo vivamente di configurare la scalabilità automatica sulle varianti shadow. Per informazioni su come configurare il dimensionamento automatico, consulta [Ridimensionamento automatico dei modelli di SageMaker intelligenza artificiale di Amazon](endpoint-auto-scaling.md). Se hai configurato il dimensionamento automatico, puoi anche convalidare le modifiche alle policy di dimensionamento automatico senza influire sugli utenti.
+ **Monitoraggio dei parametri**: dopo aver avviato un esperimento shadow e aver ricevuto un numero sufficiente di invocazioni, monitora la dashboard dei parametri per assicurarti che parametri come la latenza e il tasso di errore rientrino nei limiti accettabili. In questo modo puoi individuare tempestivamente eventuali errori di configurazione e adottare misure correttive. Per informazioni su come monitorare i parametri di un esperimento di inferenza in corso, consulta. [Come visualizzare, monitorare e modificare i test delle copie shadow](shadow-tests-view-monitor-edit.md)