View a markdown version of this page

Informazioni sull'esecuzione e il monitoraggio di un esperimento - AWS AppConfig

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Informazioni sull'esecuzione e il monitoraggio di un esperimento

L'esecuzione di un esperimento in produzione richiede un monitoraggio e una pianificazione operativa attenti. L'aumento graduale dell'esposizione, la convalida dell'implementazione e il monitoraggio delle prestazioni possono aiutare a ridurre i rischi e migliorare l'affidabilità dei risultati degli esperimenti.

Considerazioni operative

Inizia con un'esposizione bassa o pari allo 0% e aumenta gradualmente l'esposizione

Prima di esporre gli utenti ai trattamenti:

  • Convalida la resa del trattamento

  • Conferma la valutazione del feature flag

  • Verifica le metriche e la registrazione

  • Testare la strumentazione utilizzando eccezioni di assegnazione del trattamento

Iniziare con un'esposizione allo 0% aiuta a rilevare i problemi di implementazione prima che influiscano sugli utenti. È quindi possibile aumentare gradualmente l'esposizione e quindi limitare l'impatto delle regressioni in caso di problemi. Convalidando il comportamento degli esperimenti in condizioni di carico crescente, è possibile monitorare i risultati degli esperimenti e le metriche operative prima di esporre l'intero pubblico ai cambiamenti.

Definisci le procedure di rollback

Prima di iniziare l'esecuzione di un esperimento, determina:

  • Quando la corsa deve essere interrotta

  • Quali metriche indicano un comportamento inaccettabile

  • Come disattivare i trattamenti

Puoi configurare gli allarmi in CloudWatch strumenti di monitoraggio di terze parti come Datadog, New Relic o Dynatrace per monitorare metriche chiave come il tempo di caricamento della pagina, il tasso di conversione o i tassi di errore durante un esperimento. Se si attiva un allarme, valuta l'impatto e decidi se interrompere l'esperimento, eseguirlo o continuare. Per ulteriori informazioni sulla configurazione degli allarmi, consulta. Monitoraggio delle implementazioni per il rollback automatico

Coordinare le distribuzioni

Evita di introdurre modifiche importanti all'applicazione durante l'esecuzione attiva di un esperimento. Le modifiche alla logica dei flag delle funzionalità, ai sistemi di backend o ai flussi degli utenti possono invalidare i risultati degli esperimenti o complicare l'analisi. Se sono necessarie modifiche, interrompi l'esecuzione corrente e avviane una nuova dopo l'applicazione degli aggiornamenti.

Inoltre, limita gli esperimenti sovrapposti che interessano gli stessi utenti o le stesse funzionalità. La sovrapposizione di esperimenti può alterare i risultati e introdurre comportamenti contrastanti. In breve, coordina attentamente gli esperimenti quando il pubblico si sovrappone.

Considerazioni sulle prestazioni

Quando avvii un esperimento, monitora le prestazioni dell'applicazione monitorando le metriche operative durante l'esecuzione. In particolare, monitora:

  • Latenza

  • Tassi di errore

  • Throughput

  • Utilizzo delle risorse

Un trattamento può influire sul comportamento del sistema anche se le metriche sperimentali sembrano positive. L'esposizione graduale aiuta a identificare questi problemi in modo sicuro.

Convalida le prestazioni lato client

Per gli esperimenti sull'interfaccia utente, monitora:

  • Tempo di caricamento della pagina

  • Prestazioni di rendering

  • Client-side errori

  • Device-specific comportamento

Trattamenti diversi possono influire in modo diverso sulle prestazioni del frontend.

Principi operativi

Durante l'esecuzione di un esperimento, tenete a mente i seguenti principi operativi:

Considerate gli esperimenti come cambiamenti di produzione

Anche piccoli esperimenti possono influire sulla stabilità delle applicazioni, sulle prestazioni, sull'esperienza utente e sulla qualità dei dati. Un attento monitoraggio e un'esposizione graduale aiutano a ridurre i rischi migliorando al contempo la fiducia nei risultati degli esperimenti.

Mantenere la coerenza del trattamento

Gli utenti devono ricevere lo stesso trattamento per tutta la durata della corsa. Per ulteriori informazioni sulla progettazione del trattamento, vedereInformazioni su controlli e trattamenti.

Convalida della strumentazione

Prima di aumentare l'esposizione, verificate che le metriche siano registrate correttamente e che i registri includano informazioni sul trattamento.

Monitora le metriche specifiche dell'esperimento

Oltre alle metriche operative, monitora le metriche direttamente correlate all'esperimento, come:

  • Tasso di conversione

  • Coinvolgimento delle funzionalità

  • Click-through tasso

  • Frequenza di errore

  • Conservazione degli utenti

Scegli metriche in linea con l'obiettivo dell'esperimento.