Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Informazioni sull'esecuzione e il monitoraggio di un esperimento
L'esecuzione di un esperimento in produzione richiede un monitoraggio e una pianificazione operativa attenti. L'aumento graduale dell'esposizione, la convalida dell'implementazione e il monitoraggio delle prestazioni possono aiutare a ridurre i rischi e migliorare l'affidabilità dei risultati degli esperimenti.
Considerazioni operative
Inizia con un'esposizione bassa o pari allo 0% e aumenta gradualmente l'esposizione
Prima di esporre gli utenti ai trattamenti:
Convalida la resa del trattamento
Conferma la valutazione del feature flag
Verifica le metriche e la registrazione
Testare la strumentazione utilizzando eccezioni di assegnazione del trattamento
Iniziare con un'esposizione allo 0% aiuta a rilevare i problemi di implementazione prima che influiscano sugli utenti. È quindi possibile aumentare gradualmente l'esposizione e quindi limitare l'impatto delle regressioni in caso di problemi. Convalidando il comportamento degli esperimenti in condizioni di carico crescente, è possibile monitorare i risultati degli esperimenti e le metriche operative prima di esporre l'intero pubblico ai cambiamenti.
Definisci le procedure di rollback
Prima di iniziare l'esecuzione di un esperimento, determina:
Quando la corsa deve essere interrotta
Quali metriche indicano un comportamento inaccettabile
Come disattivare i trattamenti
Puoi configurare gli allarmi in CloudWatch strumenti di monitoraggio di terze parti come Datadog, New Relic o Dynatrace per monitorare metriche chiave come il tempo di caricamento della pagina, il tasso di conversione o i tassi di errore durante un esperimento. Se si attiva un allarme, valuta l'impatto e decidi se interrompere l'esperimento, eseguirlo o continuare. Per ulteriori informazioni sulla configurazione degli allarmi, consulta. Monitoraggio delle implementazioni per il rollback automatico
Coordinare le distribuzioni
Evita di introdurre modifiche importanti all'applicazione durante l'esecuzione attiva di un esperimento. Le modifiche alla logica dei flag delle funzionalità, ai sistemi di backend o ai flussi degli utenti possono invalidare i risultati degli esperimenti o complicare l'analisi. Se sono necessarie modifiche, interrompi l'esecuzione corrente e avviane una nuova dopo l'applicazione degli aggiornamenti.
Inoltre, limita gli esperimenti sovrapposti che interessano gli stessi utenti o le stesse funzionalità. La sovrapposizione di esperimenti può alterare i risultati e introdurre comportamenti contrastanti. In breve, coordina attentamente gli esperimenti quando il pubblico si sovrappone.
Considerazioni sulle prestazioni
Quando avvii un esperimento, monitora le prestazioni dell'applicazione monitorando le metriche operative durante l'esecuzione. In particolare, monitora:
Latenza
Tassi di errore
Throughput
Utilizzo delle risorse
Un trattamento può influire sul comportamento del sistema anche se le metriche sperimentali sembrano positive. L'esposizione graduale aiuta a identificare questi problemi in modo sicuro.
Convalida le prestazioni lato client
Per gli esperimenti sull'interfaccia utente, monitora:
Tempo di caricamento della pagina
Prestazioni di rendering
Client-side errori
Device-specific comportamento
Trattamenti diversi possono influire in modo diverso sulle prestazioni del frontend.
Principi operativi
Durante l'esecuzione di un esperimento, tenete a mente i seguenti principi operativi:
- Considerate gli esperimenti come cambiamenti di produzione
-
Anche piccoli esperimenti possono influire sulla stabilità delle applicazioni, sulle prestazioni, sull'esperienza utente e sulla qualità dei dati. Un attento monitoraggio e un'esposizione graduale aiutano a ridurre i rischi migliorando al contempo la fiducia nei risultati degli esperimenti.
- Mantenere la coerenza del trattamento
-
Gli utenti devono ricevere lo stesso trattamento per tutta la durata della corsa. Per ulteriori informazioni sulla progettazione del trattamento, vedereInformazioni su controlli e trattamenti.
- Convalida della strumentazione
-
Prima di aumentare l'esposizione, verificate che le metriche siano registrate correttamente e che i registri includano informazioni sul trattamento.
- Monitora le metriche specifiche dell'esperimento
-
Oltre alle metriche operative, monitora le metriche direttamente correlate all'esperimento, come:
Tasso di conversione
Coinvolgimento delle funzionalità
Click-through tasso
Frequenza di errore
Conservazione degli utenti
Scegli metriche in linea con l'obiettivo dell'esperimento.