As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
7. Implantação contínua
Para que um sistema de ML seja implantado continuamente, ele deve ser capaz de desviar o tráfego de ou entre modelos ativos. Um sistema implantado continuamente tem pelo menos uma maneira pela qual os modelos são promovidos à produção: canário, sombra,. blue/green, or A/B Confirme se, no sistema de ML, você tem pelo menos uma maneira de reverter modelos.
7.1 Alternância de modelos |
O sistema pode alternar entre modelos versionados em preparação e produção. Ele pode desviar o tráfego de uma só vez ou de forma incremental para novas variantes de produção. |
7.2 Processos de promoção de modelos |
Um preparado de validação em etapas está em vigor para a promoção de modelos. O processo usa testes offline que não afetam o sistema de produção, como a execução de dados de validação em um ambiente de preparação. Um runbook e métricas para a promoção de modelos estão definidos. A promoção segue uma das estratégias de implementação. |
7.3 Estratégias de reversão |
Existe uma estratégia de reversão para que, quando ocorrer um erro ou o modelo se desviar do comportamento esperado, ocorra uma reversão, um fallback ou uma progressão. Em uma reversão, o modelo é revertido para uma versão de implantação anterior. Em uma alternativa, o modelo é substituído por uma heurística forte. Uma progressão promoverá o próximo modelo à produção, passando pelo modelo anterior. Existem runbooks para todas essas estratégias. |
7.4 Implantação canário |
O sistema pode ser implantado usando um canário. Uma pequena parte do tráfego é enviada para o novo modelo inicialmente. Com o tempo, todo o tráfego muda para o novo modelo. Essa mudança é monitorada de perto porque os testes acontecem no ambiente de produção. |
7.5 Implantação sombra do modelo |
O sistema pode executar uma implantação sombra em que o novo modelo funciona junto com o modelo existente. Ambos os modelos recebem tráfego, mas somente o modelo anterior gera inferência. As avaliações são executadas no novo modelo em comparação com o modelo existente e, em seguida, o novo modelo é promovido manualmente. |
7.6 Implantação azul/verde |
O sistema pode ser implantado com um novo modelo (verde, que é preparação) e o modelo anterior (azul, que é produção), com ambos funcionando ao mesmo tempo. Após a conclusão do teste, o tráfego é desviado do ambiente azul para o ambiente verde. Essa estratégia evita o tempo de inatividade porque ambientes idênticos são mantidos. |
7.7 Suporte para testes A/B ou mais |
O sistema suporta o uso de versões de modelo no ambiente implantado para executar A/B testes no tráfego de entrada. Isso pode incluir a capacidade de realizar a promoção automática caso o modelo mais novo se saia vencedor nos testes. Configurações mais avançadas usarão um processo multi-armed bandit |
